Тред: Как вы готовите ИИшенку — Generative AI в вашей работе

 Публичный пост
8 августа 2024  1002

Давайте делиться кейсами по использованию Generative AI в профессиональной жизни! Несите ваши истории в спектре от "AI украл мою работу" до "мы с AI настоящие друганы".

Чем я сейчас профессионально занимаюсь:

Нынче я работаю техническим писателем в корпорации, занимающейся решениями в области Cyber Security. Пишу на английском документацию по продуктам и статьи в базу знаний, а также редактирую сообщения об ошибках и тексты для интерфейсов.

Годы профессионального опыта в этой области:

3 года чистого технического писательства, и 13 лет писательства в других ролях (бизнес-аналитика и педагогического дизайнера).

Нынешняя политика моей компании в области Generative AI инструментов:

В работе с текстами, НЕ содержащими разного рода "коммерческую тайну" (т.е. описание совсем новеньких и еще не виданных широкой публикой фич) - разрешено всё, что есть на рынке.

Generative AI инструменты, которыми я регулярно пользуюсь:

Использую платную версию Claude и бесплатный ChatGPT.

Задачи, которые за меня полностью делает Generative AI (а я супервизирую):

Claude:

  1. Из транскрипта встречи со стейкхолдером сделать текст с нужными параметрами: саммари всей беседы, описание продукта/фичи для конкретной аудитории, конкретного способа применения, или в конкретном стиле.

  2. Перевести с девелоперского языка на общечеловеческий (и представить в нужном стиле) саппорт-кейс, который потом пойдёт в базу знаний, или сообщение об ошибке.

  3. Переписать текст в конкретном стиле (мы используем Simplified Technichal English, который по сути является отдельным языком внутри английского со своими особенными правилами).

  4. Из скриншотов сделать текстовое описание процедуры.

ChatGPT:

  1. Пруфридинг на предмет грамматики, пунктуации и понятности изложения.

Задачи, в которых мы с Generative AI успешно сотрудничаем:

  1. Ликбез в технических вопросах (быстрота и простота оного регулярно вызывает у меня приступы умиления). Т.е. все вопросы вида:
  • "Хм, а так вообще говорят?"
  • "Да что это вообще за хрень такая?"
  • "Да блин как это вообще работает?"
  • "О чём вообще тут написано?"
  • "А точно вот это, а не вот то, и вот так, а не вот эдак? А почему?"

На что я теперь трачу освободившееся время:

  • Пока, в основном, на техдолг (которого в документации тоже бывает дофига и больше).

  • На формулирование более качественных вопросов к разработчикам или тестировщикам (что сильно экономит их нервы и время) и более качественных целей для созвонов/митингов (что, опять же, экономит нервы всех участников, а также повышает настроение и улучшает карму) .

  • На подбор более чётких формулировок в документах - чтобы оставить там только смысл и пользу, и ничего лишнего.

Задачи, в которых успешного сотрудничества (пока) не вышло:

  1. Всё, что содержит "коммерческую тайну" - ждём появления в корпорации нашей внутренней и полностью нам подконтрольной модели.

  2. Всё, что требует учёта специфического внутреннего контекста, смыслов и значений - но есть надежда, что внутренняя модель начнёт адекватно работать и с нашим внутренним контекстом.

  3. Форматирование текстов (стили, переменные и т.п.) с учётом особенностей всех тех систем, в которых тексты потом размещаются.

  4. Весь спектр задач по управлению знаниями: собрать информацию от живых людей-экспертов, провалидировать её, представить в виде цельного документа/статьи/кейса, отследить изменения, обновить при необходимости.

13 комментариев 👇

Чем занимаюсь: руковожу фирмой по оптовой продаже промышленного оборудования.
Профессиональный опыт: 10+ лет.
Нынешняя политика компании в области AI: внедряем всё, что нам показалось разумным.
Generative AI инструменты, которыми я регулярно пользуюсь: Gemini Flash, Gpt 4
Задачи, которые за меня теперь полностью делает Generative AI: таких нет. Мы все равно за ним проверяем.

Задачи, в которых мы с Generative AI успешно сотрудничаем:

Сделали небольшой чат, где продажники могут задавать вопросы к товарной линейке (80+ тыс. товаров), попросить аналог подобрать или найти по каким-то условиям/назначению. С людьми напряжёнка, так что готовимся к тому, что будет текучка, или что качество сотрудников, которых мы можем себе позволить, может просесть. Такой костыль в виде ИИ-подсказчика будет полезен.

Сделали занесение первичной документации в 1С (мало фирм, которые подключили ЭДО, так что бумажный документооборот всё равно большой). Google Gemini вычитывает документы, формирует из них JSON с данными и отправляет в 1С.

Осуществляем триаж входящих документов, которые присылают нам поставщики (нам надо отлавливать определённый тип документа и сравнивать в нём некоторые данные с теми, что у нас).

Сейчас дописываем историю, которая будет вычитывать всю входящую почту и автоматически создавать сделки в CRM + счета в 1С по возможности (у нас малый B2B, так что большинство заказов — это просто письмо на ящик info@ с приложенными реквизитами и какой-нибудь экселькой с интересующими товарами. Или просто с фотографией экрана монитора, где эта экселька открыта :) Так что нам надо понять, кто нам написал, что он от нас хочет, соотнести запрос с нашим каталогом товаров (самое сложное) и т.п.).

Задумываемся о том, чтобы заменить спам-фильтры на нейросеть. Можно просто сказать ей «мы занимаемся тем-то и тем-то, пропускай только запросы клиентов, а всё, что предлагают нам, — блокируй». Работает на удивление приятно, как показали тесты.

На следующей неделе будем запускать автоматический контроль менеджеров: как разговаривали, боролись ли за сделку, предлагали ли альтернативы отсутствующим товарам и всякое такое. Правил контроля очень много, читать расшифровки всех переписок и транскрибации звонков муторно. А тут автоматическими проверками ты покрываешь не только выборку из N% сделок, а вообще всю коммуникацию с клиентами по любым каналам.

Кстати, про контроль. Нейросеть пишет краткое саммари по звонку, чтобы когда проверяющий (или сам менеджер) просматривает сделку, ему не надо было вычитывать полные диалоги телефонного разговора. Он получает сразу выжимку: о чём шла речь, что в результате порешали.

Также (ещё не сделали, но планируем) делать капельный email-маркетинг, где каждое письмо будет отталкиваться от истории взаимоотношений с клиентом (не с сегментом клиентов, а индивидуально с каждым). Провели тесты, пока немного крипово, но потенциал есть.

Есть электронный юрист, который вычитывает договоры, которые присылают на согласование. Решений никаких не принимает, его задача — вытащить в саммари все права/обязанности и связанные с ними штрафы и санкции. Такая небольшая помощь тому, кто работает с договором. Пока ещё тестируем.

Есть канал в Slack, куда сотрудники пишут о каких-то технических проблемах, если они возникают. ИИ мониторит этот канал и тегает в треде того, кто проблему должен решать/исправлять.

Также в планах сделать небольшой парсер конкурентов. Когда приходит входящий звонок, мы примерно понимаем, из какого города звонит клиент. Так что в процессе разговора можем запустить в региональный поиск Яндекса этот товар, получить первые 10 ссылок и с помощью LLM вытащить их цены. Чтобы менеджер ориентировался в том, какую цену мог увидеть клиент перед тем (или после того), как нам позвонит. Не знаем, будет это полезно или нет, но идея такая бродит. Тесты показали, что с технической стороны всё работает хорошо, но пока не уверены в том, что для этого есть бизнес-польза :)

На что я теперь трачу освободившееся время: нейросети не сильно разгрузили конкретно мою работу. Просто некоторые вещи они могут сделать хорошо.

Задачи, в которых успешного сотрудничества (пока) не вышло:
Все что касается больших таблиц. Прайс-листы и всякое такое.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

8 лет занимаюсь стратегией облаков и ИИ в энтерпрайзе

В компании есть доступ к моделям от OpenAI, Anthropic, Google + OS модели и собственные поделки во внутреннем контуре

Мои day-to-day рабы: ChatGPT ($), Midjorney ($), Claude (free)

→ Картинки для презентаций теперь не ищу, а генерю (тут мы стали трендсеттерами, теперь все остальные делают так же) — материалы получаются более яркие и запоминающиеся
→ Старт поиска каких-то общих трендов и тенденций в незнакомой области — начинаю с LLM, дальше гуглю
→ В последнее время любое гугление начинаю с LLM
→ Объяснение незнакомых терминов и определений
→ Расширение EN словарного запаса — сделал GPT, куда отправляю новые слова, а он мне по запросу выдает предложения с ними. В контексте запоминание лучше
→ Написание кода для pet-проектов: я не разраб и мой скилл ограничен 3-5 библиотеками на питоне, поэтому тут буст от LLM грандиозный
→ Перевод, в том числе рукописных текстов и транслитерации грузинского латиницей — обычно прямо по фото
→ Саммаризация, работа с текстом в файлах

Времени больше не стало, но выросло качество

  Развернуть 1 комментарий
Айнур Саяпов Фантазер своих идей 8 августа в 14:58

Frontend разработка

5+ лет

Не проводили в компании ликбез по политике ai, поэтому держусь контракта, в котором обязуюсь не передавать третьим лицам код компании

Но пользуюсь конечно. Написать скрипт для бэка, для обхода всего кода и его изменения, создать мок данные нарисовать свг необычную картинку и дать мне ее код

Нет такого чтобы ai полностью что то делал за меня

А оставшееся время трачу на мысли, как бы я мог дополнительно учиться, а по факту отдыхаю больше 🙂

  Развернуть 1 комментарий

Вау, ну хоть кто-то использует LLM для того, для чего их создавали и это работает!

По теме: SWE, пишу код. Воюю с тулами, в которых у нас пишут код ЧТОБЫ ОНИ ПЕРЕСТАЛИ, БЛЯДЬ, ПРИДУМЫВАТЬ КОД КОТОРЫЙ НЕ РАБОТАЕТ, а тупо по стариковски хотя бы автокомплит из существующих методов в классе дописывали. Молюсь на Idea, которая такой херней не занимается.

Из позитивного: отлично справляется с саммари (очень ценно в длинных емейл-тредах и чатиках) проверкой грамматики, и спасибо что выдает ссылки на страницы, из которых оно выгалюцинируевает ответы.

  Развернуть 1 комментарий
Владислав Умнов Основатель стартапов 9 августа в 10:43

Чем я сейчас профессионально занимаюсь:
Развиваю сервис нейро продавцов, которые встраиваются в отделы продаж наших клиентов, работают со входящим трафиком, квалят лидов, работают с CRM системой и продают.

Годы профессионального опыта в этой области:
18 лет в ИТ и 2.5 в ИИ.

Нынешняя политика моей компании в области Generative AI инструментов:
Компания моя, поэтому как можно больше ИИ богу ИИ.

Generative AI инструменты, которыми я регулярно пользуюсь:
OpenAI все что есть, MJ, 11labs, heygen

Задачи, которые за меня теперь полностью делает Generative AI:
GH Copilot пишет очень много кода вместо меня. MJ и Дали рисует, ChatGPT мой личный советник и помогает мне во всех аспектах жизни. Я натурально за день раз 10 к нему обращаюсь по разным вопросам. Notion AI помогает в написании книги, где в середину главы надо добавить описаний или раскрыть какой то момент.

На что я теперь трачу освободившееся время:
На то, чтобы делать больше задач ))

Задачи, в которых успешного сотрудничества (пока) не вышло:
Голосовые звонки через телефонию. Нужно глубже погрузиться в процесс и генерация голоса пока немного косячная. Но я подожду пару месяцев и может попустит.

  Развернуть 1 комментарий

Чем я сейчас профессионально занимаюсь:
Единственный тестировщик в стартапчике

Годы профессионального опыта в этой области:
11 лет

Нынешняя политика моей компании в области Generative AI инструментов:
AI first, то есть все что можно взять из мира AI надо брать)

Generative AI инструменты, которыми я регулярно пользуюсь:
Claude 3.5, GPT 4o

Задачи, которые за меня теперь полностью делает Generative AI:
создание тест-кейсов по созданным багам, отображение статистики в графане, release notes, создание баг репортов, написание автотестов

Задачи, в которых мы с Generative AI успешно сотрудничаем:

  • я в Черногории и иногда слышу странные фразы и спрашиваю, что значит и повторяю то, как я это услышал
  • прошу составить несколько фраз для покупки чего-то в аптеке
  • спрашиваю чем кончилась манга, если мне лень читать и искать)
  • прошу создать промпты для других нейронок (например suno или midjourney)

На что я теперь трачу освободившееся время:
пробую создавать веб приложения и телеграмм боты

Задачи, в которых успешного сотрудничества (пока) не вышло:
создание плана по улучшению жизни и развитию софт скиллов

  Развернуть 1 комментарий
Иван Бурнатов градостроительное проектирование 9 августа в 06:27

Разрабатываем градостроительную документацию (карты), ~20лет

ИИ крут, пытаюсь внедрить, но времени этим заниматься нормально нет.

Пользуюсь ChatGPT-4, Claude (для работы с pdf)

Пока chatGPT очень-очень помогает в написании коротких скриптов на питоне (разбор XML, JSON, конвертации в векторные форматы, работа с ними). В некоторых задачах трудоемкость снизилась раз в 5. Но это для простых задач, которые можно изолировать.

Часто нужно из плохо структурированных данных достать список номеров или названия объектов. Он хорошо с этим справляется (обычно до нескольких сотен объектов работает отлично)

Claude используем чтоб из большого классификатора в pdf достать наиболее подходящий объект с уже заполненными полями. Ну например из строки "средняя школа 500 мест" он достанет код объекта, заполнит поля: кол-во мест, тип школы - средняя (2). Работает не идеально, но помогает хорошо

Еще я пытался из текста пояснительной записки выделять перечень инженерных объектов которые в нем упомянуты, но что-то пока не получается, на таблицах все ломается и параметры он из текста достать не может, все время что-то не то придумывает. Вообще с таблицами как-то туго работает, я уж в разных форматах пробовал, но как-то не очень получается

  Развернуть 1 комментарий

@orbit, насколько я понимаю, то последний абзац это прям отдельная задача за которую берут многа денег.

  Развернуть 1 комментарий

@orbit, я кстати тоже боролся с таблицами. Помог langchain и более топовая моделька. На первом этапе выцепляем наиболее ревалентную таблицу, а потом модель оттуда данные выцепляет.

  Развернуть 1 комментарий

@ialgos, вот я на днях потратил весь день на попытку сделать довольно просто выглядящую задачу - из кучки таблиц в вордовских файлах извлечь списки объектов. Вроде потестил - все получается совсем легко, одним запросом. Использовал ChatGPT-4o и claude 3 (топовые).

Но как только стал тестировать на реальных данных, сразу вылезли проблемы:

  1. ChatGPT не очень хорошо работает с таблицами (docx и pdf), я загружаю файл в хранилище, обращаюсь к нему, если в таблице только нужные данные, то все работает. Если есть еще много лишнего текста (типа комментарии, описания), то все ломается, GPT начинает вытягивать данные из не нужных колонок, и заставить его читать только нужные не получилось.
  2. Claude как будто лучше работает с таблицами (у него нет проблем с п.1), но он как-то очень коряво обрабатывает случаи, когда в ячейке пусто. Он должен сказать, что там пусто, а он вместо этого начинает фантазировать и подсовывать данные из предыдущих таблиц. Решением конечно будет подавать ему по одной таблице, но даже так, в некоторых случаях он не может определить, что ячейка пустая (причем на одном и том же файла выдает случайный результат да/нет). А еще некорректно обрабатывает случаи, когда строки разделены не строками таблицы, а разрывом строки.

Я прямо сильно разочарован результатом. Ни о каком простом решении речи не идет, нужно как-то парсить таблицы, подавать их отдельно в LLM...не факт, что будет сильно проще, чем сделать парсинг на питоне, там хотя бы будет понятно, из-за чего сломалось и как пофиксить, если поступили новые данные :(

  Развернуть 1 комментарий

@orbit, а как ты вытаскиваешь таблицы из пдф/док? Может быть во время экспорта таблицы слетает разметка и LLM по этому не может норм сделать работу?

  Развернуть 1 комментарий

@atsyplenkov, я делал неправильно, я просто кидал docx в хранилище и пытался из него достать нужные данные.

Я думал щас суну свои данные в LLM, он мне выдаст удобоваримый ответ и все будет классно.

А получается, что нужно все перегонять в тхт (к счастью для docx это просто, есть библиотеки на питоне), плясать с бубном вокруг каждой LLM, вымучивать промты, цепочками их составлять, результат проверять...Ну очень сложно получается, и программить и отлаживать

Но вроде цели я почти достиг (правда времени потратил х10 от ожидаемоно), но ещё надо будет тестить на реальных данных, 100% точности точно не получится :)

  Развернуть 1 комментарий

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб