Больше половины моих знакомых не пользуется ChatGPT. Быстро погуглив всякие опросы в интернете — статистика показывает примерно ту же картину. Как так то?
Типичный сценарий: человек пару раз попробовал нейронки на своих задачах, и получилось плохо. Делает вывод, что — это тупая хрень, перехайпленная, и пользы от них ноль.
Ben Evans круто объяснил, в чем проблема такой логики.
Когда что-то спрашиваешь у ИИ, он выдает, как выглядел бы хороший ответ на похожий вопрос. Иногда «похоже на хороший ответ» — это то, что нужно. А иногда «примерно правильно» — это «точно неправильно».
Если нейронка не справляется, это больше говорит о тебе, чем о ней. Ты дал джуну задачу, с которой он не справился. Кто виноват?
Виноват ты, потому что использовал инструмент для неподходящей задачи или плохо составил промпт. Нейронки сейчас как джуны в команде — от них нужно по-умолчанию ожидать кучу ошибок. Надо направлять и помогать учиться. Большая часть ответственности лежит на тебе.
Однако Ben накидывает еще: "не получится продвигать продукт, в котором простые юзеры вынуждены учить код для командной строки". Нужно двигаться навстречу пользователю. Нейронка должна уметь как сеньор специалист помочь понять и лучше сформулировать задачу. А возиться с джунами — отстой.
У Бюро Горбунова есть офигенный принцип: Исполнитель Понимает Задачу. Принцип перекладывает ответственность за результат на того, кто больше шарит в задаче — на исполнителя (в нашем случае на нейросеть). Теперь это его ответственность задавать вопросы и хорошо понимать, что на самом деле ты от него хочешь.
Юзер не обязан разбираться во всех тонкостях задачи и ему сложно качественно обьяснить суть. Иногда даже до такой степени, что проще сделать задачу самому, чем обьяснить другому. А исполнитель не телепат и может понять, какие именно тонкости важны, только поговорив с юзером.
Основное конкурентное преимущество провайдеров нейронок будет не в том, насколько круче сама модель, а в том, какая продуктовая инфраструктура выстроена вокруг неё. Нейронки уже сейчас плюс-минус одинаковые. А вот если кто то упростит процесс создания хорошего промпта, это будет сильный шаг вперед.
С новым голосовым интерфейсом, минимальной задержкой и возможностью перебивать друг друга это вполне возможно сделать.
У меня нет для них задач
Так я и не хочу давать джунам задачи. Я специально для этого работаю как individual contributor, а не как менеджер.
Потому что практически каждый раз, когда я вижу результат работы AI, мне плакать хочется. Нет большей антирекламы, чем та, которую GPT делают сами себе.
Нет, просто нейронки полное говно в данный момент.
На данный момент более-менее общепринятое мнение, что конкретно в кодинге нейронки типа копилота годны только для бойлерплейта - т.е. написать то, что и я так смог написать бы, просто одной кнопкой вместо нескольких. На любые более-менее сложные задачи он начинает генерить настолько лютую чушь, что проще его вообще не слушать. А бойлерплейт умеет генерить как любая вменяемая IDE, так и ctrl+c - ctrl+v, да и со скоростью печати особо проблем нет.
Почти все мои задачи требуют технически верного решения. Я не могу верить GPT и не проверять результат досконально. А пока проверяешь мог бы и сам уже сделать.
Ни разу еще я не смог найти им применения, которое бы сэкономило мне силы и/или время.
Щас попридираюсь немножко к словам, а потом напишу развёрнуто:
А потому что надо было пробовать на чужих задачах, в которых самостоятельно-то разобраться сложно, а уж оценить чужой результат и подавно.
Некоторые люди относятся к языковым моделям как к собеседникам, которые сидят где-то по другую сторону монитора и действуют как люди со всеми ответственностями и ответными взаимодействиями.
Но GPT и подобные модели не действуют как нормальные и адекватные люди. Они просто генерируют правдоподобный текст.
Например, если попросить ChatGPT 4o помочь с проблемой вида «не включается компьютер», он сразу начнёт накидывать идеи, что надо проверить: кабель питание, исправность кнопки, блок питания... В то же время, человек задаст несколько уточняющих вопросов, поскольку формулировка «не включается» у разных людей может означать от «нет реакции от системного блока» до «системник гудит, но нет картинки на мониторе», «ОС крашится с ошибкой», «форма входа принимает пин-код в качестве пароля» и даже «не запускается браузер».
Причём, мне GPT ещё посоветовал потыкать мультиметром в блок питания. Ему ведь ничего не будет, если я полезу разбирать БП под напряжением и нагрузкой и задену рукой ввод 220В. А если мне такое посоветует друг, есть риск, что другом после этого он перестанет быть.
Если модель, обученная на куче советов с форумов, даже тут не может адекватно ответить, как я могу от неё ожидать решения более сложных вопросов, специфичных для узкой сферы деятельности? Мне всё равно придётся перепроверять за ней и править её косяки, и это зачастую может занять куда больше времени, чем написание такого кода самостоятельно. Ценой ошибки при написании какого-то большого куска кода может быть пара часов моего времени.
В общем, GPT — это прикольный советчик, а если смотреть в терминологии «дал джуну задачу» скорее чувак из соседнего отдела (шарящий во всём по чуть-чуть), который может накидать разных неожиданных идей, одну из которых я выберу под свою ответственность. И в таком образе у него действительно не так уж и много кейсов для использования.
Есть хорошая демонстрация почему. Это не джун, это очень специальный молоток для специальных гвоздей, но почему-то продвигается как «супер-решение-для-всего-вообще-на-свете».
А зачем?
Получить информацию - быстрее на автомате нагуглить и на автомате же выделить нужное в фокус. Плюс поисковой запрос работает для меня консистентно и ожидаемо. Ответ gpt же придется ментально чистить от воды, формат диалога для этой задачи усложняет, а не упрощает восприятие.
Объяснить непонятное - в целом то же самое, в добавок пока что с этим другой человек в живую или на записи справляется лучше.
Нагенерить формальной воды вокруг сути, например для email'ового бюрократического этикета - в результате очевидно, что сеть писала, что даже хуже чем без него вообще.
Код писать - архитектурные задачи не решает, а нагенерить класс с конструктором - даже не знаю, куда буду сэкономленные 10 секунд тратить. (К слову copilot пробовал, но в посте речь о gpt и промптах)
Не все люди даже поисковиком пользоваться* приучились, а тут новая штука, к которой надо:
Итого – лень.
Хотя в моём окружении друзей и коллег нет ни одного человека, который бы вообще нейросетями не пользовался. И я не только про ChatGPT, но и text to image, генерацию музыки.
Вообще не представляю, как теперь письма без чатаджпт писать, особенно в стиле «пошли их нахер профессионально», «напиши в стиле скандальной тётки». И картинки. Зачем искать референс, если можно сгенерировать.
*Ввести что-то в поисковую строку ещё не значит уметь пользоваться
Слишком много ошибок, на него нельзя положиться практически ни в чем серьезном.
В большинстве задач у меня должно быть знание в голове итогового результата, хотя бы приблизительное, потому что он мне наврет с три короба в любом случае, и мне нужно отделить, где он пишет правду от того, где он врет, уточнить и перепроверить.
Скорее все пользуются результатом работы машинного обучения особо не задумываясь:
Список можно долго продолжать. Думаю, что как раз самый кайф, когда продукт изменяется, а мы как пользователи не обязаны знать, что там работает под капотом.
Почему большинство людей не использует Excel (GoogleSheet) ?
А я вижу что пользуются, причём очень интересно. Джун копирует два класса и отправляет chatgpt так он исправляет багу в задаче которая была на нем. У него даже не возникло мысли что он нарушает контракт, в котором обычно указано что нельзя расшаривать код. И это в одном из банков.
Я сейчас много говорю и работаю с людьми, которые пробуют внедрить GPT на бытовом и рабочем уровне. Основные возражения, с которыми работаю:
😱 Комментарий удален его автором...
- Почему большинство людей не пользуется нейросетями?
- Потому что они тупые.
Верно как для людей, так и для нейросетей, но пока что чаще для последних.
тяжелый_вздох.wav
Может, я просто работаю над задачами, с которыми нейронка не справляется в принципе? Или, может, я могу просто-напросто сделать быстрее нейронки?
В моем случае пользование ChatGPT меня замедляет - мне не нужны summary, мне не нужно писать однообразный код день за днем, в документации разного сорта я прекрасно научился ориентироваться, гуглю без проблем...для чего мне тогда нужен ChatGPT?
Просто чтобы сказать, что я модный и иду в ногу со временем?
Еще очень много вижу комментариев и мнений в духе "ну, просто надо найти, как именно тебе поможет, покрутить, как ее можно прикрутить к твоему текущему процессу". Всегда забавно читать, вспоминая, как в сфере Андроид и фронтенд-разработки регулярно происходит процесс поиска проблемы, под которую подошло бы новое, прекрасное и сияющее решение.
Народ пользуется , но приводит это к не тем результатам которые ожидаются что меня немного смешит, например в соседнем треде люди обсуждают как джуны и не джуны генерят с помощью чат жпт резюме , а потом удивляются почему hr их массово отклоняют не читая :)
Когда у меня возникает какая то не тривиальная проблема с кодом я иду на stackoverflow , читаю самый заплюсованный коммент по проблеме а дальше отматываю в низ по треду и еще менее заплюсованные, почти всегда я нахожу более красивое и более свежее решение с небольшим кол-во плюсов.
Тем не менее я начал использовать gpt для быстрого перевода технической литературы и вот тут он мне зашел.
😱 Комментарий удален его автором...
Интересно. Будучи сотрудником компании, которая использует, хостит и понемногу учится разрабатывать генеративные технологии, я, естественно, пользуюсь LLMками, но, скажем, ChatGPT мне не заменил поиск, и я вообще достаточно консервативно не хочу терять навык беглого гуглежа. Модельки могут делать крутые задачи, на которые неспособен поиск – суммаризация, перевод, помощь в поиске ключевых слов по описанию, но именно поиск я очень хочу оставить системам, основанным на индексе ссылок.
Мысль в конце поста суперская, но до неё, вероятно, мало кто дочитывает.
Эта мысль очень правильная. chatGPT лично мне больше помогает обдумывать всякое, чем писать код. Мои сообщения к ней длиннее её сообщений ко мне.
Например, я прошу: "задай мне вопросы так, чтобы, отвечая, я составила себе реалистичный план деятельности на месяц, который поможет мне в этот месяц решить актуальные проблемы".
Работает блестяще, а вот допереть до такого оборота ещё надо.
Я в своих целях использую CoPilot в VS Studio code как умный autocomplete и иногда chatGPT/Gemini чтобы что-то спросить или попросить написать скрипт какой-то. Обычно скрипт подходит как первая нерабочая итереция, которую потом надо доработать напильником.
Ещё крайне полезная фича при написании научных статей - написать в краткой форме свои мысли, и попросить chatGPT переписать в читабельном варианте, а потом поправить те места где он наложал.
Но есть нюанс, научные журналы уже обожглись на том что люди теперь пишут достоверно-выглядящую туфту, сгенерированную chatGPT и начали писать гайды о том как это использовать. Основной месседж - три раза проверь чего там тебе ChatGPT написал, потому что по шапке (paper retraction) прилетит тебе, а не ему.
У нас на работе (в университете) корпоративная подписка на MS CoPilot. Недавно универистеские шишки организовали целую учебную лекцию на тему что это такое и как это использовать. У универсистеских слушателей сразу возник вопрос, на который организаторы не смогли внятно ответить - кому принадлежит копирайт у сгенерённого текста/изображений и не придётся ли это потом все нафиг похерить, когда выяснится что chatGPT незаконно натренеровали на контенте без согласия оригинальных авторов и вообще получится плагиат.
Ещё один узе-кейс, один знакомый сказал что использует ChatGPT чтобы писать свои статьи , а потом их руками переписывает, пока https://gptzero.me/ не показывает что текст написан хумансом, а не машиной.