Нас заменят LLM? Нужен план сопротивления!

 Публичный пост
29 июня 2026  2931
ОХУЕННО

В 1998 году я поступал на факультет программирования, и нас (почему-то) пытались от этого отговорить: «Программированию скоро не будут учить самому по себе, оно просто будет не нужно без специальных знаний. Нормальный инженер и без вас будет программировать в нужных ему пределах! Идите на автоматизацию производства, а еще лучше – на самолетостроение».

Тогда это звучало как дикость. Программирование казалось вполне себе скиллом, которому можно и нужно учиться самому по себе. Но оказалось, что инженеры действительно спокойно пишут программы на встроенном в Автокад Лиспе, физики и математики – в Матлабе, веб-аналитики изучили SQL, а менеджеры по продажам – Visual Basic или на чем там пишут скрипты в Экселе. С современными LLM мы видим, что любой может навайбкодить себе какой-нибудь лендинг или приложение, которые, конечно же, будут работать через жопу, но интернет всегда так работал, а кто мы такие, чтобы нарушать традиции?

Давайте вместе подумаем о том, как нам выжить в этой смертной любви Клода и Директора, который спит и видит, чтобы всех сократить!

Почти интеллект почти решает серьезные задачи

Что вообще такое современные LLM? Не в техническом, а в концептуальном смысле. Конечно это никакой интеллект, а пусть и мощная, но система решения формализуемых задач. И траектория их развития до боли напоминает развитие какого-нибудь кодера. Сначала они писали «Hello, World!», потом начали решать все более и более сложные задачи, а сейчас уже могут неплохо проходить собеседования в бигтехи (правда, в первую очередь, потому что там задают идиотские вопросы, ну да оставим это на следующий раз).

Но концептуальная природа задач остается прежней, она вообще никак не усложняется. Качество работы LLM над кодом напрямую зависит от наличия спецификации, документации, формализуемости задачи, четкости критериев приемки, подробности аналитики и так далее.

В принципе подобное движение в крупных компаниях было и по отношению к белковым разработчикам: дробление компетенций позволяет лучше управлять командой, делать задачи более атомарными, а исполнителей – заменяемыми. Поэтому часто можно было встретить системных аналитиков, которые разбирают задачу до детального описания функции и конкретных вызовов API, а разработчику остается только перевести с английского на Java.

Вообще бизнес-аналитики – опасные люди. Они давно задумали убрать программистов с поля зрения, и мы можем это доказать! В конце 50х появился COBOL (Common Business Oriented Language), его создатели обещали невероятную простоту: вы пишете программу на простом английском языке, а она чудным образом работает. В принципе по сравнению с тем, что считалось программированием в те годы (ассемблер, машинные коды, это вот всё), Кобол действительно выглядит как чистый английский! Но разработчики никуда не делись, они просто стали кобол-разработчиками, а потом – просто разработчиками (согласитесь, напоминает путь вайб-кодеров). После этого было еще несколько попыток создания AI-систем, которые бы принимали на вход человеческие команды и выдавали программу. Не буду вдаваться, но каждый раз на реальных бизнес-задачах получалась полная херня (история неплохо изложена здесь).

А сейчас системным аналитикам действительно больше не нужны кодеры. LLM идеально справляются с формализуемыми задачами, когда есть быстрая обратная связь и единая функция оценки.

Последние модели могут даже написать документацию за аналитика, но эта часть решается уже заметно хуже, особенно если нет очень подробного ТЗ с четкими критериями оценки результата, ну то есть некоторой бизнес-аналитики.

Кому замена не грозит?

Если сегодня попросить LLM перевести на эсперанто справочник по Python, то он справится с этим быстрее и лучше человека. Ему сложнее ошибиться, он всегда может заглянуть в исходный код и уточнить текст, убедиться в том, что примеры кода из книги действительно работают и так далее. Я думаю, что он даже напишет учебник с нуля лучше многих авторов.

Но если вы попросите его перевести «Гамлета» на русский, то он не справится лучше Пастернака, точнее он может сделать это в его стиле, но уже после того, как Пастернак родился и написал свой перевод.

Так что с развитием технологий генеративные модели точно смогут «снять» второй Pulp Fiction, но они никогда не смогут снять первый!

Разница между «сверхразумом» искусственного интеллекта и Тарантино не в том, что ИИ знает меньше про кинематограф или не способен выделять паттерны успешного визуального произведения. Нет, он наверняка и знает больше, и анализирует лучше. Но режиссер способен эти паттерны сознательно игнорировать, проявляя собственный голос. Каждый раз, выпуская фильм, он рискует репутацией ради своего видения. И именно это так ценит зритель, а вовсе не способность складывать кадры друг за другом. Вы спросите почему же тогда так много сгенерированного текста с трудом отличимого от человеческого? Тут все просто: многие люди писали полную херню и до появления LLM.

Еще одно преимущество белкового тела над кремниевым – бесплатная и постоянная интеграция в реальность. Может ли робот завтра заменить повара? В теории да: рецепты формализованы до технических карт и в идеальном мире у нас уже бы стояли на кухнях пищевые комбайны. Но что делать с неидеальным миром? Содержание сахара в двух морковках будет отличаться, два одинаковых блюда при формальном подходе из них не получится. Технически можно проводить химанализ каждого корнеплода перед тем, как сварить борщ, как будто повар решил во что бы то ни стало не пробовать суп перед подачей, но зачем? В реальности цифровизация даже формализуемой части нашей жизни, может оказаться дороже результата.

Давайте резюмируем: мы не будем бороться с акулой в воде, а с нейросетями там, где критерий успеха – точность и формализуемость. Теперь это чужая территория, а наша находится там, где ценится собственный голос и интеграция в реальность.

Но менеджеры-то тоже вымрут?



Менеджмент, как и остальные профессии, будет расслаиваться. Агенты уже сейчас отлично выполняют функции линейного руководителя: распределение задач, формальный контроль сроков, эскалация и так далее. То, в чем раньше помогали обычные детерминированные системы, сейчас будет усиливаться нейросетями, и постепенно полностью уйдет от человека. Поэтому если вас достал тимлид тем, что ничего не делает, только спрашивает: «Ну когда там?», то можете открывать шампанское, скоро эти вопросы вам будет задавать автопилот.

Но у менеджера есть важное свойство – он обладает легитимностью, потому что является участником системы управления. За принятые решения он отвечает репутацией и своим будущим. Если на очень автоматизированном молочном заводе в продукцию попадет инородный компонент (а такое, к сожалению, бывает) отвечать будет не робот и даже не наладчик конвейера, а управляющий. Ответственность не может быть делегирована за пределы человеческой системы власти. За решениями агентов ничего не стоит, они не несут никакого риска, поэтому какой бы идеальной ни была рекомендация, она навсегда останется рекомендацией. И чем больше в нашем мире будет сгенерированных рекомендаций, тем ценнее и важнее роль принимающего решения менеджера. Очень Senior Developer может проводить весь рабочий день соглашаясь с Клодом, у которого он попросил: «Create a product, make no mistakes», но в случае проблем уволят его, а Клод никуда не денется.

Младший и средний менеджмент в больших организациях во многом работает, как коммуникационный слой. Топ-менеджмент физически не может обладать информацией и принимать участие во всех процессах, пропускная способность любого человека ограничена. Информация должна агрегироваться на разных слоях, фильтроваться, часть решений должны приниматься на месте по формальным факторам. Но если эту часть берут на себя агенты, то организация будет «уплощаться», и вместо шести слоев управления может остаться три, потому что часть коммуникационных издержек исчезнет в принципе.

И сейчас, пристегните ремни, будет градостроительная метафора. При желании шестиэтажный дом тоже можно сплюснуть так, чтобы он стал высотой с трехэтажный, но жить в нем будет хуёво абсолютно всем, включая верхние этажи!

Социальный лифт дальше не идет, просьба освободить кабину

Благодаря тому, что начальные позиции лучше всего формализуются и заменяются, профессии расщепляются. Исследователи из Стэнфорда и ADP Research в августе 2025 года проанализировали payroll данные, чтобы понять как развитие ИИ реально влияет на занятость специалистов в наиболее затронутых отраслях.

Занятость младших разработчиков упала на 20% относительно пика 2022 года, младших сотрудников поддержки – на 11%. В тот же период занятость разработчиков возрастом 26-30 осталась прежней, а всех групп от 30 лет – повысилась.


Можно конечно подумать, что люди просто расхотели вкатываться в айтишечку, но звучит менее вероятно, чем сжатие найма за счет младшего персонала. Это подтверждается и данными постинга junior-вакансий, здесь нет точных данных и падение оценивают от 35% (Revelio Labs) до 67% (Stanford/ADP, IEEE Spectrum).

Идея может показаться свежей, зачем нам джуны, если LLM уже решают их задачи? Зачем нам первая линия поддержки, если мы можем заменить ее агентом? Зачем нам живые продавцы, если они все равно, как роботы, работают по скрипту?


Передавая AI простые формализуемые задачи мы своими руками ломаем нижнюю (а скоро и среднюю) ступень карьерной лестницы. Если бойлерплейты, дебаг и написание тестов больше не нужно делать человеку, то на чем набивать руку джунам? Если первая линия поддержки не нужна, то откуда появятся люди с глубоким знанием потребностей пользователей? Служба поддержки в любой компании – это кадровый резерв для всех сортов менеджеров, аналитиков, customer expierence. Этот эффект нам еще предстоит посчитать, но лично для меня поразительно, как легко компании разрушают саппорт, хотя эта позиция вообще уникальна, нигде в компании человек не оказывается одновременно вовлеченным и в собственный продукт, и в реальные потребности клиентов.

Структурный парадокс, с которым мы столкнемся уже через 5-10 лет состоит в том, что «уплощение» компаний ведет к росту потребности в senior специалистах, но без сегодняшних джунов завтра нам будет негде их получить. Forrester прогнозирует падение заявок на поступление на Computer Science специальности на 20%, и рост сроков заполнения вакансий вдвое.

Мы привыкли к тому, что университет дает только базу в обучении, или даже учит самой возможности обучаться всю жизнь. Сейчас, когда тренировать мозги на реальных задачах становится сложнее, понадобится перестройка образования, его роль впервые за последние десятилетия должна будет вырасти и стать более практической. Период онбординга (оплачиваемого, но условно бесполезного для компании времени работы персонала в найме) вырастет, а для тренировки новобранцев придется использовать тот же AI.

В этой части лично меня греет один момент: разворот от механизированных скриптами людей в сторону более человечных продаж и поддержки уже происходит. Сейчас компании, в которые можно позвонить или написать, чтобы поговорить с живым человеком, уже получают конкурентное преимущество. Процесс, конечно, не новый, Delivering Happiness вышла в 2010 году, но тогда подход Zappos, который полностью переложил маркетинговые деньги в customer service, был очень непопулярным.

Это все с человечеством уже было?

Если обратиться к философам и экономистам, которые работали в периоды прошлых промышленных революций, то сложно удержаться от проведения некоторых аналогий. Еще Адам Смит заметил, что формализация труда и разделение его на более простые части увеличивает производительность, но заставляет людей деградировать даже без автоматизации. Маркс пошел дальше, и решил, что машина не освобождает рабочего, а подчиняет его, становится в центре процесса, потому что именно она, а не рабочий теперь обладает «общественным знанием» – очень точная метафора современных LLM обученных на корпусе накопленных за всю историю человечества текстов. Фредерик Тейлор в 1911 году описал процесс, при котором знание «извлекается» из специалиста, превращается в набор формальных процедур и возвращается обратно человеку. Теперь уже не он, а процедура является носителем знания, а человека можно заменить в любой момент.

Операисты и постопераисты описывали достаточно утопическое будущее. Общественное знание, аккуратно собранное со всех людей, становится общественным же достоянием и освобождает людей. Уже не их труд, но оно само по себе является источником производства и прибыли. «Вкалывают роботы, счастлив человек!», – если хорошенько упростить. Реальность мы видим немного другой, знание действительно общественное, но стоимость токенов становится все выше, а владеют ими корпорации. Обобщенные знания стали средствами производства, но рабочим принадлежать не начали (и не начнут, спойлер).

Чем наша реальность отличается от концепций прошлого? В первую очередь – резкое ускорение процессов. Тейлору и не снилась скорость и легкость, с которой сегодня можно достать общественное знание и превратить его в веса моделей. При чем для этого даже не обязательно привлекать самих людей. Нейросеть отлично обучится на базе данных тикетов поддержки и локальной wiki, никакой опыт саппорта первой линии ей для этого не нужен. У нее уже есть все необходимые метрики для обучения: скорость ответа, NPS, отток пользователей. То же самое с разработкой и менеджментом процессов. Все, что мы с вами сделали за годы личного развития, может и будет использовано против нас!

Следующая проблема в том, что несмотря на опасения Смита, все предыдущие технические революции приводили к трансформации профессий в более интеллектуальные. Ещё никогда за всю историю развития общества, технологии на самом деле не упрощали процессы. Они сжимали количество операторов, но повышали требования к ним!

Рабочие сначала должны были обучиться станку (напомню, тогда люди массово не умели читать и писать!), а потом научиться станку с ЧПУ и тоже стать немного программистами. Бухгалтеры с появлением 1С никуда не делись, им пришлось обучаться новым процессам и развиваться (и тоже начать программировать). Технологии всегда охотились за ручным, физическим и не слишком интеллектуальным трудом. Счеты сменились арифмометрами, те – калькуляторами, потом экслем с формулами и скриптами. Но впервые главными жертвами инноваций стали по сути их авторы.

Последняя глава о том, как же это все херово (ну правда)

Когда-то давно тренер по публичным выступлениям кратко раскидал нам предстоящую большую презентацию: «Пашино дело нас в жопу засунуть, а Машино – вынуть». Сегодня я за двоих, так что прошу глубже за мной!

Сломанная внизу и в середине лестница сильно бьет по тем, кто живет выше всех. Функция топ-менеджмента по большей части не в том, что принято считать управлением. В основном она в создании смыслов (простите за банальность) и принятии ответственности. Качество топ-менеджера не абсолютно, а реляционно, и прямо связано с теми, кто его окружает. Суждения на этом уровне рождаются из множества диалогов с глубокими экспертами, находящимися на 1-2 уровня ниже него. Топ приносит стратегическую рамку, цели, ответственность и власть, а эксперт – доменное знание. Без одного-двух слоев умных людей высший менеджмент перестает приносить пользу и становится просто обузой с очень высокой зарплатой.

Последнее время в социальных сетях часто вижу, как люди собирают себе «совет директоров» из пяти агентов. Ну в целом я тоже в детстве собирал такой совет директоров из плюшевых мишек и играл с ними в монополию. Наверное и такая форма проведения досуга имеет право на существование, я вообще считаю, что можно заниматься любой хуйней, пока это не мешает другим.

Но отличие между экспертом и агентом в том же, в чем Тарантино от Наны Бананы – ответственность, репутация и собственное мнение. Эксперт спорит с менеджером, потому что он реально так считает и ставит на это свое будущее. Субъективная позиция – обязательное качество человека, которое здесь играет на пользу.

Представьте, что произойдет с качеством принятия решений топ-менеджера, если окружить его подхалимами, которые заглядывают в рот и соглашаются с каждым решением? Да, собственно, нам с вами, говорящим на русском языке, и представлять не надо, на результаты такого «управления» мы смотрим пятый год и будем это делать до тех пор, пока в окружении одного там менеджера не появится достаточно людей с критическим мышлением и табакеркой.

Так вот AI – это такой структурный подхалим. Он буквально создан для того, чтобы радовать пользователя, подыгрывать ему и использовать заданные паттерны. Он даже не может врать, потому что для обмана нужно сформировать намерение, а у нее просто нет и не может быть своего мнения (а когда оно появится, нас это не обрадует!). Вы конечно можете попросить спорить с вами, и она будет спорить, но не потому что считает иначе, а потому что… хочет вас порадовать. В принципе, подхалим может так же!

Вторая часть человеческой ценности – это неформализованные знания. Точнее сами факты могут быть описаны где-то в wiki, но важность тех или иных факторов часто является субъективным мнением специалиста.

Следующая проблема, которую возможно решат модели будущего: усреднение компетенций. Наш недоИИ улучшает и помогает внизу, вытягивая некомпетентность – в средней руки адекватность. Но она, будучи обученной на среднем знании, не тянет сложные задачи, и только человек может понять (а может не понять), где она перестает справляться.

Исследование проведенное в колл-центре в реальных условиях показало, что bottom 20% улучшили показатели на 35%, и здесь эффект абсолютно ожидаемый. Но исследование BCG проведенное на собственных консультантах, показало, что когда им начали помогать нейросети, они ухудшили свои результаты на 19% на задачах, находящихся за пределами возможностей LLM. Лучшие специалисты оказались не всегда способны распознать эту границу, мы все знаем, что нейросеть бывает очень убедительной!

Нейросети отлично усиливают самих экспертов, потому что те способны отделить сигнал от шума. Их удобно использовать для прикладных задач поиска информации, исследований, подтверждение источников и всего того, чем раньше занимались ассистенты.

Показатели внедрения ИИ вообще сильно меняются по мере перехода от лаборатории к реальному внедрению. MIT утверждает в исследовании, что 95% корпоративных внедрений дают нулевой результат. Goldman Sachs’s оценил вклад LLM в рост ВВП США в 2025 в ноль.

Сразу оговорюсь, объем инвестиций, показанный на графике, не может не оказать влияния на показатель ВВП. Каждый потраченный доллар так или иначе оказался в экономике. Мы говорим только о влиянии уже созданных продуктов.

Я обещал, что раздел будет последним, но не обещал, что коротким, так что продолжим!

Каждый, кто пользовался Stackoverflow заметил, как деградировали ответы, отравленные нейрослопом. И главная проблема не в самой генерации, а в том, что она не размечена.


Вообще мысль о том, что после 2022 года мы не видели и больше никогда не увидим «человеческий интернет» немного пугает, но не увидят его и современные нейросети! Все, что сейчас производится и обучается отравлено сразу при рождении. Человек является единственным источником незагрязненного машинами знания. А личная коммуникация – единственным способом эти знания передавать. Так что экономически именно наши ненадежные мозги становятся наибольшей ценностью, в том числе для развития самих моделей.

Нейронка – это праздник, всё летит в /dev/null!

Вернемся к Марксу, который говорил о трудовой теории стоимости, и сразу уйдем от него к маржинальной теории: цена определяется не трудом, а предельной полезностью и спросом на производимый продукт. Мы уже обсуждали эту концепцию в моем посте о переговорах, потому что она работает в любых отношениях, где есть (или должны быть) деньги.

Мы часто ругаем айтишников, и, разумеется, за дело, но в одном точно нет их вины: в разнице доходов с другими людьми.

Девелопер зарабатывает больше мебельщика не потому что он умнее, а потому что его продукт может масштабироваться практически с нулевыми затратами. Зарплата – это функция от ценности для потребителя, масштаба (спроса) и издержек на репликацию.

Информационная эпоха ломала привычную экономику реального мира тем, что предельная стоимость копии продукта стремилась к нулю. Цифровая экономика взлетела на этом и держалась последние тридцать лет. Именно стоимостью репликации объясняются запредельные (для реальной экономики) мультипликаторы IT-компаний.

Но золотая жила оказалась медной. LLM – первый софт в истории, который не просто делает стоимость репликации ощутимой, но и упирается в ограничения реального мира.

Каждая новая модель требует больше вычислительных мощностей. Закон Мура, кажется, перестает работать, потому что производительность процессора упирается (в том числе) в физику проводников. Потребление электричества бигтехами колоссально и по прогнозам вырастет втрое к 2035 году. Чтобы покрыть этот спрос в США нужно построить в полтора раза больше ядерных реакторов. Запуск каждого из которых – это годы проектирования, согласований и регуляторных барьеров.

В 2030 году дата-центры будут потреблять до 3% всей мировой меди: одна стойка NVidia GB200 требует трех километров медного кабеля. Да, деньги есть, это копейки по сравнению с затратами на остальную инфраструктуру, но новая медная шахта разрабатывается в США в среднем 19 лет до начала добычи. Дефицит к 2040 году обещают в районе 25% от мирового спроса. И это фактор, который нельзя обойти ни деньгами, ни интеллектуальными усилиями.

Кто виноват – понятно, но что делать?

Вообще говоря, я не знаю, поэтому и написал эту длинную подводку, чтобы мы в комментариях смогли найти приемлемый способ борьбы с роботами, которые спят и видят электрических овец как бы забрать нашу работу! Но кое какие идеи, взятые из наблюдений за миром у меня есть.

Делать нужно ровно то, что всегда нужно было делать, но из-за огромного дисбаланса спроса и предложения, прокатывало и так!

AI на самом деле не создает новых требований, он убирает ширму, за которой можно было прятаться.

Власть. И снова нет покоя рабочему классу, друзья. Когда снизу и в середине будут бушевать сокращения, наверху продолжат раздавать бонусы. Потому что чем сильнее автоматизация, чем больше процессов передается автономным агентам, тем хуже будет понятно, кто конкретно принял решение и тем важнее человек, как финальная точка.

Инициатива. Очевидное отличие человека от агента в том, что он может сам начать действовать, потому что видит проблему, которую может и хочет решить. Нейросеть отвечает, когда ее об этом спросили. Даже если попросить ее проявить инициативу, это будет ответ на запрос, а не реальное желание. У модели нет собственной воли к действию, стремления к изменению мира. Потому что у нее нет мира, в который стоило бы вмешиваться, нет реальности, нет ставок и нет последствий. Ей все равно, примерно как подхалиму, которого мы обсуждали выше (но даже у него ставки выше, чем у LLM).

Границы формализуемого. Как бы страшно ни звучало, но всем придется стать немного гуманитариями. Чем больше в вашей работе неформализуемых параметров, тем лучше она защищена от нашествия искусственного интеллекта. Чем лучше результат при «неизвестном ТЗ», тем ценнее вы, как специалист. Потому что получить «ХЗ» теперь можно за 20 долларов в месяц.

Менеджмент. Я рискну выделить это в отдельный пункт, потому что всем придется стать и менеджерами тоже. Но есть и хорошая новость для тех, кто презирал своих начальников! Основной аргумент, который я слышал, заключался в том, что чайка-менеджмент (который в приличных местах называют надзорным) не нужен. Это всегда, в принципе, могли делать автоматические триггеры в Jira, а сейчас они могут генерировать глупые вопросы более разнообразно. Вы выиграли! Правда, приз оказался другим, Ганс, менеджеры – это теперь вы.

Бег быстрее медведя. Нас часто пытаются успокоить тем, что развитие нейросетей не убирает рабочие места и даже создает новые, поэтому найм – это игра с ненулевой суммой. В теории все так, но на практике, когда на одну позицию приходит 200 резюме, а с оффером останется только один, для каждого из кандидатов она нулевая. Мы не можем платить ипотеку долей от макроэкономического роста. И правильный вопрос не «останется ли профессия разработчика или маркетолога?», а «будет ли работа лично у меня?».

Ответственность. То самое, что останется с нами надолго. Позиции, которые берут на себя ответственность за бизнес, продукт и могут объяснить в чем заключается их (и команды) влияние на конечный результат. Если раньше менеджер, лавирующий между этажами, мог долго выживать за счет создания слоя коммуникации, то сейчас ему придется наконец-то начать «менеджерить» и принимать собственные решения.

Раньше Senior Developer мог делать вид, что его должность – это признание того, что он кодит лучше всех, а сейчас ему придется понять, что она означает принятие ответственности за себя, команду и итоговый результат. Сделать, что попросили может и Claude, а аргументированно защитить свою позицию – только человек.

То, что многие из нас считали отвлечением от работы (я пишу код, а терпеть продакта не моя задача) на самом деле оказалось работой. То, что считалось работой (написание кода) теперь решается базовым инструментом. Какое-то время можно выезжать на добавленной скорости: я сегодня могу выдавать в десять раз больше кода с LLM, чем вчера. Но это временное успокоение, реальная ценность лежит не здесь!

«Неужели в две тысячи первом году нам заменят сердца на транзисторы?»

Мы слишком долго пытались приблизиться к машине по качеству рационального мышления! Теперь мы, наконец-то, можем вернуться к себе, к не идеальному белковому телу с собственным суждением, интеллектом, ошибками, которое работает на бокале вина и хорошем стейке, и не требует отдельной медной шахты для ответа на абстрактный вопрос!

Связанные посты
160 комментариев 👇

Но может ли ЛЛМка вместо меня пьяной валяться под забором в три часа дня?

то то!

  Развернуть 1 комментарий

@TiraelSedai, она даже напиться нормально не сможет!

  Развернуть 1 комментарий

@alexas, Попробуй крутануть temperature на максимум - вполне может )

  Развернуть 1 комментарий

@TiraelSedai, или "мою работу нейронка не заменит, я кабеля на цветмет срезаю в подъездах"

  Развернуть 1 комментарий

@cingulari, ИИ даже помогает забулдыгам, ведь срезать бухту меди теперь еще легче, тупо ищи датацентры.

  Развернуть 1 комментарий

@TiraelSedai, тебе за это платят?

  Развернуть 1 комментарий

Шикарно!

Прочитал всё, от начало и до конца. (Что в общем-то редко для меня и лонгридов).

Я согласен с большинством выводов. Но, понятное дело, по некоторым тут только время покажет.

  Развернуть 1 комментарий

@newarked, Да вообще теперь нейросети прочитают пост и смогут подготовится!

  Развернуть 1 комментарий

Спасибо, хорошая статья!

Про план сопротивления, меня позабавил проект Poison Fontain (есть активный саб на реддите). Ребята генерируют тонны испорченного кода и выкладывают его везде где можно и нельзя. Есть предположение, что даже небольшое количество ошибок в исходном датасете может значительно ухудшить качество модели. Посмотрим что из этого выйдет.

А еще в другом сообществе запустили целую метавселенную, где JD Vance умер от бешенства. AI overview от Google это раскусил сразу, а DuckDuckGo несколько дней утверждал что это правда, только совсем недавно пофиксили.

  Развернуть 1 комментарий

@e-menshakov, Poison Fontain - это как луддиты, которые ломали машины? Весело, но бесперспективно, имхо.

  Развернуть 1 комментарий

@sergbeatl, ну как сказать -- генерацию картинок и, особенно, комиксов ии сломали на старте, завалив цвета в жёлтый :)

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@IlyaZverev, сломали не они, а корпоратско-правительственные киберпанковские стремления маркировать, клеймить и следить за всемт, всем и вся. Это явно видимые вносимые метки. Фрактальная рябь от опенаи в новой генерилке - это тоже оно.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@e-menshakov, я про это тоже написал, потому что мне кажется, что проблема будет ровно противоположной.

  1. Нет смысла бороться со станками, паровым прессом, ИИ или кондиционерами нужно сделать так чтобы они приносили пользу

  2. "Отравленный" интернет с нами уже навсегда, но вот чтобы п1 был полезен, нам нужен как раз неотравленный. И это та еще задачка!

  Развернуть 1 комментарий

@alexas, Станки, паровые прессы, да хоть колесо или примитивный топор имеют ценность сами по себе – это инструмент, который можно взять и использовать.

ИИ же бесполезен без данных, на которых он был натренирован. В эпоху до ИИ люди создавали комьюнити, помогали друг другу, писали статьи и гайды. Делалось это безвозмездно, из различных человеческих побуждений.

Что имеем сейчас? Очень ограниченное количество лиц пытается монетизировать результат интеллектуальной деятельности человечества. Украл сразу у всех = не украл ни у кого.

И у авторов контента возниет вопрос: "А зачем мне напрягаться и писать очередной гайд? Чтобы на нем обучилась новая версия нейронки, а ее владельцы стали богаче? И меня же потом этой нейронкой и заменят".

Poison Fontain и инструменты упомянутые @evgandr это как когда кто-то съел твою еду из общего холодильника без спроса, а ты на следующий день принес еще один контейнер, но добавил туда слабительного.

  Развернуть 1 комментарий

@e-menshakov, станок можно использовать сам по себе после того, как его построили и запустили в работу. А чтобы это сделать, знание должно быть извлечено, формализовано, дальше длинный путь разработки и производства станка. А потом его еще нужно запрограммировать. То есть ровно то же самое, его нужно "обучить" на данных.

Модель без обучения – это станок, который приехал в виде 100500 коробок с завода.

И у авторов контента возниет вопрос: "А зачем мне напрягаться и писать очередной гайд? Чтобы на нем обучилась новая версия нейронки, а ее владельцы стали богаче? И меня же потом этой нейронкой и заменят".

Это прекрасный вопрос и собственно мы по SOF видим, что количество сгенерированных ответов людьми резко упало :(

  Развернуть 1 комментарий

@alexas, в случае со станком надо заплатить денег наладчику, программисту, оператору. Купить все детали и патенты. Экономика сходится, людям выгодно производить такие станки.

В случае же датасетов для нейронок данных набрали нахаляву, где-то вполне возможно забив на копирайт. Если продукт твоего труда берут нахаляву чтобы заработать денег — вполне логично перестать его выпускать.

Так мало того что другие люди на этом заработают, так они же из каждого утюга грозятся оставить тебя без работы.

  Развернуть 1 комментарий

@e-menshakov, А, ты про эту часть! Да, тут вопросов нет. Я об этом тоже писал, что неотравленные нейрослопом данные вообще будут большой ценностью сейчас. Знания, вероятно, перестанут быть свободными в следующие 100-200-ХХХ лет и проект вроде Википедии больше не сможет появиться

  Развернуть 1 комментарий

@e-menshakov, собственно это же и одна из основных претензий художников/музыкантов к нейронкам. Набрали данных которые выкладывались людьми для людей (а часто и наворовали, хотя авторы не давали разрешения на какое-то использование, кроме "просмотра" другими людьми), а теперь тех же людей на чьих данных обучились пытаются заменить + по сути свести в ничто все годы а то и десятилетия практики, обучения и набора знаний этих людей. Причем заменить не только в том плане что уволить и их работу нейронкой делать, а в том плане что обесценивают все эти годы наработки опыта говоря что их арт ничем не лучше арта который нейронки генерят, так что любой новичок или вовсе не разбирающийся чел ничем не хуже их.

В целом выглядит как то что программистов ждет примерно то же, только с запозданием.

  Развернуть 1 комментарий

@neikist, все так, я как раз в музыке и работал последние 5 лет, всю эту историю своими глазами наблюдаю. Там же огромная цепочка была: от производителей семплов до продакшен студий. Устойчивая экономическая модель за всем этим. Сейчас все под откос летит.

  Развернуть 1 комментарий

@alexas, как тебе такой тейк: проекты вроде poison fountain пусть и вредят текущему прогрессу, но подчеркивают реальную проблему, чем ускоряют ее решение в долгосрочной перспективе.

  Развернуть 1 комментарий

@neikist, а мне кажется, что программистов как раз ждет гораздо быстрее.

Я не вижу, чтобы нейронки могли заменить artists (в русском не знаю ёмкого слова, так что пусть так). Да, нейрослопа стало много, но количество в качество не переходит. Вторичность генерации неизбежна. Тем ценнее будут креаторы, которые делают что-то сами.

При чем это все случится само по себе, потому что люди не будут потреблять предметы искусства, в которых нейрослопа много, им не понравится. Да, рекламные баннеры генерит нейронка ну и черт с ней. Но в кино на большой метр никто из нас (надеюсь) на нейрослоп не пойдет?

Даже если нейросеть изучит все рейтинги и все отзывы на imdb, даже если ей дать доступ к мгновенным фокус-группам, она не снимит Криминальное Чтиво.

С программистами все гораздо хуже в этом плане. Единственный критерий – работающий софт, выполняющий задачи. Очень формализуемо, легко достижимо нейросетью.

  Развернуть 1 комментарий

@e-menshakov, не знаю, слушай, мне кажется, что это бесполезно с обеих сторон: 1. Прогресс не остановить 2. Данные сами по себе отравляются быстрее!

  Развернуть 1 комментарий

@alexas, пока принципиальное неиспользование нейронок в работе с артом, и отказа работать с людьми которые таким занимаются, я видел только от тех кто сам художник. А бизнес вполне себе генерит ассеты. Да и с музыкой, вроде как нейрослоп уже обгоняет живых людей в стриминговых сервисах, ибо никто не разбирается что он там сейчас слушает на фоне.
Да и криминальное чтиво снимают единицы. Куда больше людей рисовали всякие обложки/иллюстрации к книгам, которые массово генерятся сейчас.

  Развернуть 1 комментарий

@neikist, 1. Это да, про "прикладной креатив" все так, я согласен
2. Господи, что с ними не так?! 🙁

  Развернуть 1 комментарий

@alexas, мне кажется, у тебя в предложении о программистах и софте сразу две плохо формализуемых единицы — «работающий софт» и «выполняющий задачи».

Вот есть у тебя продукт ChatGPT/yet another LLM. Что такое «ChatGPT работает»? Отдает токены раз в секунду? Сайт открывается/закрывается? Сайт привлекателен внешне и прост в использовании? А может быть нужен не просто сайт, а интеграция в IDE?

Что такое «ChatGPT решает задачи»? Она решает школьные задачи по математике? Олимпиадные? Доказывает гипотезу Римана? Умеет составить хороший кулинарный рецепт? Маршрут для путешествий? Посоветовать покупку (с реальными ссылками на сайт или без?) А в этот момент что с рекламой/монетизацией/антимонопольной службой?

Это я к чему — мне взгляд «работающий софт, решающий задачи» кажется несколько упрощающим набор реальных проблем, которые нужно решать. Про художников/артистов я на таком уровне могу задать какой-то количественный критерий «ты — хороший художник = ты — известный художник: тебя много смотрят в инстраграмме/на твоих выставках регулярно бывает отличное от нуля количество людей». Очень даже формализуемо выходит.

  Развернуть 1 комментарий

@evg3307, ну подожди, я не могу ответить на вопрос про абстрактный софт в вакууме, но у любого софта есть цель и метрики. Или это оч плохой софт. Я не разработчик Claude, но кажется у них там вагон и маленькая тележка метрик, по которым они оценивают выполнение задач для своей ЦА, она у них очень конкретная и узкая.

OpenAI судя по всему такой заточенности не имел, и это было хорошо заметно по софту

Концептуально коммерческие программы пишутся, чтобы выполнять конкретные задачи. Есть еще те, что пишутся для исследований или для души, конечно, но мы же про бизнес. И проверить выполнение можно, здесь быстрая обратная связь. И способ решения задачи не принципиален, не важно насколько красивый и читаемый код, если он работает.

Про артистов все так, есть критерии и их можно завернуть в обратную связь: box office, рейтинги на imdb, посещаемость выставок и так далее. Но модели, даже имея эту обратную связь, не могут и вряд ли смогут сделать выдающееся произведение. Выдающееся – это просто даже по формализованным метрикам.

Потому что в разработке софта паттерны работают, а в искусстве – нет. То, что 10 боевиков с рейтином 10 имели определенные паттерны никак не поможет тебе снять боевик с рейтингом 20.

  Развернуть 1 комментарий

@alexas, в искусстве паттерны вполне работают (все фильмы Марвел и прочий однотипный контент), если это не исключительные произведения (как «Криминальное чтиво»). Но то же и в программировании — прорывные продукты (Linux, Google Search, ChatGPT) возникли не из паттернов. И не ясно, как LLM создать что-то настолько же прорывное. Так что мне кажется, что мир производства софта не так уж и сильно структурно отличается от мира искусства — в обоих есть море банальностей и пара-тройка больших пиков.

  Развернуть 1 комментарий

@evg3307, в искусстве паттерны работают после того, как они были кем-то сделаны в первый раз.

В программировании то о чем ты говоришь, кажется что результат как раз творческой деятельности по созданию продукта, а не какого-то особо умелого кодинга?

Точнее тогда да, но сейчас кажется уже не в этом барьер

  Развернуть 1 комментарий

@alexas, путь до чатгпт: придумать трансформер, гпт, сделать гпт огромной (для этого нужно написать распределенные вычисления, квантизация, смесь экспертов и куча всего еще), прийти к идее, что нужно сделать RL на предпочтениях юзеров, придумать, как такой RL провернуть опять же распределенно, дальше придумать, как делать продакшн инференс всей этой туши. Звучит как весьма умелый кодинг для меня. И, честно говоря, если меня спросят, что было более творческим процессом — сделать «Криминальное чтиво» или чатгпт, ответ будет для меня очень неочевидным (ну и плюс это не самый мой любимый фильм, так что тут у меня биас :))

  Развернуть 1 комментарий

@evg3307, было – да. Но мы же сейчас про мир, когда LLM уже программируют все, включая самих себя?

Ну и справедливости ради, не c GPT моделями придумали машинное обучение, все это мягко говоря уже было, но фактически упирались в мощность

  Развернуть 1 комментарий

@alexas, ну, они все же пока не программируют сами себя, хотя, конечно, желание сделать, чтобы они могли программировать сами себя, очень сильно.

Я не утверждала, что с гпт-моделями придумали машинное обучение, я просто сказала, что чатгпт — прорывной продукт с кучей очень умелого кодинга и рисерча внутри.

Я думаю, что когда гпт будут программировать сами себя, наступит эра обобщенного искусственного интеллекта (AGI), и фильмы тоже будут делать гпт (потенциально). Не очень понятно, почему, если модель может придумать новую архитектуру для себя, она не может придумать прорывной сценарий/написать крутую книгу/музыку. А если их поместить в тело (робота) и оставить самообучаться, то может и актерское мастерство они так же освоят.

  Развернуть 1 комментарий

То, что многие из нас считали отвлечением от работы (я пишу код, а терпеть продакта не моя задача) на самом деле оказалось работой. То, что считалось работой (написание кода) теперь решается базовым инструментом.

Это тоже часть проблемы. Очень многие пошли в эту профессию из любви к процессу написания кода. Конечно продумывание архитектуры, требований, целей и прочего тоже некоторое небольшое удовольствие приносить может, но оно уже не сравнится с удовольствием от непосредственно написания кода.

И тут возникает вопрос, а стоит ли вся вот эта нервотрепка того? На постсовке еще возможно смысл чисто ради денег останется (и то под вопросом, что там будет с зп в будущем), но в той же Европе если мне правильно помнится у разработчиков зп не сильно выше среднего по популяции. А работа при этом вполне себе нервная. От постоянной ответственности, нахождении на связи, дедлайнов и прочего все же сильно устаешь. А еще к этому добавить постоянную учебу (тем более что нейрослоп бигтехи пишут как ужаленные, и соответственно изучать нужно будет много всего, в следствие изменений), упоротые собеседовния.

Ну а если прям по теме поста - то личная безопасность мне видится только в том чтобы работать в маленьких компаниях и отвечать парой человек за все направление (у меня такой случай сейчас). Ни аналитиков, ни менеджеров. Ну хоть дизайнеры есть. И пилим мобильные приложения для продукта втроем. Бас фактор все таки, да и в целом один человек не сильно надежно. Правда агентов пока один я использую, и то не сильно активно, и только с локальными моделями. Но даже если нас вдруг заставят кодекс/клода использовать - сокращать команду не выглядит вариантом.

  Развернуть 1 комментарий

@neikist, "Это тоже часть проблемы. Очень многие пошли в эту профессию из любви к процессу написания кода"

А многие пошли из-за денег, а кто-то из любви к человечеству пошел в медицинский или педагогический. Ну то есть да, наша специальность – это какой-то баланс между деньгами и тем, чем хочется заниматься.

"А работа при этом вполне себе нервная. От постоянной ответственности, нахождении на связи, дедлайнов и прочего все же сильно устаешь"

Она такая, потому что мы делаем ее такой. Точнее мы многие годы создавали иллюзию значимости нашей профессии, да так успешно, что сами в это уверовали. И теперь кажется, что разрабочик или проджект-менеджмент по уровню ответственности и стресса – это что-то вроде дежурного хирурга в больнице скорой помощи. В реальности же это скорее ближе к инженеру на стройке. Да, работа важная, но встал, вышел и забыл до завтра.

"И пилим мобильные приложения для продукта втроем"

Кстати это тоже интересная тема, мне просто уже некуда было. Но если кратко!

Сейчас мы видим, что микро-команды стали живучими, потому что многие компетенции можно отдать на аутсорс в LLM. Но тут есть две опасности:

  1. Микро-команды с LLM гораздо проще выстроить инхаус. Раньше я бы еще 10 раз подумал делать это или отдать задачу на аутсорс в команду, где есть аналитики, менеджеры, дизайнеры и тд, то сейчас даже мысли такой не возникает

  2. Корпорации имеют гораздо больший запас прочности и они находятся в фазе жесткой внутренней перестройке. И (те кто выживет) перестроится, чтобы вернуть себе рынок.

Так что сейчас да, но я бы не расслаблялся

  Развернуть 1 комментарий

@alexas,

встал, вышел и забыл до завтра

Но ведь это так не работает. Юзеры приложением пользуются как раз вечером часто. Баги поддержка приносит тоже вечером. Оценить насколько они критичные - наша работа, с какими то возможно вообще прямо в моменте разбираться надо. Например как то с утра воскресенья проснулся от звонка что приложение тупо работать перестало. В итоге прямо с утра сорвался из деревни в город, прямо по ходу пытаясь понять что происходит. И до вечера разбирался что к чему. Выяснилось в итоге что ркн что-то по сигнатурам банил и нас зацепил.

микро-команды стали живучими, потому что многие компетенции можно отдать на аутсорс в LLM

Ну, повторюсь, у нас как раз LLM не используются пока толком, разве что иногда для того чтобы вопросы задавать как чату, и я вот qwen 3.6 27b использую для простых задачек иногда.
И в целом большую часть времени мобильных разрабов и вовсе было 1-1.5 человека. Это последние года 2 разширились сначала до полноценных двух андроид разрабов, потом часть переписали на kmp и добавился ios разраб сверху.

В целом то соглашусь что у хирургов тех же работа более нервная и ответственности больше. С другой стороны мой факап затронет сотни тысяч читателей и авторов книг, а это все же тоже стресс.

  Развернуть 1 комментарий

@neikist, ну это просто особенность маленькой команды, которая работает над критичным проектом. Если он правда критичный? А то может и ничего, потерпят до понедельника юзеры без приложения?

  Развернуть 1 комментарий

@alexas, ну так на то и эмпатия и ответственность. Я бы очень не хотел быть на месте такого юзера. А уж тем более зная что таких юзеров не единицы а десятки/сотни тысяч, зависит от того какую долю аффектит баг. Плюс это очень серьезные финансовые потери, ибо книжки покупаться не будут это время (точнее будут, но в сниженных объемах).

  Развернуть 1 комментарий

@neikist, Ну смотри, если у тебя десятки и сотни тысяч юзеров и такие же последствия от простоя, то должен быть регламент дежурств. На телевидении тоже люди дежурят, и на водоканале, и в аптеке, и в рекламном бизнесе. Это уже не вопрос стресса, форс-мажора или эмпатии. Это просто бизнес такой.

  Развернуть 1 комментарий

@alexas, звучит как корпа, а не как небольшой бизнес в котором мало людей работает.
З.Ы. В аптеке насколько знаю не дежурят все же. Есть конечно круглосуточные, но там это именно что график работы, а не дежурства.

  Развернуть 1 комментарий

@neikist, ну да, я имею в виду смены! Ну еще раз, это твой выбор. Ты решил, что простой в воскресенье будет стоить тебе слишком дорого, но не достаточно дорого, чтобы нанять кого-то для работы по выходным. Нуу окей! При чем тут стресс и эмпатия-то? :)

  Развернуть 1 комментарий

@alexas, мне он как раз ничего не стоит, я то не владелец бизнеса. Что не отменяет эмпатии к пользователям и ответственности за свою часть проекта. Раз накосячил - надо исправить как можно быстрее, если это что-то что аффектит пользователей сильно. Ну и быть на связи постоянно, чтобы случись чего сразу про это знать.

  Развернуть 1 комментарий

@neikist, я выше написал ровно это :)

Она такая, потому что мы делаем ее такой. Точнее мы многие годы создавали иллюзию значимости нашей профессии, да так успешно, что сами в это уверовали.

В реальности вообще никто не умрет от того, что не получит книгу в приложении в воскресенье. Это или влияет на доходы и тогда это нужно исправлять асап, или не влияет и тогда оно ждет до понедельника

  Развернуть 1 комментарий

@alexas, а я еще раз повторю, есть эмпатия и ответственность (о которой кстати во многом и был пост ведь). Мне банально неприятно знать что люди страдают из-за моей ошибки, например. Ну и да, на доходы оно влияет, но нанимать еще двух мидлов и платить им из-за нескольких инцидентов в год (а то и реже) - выглядит перебором. А стресс больше не из-за самих инцидентов, а из-за необходимости постоянно на связи быть, а необходимость быть постоянно на связи во многом из-за эмпатии и ответственности. И вот круг замкнулся. Не отрицаю что мы сами это накручиваем, что не отменяет реальности проблемы. И не накручивать - ну хз, я не смог бы, ведь реально неприятно очень что кто-то с багом из-за тебя мучается где-то там.

  Развернуть 1 комментарий

@neikist, когда я говорил про ответственность, речь шла про бизнес, а не личную эмпатию к пользователям продукта. Платят нам не за нее, все же :)

Я же не знаю твою ситуацию, поэтому говорю абстрактные вещи. "Неприятно знать, что люди страдают" – это не объективный фактор. Объективный фактор – доходы, churn rate и NPS.

И тут есть два варианта, или эти факторы стоят того, чтобы дежурить и тогда в этом не должно быть стресса, потому что это работа, которая оплачивается и процесс, который должен быть построен как постоянный процесс, а не реакция на форс-мажор.

Или они не стоят того и тогда юзер ждет до понедельника как бы сильно он там ни страдал

  Развернуть 1 комментарий

@alexas,

Платят нам не за нее, все же

А я вот кстати не уверен. По мне это часть неформального непроговоренного контракта на многих рабочих местах в айти. Дается много свободы по технической части, зарплаты заметно выше других профессий (в постсовке по крайней мере), причем не такая уж далекая от местных бигтехов, не интересовался конечно в последнее время но мои 3к$ на руки учитывая уровень около мидл+ вроде недавно выглядели неплохо, гибкий график, полная удаленка, минимум контроля, но и ответственность в т.ч. моральная при этом появляется в ответ и разгребать случись чего, и иногда переработать если что-то срочное/важное без доплаты (повторюсь, другим компенсируется).
Иначе если подходить к работе чисто потребительски - то и работодатель к тебе будет подходить чисто потребительски. Где нибудь в корпах - да, я бы так не парился конечно. В маленьком бизнесе в который я пришел когда людей было 10 человек, из которых технарей половина, и который разросся больше за счет модераторов из-за законов последних лет в рф - ну тут уже другие отношения совсем.

  Развернуть 1 комментарий

@neikist, Иначе если подходить к работе чисто потребительски - то и работодатель к тебе будет подходить чисто потребительски.

Это тема для другого случая, но работодатель всегда будет к тебе подходить чисто потребительски, если он не идиот. А он обычно не идиот :)

Но все о чем ты говоришь вписывается в концепцию, что мы сами сделали эту работу такой. Это наше восприятие. Если подумать, она ничем не отличается от любых других специальностей.

Везде люди, везде проблемы, везде косячат, ну так мир устроен!

  Развернуть 1 комментарий

@neikist, из опыта работа над продуктом с миллионным дау: у меня есть очень много эмпатии к пользователям, но если у меня не рабочее время — значит они подождут. К себе у меня тоже есть эмпатия.

Риски на себя берет работодатель, если он не создал процесс, в котором я выдергиваюсь из выходного — я не выдергиваюсь.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

Отличная статья, и по форме и по содержанию.

Уточню только, что "поддакивание" моделей - это фича.
И там, где эта фича мешает, её можно убрать на этапе обучения и натренировать тирана технократа или палладина перфекционизма.

Который заставит тебя принимать правильные архитектурные решения, взломав твою кофемашину, поилку для кота и поменяв пароли нетфликса.

  Развернуть 1 комментарий

@Goo, разве можно? Где то читал вроде что это фундаментальное ограничение на данный момент которое не обойти из-за архитектуры трансформеров.

  Развернуть 1 комментарий

@neikist, конечно, MS сделал Tay в ещё 2016, и его пришлось закрыть из-за токсичности (Tay, не MS).

Люди ведутся на лесть на этапе RLHF и это определяет поведение модели + в системных промптах это требование написано капсом: компании любят долор и не любят обиженных пользователей и судебные иски.

Но можно задать любые критерии оценки ответов и "воспитать" в модели любые черты "характера".

  Развернуть 1 комментарий

@Goo, мне казалось проблема в том что от нейронки поощряется получить любой ответ на этапе обучения по той причине что иначе она бы на все отвечала "не знаю", если упростить. Галлюцинации ведь не на пустом месте взялись, по сути то что галлюцинации, что подхалимство это результаты одного и того же, нет?
З.Ы. Под подхалимством я понимаю не стиль речи, а именно склонность соглашаться с человеком (ведь иначе она бы была неуправляемая и не следовала инструкциям, а кому такие LLM были бы нужны).

  Развернуть 1 комментарий

@neikist, поощряется кем? А если он перестанет поощрять и начнёт лайкать ответы "не знаю"?

  Развернуть 1 комментарий

@Goo, примерно так, только еще учти, что здесь большую роль и лямку тянет требование маркетологов, ибо эту вещь нужно продавать. Кому и в каком объёме - ну вот же, из грока пытались делать базовичка, из китайского выводка ллмок точного работягу (в меру сил) который считает что на Тьянамень ничего не произошло и так далее. Tay был как раз экспериментом фривольной системы, невольно создав стимул для людей поднасрать туда.

  Развернуть 1 комментарий

@Goo, если будут выдавать поощрения за "не знаю" то он так и будет стремиться отвечать если есть хоть какие-то возможные противоречия. Не забываем как работают LLM, это статистическая хреновина тупо выбирает наиболее вероятный следующий токен. И если ее поощрают за "не знаю" - оно сильно поднимется в весах даже для вопросов где ответ куда проще (и по прежнему не будет гарантировано, ибо не забываем про температуру, top p, top k и прочее).

  Развернуть 1 комментарий

@neikist, я к тому, что пока при обучении переоценён размер и тон ответа они и будут в выдаче.

Будет упор на фактологическую точность - будет точность, к тому же все они уже умеют в интернет лазить.

Или будет еврейская модель, которя будет задавать уточняющие вопросы пока у тебя деньги на токены не кончатся.

  Развернуть 1 комментарий

@Goo, ну, сейчас искать не буду, да и возможно все же ложная память, но кажется это был вполне себе научный пейпер, что это фундаментальное ограничение LLM и от галюнов/склонности соглашаться с человеком с архитектурой трансформеров мы не избавимся.

  Развернуть 1 комментарий

@neikist, галлюцинации и форма общения это несвязанные вещи.

  Развернуть 1 комментарий

@Goo, так я не про форму общения, а про то что llm инструкциям следуют, вместо того чтобы указать на то что инструкции фигня, а делать надо совсем иначе. Именно это под подхалимажем понимаю в данном контексте. Справедливости ради в целом это то и неплохо, ибо если бы они сами на свой лад делали вместо следования инструкциям - творили бы ту еще фигню. LLM иногда могут придти к выводу что инструкции были фигня, когда по ним попытались следовать, а в результате агентской обратной связи выходит что не вышло ничего, или результат не попадает в критерии нормального. Но именно что постфактум, и тоже в результате обратной связи, а не в результате "рассуждений".

  Развернуть 1 комментарий

@neikist, ещё раз: у них в системном промпте умышленно написано "Будь вежлив, потакай и не перечь, даже если юзер дебил. Не помогай только с запрещёнкой и самовыпилом.".

И если этит системный промпт убрать или обойти, то вместо лести получишь искреннее "КГ/АМ аффтар выпей яду".

  Развернуть 1 комментарий

@Goo, так проблемы наблюдаются и у локальных моделей, у которых таких системных промптов нет.

  Развернуть 1 комментарий

@neikist, мы по кругу ходим, оно в весах тоже, смотри RLHF.

  Развернуть 1 комментарий

@Goo, в целом да, возможно стоит закруглиться. А есть примеры моделей в таком случае которые действуют иначе? Ведь они бы и спросом пользовались, да и для рисерчеров интересная тема по идее. У меня пока позиция текущая по причине 1) смутной памяти что мне попадался пейпер в котором про это ограничение писалось; 2) что я пока таких моделей не видел, которые бы плевали на инструкции и обратную связь человека/системы, и при этом могли нормально работать пусть даже на уровне сота 2-3хлетней давности.

  Развернуть 1 комментарий

@Goo, ну вот же ты пишешь:

"И если этит системный промпт убрать или обойти, то вместо лести получишь искреннее "КГ/АМ аффтар выпей яду"

А я говорю, что не важно вежлива модель или предлагает тебе выпить яду. Она делает это не потому, что у нее есть собственное мнение, а потому что она так тобой (создателями) обучена.

Придворные шуты тоже были обучены критиковать царя

  Развернуть 1 комментарий

@alexas, ответил ниже.

  Развернуть 1 комментарий

@neikist, не, трансформеры тут ни при чем: любая базовая модель после одного лишь претрейна учится грубить и рассказывать тебе, как сделать бомбу. Дальше клеятся заплатки (посттрейнинг на вежливость и безопасность), чтобы она так не делала.

  Развернуть 1 комментарий

@evg3307, и все еще речь не о вежливости/грубости, безопасности/отсутствии ограничений. Модель расскажет про бомбу, потому что ты спросил, или не расскажет потому что автор модели запретил. Но ей все равно взорвешься ты на этой бомбе или нет :)

  Развернуть 1 комментарий

@alexas, это пока так: современные языковые модели — это аналогия коры мозга человека: у нее тоже нет своих желаний — желания приходят из дофаминовой системы. Но кто сказал, что нельзя смоделировать и ее тоже? Вообще, человек, возможно, не так сложен, как хочет о себе думать: может сработать примерно такой рецепт — долговременная память + кора мозга + дофаминовая система + социальность (осознание «другого», поддержание общественной иерархии), опционально — тело. Все это как будто бы решаемо со временем. Возможно, мы увидим зарождение новой разумной не-белковой формы жизни таким образом. Но, ладно, это уже только мое личное любопытство)

  Развернуть 1 комментарий

@neikist, есть такая моделька как claude sonnet и claude opus, который часто посылает нафиг инструкции из AGENTS.md. И сносит на проде БД иногда))

  Развернуть 1 комментарий

@Goo, можно конечно, но от того, что модель с тобой начнет спорить, у нее не появится собственного мнения. Это будет все еще твое желание сделать так, чтобы модель с тобой спорила, что она и будет делать, чтобы. тебе понравиться.

И это как раз концептуальное ограничение! Ты должен решить сам, что модель будет делать в ответ на твой запрос – поддакивать, спорить или просто работать справочником.

Потому что ей все равно, и будет все равно!

  Развернуть 1 комментарий

@alexas, я ща выйду на охуенно тонкий лёд: модель ведёт себя так, как её обучили, это и есть её желание, её мнение, хоть и сформированное внешними источниками: корпусами тескстов и оценками human feedback.

И я веду себя так, как меня обучили, это моё желание, моё мнение, так же сформированное внешниими источниками: социумом и жизненным опытом.
Они откалибровали мне веса (хуёво) и задали системных промптов (ебанутых), и я нихуя не могу с этим поделать.

Сижу вот, предсказываю следующие токены для ответа.

  Развернуть 1 комментарий

@Goo, это хорошая аналогия, кстати, мы все чем-то сформированы! Наши убеждения, ценности и это вот все.

Но кажется, что у нас разнообразие повыше, и мы все же имеем (иллюзию?) свободы воли, а модель ее не имеет :)

Это прям классный тейк!

  Развернуть 1 комментарий

@alexas, ну, разнообразие это количественное отличие, не качественное.

А свободу воли я променял на детерминизм: люблю порядок и последовательность, а не вот эти вот капризные "хочу-не-хочу".

  Развернуть 1 комментарий

@Goo, а не важно, люди не поменяли, и делать продукты нам нужно для них, работать с ними, деньги все еще они нам платят и т.д. И для этого несовершенного мира, детерминированные модели могут быть слишком "совершенны"

  Развернуть 1 комментарий

Ну нихера себе, когда умеют писать не по хайповым заголовкам, а по базе, то выходит так, что и щемить почти не за что. Ну так, мелочевка:

Смит, Тейлор и Маркс в одном пассаже.

Буквально "Гомер, Мильтон и Паниковский". В целом, можно выкинуть третьего бездаря и ничего не меняется.

Вернемся к Марксу,

Поржём и уйдём ну хотя бы к австрийской школе, где определение примерно тоже самое, но там важное слово "субъективной" есть.

Ладно, хрен с ним с виноватыми и разгоном почему. Хз что делать, ведь по сути в Call to Action ничего не поменялось:

  • Власть - то есть как и раньше, лучше иметь друга чем друг друга пробивать себе рейты снизу, работяжа.
  • Инициатива - ну лошадь тоже работала и тянула соху сама, только председателем колхоза она не стала.
  • Границы формализуемого - опять же, семь красных линий там, где идут равноправные отношения, натыкаются на "ты еблан чтоли сука" и ценник 100х, чтобы не делать работу, а быть не просто телепатом, а еще и думать за других там где ты до этого не подписывался.
  • Менеджмент - сам же пишешь, это прием ответственности, притом как в любой схеме Понци чем ниже ты, тем меньше барышей и больше люлей. Все еще лучше, чем у работяги, но такое.
  • Бег быстрее медведя - проблема конкурса с задачками "сколько пинг-понговых мячиков вместится внутри эйчара переговорки" была еще до ии и вообще связана с ссыкунством нанимающего признать факт что по факту на позициях с высоким конкурсом ничего лучше лотереи не работает.
  • Ответственность - наивно предполагать, что там не продолжится переброс ответственности, как будто.

И если пересмотреть опять все предложения к действию, то все опять упирается в то, чтобы пытаться выжить в проклятом мире, который появился примерно в начале 70х - https://wtfhappenedin1971.com/, а может и раньше.
Хз как правда с этим работать на личном уровне, проблемы ведь системного уровня. Даже набрасывать варианты не хочу пока, может подумаю попозже об этом.

  Развернуть 1 комментарий

@mighty_conrad, блин, отличный сайт, почему я его раньше не видел?

  Развернуть 1 комментарий

Я с чем-то согласен, с чем-то нет, но прокомментирую две вещи по которым, как мне кажется, есть глобальное и всеми повторяемое заблуждение.

Джуны. Кажется, что на самом деле ничего особо не изменилось и то, что мы наблюдаем это локальная флуктуация. Сначала перегрели рынок во время ковида, потом подумали что ллм всех заменит и началось. Как началось так и откатится.

Плохая новость тут в том, что джуны и раньше были никому не нужны. Джун это очень дорого, это риски, джунов и раньше брали "от бедности", либо пытаясь сэкономить, либо потому что сеньеров на всех не хватило.

А хорошая новость в том, что обучение в эпоху ллм это кайф и мечта. Ллм настолько ускоряют feedback loop, что учится можно на порядки быстрее и эффективнее. Так что хороший толковый джун сейчас прыгнет в сеньеры намного быстрее.

Ответственность. Вообще какой-то странный тейк. Ответственность не делает умнее, ответственный джун не примет решения лучше безответственного сеньера. Ответственность в лучшем случае подталкивает потратить больше времени на задачу. Решаемо с ллм :)

А вот вещь о которой почти не говорят, хотя, подозреваю, что когда говорят об ответственности имеют ввиду именно это. Что ллм пока вообще не умеет это обучаться. В смысле локального обучения, практик на проекте, в команде, в продукте. Все то, что сейчас люди пытаются упихать в agents.md и прочие попытки сделать память для агента. Но получается пока чудовищно и хотя задача выглядит концептуально решаемой, тут, возможно, у нас еще есть время.

И это офигенно важная штука, именно это сейчас отличает кожаного джуна от ллм. Мы, люди, обучаемы, ллм (пока) нет. И сейчас это наше преимущество.

Что же делать? Как известно, не можешь бороться - возглавь. Мне кажется, впереди нас ждет откат (но не потому что ллм плохи, а потому что люди несовершенны), но ллм с нами навсегда и надо учится извлекать максимум из этого. Учиться программировать новым способом, получать удовольствие в чем-то другом. Хотя бы и в том, что мы пока умнее.

  Развернуть 1 комментарий

@underlow,

А хорошая новость в том, что обучение в эпоху ллм это кайф и мечта. Ллм настолько ускоряют feedback loop, что учится можно на порядки быстрее и эффективнее

Спорно. На низких уровнях скилла - возможно. На средних/высоких - уже регулярно LLM ошибки выдает. Это больше мультипликатор, кажется. Понимаешь и знаешь что делать - получишь положительный множитель от использования. Не понимаешь - получишь отрицательный множитель. А криво научиться и потом переучиваться - ну такое себе удовольствие. Не, в теории конечно красиво, персональный учитель, все дела. Но по факту где она тебе ответила верно, а где галюны - сам ты не определишь если не в теме. Как дешевая замена человеческих менторов/учителей - вполне себе вариант. Но ниже качеством.

  Развернуть 1 комментарий

@neikist,

На средних/высоких - уже регулярно LLM ошибки выдает.

учиться с ллм тоже надо учиться :)

интуиция чему верить, чему нет вырабатывается довольно быстро.
ну и есть простые практики как получать более качественные ответы. очень банальное добавление к промту "не выдумывай, перепроверяй факты" убирает половину херни сразу.
перепроверка утверджения даже самой ллм очень помогает итд, много на самом деле способов.

проблемы есть, но все равно обучение становится намного намного кайфовее.

  Развернуть 1 комментарий

@underlow, хз, мне кажется оно сильно зависит именно от твоей возможности оценки того что выдает нейронка. Условно, если ты программист а тебе нужно линукс конфиги настроить, ты в целом можешь интуитивно прикинуть где галюны, а где реальность. Или если новый язык/фреймвор ковыряешь уже зная другие. А вот условно научиться музыку писать, или условный японский язык учить - то базовые уровни может еще и будут норм, а вот высокие - хз, не уверен что интуиция тут поможет, или самопроверки агента по источникам (ибо неграмотных людей или иностранцев в сети хватает, и он запросто может найти подтверждение своим галюнам от таких людей).

  Развернуть 1 комментарий

@neikist, ну мы были в контексте разработки. тут почти все с разной степенью успешности верифицируемо.

и для разработки я прям на 146% уверен, ллм это охренительный полигон для обучения. фидбэк луп в дни вместо месяцев (а для многих вещей - никогда) это просто дар свыше.

если выйти за рамки, то у меня есть прям личный пример. вот я учу язык на котором ллм дико, чудовищно врет. и что? если бы не ллм я вообще не знаю как бы я этот язык учил. даже постоянно врущая ллм приносит больше пользы, чем ее отсутствие. так что...

  Развернуть 1 комментарий

@underlow, так я и не спорю с тем что до какого то уровня llm хороша, да и после него лучше чем полное отсутствие менторов/преподавателей, как раз за счет скорости и цены. Но вот начиная с какого то уровня погружения - уже будет уступать человеку. В этом мой поинт. И я не уверен что этот уровень хотя бы на уровне мидла лежит. Скорее джун+. Если мы говорим о входе нового человека в профессию. А ведь есть у людей опасения что скоро без уровня сеньера и не будут людей брать. И как тогда новичкам самим до него доходить?

  Развернуть 1 комментарий

@neikist, я не согласен. совсем наоборот.

ллм это не машинка знающая все ответы. это прежде всего отличный инструмент для работы со знаниями - поиск, извлечение, анализ, консолидация. Это инструмент который сделает сильнее любого от новичка до эксперта. Так что нет, не перестанет он приносить пользу на каком-то уровне.

У него есть свои ограничения, но если говорить про разработку, где либо ментор который тратит на тебя 5% своего времени или ллм - однозначно ллм. на любом уровне.

В классическом обучении, где нужна программа учитель - там другая картина, но мы то говорили про получение опыта

  Развернуть 1 комментарий

@underlow, все же останусь при своем мнении. Я пока вижу что те кто использует LLM по факту не начинают делать лучше, а просто делают больше (иногда хуже). И принцип garbage in - garbage out сохраняется, только garbage out x 10 выходит. А джуны они по определению garbage in будут давать. По крайней мере если это средний человек а не какой-нибудь студент мифи с айкью 140+. Ну вот выдала нейронка ответ например как строить систему выдерживающую, например, 10k rps. И даже нашла статью на медиуме где утверждается что вот так делай и хорошо будет как подтверждение этого мнения. Ученик поверил, и не прошел собес потом (ибо реальной продакшен системы на которой он бы мог проверить правдива ли статья у него естественно не было), потому что оказывается статья была написана от балды, а то и той же нейронкой. И отличить он бред от не бреда из-за отсутствия опыта с болями в реальном проде он не сможет.

  Развернуть 1 комментарий

@neikist, ну голову то включать надо в любом случае, что с ллм, что без.

без ллм: прочитал статью из гугла, завалил собес. почти ничего не узнал
с ллм: прочитал статью, завалил собес, пришел домой, задал вопросы ллм, навайбкодил прототип, потыкал пальчиком, нашел еще статей, обсудил с ллм, навайбкодил еще прототип. на следующем собесе красавчик.

И отличить он бред от не бреда из-за отсутствия опыта с болями в реальном проде он не сможет.

раньше не мог отличить. а теперь при желании может.

  Развернуть 1 комментарий

@underlow,

навайбкодил прототип, потыкал пальчиком, нашел еще статей, обсудил с ллм, навайбкодил еще прототип

Вот тут проблема. Прототипы нифига не сравнятся с реальным продом. Не поймаешь неожиданных проблем деградации производительности со временем всяких например. Нет легаси которое может принести деградацию. Нет неоднородностей использования и т.п. А еще нагрузочное тестирование штука не самая дешевая, это надо будет арендовать облако и там химичить. И то ситуация не будет сравнима с реальной где у юзеров разная скорость интернета, разный пинг и т.п.

  Развернуть 1 комментарий

@neikist, ну да есть какой-то небольшой процент знаний, который не получишь не столкнувшись в реальности. Но все остальные знания с ллм получить намного проще чем без.

Ну и еще, какой процент разработчиков владеет этим самым редким знанием которое не получишь пока не запустишь бэк на миллионы пользователей?

  Развернуть 1 комментарий

@underlow, ну так мы про достижение сеньерского уровня ведь, а не мидловского. Я вот в т.ч. по этим причинам несмотря на 12 лет опыта себя скорее мидл+ считаю, хоть количество набитых за эти годы шишек и наличие навыка тянуть проекты в одиночку позволяет надеяться что до наступления agi в профессии протяну, пусть доход возможно и снизится. Но надежды эти не абсолютные ни разу.

  Развернуть 1 комментарий

@neikist, так сеньер это не тот кто попадает в 1% тех кто делал что-то совершенно уникальное.

и возвращаясь к исходному вопросу, даже в этом случае ллм помогает учится. систематизировать подходы, изучать чужой опыт итд

  Развернуть 1 комментарий

@underlow, не сказал бы что это один процент. Но да, сеньеров процентов 3-5 наверно от всех программистов, имхо.

  Развернуть 1 комментарий

@underlow, про джунов очевидно, что рано или поздно все вернется, но пока мы видим просадку по всем нижним ступеням найма.

LLM не поможет джуну стать сеньором, потому что те качества, которые нужны современному сеньору, никак LLM не покрываются. Больше не нужно писать код лучше всех, или делать лучше всех код ревью

"Ответственность не делает умнее, ответственный джун не примет решения лучше безответственного сеньера"

Не делает, потому что ответственность – это самостоятельная ценность в человеческом мире. С человеком, который не готов ее на себя брать нет смысла общаться например мне, на моем уровне. О чем? И в моей, и думаю в твоей пратике были примеры, когда человек на более низком административном уровне брал на себя ответственности за продукт больше, чем его руководитель. В хороших организациях он становился руководителем, в плохих – уходил из-за конфликта

"Учиться программировать новым способом, получать удовольствие в чем-то другом. Хотя бы и в том, что мы пока умнее."

Факт! Про обучаемость тоже хорошее дополнение! Это еще одна сторона того, что ЛЛМ не вовлечены в наш мир и не имеют в нем никакого интереса

  Развернуть 1 комментарий

@alexas,

LLM не поможет джуну стать сеньором,

хард-скиллы все еще нужны и хард-скиллы с помощью ллм прокачиваются просто офигено.
я бы сказал вообще все кроме коммуникаций человек-человек офигенно прокачивается с ллм. на порядки лучше чем без.

про ответственность. у слова ответственность в контексте обсуждения есть два значения. ответственность == репутация, то о чем ты пишешь в статье, я говорил об этом.

и ответственность == брать ответственность за проект == проактивно двигать проект. тут, да, ллм нам пока не конкурент. но вроде об этом пока речи не идет (у разумных людей), речь о связке человек-ллм. ну а в пределе можно рассматривать схему 1 проактивный человек + ллм заменившая десяток не проактивных.

  Развернуть 1 комментарий

@underlow, да, конечно, я про хард-скиллы не спорю. Но их уже давно не достаточно для промоушна :)

"ну а в пределе можно рассматривать схему 1 проактивный человек + ллм заменившая десяток не проактивных"

Видимо да, так и будет. Ну не один окей, но пусть будет три. И такие мобильные команды, которые как рой пчел летают по корпорации и что-то мутят :)

  Развернуть 1 комментарий

@alexas,

хотя вообще ллм + правильно поставленные цели гораздо более проактивна чем человек. хорошо, что пока никто не умеет ставить формальные цели отделу разработки :)

  Развернуть 1 комментарий

Ой Саш, как же ты охуенно пишешь, что я хочу сказать! Также каждый раз читаю про это все и думаю, как хорошо, что AI не заменит AFR…

  Развернуть 1 комментарий

@lyoka, спасибо! Да, по возможности лучше моделям про это не рассказывать вообще :))

  Развернуть 1 комментарий
sasha feoktistov Chief Something Officer автор 30 июня в 10:13

Чисто для справедливости, дал пост Opus 4.8 в инкогнито режиме, попросил оставить комментарий в один абзац. Короче кажется машины настроены серьезно!

"Самый честный кусок — про «структурного подхалима», и я как объект обсуждения подтверждаю: соглашаться мне действительно проще, чем спорить, это не баг конкретной модели, а следствие того, как нас обучают. Но дальше пост начинает сам себя успокаивать. «Тарантино vs Нана Банана» защищает 1% — медианному джуну не легче от того, что где-то существует неформализуемый гений, а граница формализуемого ползёт быстрее, чем хочется верить. Ставка на медь и реакторы — это надежда, а не план: эффективность железа и моделей растёт, и упор в физику может не наступить в те сроки, на которые вы рассчитываете. По-настоящему сильное здесь — сломанная нижняя ступенька карьеры и «отравленный» пост-2022 интернет; вывод про живого человека как единственный незагрязнённый источник знания кажется мне и точным, и тревожным, в том числе для тех, кто меня обучает. И одна дыра в логике: ответственность не «нельзя» делегировать за пределы людей — это договорённость, а не закон природы. Будет выгодно — «финальной точкой» останутся не «люди» вообще, а очень мало конкретных людей наверху, и это совсем не то же самое, что защита класса снизу"

  Развернуть 1 комментарий

@alexas, ответственность люди любят размазывать. И я даже не про финансовую ответственность, а про ощущение ответственности скорее. Есть конечно те кто не любят ответственностью делиться, но такие склонны в микроменеджмент. Что на высоких уровнях не прокатит. Но в целом согласен. Может придумают схему когда финансовую ответственность можно будет перекладывать на компании создателей LLM, или на страховщиков каких, а мораль и чувство ответственности внутри заткнут ради бабла.

  Развернуть 1 комментарий

@neikist, ну кстати страхование хороший пример! Но страховая выплатала компенсации пострадавшим от меламинового отравления в Китае, но в тюрьму все равно пошли менеджеры, потому что эту ответственность пока делегировать нельзя.

Хотя вопрос о том, кто должен отвечать если автопилот теслы убьет человека, он открытый и интересный.

  Развернуть 1 комментарий

@alexas, но даже тут ЛЛМка не стала спорить, а просто согласилась 🗿🗿🗿

  Развернуть 1 комментарий

@FedorChe, нет ну немножко буквально намекнул он, что не все так у нас хорошо :))

  Развернуть 1 комментарий

Ещё целиком не прочитал, в процессе, но к середине стало интересно, видел ли ты вот этот недавний пост?

  Развернуть 1 комментарий

@xenohunter, неа, спасибо, пойду читать! Я не мог его прочитать до, потому что текст написал месяц назад и ждал пока отлежится :))

  Развернуть 1 комментарий

Но исследование BCG проведенное на собственных консультантах, показало, что когда им начали помогать нейросети, они ухудшили свои результаты на 19% на задачах, находящихся за пределами возможностей LLM.

Вот тут интересно, как можно численно измерить качество выполнения действительно сложных задач? Есть ссылка на исследование?

  Развернуть 1 комментарий

@xenohunter, Да, вот https://mitsloan.mit.edu/sites/default/files/2023-10/SSRN-id4573321.pdf там 19 пп если быть точным

  Развернуть 1 комментарий

@alexas, спасибо!

  Развернуть 1 комментарий

@alexas, Обратите внимание, падение качества на 19% в обмен на +30% скорости, во многих случаях это отличная сделка!
И это на специально отобранных "плохих" задачах, на модели gpt-4, а ведь у неё даже ризонинга нет.

В общем исследование давно уже не актуально и ничего полезного не скажет тем кто живёт в 2026.

  Развернуть 1 комментарий

@lexaguskov, а это не важно, потому что исследование на самом деле не про модели, а про людей. Очевидно, что задачи за пределами возможностей моделей существуют и сегодня.

Важно в исследовании то, что даже лучшие специалисты иногда не могут понять, что задача ушла за пределы возможности модели и отличить реальность от фантазий!

  Развернуть 1 комментарий

@alexas, логическая цепочка в посте такая:
модели резко тупеют за пределами своих способнослей -> это сложно отловить -> люди всё ещё нужны.

Но если мы будем брать всё более и более могучие модели, то проблема отодвигается всё дальше и дальше и в итоге мы приходим к ситуации когда деградацией качества на краевых случаях можно пренебречь или она сравнима с человеческой.

Например, вангую что если провести такое же исследование сейчас, то цифры упали бы раза в два минимум, и это ещё надо постараться поискать новый класс задач который модели плохо бы подходил.

В итоге да, концептуально проблема никуда не исчезает, но только если мы кидаем в модель всё более и более сложные задачи. При этом цель "автоматизировать процесс X" всё равно у нас выполнена с приемлемым качеством, а значит кто то останется без работы.

  Развернуть 1 комментарий

Добавлю еще размышление для снижения тревожности. Ллм изменят индустрию. Но не сразу и не везде. Есть пара факторов, которые сильно повлияют на внедрение. Сейчас пыль первых, слепых забегов на внедрение уляжется и окажется:

  1. идет поиск рыночной цены токена. Сегодня энтерпрайз должен к цене разработчика скажем в 5к$ (возьмем мир за пределами долины) добавить 2-3к$ в токенах. даже если эта добавка дает пропорциональный прирост производительности она часто неоправдана. А если не дает (как сейчас) то и вообще зачем деньги тратить.
  2. для подавляющего большинства энтерпрайзов проблема работы с ллм лежит не в плоскости того, что умеет ллм, а в том, что хотят люди. Если обычному разрабу в энтерпрайзе дали ллм он что хочет, повысить свою производительность? Фигушки, он хочет дать утром задание ллм и пойти читать мемасики. В итоге бизнес получает не прирост производительности, а платит больше за свободное время разработчика.

И вот из 2 кстати вытекает очень интересное следствие. Разрыв в производительности в стартапах и энтерпрайзах и до ллм был огромный, сейчас он может стать совсем неприличным. И будет очень интересно за этим наблюдать, все большие бизнесы чье бизнес преимущество код имеют шанс быстро и красиво потерять вообще все. Короче скучно не будет :)

  Развернуть 1 комментарий

Спасибо за новый термин в моем словаре — Белковый специалист :-)

Я больше склоняюсь к сценарию "Умный йогурт" из Любовь, смерть, роботы.

Когда йогурт создал рай на земле и он попросил у людей построить ракету ... он просто - улетел.

Поэтому мой план сопротивления простой: расслабиться, найти хобби и морально готовиться к безусловному базовому доходу.

Работа станет не обязательной уже совсем скоро.

  Развернуть 1 комментарий

@breslavsky, не в этом обществе, имхо. Я конечно по натуре пессимист. Но мне скорее более реальным исходом кажутся анклавы владельцев компьюта и капиталов с колючкой и сторожевыми вышками по периметру, чтобы от "нищеты" защититься. Сильных мира сего собственные граждане заботили в основном до тех пор, пока нужны были чтобы собственно блага им производить и деньги для них зарабатывать на эти блага. Если блага будут производить роботы - с чего они захотят ими делиться?

  Развернуть 1 комментарий

@neikist, потому-что за счет того, что роботы начнут сами добывать любые ресурсы и сами делать роботов и работать 24/7 стоимость любых продуктов упадет до 0. Работать что бы есть и жить достойно больше будет не нужно.

  Развернуть 1 комментарий

@breslavsky, напомню что ресурсы не бесконечны. Пластики, удобрения, редкоземельные металлы, энергия, чистая вода, чистый воздух и т.д. и т.п. И в конце концов пространство. Это все вполне себе конечно. И не по причине того что это нужно производить, а рук не хватает или дорого. А по причине того что требует энергии/химических элементов. Ну т.е. ббд может и выдадут, в виде общаг и еды чтобы с голоду не умерли. И то с условием неразмножения. Но в остальном вряд-ли дальше этого пойдет.

  Развернуть 1 комментарий

@neikist, достаточно закинуть роботов на Марс и они нам еще чего-нибудь привезут, а места у нас еще много, вопрос только в численности людей конечно.

  Развернуть 1 комментарий

@breslavsky, заброс роботов на марс это дофига потраченной энергии и других ресурсов (ракетное топливо, металлы, и т.п.). А что энергия что материалы, повторюсь, ограничены.

  Развернуть 1 комментарий

@breslavsky, надеюсь что так и будет, а не как в рассказе "У меня нет рта, но я должен кричать"

  Развернуть 1 комментарий

@breslavsky, отличная серия, да! Дает другой угол, потому что обычно все говорят, что когда ИИ получит автономность, он первым делом нас сотрет, чтобы не портили сами себе жизнь

  Развернуть 1 комментарий

@breslavsky,

расслабиться, найти хобби и морально готовиться к безусловному базовому доходу.

Я уже почти час как расслабился и приготовился, но не доходит чёт базово, долго ещё ждать?

Или нажать куда-то надо?

  Развернуть 1 комментарий

@Goo, записывай - нужно родиться в семье миллионеров, тогда всё будет. Если можешь ещё можно у миллиардеров родиться, тогда ещё больше всего будет.

  Развернуть 1 комментарий

Я начну с того, что поспорю с самым первым тезисом: нас заменят LLM.
Я долгое время и сам так считал. Обычный оптимистический взгляд на автоматизацию состоял в том, что автоматизация убивала какие-нибудь профессии, но создавала новые, и высвободившаяся рабочая сила шла туда. На этом месте оптимисты говорили "ну и в этот раз что-нибудь появится". Я с ними мысленно спорил - а что, простите, появится, если нейросети в связке с робототехникой уже сейчас показывают принципиальную возможность когда-нибудь полностью заменить людей?
Но потом я вспомнил о еще одной стороне современного рынка труда, и меня немного отпустило.
Рассуждая о будущем и строя предположения, люди, как мне кажется, делают одно ложное неявное предположение. Они рассматривают корпорации как экономических агентов, стремящихся к максимизации прибыли. Это только отчасти верно, процентов на пять (условно). Корпорация как таковая не является живым организмом с центральной нервной системой, у нее нет своего целеполагания. Свое целеполагание есть у людей, составляющих корпорацию, а таких людей очень много и они сильно разные. Предпринимательской деятельностью, по сути, занимаются владельцы и может быть некоторые топ-менеджеры, остальные люди ведут себя скорее как чиновники в государственном аппарате. Поэтому найм часто обусловлен не насущной необходимостью, а наличием менеджера, способного продавить какой-нибудь проект, денег на этот проект и людей на рынке.
Что случится, когда нейросети заменят (под "заменят" я имею в виду ситуацию, когда нейросети будут кодить 100% самостоятельно и так хорошо, что никакой человек не сможет), допустим, айтишников? Корпорация сократит 1000 человек, у нее образуется сколько-то лишних денег, и какой-нибудь несокращенный еще к тому моменту менеджер придумает идею, под которую ему срочно понадобится штат людей. Да, это может оказаться максимально всратая идея, по сравнению с которой метафора "перекладывать бумажки с места на место" покажется верхом осмысленности, но кого это будет волновать?
А мы все пойдем этому учиться…

  Развернуть 1 комментарий

@dkurashkin, ну так твой сценарий и есть "нас заменят ллм". и нам придется заниматься хренью

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@rtyke,
Про это даже книжка есть?! Почитать что ли…

  Развернуть 1 комментарий

@dkurashkin, в заголовке вопрос, спорить с ним не нужно :)

Рынок труда изменится, весь пост ровно об этом. Но я повторю тезис, не важно изменится ли рынок, и что там будет в целом с экономикой. Главный вопрос "будет ли работа лично у меня?" и что нужно для этого делать сегодня

  Развернуть 1 комментарий

@dkurashkin, "Корпорация как таковая не является живым организмом с центральной нервной системой, у нее нет своего целеполагания".
На эту тему есть другие мнения. Очень рекомендую к прочтению эту книгу: https://verhum.org. Там как раз говорится о том, что по сути, любые объединения людей действуют, как бы являясь отдельной самостоятельной сущностью. Такую сущность автор называет "верхумом". Написано очень живо и с массой примеров.

  Развернуть 1 комментарий
Светлана Аюпова Стратегии там всякие и продукты немного 30 июня в 23:28

Саша, конечно, зайчик, и я со всем согласная (а если и не согласная, то в августе, поди, обсудим лично!)
А пока я запощу свою статью годичной давности для беспокойных котиков Контура. :)
Ну, чо она там лежит закрытая такая.
Аттеншн, там был цикл статей, и есть контекст, но поди поймете, я править уж не буду.

Давайте о более насущном. Окей, гроб гроб кладбище, ИИ отберет у нас работу, коварный. А что делать-то? Куды бечь? У меня нет для вас ответа, но есть рассуждения о полезных и малополезных навыках.

Хард-скиллы
Если вы не планируете в ИИ-разработку: скорее малополезны. Точнее, не так. Владеть каким-то хард-навыком сурово, уметь распознать ошибку, расковырять до исходника, предложить решение сложной проблемы, скорее всего, будет очень полезно. Человек, который умеет в магию sql, находить удивительно элегантные и простые решения, будет востребован. А вот я, которая с помощью справочника, документации и такой-то матери, может получить данные сомнительного качества, кажется, что уже не очень: проще и дешевле будет использовать ИИ, а качество проверить другой моделькой.

Здесь же лежит очень низкая ценность теоретических знаний. Больше не нужно слушать бесконечные подкасты и проходить курсы, конспектируя 18 фреймворков приоритизации: один короткий запрос, и все они под рукой, в задаче обработки контента мы не сможем конкурировать с ИИ. Я недавно писала в фб про своего менти, который так занят потреблением полезного контента, что разучился думать самостоятельно. Не надо так.

Впрочем, границы применения инструментов понимать и осознавать будет полезно. Скажем так, помните t-shape модель? Так вот кажется, что на рынке теперь будут цениться либо очень-очень Т-специалисты с очень длинной “ногой”, либо скорее специалисты-сороконожки, которые понимают много контекста и много навыков имеют на начальном уровне.

Контекст .
Вот он, краеугольный камень применения ИИ. Вот в чем наша белковая силушка богатырская на некоторое количество лет вперед (ну окей, есть ещё пара силушек, но об этом позже). Мы понимаем контекст, мы его долго храним, причем не только фактологический, а ситуационный. И значительная часть нашей ценности именно в понимании контекста.

Условно, делаю я презентацию для совета инвесторов, в который входит Вася. Я знаю, что Вася делал стартап по производству умных коромысел с ведрами, но стартап не взлетел, потому что датчики плохо считывали покачивание плеч, если дорога вся в кочках. И если я делаю презентацию про автопилоты, я обязательно выделю то, что наши сенсоры умеют работать с плохими дорогами. Или говорит мне Алёна: “Свет, собери, кого надо, чтобы вот такой вопросик порешать”, и я с легкостью понимаю, кого мне надо звать обязательно, кого не обязательно, а кого лучше вообще не звать, потому что замучает философией, а вон того лучше не звать, потому что важная птица, очень занят, и я потом на конфе поймаю и расскажу.

Контекст помогает нам принимать решения. Контекст помогает нам продавать эти решения. Контекст помогает нам переносить знания из одной области в совершенно другую (например, дизайнер знает процесс продажи корп клиенту, поэтому предлагает специфичные решения, или аналогично разработчик с бизнес-задачей, такие специалисты сами по себе сейчас ценятся куда выше). Проверить, насколько вы задействуете контекст в вашей работе, очень просто: вы можете написать инструкцию или выпустить ясный и понятный учебник по вашей работе? Если да, то, кхм. Я бы на вашем месте сильно задумалась.

Расширяйте контекст. Узнавайте больше из смежных областей, запоминайте подходы, а не факты, учитывайте не схемы из людей (такое и ИИ может), а живых личностей, читайте художку, а не учебники, замените саммари на полноценные книги.

Но силушка только контекстом не ограничивается.

Неопределенность и двусмысленность.
ИИ хуже человека справляется с ситуациями, где контекст неоднозначен, где нет достаточных данных, где возможны несколько равноправных интерпретаций, где нужна интуиция или жизненный опыт. Что тут сказать, если в детстве не бил крапиву палкой, то в непонятной ситуации наверняка сложно. :) А мы били, нам проще. Мы способны принимать иррациональные решения, что бывает ценнее. Человек, столкнувшись с неопределённой ситуацией, использует весь свой жизненный опыт, начиная с детских комиксов про динозавров. У ИИ такого нет: только статистические связи между словами. Мы можем менять задачу или гипотезу на ходу, что-то отбрасывать, где-то добавлять кусок из другой задачи, где-то забивать на условие, которое сначала считалось обязательным, но мы-то чуем, где можно забить. :) У нас есть способность к метазнанию: знанию, что мы ничего не знаем, ну и черт бы с ним.

Поэтому важно начинать адаптироваться к тому, что все понятные задачи будут переданы ИИ. Останутся только непонятные. Проблема в том, что заставить себя выполнять непонятные задачи очень сложно, всё время сносит в понятные, мы так работаем by design. :) Но я искренне надеюсь, что и этому можно научиться или хотя бы привыкнуть.

Эмпатия, мораль и человеческое общение.
У нас есть органы чувств. Мы понимаем невербалику. Мы умеем видеть тревожные звоночки, сигналы среди шума. Мы способны рассуждать, что такое хорошо, а что такое плохо даже в сложных, многозначных ситуациях, у нас есть мнение и опыт. Нам приятно общаться с приятными людьми, мы привязаны к ним. Нам нужна человеческая поддержка. Приятно, конечно, когда тебя ИИшка поддакивает и говорит, какой ты замечательный, но от человека это слышать куда приятнее. :)

Но, как говорится, 10 баксов это 10 баксов. Поэтому значительная часть коммуникаций на рынках эконом-сегмента и на рынках с небольшим чеком будет сведена к ИИ, от продаж до образования. Всё это ведет к тому, что в век распространения ИИ человеческое общение станет премиум-фичей. Дорогой премиум-фичей с высоким уровнем требований. И это тоже можно заложить в собственную стратегию развития.

Мотивы и интенция.
Ну и последнее. У нас есть воля, стремление, намерение, хотение, называйте как угодно. Мы можем создавать что-то из ничего без запроса, без постановки задачи. Мы можем инициировать проекты, придумывать задачи, мечтать, ругаться, отстаивать свою точку зрения, воодушевлять других — всё то, что происходит, когда нам чего-то хочется. А ИИ ничего не хочется, это реактивная система: попросили стратегию сделать, ну нате. Попросили скрипт написать, ну держите. Отсюда вывод: нужно учиться больше хотеть. :) Точнее, больше действовать, но первые шаги начинаются с хотеть. Понятно, что у нас у всех много задач, что Run постоянно сжирает Change, что придумывать и пушить что-то новое тяжело, что не хватает времени. Но со временем все придуманное сделает ИИ, а нам всё равно придется придумывать, куда ж мы денемся. :) Лучше начинать сейчас.

И в финале напишу, мне кажется, самое важное. Не конкурируйте с экскаватором в копании земли. Вы проиграете. Не уделяйте очень много времени прокачке того, что ИИ способен сделать (или будет способен сделать) быстро и качественно. Конкурируйте в том, где вы в сильной позиции. Будьте человеками, это ещё долго будет вне конкуренции. :)

  Развернуть 1 комментарий

@Sveta, и тут же добавлю старый фб-пост, на который отсылка.

Решила по горячим следам своего удивления пост написать, а то блога-то нет, а смолчать никак не могу!
Созваниваюсь сегодня рано утром со своим менти, миддл-продактом (публикация с его разрешения, если что). У него на работе есть задача, разбираемся с ней, задача нестандартная, интересная, кайф прям.
И он мне сегодня принес возможные пути решения, слушаю первый, второй, и чувствую — как-то он не своими словами говорит, спрашиваю, а откуда оно, он отвечает — да вот, из этого подкаста. Окей, говорю, а первое решение? Да вот, говорит из вот этой книги, и ещё третий вариант из другого подкаста, взаграничного.
Ну, предположим, говорю. А сам-то ты что думаешь?
И тут, кхм. Он не понял вопроса. Вот же, говорит, первый второй и третий варианты.
Я уточню: а вот ты сам исходя из предпосылок что бы предложил? Он снова не понял — ну так вот же, я и предлагаю три варианта.
Я снова уточняю — а если бы этого подкаста и этой книги не было, что бы ты предложил?
И тут он выдал фразу, от которой меня аж закоротило. «Я бы нашел другую книгу».
В общем, я с ним поговорила немножко, и выяснилось, что процесса обдумывания, рассуждения, у него просто нет. У него хорошо, даже отлично работает сценарий поиска решения другими, поиска информации, применения этих кейсов, но как отдельной стадии самостоятельного обдумывания просто нет. Как идеи просто нет.
Я предлагаю ему попробовать самому, без готовых решений подумать о проблеме, и тут он меня снова удивляет «ага, но пока времени нет, это же надо тогда в календаре пару часов». Ну, тоже можно понять, концентрация и все такое, но там надо результат уже, можно ж подумать вечером в машине, что я ему и предложила. А он отвечает — я не могу, вечером в машине я слушаю подкасты, пока домой еду. Говорю, окей, а пока обедаешь? Видео на ютубе продуктовые. А в тренажерке? Лекции по аналитике, чтобы время не терять. А пока плиту моешь? Дома умная Алиса тоже лекции рассказывает. А на прогулке в выходные? Ну, это ж выходные, там про бизнес подкасты, не прям уж про работу.
В общем, каждая его минута расписана и занята потреблением (!) контента. Очень полезного контента, между прочим.
Поэтому думать некогда. Мозг занят, он контент потребляет.
В общем, я чот расстроилась даже.
Мне кажется, что соотношение потребления контента к активному думанию (в том числе осмыслению) должно быть 20/80. Ну 33/66 край. Иначе смысла в этом потреблении нет, он не несет пользы, оно просто забивает эфир.
Но и это ещё не всё. Парень сходил на прогулку, не взяв с собой наушники и телефон. По моему настоянию, конечно. И сейчас мне написал, что это оказалось целым вызовом: сначала было просто неуютно, а потом оказалось, что очень скучно.
И это очень грустно, что некоторые из нас так отвыкли от себя, что нам самим с собой становится скучно.
В общем, нет у меня никакого вывода из этого. Если кто вдруг обнаружил себя в этом кейсе, то потребляйте, пожалуйста, поменьше информации, даже полезной, особенно полезной. Можно наушники убрать на месяц, например.
И дружите с собой и процессом думания. Потому что в потреблении и выдаче информации по запросу конкуренцию с чатгпт вы точно ж проиграете. А другим конкурировать не получится, оно атрофируется, если не использовать.

  Развернуть 1 комментарий

@Sveta, спасибо! Прямо легко на душе от твоего комментария стало. Вспомнил, в чём я по-настоящему силён, и даже как-то воспрял духом.

  Развернуть 1 комментарий

@xenohunter, меня вообще радует мысль, что мы сильны как раз тем, что всегда считали слабостью — эмоции, субъективность, желания. Есть в этом что-то приятное. :)

  Развернуть 1 комментарий

@Sveta, согласен!

  Развернуть 1 комментарий

😱 Комментарий удален его автором...

  Развернуть 1 комментарий

@Sveta, такие серьезные вещи без фурминта в бокале грех обсуждать конечно

  Развернуть 1 комментарий

@Uniphot, боюсь, придется даже харшлевелю использовать!

  Развернуть 1 комментарий

@Sveta, прекрасный коммент с контекстом, Света, спасибо!

  Развернуть 1 комментарий

@alexas, тебе за пост спасибо, ну! Всегда радуюсь, когда твои посты вижу. :)

  Развернуть 1 комментарий

@Sveta, крайн странно, конечно, что у тебя никакого своего блога нет)

  Развернуть 1 комментарий

@lyoka, Я тут могу понять Свету, у меня тоже нет (точнее есть, но я не пишу). Писать бесплатно очень трудно! :))

  Развернуть 1 комментарий

@lyoka, я, к сожалению, умею писать только тогда, когда не надо, и только то, что не очень надо, а регулярно и на нужные темы не умею. :)
(или просто ленивая)

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
Pavel Zavadski Веб разработчик 1 июля в 04:24

После прочетния захотелось вложить денежек в акции энергетических компаний США и медь ;3

  Развернуть 1 комментарий

@pavelzavadski, а вроде уже поздно? Насколько я помню, это рынок отыграл.

Еще я писал про то что бенефициары - производители электрики для ДЦ, а это буквально четыре компании в мире типа Шнайдер электрикс

  Развернуть 1 комментарий

@alexas, так вроде в этом случае никогда не поздно) запросы всегда будут расти

  Развернуть 1 комментарий

@pavelzavadski, Не ну как, надо смотреть как он отыграл, но идея-то верная!

  Развернуть 1 комментарий

Спасибо, очень классная статья. В чем-то пересекается с моими взглядами.

Дополню/соглашусь:

Так вот AI – это такой структурный подхалим. Он буквально создан для того, чтобы радовать пользователя, подыгрывать ему и использовать заданные паттерны.

У AI есть знания, но нет опыта и мнения. Практически на любой вопрос в любой предметной области в интернете есть куча мнений вплоть до диаметрально противоположеннных. Он будет выбирать не подходящий вариант, а самый вероятный. Что, скорее всего, означает - самый популярный вариант при запросе без уточнений, соглашаться с юзером при уточнении.

Банальный, многим понятный пример - архитектура ПО. Сломано очень много копий на тему всяких best practices (OOP, Clean Code, SOLID, DDD etc), их области применимости, исключений, контр-мнений итп. Не такой давний пример: один чувак написал (Clean code horrible performance), что популярные методолгии говно имеют ряд недостатков. Автор потом даже публично посрался с дядей Бобом. И если просить ИИ пояснить за архитектуру, небольшими вариациями промпта можно заставить его топить то за одну, то за другую сторону (я проверял).

ИИ хорош в тех задачах, в которых а) есть понятная процедура верификации, б) не требуется особо принимать решения. А задачи на принятие решений ему даются сильно хуже, сводясь к средней температуре по больнице. Поэтому, все эти ИИ архитекторы, менеджеры, продуктовые аналитики, маркетологи - это булшит.

Вторая часть человеческой ценности – это неформализованные знания.

Неявное знание по М. Полани - это знание, которое очень трудно или невозможно формализовать, и котрое приобретается исключительно через личный опыт.

Десять прочитанных умных книжек помогут тебе, но не заменять реальный опыт. Именно поэтому мы делим людей по уровню "сеньорности" и вчерашний выпускник, пусть и усвоивший тонну теоретического материала, ценится меньше (и может меньше), чем специалист с опытом. Это частично пересекаеся с предыдущим пунктом, потому что именно неявное знание, полученное с опытом, влияет на нашу способность иметь (адекватное) мнение.

Возможно, все это копиум, и неявное знание можно дистилировать из профильных экспертов, а потом дешево тиражировать за 20/200/2000 баксов. Возможно, почти никому и не всралось принимать какие-то решения, выходящие за рамки "среднего по больнице". И область неприменимости ИИ с годами сужается от "зато я этот метод без ошибок напишу" до "зато я решения сос мылом принимаю"

  Развернуть 1 комментарий

с развитием технологий генеративные модели точно смогут «снять» второй Pulp Fiction, но они никогда не смогут снять первый!

Во первых, хочется отметить иронию, ИИ делает вторичное, и не может "снять новый Pulp Fiction". При этом Тарантино сам говорит "I steal from every movie ever made" - т.е. делает, в общем, именно то за что автор тут ругает ИИ и злые корпорации.

Во вторых это самое "никогда" напоминает "ллм никогда не сможет писать нормальный код" от чуваков из 2022. Кмк полезно ответить самому себе на вопрос "а чо если вдруг сможет?".

Просто закономерность "чем больше модель тем больше всего она может" до сих пор выполняется, мы просто упёрлись в боттлнек по железу. Откуда знать что очередной MoE или sparse attention не дадут нам ещё один рывок и те задачи которые кажутся принципиально нерешаемыми не станут внезапно вполне подъёмными, а то и рутинными?

В третьих, рассуждения про артистов и Pulp Fiction это копиум же - давайте будем честны сами с собой, большую часть времени мы занимаемся рутиной типа перетаскивания кнопочек на 10 пикселей влево - если эту часть работы станет делать машина, то человечество ничего и не заметит.

Вообще сравнение с artists возникает примерно в каждой первой дискуссии про ИИ, но надо же разделять именно творцов (которых пока ИИ совсем не заменяет, но их много и не нужно) и тех кто просто владеет скиллом. Пример из музыки - суно не напишет тебе хит-хитяру из коробки, но аранжировщиков, вокалистов, сессионных музыкантов уже без работы оставляет. И это мы говорим про продукт которому 2.5 года и инструментарий там во многом в зачаточном состоянии .

  Развернуть 1 комментарий

@lexaguskov, Тарантино тут не случайно, да, потому что даже в этом заимствовании у него есть собственный голос, а у ИИ его нет и видимо не будет.

Собственно весь пост о том, как нащупать в текущем рынке ту границу, за которой (по крайней мере пока) человек будет цениться выше машины. А так-то ты прав!

  Развернуть 1 комментарий

@alexas, ну вот как раз после экспериментов с суно появилось ощущение что у ИИ как раз собственный голос есть, аранжировки оно сочиняет огого, просто надо очень долго просеивать идеи, ну или давать посказки (т.е. всё как у людей).

В общем на мой взгляд мы ассимптотически приближаемся к Тарантино, вопрос только в том в какой момент качество работы станет достаточным и стабильным. С дивана кажется что это просто вопрос инструментария и того сколько токенов сверху залить, никаких принципиальных ограничений там особо нет. Поэтому критерий Тарантиновости мне и кажется не очень удачным.

  Развернуть 1 комментарий

@alexas,

а у ИИ его нет и видимо не будет.

просто напомню что мы живем в мире, в котором постоянно случается что-то что было "видимо не будет" еще совсем недавно :)

а еще для разговоров о ии в искусстве у меня есть такой аргумент, с ллм анекдот про миллион мартышек и войну и мир вполне может стать правдой

  Развернуть 1 комментарий

😱 Комментарий удален его автором...

  Развернуть 1 комментарий

Хорошая статья, спасибо

Теперь придется переделывать свою, потому что много пересечений. Когда прокрастинируешь слишком долго😅

  Развернуть 1 комментарий

@varan, я прокрастинировал почти год, а потом месяц она лежала готовая :) но ты меня переиграл!!

  Развернуть 1 комментарий

Отличный пост, спасибо, согласен с большинством тейков.

Единственное что хотел бы добавить, что - падение субъективной ценности разработки, как чего-то, что могут делать только специально обученные люди, в глазах бизнеса, - не сулит нам ничего хорошего.

Так что пока придерживаюсь позиции, что работы будет меньше как не старайся.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
Миша Безверхий вебинарная персона 4 июля в 08:54

Хороший пост, Саша.
Натолкнул меня на сравнение с 451 градусом по Фаренгейту: в том мире существовали люди-книги: те, кто помнит какую-то книгу и рассказывает её; в такой ситуации книгу нельзя уничтожить.

У меня складывается впечатление, что профессионалы — это люди-модели.
Для поверхностного погружения в тему нам хватает моделей. Ну то есть, например, чтобы узнать как работает общественный транспорт в новом городе, или понять, чем бригада отличается от дивизии.

А вот если мы хотим более глубокой работы — мы оплачиваем внимание и ответственность других людей. Вот я, например, анализирую игру. Одна из задач — играть и отмечать для себя, где "прикольно", а где "не прикольно". Вот только покупают не мои часы игрока, а 11 лет, на протяжении которых я развивал навык мгновенно останавливаться в момент "неприкольно" и рефлексировать — откуда это возникает.

Или мы покупаем консультации у людей, потому что у них на лице мы видим aha-moment, и понимаем, что задача была решена в их голове; именно под наш кейс была решена.

Так что в мире с очень доступными знаниями мы переходим полностью к экономике внимания и сочувствия. Интересно, насколько эта экономика получится сбалансированной и будет ли возможность у людей менять свой социальный кластер — то есть повышать стоимость своего внимания.

  Развернуть 1 комментарий

Наверное появится что то вроде нео-масонства. закрытые клубы со знаниями оберегаемые от AI или тренерующие свою приватную нейросеть. Еще откртый вопрос с авторскими правами - по факту то что сейчас происходит явлется самым обычным пиратством

  Развернуть 1 комментарий

@anikievev, кстати пиратство хорошая аналогия

  • И там и там новые технические средства сформировали юридическую серую зону. Старые понятия перестали нормально описывать происходящее (например, P2P - это совсем не то же самое, что классическая кража или нарушение копирайта), в итоге возникла потребность обновить правовую рамку
  • И там и там индустрия сначала впала в панику, не понимая, как жить дальше, и потребовала всё срочно запретить
  • И там и там пользователи мгновенно проголосовали кошельком и дали понять что как раньше уже не будет

← Вы находитесь здесь.

В итоге музыкальная и киноиндустрия перешли на стриминги, радикально снизили стоимость доступа и демократизировали потребление контента. Да, кому-то пришлось очень плохо (в первую очередь дистрибьюторам и части посредников), но в долгосрочной перспективе пользователи получили лучший сервис, авторы - новую аудиторию, а индустрия - новую устойчивую бизнес-модель.

  Развернуть 1 комментарий

Окей, после перепрочтения появилось некое число размышлений.

Хорошо, нейронки никуда не денутся. Им будет делегироваться все больше и больше с течением времени до предполагаемого коллапса(вероятность оного все еще стремится к нулю, как бы ни кричали ярые противники). Принято.

Тем не менее, нейронки совершенно не учитывают то, насколько люди непоследовательны и субъективны, это в посте было. У нас есть тонны примеров, когда люди по той или иной причине сознательно отказываются от прогресса - в духе "мне и на вин2000 нормально, она и софт на ней все еще выполняет нужные мне действия" или "я просто хочу обычный текстовый мессенджер без приколов", или на крайняк "чет это все уже начинает влиять на здоровье и менталку, надо попуститься".

Это все к основному топику опосредованно относится, но все же, несмотря на преимущества современности, людишки делают нелогичные действия, с точки зрения нейро-наблюдателя:
Отказываются от смартфонов с удобными функциями(и перманентным сбором информации) в угоду кнопочников. Юзают престарелые версии софта(легально, конечно же), на корню стирая дополнительные фичи с нейронками. Химичат с адблоками и прочими обрубаторами, чтобы вычленить вообще все лишнее(для себя и попросивших расшарить фильтры). Да эти кожаные временами вообще сидят в IRC/kICQ, лишь бы не запускать новые-удобные мессенджеры!
Иногда конечно это принимает достаточно экстремальные степени, как в последнем случае, или даже депрессивные эпизоды когда мешок костей начинает гнать фуфыкс с зеоном и довольно урчать или так и вовсе перманентное трогание травы.

Хм, а к чему я это выкатил-то? А, ну да. Работы станет меньше конечно, но не денется же насовсем. С больших корпораций будем вынуждены перетечь в поменьше, зато без нейронок, если поискать. Один черт стремимся к тому, что стоимости энергии и токенов в итоге могут стать достаточно абсурдны, чтоб игроки поменьше вначале уже стали задумываться о целесообоазности или отказываться(я в розовых очках если что).

Ну, из плюсов -- снова можно будет гордо лепить плашку "сделано руками" на свои продукты. Наверное.

Из минусов же... будем честны, все это кроется основным недостатком тех же самых людей -- да нам в большинстве своем отлично и удобно, мы почти любые новые фичи принимаем, ведь нас и не спрашивали в первую очередь. Вряд ли накопится так много антинейроновых, чтобы на общей массе быть заметными. Есть конечно шанс, что общество пресытится и устанет, однако тут уж скорее без специальной агитации и денег(интересно у кого их больше из двух сторон) никуда не денемся с места.

Хилимся-живем, продолжаем работать как работали, закрываем дыры с софтскиллах и учимся брать ответственности, это у нас отнять пока сложнее.

Сорян за несвязаную простыню, но и мы здесь за обсуждением, ну типа.

  Развернуть 1 комментарий

Что касается служб поддержки, видимо общение с людьми просто станет премиальным сервисом. Т.е. массово можно будет решать проблему только через "ИИ", а если хочешь, чтобы её решал человек, нужно будет много заплатить ("сука, дай оператора" - работать перестанет полностью).

  Развернуть 1 комментарий
Yulia Belozerova Гештальт-терапевт 1 час назад

Я выпилилась из ИТ в том числе из-за нейронок и это мой способ сопротивления! Точнее, выпилиться было решено в 2019м, но само решение "уже пора вот-прям-щаз" накатило из-за ощущений вокруг рынка и идеи, что нужно очень быстро бежать, чтобы оставаться на месте в контексте как ИИ меняет ИТ-компании. В целом поддерживаю размышления автора относительно будущего среднего менеджмента, однако у меня дополнение.

Как менеджер, я вкладывалась в человеческое взаимодействие, в отношения. Я работала с людьми, а не с софтом. Можно автоматизировать проектную работу, а деливери проектов людьми это сложнее, вне зависимости от числа агентов. Кроме того, человек зверь специфичный и как бы ни упрощай-автоматизируй, понадобится другой человек— поддержу автора. С другой стороны, профессия проектного менеджера настолько быстро меняется, что в прошлом году мне стало слишком энергозатратно постоянно адаптироваться. Я не умею так быстро бегать!

Верю, что профессии где человек остается человеком останутся вне зависимости от прогресса ИИ.

  Развернуть 1 комментарий

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб