Почему я не боюсь нейросетей

 Публичный пост
10 апреля 2023  1962

Все то время громких заголовков в СМИ о том что нейросети заменят людей и нужно срочно учиться на автомеханика или слесаря меня крайне беспокоил один вопрос - а почему я не боюсь этого? И вот в один из дней мой крайне беспокойный по этому вопросу друг написал мне следующее:

И тут я понял что пришла пора сформулировать почему я не боюсь нейросетей. Если кратко, то все дело в том какое будущее я вижу. Для меня есть два варианта:

  • Либо мы (как человечество) изменим свою работу и будем использовать нейросети как инструмент
  • Либо нам всем пиздец

И в обоих случаях нам волноваться не о чем

Нейросети - как инструмент

Я один из тех кто начал использовать нейросети в своей прямой работе один из первых. Виной тому то, что я работаю во Flipper Devices и весь наш код open-source. А значит всей нашей команде, и мне в том числе, был доступен бесплатно copilot от github: https://github.com/features/copilot

Мы все в команде являемся энтузиастами и обожаем все новое, поэтому буквально каждый разработчик в нашей команде начал тыкать copilot и через месяц энтузиазм угас у всех, включая меня…

Мы начали замечать что код который мы пишем с помощью copilot получается менее качественный. Он успешно проходит ревью программиста, он успешно проходит ревью в пуллреквесте, а потом выстреливает в продакшене и крашится. После мы начали замечать что к этим же результатам приходит и индустрия


Результаты исследования говорят о том что люди, используя ИИ, пишут код с большим количеством багов/уязвимостей, даже если проверяют его

И тут для меня открылась истина - валидировать код намного сложнее чем писать его с нуля. Тем более нейросети стараются быть не максимально правильным, а стараются что бы их ответ максимально походил на истину (source). Из-за этого валидировать их ответ становиться все более сложной задачей.

Итого в текущем виде нейросети не способны служить даже инструментом для меня.

Но в будущем у них есть отличный шанс. Уже существуют решения значительно облегчающие работу многим людям. Например, если вы делаете проект и вам нужно что-то быстро накалякать - аналог Lorem Ipsum для картинок. Тут идеально подойдет MidJourney.

Или если вы редактор и вам нужно сделать структуру статьи или быстро сократить её - тут нейросети прям хороши, прямо сейчас уже в Notion есть такая возможность

Т.е. никто не спорит с тем что нейросети станут круче. Но им всегда потребуется поддержка со стороны пользователя

Существует ли вариант когда они все смогут самоятельно за тебя все делать? Да, конечно, но тут в дело вступает второй вариант событий - “Нам всем пиздец”. И ключевое тут - “всем”

Нейросети - как замена людей

В случае если нейросети реально заменят всех людей которые работают с информацией, то нам реально полная жопа. Я не буду углубляться в то возможно это или нет, давайте помыслим логически - “что я могу сделать чтобы обезопасить себя в такой ситуации”.

Для начала давайте прикинем масштаб катастрофы:

Мы видим что согласно этим данным более 50% людей во всем мире работают в сфере услуг. Если мы предположим, что функцию обработки любых данных в любой сфере может выполнять искусственный интелект, то из этого исходит что более 50% людей будут безработными благодаря искусственному интелекту.

Помимо прочего, сюда мы еще и возьмем и аграрный сектор - риск его автоматизации невероятно высок. Современные комплексы агропромышленного сектора уже минимально управляются человеком

Добавим к этому то что люди которые строят бизнесы это буквально одни из тех кого проще всего заменить искуственным интелектом. Ведь если убрать из их работы деловые поездки (убрать фактор “при человеческом контакте мне дадут больше денег”), то люди которые делают бизнес по сути будут не нужны, современные бизнесы строятся и живут онлайн. А еще если добавить в это уравнение автоматизацию и роботов, то там и всех людей с заводов можно уволить и впринципе всех кто работает руками.

Итого мы имеем 50+% людей которых может потенциально заменить ИИ. Больше половины экономики. Вы правда думаете что если более половины экономики мира умрет, то вы спасетесь, если будете работать столяром?

Тезисно: при существовании искуственного интелекта способного заменить работников в интелектуально-офисных сферах, грядет пиздец такого масштаба, что потеря работы программистом это будет последнее что будет вас волновать.

В заключении

Я не знаю какой будет мир будущего - будет ли ИИ инструментом или полноценно заменит всех работников. Может быть он заменит вас, но мир жесток и всегда требовал развития для сохранения рабочего места - придется доучиваться/переучиваться. Сейчас без понимания конкретики и на панике нет смысла об этом думать

Но большинство из читающих этот текст отлично прочувствовали на себе события 2022 года. И чем меня и научил этот год, так это тем, что нельзя переживать за вещи которые тебе не подвласны. В наших силах делать то что мы умеем - развиваться, заботиться о себе и о своей семье. Мы можем пытаться изменить будущее себя и общества, но не нужно брать на себя слишком много ответственности.

Поэтому лучший вариант который сейчас есть - это активно развивать свою жизнь, изучать появляющиеся инструменты, быть открытым к новому и не переживать за абстрактное будущее или искуственный интелект которых нас всех уволит

21 комментарий 👇

Как нам убедиться, что это не ai написал?

  Развернуть 1 комментарий

@ArseniiSkurt, попросить пройти капчу. А, стоп, это уже так не работает

  Развернуть 1 комментарий

@Genapoliss, сфотографироваться с флажком клуба и таймстэмпом

  Развернуть 1 комментарий

Ну чтож, раз уж ChatGPT советует, то что я могу поделать!
Подписывайтесь на мой канал в телеграмме, я реальный человек!
https://t.me/localhost_ru/212

  Развернуть 1 комментарий
  Развернуть 1 комментарий

😱 Комментарий удален его автором...

  Развернуть 1 комментарий

Честно говоря, легче не стало. То, что спектр возможных последствий развития AI находится между "вообще не о чем волноваться" и "нам всем пиздец", ясно и так. Но как раз оба эти экстремума наименее итересны, потому что в обоих случаях можно ничего не делать.

На практике же, произойдет что-то гораздо более прозаичное - изменение парадигм разработки ПО, которое приведет к изменению структуры IT рынка труда и сокращению разницы между зарплатами в IT и других отраслях. И вот к этому, скажем, вполне имеет смысл готовиться - приобретая какие-то специфические навыки, переходя в бизнес, переквалифицируясь в столяра, или еще каким-то образом.

И по поводу программирования и Copilot я бы слишком не обольщался. Это переходная стадия. Следующий шаг в разработке - генерация кода "на лету", в момент взаимодействия с пользователем. Когда "код" сайта, с которым работает "программист" будет представлять набор текст-боксов с надписями типа "Header with the company logo and menus ...", "login form with an email, password and sign in with google button". Ну или что-то в этом духе - вариантов развития множество, может вместо текста будет какой-то высокоуровневый псевдо-язык для LLM типа https://github.com/paralleldrive/sudolang-llm-support/blob/main/sudolang.sudo.md.

В любом случае - массовая разработка будет упрощаться, и, условно говоря, если вы (как я, гы...), зарабатываете деньги формошлепством, то я считаю, самое пора напрячься. Время еще есть, но гораздо меньше, чем кажется.

  Развернуть 1 комментарий

@kulesa, А как вы оцениваете сроки?

Встречал очень разные варианты. От "10 лет на серьезные перемены на рынке труда" до "сингулярности в этом декабре"

  Развернуть 1 комментарий

@MaximmV, примерно в этом диапазоне и оцениваю)). Я думаю, что серьезные изменения на рынке труда начнут ощущаться в течение года-двух. А до сингулярности еще может быть как несколько лет, так и лет двадцать. Может оказаться, что прорыв в ML, который мы сейчас наблюдаем, это те самые 80% результата, которые требуют 20% работы, а над оставшимися 20% придется биться еще десятилетия.

  Развернуть 1 комментарий

не надо одушевлять компьютеры они это не любят

  Развернуть 1 комментарий

Кричать про «соцсети заменят программистов» так же смешно, как утверждать, что программистов заменил сайт Stackoverflow.

Все статьи «я попросил его сочинить скрипт сделать X и он сделал, OMG! Пришлось правда кое-что подправить, но это сущая мелочь!» объединяет следующее. Во-первых автор четко ставит задачу, то самое «сделай скрипт делающий X/команду для докера/все такое». Во-вторых автор знает, куда смотреть и как проверять. Все, кто хоть как-то связан с программированием знают, что задачи приходят в самом лучшем случае в виде «нам нужно интегрировать X с Y/добавить модуль, который делает Z». От бизнеса же запросы на фичи приходят в виде того самого «нам нужно 7 перпендикулярных красных линий: четыре красных, три прозрачных и одна в форме кота» От этого до промпта, который переварит Chat GPT расстояние в сотни часов работы десятков людей. И то, кто-то должен будет задавать ему правильные вопросы и проверять ответы.

Ну и, наконец, все «любят» легаси. А между тем работы по поддержке легаси систем немеряно. В такой работе нужно долго и упорно въезжать в контекст прежде чем сделать там хоть что-то. Размер этого контекста выйдет далеко за ограничения самого умненького чатбота. На Хабре есть очень поучительная статья про то, как поддерживают и разрабатывают Oracle. Про мучения Маска с «а хрен его знает, как оно вообще работает» твиттером тоже наслышаны. В лучшем случае потребуется личный ChatGPT для каждого большого проекта, чтобы он там мог помочь хоть чем-то. Хотя… у нас тут попробовали Bard обучить на внутренней документации гугла (о ее полноте и точности ходят легенды и создаются мемы). Получилось не очень, но у него хотя бы теперь можно спросить о внутренних системах и не получить поток откровенного бреда. Попросить что-нибудь написать я решил даже и не пробовать.

Так что бояться тут нечего. А вот использовать по назначению нужно, с ним доки писать прельстиво и любовно

  Развернуть 1 комментарий

@Siarhei-r, а насколько хорошо ChatGPT пишет код на COBOL-e?.. 🤔

  Развернуть 1 комментарий

@kochanoff, о, такие проекты это классический случай, когда нужен отдельный инстанс chatgpt который обучали на коде конкретно этого энтерпрайза.

  Развернуть 1 комментарий

@Siarhei-r, вангую, что следующая версия Копайлота будет частью Github Enterprise (который он-прем или прайват клауд) и будет "дообучаться" вполне себе на всей кодовой базе этого самого энтерпрайза на раз-два.

  Развернуть 1 комментарий

@Siarhei-r, ну чят-гпт хорош в том, чтобы помочь быстро сделать простые вещи в которых ты не очень разбираешься. Дать пояснения в незнакомой теме.

Т.е. пострадают от него в основном джуны :)

  Развернуть 1 комментарий

@orbit, Почему пострадают? Я бы сказал, им только проще будет

  Развернуть 1 комментарий

Я требую ответов

  Развернуть 1 комментарий

грядет пиздец такого масштаба, что потеря работы программистом это будет последнее что будет вас волновать.

Мне кажется, гопота уже гораздо лучше тексты вычитывает :)

  Развернуть 1 комментарий
Oleg Brezhnev Фуллстек-Разработчик 10 апреля 2023

Бтв, вам не кажется что prompt engineering это как-то унизительно? Как будто ты пытаешься что-то объяснить напарнику, он тебя всегда понимает не так, а у тебя не хватает слов.
Однажды это закончится так

  Развернуть 1 комментарий
Валентина Межецкая Графический дизайнер и специалист по экологическому просвещению 11 апреля 2023

Хм, я вот не очень понимаю, как нейросеть может заменить полностью человека. Ну вот например, у директора задача - нужно сделать рекламный плакат. Он пишет или говорит нейросети его сделать. Но он же не будет этот плакат сам потом проверять, составлять договор на печать, отправлять на печать, забирать из печати. Всё равно должен быть сотрудник, который следит за всеми этими процессами, за временем их исполнения, документами, логистикой.

  Развернуть 1 комментарий

@sonador, вряд ли заменят полностью на текущем этапе. Но во многих профессиях там где было нужно 20 человек, хватит одного

  Развернуть 1 комментарий

@MaximmV, только не в учреждениях, где всем правят СЛУЖЕБНЫЕ ЗАПИСКИ 😂 С ними справиться могут только люди (и то не всегда) 😂

  Развернуть 1 комментарий

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб