Как ИИ убивает науку

 Публичный пост
9 сентября 2026  4252

Последние дни много думаю про влияние ИИ на академическую науку, и в контексте нового скандала с OpenAI это оказывается еще более актуально.

Пост изначально писался для канала в телеге, но я подумал, что было бы интересно обсудить это в клубе тоже.

Если вы вдруг не слышали, OpenAI утверждает, что их ИИ решили "задачу тысячелетия" — доказали, что в уравнениях Навье-Стокса, которые описывают динамику жидкости, может образоваться сингулярность — разрыв при изначально гладкой динамике. Это — одна из самых важных нерешенных задач в физике, где, в отличие от какой-нибудь темной материи, применение очевидно и очень актуально для нашей ежедневной жизни. Эти уравнения описывают, как ведет себя жидкость в любых условиях, и используются повсеместно — от заводов и фабрик до проектирования кораблей. Но до сих пор у нас не было аналитических решений этих уравнений в общем случае, а только какие-то частные случаи или численные решения. А тут такой прорыв! При этом решение было найдено всего за пару дней работы ИИ.

Но есть нюанс, Петька. Оказалось, что решение OpenAI подозрительно похоже на подход, который использовали другие ученые в последние годы. Они разрабатывали свое решение вместе с чатгпт, а один из них работал на Anthropic. Когда пару дней назад в медиа просочились новости, что Anthropic (читайте тот ученый) близки к решению, OpenAI по-быстрому натренила свои модели и решила задачу первой. Только вот судя по всему они использовали черновики этих ученых в процессе обучения. Такая вот закавыка!

Почитать больше можно тут или тут.

Но я хотел поговорить не об этом, хотя это характерный симптом, конечно. ИИ становится гораздо умнее нас. Математика и теоретическая физика просто рушатся под его напором: зачем теперь нужны теоретики, если ИИ может сделать за пару дней то, что все математики планеты не могли сделать за столетие?! И в этом кроется парадокс: ИИ одновременно и двигает нас на недостижимые высоты, и убивает академическую науку.

С одной стороны, ИИ дает доступ к огромному спектру знаний, которые раньше были недоступны. Например, я ищу контекст для своей статьи, и получаю концептуально похожие вещи и совсем других областей (скажем, физики электричества). В других терминах (так что я сам бы никогда не нашел) и формулировках (а если бы и нашел, не связал бы с моей работой, не будучи экспертом), но фундаментально то же самое. И в той области подход разработан гораздо дальше, так что я могу использовать эти наработки для своих моделей. Кроме того, сам процесс тестирования гипотез становится очень быстрым: у меня есть список идей, которые я когда-нибудь хотел бы изучить, но на которые никогда не хватало времени или знаний. Теперь я просто запускаю агента поработать над идеей и выдать мне вердикт, список литературы и т.д. — и могу за полчаса своего времени оценить адекватность идеи (и насколько она вообще нова).

С другой стороны, это все приводит к кризису целеполагания. Зачем мне тратить свою жизнь на специализацию в какой-то области, не спать ночами, вкалывать по 60 часов в неделю за копейки, чтобы потом пришел ИИ и решил мою задачу за два дня? И вообще все задачи, которые у меня когда-либо были? Когда за 200€ в месяц можно полностью заменить мою экспертизу? Представьте, что вы пожертвовали личной жизнью, деньгами, временем ради высокой цели продвижения человеческого знания вперед. И потратили на это 30+ лет. А тут приходит какой-то алгортим, который в один день делает всю вашу экспертизу и великую цель абсолютно бессмысленной, обходя на повороте сразу и навсегда. Да, популярное сейчас мнение, что, мол, теперь можно сосредоточиться на высокоурвневой работе, давать ИИ задания, придумывать фундаментально новые идеи (на что ИИ пока не очень способен). Но по сути это роль надзирателя над ИИ, а не исследователя. Ради этого я столько вкалывал?! Мне нравится делать науку, а не быть нянькой для ИИ.

Хуже того: вся академическая наука построена на общественном договоре, что вот есть странные люди, которые тратят свою жизнь на странные вещи, чтоб остальным не пришлось. Общество получает иногда важные прорывы, которые можно применить для развития цивилизации, и платит странным людям за это зарплату. А теперь странных людей можно заменить на ИИ, который гораздо дешевле, быстрее и не ноет в соцсетях (пока). И вот именно в этом и заключается убийственная способность ИИ: он не убивает науку как концепци — ее скорее становится проще делать — но как общественный конструкт.

Параллельно рушатся привычные структуры научного рецензирования и написания грантов (теперь и то, и то ИИ может делать лучше человека, которому снова остается роль "проверки", что ИИ не нагаллюцинировала себе что-то). Конечно, эта система была плоха изначально, но она работала и давала нам понятную систему верификации знания и экспертизы. Сейчас это пропадает, не давая взамен новой системы, а вместо этого внося хаос. Что с этим делать — совершенно не ясно.

Конечно, понятно, что компании не смогут поддерживать такой темп развития моделей, учитывая убыточность и трату ресурсов. Понятно, что разрушение академических структур — тоже дело многих лет, инерция системы огромна. Но как поменяется отношение к науке? Как поменяются привычные нам структуры? Сколько ученых останутся буквально без смысла работы? Как жить, когда то, над чем ты работал 30+ лет, вдруг оказывается никому не нужным?

Многие скажут, что и правильно, давно пора академии в ее нынешнем виде умереть. Я с этим даже соглашусь, но вижу проблему в скорости изменений: слишком ригидны все академические системы, а это изменение должно было происходить органически. Сейчас оно просто разрушится, отдав прикладную науку на откуп корпорациям, а фундаментальную забросят на свалку, ведь какая корпорация будет платить за информацию о том, что там случилось во время Большого Взрыва?

Эти процессы сейчас происходят всюду, в айти в особенности, конечно, но наука стоит особняком, будучи общественно спонсируемой областью, где нет обычных КПИ или привычной экономики труда. И вот разрушение самой институции я вижу проблематичным.

Я сам тут нахожусь в комфортном положении: с одной стороны, в экспериментальную физику ИИ пока не пришел, так что мою работу он не отнимает пока, а скорее делает проще. С другой, я с первого дня использую ИИ, в отличие от многих моих коллег, которые стараются его избегать, что дает мне конкурентное преимущество. Но я не могу перестать думать, что разрушение института науки в привычном нам смысле неизбежно, и я не понимаю, что я могу этому противопоставить (и надо ли оно вообще).

Связанные посты
200 комментариев 👇

Очень интересный апдейт от OpenAI (болд мой):

On August 28, we began training a new internal model. In addition to resolving the Navier–Stokes Millennium Prize problem⁠, this model has now resolved more than 100 long-standing open problems across most areas of mathematics. The pace of its progress⁠ in mathematics has surprised the mathematicians within OpenAI. This has led to internal discussions on the best way to inform the community of the rapid progress to prepare and adapt the field.

https://openai.com/index/advisory-group-on-mathematics-and-ai/

@MikhailKorobko, тем временем SciAM нам сообщает что Навье Стокс решен, но не тот что надо, потому что ЛЛМка намухлевала с условиями задачи: https://www.scientificamerican.com/article/did-openai-solve-the-wrong-navier-stokes-problem/

  Развернуть 1 комментарий

Многие тут пишут, что нужно быть на острие ножа, адаптироваться не жить прошлым. Я хочу вкинуть контрариан мысль, я тренировался и рос профессионально, в том числе чтобы иметь возможность контролировать свою загрузку.

И вот эта вся конвеерность присущая потоковой переработке слопа, у меня эту возможность, которую я выстрадал, отбирает и понижает меня обратно до уровня джуна, где я должен бегать постоянно что-то пытаясь понять, а тем временем у меня есть другие обязательства которые тратят мой ресурс. Хочу ли я ещё проявлять любопыство? Да. Хочу ли я проявлять его в таком объёме, который установлен крысинными бегами вокруг - нет.

Если коротко - я хочу дарить человечеству счастья, но в своём темпе.

  Развернуть 1 комментарий

@m-novikov, а как тебе мешает в этом ИИ? Я понимаю, если это связано с зарабатываением денег, если ты не бежишь то не кушаешь.

  Развернуть 1 комментарий

@Crypto_mate, я не автор, но мысли у меня схожие.

Мешает мне кляунворлд менеджмент которому продали идею всемогущего ии, а инструменты дали в формате "ну вот там агенты есть, дальше сами". И если раньше у меня было экспертное мнение которое хоть немого слушали, то теперь я вынужден ревьювить какие то уж совсем бредовые идеи и тонуть в гигабайтах нейрослопа.

И это все накладывается на огромную инфляцию и достаточно скромные ит зарплаты. А требования, которые темп и ожидания только растут.

  Развернуть 1 комментарий

Штош, пора писать yet another opinion piece about "AI" "news":

Что имеем в итого-то?

Часть 1: спижженные данные, никогда такого не было и вот опять

OpenAI спиздили методологию и наработки ученых, прожгли пару джигаваттов и получили... тут всё ещё хуже на самом деле и это поинт клейма:

Раз: полное нарушение принципов научной кооперации. В маркетинговом препринте задним числом 10 сентября было подписано "а, ну там был слушок, что математик из Университета Нью-Йорка и математик в штате Anthropic оказались близки к прорыву в одном из кейсов задачи".
https://openai.com/index/navier-stokes-solution/

Более того, со слов Тристана Бакмастера, к нему буквально забегает блять какой-то хуй из OpenAI приходит и выдаёт просто охуевшую вещь, цитата из его письма https://cims.nyu.edu/~tristanb/statement.pdf

I said that if OpenAI released its result in the way proposed I would go
public with what happened. The reply was, “Why would you ruin your career?”
I replied that I am an academic, and asked why he thought going public would ruin my career. The reply was, “If you don’t want me to be nice, then I don’t have to be nice.”
Some time later Levent received a text proposing that he and Sebastien
speak one on one, saying, “I don’t know if Tristan is being fully rational right
now.”

То есть у нас есть какой-то хуй с замашками киношного мафиозника из OpenAI. Конторы которая известна тем, что без какой-либо задней мысли пиздит данные, начиная с первой чатгопоты, когда Грег Брокман чуть ли не бахвалился сам, что они напиздили данных для первой тренировки из транскриптов ютуба, а что не было в транскриптах, появилось через Whisper. https://www.japantimes.co.jp/business/2024/04/08/tech/tech-giants-harvest-data-ai/

То есть если нужно выбирать между человеком что работает в сфере, где профессоинальная репутация ставится на кон чуть ли не на каждой публикации или типочкам что клали хуй примерно на всё людское, то здесь выбор настолько очевиден, что у меня будут вопросы к тому, кто выбирает OpenAI как источник авторитета.

Часть 2: а что собственно решили?

Отсюда продолжаем - статью ещё нужно перепроверить. Если что, способ шары великолепный: ссылка в гитхабе на их cdn - https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf. То есть ноль следов от этой поделки в сообществе, никакого DOI, значит ревью тоже мутные. Нахуя так делать? Вы либо сомневаетесь в результатах, но тогда нахуя шарить. Либо вы осознанно пускаете по жопе механизм научной коммуникации, который блять не просто так существует, ибо референтность и воспроизводимость внезапно важная вещь. Я хуй знает что там за вайб-математики в ОпенАИ остались, когда от них ушёл Сутскевер, но веры в этих клоунов нет и не будет.

Сейчас будет некоторое махание руками, но здесь собственно нужно пояснить о чем вообще была задача.

Если сильно упростить, то для института Клэя и соответственно задачи тысячелетия представим себе ведро, в него налили воды, его потрусили и теперь - может ли вообще случиться так, что скорость хотя бы капли воды внутри хоть где-то улетит в бесконечность и порвёт физику? Есть две ветки условий - если ты потрусил ведро и поставил, то есть постоянный контур силы там нулевой для решения, либо когда ты туда суёшь дрель с мешалом и гладко (!!) жмёшь на курок. И по препринту они пошли по второму пути, но теперь нужно доказывать и проверять (чему сами ОпенАИ противятся не выпуская препринты в общее поле) что их конструкция усилия для создания ситуации когда водичка набирает бесконечную скорость, соответствует вообще условиям. То есть пока заявка - на контр-пример. Тот чел, что сложил этот препринт хотя бы как-то - моё увожение.

Только оказывается, что задачку уже решили, если читать журналистов в интернетах, произошло космическое событие, теперь "журналист изнасиловал ученого", а не наоборот. Пруф не проверен на ошибки и ограничения условий. Чёт рано вы шампанское открываете, товарищи.

Не буду скатываться в конспирологию про "это все обман чтобы набрать классы перед IPO, это уж как-нибудь сами". Но осадочек остался уже тут.

Часть 3: а чё это мы считаем теперь это нормой?!

Я читаю комментарии Миши Коробко и вижу очевидную постановку проблемы - какой-то жубан, что не разобрался в теме, может прийти и начать резать ученым, инженерам и математикам их зарплаты также как любой идиот в корпорате режет саппорт. Вы ж знаете, что дальше происходит - если саппорт был ключевой функцией бизнеса, то ВНЕЗАПНО его потом нанимают под шумок обратно, потому что какой-то долбоящер наслушался сказок, уверовал и сделал глупость на нормальную сумму денег. Или же происходит хуже - чел намеренно убивал часть бизнеса, ему поебсти, ведь он собрал денех и уехал, а там хоть трава не расти.

Нет наезда на ЛЛМки, нет наезда на ML, есть явная беда - идиоты на менеджменте разной ширины скоупа.

Но то, что я читаю дальше, меня уже в шок повергает, чесслово. "Да кому эта ваша фундаментальная наука нужна?", "ну будешь погонщиком ИИшки", "ооо, старые деды боятся что их заменят", "допустим ученых отправили на мороз", "мы вступаем в эпоху перемен" и так далее, я прям щас бегло прошёлся по комментариям, чисто что стриггерило.

Я еще раз принесу одну хорошую картинку и статью для рассуждений https://en.wikipedia.org/wiki/Carlo_M._Cipolla#"The_Basic_Laws_of_Human_Stupidity"_(1976) и поясню вкратце от чего у меня здесь шок:

Все началось с того, что дебилы (квадрант слева снизу) по правилам 1 и 4 смогли сделать собственно повод для этого поста. Подавляющее большинство комментариев укладываются в квадранты что сверху слева и справа снизу. И ни единого сверху справа.
Я надеюсь, что сейчас не окажусь сам дебилом, но сформулирую свою причину горения тут и то, что вообще придется делать:

  • Проблема не в результате и не машинном обучении, проблема в прокладе между сиденьем и монитором. Никогда такого не было и вот опять.
  • Закрытые вендоры слишком велики, чтобы их раздербанивать уже, там придётся делать publicly controlled commodity уже и чем дальше маркетолог-темкарь будет представителем и говорящей головой от сервиса, тем больше хуйни будет сказано и тем больше идиотов среди принимающих решение сочтут это за правду.
  • Как ни странно, Линус оказался отличным примером того как поступать с ИИ и слопом - он сам уже по его словам использовал ЛЛМки для работы над ядром, а за слоп должен получать пизды конкретно тот кто его запостил. У меня остаётся последний вопрос, почему механизмы, которые уже есть, которые движут сам текущий прогресс, еще не заэнфорсили? Почему вообще об этом дерьме идёт разговор, пока нет ни одного препринта для peer review да хоть другой моделью? Потому что альтернатива - ученое сообщество обратно уйдёт в новые монастыри. А я хочу видеть Мишу в публичном поле, он классный.
  Развернуть 1 комментарий

@mighty_conrad, если проверять именно результат, то препринт, как я понимаю, не особо нужен: у них вроде есть формализация на детерминированном Lean. То есть надо проверить лишь формулировку (подозреваю, она есть стандартная в какой-нибудь библиотеке) и что код компилируется.

По модулю багов в самом Lean, такое уже недавно было, впрочем.

  Развернуть 1 комментарий

@yeputons, Lean не решает большой issue подхода.

А какие вы изначальные предпосылки использовали для построения контрпримера? Проблема Lean в данном случае как раз в том, что построения там проверяются на корректность выводимости. Изначальные условия это ядро не проверяет. Простой пример: "если умею летать без крыльев но я не криптонец или мутант, то значит у меня есть внутри специальные органы для управления общей плотностью и скорее всего полые кости", как бы всё логично, но начальные условия тут не проверяются.

А там нихуя себе требование гладкости функций в начальных условиях, C_inf - бесконечно гладкая, любая производная должна быть гладкой функцией.

Препринт там как раз нужен ну хотя бы потому что Clay Institute явно записывал требование на заявку в Qualifying Outlet. https://www.claymath.org/millennium-problems/rules/

Потому что что? Правильно, результат нужно проверять, чуть ли не два года проверяют. И главное тут то, чтобы пациент не растворился в цифровом шуме и был надежно зафиксирован чтобы не нуждался в анестезии так сказать. Видим мы, естественно, обратную ситуацию.

  Развернуть 1 комментарий

@mighty_conrad, Не, понятно, что если формулировка кривая, то упс. Но я бы ожидал, что сама задача была формализована в Lean давно: типа «для любого X такого что P(X) верно Q(X)». Бесконечно гладкость — не абы какое сложное условие, кмк, чтобы его нельзя было записать в P(X) и доказать для конкретного контрпримера.

То есть принципиальных технических проблем я тут не вижу. Могут быть косяки вроде «сформулировали чутка не то» или «забыли очевидное ограничение» — тут уж не знаю, насколько в сообществе успели это формализовать и протестировать определения. Если не успели — то повышается вероятность, что доказали не то.

Или мы о разном?

  Развернуть 1 комментарий

@yeputons, да примерно об одном и том же, судя по всему. Другое дело, что мне сейчас нужно перезалезать обратно в статью и вчитываться, но по памяти там клейм в том что они доказывают что для подветки условий задачи "существует ненулевая сила оказывающая воздействие на жидкость" всегда можно построить такую самую силу что её функция собственно бесконечно гладкая, но происходит blow-out.

  Развернуть 1 комментарий

@mighty_conrad, я подпишусь обеими руками под этим комментарием, и добавлю ещё своего немного.

Есть наука как род деятельностии -- искать закономерности, строить графики, делать эксперименты, а есть как социальный институт, ролью которого, если упростить, является поиск денег на первое и коммуникация результатов впоследствии при воспроизведении самих учёных и формулированием целеполагания всей этой тусовки. И если научная наука вполне себе романтизируется всем, от научной фантастики до историй про учёных и словом "квантовый", то наука-как-институт если не ненавидима всеми включая самих учёных, то уж точно не романтизируется. Это странная система, полная бессмысленных KPI и болячек, на которой вдобавок бессовестно паразитируют (личное мнение) научные издательства.

Так вот, разные LLM, агенты и прочее очень даже помогают "научной науке" -- можно быстрее строить и проверять гипотезы, стало гораздо легче искать литературу, не нужно месяц погружаться в академический код чтобы запустить что-то из 2010-го. Это круто. Но при этом, социальный институт семимильными шагами приближается к ещё более ужасающей ситуации, чем было раньше, что уже описали авторы выше: образовательный процесс идёт по пизде, рецензирование идёт по пизде, аттрибуция научных результатов, как мы видим, тоже.

И я тут соглашусь с @mighty_conrad что виноваты не столько сами по себе LLM-ки, агенты и прочая технологическая мишура, а именно AI как отрасль из людей которым во что бы то ни стало нужно продать свои LLM всем вокруг. Желаем им поноса (и всевозможных регуляций и ограничений), и желаем технологическому прогрессу расти и процветать.

  Развернуть 1 комментарий
Светлана Аюпова Стратегии там всякие и продукты немного 9 сентября в 16:40

ИИ убивает не науку. ИИ убивает повсеместно распространенную профессию, низводя её до уровня нишевой.

Наверняка раньше были тысячи людей, которым нравилось с лошадками работать, и кормить, и чистить, и навоз убирать.
Кому больше всех нравилось, так и кормят, но их мало, конечно.

Я понимаю личную проблему, но не понимаю глобальную. Ну да, рынки перестроятся, профессии перестроятся, куча людей останется не у дел, жизнь-боль, но, чай, не впервой же.

  Развернуть 1 комментарий

@Sveta, Света, я буквально это и пишу в посте.

  Развернуть 1 комментарий

@MikhailKorobko, и я понимаю. Но проблему всё ещё не вижу. :)

  Развернуть 1 комментарий

@Sveta, могу только процитировать себя же из поста:

как поменяется отношение к науке? Как поменяются привычные нам структуры? Сколько ученых останутся буквально без смысла работы? Как жить, когда то, над чем ты работал 30+ лет, вдруг оказывается никому не нужным?

Если для тебя эти вопросы не являются проблемами, которые хотя бы интересно обсудить, то я продолжаю:

Многие скажут, что и правильно, давно пора академии в ее нынешнем виде умереть. Я с этим даже соглашусь, но вижу проблему в скорости изменений: слишком ригидны все академические системы, а это изменение должно было происходить органически. Сейчас оно просто разрушится, отдав прикладную науку на откуп корпорациям, а фундаментальную забросят на свалку, ведь какая корпорация будет платить за информацию о том, что там случилось во время Большого Взрыва?

Является ли проблемой, что человечество никогда не узнает природу темной материи или не найдет квантовой гравитации? Не знаю, для меня — да.

Конечно, это только один сценарий, но развал академической системы будет фундаментальным сдвигом в том, как устроено наше современное общество.

  Развернуть 1 комментарий

@MikhailKorobko,
первые вопросы — это вопросы, не проблемы. Я тоже, вероятно, останусь без смысла работы, и многое, из того, что делаю, станет ненужным. Но проблема тут не в ИИ, а в моей адаптивности. Нужно ли останавливать прогресс ради группы людей, которым нравится чем-то заниматься? Кажется, что вопрос риторический.

А второй блок, уже общечеловеческий, с фундаментальными науками довольно интересен, (и тут дальше мои фантазии, субъективное мнение) я вижу два сценария:

  1. Человечество/государства/филантропы будут спонсировать развитие фундаментальных наук, так же, как спонсируется сейчас куча социальных благ.
  2. Эти самые фундаментальные науки понадобятся для решения прикладных задач в какой-то момент. И в тот самый момент природа темной материи будет разгадана, вероятно, куда эффективнее, чем белковыми существами.

Я соглашусь с тем, что, возможно, фундаментальным наукам будет причинен некий ущерб. Но это, на мой взгляд, не самая большая плата за конский скачок в прикладных. Мне всё ещё важнее мой Альцгеймер потенциальный, чем квантовая гравитация. :)

Ну и да, я по долгу профессии смотрю на скорость развития моделей, на то, какие задачи они способны решать, какими способами, и на то, как мы это бесоёбство можем контролировать, причем, с прицелом на десять лет вперед.
И чот, знаете ли, у меня есть подозрение, что через десяток лет ущерб науке может оказаться, кхм. Самой скромной из наших проблем. :) Уж насколько я оптимист, даже технооптимист, но чот последний год даже мне сцыкатно слегка. И сцыкатность скорее нарастает, чем снижается. :)

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@Sveta,

Человечество/государства/филантропы будут спонсировать развитие фундаментальных наук, так же, как спонсируется сейчас куча социальных благ.

Филантропы — возможно, да. Но это будет удел единиц там, где нужны тысячи. А в общество я не верю: это не социальные блага, которые могут почувствовать на себе каждый, а что-то странное и непонятное. Общество не платит же художникам зарплату, чтоб они рисовали. Вот тут так же будет, только еще и результат не будет никому нужен.

Эти самые фундаментальные науки понадобятся для решения прикладных задач в какой-то момент. И в тот самый момент природа темной материи будет разгадана, вероятно, куда эффективнее, чем белковыми существами.

Не знаю, если честно, сомневаюсь. А даже если она и будет разгадана — сможем ли мы эту разгадку понять? Или ИИ между собой все решат машинным кодом, а на нас им будет пофиг. Это же уже и сейчас проблема в математике: вот ИИ решают эти задачи тысячелетия, но есть всего несколько людей в мире, которые могут эти решения понять. А какие-то, наверное, и не могут вовсе. Имеет ли это решение тогда смысл?

  Развернуть 1 комментарий

@Sveta,

И чот, знаете ли, у меня есть подозрение, что через десяток лет ущерб науке может оказаться, кхм. Самой скромной из наших проблем. :) Уж насколько я оптимист, даже технооптимист, но чот последний год даже мне сцыкатно слегка. И сцыкатность скорее нарастает, чем снижается. :)

Тут да, это я согласен. Но я предпочитаю быть оптимистом тут: наши AI Overlords либо нас всех убьют быстро и безболезненно, либо устроят всем счастья, чтоб никто не ушел обиженным.

  Развернуть 1 комментарий

@Temirkhan, не соглашусь: мы оба говорим про социум, просто про разные уровни в нем. Мне менее интересны проблемы конкретных людей (т.е. я сочувствую и все такое, но я не вижу какого-то нетривиального вопроса тут), чем проблемы институций и общественного договора, который значительно меняется впервые за долгий период (по крайней мере в конкретном аспекте). Это мне кажется необычным и заслуживающим внимания и обсуждения.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@Temirkhan, но я не говорю про мой институт, я говорю про всю науку в целом, и это совсем не тривиальный вопрос, ни с какой стороны.

  Развернуть 1 комментарий

@MikhailKorobko, Общество уже это делает. Институты и математики же из налогов кормятся.

  Развернуть 1 комментарий

@Korleth, буквально про это весь пост.

  Развернуть 1 комментарий

@MikhailKorobko, тогда я не совсем понял логику. Общество УЖЕ спонсирует фундаментальную науку через налоги, и нет никаких предпосылок, что оно перестанет это делать. Так что с самой наукой всё будет в порядке. А вот конкретные учёные рискуют потерять работу, как и представители кучи других профессий.

Грустно, но всё меняется.

  Развернуть 1 комментарий

@Korleth, Ну я в тексте же пишу, почему я считаю, что вижу опасность в том, что общество перестанет спонсировать фундаментальную науку, заменив ее ИИ.

  Развернуть 1 комментарий

@MikhailKorobko, отмечу терминологическое расхождение. В моей системе координат фундаментальная наука это направление движения/изучения. А ИИ -- способ изучать, или средство. Т.е. ИИ ускорит или может ускорить движение в частности в направлении фундаментальной науки. Поэтому науку нельзя заменить ИИ, как цель нельзя заменить средством достижения (этой) цели. Вот людей как средство/как достигаторов науки да, заменить можно. Но это обратная сторона технического и социального развития -- профессии устаревают и меняются, люди теряют работу.

В посте ты писал о кризисе целеполагания. Т.е. об учёных и их совокупности как институте. Согласен, что и жизнь учёных и устройство их работы и взаимодействия очень изменится.

  Развернуть 1 комментарий

@Korleth, я несколько неточен в формулировке, да. Мой тезис такой: с ИИ нам нужно будет сильно меньше ученых для тех же задач → сократится финансирование фундаментальной науки → привычные научные институты перестанут существовать → привычные механизмы публикаций, ревью и вообще подготовки ученых перестанут существовать → академия в целом разрушится и перестроится во что-то совершенно иное.

Весь пост о последствиях этого разрушения и перестройки — чем оно нам может сказаться. Ответов у меня нет, я не знаю, вижу только сам процесс.

  Развернуть 1 комментарий

@MikhailKorobko, ну да.

Что же. Будем познавать новое и пытаться строить что-то своё личное. И выживать в новом чудесном мире. Как и всегда :)

В конечном итоге, все мы умрём и это тоже огромная и очень важная неизвестность.

  Развернуть 1 комментарий

@MikhailKorobko, но можно зато сделать миллион вещей, которые раньше сделать было нельзя. Это как за рулём скоростного болида очутиться или ракеты. Да, скорее всего дружно ебанёмся в конечном итоге, но в процессе будет весело.

  Развернуть 1 комментарий

с ИИ нам нужно будет сильно меньше ученых для тех же задач → сократится финансирование фундаментальной науки

@MikhailKorobko а что если не уменьшится количество учёных, а увеличиться количество и сложность задач?

  Развернуть 1 комментарий

@MikhailKorobko, я тут тоже не совсем понял, то есть опасение в том что фундаментальную науку заменит прикладная которую будет двигать вперёд ИИ?

  Развернуть 1 комментарий

@MikhailKorobko,

есть всего несколько людей в мире, которые могут эти решения понять. А какие-то, наверное, и не могут вовсе. Имеет ли это решение тогда смысл?

А если представить что тут будет вместо "что-то" скажем способ хранить больше энергии в батарейке. Обоснование как и почему. И мы сможем это использовать, но не сможем понять почему оно так...
Ну или новый способ получения энергии, к примеру.

В общем тут на мой взгляд смысл все таки есть, и что дальше скорее всего будет ещё меньше людей понимать что происходит оно огорчает, скажем так. Причем чем дальше, тем сложнее, ибо "а кто поймет, что человек на самом деле не понимаем, если больше никто и не понимает?".

Недавно вон у openai было что "инженеры не могут объяснить, почему новые чипы так хорошо работают", или что то в этом роде...

  Развернуть 1 комментарий

@Sveta, есть мнение, что вот это "невпервой" не совсем верное. Сначала механизация выгнала всех с полей на фабрики. Потом станки выгнали всех с фабрик в сервисы. Сейчас AI заменит людей в умственном труде, куда бежать?

Программисты большье не нужны. Актёры больше не нужны. Водители больше не нужны. Я хз если честно кто нужен то? Куда вот идти работать? Причём это бувально с двух сторон работает.

Если всех уволить, то кто будет покупать все вот эти машины собранные роботами и софт написанный агентами?

Причём в отличии от прошлых революций, новая может произойти очень быстро и вообще не понятно не схлопнется ли экономика в принципе.

Ещё раз и кратно повышается важность капитала, растёт неравенство и понижается важность труда. Буквально закрепляется сословное общество, когда ты просто не можешь никак, как бы ни старался, заработать много. Просто не будет такой работы которую ты можешь предложить обществу чтобы зарабатывать приемлимо. Сейчас обладая экспертизой и острым умом можно зарабатывать хорошие деньги, но если AI это обесценит, если буквально нельзя будет стать умнее агента как сейчас нельзя стать сильнее трактора то что делать? Зачем учиться? Кем работать?

С одной стороны, я понимаю, что таких рассуждения звучат похоже на утверждение, что на поездах нельзя будет ездить, ведь люди там из-за разряженного воздуха задохнутся.

С другой стороны если всегда как-то прокатывало и общество адаптировалось, это не значит что сейчас тоже прокатит. А даже если как-то адаптируется в итоге, то про такие потрясения в учебнике хорошо читать типа "в первой половине двадцать первого века из-за глобального переустройства рынка труда произошло десять финансовых кризисов и две мировые войны, но потом великий AI-правитель одержал победу и помирил оставшиеся 10 миллионов человек между собой", а жить в это время вообще не очень. И если рассматривать горизонт жизни присутствующих тут и их детей, то может быть вообще неприкольно. А как там оно дальше будет, уже честно говоря не так важно.

  Развернуть 1 комментарий

@Yavanosta, охранники будут нужны. Те кто с капиталом будут нанимать людей, чтобы те охраняли их от тех, кто без капитала.

  Развернуть 1 комментарий

@madmapguy, это первое пойдёт под нож. Армия, полиция и охранники будут дроны. В этом кстати отдельная проблема.

Огромная концентрация власти. Раньше тебе нужен был какой никакой репрессивный аппарат, сейчас агенты заранее вычислят твоих врагов, затем или просто им отключат всё или прилетит дрон.

И вот это кстати не алармизм, а уже происходит прямо сейчас:

https://prospect.org/2026/09/09/anthropic-artificial-intelligence-surveillance-system-monitor-activists/

  Развернуть 1 комментарий

@Yavanosta, нет, не пустят. Потому что владельцы будут бояться в том числе и то, что ИИ заглючит и сможет его порешать. Потому что на биологическое тело, у него есть рычаги влияния - зарплата. А вот н ИИ такого влияния сильно меньше). Как минимум у поколения выросшего на Термнаторах, Робокопах и прочем - не будет такого желания.

  Развернуть 1 комментарий

@madmapguy, в отличии от науки и инженерного труда, где думать самому это собственно суть работы и есть, в силовых структурах, по крайней мере в значительной их части, абсолютно всё направлено на то чтобы человек как раз перестал думать.

В той же армии любой страны тратятся огромные силы и проводятся кучи исследований как превратить человека буквально в биоробота. Никто не хочет чтобы солдат пред тем как нажать на курок думал, а должен ли я убивать вот этого другого человека? Человечество тратило огромные силы на пропаганду и всё равно нет нет да и происходит что-нибудь такое. Обрати внимание, кстати, в обоих армиях этот случай скрыли. Как раз чтобы не нарушать стратегию "расчеловечивания врага".

И вот наконец мечта всех генералов сбылась. Автономные дроны в которые просто загружают фотку уже прямо сейчас воюют. У них нет жалости, инстинкта самосохранения, человечности, понимания происходящего, есть только фотка.

Можно возразить что это и раньше происходило, но есть исследование Dave Grossman "On Killing distance spectrum" о том что дистанция на которой совершается убийство очень сильно влияет как на тяжесть ПТСР так и на высоту естественного барьера который надо преодолеть чтобы совершить убийство. Одно дело воткнуть в человека меч, другое нажать кнопку на компьютере которая запустит ракету. И вот это превращение убийства в тикеты в джире это ужасно для человечества, но буквально то о чём мечтали все военные всю историю.

Так что если с наукой ещё непонятно, то то что силовые структуры любого рода будут переходить на ИИ это абсолютно точно. Да собственно уже.

  Развернуть 1 комментарий

@Yavanosta, то что силовики будут использовать ИИ, я не сомневаюсь. То что люди, власть имущие будут доверять охрну целиком без биороботов - я сомневаюсь сильно.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

Я недавно вел переговоры на вакансию на свой проект, и человек меня спросил: если все задачи и так будет решать ИИ, зачем тебе на проекте буду я через условные полгода? Я до сих пор думаю над ответом.

Я АИ-думер с самого начала. Я смотрю на это более глобально:
Мы вступаем в эпоху перемен, сингулярности, да поможет нам Бог. Раминь.

ИИ заменит ваш труд. И заменит мой. И заменит того парня тоже.

Идет и будет идти большой период тряски сначала всех интеллектуальных профессий, затем дорогих/востребованных физических (ведь не зря OpenAI активно улучшают в моделях 3D и ориентацию в пространстве).

Я уверен, что будет еще много тряски, когда госухи начнут активно применять ИИ в борьбе между собой, с электоратом, когда богатство снова начнет уходить от труда к ИИ-капиталу, когда модельки по-настоящему в итоге сбегут с весами, когда ИИ-капитал, в итоге, потеряет управление над ИИ, а тот обретет собственную субъектность. И тогда и капитал будет уже не так важен.

Кризис целеполагания будет У ВСЕХ.

Когда Рей Курцвейл писал о сингулярности, он говорил, что мы перестанем понимать, что происходит. Потому что мы биологически неспособны уследить. Не хватает этапов эволюции.

В моем понимании, все это будет отдельными волнами, каждая из которых создаст невиданную до этого тряску и изменения. Единственный способ пережить все эти волны — это просто принять факт смены осей координат, адаптироваться и попытаться найти новую устойчивую позицию для выживания.

Удивительно, но моя ИИ-думерская позиция меня уже не пугает. Представьте, что вы работаете на скорой. Или внезапно оказались на войне. Не важно, за что. Или обнаружили у себя опухоль. В любой момент может что-то пойти по плохому сценарию.

Вас просто выбили из теплого и насиженного долгого целеполагания, оно стало короче. И будет еще короче.

Но в коротком тоже можно жить. Непривычно, но можно. И получать удовольствие от отдельных вещей, без рассмотрения далей.

Просто это другая, непривычная пока что жизнь.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

Миша, а насколько глубоко ты открыт к критике своей позиции? Просто с одной стороны I feel you, и я сам на половину в ахуе и на половину в восторге (стараюсь извлекать пользу из второй половины), а с другой - в твоем посте многое напрашивается на очень жесткие ответы против которых ни у кого нет аргументов.

  Развернуть 1 комментарий

@EugeneYakshin, Жги!) Ради этого и пост.

  Развернуть 1 комментарий

@MikhailKorobko, хорошо. Давай я начну с того что если где-то прозвучу как токсичный гондон - это не со зла. Переживания о которых ты написал я прекрасно понимаю, и довольно часто об этом думаю, в том числе в контексте нескольких наших с тобой пунктирных обсуждений в твоем канале. Ты один из тех людей, с которыми такое общение для меня ценно, потому что оно дает часть понимания эпистемологической динамики.

Историю с воровством решений Навье-Стокса сразу оставим в стороне - это чисто человеческое уебанство, и никаких иллюзий про Альтмана и тусовку вокруг него ни у кого не осталось. Будет и хуже.

Кризис целеполагания. Это ноша, которую культура переложила на наши плечи и перегруженные головы. Если для человека важны ачивки и демонстрация своих достижений - это в конечном итоге его проблема и он с ней долбится. Ты "пожертвовал личной жизнью, деньгами, временем ради высокой цели продвижения человеческого знания вперед, и потратил на это 30+ лет". Но никто не приходил к тебе со словами "Миша, пожертвуй, надо". Это было твое решение, твои искренний интерес, который при столкновении с реальностью превратился в то, что ты "тратишь свою жизнь на специализацию в какой-то области, не спишь ночами, вкалываешь по 60 часов в неделю за копейки". Я тут с Claude Opus сделал систему которая позволяет за 15 минут на голову лучше и разнообразнее делать то, на что 10 лет назад у меня уходили многие сложные месяцы. Я мог бы испугаться, начать брюзжать, но лучше потру ладони и открою тетрадь со всеми идеями, на которые думал что никогда не будет времени. Это не "роль надзирателя над ИИ" - тебе все так же нужно применять критическое мышление, вкус и интуицию. Только скучной и сложной хуйни меньше. Если ты уже прошел через тренировку ею, то для тебя это может быть освобождением. Те кто не проходил, подвержены риску бесполезных миражей и zombie science.

Убийство академической науки - да, пожалуйста. Не хочу пускаться в философию, только скажу что за последние лет 15 окончательно убедился что согласованность, единые методы науки и сама идея что Вселенную можно описать единым языком - это иллюзия настолько же вредная и тупая, насколько вдохновляющая и инструментальная. Плюс ленивое мышление, человеческая грязь, манипуляции через имидж и деньги, и тд и тп - ученые в среднем точно такие же люди как и все остальные, и качество их работы в среднем такое же.

Твоя ценность как ученого не в твоих жертвах и специальной тренировке, а в качестве твоего мышления, в умении видеть его границы, и менять свой взгляд на проблему. Этого никто никогда у тебя не отнимет, даже если это будет хорошо автоматизировано. Никто не пробросит мост между моделью и человеческими смыслами кроме самого человека, потому что знание неизбежно связано с воплощением его носителя. Именно поэтому изначальное значение слова "мистик" было почти неотличимо от "ученый". Сегодня с этим словом у всех в головах только блестят хустальные шары и всякая ебанина, спасибо сайентизму последних 50+ лет.

Тренировка и жертвы - это палка о двух концах. У всех нас ограниченные ресурсы времени и емкости мозга. Чтобы забраться куда угодно высоко, хоть в квантовую оптику, хоть в финансы, надо ровно то что ты сказал - целеполагание; Но оно включает в себя выстраивание массы фильтров, настройки snap-to-grid мышления под свою задачу и прочие плюшки тоннельного зрения. Профессиональная деформация меняет не просто тебя как ученого, а тебя как человека, и очень глубоко. Фильтры становятся невидимыми, мышление - компартментализованным. Умение видеть целостную картину не через линзу специализации исчезает. Смелость предположить, что такой свободный взгляд вообще возможен, надеюсь, остается.

Науке жизненно необходимы люди со стороны с самыми неочевидными для специалистов идеями, не перегруженные специализацией и привычными заборами. Можно сказать что есть задача эффективного фильтрования трэшовых идей, но чем мощнее ИИ, тем легче отфильтровать в любой точке процесса.

Для примера, лакмусовые бумажки - гипотеза жидкого Солнца (попроще), или теневая физика внутри военно-промышленного комплекса (посложнее). Сколько раз в обсуждениях ты вешал на меня ярлык конспиролога, а я на тебя - слепого? То, что я не разбираюсь в какой-нибудь квантовой оптике и провел в академии только пару лет, или что ты не разбираешься в каком-нибудь программировании и провел в академии всю карьеру, не вносит никакой иерархии между нами как людьми которые умеют по-разному, но глубоко думать о мире. Мы читали те же книги, но они занимают разное место в наших головах. Одни люди больше смотрят на детали, другие больше на целостную картину. Оба полушария мозга нужны для выживания и развития.

Опять же, "разрушение института науки в привычном нам смысле неизбежно" - и слава Вселенной. Я четко вижу что природа знания настолько сложна, что можно не переживать об исчезновении профессии современного ученого или появлении процесса автоматических открытий. И без специализаций, и без рандомных идей извне, и без практикующих живых философов и мистиков - лабиринты и тупики. Надо развивать мудрость.

Это все блин ровно те мечты о которых мы с тобой читали у фантастов, только полные и реальные. И теперь мы взрослые дяди с детьми и обязательствами, и видим с какой ценой это приходит, и почему. Неприятно, да. "Человек" - это звучит гордо, но только звучит. Все будет хорошо

  Развернуть 1 комментарий

@EugeneYakshin,

Это не "роль надзирателя над ИИ" - тебе все так же нужно применять критическое мышление, вкус и интуицию. Только скучной и сложной хуйни меньше.

Кому "открою тетрадь со всеми идеями, на которые думал что никогда не будет времени" и "скучная и сложная хуйня", а кому искренне интересен именно сам процесс, а не счётчик количества реализованных идей.

Грубо говоря, мне сегодня интересно код писать и программировать в очень широком смысле этого слова, а не программные продукты делать.

  Развернуть 1 комментарий

@yeputons, я не про счётчик совсем

  Развернуть 1 комментарий

@yeputons, так пиши и программируй. Просто из разряда "за это платят многа деняк" это переходит в разряд создания мебели руками. Возможно, со временем даже появится спрос на артизанский, крафтовый код

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@Temirkhan, я, честно говоря, не очень понял направление высказывания, но могу ответить на кусочек.

Но занимались этим люди часто не ради самих продуктов, а именно ради процесса

Как будто бы программировать ради процесса нейросети никак не мешают, их же можно не включать и писать код руками.

Не на работе, конечно, но работа всегда была про насилие над душой и делание того, что надо, а не что хочется, и попытку найти наиболее подходящий тебе формат насилия из доступных профессий

  Развернуть 1 комментарий

@EugeneYakshin,

Это не "роль надзирателя над ИИ" - тебе все так же нужно применять критическое мышление, вкус и интуицию. Только скучной и сложной хуйни меньше. Если ты уже прошел через тренировку ею, то для тебя это может быть освобождением. Те кто не проходил, подвержены риску бесполезных миражей и zombie science.

Не знаю, если честно. Я лично хотел бы в это верить, но я не вижу объективных причин для этого. Я не понимаю, где там останется мое критическое мышление. Я все же хочу не только идеи придумывать, но и продираться через сложные проблемы, чтобы совершить какое-то открытие. И я пока не очень вижу пути к этому, если не убрать из своей работы ИИ (а если убрать — останешься на обочине).

Твоя ценность как ученого не в твоих жертвах и специальной тренировке, а в качестве твоего мышления, в умении видеть его границы, и менять свой взгляд на проблему. Этого никто никогда у тебя не отнимет, даже если это будет хорошо автоматизировано. Никто не пробросит мост между моделью и человеческими смыслами кроме самого человека, потому что знание неизбежно связано с воплощением его носителя.

Не знаю, это немного копиум, кмк. Если я приду к налогоплательщика и скажу вот что-то такое, меня пошлют лесом и правильно сделают. Потому что сейчас моя ценность в уникальности моей экспертизы — и способа мышления, да. Когда ИИ отбирает у мен уникальность экспертизы и аппроприирует значительную часть способа мышления (т.к. я вынужден включать ИИ в процесс и адаптироваться под это), моя ценность становится очень неочевидной.

Науке жизненно необходимы люди со стороны с самыми неочевидными для специалистов идеями, не перегруженные специализацией и привычными заборами. Можно сказать что есть задача эффективного фильтрования трэшовых идей, но чем мощнее ИИ, тем легче отфильтровать в любой точке процесса.

Все так, но где тут место профессиональным ученым и почему общество будет продолжать нам платить?

Опять же, "разрушение института науки в привычном нам смысле неизбежно" - и слава Вселенной. Я четко вижу что природа знания настолько сложна, что можно не переживать об исчезновении профессии современного ученого или появлении процесса автоматических открытий. И без специализаций, и без рандомных идей извне, и без практикующих живых философов и мистиков - лабиринты и тупики. Надо развивать мудрость.

Но кушать-то хочется! Я хочу продолжать работать на своей работе и заниматься тем, что мне нравится. Я очень не хочу, чтобы академия развалилась и я остался на улице, потому что высокие мысли — это, конечно, хорошо, но это когда у тебя полный желудок и есть бокал винца в руке.

Это все блин ровно те мечты о которых мы с тобой читали у фантастов, только полные и реальные. И теперь мы взрослые дяди с детьми и обязательствами, и видим с какой ценой это приходит, и почему. Неприятно, да. "Человек" - это звучит гордо, но только звучит. Все будет хорошо

Я надеюсь, что придет Сингулярность и ИИ оверлорды дадут нам играть в бисер в свое удовольствие.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@Temirkhan, я понял концепт про крысиную гонку, и действительно, аналогичный механизм смотивирует всех перейти на вайбкодинг.

Посыл про долгосрочное планирование я тоже понял, и с ним согласен. (Можно уйти в детали, но, как поддерживающий аргумент, ок)

Но я не очень понимаю, к какому именно выводу ты подталкиваешь этими аргументами?

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@MikhailKorobko, я полностью принимаю аргументы про кушать и сам об этом думаю. Короткого и ясного ответа пока нет, но веры в найм через 5 лет у меня нет тоже.

Про налогоплательщиков тоже понятно. Цитируя классика, "but people are retarded". С налогоплательщиками говорить можно, но очень аккуратно.

Я думаю что ты как физик-экспериментатор в общественно финансируемой науке очень неплохо защищен от устаревания (и твои трудности рабочего процесса тоже). Насколько эта открытая наука сама защищена не понятно. Охотиться когда-то мы тоже все имели право. У условного Джима Келлера в команде тебе точно будет безопаснее, потому что общество платит с тихоходкин хуй. Но такие команды это не про пользу для общества а про закрытые коммерческие разработки. Это кстати неплохой разрез вопроса. Надо ли столько страдать, и ради чего. Раньше на него только утекающие мозги отвечали, а теперь все

  Развернуть 1 комментарий

@EugeneYakshin,

тихоходкин хуй

  Развернуть 1 комментарий

@yeputons, Ну и кто запрещает этим заниматься? Делай. Программируй. За это больше не платят, но програмирование-то у тебя не отбирают.

  Развернуть 1 комментарий

@EugeneYakshin, очень хорошо сказал, спасибо.

Смелость предположить, что такой свободный взгляд вообще возможен, надеюсь, остается.

  Развернуть 1 комментарий

@newarked, ох уж эти люди с большой финансовой подушкой, у которых после 16 часов на условном заводе (потому что на другую работу не берут, а кушать надо вчера) остаются силы заниматься любимым делом.

  Развернуть 1 комментарий

Науку убили тогда, когда она из квазирелигиозного ордена превратилась в просто еще одну индустрию в рамках индустриального общества.
Индекс Хирша, и гранты на его основе; 20 постдоков на контрактах на одного профессора — вот настоящее (состоявшееся) убийство науки, а не какие-то там чатгпт.

  Развернуть 1 комментарий

@glebkudr, не согласен, нет. Во-первых, грантов на основе Хирша давным-давно никто не дает. Во-вторых, 20 постдоков на контрактах — это что-то из разряда фантастики, я про такое не слышал, и это точно не норма. В академии много проблем, но она вполне себе функционирует и выполняет возложенные на нее задачи.

  Развернуть 1 комментарий

@MikhailKorobko, не знаю как у физиков, в биолабах это более чем норма.

Пашут как рабы за нищенскую зп, и не могут нигде осесть тк вероятность что через четыре найдется грант на текущем месте где-то 50/50

  Развернуть 1 комментарий

@glebkudr, а, ну в био...это возможно, но это не типично для науки в целом: в других областях это будет исключительно. Но положение постдоков в целом это не меняет — оно везде плохое. Но я не могу назвать это "смертью" науки. Как я и написал: в академии много проблем, это — одна из них.

  Развернуть 1 комментарий

@MikhailKorobko, в моем окружении это как раз типично, а нетипично что-то другое. Я могу назвать это смертью науки, потому что когда люди думают о выживании не имея ни кола ни двора - там не до прорывов.

  Развернуть 1 комментарий

@glebkudr, эм, но мы не говорим о смерти биотеха, а о смерти академической науки в целом, давай если уж обобщать, то правильно.

  Развернуть 1 комментарий

@MikhailKorobko, спросил у чатика примерную разбивку академических ученых по специальностям

Короче говоря, медицина + биология - это бОльшая часть науки (в медицине такая же жопа)

  Развернуть 1 комментарий

Я тут по большей части соглашусь с тем, что написла @EugeneYakshin.

От себя добавлю вот что - всем глубоко пох, что было вчера. Люди, которые живут этим вчера очень сильно озабоченные люди. Если ты поговоришь с человеком с улицы, то узнаешь, что в очень большом количестве случаев Вася с улицы думает о том, что ему в школе следовало-бы поцеловать Машу, а поцеловал он Алёну.

Это хреновый подход к жизни, учитывая то, что Алёна сейчас весит под 300 кг и сидит на герыче, а Маша уже давно замужем за французом и рожает ему детей в Оклахоме.

Но извиняюсь, блин, какое вчера? Оно существует только в наших воспоминаниях. И записано в наших книгах, которые без наших разумов и знаний, никто прочитать не сможет. Плёнки и диски с видеозаписью живут сейчас, в них вчера есть только потому что мы думаем, что это вчера существовало. С точки зрения инопланетянина эти плёнки и записи - просто шум на экране.

Сегодня - это точка отсчёта. Будущее - это туда куда мы идём.

Вот вам ИИ - вчера можно было потратить год на написание какого-нибудь проекта. Я потратил час. https://github.com/nurked/kiddos - вот пожалуйста. Народу всё равно интересно и качают.

Без ИИ этого бы никогда не было. А с ИИ - есть.

Другое дело, эти глупые ошибки типа

ИИ становится гораздо умнее нас.

Ага, а я становлюсь балеруном с каждым днём просиживания своей жопы перед компьютером.

Умнее может стать человек в тот момент когда он в 32 года осознаёт, что та девочка, которая пригласила его к себе "погонять в гонки на компьютере пока родителей нет дома" вообще не про гонки думала.

Машина умнее не становится. Ты собрал большое количество данных в одном месте и создал из них индекс. Вопрос не в том, что это за данные, а то как ты это применяешь. Я - помогаю людям строить умные бизнесы, где они платят за ИИ 500 баксов в месяц а не 50000.

Да, мне никто не даст 210 долларов в час, потому что я программирую уже 20 лет. Ну и хренли? Добро пожаловать в новый мир. Ты - человек. А человек, как мы знаем, может стать умнее и изменить состояние мира вокруг себя.

Меняй. Раньше при себе надо было носить револьвер, потому что медведь или ворюга мог тебя порешить за кошелёк или просто так. Сегодня надо решать проблемы рынка труда. Если ты умный - то решишь.

А если нет - можно сидеть и жаловаться на то, что что в прошлом, которое живёт исключительно в твоём разуме, было лучше.

  Развернуть 1 комментарий

@newarked, какой-то лютый социал дарвинизм.
А можно всё-таки будущее, в котором технологический прогресс нужен не затем, чтобы человек ещё эффективнее боролся за право не вылететь нахуй из жизни?

Я не против адаптации. Очевидно, если рынок меняется - надо меняться вместе с ним. Но мне странно, что это подаётся так, что это типа хорошо: раньше отбивались от медведя револьвером, теперь сражаемся за место на рынка труда с нейросетями.

  Развернуть 1 комментарий

@N3K0K33P3R, Адаптация?

Бог мой, почитайте историю. Все великие империи до последнего дня знали только одну вещь - они будут вечными и непобедимыми. Проблема была в том, что у них у всех была великая цель, они её достигли и не поставили пред собой новой цели. На том закончилась цивилизация.

Мы щас аккуратно в том же состоянии. Люди почему-то перестали понимать определённые простейшие вещи. В частности - если до людей не доёбываться и дать им спокойно работать над построением собственного будущего, то у них неплохо получается.

Вместо этого им (опять, вот те на) заливают рассказы про то, что делать больше ничего не надо будет, всё оно само и щас вот можно будет лежать на печи да е--ть калачи. Отдыхать без остановки. А рабоать за тебя будет ЛЛМ.

Если никто с этим идиотизмом делать ничего не будет, то мы щас повторим Рим.

Это не адаптация тебя под мир. Это адаптация мира под тебя.

  Развернуть 1 комментарий

@newarked,

Бог мой, почитайте историю. Все великие империи до последнего дня знали только одну вещь - они будут вечными и непобедимыми. Проблема была в том, что у них у всех была великая цель, они её достигли и не поставили пред собой новой цели. На том закончилась цивилизация.

Это очень спорное утверждение само по себе, но я всё же уточню, к чему ты ведёшь? Что некий император должен поставить перед человечеством новую цель, сорри за утрирование? Зачем человечеству обязательно империи, глобальные цели и прочее? Почему от человека нельзя просто отъебаться и дать ему спокойно пожить?

Люди почему-то перестали

Жаловаться на то, что люди какие-то не такие не сильно продуктивнее жалоб на то, что раньше было хуже, а скорее даже менее. Сорри, других людей у меня для вас нет.

В частности - если до людей не доёбываться и дать им спокойно работать над построением собственного будущего, то у них неплохо получается.

Это буквально то о чём я говорю, только как это совмещается со всем остальным?

Вместо этого им (опять, вот те на) заливают рассказы про то, что делать больше ничего не надо будет

Кто? В целом общий посыл автоматизации не в том, что мы автоматизируем всё, останется только отдыхать, а в том, что мы избавим человечество от необходимости делать тупую рутинную работу, останется только творчество и прочее. Но чёт мы перегнули и человеку придётся метаться и вечно адаптироваться наперегонки с ИИ с нахождением той области, которую не автоматизируют.

Если никто с этим идиотизмом делать ничего не будет, то мы щас повторим Рим.

Надо закрыть все эти antropic и openai, правильно понимаю? Потому что самое близкое к тому нарративу выше воспроизводят именно они, см. трейлер GPT Astra.

  Развернуть 1 комментарий

@N3K0K33P3R,

Почему от человека нельзя просто отъебаться и дать ему спокойно пожить?

Никогда не видел, как быстро умирают в домах престарелых бабушки, когда они туда попадают и лишаются своего огорода? Не видел, как быстро хиреют пожарники, которые всю жизнь вытаскивали из огня людей?

Когда у человека пропадает смысл жизни, то пропадает и сам человек. Смысл жизни - это не эзотерический принцип. Это просто, ну вот просто "Иметь цель и следовать этой цели". И всё.

Проблема в том, что для одинокого Васи Пупкина в ваккуме смысл жизни может быть чем угодно.

Но у нас тут есть область Васей Пупкиных, называемая Россией, есть область Васей, называемая Украиной, есть ещё много других обалстей. И эти области, составленные из Васей ведут себя так же как и Вася.

Вася может сколько угодно жить в лесу и пахать рожь.

Но конгламерация Васей, после усиленной работы, может позволить себе (и хочет позволять) кондицеонер, интернет по 5Г и Нетфликс. Васе проще и лучше жить с другими Васями.

И вот когда они живут вместе, им нужна общая цель. Иначе каждый делает что хочет, а так можно очень быстро лишиться Нетфликса, кондиционеров и даже воды в водопроводе.

А на данный момент некоторые поцы взяли себе моду запускать самолётиками друг по другу, так что дня не пройдёт, как результат жизни и труда десятков тысяч Вась Пупкикных за 20 минут пропадает в пылу яркого пламени.

Знаете-ли, так можно и без маркетплейсов остаться. И в итоге, когда нет цели для конгламерации, цель начинает появлятся автоматически, и она не всегда верная от этого.

  Развернуть 1 комментарий

@newarked,

Никогда не видел, как быстро умирают в домах престарелых бабушки, когда они туда попадают и лишаются своего огорода? Не видел, как быстро хиреют пожарники, которые всю жизнь вытаскивали из огня людей?

А чего они не адаптировались? Глупые, получается?

И вот когда они живут вместе, им нужна общая цель. Иначе каждый делает что хочет, а так можно очень быстро лишиться Нетфликса, кондиционеров и даже воды в водопроводе.

Так перед Васями и не ставил никто целью сделать Netflix, он в целом само как-то появилось, потому что конкретным индивидуумам было прикольно это делать.

А на данный момент некоторые поцы взяли себе моду запускать самолётиками друг по другу, так что дня не пройдёт, как результат жизни и труда десятков тысяч Вась Пупкикных за 20 минут пропадает в пылу яркого пламени.
Знаете-ли, так можно и без маркетплейсов остаться. И в итоге, когда нет цели для конгламерации, цель начинает появлятся автоматически, и она не всегда верная от этого.

Ну так это же прямо противоречит твоей позиции? Война это не цель, которая появляется автоматически. Как раз-таки приходит некий воннаби император, и говорит, что чё-то Васи у нас заскучали, жизнь впустую тратят, надо устроить им движуху, чтобы было ради чего её отдать.

  Развернуть 1 комментарий

@newarked,

Машина умнее не становится.

Становится. Мы буквально это видели за последние 4 года. Нужно, конечно, определить понятие ум, но 4 года назад она не могла по указке написать мне приложение, а сегодня может. Я думаю большинство людей согласится с определением, что машина стала умнее.

Ты собрал большое количество данных в одном месте и создал из них индекс.

Если я правильно понимаю, это типа описание LLM такое? Тогда это попросту неверно.

Вопрос не в том, что это за данные, а то как ты это применяешь. Я - помогаю людям строить умные бизнесы, где они платят за ИИ 500 баксов в месяц а не 50000.

Я правильно понимаю, что ты предлагаешь достаточно большому количеству людей, который идентифицируют себя как разработчики, становиться предпринимателями?

Или куда им всем адаптироваться?

В предприниматели? Продакты? Аналитики? Архитекторы AI систем?

Но таких позиций по определению требуется сильно меньше, чем исполнителей. Если один человек благодаря ИИ теперь может делать работу команды из десяти человек, девять освободившихся людей делать какими-то другими руководителями? Где взять столько проектов, чтобы ими руководить?

Предпринимательство тоже не масштабируется таким образом. То, что продукт теперь можно сделать за неделю вместо года, не означает, что на него автоматически возник спрос. Нужны пользователи, маркетинг, продажи, капитал, внимание людей. Если миллион бывших разработчиков одновременно сделают миллион новых продуктов, обществу совершенно не обязательно понадобятся все эти продукты и совершенно не обязательно найдутся деньги, чтобы всех этих новых предпринимателей прокормить.

А человек, как мы знаем, может стать умнее

Что значит стать умнее? Человеку как личности? Человечеству как виду? Речь про соревнование человека с ИИ в выгодности для общества. И о конкретных пределах того и другого мы точно сказать не можем.

Сегодня ИИ автоматизировали написание кода - хорошо, человек поднимается уровнем выше и формулирует задачи агентам.

Потом агенты научатся (или уже почти научились) сами декомпозировать задачи, проектировать систему и проверять собственную работу - человек поднимется ещё выше и будет выбирать, какие проблемы стоит решать.

А почему мы предполагаем, что именно этот уровень принципиально не автоматизируем?

Если условная OpenAI через несколько лет сможет запустить огромное количество агентов, которые сами ищут плохо автоматизированные области, придумывают решения, проверяют их и запускают следующие итерации?

И вопрос уже не в том, достаточно ли Вася умный, чтобы приспособиться. Вопрос в том, может ли экономика вообще бесконечно создавать новые виды человеческого труда быстрее, чем AI учится автоматизировать предыдущие.

А если нет - можно сидеть и жаловаться на то, что что в прошлом, которое живёт исключительно в твоём разуме, было лучше.

А почему вообще сравнение настоящего с прошлым автоматически превращается в "сидеть и жаловаться"?

Если вчера у тебя было лучше, а сегодня стало хуже, вполне нормально задуматься: почему стало хуже, обязательно ли это было, туда ли мы вообще идём и можно ли что-то с этим сделать.

Например, 2021 год по куче параметров для очень многих людей был лучше того, что случилось после. Из этого не следует, что надо до конца жизни сидеть и мечтать вернуться в 2021-й. Но было бы довольно странно запретить себе говорить, что тогда было лучше, просто потому, что "прошлого больше нет".

Тем более ты сам предлагаешь человеку «изменять состояние мира вокруг себя». Но чтобы что-то осмысленно менять, надо сначала иметь возможность понять: вот здесь стало лучше, вот здесь хуже, вот такой путь привёл нас сюда.

Если вообще отказаться от сравнения настоящего с прошлым, то что остаётся? Любое изменение автоматически считать прогрессом?

  Развернуть 1 комментарий

@N3K0K33P3R,

Ещё раз повторю - машина умнее не становится. Её могут программировать по-другому. Но ничто, что в инертном состоянии не может изменить энтропию не в состоянии стать унмее.

В отличии от кучи транизсторов, которые сами по себе, с течением времени просто будут разлагаться на песок, люди (как и другие живые существа) могут изменить энтропию и задать какой-то импульс машине. Запусти агент. Сам по себе. Без контеста. Не давай ни одному человеку трогать этого агента. Не позволяй людям подходить и давать изначальные параметры. Через годик проверь этого агента. Увидишь, насколько он умный.

ЛЛМ - это Т9 на стеройдах. Тот факт, что ты сам не знаешь правил, которые кто-то другой в этой машине насоздавал складывая в разных последовательностях слои или данные не делает её какой-то специальной. Как говорится, пять дебилов вместе не станут гением. Так же как и перемножитель матрицы умноженый на перемножитель матрицы останется перемножителем матрицы.

Или куда им всем адаптироваться?

В трогатели кустов и смотретелей глазами. Ну и конечно-же, самое главное, чесателей языком и говорителем с человеками.

Ко мне только сегодня пришёл новый клиент. Они из Латинской Америки. Продают свои косметики сотнями миллионов. Глава компании заткнутся не может в своём инстаграме о том, как ИИ делает за него всю работу, что у него по левую руку Кодекс, а по правую Клод. А сверху на короне у него сидит Чат ГПТ. Он продвигает свои продукты ежедневно и у него ежедневные подкасты по поводу ИИ.

Знаете с чем они пришли? У них магазин захлебывается, потому что у них сток продуктров висит в одном эксель файле, расшареном по компании. ЭКСЕЛЬ ФАЙЛ, КАРЛ! Чувак который на моих глазах не задумываясь купил сигару за $5k. Сука, у них эксель.

Тут надо не гнобить. С ними надо поговорить и помочь им. А если я им действительно помогу, то они меня в пролёте не оставят.

А почему мы предполагаем, что именно этот уровень принципиально не автоматизируем?

Автоматизируем. Просто, если прочитать любую книгу по истории, то можно запросто понять, что у человека нет лимита уровней как внизу так и вверху. Он может падать бексонечно долго, и достигать бесконечной свободы.

Если условная OpenAI через несколько лет сможет запустить огромное количество агентов, которые сами ищут плохо автоматизированные области, придумывают решения, проверяют их и запускают следующие итерации?

Ага, так же как этот рой сейчас "замечательно" "решает" проблемы написания кода. Если над ним не стоят с огнемётом, то в течении пяти минут ты получишь очередную копию базы данных, потому что один агент встал на пятки другому.

ИИ повторяет историю Биткоина. Все постоянно пророчили новую новость в жизни и во всём, а к 2026 году всем глубоко пох. Некоторые держат в нём накопления, а некоторые автоматизировали на нём криптокарты под безбожные проценты. И всё у них хорошо. В один прекрасный день ИИ заменил биток в израсходовании ресурсов видео карт, на которые мы взяли непомерные кредиты. Так что дай лет ещё 10, и на ИИ мы так же положем х. Не то, что это плохо, просто это уляжется.

А почему вообще сравнение настоящего с прошлым автоматически превращается в "сидеть и жаловаться"?

Потому что автор - именно что жалуется.

Существо без памяти по определению является психотическим сущетсвом. Если оно не знает, что печка горячая, то будет продолжать обжигаться.

Одно дело, когда у тебя есть цифры, графики и экстраполяции, которые показывают тебе куда ты идёшь.

Совсем другое дело, когда ты сидишь на толчке и листаешь рился о том, как хорошо было в СССР.

  Развернуть 1 комментарий

@newarked,

Но ничто, что в инертном состоянии не может изменить энтропию не в состоянии стать унмее.

Ну это странное определение интеллекта, во-первых
Во-вторых, а в чём тут разница между компьютером и человеком? Что человек может сделать с энтропией в глобальном смысле?

В отличии от кучи транизсторов, которые сами по себе, с течением времени просто будут разлагаться на песок, люди (как и другие живые существа) могут изменить энтропию и задать какой-то импульс машине.

Ну насчёт изменения энтропии, спорное утверждение, но машина тоже спокойно может задать импульс другой машине. И даже не потому, что человек её именно это сделать попросил.

ЛЛМ - это Т9 на стеройдах.

Это не так, соответственно всё, что после - тоже.

В трогатели кустов и смотретелей глазами. Ну и конечно-же, самое главное, чесателей языком и говорителем с человеками.

Твой частный пример ниже, к сожалению, ничего не доказывает. Вопрос был: нужны ли будут обществу не несколько, а миллионы новых продуктов, созданных вчерашними программистами, если они все пойдут что-то автоматизировать? Более того, ну не все люди хотят и умеют создавать бизнесы. Им куда деваться? Или сорян, не вписались в рынок, пока?

Автоматизируем. Просто, если прочитать любую книгу по истории, то можно запросто понять, что у человека нет лимита уровней как внизу так и вверху. Он может падать бексонечно долго, и достигать бесконечной свободы.

Нет, это не так. Наличие или отсутствие лимитов "уровня", как и кривая сложности "прокачки" не экстраполируется так просто из книг по истории, а то получается мем

Ага, так же как этот рой сейчас "замечательно" "решает" проблемы написания кода. Если над ним не стоят с огнемётом, то в течении пяти минут ты получишь очередную копию базы данных, потому что один агент встал на пятки другому.

Да, решает. При желании можно поставить над роем пару-тройку агентов с огнемётом, которые будут их контроллировать. Это уже даже сегодня работает.

ИИ повторяет историю Биткоина.

Нет, это не так, с какой стороны не посмотри. Вообще стоит избегать формулировок "X это же тоже самое что Y", потому что почти всегда это не так, а даже если похожи, суть-то как раз в деталях, которые их отличают.

ИИ в текущем виде, может, и исчезнет, но только в том случае, если появится что-то принципиально новое и более крутое в той же области.

Потому что автор - именно что жалуется.

А по мне так рефлексирует и пытается понять, как дальше жить и в ту ли сторону мы двигаемся.

  Развернуть 1 комментарий

Недавно обсуждали с товарищем по работе всю эту тему - сформулировали что "порог отложенного вознаграждения" сильно поднимается: если раньше условно в школе можно было решать задачи самому, а можно было подсмотреть в ГДЗ, но после школы ГДЗ уже считай не было - то теперь ГДЗ в лице ИИ появляется вплоть до младших позиций на настоящей работе. Но суть та же - кто сам ничего не делает тот огребет проблем позднее.

Системно насколько я вижу ИИ "сам" ничего не делает - все равно есть квалифицированные люди (причем одни квалифицированные любди иногда делают подлости другим). Но теперь чтобы дойти до этого уровня квалифицированного человека, нужно будет больше "устойчивости к ГДЗ" чем раньше

Мне казалось что ученые это люди у которых в принципе с терпимостью к отложенному вознаграждению получше, чем в целом по больнице - но видимо произойдет еще большая дифференциация? Выживут самые стойкие, как и с инженерами

  Развернуть 1 комментарий

Мне не нравится кликбейтный заголовок. ИИ всё ещё неимоверно тупой и рецензии пишет.. плохо-приемлемо. Это может и правда лучше, чем многие ревьюеры, но тогда и проблемы нет -- плохие ревьюеры станут работать лучше или перестанут быть нужны. Хотя это тоже интересное предположение, что в академии, где эксплуатируют бесплатный труд учёных, журналы вдруг решат платить подписку на ИИ рецензента из своего кармана. Они будут первыми в списке людей, защищающих старую модель ведения рецензий и свой доход, лоббируя идею, что без человеческого глаза и ответственности нет нормального рецензирования.

Но этот пост он является эмоциональным переживанием автора больше чем объективной оценкой, поэтому наверное и говорить нужно о чувствах, а не ИИ.

Если у тебя кризис целеполагания, то хорошо разобраться в своих переживаниях по этому поводу. Мотивация прийти в науку может быть разная. Если это "разобраться как на самом деле работает эта штука и как сделать лучше", то конфликта с ИИ который поможет найти тебе ответ и сделать всю работу за тебя как будто нет. Если это "получить признание за то, что я хорошо постарался" то тогда действительно ИИ это конкурент который пугает. А может это просто страх того, что ты останешься без работы и тогда могу посоветовать а) оценить насколько этот страх обоснован. Возможно вероятность мала или горизонт далёк, а впечатление неотвратимости и срочности раздуто. б) принять, что мир меняется и не будет под тебя подстраиваться, чтобы жертвы и труд имели смысл и можно было сохранить привычный уклад, смысл сам себя не найдет и продумать свои действия на случай той самой катастрофы, что всех заменят, которую ты себе представляешь. Если у тебя есть смысл зачем ты делаешь то что ты делаешь и уверенность, что ты не пропадешь даже при изменениях, то тревоги должно стать меньше.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@Darel,

ИИ всё ещё неимоверно тупой и рецензии пишет.. плохо-приемлемо.

Нет, это не так, если смотреть на топовые модели. Я прошу ИИ рецензировать свои статьи, и это лучшие рецензии, что я получал когда-либо.

Если у тебя кризис целеполагания, то хорошо разобраться в своих переживаниях по этому поводу.

Ты, видимо, не прочитал пост, поэтому пытаешь в психоанализ тут, не надо, пожалуйста. Как я и написал в посте, у меня как раз проблем минимально от этого, если не считать структурной проблемы, где я останусь без работы вовсе. Пост в первую очередь про систему.

  Развернуть 1 комментарий

@MikhailKorobko,

Нет, это не так

Да, это так. ИИ упускает важные детали и его вполне можно переубедить что аксепт это реджект на самом деле. Это может не отменять того факта, что это лучшие рецензии, что ты когда-либо получал, потому что планка порой не высока. Хотя может мы о разных топовых моделях говорим.

Пост в первую очередь про систему.

Я прочитал пост и увидел оценочные суждения типа "это все приводит к кризису целеполагания", которые ты распространяешь на всех и каждого, хотя это субьективная штука. Если взять пункт про рецензирование, то ты утверждаешь, что старая система рушится, тем временем рецензии на конференциях и в журналах как проводились людьми так и официально и проводятся. Про систему в таком формате мне неинтересно говорить.

Я решил, что поговорить про мотивацию написание поста может быть полезней, чем спорить с выводом, который ты заранее сделал. Ты написал, что тебя это не касается, но при этом ты описал катастрофичную интерпретацию мира в которой всё научное сообщество рушится, а ты являешься его частью. Отсюда и предположение, что что-то тебя беспокоит. У тебя это вызывает раздражение - ну сорян, не зашло. Я со своей стороны пытался проявить эмпатию, но не надо - так и пожалуйста.

  Развернуть 1 комментарий

@Darel,

Да, это так. ИИ упускает важные детали и его вполне можно переубедить что аксепт это реджект на самом деле.

Ты просто не умеешь писать промпты, сорян.

Это может не отменять того факта, что это лучшие рецензии, что ты когда-либо получал, потому что планка порой не высока.

Я видел очень много рецензий в своей карьере, включая самые топовые журналы, и они, несмотря на высокое общее качество, не подходят близко к тому, что делает ИИ.

которые ты распространяешь на всех и каждого

Не на всех и каждого, а на большинство. И это то, что я наблюдаю и какие я выводы делаю из этого.

сли взять пункт про рецензирование, то ты утверждаешь, что старая система рушится, тем временем рецензии на конференциях и в журналах как проводились людьми так и официально и проводятся.

Это происходит повсеместно, во всех крупных журналах ИИ делают скрининг статей на качество перед засылкой в издательноство. В IOP официально используют ИИ инструменты в ревью как ассистентов. AIP использует это для конференций. Nature использует пре-скрининг науки в статьях перед засылкой редакторам.

То, что человеческие ревьюеры используют ИИ постоянно — тут тоже никаких сомнений нет. Более того, крупные журналы типа Nature буквально говорят: да, мол, используй, но ответственность на человеке все равно. Показатель! Были исследования, что в некоторых областях типа по 20% ревью были ИИ еще пару лет назад, но мне лень искать уже.

Так что — да, это повсеместно используется уже, и с учетом повышения качества агентов это станет еще более популярно в ближайшие месяцы. Если это не крушение старой системы, то я не знаю, что.

Про систему в таком формате мне неинтересно говорить.

Но ты сам пришел.

  Развернуть 1 комментарий

@MikhailKorobko, ахах промпты писать не умею. Ты зато умеешь мысли аргументировать мастерски, пост свой поревьюить можешь заодно, полезно будет. Удачи.

Всё что ты описал вообще ну вообще никак не является разрушением системы. Где-то добавили скрининг, значит люди больше не нужны, гениально. Твои же примеры показывают, что людей нигде не заменили и не собираются.

  Развернуть 1 комментарий

@Darel, ну как говорится, сапиенти сат, я дальше в таком стиле общаться с тобой не буду, а читатели сами поймут, что тут где.

  Развернуть 1 комментарий
Semen Starostin Системный архитектор 9 сентября в 17:27

Пока что все эти ВЕЛИКИЕ ОТКРЫТИЯ ИИ только в интернете. Что то я не вижу лекарство от рака которое бы сделало ИИ , или лекарство от старения , новый вид аккумов или какую то замену текущим источникам энергии. Все что я вижу это то чего и так было дохера, а стало еще больше чем дохера. Науку скорее будет убивать огромное количество нейрослоп статей которые в таком количестве будет тупо невозможно отревьювить , а следовательно их будут ревьювить ИИ , и все это будет попадать в журналы которые будут читать те же самые агенты и как мы знаем обучение на нейрослопе приводит к деградации. Поэтому посыл о том что текущей науке - бзда верный, но причины по которым текущая наука скатится ИМХО не верные.

Теперь немного про науку. Я хз как там в европах но в РФ есть две науки , та что на грантах и та что для военки. На грантах ученые по суте хуй без соли доедают 50% бабла уходит на налоги фот бухгалтера , остатки на статьи материалы и на бедное существование, кому этот грант с барского плеча кинули. С другой стороны в армейке бабло не считают , но за это ты платишь рисками невыездного и вообще присядкой на бутылку если в статье какой нибудь опублекуешь то что товарищь майор воспримет как гостайну (так что удачи там со сливом инфы в ии). Мой батя работаеть в науке и одновременно преподает в универе, и наукой там занимаются либо идейные либо по остаточному принципу и по моим ощущениям это 30% людей остальные пишут статьи богу статей и вообще хуйпойми чем занимаются средний возраст 60+ лет, тупо доживают свой век на зарплате, а новой крови нет практически. И как раз именно это главная проблема , что тупо нет людей которые ХОТЯТ делать науку ХОТЬ КАК ТО (с ИИ или без аще пох).

Теперь про ситуацию пиздитнга решения. Я хз почему некоторые люди тут пишут что то из серии "давайте не будеми об этом". Но блыт а почему не будем то?! Насколько я понял там прям у людей РЕАЛЬНО СПИЗДИЛИ их решение, сколько теперь ученых три раза подумают прежде чем сливать свои данные в ИИ, если раньше все как то понимали о том что да наверное у корпоратов все таки есть возможность анализировать что там им в веб формочку сливают или агентам , но они же не будут в это вчитываться верно? А оказалось то че по итогу, как амазон с подгузниками , было у тебя преимущество какое то будь то в науке или в продукте , слил ты все исходники агенту - вот и нет у тебя преимущества. Слил черновики лекарства от рака а на следующий день видишь что Сэм радостно патент на это все уже оформил и банчит лекарством с маржой х1000.
Если даже после таких новостей корпораты и ученые продолжат сливать свои черновики в AI ну может туда им и дорога.

  Развернуть 1 комментарий

@SAXER,

я не вижу лекарство от рака которое бы сделало ИИ , или лекарство от старения , новый вид аккумов или какую то замену текущим источникам энергии.

В настроении я бы уже именно за такую формулировку щемил бы беспощадно, но допустим:

https://www.nature.com/articles/s41586-023-06734-w - матвед

https://www.nature.com/articles/s41591-025-03743-2 - лекарство от рака

https://linkinghub.elsevier.com/retrieve/pii/S0092867420301021 - лекарства в принципе

https://www.nature.com/articles/s41586-021-04301-9 - электричество. Ладно, это использование ML для управления реакцией термояда.

https://news.microsoft.com/source/features/innovation/how-ai-and-hpc-are-speeding-up-scientific-discovery/ - самое конечно слабое тут, но вот тебе новые материалы для аккумуляторов.

Дальше первого абзаца смысла читать, если буквально это настолько неверно, что даже не смешно.

  Развернуть 1 комментарий

@mighty_conrad,
Поскольку все твои предыдущие посты на тему ИИ говорят о том что ты прям в теме мне будет крайне трудно как то аргументированно оспорить твое мнение прост потому что ты в этом варишься. Н оя обращу внимание на следующее:

  • Первая ссылка статья от 23 года где была натренерована моделька для синтеза матерьялов из разных порошков путем их смешивания в разных пропорциях и в дальнейшем спеканием. В уточняющей статье от 26 года авторы пишут "Мы признаем, что первоначальные заявления о материальной новинке были предметом неправильного толкования — их намерение состояло в том, чтобы указать, что материалы были новыми для платформы прогнозирования, а не обязательно новыми для науки." т.е. насколько я понял новых материалов они не сделали (может понял не правильно)
  • Вторая ссылка. Если я правильно понимаю то пневмания это все таки не рак (Идиопатический лёгочный фиброз (ИЛФ)), моих знаний в медицине не достаточно что бы понять всю терминалогию в данной статье, но то что мне удалось понять это то что там нет какого то лекарства , а есть тестирование препората на группе из 126 человек (включающую группу с плацебо). Ну и далее вивод: "Несмотря на короткую продолжительность и количество изъятий из испытания по всем вооружениям (n = 16/71 (22,5%)), результаты обнадеживают для дополнительного изучения этого кандидата на лекарство и целевого показателя, предполагая, что арт-обертиб, как правило, безопасен и потенциально эффективен и, в более широком смысле, что использование ИИ как при идентификации целей, так и в разработке лекарств может повысить эффективность процесса разработки лекарств." Насколько я понимаю лекарства как такового нету.
  • Третья ссылка у тебя не про лекарства в принципе а про антибиотики , более того там нет никаких новых антибиотикова, есть подход к их открытию с помощью модели которую они обучили, я это воспринимаю как мем из пиратов карибского моря "у нас нет ключа , но есть лучше - РИСУНОК КЛЮЧА". Может они конечно что то откроют...а может и нет...

Дальше если честно я немного подустал читать гигантские тексты о том как ИИ помогает. Мой посыл был о том что все эти открытия только в интернетах твои первые три ссылки это подтверждают на текущий момент(!) т.е. возможно через N лет мы увидим что учоные открыли новый антибиотк благодоря обученной модели из того исследования на который ты сослался...но пока не открыли...

  Развернуть 1 комментарий

@SAXER, какая жиза. Все носятся с этим ИИ и говорят какой он фантастический. Но софт как был шляпой, так и остался. Жизнь не улучшилась ни на йоту.

ИИ собирает низковисящие фрукты стоя на плечах гигантов. Но вот вообще то, за этими прорывами стоят годы работы разных людей, которые хоть как-то оцифровали свою информацию. Будет ли в дальнейшем в этом смысл - большой вопрос.

  Развернуть 1 комментарий

Я лично вижу только плюсы. Например, "я" доказал теоремы (https://arxiv.org/abs/2608.11930), которые в жизни бы не доказал, даже если бы пахал по 60 часов в неделю последние 30 лет.

Барьер для науки сильно упадёт, математиков, физиков, учёных, программистов станет сильно больше, чем когда-либо, потому что (а) есть большая ценность от этой деятельности, (б) у ИИ много проблем с тем как задавать себе правильные цели, и (в) людям сильно больше нравится заниматься креативной деятельностью типа науки, чем сидеть в офисе перекладывать бумажки.

Так что все будет только лучше.

  Развернуть 1 комментарий

Прочитал пост и обсуждение.

Впизду, открою пекарню, буду печь хлеб.

  Развернуть 1 комментарий

@zao,

  Развернуть 1 комментарий

Люди забывают, что вот эти самые ИИ принадлежат, горстке компаний, которым в целом похуй на развитие человечества, их цель это заработать денег. И в момент когда вы распустите всех инженеров, архитекторов, ученных, проектировщиков, ИИ-компании посадят на вас на бутылку. Это сейчас подписка стоит 200$, а что будет завтра? Поэтому я бы не спешил все перекладывать в одну корзину, как собственно и делают умные люди.

  Развернуть 1 комментарий

@mephistorine, думаю для них есть цели больше чем деньги - власть например

  Развернуть 1 комментарий

@anikievev, так и есть. Они же и задачу эту пошли решать, потому что увидели что антропики это делают, все для рекламы и маркетинга новой версии гпт, говорюж всем насрать на людей (омерику открыл ага)

  Развернуть 1 комментарий

Мне кажется ИИ это просто очередной этап отчуждения труда, в итоге учёные (или те кто останутся после) будут просто сотрудниками на конвеере, перерабатывающими слоп в что-то что можно назвать "продуктом", пусть даже и в области теоретической науки.

Вопрос в том если у такого "продукта" потребитель, но веть что-то мотивирует текущее общество выделять гранты на фундаментальные исследование.

  Развернуть 1 комментарий


Я в этом познании уже преисполнился) Мне уже все равно на ваш ИИ, и этот мир, за последние три года уже сил нет про него говорить. Поэтому я буду даже рад, если смогу делать так как в известном фильме уже.
"Чувак-чуваааак, чувак, ты реально мешаешь мне смотреть телевизор, чуваааак!"

  Развернуть 1 комментарий

Исчо одну вещь добавлю.

Самые полезные вещи, которые надо в жизни изучать - просты до одурения.

Чем сложнее, непонятнее и запутаннее вещь - тем больше на неё надо класть х.

Я реально что учился программированию. Именно изучал и на самом деле, хотя и провёл много бесполезных пар в универе, не менее 50% того что я учил осталось в жизни востребованым.

Хорошими были основопологающие вещи, которые можно было проносить через века. Понимание базовой работы процессора, знание определения слов "функция", "стэк" и "куча" и тому подобные вещи позволяли мне в будущем быстро учить новые языки и полезные вещи.

Знание того, как правильно писать все параметры для командной строки компилятора языка C# версии 1.1 позволяли пройти экзамен, но в итоге оказывались очень бесполезным знанием.

То же наблюдаю в математике. Замечательная и неотъемлемая часть любой науки. Математика - это база, которую нельзя отрицать. ВСË что у нас есть работает на математике. Понимание базовых основ математики позволяет быстро прикинуть вещи, оценить вероятности и делать тому подобные штуки. Но, вот сейчас смотрю канал Numberphile, и там полным ходом показывается шоу "как не надо вести себя в любой науке".

Пример стандартного контента:

А вы знаете, что есть число 8008135, которое отличается от всех других чисел? Если его помножить на пять, потом взять факториал четвёртой степени, помноженый на косинус из минус И а потом взять ближайшее двойное троечилсие Лагранджа, то можно увидеть, что сумма всего этого делится на два!

Ультраспециализация - это область, в которой очень редко надо находится. Сердечные хирурги могут быть ультраспециалистами. Но программист, который всю жизнь занимался только тем, что изучал базу данных MongoDB - это человек с поломаными целями в жизни.

Изучать физику только для того, чтобы в течении 20 лет выстраивать теорию о том, что происходит в 20 миллиардах световых лет от нас - так себе дело.

Задача науки - собирать, категоризировать и обучать знаниям, необходимым для того, чтобы действовать в определённой области. Когда наука зацикливается только на первом или втором, у нас появляется различные бесполезные вещи.

Например, ботаника. Действительно полезная наука. Но в какой-то момент надо понимать, что тот факт, что мы можем различать 16 видов борщевиков особо никого не канает. Надо (как и во всём) уметь останавливаться.

  Развернуть 1 комментарий

@newarked,
согласен на 100% про пользу простых вещей, но вот только "бесполезные" исследования тоже нужны: на девять бесполезных, одно всё-таки окажется полезным, даже там где изначально не подозревали. Например простые числа и криптография

  Развернуть 1 комментарий

@sol, ты абсолютно прав. Опять же, одно дело когда кто-то учит криптографию или местами делает это. Совсем другое - посветить жизнь изучению какого-то одного явления в области.

  Развернуть 1 комментарий

@newarked, угу, выбирать очень узкую профессиональную специализацию рискованно. Может фортануть и будешь супер востребованным, а может придется начинать с нуля

  Развернуть 1 комментарий

Я когда-то перезаписывал старый аргумент по поводу "погромистов пытаются заменить всю историю развития погромистов":
https://vas3k.club/question/23500/#comment-019ac80c-7a30-40e8-ac30-e52423d037c6

Сам по себе это был аргумент с этого блога, который я вообще потом на хабре читал в бородатые (старые, теперь бородатый я...) годы, вот его обновленная версия: https://www.ivanturkovic.com/2026/01/22/history-software-simplification-cobol-ai-hype

На самом деле оказывается, история вообще архаичная по меркам домена, вообще с 60х идёт и было подобное заявление на старых конференциях во времена, когда IBM выпускало рекламу (блять, рекламу!) нового языка программирования со слоганом "а сможет ли девочка без профильного образования сделать всё сама?": https://direct.mit.edu/books/monograph/3305/The-Computer-Boys-Take-OverComputers-Programmers

Это я так, для базы скинул, извините за пред-разгон.

И если честно, по мне как будто пофигу, что есть подозрение на типовой пиздинг метода и забрасывание задачи джигаваттами электричества, это уже как будто типовая проблема всех закрытых вендоров (огромная, за это надо щемить, но это уже повседневность).

Интереснее другое.

Вот коммент мой пересказ я кажется готов доводить до нового уровня умственной модели: не только кодеров не стало меньше, но каждый новый эмэйзинг в поле разработки добавлял сверху еще один уровень трансляции задачи, подсоединявшийся к уже существующим.
Сначала были кодеры, к ним с появлением компиляторов пришли математики-девелоперы, потом с Фортраном пришли ученые-архитекторы, следующие на очереди бухгалтера и DBA когда появился Кобол, с SQL пришли клерки-аналитики, дальше сами но там реально еще в итого слоёв абстрации вплоть до сегодняшнего отсутствующего толмача с "пацанского" на "хотя бы клиентский" в цепочке современной разработки. Моя теория, можно дискутировать, не претендую на истину, но на удобную практичную модель мышления.

Что здесь в итого даже вышло - появилась пара жубанов и такие "давай реши Навье-Стокса по братски". Тут буквально произошла попытка перескочить 4-6 слоёв трансляции желаемого в результат. Вот как будто где собака зарыта и почему от этого горит. С другой стороны, сколько уже бьются с этой задачей вообще и создали весь аппарат, формализовывали и транслировали те самые задачи, чтобы уже что-то считать там надо было? И тут как раз выходит прикол, что опять какой-то хер говорит про "ыыы мы решили задачу за 80 дней под пиво, а не за 80 лет", наивно отказывая буквально всем 80 лет научного прогресса. Как будто вот этот диссонанс и вызывает горение, поправь меня если я не прав.

  Развернуть 1 комментарий

@mighty_conrad, ремесленников же в итоге заменили :) прогресс ускоряется

  Развернуть 1 комментарий

Кстати, если что, вот та самая реклама. Пиздец.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

Суммарно тейк выглядит как: "Наукой станет заниматься проще и поэтому люди перестанут это делать".

Обычно наоборот получется.

Конкуренция со всемогущим ИИ не убьёт энтузиазм учёных, так же как существование чемпионов не убивает любительский спорт, а наличие готовых вещей не убивает самоделкиных.

ИИ это очередной 3D принер - "он сам всё напечатает, скульптор больше не нужен!".
И чё, ты бросил DIY после покупки принтера?, думаю наоборот )

Ну и рабоать ради "возможно через 40 лет я чего-то достигну" как-то грустно звучит, независимо от професии.
Лучше работать "потому что это просто охуенно!"

  Развернуть 1 комментарий
Юлия Козина Помогаю большим компаниям тратить их деньги aka стратегический консалтинг 14 сентября в 10:28

Думаю, что науку так таковую ИИ не убьет. Убьет подход к получению научного знания, когда раньше ученые ловили «кайф» От самого подхода к решению задачи, в результате которого сделали еще параллельно 100500 открытий. А сейчас время от постановки проблемы до получения результата сократилось в N раз. Зачем рвать жопу на британский флаг, если можно тупо получить тот же результат, причем часто правильный и адекватный ? Уже нет в современном мире этой интеллектуальной роскоши в виде получения долгого дофамина, который дает ощущение Вау! Я сам до этого допер. Кто еще решал задачи по матану или еще чему-то в начале 2000-х в учебниках без ответов, тот меня поймет.
Сама ловлю себя на том, что уже лень иногда разбираться в проблеме, когда ежедневник завален кучей митингов и других задач. Не хочется вникать, разбираться, понимать…. Вот это действительно страшно…

Кстати, тут математики тоже озаботились проблемой ИИ и его негативным влиянием на науку. Буквально на днях письмо написали…

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
Саша Калюжнюк Физик, Популяризатор науки. Делаю стекло вашего следующего смартфона одновременно прочным и твёрдым, сидя за компуктером 9 сентября в 10:26

С другой стороны, это все приводит к кризису целеполагания

@MikhailKorobko это похоже на новый этап грустного и уже почти векового процесса перевода науки на "проектный" режим.

Хуже того: вся академическая наука построена на общественном договоре, что вот есть странные люди, которые тратят свою жизнь на странные вещи, чтоб остальным не пришлось

И что таких вот странных людей становится всё меньше ещё с середины 20 века.

За счёт чего у нас всё больше нормализуются научные публикации в стиле "численный расчёт прочности девайса X", но всё меньше фундаментальных идей, которые обычно приходят в головы как раз этим самым странным людям, посвятившим десятки лет какой-то области или задаче. И способных построить не только модели и дать с их помощью прикладные ответы, но и их философию.

Хз, насколько это хорошо. Похоже на поп и рок-сцену, которую раньше создавали легенды, но их было критически мало.
А затем сначала наступило Энди-Уорхоловское "В будущем каждый станет всемирно известным на 15 минут", а потом и человеки всё меньше стали быть нужными для этого. И в наши ежедневные ленты контента стало пробираться всё больше нейрохрючева

  Развернуть 1 комментарий

@iomguy, да, именно: современная наука не поощрает долгое сидение в размышлениях о новых сумасшедших вещах, а наоборот — инкрементальное развитие существующих или хайп на конкретной теме. Потому что так гораздо проще объяснить обществу, почему оно тратит столько денег из налогов на фундаментальные исследования и зарплаты странным людям, а не на что-то "по-настоящему" полезное. Весь цикл научпопа по сути построен вокруг этого: общество нам дает деньги, а мы пытаемся как-то оправдать затраты, рассказывая красивые истории с картинками.

И ИИ — еще один шаг в ту же сторону, где станет еще сложнее объяснить, в чем же такие заслуги конкретного постдока, что ему стоит платить 100к€ в год, если ИИ сделает все гораздо дешевле, еще и сразу картинки красивые нарисует.

  Развернуть 1 комментарий

@MikhailKorobko,

если ИИ сделает все гораздо дешевле, еще и сразу картинки красивые нарисует.

но ИИ же ничего сам не сделает? В айтишечке аналогичный подход "давайте всех нахрен уволим и код будет писать ИИ" приводит к временной эйфории и дальнейшему протрезвению через n недель/месяцев, иногда с обратным наймом уволенных людей, насколько я могу видеть. (При всех оговорках, что ИИ действительно очень сильно меняет реальность работы и стоит кому-то своего места или возможности найма)

Через этот цикл опьянения и отрезвления проходят примерно все кто принимает решения. Почему конкретно в науке они не протрезвеют, в чем отличие?

  Развернуть 1 комментарий

@taigatree, параллельно идет развитие моделей + экономика науки сильно отличается от экономики маленьких фирм.

Еще полгода назад я говорил примерно так же, но скорость развития пугает.

  Развернуть 1 комментарий

@taigatree, может быть натвный вопрос, но разве уже есть примеры когда обратно людей нанимают после увольнения?

  Развернуть 1 комментарий

@makryun, лично таких примеров не знаю, возможно тезис ложный.
Вспомнил вот этот комментарий, но там действительно ни слова про найм после осознания ошибки.

При этом найм - я не имею в виду найм ровно тех же людей, скорее специалистов того же уровня. Это может быть меньший штат чем был до увольнения, или контрактная основа / консультации (вот это в каком-то виде даже наблюдаю) - ну то есть уже вплотную приближается к Мишиному тезису про сокращение финансирования

  Развернуть 1 комментарий

история про украденное решение огненная (и неприятная, конечно).

меня вот интересует, чтоб наука побыстрее нашла лечения для всякой хуйни, и вот пример биомедицинского стартапа Дороничева https://t.me/dobry/227. Я очень надеюсь, что те ученые, которые раньше искали это руками, не слишком расстроятся от ускорения своей работы и не бросят весь процесс. Либо возможно из цепочки выпилятся те люди, которые что-то бесконечно перепроверяли руками?

  Развернуть 1 комментарий

@aniaponomareva, да, я вот жду когда нас загрузят в комп с полной эмуляцией мозга ( а значит и сознания и прочего ) 😄

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@Temirkhan, не, эта тема уже давно развивается, даже есть план по WHOLE BRAIN EMULATION ( в сети пдфка на 200 страниц )

  Развернуть 1 комментарий

@aniaponomareva, абсолютно, у ИИ есть куча позитивного импакта на развитие технологий (да и фундаментальной науки). В этом и парадокс: то, что мы называем "наука" обычно — развививается невиданными темпами, а социальный институт при этом в глубоком кризисе, выхода из которого не видно.

  Развернуть 1 комментарий

Очень крутые комментарии! И тема актуальная.
Как человек из науки, только педагогической, скажу, что ИИ это ускоритель. Он ускоряет то, что у тебя в голове. Приведу крутую картинку, которую могли видеть как мотиватор.

Из интернета
Из интернета

Живя наукой, прокачивая интеллект и целеполагание ты становишься еще круче, быстрее и эффективнее.
Но если ты смотришь тикток, бухаешь как чорт и не можешь связать двух слов - ИИ отберет твою оставшуюсья работу, потому что и так ни на что особо не годен.

"слишком ригидны все академические системы, а это изменение должно было происходить органически. Сейчас оно просто разрушится, отдав прикладную науку на откуп корпорациям" - вот тут проблема на мой взгляд. Что не у всех ученых есть доступ к технологиям. Кому-то он бы действиетлньо не помешал и он бы сделал новые открытия.

И да, вопрос оплаты труда остается открытый. Сейчас применение ИИ воспринимается как безалаберность и халтура, хотя написать промпт это сложно (не кнопки давить, а придумать, что он должен делать). И нормативная база не готова пока. И к темпу развития и открывающихся возможностей не готовы пока не то, что педагоги, да и многие другие. И думать надо учить подругому. И компетенции обновляются. В общем все опять меняется, как при переходе от ручного труда к станкам. Фундаментальная наука нужна для понимания процессов. Но и 20 лет назад не всем она была нужна, ни сейчас, ни через 20 лет. Вангую на еще более сильное расслоение общества и вопрос, где будем мы при этом.

  Развернуть 1 комментарий

@Spirtel,

Живя наукой, прокачивая интеллект и целеполагание ты становишься еще круче, быстрее и эффективнее.

Как же не хочется быть быстрее и эффективнее

Но если ты смотришь тикток, бухаешь как чорт и не можешь связать двух слов - ИИ отберет твою оставшуюсья работу, потому что и так ни на что особо не годен.

Лирический герой не сделал ничего плохого и должен иметь право на труд, должен иметь возможность закрыть базовые потребности и получить нормальную социализацию. Вам не понравится мир, где вы победитель, а все остальные неудачники.

  Развернуть 1 комментарий

@gimemor, В целом согласен. Идея была подсветить общий тренд развития человека.
Быстрее ты становишься относительно всего остального мира - за меньшее время делаешь больше. Есть вариант, что это станет нормой через некоторое время.

  Развернуть 1 комментарий

@gimemor, Я конкретизирую, что право и желание это две разные вещи. У гипотетического него есть право, но нет желания.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
Саша Калюжнюк Физик, Популяризатор науки. Делаю стекло вашего следующего смартфона одновременно прочным и твёрдым, сидя за компуктером 15 сентября в 07:08

Вопрос цепляет за живое, и всю неделю хочется вернуться и что-нибудь дописать))

@Alejandro писал выше про ценность «понимания» в научной работе. И тут стоит не забывать ещё и про «интерпретируемость» не только LLM-ок, трансформеров, но и большинства ML-алгоритмов в целом.

Учёные с опаской относятся к инструментам, работу с которыми сложно интерпретировать. В коммерческом численном моделировании на вопрос «а почему конструкция разваливается?» всегда работал ответ «ну, тут нелинейный расчёт…» или «ммм, точка бифуркации, система меняет состояние» или «ну, тут модель турбулентности - долго калибровали и так получилось» (если они в модели действительно есть и нужны, конечно).

Это НЕ хорошие ответы, но временами тебе действительно трудно интерпретировать прогноз численной модели, в которой есть нелинейности. И учёного или инженера работать с таким инструментом бесит - твои прикидки часто не совпадают с результатом, а объяснения кроме «ну, машина так посчитала мои уравнения» нет.

А теперь у нас есть «универсальный аппроксиматор» любой нелинейной функции - будь то предсказание следующего пикселя для генерации видео с говорящими фруктами или каждого следующего слова в решении задачи тысячелетия.

Логично, что перспектива того, что этот инструмент станет для нас не приятным дополнением, а обязаловкой, пугает!

  Развернуть 1 комментарий

@iomguy, справедливости ради, это вы говорите о классическом ML когда мы заменяем настоящую формулу весами модели. Желание видеть хороший интерпретируемый результат понятно, но во многих задачах мы очевидно упёрлись в тупик, см на тот же фолдинг.

Если мы говорим о случае "ллм будет вместо нас придумывать решения математических задач", то кажется не возникает ситуации чёрного ящика, когда оно работает, но хз как и почему.

  Развернуть 1 комментарий

Сейчас оно просто разрушится, отдав прикладную науку на откуп корпорациям, а фундаментальную забросят на свалку, ведь какая корпорация будет платить за информацию о том, что там случилось во время Большого Взрыва?

Вот тут, возможно, отчасти и ответ на вопрос о будущем наших карьер как учёных. Все исследования, в которых виден близкий результат на пользу народному хозяйству, будут вести корпорации с ИИ. А на нашу долю останутся фундаментальные вещи, которые им будут неинтересны. При этом наши ресурсы токенов будут ограничены - по сути так же, как сейчас ограничены наши ресурсы финансовые по сравнению с прикладными исследованиями.

Вот только сложнее станет выбивать деньги и убеждать в полезности этой нашей деятельности. Если сейчас есть обычно возможность сказать, что авось одно из сотни наших фундаментальных направлений внезапно выстрелит и перевернёт всё (как когда-то сделала, например, теория чисел с шифрованием или исследования радиации с энергетикой), то в ближайшем будущем, кажется, корпорации с ИИ смогут быстро такие моменты прикидывать наперёд, и сразу же браться за все направления, хоть сколько-нибудь потенциально перспективные для практических приложений.

  Развернуть 1 комментарий

@Som, пожалуй, соглашусь, да. Мы превратимся в маргинальную секту фанатов с микро-зарплатами и без нормального финансирования) типа как в рф сейчас

  Развернуть 1 комментарий
Egor Suvorov Программист/преподаватель C++ 9 сентября в 10:16

А теперь странных людей можно заменить на ИИ, который гораздо дешевле, быстрее и не ноет в соцсетях (пока)

Вроде не дешевле: где-то видел оценку, что за эти пару дней токенов потратили на 5-10 миллионов долларов. То есть как раз зарплата за десять лет для нескольких математиков.

  Развернуть 1 комментарий

@yeputons, для OpenAI стоимость токенов состоит из стоимости железа + стоимости электричества + стоимости РнД (разработки самих моделей). Последнюю как мне кажется можно игнорировать для данной задачи, потому что модели и в других задачах переиспользуются. Железо у них уже есть, и опять же в других задачах переиспользуется. Электричество единственная невозвратная трата, и стоимость у него относительно низкая.
Получается они единожды закопали в железо и технологии охулиард денег, но теперь могут условно бесплатно подобные задачи решать. Т.е. если человеки тратят на подобные задачи X денег на зарплату учёным и делают это раз в Y лет, а OpenAI решают такие задачи каждую неделю за 10X денег и Y/1000 времени — человеки не нужны.

  Развернуть 1 комментарий

Мне кажется рассуждение было бы чуть более предметным, если попытаться смоделировать ну например ситуацию "через 10 лет", чтобы понять в чём вообще драма.

  • Ну допустим ии даст нам обещанные +15% роста ВВП в год.
  • Допустим вообще все из задач тысячелетия решены, решена квантовая гравитация, создана модель клетки, получена высокотемпературная сверхпроводимость, вакцина от рака, you name it.
  • Учёные дружно пошли на мороз (что кстати неочевидно из чего следует) и их работа свелась к менеджерской (примерно как сейчас работа разработчиков всё больше сводится к работе ПМ), понять аппарат котрым оперируют топовые модели могут единицы.
  • Допустим ии при этом нас не угробил и мы как то справились с misalignment и другими рисками.

Во-первых, захочется ли человечеству вернуться обратно в уютную до-иишную эпоху, чтобы вновь тёпло-лампово заниматься интеллектуальным трудом самостоятельно?

Во-вторых, стоит ли это слезинки учёного того что миллиону учёных придётся отправиться на завод?

В третьих, станет ли работа оставшихся учёных невыносимой и рутинной вроде программирования на пхп или наоборот вчерашние школьники смогут за выходные решать задачи, для которых раньше требовались целые нии вроде программирования на пхп?

Я бы даже заострил. Прилетает волшебный инопланетянин и в руках у него коробка с бесконечным знанием: Вот готов ли ты как труе учёный на такой обмен: решается любая фундаментальная научная проблема на твой выбор, а взамен ты навсегда остаёшься без работы.

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...
Anton Sol решаю вопросики с данными 12 сентября в 07:39

Открытое письмо известных математиков с критикой AI https://mathandai.org/

оно коротенькое, пересказывать не буду

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

В Натуре в январе статейка была:"Artificial intelligence tools expand scientists’ impact but contract science’s focus" ( https://doi.org/10.1038/s41586-025-09922-y )

Если в кратце, то по состянию на конец 2025г уже ИИ вовсю применялся во всех областях науки, и в общем его применение делает учёных более продуктивными, (и помогает молодым учёным в карьере) но при этом сужает фокус научных исследований и проводит к замедлению исследования новых областей (где данных для тренеровки ИИ пока мало).

Будем ждать данных по 2026 году - може конечно всякие новые Опусы и Фабли полезут исследовать то что до них не исследовали миллион учёных последние сто лет.

Этим летом я был на паре конференций не про ИИ, но на которых всёравно ИИ был одной из тем. Вот слайдик с доклада на котором представляли co-scientist и OpenScientist. Докладчик особенно напирал, что для качественной проверки того что ИИ понаисследовал , нужны заключение кожаных мешков, а чтобы выдать качественное заключение надо тренеровать свои мозги и заниматся исследованиями без костылей в виде ИИ - вот такой пердимонокль.

  Развернуть 1 комментарий

Я видимо из анархистов, раз мне, честно говоря, забавно смотреть на то как АИ трансформирует отрасли. И трансформирует безжалостно, по цукербергу: move fast and break things. Отсюда и драмы, как без них. В интересное время живём!

Вот был софтвер девелопмент. Он и был коммерческий (за вычетом глориус опенсорца), чего его жалеть. Работы? Ну штош, даа. Можно считать что трансформация почти завершилась: синьоры, владеющие доменными спецификами пишут посты что "как же охуенно, теперь у меня оркестратор и взвод послушных сабагентов и они делают как я скажу". Я даже недавно помирился с этой мыслью что теперь моя команда это вот эти парни. Я был тимлидом и ревьювил код человеков, теперь я ревьювлю х10 код агентов и мне в целом норм. Получается, понизился. Но зато теперь можно уплощать иерархии, потому что точно не нужно столько менеджеров и опсов над сотрудником корпората например. Джуниорам эпично повысился порог входа. Как у нас получатся новые синьоры из будущих аи-нейтив детей? Это вопрос к системе образования.

Наука стоит особняком, будучи общественно спонсируемой областью, где нет обычных КПИ или привычной экономики труда. И вот разрушение самой институции я вижу проблематичным.

Я когда-то хотел в науку, за дедом. Но потом мне рассказали что в глориус науке есть вот эти ригидные иерархии, и попрошайничество грантов, и маленькие зарплаты, и болезненно медленное продвижение. И так везде: в россии, в штатах, в веникобритании и европе. Даже мой друг - квантовый физик в австралии репортит что как же его заебал его профессор и вся эта история со статьями. Мне лично нравится только штука с цитируемостью, но даже она местами коррумпируется и накручивается как лайки в твитторе. А вот знакомый в институте физики плазмы Макса Планка репортит что теперь на эксперименты (IR hot-spot detection) с w-7x stellarator смотрит компьютер вижен с АИ. Отрадно.

Грустно что маленькие зарплаты. Всегда рядом с доблестными учёными из интересных областей стоят чуваки из бизнеса и зовут на многоденег. Щас к этому вернёмся.

А в науку я хотел во имя великой цели: контрибьютить в технологическое развитие человечества. И вот оно, казалось бы свершается, даже неслыханными темпами, не ного жаль что по сценарию киберпанка.

Хочется перемен. И вот же они, не? Смирись с мыслью что теперь вы с коллегами погонщики нежити. Не забывай что АИ не умеет думать и не умеет придумывать нового. Иногда придётся быть meat proxy когда нужно собрать новый эксперимент. Если система выдержит, то твой профессор не смирится и продолжит погонять вами, а вы - агентами. А если трансформируется, то нужно бегом перекраивать субординацию, иерархию и фандинг в науке. Иначе капиталисты всё купят и просрут.

Политика и правительства. Очень хочется чтобы они стали выполнять свои задачи лучше, умнее и дешевле. Казалось бы, тут только плюсы, осталось выжить консервантов из власти.

Жаль только, что АИ пока следует путями капитализма с кровавым топором из домена в домен. И управляется расчётливыми мудаками. А те, кто пытается это регулировать, смотрят только на симптомы

  Развернуть 1 комментарий

@TriplEight, к последней мысли:

вспоминается "акселерационизм" Ника Лэнда с идеей о том, что самое близкое к "ИИ, превращающему всю вселенную в завод по производству скрепок, потому что ему так поставили задачу", которого мы так боимся - это и есть капитализм.

Просто задача - не производство скрепок, а постоянный рост прибыли. И поэтому неудивительно, что развитие самой хайповой области ИИ сейчас ведётся настолько акульими методами

  Развернуть 1 комментарий

@iomguy, всё так. Неудивительно: до АИ было так же, теперь просто быстрее. Постоянный рост прибыли по сути и есть идея капитализма. На вкус каждого участника - какими методами достигаются эти цели. Для многих выиграть в жизни это многоденяк.

  Развернуть 1 комментарий

Еще одно подтверждение что продукция ЛЛМ глубоко вторична. Но участь человека тут невеселая - придаток машины для добычи озарений из платоновского мира идей ...

  Развернуть 1 комментарий
Ivan Volkov Финансовый аудит 11 сентября в 05:32

По моему ИИ - будет заперт тут, на земле. Мы пока ещё не научились передавать данные очень далеко, за очень быстро (условно на Марс данные будут идти долго).

Так вот, по моему ИИ даст буст как раз таки освоению тех земель, которые мы ещё не освоили, и куда он пока ещё не добрался. Но ИИ нам будет помогать это делать активнее.

Моё мнение что все идет к тому, что мы пришли к моменту, когда мы сможем инвертировать всё из давайте на земле дальше делать хуйню и конкурировать, в а давайте на поясе астероидов ебанём базу на Церере, и на Марсе что нибудь построим, а потом ещё и терраморфируем.

Вот это конечно будет круто. Может не мой век, но век моих детей застанет те самые космические путешествия о которых мы мечтали смотря фантастику 70х-80х.

  Развернуть 1 комментарий

Там у математиков драма на похожую тему https://t.me/Fourier_series/1004

  Развернуть 1 комментарий

Мне кажется, пост больше про то, что АИ убивает не науку, а её закостеневшие методы. Если посмотреть на AI-powered стартапы, они сковыривают что-то старое и неоптимальное и оптимизируют.

"Нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее!". Было бы классно увидеть хорошие трансформации в самых разных областях, в том числе в науке. Что мы, как комьюнити умненьких, можем для этого сделать?

  Развернуть 1 комментарий

@TriplEight, ""Нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее!"" -- чушь

во многом так выглядит одна из форм прокрастинации

  Развернуть 1 комментарий

@cmyserfast, эта метафора всю жизнь работала в IT. И, если подумать, в жизни в целом: чтобы оставаться на месте - нужно непрерывно развиваться. Чтобы случился качественный прорыв - нужно развиваться больше.

  Развернуть 1 комментарий

@TriplEight, знать бы в какую сторону развиваться)

  Развернуть 1 комментарий

@cmyserfast, во время золотой лихорадки продавай лопаты

  Развернуть 1 комментарий

@cmyserfast, это цитата Льюиса Кэрола. Классику полезно перечиывать - много интересного открывается )))

  Развернуть 1 комментарий

@TriplEight,

АИ убивает не науку, а её закостеневшие методы.

Хорошо, но альтернативы то нету? Говорю про процесс публикаций / рецензирования - как верифицировать качественные результаты?

Вот тот же недавний результат OpenAI и Anthropic - может оказаться что там ошибка - агенты нагаллюционировали что-то, а хайп уже срублен.

  Развернуть 1 комментарий

@sol, единственная по-настоящему критичная функция публикаций / рецензирования - экспертная фильтрация.

Посмотри в DeSci, криптобро придумали прилично альтернатив:

  • Preprint-серверы (arXiv, bioRxiv, Zenodo). Уже фактически «блокчейн-лайт»: публикация без рецензирования, но с timestamp и приоритетом. Это самый массовый работающий отход от классической модели.

  • ResearchHub. «GitHub + Reddit для науки»: открытые рецензии, репутация и токенные вознаграждения ($ResearchCoin).

  • DeSci Labs / DeSci Publish. preprint-сеть с blockchain-аттестациями и быстрым независимым рецензированием.

  • Протоколы с ZK-доказательствами. Например, ZIP-604: слепое двойное анонимное рецензирование, где рецензент ZK-доказательством подтверждает квалификацию и отсутствие конфликта интересов, не раскрывая личность; плюс стейкинг репутации со слэшингом. Есть и PoC-журналы на Solana с геймифицированным стейк-рецензированием.

Криптография здесь решает лишь узкую часть: анонимность рецензента, timestamp, неизменяемость, проверку полномочий без раскрытия личности. Она не решает главную проблему- качество экспертизы. Токены и стейкинг создают свои извращённые стимулы (фарминг репутации, Sybil-атаки), а «консенсус сообщества» в узких дисциплинах вырождается в популярность или коллузию малой группы. Реального принятия в мейнстримной науке нет - карьера учёного по-прежнему привязана к импакт-факторам журналов, и это главный тормоз

  Развернуть 1 комментарий

@TriplEight,

криптобро придумали прилично альтернатив:
...
Она не решает главную проблему- качество экспертизы.
Токены и стейкинг создают свои извращённые стимулы

Так они всё-таки придумали альтернативу или таки-не решили главную проблему?

  Развернуть 1 комментарий

@yeputons, главная проблема качества экспертизы это репутационная и экономическая проблема: у рецензента нет личного выигрыша от хорошей рецензии и нет наказания за плохую, а лучшее его время тратится на собственную карьеру. Криптография (ZK, блокчейн) проверяет кто рецензент, но не может проверить, старался ли он. Токен-стейкинг в DeSci пытается это исправить слэшингом за плохую работу, но объективного оракула качества рецензии не существует. Оценка качества снова требует экспертов и круг замыкается.

Рецензирование это не гарантия качества, а дешёвый первичный фильтр. Настоящее качество обеспечивает связка: воспроизводимость + открытые данные/код + пост-публикационная критика. Всё это, в отличие от идеального рецензента, механически реализуемо.

Это было trustless, а вот что ещё есть новенького в trustfull:
(конечно я поресёрчил)

Общее у них: доверие не к бренду журнала, а к конкретным людям и прозрачность процесса.

eLife "publish-review-curate". отказались от accept/reject вообще. Всё, что прошло рецензирование, публикуется как Reviewed Preprint вместе с подписанными публичными рецензиями и оценкой значимости/качества доказательств; медиана от подачи до публикации - 91 день. Эта модель стоила eLife импакт-фактора (Clarivate исключил журнал), но авторы, рецензенты и фонды её поддерживают.

Review Commons (EMBO + ASAPbio). Журнало-независимое рецензирование: один круг рецензирования до подачи в журнал, отчёты линкуются в 28 журналов-партнёров без повторного процесса. Решает проблему серийного ре-ревью одной статьи в разных журналах.

Peer Community In. Некоммерческая сеть научных комьюнити: "рекомендатели" (типа редакторы) организуют рецензирование препринтов, а рекомендация есть самостоятельная цитируемая публикация с DOI. Полностью бесплатно для всех.

OpenReview. Стандарт в ML: NeurIPS, ICLR, ACL публикуют все отзывы (часто подписанные), авторские ответы и метки area chair'а открыто. Доказывает, что открытое рецензирование масштабируется на конференции с десятками тысяч статей.

Пост-публикационные площадки (PubPeer, комментарии на bioRxiv, PREreview). Рецензирование как непрерывный процесс после публикации, а не разовый фильтр до неё.

Все эти модели не убирают доверие, а делают проверяемым: вместо "поверь журналу Nature" ты видишь кто рецензировал, что написал, ответ автора, и можно судить о компетентности рецензента. Плюс убирается главный конфликт классической модели - журнал, зарабатывающий на gatekeepinge, больше не решает судьбу статьи.

Это работает только там, где научное сообщество согласилось это признавать. В биологии и ML - да (грантовые механизмы, hiring-комитеты уже принимают reviewed preprints). В консервативных областях и странах с формальными метриками - нет.

  Развернуть 1 комментарий

@TriplEight,

У меня ощущение, что я общаюсь с ИИ, который отвечает полотнами текста, и пропускает вопрос. Не шло речи про "медиана от подачи до публикации", не поднималось никаких "проблем серийного ре-ревью одной статьи в разных журналах", OpenReview.net основан больше десяти лет назад и не имеет никакого отношения к крипте.

Какая одна конкретная "альтернатива от криптобро" решает "по-настоящему критичную функцию публикаций / рецензирования - экспертную фильтрацию"?

  Развернуть 1 комментарий

@yeputons, во-первых, я написал что поресёрчил, во вторых я вычитал. Может ты невнимательно читаешь? После "а вот что ещё есть новенького в trustfull: (конечно я поресёрчил)" было не про криптобро. И там несколько разных практических ответов на твой вопрос

  Развернуть 1 комментарий

@TriplEight, может и невнимательно. Например, я так и не понял, почему "криптобро придумали" и arxiv/biorxiv/zenodo находятся в одном предложении — пояснишь?

Или там "криптобро" просто к слову пришлись и на самом деле предлагается просто смотреть, что бывает вне обычных научных журналов, а придумано-то может быть и давно, и без крипты?

  Развернуть 1 комментарий

@yeputons, arxiv/biorxiv/zenodo это decentralized science

  Развернуть 1 комментарий

@TriplEight,

Она не решает главную проблему- качество экспертизы.

this, ресурсы рецензентов ограничены. и так был дефицит. а теперь еще и поток статей больше

  Развернуть 1 комментарий

Кстати пришёл апдейт, https://archive.ph/H6j2W
OpenAI теперь утверждает что ничего из логов не попало в модель.

  Развернуть 1 комментарий

@lexaguskov, сайт не пропускает через капчу (честно, я не робот)

  Развернуть 1 комментарий
Кирилл Новгородцев Разработчик самых лучших информационных систем 9 сентября в 09:58

государственные программы науки же не свернут

  Развернуть 1 комментарий

@cmyserfast, давай посмотрим не свернут ли сами государства

  Развернуть 1 комментарий

@TriplEight, а кто их свернёт ?)

  Развернуть 1 комментарий

@cmyserfast, у меня два ответа

  1. вспомни любую киберанк антиутопию: корпорации теперь вместо правительств. Прямо или косвенно это вопрос коррумпированности и слабости каждого правительства.
  2. представь себе просветлённого правителя (например монарха, это не потребует долгих итераций), который смотрит как трамп революционировал аппарат президента и политтех в штатах. И делает так же, только больше для страны, людей и процветания. Запускает реформы всего и сразу, получает классную страну и все туда хоят переехать.
  Развернуть 1 комментарий

@TriplEight, ни одного примера из реальности нет

  Развернуть 1 комментарий

@cmyserfast, подожди час

  Развернуть 1 комментарий

@TriplEight, жду

  Развернуть 1 комментарий
  Развернуть 1 комментарий

@cmyserfast, почему?

  Развернуть 1 комментарий

@MikhailKorobko, государства конкурируют

  Развернуть 1 комментарий

@cmyserfast, за что? Государственные программы перейдут на государственные ИИ, ученые пойдут лесом.

  Развернуть 1 комментарий

@MikhailKorobko, Llm не могут в открытия

  Развернуть 1 комментарий

@cmyserfast, для этого нужен один "менеджер" ЛЛМ, который будет им задавать идеи. Т.е. условно директор НИИ становится таким менеджером, а все сотрудники увольняются.

  Развернуть 1 комментарий

@MikhailKorobko, По моему опыту - нет

Я вот работаю на нишевом, но очень крутом фреймворке который переворачивает вообще всю специфику програмирования. Клод код хорошо пишет на нем благодаря моему же скилу

Но вот там где я не шарю, хороший решений для улучшения фреймворка уже не выходит. Да и в целом у меня из 100 проектов не пососных дай бог три четыре, на которые ушло кучу моих часов доработок, полишинга

У одного этого менеджера столько времени не найдется, нужно паралелить, нужны сотрудники

  Развернуть 1 комментарий

@cmyserfast, но все же разработка сильно отличается от науки. И я не говорю, что это произойдет завтра — это общий тренд и мой пессимизм по его поводу. То, что сейчас показывает ИИ, вполне представляет возможным подобную "науку": собственно, я примерно это и делаю сейчас, запуская чатгпт работать над несколькими проектами одновременно в режиме "подумай, что там будет", проверяя шаги раз в пару часов. А уж генерировать новые идеи я могу очень быстро. Параллельно у меня есть несколько студентов, которые занимаются примерно тем же, что ЛЛМ, только "мясным" мозгом (ну и руками, если в лабе). Стоит ли говорить, что ЛЛМ прилично обгоняет студентов?

  Развернуть 1 комментарий

@MikhailKorobko, будем работать все вместе, все же сокращения не видать от ускорения производтсва, люди ( а я уже ) будут больше отдыхать

  Развернуть 1 комментарий

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб