Как ИИ убивает науку

Последние дни много думаю про влияние ИИ на академическую науку, и в контексте нового скандала с OpenAI это оказывается еще более актуально.

Пост изначально писался для канала в телеге, но я подумал, что было бы интересно обсудить это в клубе тоже.

Если вы вдруг не слышали, OpenAI утверждает, что их ИИ решили "задачу тысячелетия" — получили решение уравнений Навье-Стокса, которые описывают динамику жидкости. Это — одна из самых важных нерешенных задач в физике, где, в отличие от какой-нибудь темной материи, применение очевидно и очень актуально для нашей ежедневной жизни. Эти уравнения описывают, как ведет себя жидкость в любых условиях, и используются повсеместно — от заводов и фабрик до проектирования кораблей. Но до сих пор у нас не было аналитических решений этих уравнений в общем случае, а только какие-то частные случаи или численные решения. А тут такой прорыв! При этом решение было найдено всего за пару дней работы ИИ.

Но есть нюанс, Петька. Оказалось, что решение OpenAI подозрительно похоже на подход, который использовали другие ученые в последние годы. Они разрабатывали свое решение вместе с чатгпт, а один из них работал на Anthropic. Когда пару дней назад в медиа просочились новости, что Anthropic (читайте тот ученый) близки к решению, OpenAI по-быстрому натренила свои модели и решила задачу первой. Только вот судя по всему они использовали черновики этих ученых в процессе обучения. Такая вот закавыка!

Почитать больше можно тут или тут.

Но я хотел поговорить не об этом, хотя это характерный симптом, конечно. ИИ становится гораздо умнее нас. Математика и теоретическая физика просто рушатся под его напором: зачем теперь нужны теоретики, если ИИ может сделать за пару дней то, что все математики планеты не могли сделать за столетие?! И в этом кроется парадокс: ИИ одновременно и двигает нас на недостижимые высоты, и убивает академическую науку.

С одной стороны, ИИ дает доступ к огромному спектру знаний, которые раньше были недоступны. Например, я ищу контекст для своей статьи, и получаю концептуально похожие вещи и совсем других областей (скажем, физики электричества). В других терминах (так что я сам бы никогда не нашел) и формулировках (а если бы и нашел, не связал бы с моей работой, не будучи экспертом), но фундаментально то же самое. И в той области подход разработан гораздо дальше, так что я могу использовать эти наработки для своих моделей. Кроме того, сам процесс тестирования гипотез становится очень быстрым: у меня есть список идей, которые я когда-нибудь хотел бы изучить, но на которые никогда не хватало времени или знаний. Теперь я просто запускаю агента поработать над идеей и выдать мне вердикт, список литературы и т.д. — и могу за полчаса своего времени оценить адекватность идеи (и насколько она вообще нова).

С другой стороны, это все приводит к кризису целеполагания. Зачем мне тратить свою жизнь на специализацию в какой-то области, не спать ночами, вкалывать по 60 часов в неделю за копейки, чтобы потом пришел ИИ и решил мою задачу за два дня? И вообще все задачи, которые у меня когда-либо были? Когда за 200€ в месяц можно полностью заменить мою экспертизу? Представьте, что вы пожертвовали личной жизнью, деньгами, временем ради высокой цели продвижения человеческого знания вперед. И потратили на это 30+ лет. А тут приходит какой-то алгортим, который в один день делает всю вашу экспертизу и великую цель абсолютно бессмысленной, обходя на повороте сразу и навсегда. Да, популярное сейчас мнение, что, мол, теперь можно сосредоточиться на высокоурвневой работе, давать ИИ задания, придумывать фундаментально новые идеи (на что ИИ пока не очень способен). Но по сути это роль надзирателя над ИИ, а не исследователя. Ради этого я столько вкалывал?! Мне нравится делать науку, а не быть нянькой для ИИ.

Хуже того: вся академическая наука построена на общественном договоре, что вот есть странные люди, которые тратят свою жизнь на странные вещи, чтоб остальным не пришлось. Общество получает иногда важные прорывы, которые можно применить для развития цивилизации, и платит странным людям за это зарплату. А теперь странных людей можно заменить на ИИ, который гораздо дешевле, быстрее и не ноет в соцсетях (пока). И вот именно в этом и заключается убийственная способность ИИ: он не убивает науку как концепци — ее скорее становится проще делать — но как общественный конструкт.

Параллельно рушатся привычные структуры научного рецензирования и написания грантов (теперь и то, и то ИИ может делать лучше человека, которому снова остается роль "проверки", что ИИ не нагаллюцинировала себе что-то). Конечно, эта система была плоха изначально, но она работала и давала нам понятную систему верификации знания и экспертизы. Сейчас это пропадает, не давая взамен новой системы, а вместо этого внося хаос. Что с этим делать — совершенно не ясно.

Конечно, понятно, что компании не смогут поддерживать такой темп развития моделей, учитывая убыточность и трату ресурсов. Понятно, что разрушение академических структур — тоже дело многих лет, инерция системы огромна. Но как поменяется отношение к науке? Как поменяются привычные нам структуры? Сколько ученых останутся буквально без смысла работы? Как жить, когда то, над чем ты работал 30+ лет, вдруг оказывается никому не нужным?

Многие скажут, что и правильно, давно пора академии в ее нынешнем виде умереть. Я с этим даже соглашусь, но вижу проблему в скорости изменений: слишком ригидны все академические системы, а это изменение должно было происходить органически. Сейчас оно просто разрушится, отдав прикладную науку на откуп корпорациям, а фундаментальную забросят на свалку, ведь какая корпорация будет платить за информацию о том, что там случилось во время Большого Взрыва?

Эти процессы сейчас происходят всюду, в айти в особенности, конечно, но наука стоит особняком, будучи общественно спонсируемой областью, где нет обычных КПИ или привычной экономики труда. И вот разрушение самой институции я вижу проблематичным.

Я сам тут нахожусь в комфортном положении: с одной стороны, в экспериментальную физику ИИ пока не пришел, так что мою работу он не отнимает пока, а скорее делает проще. С другой, я с первого дня использую ИИ, в отличие от многих моих коллег, которые стараются его избегать, что дает мне конкурентное преимущество. Но я не могу перестать думать, что разрушение института науки в привычном нам смысле неизбежно, и я не понимаю, что я могу этому противопоставить (и надо ли оно вообще).