Ранняя история OpenAI — Часть 1

За последний год с OpenAI произошло несколько тревожных событий: неудавшееся увольнение Сэма Альтмана, уход Ильи Сутскевера и судебный иск от Илона Маска.

Я не придал значения последней новости — подумал это очередное проявление эксцентричности Маска. Но оказывается всё гораздо интереснее! Хочу рассказать вам как создавалась компания и что происходило внутри до прихода популярности.

А история там не хуже, чем в фильме Оппенгеймер. Сюжет создания OpenAI это практически готовый сценарий на Оскар. Только если ядерные технологии от повседневной жизни далеко, то ChatGPT я использую буквально каждый день. Ставки такие же высокие, а исход от них мы все ощутим на себе.

Вот вам краткое мнение команды, которое они выложили в блоге после первого иска Илона весной:

Нам грустно, что до такого дошло с человеком, которым мы глубоко восхищались. Он вдохновил нас целиться выше, а потом сказал, что у нас ничего не получится, основал прямого конкурента и засудил нас, когда мы начали добиваться значимого прогресса в реализации миссии без него.

Ну не мудак ли?

Оказывается не мудак. 
Давайте разбираться подробнее.

Илон Маск подает в суд

В 2024 Илон подал в суд на OpenAI и уже несколько раз менял суть иска. Он обвинил компанию в отходе от некоммерческой миссии, зависимости от Microsoft и фокусе на максимизации прибыли.

Маск утверждает, что сделки с Microsoft заставили OpenAI вести себя как монополист: компания заняла 70% рынка генеративного ИИ, душит конкуренцию, запрещая партнёрам инвестировать в другие компании, и предлагает сотрудникам нерыночные зарплаты.

Это противоречит изначальной миссии, в которую Маск искренне верил: первыми создать дружелюбный AGI и сделать так, чтобы пользу от него получили все в мире, а не только избранные. Маск был не просто сооснователем, а источником финансов и основным драйвером амбиций, которые в итоге помогли компании построить самый быстрорастущий продукт в истории.

В ноябре 2024 года в рамках дела опубликовали архив переписки сооснователей с момента незадолго до создания компании в 2015 и до 2019 года, когда их пути окончательно разошлись. Переписка довольно фрагментарная — с большими пробелами во времени и отсутствием того что обуждалось лично или через другие каналы.

Чтобы сделать историю более цельной, я добавлю контекст из других источников и перескажу самое интересное. Цитаты я перевожу не дословно, поэтому советую потом почитать оригиналы, там много интересного. Смело пишите, если я где то сильно накосячил.

Моя цель — показать, что у каждого участника этой истории есть своя правда.

Изначальное видение 2015

Письма начинаются с довольно странного питча Сэма Альтмана:

Я много размышлял и думаю, что челевечество невозможно остановить от разработки ИИ. Так что если это всё равно произойдёт, было бы неплохо, чтобы кто-то другой, а не Google, сделал это первым.

Предлагаюю создать что то вроде фонда "Манхэттенского проекта" для ИИ. Собрать небольшую группу топовых специалистов. Сделать AI Safety приоритетом и убедиться, что технология будет принадлежать фонду и использоваться во благо всему миру.

Почему он сходу упоминает Google и зачем их останавливать? Ща обьясню.

Инвестиция в DeepMind

Илон известен своим интересом к экзистенциальным рискам. Например, миссия SpaceX в том, чтобы спасти нашу цивилизацию от возможного вымирания на Земле. Жить на двух планетах лучше, чем на одной.

В 2012 году Маск встретился с Демисом Хассабисом из DeepMind и заинтересовался темой ИИ. Хассабис в разговоре набросил, что ИИ это один из серьезнейших рисков. Колонизация Марса будет иметь смысл только если сверхразумные машины не последуют за людьми и не уничтожат их и там. Маск идеей проникся и вложил $5М в DeepMind, чтобы быть ближе к фронтиру отрасли.

Вскоре стало ясно, что крупные компании активно переманивают самых талантливых исследователей вокруг глубокого обучения. Например, Джеффри Хинтон изначально хотел пойти в Baidu за $12М, но устроил аукцион на котором Google выкупил его за $44М.

Несмотря на это, Демис Хассабис хотел, чтобы DeepMind оставались независимыми. Чтобы гарантировать, что ее технологии не превратятся в нечто опасное. Но когда Ларри Пейдж увидел как DeepMind научили нейросеть играть в Atari, он тоже захотел быть ближе к теме. В 2014 Google предложил $650М за покупку компании. И Демис согласился, но настоял на двух условиях: никакого оружия и военных и что технология должна контролироваться независимым советом по этике.

Отношения с Ларри Пейджем

Маск и Пейдж дружили уже больше 20 лет, но их взгляды на ИИ настолько разошлись, что они прекратили общаться. Пиком стал их публичный спор на дне рождения Маска в июне 2015. Пейдж верил, что развитие технологий приведет к слиянию людей и машин. Что разные формы интеллекта будут бороться за ресурсы и победит сильнейший. Маск посчитал, что это угрожает человечеству уничтожением.

Я часто разговаривал с ним допоздна об AI Safety, Ларри недостаточно серьезно относился к этой проблеме. Его позиция была интересной — он стремился к созданию цифрового сверхинтеллекта, можно сказать, цифрового божества. Когда я однажды поднял вопрос о том, как мы собираемся обеспечить безопасность человечества, он обвинил меня в том что зря я отдаю предпочтение людям, а не цифровым формам жизни будущего.

Ну и видимо на этом дружба закончилась. Напомню, что это не какой-то сайфай, а вполне реальные люди, руководящие трилионными компаниями.

Комитет по этике DeepMind

После продажи компании, Хассабис уговорил Маска присоединиться к совету по этике DeepMind, чтобы убедиться, что технология не будет использована во зло. Первое заседание прошло в августе 2015 и.. чуда не произошло.

Ларри (плюс Сергей Бринн и Эрик Шмидт) заявили, что опасения преувеличены. Маск посчитал совет фикцией и на этом его участие в DeepMind закончилось. Google распустил совет, заменив его корпоративными гайдлайнами, что усилило беспокойство Хассабиса. В 2017 он и другие основатели попытались отделиться, но Google повысил зарплаты, накинул опционов и ребята остались.

Создание OpenAI

По датам в переписке видно, что Маск еще до заседания обдумывал идею создания противовеса Google в гонке за AGI:

• Январь 2014 - покупка DeepMind
• Май 2015 - первое письмо Альтмана
• Июнь 2015 - посрался с Ларри на ДР
• Июль 2015 - Сэм, Илон и Грег Брокман завербовали Илью Сутскевера
• Август 2015 - заседание комитета по этике
• Ноябрь 2015 - создание компании
• Декабрь 2015 - публичный анонс

С новой информацией питч в первом письме Сэма выглядит идеально. Он отправлен в момент, когда у Илона уже зрело желание что то делать, но не было конкретного плана.

Сэм как раз предлагает такой план: так как остановить Гугл невозможно, нужно опередить их. Нужно cобрать небольшую группу самых талантливых людей в отрасли и поставить приоритет на использовании технологии во благо всего мира.

Мое мнение — OpenAI не запустилась бы без поддержки Маска. А он оказал ее, потому что боялся, что Ларри Пейдж направит огромные ресурсы Google на создание AGI не заботясь о безопасности.

В декабре 2015 была сформулирована миссия. Поразительно насколько идеалистично она выглядит с позиции почти 10 лет спустя:

OpenAI — это некоммерческая исследовательская компания. Наша главная цель — создать искуственный интеллект и сделать так, чтобы он принес максимальную пользу всему человечеству. Мы не обременены необходимостью получать прибыль, что даёт нам уникальную свободу.

Мы можем полностью сосредоточиться на создании ИИ, который будет доступен для всех. Мы верим в демократизацию технологий и выступаем против концентрации такой мощной силы в руках избранных.

Наш путь непрост. Зарплаты у нас ниже, чем предлагают другие компании, а результат всего предприятия пока неясен. Но мы убеждены, что выбрали правильную цель и создали правильную структуру. Надеемся, что именно это привлечет к нам лучших специалистов в области.

Ранние дни 2015-2016

Почему выше я написал, что без Маска компании бы не получилось?

В ноябре 2015 Грег и Сэм обсуждали сколько нужно денег. Они планировали поднять $100M на грантах и донатах. Но Илон убедил их целиться в сумму в 10 раз больше, чтобы не выглядеть безнадёжно слабыми по сравнению с расходами Google и Facebook. Причем Маск пообещал сам добить недостающую сумму после сборов от других инвесторов до миллиарда.

И практически сразу стало понятно, почему он был прав.

Фокус на найме

Главной стратегией было собрать небольшую, но сильную команду специалистов, чтобы догнать Google. И пока обсуждали зарплаты и плюшки, Сэм Альтман пришел с новостью, что DeepMind планирует перекупить всю команду OpenAI крупными контрофферами. Они явно стремились устранить конкурента на ранней стадии, буквально загоняя людей в угол на проходящей в декабре 2015 конфе NIPS.

Маск отреагировал оч быстро:

Выбор прост: либо мы привлекаем лучших в мире специалистов, либо DeepMind оставит нас позади. Давайте повышать ЗП. Я поддержу любые меры для найма людей.

Еще он написал прикольное сообщение команде, чтобы поддержать боевой дух:

Да, нас значительно превосходят более крупные организации. Но на нашей стороне правильные принципы, а это дорогого стоит. Мне нравятся наши шансы на победу.

Из писем видно, как сложно было ребятам — они ворвались отстающими на рынок, где бигтех уже вел настоящую охоту за топовыми ресерчерами.

Илон в феврале 2016:

Вероятность того, что DeepMind создаст настоящий искусственный разум, растет с каждым годом. Через 2–3 года она скорее всего не превысит 50%, но, вероятно, преодолеет 10%. С учетом их ресурсов, это не кажется мне безумным.

В любом случае, лучше переоценивать, чем недооценивать конкурентов.

Нам важно добиться значимого результата в следующие 6–9 месяцев, чтобы показать, что мы действительно способны на многое. Это не обязательно должен быть прорыв мирового уровня, но достаточно значимый успех, чтобы ключевые таланты по всему миру обратили на нас внимание.

Ответ Ильи:

Для создания ИИ нам не хватает ключевых идей. Мощные идеи рождаются у лучших специалистов. Крупные вычислительные кластеры помогают и заслуживают внимания, но их роль менее значима.

Мы добьемся значимого результата в следующие 6–9 месяцев потому, что у нас уже есть очень талантливые люди. Достижение результата, способного изменить всю область, будет сложнее и займет больше времени. Но у нас есть вполне реалистичный план и для этого.

Этой переписки не было в судебном архиве, ее опубликовали OpenAI в декабре 2024.

Опенсорс

Уже в первый год стало ясно: делиться ресерчем открыто, как планировалось изначально, не получится. Вот что писал Грег в ноябре 2015:

Я вижу нас в качестве нейтральной команды, которая способствует сотрудничеству и направляет разговор в сторону пользы для всего человечества, а не какой-то конкретной компании.

Помните как интернет горел с того, что "OpenAI" вовсе не "Open", когда они перестали публиковать подробности по своим моделям?

Первые признаки появились с супер осторожным релизом GPT-2 в 2019. А потом и вообще отказом выкладывать GPT-3 в опенсорс. Оказывается все к этому шло еще задолго до. Илья в январе 2016:

По мере того, как мы приближаемся к созданию ИИ, имеет смысл начинать быть менее открытыми. Open в OpenAI означает, что все должны пользоваться плодами ИИ после его создания, но совершенно нормально не делиться результатами исследований (хотя это определенно правильная стратегия в краткосрочной перспективе для целей рекрутинга).

Апрель 2016:

История недвусмысленно показывает, что сильные технологии - это обоюдоострый меч. Было бы глупо полагать, что у ИИ, возможно, самой мощной из всех технологий, есть только один край.

Разумнее всего подходить к появлению ИИ с осторожностью и следить за тем, чтобы он не контролировался одной компанией или человеком.

Март 2016:

В каждый момент времени мы будем предпринимать действия, которые принесут наибольшую пользу миру. В долгосрочной перспективе опенсорсить модели может оказаться не самой лучшей идеей.

То есть уже за несколько лет до релиза GPT у ребят было понимание, что в какой то момент нужно будет перестать открыто делиться прорывными исследованиями. Что в будущем много неизвестного и нужно учиться быть гибкими.

Поиск финансирования

Ок, мы обсудили миссию, отношение к опенсорсу и фокус на найме. А где деньги то на это все брать? Маск конечно пообещал добавить к собранным компанией средствам, чтобы получился миллиард. Но ребята закомитились сами собрать $100-200M.

Получить гранты у универов или спонсорство из академической среды не вышло. Но все же Сэм смог привлечь $90М+ (скорее всего 30 из них было грантом от Open Philanthropy, плюс к этому еще 45 успел закинуть Маск. В середине 2016 договорились на донат остаточных серверных мощностей Microsoft с эквивалентом в $50М. Маск настоял, чтобы это было максимально ни к чему не обязывающее сотрудничество.

То есть Сэм смог собрать запланированную сумму. Но появилось понимание, что нонпрофиту на грантах и донатах без прямого спонсорства Маска дотянуть до миллиарда невозможно. И оказывается это была одна из самых печальных новостей в истории компании.

Почему так?

Я думаю, что именно это стало источником и началом разногласий внутри команды. И в итоге привело к уходу сначала Маска, а потом через много лет еще и Дарио Амодея, Джона Шульмана, Джареда Каплана, Яна Лейке, Ильи Сутскевера и много кого еще.

Подробнее расскажу во второй части.