OpenAI едва не уничтожила сама себя

Десятичасовые показания под присягой сооснователя OpenAI Ильи Суцкевера рисуют картину паники, непроверенных обвинений и провалов в управлении.

Первого октября этого года Илья Суцкевер давал показания под видеозапись в течение почти 10 часов по делу «Маск против Альтмана».

Сооснователь, который помог создать ChatGPT и стал печально известен тем, что проголосовал за увольнение Сэма Альтмана в ноябре 2023 года, наконец-то оказался под присягой и был вынужден отвечать на вопросы. 365-страничная стенограмма была опубликована на этой неделе.

Она раскрывает портрет блестящих учёных, принимающих катастрофические управленческие решения, непроверенных обвинений, которые воспринимались как факты, и идеологических разногласий, настолько глубоких, что некоторые члены совета директоров предпочли бы уничтожить OpenAI, чем позволить ей продолжать работу под руководством Альтмана.

Судебный процесс «Маск против Альтмана» сосредоточен на утверждении Илона Маска о том, что OpenAI и её генеральный директор Альтман предали первоначальную некоммерческую миссию компании, превратив её исследования в коммерческое предприятие, связанное с Microsoft. Это поднимает серьёзные вопросы о том, кто контролирует продвинутые модели ИИ и могут ли они разрабатываться безопасно в общественных интересах.

Для тех, кто следит за драмой в OpenAI, этот документ — отрезвляющее и разоблачающее чтение. Это наглядный пример того, как всё идёт наперекосяк, когда технический гений сталкивается с организационной некомпетентностью.

Вот пять самых значительных откровений.

1. 52-страничное досье, которое общественность не видела

Суцкевер подготовил подробное обоснование для отстранения Альтмана, снабжённое скриншотами и оформленное в виде 52-страничного досье.

Суцкевер засвидетельствовал, что в этой служебной записке он прямо заявил: «Сэм демонстрирует систематическую склонность ко лжи, подрыву авторитета своих руководителей и стравливанию их друг с другом».

Он отправил записку независимым директорам, используя технологию исчезающих писем, «потому что я беспокоился, что эти записки могут как-то просочиться». Полный текст досье так и не был представлен в ходе судебного разбирательства.

— Контекст этого документа таков, что независимые члены совета директоров попросили меня его подготовить. И я это сделал. И я был довольно осторожен, — засвидетельствовал Суцкевер, сказав, что части записки существуют в виде скриншотов, сделанных техническим директором OpenAI Мирой Мурати.

2. Годовая партия в шахматы за совет директоров

На вопрос, как долго он обдумывал увольнение Альтмана, Суцкевер ответил: «Как минимум год».

На вопрос, какой динамики он ждал, он сказал: «Чтобы большинство в совете директоров не было явно дружественным Сэму».

Генеральный директор, который контролирует состав совета директоров, функционально неприкосновенен. Показания Суцкевера показывают, что он прекрасно это понимал и соответствующим образом выстраивал свою стратегию.

Когда уход членов совета директоров создал такую возможность, он начал действовать. Он играл в долгосрочную политику на уровне совета директоров, несмотря на то, насколько близкими казались публично Альтман и Суцкевер.

3. Уик-энд, когда OpenAI почти исчезла

В субботу, 18 ноября 2023 года — в течение 48 часов после увольнения Альтмана — велись активные обсуждения о слиянии OpenAI с Anthropic.

Хелен Тонер, бывший член совета директоров OpenAI, по словам Суцкевера, «больше всех поддерживала» это направление.

Если бы слияние состоялось, OpenAI перестала бы существовать как независимая организация.

— Я не знаю, связалась ли Хелен с Anthropic, или Anthropic связалась с Хелен, — засвидетельствовал Суцкевер. — Но они вышли с предложением о слиянии с OpenAI и взятии на себя её руководства.

Суцкевер сказал, что он был «очень недоволен этим», добавив позже, что он «очень не хотел, чтобы OpenAI сливалась с Anthropic».

4. «Уничтожение OpenAI может соответствовать миссии»

Когда руководители OpenAI предупредили, что компания рухнет без Альтмана, Тонер ответила, что уничтожение OpenAI может соответствовать её миссии по обеспечению безопасности.

Это идеологическое сердце кризиса. Тонер представляла то направление в мышлении о безопасности ИИ, которое рассматривает быстрое развитие ИИ как экзистенциально опасное — потенциально более опасное, чем отсутствие какого-либо развития ИИ вообще.

— Руководители — это была встреча с членами совета директоров и командой руководителей — сказали совету, что, если Сэм не вернётся, OpenAI будет уничтожена, и это несовместимо с миссией OpenAI, — засвидетельствовал Суцкевер. — И Хелен Тонер сказала что-то в том духе, что это совместимо, но я думаю, она сказала это даже более прямо, чем я передаю.

Если вы искренне верили, что OpenAI представляет риски, которые перевешивают её пользу, то надвигающийся бунт сотрудников не имел значения. Это заявление помогает объяснить, почему совет директоров твёрдо стоял на своём, даже когда более 700 сотрудников угрожали уйти в Microsoft.

5. Просчёты: один источник на всё, неопытный совет и культовая преданность сотрудников

Почти всё в 52-страничном досье Суцкевера исходило от одного человека: Миры Мурати.

Он не проверял утверждения с Брэдом Лайткэпом, Грегом Брокманом или другими руководителями, упомянутыми в жалобах. Он полностью доверял Мурати, и проверка «ему в голову не пришла».

— Я полностью верил информации, которую мне давала Мира, — засвидетельствовал Суцкевер. — Оглядываясь назад, я понимаю, что я этого не знал. Но тогда я думал, что знаю. Но я знал это из вторых рук.

Когда его спросили о процессе принятия решений в совете директоров, Суцкевер был прямолинеен в отношении того, что пошло не так.

— Одно я могу сказать точно: процесс был поспешным, — засвидетельствовал он. — Я думаю, он был поспешным, потому что совет был неопытным.

Суцкевер также ожидал, что сотрудники OpenAI отнесутся к увольнению Альтмана безразлично.

Когда 700 из 770 сотрудников подписали письмо с требованием вернуть Альтмана и угрозой уйти в Microsoft, он был искренне удивлён. Он кардинально просчитался в оценке лояльности сотрудников и оторванности совета директоров от организационной реальности.

— Я не ожидал, что они будут ликовать, но я и не ожидал, что они будут испытывать сильные чувства в ту или иную сторону, — сказал Суцкевер.