Несколько дней в центре внимания мировой общественности оставался самый громкий ИИ-стартап года — OpenAI, создавший ChatGPT. Сначала совет директоров внезапно уволил сооснователя и генерального директора Сэма Альтмана, который был фактически лицом компании. По настоянию инвесторов его тут же начали пытаться вернуть, но в итоге самый крупный из этих инвесторов, Microsoft, объявил, что теперь Альтман переходит на работу к ним. По всеобщему мнению, за увольнением Альтмана стоит другой сооснователь OpenAI, Илья Суцкевер. Но теперь и он требует вернуть Альтмана в родную компанию, и чем все это закончится, все еще непонятно. При чем здесь эффективный альтруизм и как этот скандал может отразиться на рынке искусственного интеллекта?
Что произошло в OpenAI
События в компании, разработавшей самый громкий ИИ-проект этого года — ChatGPT развивались с такой скоростью, что профильные издания и эксперты по технологиям, венчуру и генеративному искусственному интеллекту за ними не успевали. Все началось с того, что в пятницу вечером, 17 ноября, стало известно, что CEO и сооснователь компании Сэм Альтман уволен советом директоров компании за то, что он «не всегда был откровенен» с правлением. Новость без преувеличений стала потрясением для технологического сообщества: всего за несколько дней до этого Альтман участвовал в крупной конференции по безопасности искусственного интеллекта, где от имени компании рассказывал о новых угрозах, которые генеративный искусственный интеллект создает для демократических выборов.
Кроме того, как выяснилось чуть позже, совсем недавно он рассказывал инвесторам о своем намерении запустить новый проект в компании. Другими словами, сторонние наблюдатели не получали никаких сигналов, по которым можно было бы предположить, что над CEO компании сгустились тучи. Большая часть заголовков, вышедших за эти выходные, описывали увольнение Альтмана как «шокирующее». «Кремниевая долина переживает масштабное землетрясение, и сейсмические волны от него доходят до каждого заголовка, корпоративного чата и даже дальше», — писало издание Axios. «Генеральный директор OpenAI Сэм Альтман уволен. Многие задаются вопросом: насколько это было необходимо?» — отмечал Forbes.
Но удивительные события на этом не закончились. Еще один сооснователь компании, Грег Брокман, в своем посте в Х (бывший Twitter, заблокирован на территории России) написал, что и он был шокирован новостью об увольнении CEO, как и сам Альтман. По его словам, об отставке Альтману сообщил третий сооснователь, Илья Суцкевер, во время конференц-звонка в Google Meet, он же сообщил Грегу о том, что его снимают с поста председателя правления совета директоров, но оставляют за ним должность в OpenAI, поскольку он «важен для компании». Брокман писал, что они с Альтманом «все еще пытаются понять, что произошло», а также пообещал «отличные новости в ближайшем будущем». В другом посте он опубликовал свое письмо команде, в котором сообщал, что тоже уходит из компании. О намерении покинуть OpenAI, по данным The Information, сообщили также трое ведущих исследователей и еще несколько десятков сотрудников.
Вскоре после этого появились сообщения, что инвесторы требуют вернуть Альтмана на позицию генерального директора, а правление компании OpenAI ведет с ним и Брокманом соответствующие переговоры. Стало известно также, что назначенная исполняющей обязанности генерального директора Мира Мурати, также являющаяся соосновательницей OpenAI, хочет вернуть в компанию Альтмана и Брокмана. Об этом сообщили Bloomberg источники, знакомые с ситуацией внутри компании, которые также рассказали, что в компании действуют два противоборствующих вектора и параллельно с попытками Мурати и инвесторов вернуть Альтмана совет директоров ищет нового CEO.
Эта борьба внутри компании велась настолько интенсивно, что заголовки в СМИ «Альтман может вернуться» и «Альтман не вернется» выходили почти одновременно, и все со ссылками на источники внутри компании. В воскресенье, 19 ноября, Альтман пришел в офис на переговоры об условиях возможного дальнейшего сотрудничества и опубликовал в соцсети X фотографию с гостевым пропуском и комментарием: «Первый и последний раз надеваю такой». На фоне слухов о возможном возвращении Альтмана созданная им в рамках блокчейн-проекта криптовалюта Worldcoin выросла на 25%.
Однако победу в итоге одержал, очевидно, лагерь, выступавший за назначение нового генерального директора со стороны: им стал бывший глава Twitch Эммет Шир, который, по данным Bloomberg, является сторонником так называемого эффективного альтруизма, псевдофилософского движения, направленного на предотвращение экзистенциальных рисков, один из которых — развитие мощного искусственного интеллекта. В сентябре Шир писал, что поддерживает «замедление» разработок в сфере ИИ: «Мы не можем научиться создавать безопасный ИИ без экспериментов, но мы не можем экспериментировать без продвижения, вероятно, нам не стоит нестись вперед на максимальной скорости».
Главный научный сотрудник OpenAI и единственный из сооснователей, все еще входящий в совет директоров, Илья Суцкевер, которого называют ключевой фигурой в истории с изгнанием Альтмана, по словам источников в компании, разделял некоторые опасения «эффективных альтруистов» и в июле создал в компании отдельную команду для контроля будущих «сверхумных систем ИИ». В октябре, пишет Bloomberg, трения между Альтманом и Суцкевером усилились, что привело к тому, что уровень доступа Суцкевера к принятию решений в компании уменьшился. Следующее судьбоносное решение в этой истории приняла компания Microsoft, которая планировала вложить в создателя ChatGPT $10 млрд и глава которой Сатья Наделла, как рассказывали осведомленные источники, был ошеломлен решением совета директоров OpenAI и «в бешенстве» от него. В понедельник, 20 ноября, Наделла объявил, что Сэм Альтман и Грег Брокман присоединятся к Microsoft, где возглавят новую группу передовых исследований в области искусственного интеллекта.
В самой OpenAI турбулентность не прекратилась: в понедельник 730 сотрудников подписали коллективное письмо, в котором угрожают уволиться из компании и перейти в Microsoft вслед за Альтманом, если его не вернут в основанную им компанию, а совет директоров не уйдет в отставку. По данным The Wall Street Journal, в OpenAI работает около 770 человек. Более того, среди подписавших это письмо есть и Илья Суцкевер, который в понедельник вечером опубликовал пост с сожалениями о своем участии в том самом злополучном совете директоров и уходе Альтмана, чем еще больше всех запутал.
Страх перед неизведанным или борьба за власть?
Одна из возможных причин происшедшего, которую, в частности, рассматривает Bloomberg, — страх перед слишком стремительным развитием ИИ. Альтман, хотя и высказывал иногда предостережения о потенциальных угрозах ИИ, к которым человечество «не готово», в целом известен тем, что настаивал на стремительном развитии технологии, и именно его активные действия, предположительно, привели к тому, инструменты ChatGPT стали достоянием массовой аудитории прошлой осенью. В сентябре он пытался получить от Softbank $1 млрд на разработку устройства для работы с чат-ботами, а в интервью Financial Times рассказывал, что планирует привлечь от Microsoft финансирование на разработку «суперинтеллекта» — AGI (Artificial general intelligence), общего искусственного интеллекта, сопоставимого с человеческим.
Суцкевер, как говорят источники в компании, призывал к большей осторожности. В октябре он дал интервью MIT Technology Review, в котором предостерегал об опасностях общего, или «сильного», искусственного интеллекта, вышедшего из-под контроля, и говорил, что в данный момент его научный интерес сосредоточен именно на предотвращении таких угроз.
Версия о борьбе между прогрессом и безопасностью отчасти лежит на поверхности, но интерпретировать, как именно разворачивалась эта борьба в OpenAI, можно по-разному. «Сейчас можно только гадать над истинными причинами увольнения, но Альтман ставил своей целью ускоренное развитие и коммерциализацию, в то время как Илья Суцкевер настаивал в первую очередь на безопасности технологий, чтобы не допустить создания пророческого Скайнета из «Терминатора», — говорит управляющий партнер Sk Capital Станислав Колесниченко.
Генеральный директор венчурного фонда Orbita и футуролог Евгений Кузнецов считает, что хотя риски слишком стремительного развития сильного искусственного интеллекта — интересная тема для философской дискуссии, в реальности разворачивающаяся в технологической компании драма в большей степени связана с жесточайшим геополитическим соперничеством крупных держав — США и Китая. «Каждый хочет стать лидером и первым обладателем «сильного ИИ», что обеспечит государству доминирование. Иметь такое оружие в арсенале — основной приоритет. Но не меньший — это полный над ним контроль. За разработку таких инструментов контроля и идет борьба», — отмечает эксперт. При этом, говорит он, у нас недостаточно информации, чтобы определить, как именно распределились роли в этой борьбе: Сэм Альтман активно участвовал в обсуждениях механизмов сдерживания ИИ на госуровне США, так что не вполне очевидно, была ли команда Суцкевера за сдерживание или против.
Что касается роли движения «эффективных альтруистов», Кузнецов отмечает, что оно объединяет самых щедрых спонсоров развития ИИ, таких как Илон Маск, Виталик Бутерин, Питер Тиль, Дастин Масковиц и Сэм Бэнкман-Фрид. По версии Кузнецова, Альтмана могли отстранить как за то, что он «слишком бьет по газам», так и за то, что «отвлекает от цели создания настоящего AGI». В любом случае, отмечает эксперт, это «самый крупный современный кейс, когда философский кружок (или, скорее, секта) сильнейшим образом вмешивается в технологический бизнес, в вопросе, от которого зависит устойчивость экономического и политического развития планеты в ближайшее десятилетие».
«Никто снаружи не знает истинных причин произошедшего, — говорит сооснователь United Investors, автор Telegram-канала «Стартап дня» Александр Горный. — Мне кажутся реалистичными три версии: катастрофические проблемы с безопасностью, которые Альтман скрывал от совета директоров, личная нечистоплотность (конфликт интересов и подобное) и лобовая борьба за власть и влияние с Ильей Суцкевером, главным ученым OpenAI. Консенсус гадающих комментаторов сейчас склоняется к последней гипотезе». В отношении версии о борьбе за власть уже успел высказаться один из бывших членов совета директоров OpenAI, стоявший у истоков компании, Илон Маск, который заверил, что у Ильи «хороший моральный компас» и он никогда не ищет власти. «Он никогда бы не стал предпринимать такие кардинальные меры, если бы не думал, что это совершенно необходимо», — написал миллиардер.
Начальник управления экспериментальных систем машинного обучения департамента общих сервисов «Салют» «Сбера» Сергей Марков не думает, что в развернувшейся у всех на глазах корпоративной драме стоит искать идеологическую подоплеку — причины более прозаические: «Дело не в разногласиях по вопросам этики и безопасности ИИ (по этим вопросам публичные высказывания Альтмана и Суцкевера никогда существенно не отличались). Глубинная причина произошедшего кроется в огромном успехе OpenAI с ChatGPT, который привел к невероятному увеличению нагрузки на команду. За очень короткий срок команда, решавшая прежде главным образом исследовательские задачи на фронтире современного машинного обучения, оказалась в центре внимания инвесторов, медиа, политиков, сутяжников, городских сумасшедших и бог знает кого еще. При этом быстро отмасштабировать существующие процессы просто невозможно, даже получив солидные инвестиции. Все это неизбежно порождает штурмовщину, переработки, непопулярные решения, «забивание гвоздей микроскопом». Очевидно, что люди вынуждены постоянно работать на пределе своих возможностей. При этом успех проекта приводит их к осознанию собственной значимости. Растет раздражительность, разгораются старые межличностные конфликты, увеличивается соблазн радикальных решений».
Многие также считают важной причиной скандального увольнения Альтмана «атипичную корпоративную структуру OpenAI», как описывает ее Кузнецов. «По сути, весь бизнес находится под полным контролем некоммерческой организации, цель которой — создание безопасного сильного искусственного интеллекта, при этом за время развития совет директоров покинул ряд крупных предпринимателей, таких как Илон Маск и Питер Тиль, оставив компанию под управлением сооснователей — Альтмана, Брокмана и Суцкевера, — объясняет эксперт. — Именно между ними и случился конфликт, который в силу отсутствия нормальной корпоративной обвязки позволил Илье Суцкеверу фактически отстранить двух сооснователей от дел. Но уже любой инвестор понимает, что компания, которой единолично управляют несколько физических лиц, которые простым большинством могут исключить друг друга из совета директоров, — это очень зыбкий фундамент для больших начинаний».
Колесниченко считает, что увольнение Сэма Альтмана из OpenAI отражает характерную для технологических компаний ситуацию, когда стратегические разногласия и различные взгляды на будущее, которые могут возникнуть в любой момент, иногда приводят к подобным драматическим событиям. Он также отмечает необычную для технологических компаний структуру корпоративного управления. «Над коммерческой организацией стоит некоммерческое OpenAI с советом директоров, ориентированным на защиту некоммерческих целей компании, — говорит он. — Эта особенность добавляет сложности в управлении, учитывая разнонаправленные интересы и цели».
Чем это закончится
Новый гендиректор OpenAI Эммет Шир уже раскритиковал увольнение Сэма Альтмана, заявив, что оно было «очень плохо организовано» и «серьезно подорвало доверие» внутри компании. Действительно, едва ли можно считать полезным для компании шквал заголовков со словами «шок», «хаос» и «неожиданность», не говоря уже о последовавшим за этим набором противоречивых сообщений. CNBC пишет, что внезапное увольнение Альтмана стало потрясением для Кремниевой долины и «заставило представителей технологического сообщества беспокоиться о будущем ИИ». «Это безответственно и несправедливо по отношению к Сэму и Грегу и всем, кто участвовал в создании OpenAI» — так охарактеризовал случившееся 17 ноября венчурный инвестор Рон Конвей.
Кроме того, обсуждение увольнения Альтмана и его возможных причин вновь актуализировало тему безопасности разработок сильного искусственного интеллекта и противостояния между технооптимистами и так называемыми думерами — людьми, опасающимися вызванного слишком умным искусственным разумом конца света (doomsday). На стороне технооптимистов выступил, в частности, один из самых успешных венчурных инвесторов Марк Андриссен из Andreessen Horowitz, который обвиняет в случившемся думеров из движения эффективного альтруизма. Еще один звездный инвестор Кремниевой долины, Дэвид Сэкс, написал, что Сэм должен вернуться, а в совете директоров вместо представителей некоммерческой организации должны быть инвесторы и основатели, которые разбираются в бизнесе.
Александр Горный считает, что одним из последствий развернувшейся у всех на глазах в эти выходные корпоративной драмы станет то, что «независимых директоров и экзотических структур владения в стартапах теперь станет меньше». Он полагает, что этот урок для основателей и инвесторов не пройдет бесследно — они точно учтут этот урок. Что касается самой компании, говорит Горный, ей это гарантированно будет стоить нескольких потерянных месяцев развития. «Люди уходят вслед за Альтманом — кто-то ушел бы, и если бы Альтман вернулся, мотивация команды в любом случае была бы подорвана, — говорит он. — Дальше компания, скорее всего, оправится. А вот насколько видение Альтмана было определяющим для долгосрочного развития — мы узнаем только спустя годы. Когда Джобс ушел из Apple, это привело к катастрофе. Когда Джобс умер, Apple темпа не потеряла».
«Здоровые компании, возглавляемые компетентными, коммерчески успешными и всемирно любимыми фаундерами, обычно их не увольняют», — отмечает Bloomberg. По мнению FT, уход Альтмана «подрывает коммерческий потенциал компании». Во вторник, 21 ноября, стало известно, что инвесторы все еще пытаются вернуть Альтмана и Брокмана в OpenAI, а самый крупный из инвесторов Microsoft концептуально не против такого исхода, но требует, чтобы в таком случае совет директоров ушел в отставку, а система управления была изменена таким образом, чтобы в будущем повторение ситуации, взорвавшей технологический мир в прошедшие выходные, было невозможно. Сотрудники компании тем временем получили служебное письмо о том, что компания ведет «интенсивные переговоры о возможном возвращении ушедших основателей».
«На этом этапе разрешение ситуации может быть каким угодно», — говорит Сергей Марков, который отмечает при этом, что для отрасли ИИ в целом сейчас наиболее узким горлышком является наличие вычислительных ресурсов и квалифицированных специалистов, поэтому лидерам индустрии скорее нужно объединять усилия, максимально исключая дублирование экспериментов.
Переход Альтмана и части команды из OpenAI в Microsoft Кузнецов считает временным решением. «Microsoft остается в инвесторах OpenAI, то есть либо спишет уже понесенные инвестиции, либо будет содержать две конкурирующие команды. К примеру, несколькими годами ранее менее значительный раскол в OpenAI уже привел к появлению компании Antropic, которую щедро проинвестировал Google. С точки зрения рынка это хорошая новость, конкуренция всегда во благо. С точки зрения создания «сильного ИИ» — сказать сложно, корпоративные нормы и правила куда жестче стартаперских, а в офис Сатьи Наделлы куда проще позвонить из Вашингтона с настойчивой просьбой, чем в абстрактную тусовку эффективных альтруистов».
В целом, по мнению Маркова, скандал в OpenAI привлечет в еще большей мере внимание общества, инвесторов и политиков к развитию технологий ИИ. «Тот факт, что возникший корпоративный конфликт мгновенно стал едва ли не главной мировой новостью, говорит о том, какое исключительное внимание сегодня уделяется развитию технологий искусственного интеллекта, — говорит эксперт. — Такое внимание, скорее всего, приведет к еще большему росту инвестиций в ИИ, но, к сожалению или к счастью, деньги здесь не в состоянии решить многие стоящие перед исследователями и индустрией проблемы, начиная от дефицита людей и вычислительных мощностей и заканчивая проблемами регулирования сферы ИИ и вопросов, связанных с социально ответственным применением этих технологий».