# Империя ИИ. Мечты и кошмары OpenAI Сэма Альтмана. Карен Хао. Саммари

Smart Reading

Это саммари – сокращенная версия книги «Империя ИИ. Мечты и кошмары OpenAI Сэма Альтмана» Карен Хао. Только самые ценные мысли, идеи, кейсы, примеры.

Осенью 2023 года совет директоров OpenAl получил письмо от штатных сотрудников компании, в котором шла речь о важном открытии в сфере искусственного интеллекта. При этом письмо содержало не маркетинговые предложения по внедрению открытия, а предупреждение: угроза того, что они сейчас создают, огромна и при этом фатально недооценивается, говорилось в письме.

Через несколько дней после этого директор OpenAl Сэм Альтман был уволен. А спустя неделю – восстановлен в должности…

Как эти события связаны между собой? И что они говорят о планах OpenAl разработать общий искусственный интеллект на благо всего человечества?

Журналистка Карен Хао предлагает свою версию. Ее книга-расследование сразу стала бестселлером Amazon.

В формате PDF A4 сохранён издательский дизайн.

Оригинальное название:

Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI


Автор:

Karen Hao

## Что случилось в ноябре

Вы наверняка слышали эту новость. 17 ноября 2023 года Сэм Альтман был отстранен от должности соучредителя и исполнительного директора OpenAI решением совета директоров. А 22 ноября он был восстановлен в должности. Никто не понял, что произошло. Учитывая, что Альтман – глава компании, разрабатывающей самую сложную и многообещающую технологию в мире, закрытость решения от этого самого мира выглядит зловеще. Что еще из того, что придумали гении Кремниевой долины, они не потрудились нам сообщить?

В этой книге – ответ на вопрос, что происходило в те ноябрьские дни, а также задолго до них. Важны причины, по которым Альтман был вынужден уйти. Но важны и причины, по которым он вернулся. Эта книга не о том, как искусственный интеллект изменит мир в ближайшие годы, а о том, как человеческий интеллект – вернее, страсти, амбиции, мечты – устанавливает правила игры прямо сейчас. Дочитав эту книгу, вы сами решите, какой именно тип интеллекта может оказаться опаснее.

## Нечто необыкновенное

Рождение OpenAI

Компания OpenAI была одним из самых благородных начинаний в истории человечества. В ее собственной истории много разных героев, но начать, конечно, следует с Сэма Альтмана и Илона Маска. Перенесемся в летний вечер 2015 года, когда эти два в высшей степени предприимчивых джентльмена встретились. Маск тогда уже не нуждался в представлении: богач, визионер, запускающий на околоземную орбиту частные космические корабли. Сэм Альтман тоже не нуждался в представлении, но в медийности уступал Маску. Тем не менее успехи его венчурного фонда Y Combinator, поддерживающего небольшие компании в сфере IT, Кремниевой долине были прекрасно известны.

Обсуждали они тем вечером перспективы искусственного интеллекта. Маска тема тревожила. Он полагал, что опыты Google в этом направлении куда опаснее, чем его космические проекты. Непонятно, куда все это повернет. Альтман же отвечал в том духе, что если нечто нельзя предотвратить, то нужно возглавить.

> Что, если они создадут собственную компанию по исследованию ИИ? Конечно, некоммерческую. Пусть такая компания управляется советом директоров и ключевые решения будут коллегиальными. Главным принципом должна стать открытость. Они будут создавать дружественный искусственный интеллект, не делая из этого тайны.

Так возникла OpenAI. Маск, Альтман, а также выдающиеся инженеры и разработчики Илья Суцкевер, Дарио Амодеи и Грег Брокман – вот кто стоял у истоков. Но не все остались до сегодняшнего дня.

Рассказчик историй

Альтман всегда убедительно умел рассказывать о том, почему у него все получится. Разумеется, на одних только рассказах его карьера не держалась. Он работал не покладая рук с самой юности. В 2005-м, когда ему было 19, стал главой Loopt, мобильного приложения для соцсетей с функцией геолокации. Приложение было не слишком популярным, и спустя семь лет Альтман его продал. Однако из его публичных речей тогда следовало, будто продает он золотоносные рудники. Альтман никогда не был одиночкой – он был гением нетворкинга и умел к себе располагать.

> Любая история построена на умолчаниях – без этого нет драматургии. Альтман тоже кое о чем умалчивал, описывая партнерам положение дел, и его коллеги по Loopt не раз обращали на это внимание. В конце концов они даже пришли к мысли, что это приносит компании больше вреда, чем пользы. Однако Альтман остался в Loopt, а потом и сумел заработать на его продаже, став миллионером.

Когда в начале 2010-х Альтман перешел из Loopt в Y Combinator, он познакомился с соучредителем фонда Полом Грэмом и в его лице нашел главного своего поклонника. Альтман для Грэма был воплощением амбициозности. Неудивительно, что уже через три года Альтман стал президентом фонда. Еще одним важным советчиком Альтмана стал миллиардер, создатель PayPal Питер Тиль: их свели общие инвестиционные интересы. Грэм и Тиль – это были люди с хваткой. Если бы Альтман, как Билл Гейтс, изучал информатику где-нибудь в Гарварде или его карьера началась в закрытой правительственной лаборатории, траектория OpenAI была бы совсем иной.

Без представления о важности постоянного масштабирования.

Без стремления к монополии.

Но в 2015-м все в OpenAI хотели только всеобщего счастья.

Что такое GPT

«Можно быть открытыми, делясь плодами своих трудов с остальными людьми, но при этом не раскрывая технологий». Так сказал Илья Суцкевер в 2016 году, на заре OpenAI. И это была первая поправка к благим намерениям.

Идея Суцкевера не встретила возражений. Вообще, слова его были весомыми. Сын советских эмигрантов, изучавший компьютерные науки в Израиле и США, ученик одного из основателей глубокого обучения Джеффри Хинтона, перешедший к Альтману из Google, был типичным гением.

Альтман, однако, старался набирать коллектив новой компании так, чтобы никто никому не уступал. Поэтому в гениях там недостатка не было. Хуже то, что никто не понимал, что именно они должны создавать. Как выглядит AGI[1] (а они с самого начала нацелились именно на эту форму ИИ)? Как он себя проявит? Это будут роботы или что-то иное? Он тоже должен уметь играть в го, как творение Google DeepMind?

Все дело в объеме вычислений, понял Суцкевер. Вот на что нужно делать ставку. Именно этот показатель стремительно растет во всех известных им исследованиях ИИ, опережая даже закон Мура. Больше вычислений – больше чипов, но больше чипов – больше денег. Как их привлечь организации, объявившей себя некоммерческой? Самым богатым среди них был Маск – но и самым переменчивым. Вдруг он просто присоединит убыточный OpenAI к Tesla, подчинив своим интересам? Насколько Маск надежен?

Альтман снова и снова в беседах с Брокманом и Суцкевером задавал им такие вопросы. Вероятно, намекая на то, что двух лидеров у компании быть не может. Его политика увенчалась успехом. В феврале 2018 года Маск покинул правление OpenAI, в частной переписке с ним Суцкевер и Брокман выразили поддержку Альтману. Теперь их интересы разошлись. И Альтману нужно было искать для OpenAI капитал.

> Так родилась вторая поправка к благим намерениям – создать товарищество с ограниченной ответственностью, которое бы взяло на себя все коммерческие заботы OpenAI, но при этом не отрицало приоритет миссии по свободному внедрению общего искусственного интеллекта.

Кое-какие наработки у них были. В 2018–2019 годах неплохо проявила себя OpenAI Five – команда ботов на основе ИИ для игры в Dota 2. Альтман упомянул об этом на встрече с главой Microsoft Сатьей Наделлой. Наделлу разработка заинтересовала, но Билла Гейтса – нет. По-настоящему умный ИИ должен анализировать смыслы и на основе этого давать уместные подсказки – вот чего хотел Гейтс. Есть ли у OpenAI что-то в этом духе? Да, это GPT-2.

GPT – это Generative Pretrained Transformer. Generative («генеративный») – умеет генерировать контент. Pretrained – предварительно обученный на разных данных. Transformer – наименование архитектуры нейросети, она была разработана Google с целью обработки данных.

При этом в OpenAI подчеркнули: мощность их GPT-2 такова, что о знакомстве широкой публики со всеми ее возможностями не может быть и речи. В мир будет выпущено страшное информационное оружие. Достаточно ограничиться лайт-версией. Это заявление летом 2019 года принесло компании миллиард: Microsoft пошел им навстречу.

Уклончивые ответы

В те же летние дни автор этой книги в качестве журналиста, пишущего о технологиях, побывала в штаб-квартире OpenAl. Она беседовала с Брокманом и Суцкевером. Те были очень любезны. И очень неинформативны. Все 45 минут, отведенные на встречу, Карен Хао, по ее словам, «безуспешно пыталась получить более конкретные сведения о том, что именно они стремятся создать – чего, по их словам, они не могли знать по своей природе, – и почему тогда, если не могли знать, они были так уверены, что это принесет пользу».

Миссия компании неприкосновенна, говорили партнеры. Здорово, что теперь она поддерживается деньгами. Ведь в противном случае ее благородные намерения были бы затоптаны конкурентами. «Только позже я осознала весь смысл этого утверждения. Именно это фундаментальное предположение – необходимость быть первым или погибнуть – привело в движение все действия OpenAI и их далекоидущие последствия», – замечает Карен Хао. Альтман не просто терпеть не мог конкуренцию – он ее не признавал. Будь лучшим, и не придется заботиться о тех, кто наступает на пятки.

Два пути искусственного интеллекта

Воспоминания о той встрече в офисе натолкнули Карен Хао на многие размышления. Искусственный интеллект – технология, созданная элитой, интеллектуальной и материальной. Проблема в том, что она и концентрируется в руках элит. И эти элиты умеют рекламировать свой товар, даже толком не зная, как он выглядит.

В самом деле, попробуем ответить себе на вопрос, что такое интеллект. Ответ будет слишком абстрактен. Даже в рамках человеческого интеллекта выделяются эмоциональный, духовный и прочие. А ведь человеческий интеллект не единственный вид интеллекта. Так чего мы ждем от OpenAl? Нечто «умное»? По какому пути она двигается?

Проще сказать, откуда она явилась. В середине XX века возникло две точки зрения на то, как нужно обучать компьютер.

Сторонники первого метода (их называют символистами) полагали, что для выполнения той или иной цели люди сначала должны сформулировать машине алгоритм действий. Так компьютер, подобно ребенку, учился бы логическому мышлению.

Сторонники второго подхода (коннекционисты) обращали внимание на то, что мозг обрабатывает информацию благодаря тысячам нейронных связей. В таком случае нет заданного алгоритма, который должен освоить компьютер, а есть путь проб и ошибок – но чем точнее данные, тем ошибок меньше. Первая такая нейросеть – перцептрон – была создана в 1958 году психологом Фрэнком Розенблаттом. Она содержала около тысячи связанных друг с другом «нейронных клеток», которые принимали сигналы от фотоэлементов.

# Примечания

1

AGI – Artificial General Intelligence – универсальный искусственный интеллект.