Генри Киссинджер, Крейг Манди, Эрик Шмидт
Генезис: Искусственный интеллект, надежда и душа человечества

Henry A. Kissinger, Craig Mundie, Eric Schmidt

Genesis. Artificial Intelligence, Hope and the Human Spirit

© 2024, Henry A. Kissinger, Craig Mundie, Eric Schmidt

© Jurgen Frank, photo of Henry A. Kissinger on the cover.

© Перевод на русский язык ООО «Прогресс книга», 2025

© Издание на русском языке, оформление ООО «Прогресс книга», 2025

© ООО Издательство «Питер», 2025

Права получены по соглашению с The Estate of Henry A. Kissinger, Craig J. Mundie, and Delphin LLC при содействии The Wylie Agency (UK) Ltd.

Издательство не несет ответственности за доступность материалов, ссылки на которые вы можете найти в этой книге. На момент подготовки книги к изданию все ссылки на интернет-ресурсы были действующими.

Отзывы о книге

«Искусственный интеллект (ИИ) может стать одним из величайших технологических переворотов в истории, и главный вопрос заключается в том, как к этому адаптироваться людям. Перед нами ценный своей актуальностью труд, авторы которого предлагают один из первых реалистичных взглядов на будущее, которое уже наступает, – будущее почти безграничных возможностей и новых, крайне сложных вызовов».

Сэм Альтман

«Вы держите в руках своевременное исследование взаимосвязи ИИ со знаниями, властью и политикой. Листая эти страницы, мы не можем не задуматься о рисках и возможностях, которые ИИ несет человечеству».

Билл Гейтс

«Какая роль будет отведена людям в грядущую эпоху искусственного интеллекта? В последние годы своей жизни Генри Киссинджер погрузился в изучение ИИ и в соавторстве с крупнейшими техническими экспертами – Эриком Шмидтом и Крейгом Манди – написал эту книгу. Она стала результатом всестороннего анализа ситуации, в которой человек, встретивший эпоху разумных машин, должен сохранить собственный авторитет и уберечь свои ценности».

Уолтер Айзексон

«Киссинджер, Манди и Шмидт предлагают нам пристальнее взглянуть как на перспективы, так и на вызовы, которые бросает нам надвигающаяся глобальная система, формируемая ИИ. Прочитав эту книгу, вы наверняка сделаете для себя важное открытие. Прежде чем хотя бы начать задумываться о какой-либо политике в отношении ИИ, нам потребуется разработать новые концепции человеческого разума и самого существования человечества. Эта книга стала последней работой Генри Киссинджера – и как знать, не окажется ли, что в ней сокрыто пророчество. Изучить ее чрезвычайно полезно каждому».

Лоуренс Генри «Ларри» Саммерс

«Авторы книги Genesis поднимают сложные вопросы, и чтобы на них ответить, важно обеспечить людям доступ к интеллектуальным инструментам. Это придаст им уверенности в собственных силах и откроет новые возможности для раскрытия их потенциала и свободного управления своей реальностью».

Сатья Наделла

«Очередная великая технологическая революция – в области ИИ – победно шествует уже сегодня. В то время как львиная доля дискуссий посвящена тому, на что способен ИИ и в каких направлениях он движется, эта книга блестяще переосмысливает все споры. Как люди будут взаимодействовать с ИИ? Каким образом этот захватывающий, но пугающий новый научный взрыв изменит наше представление о том, что значит быть человеком? Результатом труда трех авторов стало глубинное и многоплановое исследование – именно оно сейчас перед вами».

Фарид Закария

«Книга, обязательная к прочтению для всех, кто пытается серьезно задуматься об испытаниях, которые несет с собой ИИ. Genesis систематизирует давно известные факты – и, что важнее, затрагивает пока неведомые нам темы – к примеру, вопросы рисков, связанных с неограниченным развитием ИИ. Основываясь на уроках, извлеченных в ядерную эпоху, Киссинджер и его соавторы освещают туманный путь, ожидающий нас впереди».

Грэм Эллисон

«Киссинджер, Шмидт и Манди разработали маршрут для навигации по нашему ближайшему будущему, в котором невообразимо мощные и вездесущие системы ИИ станут автономными. Проницательность авторов относительно последствий первой встречи человечества с высшим разумом – как в практическом, так и в мировоззренческом смыслах – отрезвляет и одновременно вдохновляет, заставляя нас переосмыслить наши отношения с технологиями и сам вопрос того, кто мы есть во Вселенной. Книгу Genesis очень важно прочесть людям, желающим понять, как ИИ изменит наш мир и что нужно, чтобы оставаться человеком в эпоху разумных машин».

Ян Бреммер

«Что означает ИИ для открытий? Для истины? Для безопасности, благополучия и политики? Отвечая на эти вопросы, трое выдающихся мыслителей не боятся поднимать всеобъемлющие темы и самые сложные дилеммы, связанные с доминирующей технологией нашего времени. Эпический по масштабу, освежающе ясный и – как, впрочем, свойственно этим авторам – основанный на глубинном опыте и огромной эрудиции, этот труд уверенно можно считать обязательным к прочтению».

Мустафа Сулейман

«Книга Genesis дает нам пищу для размышлений – это крайне своевременный анализ влияния ИИ на развитие человечества и на то, что делает нас людьми. По сути, данная работа представляет собой дорожную карту для: 1) практического применения технологий ИИ; 2) решения порождаемых ими задач; 3) выстраивания взаимодействия с разумными системами в новую технологическую эпоху».

Джеймс Маньика

«ИИ ошеломляет разум, и мы изо всех сил пытаемся осознать, что же он нам обещает и чем может быть опасен. В своей последней книге мастер „большой стратегии“[1] Генри Киссинджер и его великолепные соавторы Эрик Шмидт и Крейг Манди очень вовремя сосредоточились на этой теме. Genesis – книга, которую сегодня необходимо прочитать всему нашему миру».

К. Брукс

«Пока мы сосредоточенно прокладываем маршрут в будущее, эта книга в оптимистичном ключе разъясняет нам возможный путь взаимоотношений с ИИ, при котором мы не растеряем наших человеческих качеств. В своей последней работе Генри Киссинджер, один из самых значимых мыслителей нашего времени, в сотрудничестве с Эриком Шмидтом и Крейгом Манди помогает нам войти в эту беспрецедентную эпоху. А нам, в свою очередь, надлежит привести ее развитие и огромный смысл в равновесие с общечеловеческой мудростью, которая столь необходима, чтобы на сей раз технологии применялись только во благо человечества. Данную книгу непременно следует прочесть людям, принимающим решения, то есть всем нам».

Кондолиза Райс

Предисловие

Доктору Киссинджеру – государственному деятелю, дипломату, наставнику и другу.

Мы отдаем Вам дань уважения.

Когда в июне 2018 года Генри Киссинджер опубликовал статью How the Enlightenment Ends («Как заканчивается Просвещение») в журнале Atlantic, многих удивил тот факт, что в столь пожилом возрасте этот государственный деятель сумел составить и обосновать собственное мнение о проблематике искусственного интеллекта (ИИ). Действительно, Киссинджеру только что исполнилось 95 лет. В то время развитие ИИ еще не было такой растиражированной темой, как в конце 2022 года, когда компания OpenAI выпустит ChatGPT.

Однако я, будучи биографом Киссинджера, нахожу его интерес к проблематике ИИ закономерным и естественным. Не стоит забывать, что в 1957 году он обрел настоящую популярность благодаря работе, посвященной новой технологии, которая определила ход истории. Его книга Nuclear Weapons and Foreign Policy («Ядерное оружие и внешняя политика») была встречена с таким пристальным вниманием, что даже Роберт Оппенгеймер[2] одобрительно отозвался о ней как о «весьма обоснованном и в этом отношении совершенно беспрецедентном исследовании в области ядерного вооружения, отличающемся… скрупулезным отношением к фактам и вместе с тем страстной и жесткой аргументацией».

И хотя Киссинджер, в те годы докторант[3], с головой погрузился в дипломатическую историю Европы начала XIX века, он прекрасно осознавал (тогда и на протяжении всей своей карьеры), что вечные закономерности политики великих держав время от времени рушатся под натиском технологических новшеств. Как и многие представители его поколения, участвовавшие во Второй мировой войне, он воочию видел не только массовые разрушения и гибель людей, вызванные современным оружием, но и страшные последствия для своих соотечественников-евреев того, что Черчилль незабываемо окрестил «извращенной наукой» гитлеровского Третьего рейха.

Вопреки своей незаслуженной репутации поджигателя войны, Киссинджер на протяжении всей своей взрослой жизни был твердо намерен избежать Третьей мировой – возможного следствия перехода холодной войны между Соединенными Штатами и Советским Союзом в горячую фазу, чего многие действительно опасались. Он прекрасно понимал, что технология ядерного расщепления придаст новой мировой войне еще более беспощадный размах по сравнению со Второй мировой. В начале книги Nuclear Weapons and Foreign Policy Киссинджер оценил [гипотетический. – Примеч. ред.] разрушительный эффект десятимегатонной бомбы, сброшенной на Нью-Йорк, а затем сделал расчеты, что в результате тотальной атаки со стороны Советского Союза на пятьдесят крупных городов США, если бы таковая состоялась, погибли бы от 15 до 20 миллионов человек и были бы ранены от 20 до 25 миллионов. Еще от 5 до 10 миллионов человек погибли бы от радиоактивных осадков, а еще 7–10 миллионов стали бы жертвами лучевой болезни. Выживших ждала бы «социальная дезинтеграция». Но даже после такой атаки, отметил он, Соединенные Штаты все равно смогли бы нанести Советскому Союзу сопоставимые разрушения. Вывод был очевиден: «Таким образом, единственным исходом тотальной войны станет поражение обоих соперников». В подобном конфликте не может быть победителя, утверждал Киссинджер в своей публикации 1957 года Strategy and Organization («Стратегия и организация»), «ведь даже более слабый противник может нанести удары, после которых любое общество долго не сможет оправиться».

Однако юношеский идеализм Киссинджера не сделал его пацифистом. В книге Nuclear Weapons and Foreign Policy он прямо заявил, что «ужасов ядерной войны вряд ли удастся избежать путем сокращения ядерных вооружений» или, если на то пошло, при помощи систем контроля над вооружениями. Вопрос заключался не в том, можно ли вообще избежать войны, а в том, «возможно ли представить себе применение силы менее катастрофичное, чем тотальная термоядерная война». Ведь если это невозможно, то Соединенным Штатам и их союзникам было бы очень трудно победить в холодной войне. «Отсутствие общего понимания относительно пределов ведения войны, – предупреждал Киссинджер в статье Controls, Inspections, and Limited War („Контроль, инспекции и ограниченная война“), опубликованной в журналеThe Reporter, – подрывает психологическую основу сопротивления действиям, которые предпринимают коммунисты. Там, где война считается равносильной национальному самоубийству, капитуляция может оказаться меньшим из двух зол».

Именно на этой основе Киссинджер выдвинул свою доктрину ограниченной ядерной войны, изложенную в статье Strategy and Organization:

На зловещем фоне надвигающейся угрозы термоядерной катастрофы достижение военной победы в том виде, в каком мы ее знали, больше не может являться целью войны. Она скорее должна заключаться в достижении определенных политических условий, полностью понятных противнику. Цель ограниченной войны – нанести противнику такой урон или приблизить его к таким рискам, которые были бы несопоставимы с его целями. Чем умереннее цель, тем менее жестокой, вероятно, окажется война.

Для этого потребуется понимание психологии другой стороны, а также ее военного потенциала.

В то время многих обескуражил хладнокровный, на первый взгляд, ход размышлений Киссинджера об ограниченной ядерной войне. Некоторые ученые, такие как Томас Шеллинг, оспаривали возможность предотвращения неудержимой эскалации; позже даже сам Киссинджер засомневался в собственных аргументах. Тем не менее обе сверхдержавы продолжили создавать и развертывать тактическое ядерное оружие, следуя именно той логике, которую Киссинджер подробно описал в книге Nuclear Weapons and Foreign Policy. Концепция ограниченной ядерной войны, возможно, в теории не сработала бы, однако действия военных стратегов обеих сторон словно демонстрировали их ожидание того, как она могла бы осуществиться на практике. Молодой Киссинджер был прав в отношении ядерного оружия больше, чем сам он мог предположить.

Киссинджер никогда не переставал размышлять о последствиях технологических изменений для политической сферы. В давно забытом документе, который он составил для Нельсона Рокфеллера в январе 1968 года, Киссинджер заглянул в будущее, анализируя способы, которыми распространение компьютеров могло бы помочь чиновникам справляться с постоянно растущим потоком информации от правительственных агентств США. По его мнению, высшим должностным лицам грозила серьезная опасность утонуть в этом море данных. «В распоряжении политика высокого ранга, – писал он, – столько информации, что в кризисных ситуациях он просто не в состоянии с ней разобраться». Киссинджер утверждал, что лица, принимающие решения, должны «постоянно получать сведения о вероятных проблемных точках», в том числе о потенциально проблемных, «даже если те совсем не в приоритете». Они также должны располагать «набором вариантов действий, <…> предусматривающих запасные ходы на случай прогнозируемых обстоятельств с оценкой вероятных последствий – внутренних и внешних – каждой такой альтернативы».

Чтобы добиться такого всеобъемлющего охвата, признавал Киссинджер, потребуются крупные инвестиции в программирование, хранение, поиск и графическое отображение данных. К счастью, «аппаратные и программные средства» для выполнения всех этих четырех функций уже существовали.

Сейчас мы можем хранить несколько сотен единиц информации о каждом человеке в Соединенных Штатах на одной магнитной ленте длиной 2400 футов. Компьютеры третьего поколения способны выполнять основные машинные операции за наносекунды, то есть миллиардные доли секунды… Экспериментальные системы разделения времени[4] показали, что возможность множественного доступа к ресурсам компьютера позволяет вводить и выводить информацию как на исполнительных, так и на операторских станциях, распределенных по всему миру… И совсем скоро цветной монитор с электронно-лучевой трубкой будет доступен для вывода изображения на компьютер.

Позже, после своего первого года работы в Белом доме в качестве советника Ричарда Никсона по национальной безопасности, Киссинджер попытался получить такой компьютер в личное пользование. ЦРУ отказало ему в этой просьбе – предположительно, потому, что Киссинджер и без компьютера олицетворял собой тот массив данных и задач, с которым предстояло справляться разведывательному сообществу[5].

Генри Киссинджер никогда не прекращал работать и с беспокойством размышлять о будущем человечества. Человек такого склада вряд ли прошел бы мимо одного из самых прорывных явлений, которое ему довелось наблюдать на очередном этапе своей долгой жизни, – разработки и внедрения генеративного ИИ. Осмысление последствий этой зарождающейся технологии действительно заняло значительную часть последних лет его жизни.

Genesis, последняя книга Киссинджера, была написана в соавторстве с двумя выдающимися техническими экспертами, Крейгом Манди и Эриком Шмидтом, и она несет на себе отпечаток врожденного оптимизма этих новаторов. Авторы с нетерпением ждут «эволюции человека технического, homo technicus, – нового вида, который в наступающую эру сможет жить в симбиозе с машинными технологиями». ИИ, по их мнению, вскоре может быть задействован «для создания нового базового уровня человеческого богатства и достатка… что если не устранит, то, по крайней мере, ослабит напряженность труда, классовую принадлежность и конфликты, которые ранее разрывали человечество на части». ИИ может даже привести к «глубинному выравниванию… в зависимости от расы, пола, национальности, места рождения и семейного положения».

И все же в этом талантливом тандеме мы четко слышим голос его старшего участника – например, в серии предупреждений, которые являются лейтмотивом всей книги. «Появление ИИ, – отмечают авторы, – ставит вопрос выживания человечества… Позволив себе управлять ИИ небрежно и неумело, человек рискует наделить его способностью к бесконтрольному накоплению знаний – с потенциально катастрофическими последствиями…» И здесь сокрыт перефразированный для книги Genesis, но вполне узнаваемый оригинальный вопрос Киссинджера из его статьи How the Enlightenment Ends, опубликованной в 2018 году в журнале Atlantic:

Объективная способность [ИИ] делать новые и точные выводы о нашем мире, задействуя в прямом смысле нечеловеческие способы, не только подрывает нашу привычную опору, «обнуляя сам смысл научного метода в том виде, в каком его использовали на протяжении пяти веков, но и ставит под сомнение претензии человека на исключительное, уникальное восприятие реальности. К чему это приведет? Неужели эра ИИ не только не сможет продвинуть человечество вперед, но и, наоборот, спровоцирует откат к архаичному принятию необъяснимого авторитета? Иными словами, не стоим ли мы на пороге величайшего перелома в истории познания – эпохи „темного Просвещения“?

В ключевом разделе этой книги – том, что произвел на меня наиболее сильное впечатление, – авторы обращаются к пугающей теме гонки вооружений в области ИИ. „Если… каждое общество решит максимизировать свои стратегические преимущества в одностороннем порядке, – пишут авторы, – возникнет принципиально новый тип конфронтации между спецслужбами и военными – беспрецедентный в человеческой истории“. Сегодня, в считаные годы (а может быть, и месяцы) до появления первого суперинтеллекта, мы столкнулись с принципиально новой дилеммой безопасности[6] – угрозой поистине экзистенциального масштаба».

Но если человечество уже втянулось в «гонку за обладание единым, абсолютным и бесспорно доминирующим интеллектом» – к чему это приведет? По моим подсчетам, авторы рассматривают шесть сценариев, и ни один из них нельзя назвать заманчивым:

1. Человечество рискует утратить контроль над экзистенциальным противостоянием, где все участники оказываются заложниками дилеммы безопасности.

2. Человечество столкнется с абсолютной гегемонией победителя, лишенного каких-либо сдержек и противовесов – тех самых, что исторически обеспечивали хоть какую-то безопасность для остальных.

3. Появится не один верховный ИИ, а множество инстанций высшего разума.

4. Компании, владеющие и разрабатывающие ИИ, могут в полном объеме получить социальную, экономическую, военную и политическую власть.

5. Максимальный спрос на ИИ возникнет не на государственном уровне, а в религиозных институтах, где его потенциал сможет реализовываться наиболее полно, притом в течение очень длительного времени.

6. Свободный доступ к ИИ с открытым исходным кодом может вооружить даже маргинальные группы примитивными, но опасными системами.

Подобные сценарии вызывали глубочайшую тревогу у Киссинджера – и его борьба за их предотвращение вышла далеко за рамки написания этой книги. Ни для кого не секрет, что последней задачей, которой он посвятил остаток своей жизни, – именно она фактически истощила его силы в первые месяцы после сотого дня рождения – было инициирование переговоров между США и Китаем по ограничению «гонки вооружений» военного ИИ, чтобы предостеречь все человечество от таких антиутопических перспектив.

И в заключении книги Genesis узнаваемый ход мыслей Генри Киссинджера просматривается абсолютно четко:

То, что одни считают якорем, помогающим удержаться во время шторма, другие воспринимают как поводок, который не дает сделать лишнего движения. То, в чем кому-то видятся важнейшие шаги на пути к вершине человеческих возможностей, другие назвали бы стремительным падением в пропасть.

В этом случае инстинктивные эмоциональные расхождения – равно как и субъективные границы, очерчиваемые каждой из сторон, – создают непредсказуемую и взрывоопасную ситуацию. Все более жесткие позиции потенциальных «победителей» и «проигравших» будут лишь усиливать давление этих обстоятельств. Люди чересчур осторожного склада начнут притормаживать собственное развитие и мешать развитию других. Те, кто ставит себя выше прочих, предпочтут скрывать свой истинный потенциал, украдкой пытаясь повысить собственную эффективность. Весь наш наработанный опыт будут поджимать бесконечные кризисы – постепенно они станут подобны волне, которая однажды захлестнет нас, и неизвестно, удастся ли нам выжить.

На подобные прогнозы технари дают привычный ответ – напоминают нам об ощутимых преимуществах ИИ, которые уже хорошо проявлялись, например, в области медицины. С этим я не могу не согласиться. На мой взгляд, AlphaFold – модель, основанная на нейронных сетях и определяющая третичную структуру белков, стала гораздо более прорывным открытием, чем ChatGPT. Однако медицинская наука добилась сопоставимых успехов еще в двадцатом веке. И хотя человечество изобрело антибиотики, создало новые вакцины и разработало бесчисленное множество терапевтических средств – все эти достижения медицины не смогли предотвратить ни мировых войн, ни холокоста.

Центральная проблема технического прогресса заявила о себе еще при жизни Генри Киссинджера. В 1938 году немецкие химики Отто Ган и Фриц Штрассман фактически открыли деление ядер урана. Теоретическое объяснение (и название) этому процессу дали физики австрийского происхождения Лиза Мейтнер и ее племянник Отто Роберт Фриш в 1939 году. Возможность цепной ядерной реакции открыла путь к «массовому производству энергии и радиоактивных материалов – и, как ни прискорбно, к созданию атомной бомбы», – размышлял венгерский физик Лео Силард. Тогда же с одобрением была воспринята возможность применения цепных реакций в ядерных реакторах для получения тепловой энергии. Однако на создание первой атомной бомбы ушло чуть более пяти лет, а первая атомная электростанция была открыта лишь в 1951 году.

Спросите себя: чего за последние восемьдесят лет было создано больше – ядерных боеголовок или атомных электростанций? Сегодня в мире насчитывается около 12 500 ядерных боеголовок, и это число растет, поскольку Китай стремительно наращивает свой ядерный арсенал. Для сравнения, в мире действует только 436 ядерных реакторов. В абсолютном выражении пик производства атомной электроэнергии пришелся на 2006 год, а доля атомной энергетики в общем мировом производстве упала с 15,5% в 1996 году до 8,6% в 2022 году. Отчасти это произошло из-за преувеличенных опасений политиков после нескольких аварийных ситуаций на АЭС, последствия которых для здоровья людей и окружающей среды были незначительными в сравнении с ущербом от выбросов углекислого газа при сжигании ископаемого топлива.

Урок, который преподала нам жизнь Генри Киссинджера, очевиден. Последствия технологических достижений могут быть как благотворными, так и разрушительными – все зависит от того, каким образом человечество решит ими распорядиться. ИИ, конечно, во многом отличается от ядерного расщепления. Но наивно полагать, будто человечество станет использовать эту технологию только в созидательных, а не в разрушительных целях.

Именно эта проницательность, рожденная сочетанием исторического знания и личного опыта, побудила Генри Киссинджера посвятить большую часть своей жизни изучению мирового порядка и предотвращению мировой войны. Именно поэтому он с такой готовностью и трепетом откликнулся на последние достижения в области ИИ. И по этой же причине данное посмертное издание имеет не меньшую ценность, чем все труды, созданные им за долгую и невероятно насыщенную жизнь.

Нил Фергюсон

Оксфорд, июль 2024

В память о Генри А. Киссинджере

Пережив вековой рубеж, доктор Генри А. Киссинджер скончался 29 ноября 2023 года. До своего последнего дня он не прекращал работы над этой книгой, двадцать второй по счету в списке его работ. Такая сила характера, конечно, вдохновляла всех, кто его знал. В последний год своей жизни во время наших частых встреч он неизменно подчеркивал важность нашей общей темы и настоятельную необходимость донести до ее читателя – как призыв, как тревожное послание. Мы, его соавторы, были среди последних, кто виделся и общался с ним за несколько дней до его смерти. И вот теперь, завершая этот проект от его имени и выполняя его последнюю волю, мы приложили все усилия, чтобы сохранить неповторимый строй его мысли и четкую интонацию его суждений по вопросу, который определит судьбу человечества. Закончить начатое, чтобы этот последний литературный труд не ушел вместе с ним, а выполнял свою миссию для тех, кто остался, живет и продолжит жить, – это лишь наш скромный вклад в сохранение памяти об этом человеке.

Он выстраивал этот мир всю жизнь – и до последнего часа боролся за него. Его заключительной просьбой было обращение ко всему человечеству – продолжать этот масштабный «проект», дающий нашему виду надежду на будущее. В середине прошлого века доктор Киссинджер разрабатывал основные философские и дипломатические подходы к предотвращению ядерной катастрофы – так человечество XX века впервые осознало всю тяжесть экзистенциального риска. В тот период его воля и решимость помогли обществу уберечься от опасности, но теперь, когда мы стоим перед новой угрозой, этому человеку выпала судьба покинуть нас. Он ушел как раз тогда, когда мир впервые увидел очертания иной формы жизни. Сегодня, стоя на пороге эры ИИ, мы понимаем: лишь единицы – подобно доктору Киссинджеру, этому студенту XIX-го, ученому XX-го и провидцу XXI столетия – смогли заложить столь значимые основы для будущего человечества.

Прежде всего, доктор Киссинджер был философом истории. Результатом его глубоких размышлений о природе трагедии стало вечное стремление доказать, что идеализм сердца может гармонично сосуществовать с реализмом разума, и даже возвысить его. Можно, по выражению французского писателя Ромена Роллана, сочетать «пессимизм интеллекта» с «оптимизмом воли». Если оптимист верит в возможность сохранить контроль над собственной судьбой, то пессимист видит нашу реальность как процесс, управляемый непреодолимыми силами – законами природы или, например, историческими циклами.

Конечно, ему слишком хорошо было известно, как пылкий идеализм может стать инструментом в опытных руках циничных идеологов, без колебаний готовых пролить чью-то кровь или применить силу в том или ином масштабе. Фашизм, тоталитаризм, воинствующий религиозный фанатизм – все они, казалось бы, ставили перед собой самые благие цели в истории человечества. Пройдя путь от жертвы до борца с бесчеловечными режимами, он создавал новый миропорядок – где безопасность не требует жертв, а достоинство не нуждается в оправданиях. Доктор Киссинджер виртуозно управлял международными делами и вел свою страну, ставшую ему родиной – равно как и весь мир, – через непредсказуемые потрясения, руководствуясь историческим опытом и национальными интересами.

Прекрасно понимавший избирательную необходимость политического реализма, он оставался при этом идеалистом – тем, кто, по словам его биографа Нила Фергюсона, уважал «роль человеческой свободы, выбора и воли в формировании мира». В теории и на практике он продемонстрировал свою убежденность в том, что люди не живут и не могут жить так, будто будущее неизбежно и предопределено. В своей выпускной диссертации в Гарварде The Meaning of History («Смысл истории») 27-летний Генри Киссинджер размышлял о тех же философских дебатах, что теперь оказались в основе его последней работы: «Каковы бы ни были наши представления о необходимости событий, [и]… как бы мы, оглянувшись назад ни объясняли свои давние поступки, мы совершали их, руководствуясь внутренней убежденностью в правильности собственного выбора».

Для него не существовало никаких гарантий того, что человечество переживет бесчеловечные замыслы, вышедшие из огней наших же кузниц. Столкнувшись с пугающей перспективой ядерной катастрофы, он не поддался ни убеждению в фатальности, ни пророчествам о гибели цивилизации. Безусловно, экзистенциальные страхи могут порождать нигилизм, но им также свойственно наполнять лучших из нас решимостью противостоять злу и защищать то, что необходимо сохранить ради будущего людей. В начале 1950-х годов, будучи молодым профессором Гарварда, Генри Киссинджер участвовал в ряде встреч, на которых ведущие ученые и академики, такие же, как и он сам, обсуждали возможные последствия ядерной войны и меры, необходимые для ее предотвращения. И все высказанные тогда сомнения, рассуждения, дебаты послужили основой доктринам, которые до сих пор оберегают наш мир от худших опасений участников тех собраний.

Спустя десятилетия, во время наших с ним бесед он часто возвращался к тем встречам – вспоминал их участников, обсуждаемые задачи и то значение, которое они, как теперь видно, в итоге обрели. Никогда не меняя своей точки зрения, он не прогибался под жизненные обстоятельства и не скатывался в утопическое теоретизирование. В контексте применения ИИ сохраняется тот же баланс, что и в проблематике ядерного вооружения: небольшие группы преданных своему делу людей способны изменить ход истории, вмешавшись в него и продемонстрировав свои ценности. Но в то же время, считал Киссинджер, независимо от гения ученых, создающих новые формы интеллекта, их подготовленности все равно будет недостаточно, чтобы обеспечить хотя бы минимальный уровень безопасности во время применения человечеством этих новейших инструментов.

Поэтому его вклад в сферу ИИ выходит за рамки теоретических исследований: он включает и конкретные практические решения. Спустя полвека после его тайного перелета в Пекин и последующего установления отношений между США и КНР доктор Киссинджер совершил еще одну поездку в столицу Китая. Он отправился туда по настоятельному приглашению Председателя КНР Си Цзиньпина, чтобы обсудить в качестве ключевой темы риски, которые несет для человечества развитие ИИ. Это была последняя в его жизни зарубежная поездка и последняя дипломатическая миссия.

Если раньше доктор Киссинджер превратил изучение государственного управления в искусство, то теперь его подход к ИИ преодолел границы науки. В соавторстве с одним из нас, а также с профессором Массачусетского технологического института Дэниелом Хаттенлокером он написал книгу The Age of AI: And Our Human Future («Искусственный разум и новая эра человечества»), опубликованную 2021 году. В этой работе он утверждал, что появление ИИ ознаменует новую историческую эпоху, сопоставимую по влиянию на общество с эпохой Просвещения XVIII века, поскольку ИИ обладает способностью фундаментально преобразовывать человеческое сознание. Однако в наш новый век мы уже столкнулись с тем, что вместо того, чтобы руководствоваться нашими запросами, ИИ вдруг начал выдавать ответы на те вопросы, которые ему никто и никогда не задавал. По мере того как ИИ все увереннее проникает в новые области интеллектуальной деятельности, доктор Киссинджер призывает нас искать внутреннюю опору в человеческой мудрости и историческом опыте.

В этой книге мы вместе с доктором Киссинджером исследуем влияние ИИ на восемь ключевых сфер человеческой деятельности и мышления. Нашей высшей целью станет философское осмысление поиска жизнеспособной стратегии, которая позволит сохранить баланс между возможностями и рисками этой революционной технологии. Для этого доктор Киссинджер анализирует перспективы сосуществования человека с ИИ, а в будущем – их возможную коэволюцю, т. е. совместное развитие. Его рассуждение о взаимодействии органического и синтетического разума подводит нас к ключевому вопросу: движемся ли мы к миру, где ИИ уподобляется человеку, или же к миру, где человек начинает походить на ИИ?

После выхода своей первой книги об эпохе ИИ доктор Киссинджер все яснее осознавал нарастающую ограниченность человеческого разума на излете технологической эры. Любое объяснение, выходящее за пределы человеческого понимания или творческих возможностей, кажется нам бессмысленным. Наш разум инстинктивно отвергает такие концепции как примитивные и несостоятельные по сравнению с научными аргументами – ведь согласиться с ними означало бы сделать шаг назад. Но такая позиция таит в себе серьезную опасность.

Если, как говорил Артур К. Кларк, «любая достаточно развитая технология неотличима от магии», а чудеса создаются из математики, будущее должно быть необъяснимым, ошеломляющим, даже, пожалуй, волшебным. На протяжении десятилетий нашего знакомства доктор Киссинджер щедро делился с нами своими уникальными знаниями в области государственного управления – этой тонкой материи человеческих взаимоотношений. Он тогда же объяснял нам: хотя разум и ограничен доминирующей парадигмой мышления[7] – той, что дает людям иллюзию власти над миром, – но он бессилен выработать парадигму, которая сохранила бы нашу власть над самими собой.

И потому, продвигаясь вперед, мы не должны полагаться на один лишь разум, исторически считающийся первоисточником величайших человеческих достижений. Но принижать его значение тоже не нужно. Если в своих классических работах Киссинджер выстраивал гармонию идеализма и реализма, то в своих поздних исследованиях будущего он предлагает осмыслить качественно иную пропорцию. Речь идет о поиске равновесия между традиционной эмпирической природой истины и принципиально новым знанием: тем, что философски превосходит человеческий разум, но еще не обрело исторической завершенности. Как внешняя политика не может позволить себе полностью погружаться в одну из крайностей, так и наша концепция будущего не должна выстраиваться на однобоких категоричных установках.

ИИ, таким образом, представляет собой уникальную задачу, требующую особых подходов – да таких, которые поначалу могут показаться иррациональными или чрезмерно парадоксальными. Действительно, сценарии, описанные в этой книге, поражают воображение. Однако доктор Киссинджер, называвший себя в наших беседах (и не только) всего лишь рядовым исследователем человека и его, вероятно, окончательного творения, неизменно предупреждал: главная опасность ИИ заключается в том, что мы можем слишком поспешно или самонадеянно заявить о его понимании.

Глубина его интеллекта и редкая проницательность – качества, которые нам, скорее всего, больше не доведется встретить в ком-либо другом. Просто невозможно себе представить, чтобы человек в возрасте 93 лет сумел погрузиться в совершенно новую и ранее неизвестную область технических знаний. С его неутолимым любопытством, жаждой познания и оптимизмом, подкрепленными преданностью работе и чувством долга, никакая физическая или душевная боль не могла заглушить его неудержимого интереса к прогрессу. Преодолевая недуги, вызванные старостью, каждый новый день он встречал с твердой решимостью сделать вместе с миром очередной шаг вперед. Его несокрушимая сила духа, возможно, проистекала из железной самодисциплины, что была закалена тяжелыми испытаниями его юности, отточена на войне и проверена десятилетиями напряженной общественной деятельности.

Мы – лишь двое из сотен тысяч, на чьи судьбы повлиял этот необыкновенный человек. Нам будет его очень не хватать – и несомненно, больше, чем мы можем себе представить. Он покинул нас в период надвигающейся огромной неопределенности, и сейчас как никогда мы нуждаемся в нем. Вот почему для этой книги не нашлось более подходящего названия, чем Genesis, – в нем метафорически воплотились и его собственное незримое возрождение, и начало новой эры для человечества. Суждено ли людям достичь новых вершин или потерпеть крах – доктору Киссинджеру не дано было узнать, и конечных плодов своих трудов он не увидел. Но с нами остается его мудрость – ориентир, по которому мы можем сверять свои замыслы и поступки.

Эрик Шмидт и Крейг Манди

Введение

Еще несколько лет назад тема искусственного интеллекта (ИИ) была далеко не самым важным пунктом повестки дня общественных дискуссий. Но сегодня в своем стремительном развитии ИИ прочно обосновался на первых полосах новостных изданий и стал объектом пристального внимания лидеров науки, представителей бизнеса, журналистики, государственных служб, образования и политики во всем мире.

По нашему мнению, как широкая общественность, так и многие эксперты до сих пор недооценивают ключевые аспекты новой эры ИИ, которая уже наступила. Развитие систем ИИ и человеческие реакции на это развитие способны радикально трансформировать:

• наше восприятие реальности и истины;

• сам процесс познания;

• биологическую эволюцию человека;

• основы дипломатии;

• всю международную систему в ее нынешнем виде.

Эти вопросы станут определяющими в ближайшие десятилетия и неизбежно вызовут глубинную тревогу у ключевых игроков во всех сферах.

Новейшие достижения ИИ, какое бы мощное впечатление они ни производили, впоследствии покажутся нам скромными, поскольку его способности будут расти ускоряющимися темпами. Ресурсы, о которых мы еще не догадываемся, войдут в нашу повседневную жизнь. Системы будущего откроют путь к масштабным – и во многом благотворным – преобразованиям: они помогут сохранить здоровье людей и повысить качество жизни.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

«Большая стратегия» (от англ. grand strategy) – ключевая категория в западной политологии, обозначающая принципы эффективного использования государством своих ресурсов для достижения военных и внешнеполитических целей. – Примеч. ред.

Вернуться

2

Роберт Оппенгеймер (1904–1967) – американский физик-теоретик и физик-ядерщик. Известен как научный руководитель Манхэттенского проекта, в рамках которого в годы Второй мировой войны разрабатывались первые образцы ядерного оружия, из-за чего Оппенгеймера часто называют «отцом атомной бомбы». – Примеч. ред.

Вернуться

3

В Гарвардском университете; в 1952 и 1954 годах Киссинджер получил соответственно степень магистра искусств и доктора философии. – Примеч. ред.

Вернуться

4

Разделение времени (англ. time-sharing) – способ распределения вычислительных ресурсов между многими пользователями с помощью мультипрограммирования и многозадачности. Появление данной концепции в начале 1960-х годов и активное развитие в 1970-е привело к значительному технологическому прорыву в истории вычислительной техники. – Примеч. ред.

Вернуться

5

Разведывательное сообщество США (Intelligence Community) – объединение правительственных ведомств, занимающихся сбором и анализом разведданных. Включает Управление директора национальной разведки, ЦРУ, подразделения Министерства обороны и разведорганы других ведомств. – Примеч. ред.

Вернуться

6

Дилемма безопасности – парадокс, при котором меры по укреплению безопасности одного государства воспринимаются другим как угроза, что может спровоцировать конфликт, даже если ни одна из сторон его не желает. Усиление мощи страны А вызывает контрмеры со стороны страны Б, а ее ослабление воспринимается как слабость, нарушая баланс сил и создавая угрозу. – Примеч. ред.

Вернуться

7

Доминирующая парадигма мышления – общепринятые и широко распространенные на данный момент времени ценности и система мышления общества (сообщества). – Примеч. ред.

Вернуться