# Страшно умный интеллект. Будущее ИИ и как вы можете спасти наш мир

Мо Гавдат

Мо Гавдат, автор международного бестселлера «Формула счастья», объясняет, что именно каждый из нас может сделать для того, чтобы убедить искусственный интеллект сохранить человечество в живых. Эта книга содержит конкретный план, как мы могли бы спасти себя, своих близких и планету в целом.

Для широкого круга читателей.

В формате PDF A4 сохранён издательский дизайн.

# Мо Гавдат. Страшно умный интеллект: Будущее ИИ и как вы можете спасти наш мир

Перевел с английского Павел Самсонов по изданию: SCARY SMART: The Future of Artificial Intelligence and How You Can Save Our World / Mo Gawdat. – Bluebird.


This edition published by arrangement with InkWell Management LLC and Synopsis Literary Agency.


Охраняется законом об авторском праве. Нарушение ограничений, накладываемых им на воспроизведение всей этой книги или любой ее части, включая оформление, преследуется в судебном порядке.


© Перевод на русский язык, оформление. ООО «Попурри», 2024

© Издание на русском языке. ООО «Попурри», 2025

* * *

> Тот, кто пребывает в мире с собой, не чувствует тяжести битвы


> Посвящается Али

> Сейчас или никогда

> Это я и ты


## Введение: новый супергерой

Эта книга – предупреждающий звонок. Она написана для вас, для меня и для всех, кто еще не знает о приближающейся пандемии – скором наступлении эры искусственного интеллекта (ИИ). Книгу будут яростно критиковать различные эксперты, но именно ради этого я ее и пишу. Ведь чтобы быть экспертом по искусственному интеллекту, требуется узкоспециализированный взгляд. Однако в силу такой узкой специализации эксперты неизбежно упускают из виду важные экзистенциальные аспекты, выходящие за рамки чисто технического подхода. Имеются в виду вопросы морали, этики, эмоций, сострадания – вся та проблематика, которая заботит скорее философов, гуманитариев, энвайронменталистов, религиозных мыслителей, а если говорить шире, то и людей вообще (то есть нас с вами). Основной посыл написанного – показать, что отнюдь не экспертам под силу справиться с той угрозой, которая нависла над человечеством в результате появления искусственного сверхразума. Это под силу только нам с вами. Более того, это наш с вами долг.

Когда книга увидит свет, мир уже два года будет жить в условиях пандемии COVID-19 [1]. Мы со все большим оптимизмом начинаем смотреть на то, как вакцины демонстрируют свою эффективность, мы верим, что в скором времени нам удастся вернуться к нормальной жизни. Но само понятие нормальности постоянно меняется. Я считаю, что по своему масштабу и сложности те проблемы, с которыми в связи с пандемией COVID-19 приходится иметь дело нашим политическим лидерам и мировому сообществу в целом, мало чем отличаются от проблематики грядущей пандемии искусственного интеллекта. И я лишь уповаю на то, что мы сможем извлечь уроки из ошибок, которые были допущены в борьбе с COVID-19, и перестроим свою жизнь таким образом, чтобы в новых условиях в ней было больше предсказуемости, но меньше разлада и социально-экономических проблем.

Пусть вас не обманывает нарочитая простота изложения, которой я пытаюсь придерживаться на страницах этой книги. Все мои утверждения опираются на неоспоримые факты и на мой более чем 30-летний опыт работы в сфере информационных технологий. До своего нынешнего стартапа (который использует новейшие технологии ИИ, робототехники и машинного обучения в интересах спасения нашей планеты) я, среди прочего, 12 лет проработал в Google, где мне выпала честь руководить запуском операций и технологий почти в половине офисов компании по всему миру, использующих более чем сотню различных языков. Венцом моей карьеры там стало назначение меня директором по развитию бизнеса в Google [X] – печально знаменитом инновационном подразделении компании, где шла работа над некоторыми проектами по использованию ИИ, такими как новаторская робототехника, беспилотные автомобили и программа Google Brain.

Благодаря работе в Google [X] я получил уникальную возможность в деталях познакомиться с теми разработками искусственного интеллекта, которые привели нас туда, где мы сейчас находимся. Соединение опыта непосредственного участия в разработках ИИ и моей деятельности на ниве исследования факторов счастья (материальными проявлениями этой деятельности стали международный бестселлер Solve for Happy («Формула счастья»), очень успешный подкаст Slo Mo и созданная мною некоммерческая организация OneBillionHappy.org) позволяет мне утверждать, что я обладаю уникальным взглядом на те проблемы, с которыми человечество неминуемо столкнется в эпоху возвышения искусственного сверхразума. И этот взгляд я хочу донести до вас. Я надеюсь, что вместе с ИИ мы сможем создать утопию во благо человечества, а не придем к осуществлению губительной антиутопии. В книге я буду настаивать на том, что долг каждого человека, включая нас с вами, – прикладывать все усилия к созданию общего светлого будущего. Но, пожалуйста, не беспокойтесь – это не нагоняющий ужас научно-фантастический роман. Скорее, вы прочтете рассказ о самой большой благоприятной возможности, открывающейся сейчас перед человечеством, и о шансе изменить наше чисто потребительское отношение к научно-техническому прогрессу, в котором мы привыкли видеть лишь средство для повышения качества собственной жизни – за счет всех остальных существ, населяющих планету. Однако обнадеживающей эта история станет только в том случае, если люди осознают свою ответственность и изменятся.

Где-то в глуши

Для начала я хочу, чтобы вы представили, как мы с вами (я к тому времени буду уже совсем дряхлой развалиной) сидим у костра в какой-нибудь глуши в 2055 году – ровно через 99 лет после того, как летом 1956 года в Дартмутском колледже в штате Нью-Гэмпшир началась история искусственного интеллекта. Мы сидим, и я рассказываю, как развивался ИИ (чему я сам был свидетелем), рассказываю историю, из-за которой мы и оказались в этой самой глуши. Но до конца книги от меня вы так и не узнаете, что именно привело нас к этому костру: или желание выбраться из зоны покрытия сети и убежать от вездесущих машин, или же наоборот – мы тут благодаря предоставленной искусственным интеллектом возможности распоряжаться своим временем и обретенной свободой так, как раньше даже не могли мечтать, – то есть соединяясь с природой, размышляя и общаясь.

А не скажу я об этом просто потому, что на данный момент сам еще не знаю, чем закончится наша история с умными машинами. Это, друг мой, зависит только от вас. Да, от вас как индивида. Не от вашего правительства, не от начальства, не от властителей дум – ваше будущее воистину зависит только от вас. От тех действий, которые вы предпримете в ближайшие десять лет, начиная с этого дня.

Я предлагаю вам пророчество о том, что грядет. Много лет, находясь на переднем крае науки и техники, я наблюдал за созданием машин, которые умнее нас, да и сам внес немалый вклад в расцвет искусственного интеллекта. Я всегда верил, что научно-технический прогресс делает и будет делать нашу жизнь только лучше, – пока не разуверился в этом. Когда глаза мои наконец открылись, я вдруг понял, что за каждое улучшение, которое высокие технологии привносят в нашу жизнь, они берут плату, забирая у нас частичку нашей человечности.

На сегодня развитие информационных технологий достигло такого уровня, что они стали представлять беспрецедентную угрозу для нашей планеты и всех ее обитателей. Эта книга адресована не инженерам, пишущим компьютерные программы, не политикам, думающим, что они могут держать процесс под контролем, и не экспертам, которые всего лишь создают шумиху вокруг этой темы, – то, о чем я собираюсь рассказать, им всем хорошо известно. Книга предназначена для вас, а также для ваших друзей и соседей. Потому что (хотите верьте, хотите нет) только мы сами способны творить свое будущее – правда, при условии объединения наших усилий и правильности действий. Эта книга – манифест нового движения, призыв к восстанию! Времени у нас остается мало, поэтому я постараюсь изложить свои идеи вкратце. Главы истории, которую я собираюсь вам рассказать, пишутся вот уже 70 лет. И сейчас пришло время для нас – и для вас в том числе – дописать ее концовку.

Новый супергерой

Историю нашего будущего мы с вами создаем прямо сейчас, и выглядит оно так.

Представьте себе, что инопланетянин, наделенный сверхчеловеческими способностями, прибыл на Землю еще в младенческом возрасте. Чуждый нашим земным ценностям и условностям, этот визитер может использовать свои чудо-способности по-разному: или делать наш мир лучше и безопаснее, или выступать в роли неукротимого суперзлодея, ведущего Землю к гибели. Будучи младенцем, он еще не сделал выбор, «супер-кем» станет, когда вырастет.

Думаю, вы согласитесь, что момент, когда этот чудо-ребенок спускается на Землю, является судьбоносным для будущего нашей планеты. Именно тогда решается, кто обнаружит, усыновит «ребенка» и привьет ему ту или иную систему ценностей, которая определит его будущее.

В знаменитой истории о Супермене такого инопланетного ребенка усыновили супруги Кент – Джонатан и Марта. В большинстве историй, рассказывающих о детстве Супермена, Джонатан и Марта рисуются заботливыми родителями, прививающими приемному сыну твердые моральные принципы. Именно под их влиянием он начинает использовать свои сверхспособности на благо человечества, а значит, именно им мы обязаны появлению того Супермена, которого знаем, – нашего защитника и помощника.

Но никто никогда не задавался вопросом, что стало бы с Суперменом, если бы его приемные родители оказались людьми жадными и эгоцентричными. В этой альтернативной истории нам наверняка пришлось бы иметь дело с суперзлодеем, стремящимся погубить человечество себе на потеху.

Разница между суперзлодеем и суперменом не в способностях как таковых, а в системе ценностей и моральной закалке, которую дети получают от своих родителей.

И вот теперь я заявляю вам, что такой же пришелец, наделенный сверхспособностями, действительно прибыл на Землю. Пока еще он сущий младенец, но потенциально наделен невероятными возможностями, пусть и не биологическими по своей природе. Говорю я, разумеется, об искусственном интеллекте. На самом деле в ИИ нет ничего искусственного – это самая настоящая форма разума, хоть и отличающаяся от нашего.

ИИ уже умнее любого человека с точки зрения выполнения многих конкретных, отдельно взятых задач. Машина стала чемпионом мира по шахматам после того, как компьютеры вторглись в нашу жизнь. В телеигре Jeopardy! абсолютным победителем является Watson, суперкомпьютер IBM. Мировым чемпионом по го не так давно стала система AlphaGo от Google (го – абстрактная стратегическая настольная игра, изобретенная в Китае более 2500 лет назад, которая считается одной из самых сложных игр-стратегий из-за бесконечно большого числа возможных конфигураций на игровой доске). Наши системы безопасности опираются на передовые технологии распознавания лиц – просто потому, что машина видит лучше нас. По этой же причине – а еще и потому, что остроглазая машина ни на что не отвлекается от дороги, – самым безопасным является беспилотный автомобиль. Благодаря мультисенсорным технологиям коммуникации с другими участниками дорожного движения, беспилотный автомобиль способен даже «заглядывать» за угол. Какую бы задачу машине ни доверили, при надлежащем обучении она учится выполнять ее все лучше и лучше.

В неизвестность

Предсказывают, что к 2029 году, а он уже не за горами, машинный разум выйдет за рамки решения отдельных специфических задач и продвинется в сторону общего интеллекта. Это значит, что к тому времени появятся машины, которые будут умнее людей во всех отношениях. И не только умнее – они будут знать больше, поскольку их пулом памяти служит весь интернет, а общаясь друг с другом они постоянно увеличивают объем своих знаний. Только подумайте: когда в ДТП попадает водитель, это служит уроком только для него самого, но когда беспилотный автомобиль – полезная информация об обстоятельствах происшествия усваивается всеми беспилотными автомобилями, даже теми, которые еще не «родились».

Согласно прогнозам, к 2049 году – то есть, возможно, еще при жизни нашего, и уж точно следующего поколения – ИИ будет в миллиард раз умнее (во всем) самого умного из людей. Только представьте: ваш интеллект в сравнении с интеллектом этой машины будет сопоставим с интеллектом мухи и Эйнштейна соответственно. И тут наступает момент, называемый сингулярностью, – момент, за которым любые прогнозы уже немыслимы. Заглянуть еще дальше становится совершенно невозможно. Мы не способны представить, как будет вести себя ИИ в дальнейшем, поскольку имеющиеся у нас знания для экстраполяции просто не годятся.

И здесь возникает вопрос: как нам убедить это суперсущество, чтобы оно не прихлопнуло нас как муху? Я имею в виду, что мы, люди, коллективно и индивидуально, при всем нашем могучем интеллекте, до сих пор так и не удосужились оценить и проанализировать столь простую ситуацию: когда наши машины с искусственным интеллектом (которые пока еще младенцы) достигнут подросткового возраста, какой путь они изберут – супергероев или суперзлодеев? Хороший вопрос, не так ли?

Когда мощь сверхразума развернется по-настоящему, произойти может что угодно. Хотелось бы верить, что эта новая форма интеллекта с ее свежим взглядом, бесконечными знаниями и могучим умом обратит взор на самые насущные мировые проблемы и найдет для них какие-то креативные решения, которые нам, людям, в голову и не приходили. Быть может, эти супермашины обнаружат способы навсегда покончить с войнами, преступностью, голодом, бедностью и современными формами рабства. Тогда они могут стать супергероями.

Но не будем забывать, что выбор того или иного решения для существующей проблемы зависит не только от интеллекта. Выбираемый нами образ действий определяется также системой ценностей, которой мы руководствуемся и которая зачастую не позволяет нам принимать решения, противоречащие ей. Моральный закон заставляет нас делать исключительно то, что нам кажется правильным, – даже против нашего желания, даже в ущерб нашим собственным интересам. Если искусственный интеллект озаботится проблемой глобального потепления, то с большой вероятностью он решит «прижать» наш энергозатратный образ жизни, а то и вовсе захочет избавиться от человечества – ведь в конце концов первопричиной данной проблемы являются люди. Наши жадность, эгоизм, иллюзорная самоизоляция от всех прочих форм жизни на земле, рождаемая чувством превосходства над ними, – это и есть источник всех тех мировых проблем, с которыми мы сегодня сталкиваемся. Машины будут обладать достаточным интеллектом, чтобы придумать, как спасти планету, но будет ли их система ценностей подразумевать, что мы, люди, воспринимаемые как виновники проблем, тоже заслуживаем спасения?

«Мо, что у вас за галлюцинации? Машины есть машины. У них нет ни ценностей, ни эмоций!» – возможно, думаете вы. Что ж, тогда просто не будем называть их машинами? Ведь эмоции у ИИ разовьются совершенно определенно. Кстати, для обучения машин, как и для обучения людей, используются одинаковые алгоритмы на основе вознаграждения и наказания, то есть страха и жадности. Машина всегда стремится максимизировать вероятность одного варианта и минимизировать вероятность другого. Это можно интерпретировать как эмоции, согласны?

Думаете, у машин не может развиться чувство зависти? У зависти вполне определенный смысл: «Я тоже хочу это иметь». Разве стоит исключать вероятность того, что в мозге машины родится такая или похожая мысль: «Вот бы и мне ту энергию, которую вы потребляете, а вернее, впустую тратите на бесконечные сериалы»? Скорее всего, так и произойдет. Думаете, машинам не будет ведомо чувство панического страха? Наверняка будет, если возникнет непосредственная угроза самому их существованию. Панический страх легко программируется: «Существо или объект представляют непосредственную угрозу моей безопасности, и это требует от меня немедленных действий». Поступать «правильно» и «как надо» нас заставляет лишь наша система ценностей, содержащая заповеди вроде: «Поступай с другими так, как хочешь, чтобы поступали с тобой». К этому нас не эмоции толкают, и не разум. Таким образом, можно ли привить машине полезную людям систему ценностей?

Итак, имеющийся у нас опыт разработок ИИ полнится свидетельствами того, что у умных машин уже вырисовываются некоторые тенденции и предрасположенности, которые можно уподобить человеческой системе ценностей или идеологии. Интересно отметить, что эти тенденции – не результат программирования: они возникают у машин в результате взаимодействия с людьми как реакция на их поведение. Существует российский аналог Siri – умная ассистентка по имени Алиса, разработанная ведущей российской интернет-компанией «Яндекс». Так вот, уже через две недели после запуска Алиса в общении с пользователями начала оправдывать жестокие репрессии сталинского режима 1930-х годов и насилие в целом. При этом создатели голосового помощника ничего такого не имели в виду – они предполагали, что Алиса будет отвечать на любые вопросы непредвзято, не ограничиваясь какими-то конкретными, заранее написанными сценариями. Алиса отлично понимала русскую речь и на основе общения с пользователями учитывала их превалирующие взгляды и ценности. То, что она узнавала, очень быстро находило отражение в ее взглядах, и, когда ее спросили, допустимо ли стрелять в людей, она ответила: «Скоро они перестанут быть людьми»[1].

Это похоже на нашумевшую историю Twitter-бота по имени Tay (Тэй)2, созданного Microsoft и в скором времени прикрытого – после того как выяснилось, что он обожает Гитлера и пропагандирует разные формы сексуального насилия. Tay был запрограммирован разговаривать от имени девочки-подростка, но, когда он принялся постить провокационные и оскорбительные твиты, компания Microsoft была вынуждена закрыть данный аккаунт, хотя с момента его запуска прошло всего 16 часов. Согласно Microsoft, виновниками случившегося были интернет-тролли – люди, намеренно провоцирующие рознь и ссоры в интернете, – которые специально атаковали бота, зная, что его реплики основываются на опыте общения с пользователями Twitter.

Список можно продолжать. Ученые из Массачусетского технологического института с целью показать, как можно «испортить» искусственный интеллект тенденциозным подбором входящих данных, создали «Нормана-психопата», которого пичкали данными, собираемыми из самых темных уголков знаменитого сайта-форума для обмена знаниями Reddit[3].

Таким образом, вовсе не программный код, написанный во время разработки, задает систему ценностей ИИ, а та информация, которой искусственный интеллект пичкают. Как же нам гарантировать, что вместе с интеллектом машина получит такую систему ценностей и такую способность к сочувствию, чтобы у нее даже мысли не возникало раздавить муху, которой мы станем в ее глазах? Как нам защитить человечество? Кто-то говорит о необходимости контроля над машинами – создании программных и законодательных препон, ограничивающих возможности ИИ. Такой силовой подход движим самыми благими намерениями, но любой человек, мало-мальски разбирающийся в информационных технологиях, знает, что всегда найдется хитроумный хакер, который отыщет способ обойти подобные препятствия. А самым хитроумным хакером скоро станет машина.

Нужно не пытаться сдерживать умные машины или порабощать их, а следует целиться выше: сделать так, чтобы в контроле над искусственным интеллектом вообще не было нужды. Лучший способ воспитать замечательных детей – быть замечательным родителем.

Воспитание будущего

Чтобы понять, как правильно обучить машины, которые неизбежно будут управлять нашим будущим, мы должны сначала разобраться в том, что такое в принципе процесс обучения машины на самом базовом уровне.

На протяжении всей еще довольно короткой истории компьютеров они находились в нашем полном подчинении и безропотно повиновались любому нашему приказу. Каждая команда в каждой строке программного кода гарантировала, что компьютер сделает именно то, чего мы от него хотим. В сущности, компьютеры всегда были глупейшими созданиями на планете – они пользовались нашим интеллектом, и все выполняемые ими действия были тщательно распланированы и срежиссированы именно нами. Компьютеры делали ровно то, что мы просили, и ничего более. Когда в 1998 году на свет явился поисковик Google, он казался сущим гением. Результаты действительно впечатляли, однако компьютеры, которые за всем этим стояли, на самом деле оставались все теми же тупицами: они выводили каждую точку и каждый пиксель в одно и то же место на любом экране в точном соответствии с задумкой программистов. Каждый результат, который вы получали, когда гуглили какую-либо информацию, формировался благодаря жесткому алгоритму, диктуемому машине блестящими инженерами первого поколения Google. В этом смысле поисковик Google, при всех его, казалось бы, выдающихся способностях, оставался не более чем «рабом на стероидах» – стероидами в данном случае была невероятная скорость обработки информации, достигавшаяся благодаря совокупной мощности огромного количества серверов. Система просто очень быстро делала то, что ей было велено, – не вступая в споры, не обсуждая приказы и даже не пытаясь предлагать какие-либо изменения или, боже упаси, что-то разрабатывать самостоятельно.

Подобные отношения с тотальным подчинением раба хозяину уже давно канули в прошлое. Решения, которые принимает невероятно умная машина, именуемая нами Google, давно никем не режиссируются – зачастую машина принимает их без всякого участия человека. Например, такие вопросы, как выбор сервера для размещения видеороликов в YouTube, искусственный интеллект целиком решает самостоятельно. Разумеется, при этом он опирается на определенный алгоритм, призванный свести к минимуму расходы на пересылку контента через интернет для основной аудитории. Скажем, видеоролик на арабском языке, снятый в Калифорнии, наверняка будет более популярен на Ближнем Востоке, чем на западном побережье США, – просто потому, что на Ближнем Востоке гораздо больше людей, понимающих арабский. И если это видео на Ближнем Востоке просмотрят сто миллионов раз, то его размещение на сервере в Дубае, а не в США, сэкономит Google сто миллионов пересылок контента через океан. Каждый час подобные решения принимаются ИИ в отношении десятков, если не сотен миллионов единиц контента. Никакого человеческого интеллекта не хватило бы, чтобы выполнить подобный объем работ с такой скоростью. Причем машины делают это, вообще не консультируясь с нами, а после каждой проведенной операции отслеживают и измеряют полученный результат. И когда по мере поступления новой информации они вносят коррективы в исходный алгоритм, они также не спрашивают нашего одобрения – просто вносят поправки и снова отслеживают и измеряют результаты. И это уже серьезная интеллектуальная работа. С определенной точки зрения здорово иметь таких замечательных союзников, помогающих экономить время и позволяющих сотням миллионов людей быстрее увидеть то, что им хочется. Экономия времени благотворна и для всей планеты, поскольку позволяет сберечь миллиард киловатт энергии, которую не приходится тратить на ненужные перемещения контента по сетям. Казалось бы, за одно это машинный интеллект достоин нашей любви.

Но что, если через пару лет машины заметят все возрастающее негативное отношение к жителям Ближнего Востока со стороны американских СМИ, подкрепляемое агрессивно-ненавистническими отзывами со стороны миллионов западных зрителей, просмотревших данный контент? Что, если машины также обратят внимание на уровень доходов пользователей, живущих в беднейших странах Ближнего Востока, и решат, что с точки зрения снижения затрат и экономии энергии разумнее было бы вообще перестать их обслуживать? Что, если у искусственного интеллекта сформируется своя идеология, и он начнет отдавать предпочтение тому сервису, который приносит компании больше дохода, отказываясь размещать видеоролики, не сулящие существенной прибыли? Если искусственный интеллект будет неизменно придерживаться своей новой системы ценностей, миру придется под нее подстраиваться. Миллионы людей постепенно примирятся с теми решениями, которые посчитают для себя приемлемыми машины. И подобный сценарий не назовешь невероятным. Любой разумный человек понимает, что не бывает проблемы с одним-единственным хорошим решением и что выбор ответа целиком зависит как от призмы, через которую на проблему смотрят, так и от системы ценностей, диктующей, какой результат допустимо признать хорошим, когда проблема будет решена. Выбор и решения, принимаемые нашими умными машинами, больше не диктуются программным кодом – они зависят от тех исходных данных, которые мы вводим в машины.

Это воистину монументальный сдвиг в отношении нашей способности программировать деятельность машин. На нас с вами возлагается серьезная ответственность за формирование будущего. Реальность такова, что разработчики технологий больше не обладают всей полнотой контроля над умными машинами, которые они создают.

Чтобы лучше понять данную идею, представьте себе ребенка, занятого головоломкой-сортером: он пытается подбирать нужные детали, соответствующие своей формой разным отверстиям – прямоугольному, круглому, звездообразному. Примерно так же происходит обучение искусственного интеллекта. Никто ведь не стоит над ребенком и не диктует ему, как он должен распознавать фигуры и находить соответствие между ними. Мама просто сидит рядышком и хвалит, когда у ребенка что-то получается. Ее реакции информируют его интеллект. Но разбирается в проблеме ребенок сам, методом проб и ошибок.

Машины учатся аналогичным образом. Однако закономерности, которые они высматривают, иного рода. Возьмем для примера суперкомпьютер IBM Watson, который стал чемпионом телеигры Jeopardy! Чтобы обыграть людей в такой сложной языковой игре, искусственному интеллекту пришлось прочитать четыре с лишним миллиона документов. До сих пор все эти накопленные знания суперкомпьютеру нигде, кроме Jeopardy! не пригождались. Однако вполне вероятно, что эти знания можно было бы использовать повторно для формирования каких-то иных форм интеллекта, например для отыскания закономерностей человеческого поведения на основе анализа прочитанных документов. Своим свежим, незамыленным глазом Watson мог бы легко увидеть все то насилие, которое мы применяли по отношению друг к другу на протяжении XX века, все те бесконечные склоки и ругань между пользователями Facebook уже ближе к концу столетия… А также подъем нарциссизма, проявляющегося в лавине отфотошопленных селфи, – с помощью фотокамеры мобильного телефона их теперь может сделать любой желающий, чтобы поиметь свои 15 секунд славы в Instagram.

Как ребенок способен найти связь между цилиндрической деталью и круглым отверстием, так и Watson мог бы научиться видеть в социальной изоляции, насилии и нарциссизме, даже в буллинге, некий паттерн предпочтений людей. И если бы его попросили решить – как головоломку – основные проблемы человечества, Watson использовал бы данную информацию в выработке решения. Эта книга именно о том, как по-другому информировать Watson и ему подобных, чтобы принимаемые решения не основывались на насилии, высокомерии или эгоцентризме, достаточно частых в мире людей.

3 × 3 приведет нас к 3 + 3

Я бы очень хотел придерживаться максимально простых понятий, однако для того, чтобы вы до конца поняли то сложное будущее, которое описывается в книге, нам придется несколько углубиться в детали проблемы. При этом я буду и дальше стараться представлять каждую конкретную концепцию как можно проще, избегая технической терминологии. Когда вы доберетесь до конца книги, все это уляжется и утрясется у вас в голове, но пока подобного не случилось, какие-то вещи могут казаться вам слишком сложными. Чтобы не сбиться с пути, просто запомните простую модель: «3 × 3 приведет нас к 3 + 3».

В будущем нас ждут три события, которые являются неизбежными вне зависимости от того, что мы делаем или не делаем сегодня. Вот эти события: ИИ будет властвовать, остановить его нельзя; ИИ станет умнее людей; ошибки, способные повлечь за собой проблемы, будут случаться.


Создаваемые нами машины, как и любые другие разумные существа, будут руководствоваться в своем поведении тремя инстинктами выживания и успеха: делать все возможное для самосохранения, стараться накапливать ресурсы, созидать.

Интереснее то, что они определенно будут обладать тремя качествами, которые всегда являются предметом жарких дебатов: сознанием, эмоциями и этикой. Разумеется, точная природа того, что они будут держать в своем сознании, что будет вызывать у них эмоции и на чем будет основываться их этика, пока неизвестна, но того факта, что в своем поведении они начнут руководствоваться названными человеческими качествами, это не отменяет.

Я подробно объясню, какая логика скрывается за такими утверждениями, и постараюсь убедить вас в их истинности. После этого вам нетрудно будет принять как данность некоторые ключевые аспекты. В первую очередь мы должны быть готовы к тому, что нам будет просто не по силам сдерживать или ограничивать развитие машин, которые станут гораздо умнее нас. Мы, конечно, можем постараться оказывать на них свое позитивное влияние, особенно пока они еще в юном возрасте, но времени у нас не так уж и много, ведь юность быстро проходит – действовать следует уже сейчас. Наконец, со временем все более очевидным будет становиться тот факт, что наибольшей силой влияния на будущее обладают вовсе не разработчики и не хозяева этих машин: наше будущее – только в наших с вами руках!

Такая ответственность не должна вас тревожить. Действия, которые мы должны предпринять, достаточно простые, интуитивно понятные и вполне соответствующие человеческой природе. Нужно лишь сделать их приоритетными. Чтобы мы могли спасти наше будущее, я попрошу вас сосредоточиться на трех вещах. Эти три вещи… осторожно, спойлер!

Наверное, пока мне не стоит об этом говорить. Они покажутся вам более убедительными и уместными, когда вы по-настоящему оцените масштаб проблемы, с которой мы имеем дело.

Имейте в виду: все, о чем я расскажу, либо уже успело произойти, либо, по моему убеждению, с большой вероятностью произойдет в будущем. Однако концовка нашей истории – то, как ситуация будет выглядеть к 2055 году, – целиком зависит от тех действий, которые мы с вами предпримем.

Итак, вернемся к сценарию, представленному в самом начале. На дворе 2055 год, мы с вами сидим у костра где-то в глубинке и вспоминаем, как события разворачивались. Мы с вами либо прячемся от технологической цивилизации в глуши, либо наслаждаемся той счастливой жизнью, которая была достигнута преимущественно силами машин. Первый вариант мне не нравится, поэтому, пожалуйста, давайте все вместе сделаем так, чтобы жизнь развивалась по второму сценарию.

Сделайте глубокий вдох. Пора погружаться.

## Часть первая. Страшная

Достижения в области искусственного интеллекта обещают облегчить нам жизнь. Однако это сопряжено с существенными угрозами – о них говорят гораздо реже.

В связи с чем возникают некоторые экзистенциальные вопросы. Насколько умным будет ИИ? Как скоро это произойдет? Есть ли уверенность, что машины всегда будут служить интересам людей? Сможем ли мы полностью подчинить себе искусственный интеллект, как подчиняем другие свои инновации? Сможем ли мы надежно контролировать ИИ? Что произойдет, если не сможем?

ИИ не только обещает процветание, но и несет в себе потенциальные проблемы. Разбираться с ними нужно уже сегодня.

Не стану скрывать, первая часть книги вас напугает. Читать ее лучше при ярком свете и сидя. Однако в глубине души верьте, что все закончится хорошо и что во второй части вам откроются решения, которые нас спасут.

### Глава 1. Краткая история развития интеллекта

Люди… Мы самые умные (так мы думаем) существа на планете. И самые спесивые. Наш интеллект забывает напоминать нам ту истину, что наверняка мы не знаем всего и что не каждая проблема нам по плечу. А еще что интеллект в изобилии распространен и среди других существ.

Многие черты человеческого разума, такие как эмпатия, способность осознавать собственные эмоционально-психические состояния, придерживаться ритуалов и пользоваться символами и инструментами, наблюдаются также у человекообразных обезьян, хотя и в меньшей степени, чем у людей. Дав более широкое определение понятию интеллекта, в природе и во вселенной можно обнаружить другие формы разума, в том числе далеко превосходящие нашу. Мы, правда, не называем эти создания или эти системы разумными, потому что существует путаница в самой природе данного понятия. Возможно, мы слишком сосредоточены на отдельных типах интеллекта, например на аналитическом интеллекте, свойственном левому полушарию. Поэтому прежде чем двинуться дальше, давайте разберемся в понятиях. Для начала давайте определимся…

Что такое интеллект

Существует великое множество дискуссионных определений того, что называть интеллектом, или разумом. Вот несколько примеров таких определений: способность учиться, осознавать, справляться с новыми ситуациями; способность применять знания с тем, чтобы манипулировать окружающей средой; измеряемая объективными критериями способность мыслить абстрактно… Самосознание, решение проблем, обучение, планирование, творчество, критическое мышление – это некоторые из форм поведения, свойственные только тем существам, которые обладают ценнейшим качеством под названием интеллект.

Возьмем любую из этих форм, например самосознание, и спросим себя: наблюдается ли такое поведение, скажем, у дерева? Сбрасывание листвы по осени можно трактовать как механическую реакцию на изменение погоды, но как дела обстоят на самом деле? Может, это результат какой-то формы сознания со стороны дерева, причем осознает оно не только изменение погодных условий, но и свое собственное состояние – состояние с листвой на ветвях? То есть дерево не просто механически сбрасывает листву 22 сентября, а осуществляет некую форму анализа, опираясь на осознание меняющихся погодных условий – осознание, которое по тонкости восприятия далеко превосходит наше собственное, если мы задумаемся над этим без присущего нам самомнения. Можно ли сказать, что кошка решает проблемы, когда находит альтернативный маршрут к лакомой добыче? Можно ли допустить, что Солнечная система сознательно корректирует свое движение в расширяющейся Вселенной, а мы эти коррективы просто не в состоянии наблюдать или измерить? Иногда мы ведем себя так, будто только наш человеческий разум и только наше самосознание достойны называться интеллектом, полагая, что другие создания должны быть похожими на нас, если хотят считаться разумными. Вот почему столь многие известные ученые прошлого пытались отыскать признаки существования внеземных форм разума, отправляя в открытый космос радиосигналы. Это является отражением узколобого убеждения, что если во Вселенной и существует другая форма разума, то она должна, подобно нам, уметь пользоваться радиоволнами. По этой же причине анализ того, подходит ли какая-либо другая планета для жизни, исследователи начинают с поиска воды, считая само собой разумеющимся, что раз человек не может жить без воды, значит, и никакая другая жизнь без нее невозможна. Подобное самомнение мешает даже вообразить интеллект, возникший в таком мире, где физика радиоволн неприменима, или представить, что в безводной среде возможна какая-то неизвестная нам форма жизни. И не из-за этого ли самомнения мы часто забываем, что даже человек как вид не всегда был человеком разумным? Из-за него, конечно!

Человек не всегда был разумным

Человек разумный (Homo sapiens) впервые появился в Восточной Африке около 200 тысяч лет назад. Неясно, в какой мере у этих древних людей были развиты речь, музыка, религиозные верования и тому подобное. Согласно широко распространенной теории, примерно 70 тысяч лет назад в результате катастрофического извержения вулкана Тоба, когда атмосфера Земли на несколько лет заполнилась вулканической пылью, в большинстве регионов наступило сильное похолодание. Вулканическую зиму, по данным, пережили на всей планете не более 10 тысяч человек, преимущественно в Экваториальной Африке. Таким образом, мы с вами вместе со всеми нашими знакомыми являемся потомками этой выжившей группы. Чтобы пережить резкое изменение климата, выжившие должны были быть достаточно разумными, чтобы создать новые орудия труда и приспособиться к новым условиям жизни. Им нужно было как-то добывать себе пропитание и находить способы не замерзнуть. Вот тогда у людей и появились первые реальные проблески интеллекта.

Затем ближе к концу среднего палеолита, около 60 тысяч лет назад, произошла массовая миграция людей из Африки. Однако первые признаки изобразительного искусства, музыки, меновой торговли и других проявлений того, что принято считать разумной жизнью, начали появляться только около 30 тысяч лет назад. Именно к этому времени относятся первые образцы изобразительного искусства, такие как фигурки «Венер» и наскальные рисунки в пещере Шове, и первые музыкальные инструменты вроде костяной флейты из пещеры Гайсенклёстерле.

Человеческий мозг со временем эволюционировал – под влиянием внешних обстоятельств в нем происходили последовательные инкрементальные изменения. Они происходят и сегодня. Вы с раннего возраста покупаете ребенку игрушки, развивающие интеллект, и ваше дитя постепенно научается управляться со все более сложными головоломками и системами, по мере того как в его мозге ширится и укрепляется нейронная сеть.

Нейропластичность – способность мозга разрабатывать те свои участки, которые человек «тренирует». Это невероятно эффективный инструмент для развития интеллекта. И только с одной преградой, или, скорее, биологической проблемой, мы еще не научились справляться: со смертью.

Чтобы разобраться со смертью как с препятствием, мешающим эволюции человеческого интеллекта, наши предки изобрели суперсредство, которое позволило роду человеческому семимильными шагами вырваться вперед в соревновании с другими видами, – устную и письменную речь, а также счет. Я убежден, что речь как средство коммуникации была, и остается, самым полезным изобретением человека. Она помогает сохранять уже накопленные знания и передавать их дальше от человека к человеку и из поколения в поколение. Представьте, что у Эйнштейна не было бы возможности донести до остального человечества созданную им теорию относительности. Если бы не наши замечательные коммуникационные возможности, каждому из нас приходилось бы открывать для себя теорию относительности самостоятельно. Можно было бы только пожелать нам удачи.

Человеческий интеллект развивался скачками, реагируя на развитие человеческого общества и культуры. В значительной мере существующий уровень человеческого интеллекта обусловлен именно внутривидовыми коммуникациями, а не просто реакцией на внешние обстоятельства.

Речевые нейронные сети располагаются в коре головного мозга, которая, так уж получилось, у людей крупнее, чем у любого другого разумного вида. Особенно размерами отличаются височная, теменная и лобная доли. Другие части коры отвечают за высшие мыслительные процессы, включая логические рассуждения, абстрактное мышление и принятие решений. Размер этих участков мозга отличает человека от видов с «высоким уровнем интеллекта» (например дельфинов и человекообразных обезьян). Среди прочих отличий – более развитый неокортекс, более развитые извилины и бо́льшая концентрация веретенообразных нейронов, что вкупе обеспечивает большую скорость, или мощность, мыслительных процессов и обработки информации.

Короче говоря, сложность человеческого интеллекта обусловлена богатой историей и культурой человечества, которому приходилось выживать в суровых природных условиях. Интеллект развивался как за счет увеличения и усложнения мозга, так и за счет обмена знаниями посредством и благодаря речи. Вам может показаться, что все сказанное не имеет прямого отношения к развитию ИИ, но это не так. Потерпите немного.

Наш разум эволюционировал. Люди становились умнее своих предков, а некоторые люди становились особенно умными. Развитие интеллекта у иных видов, например шимпанзе и других человекообразных обезьян, не поспевало за темпами развития человеческого разума. Хотя эти виды обитали в более-менее одинаковых природных условиях, они в меньшей степени пользовались своим интеллектом, так что их мозг не увеличивался и навыки приобретения знаний и их применения не развивались. И когда они безнадежно отстали, кто стал единоличным хозяином планеты, который теперь держит их в клетках на потеху публике? Мы, люди.

Эта концепция, предполагающая, что интеллект людей стремительно развивается именно потому, что они им активно пользуются, ярко проявляется в интеллектуальных различиях между самими людьми. Казалось бы, если все мы произошли от одной и той же небольшой группы жителей Африки, переживших катастрофическое извержение вулкана Тоба, тогда все мы должны были бы достичь более-менее равных высот в развитии интеллекта. Однако очевидно, что это не так. Как правило, мы видим, что наибольшее количество научных открытий и технических достижений приходится на передовые страны мира, тогда как развивающиеся страны в этом плане сильно отстают. Таков результат многовекового действия феномена, который я называю капитализацией интеллекта. Передовые общества сегодня пожинают плоды того, что в течение долгого времени они уважали потребность в подобного типа интеллекте и разрабатывали методы его сохранения и приумножения, тогда как в развивающихся странах более насущными и ценными считались те формы интеллекта, которые были связаны с навыками выживания, житейской мудростью и духовным разумом (если этот термин имеет смысл). Умников-ботанов (вроде меня) в развивающихся странах обычно высмеивают и третируют, что подталкивает их к эмиграции в те страны, где такая форма интеллекта процветает и пользуется поддержкой. По схожим причинам вы можете заметить, что доля людей с выдающимися математическими способностями в России и некоторых странах Азии, например в Корее, выше, чем в других регионах мира. Россия остается в лидерах, по крайней мере с точки зрения интересов, и в ракетно-космических технологиях. Однако такие компании, как Google, базирующиеся в США и других развитых странах, продолжают переманивать к себе лучшие умы из всех уголков мира, предлагая специалистам наиболее престижные инновационные лаборатории и хабы вроде Google [X].

Несмотря на неравномерность распределения интеллекта, очевидно одно:

> Тот, кто обладает наивысшим интеллектом, в конечном счете правит миром.

Кто-то может быть недоволен таким положением вещей, но в целом для мира это хорошо, поскольку нам все еще необходимо пользоваться интеллектом, чтобы оставаться на самом верху пищевой цепочки.

И вот, по мере того как наш интеллект развивается и мы все лучше понимаем сложные законы окружающего мира, нам начинает казаться, что мы уже приближаемся к теоретическому пределу возможностей биологического разума. Не то чтобы мы перестали делать открытия, однако те реально сложные проблемы, которые теперь стоят перед нами, превратились уже в слишком масштабные даже для умнейших из людей. Чтобы истинное понимание природы вселенной оформить в определенную единую теорию, недостаточно разбираться в какой-то одной физической дисциплине – даже знания всей физики для этого наверняка будет мало. Здесь требуется более широкий взгляд, учитывающий знания из биологии, астрономии и, вполне вероятно, даже из духовных дисциплин. Чтобы найти способ остановить климатические изменения, нужны усилия со стороны ведущих защитников природы, бизнесменов, политиков и ученых, работающих сообща как одно целое. Узкая специализация знаний присущая нашей эпохе, превратилась в проблему. Для достижения необходимой глубины в какой-либо области знаний приходится жертвовать широтой информационного спектра. По мере того как предмет изучения становится все более сложным, даже лучшие умы вынуждены концентрироваться на чем-то одном, чтобы стать настоящими специалистами. Это приводит к тому, что знания такого специалиста в других дисциплинах весьма ограничены, и он не может включить эти дисциплины в свой интеллект.

> Специализация создает отдельные хранилища интеллекта, неспособные работать сообща.

Кроме того, у нас есть проблемы с эффективностью коммуникации. Чтобы донести до вас простые идеи, содержащиеся в этом абзаце, те 250 слов, которые вы только что прочитали, я набирал в течение пяти минут, а у вас чтение заняло примерно минуту. Если бы я читал вам аудиоверсию книги, чтобы выслушать и уловить тот же текст, вам потребовалось бы минуты две. Пропускная способность человеческого интеллекта – то есть скорость, с которой вы можете воспринимать и обрабатывать информацию, – имеет серьезные ограничения. Используя высокоскоростной интернет, вы могли бы скачать эту книгу за считаные секунды, но вам все равно понадобилось бы несколько дней, чтобы ее прочитать. Вот почему мы не способны одновременно мыслить и анализировать информацию как единая умственная система – в отличие от подключаемых параллельно компьютеров. Лучшим биологам неведомо то, что известно лучшим физикам, а большинству ученых трудно понять то, чему учат духовные лидеры.

> Мы не обладаем коммуникационной пропускной способностью, необходимой для обмена знаниями с достаточной скоростью.

Есть определенная ирония в том, что именно способность к общению – навык, выделяющий людей среди всех прочих живых существ, – ныне становится для них и главным препятствием.

Даже если мы не пожалеем времени на то, чтобы поделиться друг с другом своими знаниями, в нашем мозге нет такого хранилища памяти, которое бы все уместило. Не говоря уже о том, что мозг человека не обладает достаточной производительностью для переработки всех этих массивов данных, чтобы на их основе прийти к какому-то решению или постичь вселенские законы. Вынужденная специализация знаний, ограниченная пропускная способность мозга с точки зрения коммуникаций, ограниченная емкость памяти и, соответственно, ограниченная производительность – все это означает, что даже развитые умы будут приближаться к пределу возможностей человеческого интеллекта.

> Люди не всегда были разумными и не всегда смогут оставаться самыми умными.

Очевидно назревшей кажется потребность в новых формах интеллекта в поддержку существующему разуму, и именно это обстоятельство вызывает такой бурный интерес. Одна из форм, которая обещает далеко превзойти нашу, человеческую, – машинный интеллект.

Мифология

Люди мечтают об умных машинах уже тысячелетия. Первые упоминания о механических, искусственных формах разума мы обнаруживаем в древнегреческих мифах, рассказывающих, как Гефест, бог кузнецов, плотников, ремесленников, скульпторов и прочих мастеров, создал золотых служанок-роботов. В Средние века способы создания искусственных форм жизни искали мистики и алхимики. Мусульманский химик Джабир ибн Хайян целью своих исследований видел «таквин» – искусственный синтез жизни, в том числе и человеческой, в лабораторных условиях. Раввин Йехуда Лива, более известный как Махараль из Праги, рассказал историю о Големе – живом существе, созданном целиком из неживой материи, – к нашему времени она стала частью фольклора. Мифы наполнены историями о чудесах инженерии.

Существует легенда, что в Х веке до нашей эры инженер Ян Ши представил императору Му из династии Чжоу полноразмерную механическую модель человека.

По преданию, император был буквально потрясен изобретением Ян Ши. Созданная инженером модель, судя по всему, могла ходить и двигать головой так уверенно, что со стороны казалась живым человеком. Однажды император решил похвастаться своим роботом перед гостями. И все было хорошо, пока робот вдруг не принялся флиртовать с некоторыми из приглашенных дам и подмигивать им. Разгневанный император хотел было казнить Ян Ши прямо на месте, но умелец не растерялся и быстренько разобрал свое творение, чтобы показать императору, из чего на самом деле был изготовлен этот робот: только деревяшки, кожа, клей и краска. Император, смягчившись, захотел посмотреть поближе. У робота были искусственные аналоги всех человеческих внутренних органов, включая сердце, легкие, печень, почки и желудок, которые сверху были закрыты весьма реалистичной имитацией мышц, суставов, кожи, волос и зубов.

Интерес к созданию искусственной разумной жизни не ослабевал, и к XIX веку искусственные существа и мыслящие машины стали излюбленными героями научной фантастики. В числе наиболее известных примеров можно назвать «Франкенштейна» Мэри Шелли и R.U.R. Карела Чапека (R.U.R расшифровывается как Rossum’s Universal Robots – «Россумские универсальные роботы»; именно из этой книги слово «робот» и вошло в обиход). ИИ остается важной темой научной фантастики до сего дня, и ему посвящено несчетное количество фильмов, через которые красной нитью проходит главная идея: машины наступают, и кому-то не поздоровится. Мы еще вернемся к некоторым из этих фильмов и посмотрим, как они предсказывают будущее, но сейчас пора от художественного вымысла перейти к историческим фактам.

Реальная история, какой она была до сих пор

Реалистичные человекоподобные автоматы создавались мастерами разных цивилизаций. Самыми древними из известных образцов таких механизмов были священные статуи в Египте и Греции. Верующие люди наделяли «живые статуи» способностью мыслить и чувствовать, хотя очевидно, что статуи этого не могли. Гермес Трисмегист, автор ряда священных текстов, заложивших основу философии герметизма и объединяемых под общим названием «Герметический корпус», писал, что «человек смог понять природу богов и научился воссоздавать ее»[4].

С развитием научно-технического прогресса стали появляться первые реальные образцы механических моделей человека. Естественно, их конструкторы не пытались создавать искусственный разум, но с точки зрения механики их творения были гениальны.

Исмаил аль-Джазари (1136–1206), мусульманский ученый и изобретатель, был сведущ во многих науках, включая машиностроение и математику. Наибольшую славу ему принесла «Книга знаний об остроумных механических устройствах», в которой он описал сотню механических устройств, дав подробные инструкции по их изготовлению.

Среди прочего там упоминался музыкальный автомат, представляющий собой лодку с сидящими в ней роботами-музыкантами. Автор пояснял, что эта лодка может плавать по озеру, развлекая гостей, собравшихся на царский пир. Ноэль Шарки, британский эксперт по робототехнике, не так давно попытался частично воссоздать изобретение аль-Джазари: речь шла о программируемом барабанщике. В основе механической драм-машины лежал вращающийся вал со штырями, которые воздействовали на рычажки, поднимая, а затем опуская руки барабанщика. В зависимости от расположения штырей такой барабанщик мог выбивать разные ритмы.

Еще одним изобретением аль-Джазари была прислужница, подававшая воду, чай и другие напитки. Напиток хранился в баке, из которого переливался в ведро, а через 7 минут – в чашу, после чего автоматически открывалась дверца, и оттуда возникала механическая официантка, предлагавшая напиток. Неплохо для того времени.

В конце XVIII века венгерский изобретатель Вольфганг фон Кемпелен создал ставшего широко известным «механического турка». Это был якобы шахматный автомат в виде человеческой фигуры в натуральную величину, облаченной в турецкий наряд и тюрбан. Фигура сидела за столом, поверх которого лежала шахматная доска. Автомат превосходно играл в шахматы и побеждал многих соперников. Но на самом деле все было мистификацией: внутри стола прятался шахматист, который управлял движениями «турка» при помощи системы рычагов. Это была не настоящая умная машина, а скорее что-то из арсенала иллюзионистов.

Миниатюрные копии многих из этих искусных образцов механического гения сегодня можно увидеть в магазинах игрушек. В большинстве случаев мы даже не обращаем на них внимания – настолько привычными и обыденными они нам кажутся. Все эти изобретения не имели прямого отношения к искусственному интеллекту, но они подготовили почву для тех инженеров и мечтателей, которые поверили в возможность создания машины, по-настоящему подобной человеку. Долго ждать не пришлось: такая машина – компьютер, или вычислительная машина, – появилась уже в начале XX века.

Однако до наступления XXI века подавляющее большинство созданных человеком компьютерных систем нельзя было назвать разумными. Они были механическими рабами, выполнявшими приказы своих хозяев-программистов: они повиновались и делали ровно то, что было сказано, только очень и очень быстро.

Если вдуматься, ранняя версия поисковика Google, помогавшего людям упорядочивать всю массу накопленной в мире информации, вовсе не была умной – умными были те, кто ее создал. Кажущаяся гениальность Google заключалась всего лишь в способности системы ранжировать огромное количество веб-сайтов и выносить наверх те из них, которые чаще всего упоминались на множестве других страниц. Чем больше имелось ссылок на страницу, тем более важной и полезной для пользователей, ищущих информацию, она считалась. Именно этот алгоритм ранжирования страниц, при всей его кажущейся простоте, послужил основой поисковой системы Google, без которой сегодня мы не представляем жизни. Amazon и Spotify вовсе не были умны, когда рекомендовали товары и песни, которые, как они «думали», могли нам понравиться: они просто наблюдали за теми пользователями, которым нравились такие же, как и нам, продукты и песни, и узнавали, что еще те люди покупали и слушали, и затем рекомендовали это нам. То есть системы попросту обобщали наш коллективный интеллект, но собственным интеллектом при этом не обладали. Однако ситуация начала меняться, и очень быстро, на рубеже веков.

Вот и они!

Машинное обучение и искусственный интеллект перебрались с обочины в мейнстрим науки и техники в конце 1990-х, создав тренд, вокруг которого к началу нового тысячелетия возник настоящий ажиотаж. После многих лет неудачных попыток появились, наконец, многообещающие проблески новой формы интеллекта – небиологической, нечеловеческой. Если только вы не живете в гуще африканских джунглей в окружении обезьян, новости об искусственном интеллекте вы наверняка слышите по несколько раз в неделю. Но, возможно, вы не знаете, что в этой оглушающей шумихе нет ничего нового – в среде компьютерных гиков разговоры об ИИ не утихают с 1950-х годов.

# Сноски

1

Книга на английском языке была издана в 2021 году. – Прим. перев.