Этот довод подтверждается исследованием McKinsey & Company 2017 года, в рамках которого было рассмотрено 820 различных профессий. Выяснилось, что полностью автоматизированы посредством существующих технологий могут быть менее 5 % из них. В то же время более 60 % профессий состоят из задач, 30 % которых можно автоматизировать[124]. Другими словами, очень немногие рабочие места могут быть полностью заняты машинами, но машины могут взять на себя значительную часть присущих им задач.
Вот почему попадают в ловушку те, кто утверждает, что «моей работе автоматизация не грозит, потому что я делаю X», где «X» – это задача, которую особенно трудно автоматизировать. Ни одна работа не состоит лишь из одной задачи: адвокаты не только выступают в суде, хирурги не только выполняют операции, журналисты не только пишут статьи. Эти конкретные задачи, возможно, трудно автоматизировать, но это необязательно относится ко всем другим видам деятельности, которые эти специалисты выполняют в своей работе. Адвокаты, например, могут утверждать, что ни одна машина не может произносить пламенные речи перед ошеломленными присяжными, – и они правы. Но машины сегодня, безусловно, могут находить, собирать и просматривать широкий спектр юридических документов: эти задачи составляют большую часть работы большинства юристов, а для младших юристов – почти всю.
Технологические оптимисты совершают аналогичную ошибку, когда указывают, что из 271 профессии, указанной в американской переписи 1950 года, из-за автоматизации исчезла только одна – лифтер[125]. Это вовсе не признак бессилия техники, как они, возможно, полагают, а еще одно свидетельство того, что важные изменения носят более глубокий характер и происходят на уровне базовых задач, а не на уровне названий должностей.
Второй ключевой посыл, из которого исходит Отор и его коллеги, – важна сама природа задач, а не «квалификация» выполняющего их работника – имеет огромное значение. Белые воротнички-профессионалы, посвятившие своему образованию немало времени и средств, часто этому поражаются, а некоторые даже обижаются, считая грубой аналогию между их «изощренной» работой и нерафинированным трудом других людей. Но дело в том, что их работа не такая особенная, как они себе представляют. Как только вы разбиваете большинство профессиональных задач на составляющие их части, многие из них оказываются «рутинными» и могут быть автоматизированы. Тот факт, что образованные профессионалы выполняют свои задачи, работая головой, а не руками, не имеет значения. Гораздо важнее, являются ли эти задачи «рутинными».
Гипотеза ОЛМ важна потому, что она успешно объясняет не только экономические особенности недавнего прошлого – размывание рынка труда и ущерб, который несут работники со средней квалификацией, – но и оптимизм, который многие прогнозисты испытывают в отношении технологий и будущего.
Старая «каноническая модель» технологических изменений тоже предполагала оптимистический взгляд на будущее труда, но по совершенно нереалистичной причине: в ней, как мы видели, технология всегда дополняет работников (хотя некоторых из них больше, чем других). Сегодня мало кто стал бы так рассуждать. Те же, кто оптимистично смотрит на будущее работы, выстраивают такую версию, которая больше похожа на историю гипотезы ОЛМ, отдающую предпочтение задачам. Они утверждают, что новые технологии действительно заменяют работников, но не во всем, и что машины, как правило, увеличивают спрос на людей для выполнения задач, не поддающихся автоматизации. Сам Отор выразил этот подход емкой фразой: «Автоматизация обычно дополняет те задачи, которые не может заменить»[126].
Подобные доводы основываются на предположении, что существуют задачи, которые машины просто не могут выполнить, и поэтому есть твердый предел вредной замещающей силы. Конечно, некоторые могут сказать, что это положение интуитивно очевидно. Но гипотеза ОЛМ дает формальное обоснование: машины нельзя научить выполнять «нерутинные» задачи, потому что люди неспособны объяснить, как они их выполняют. По словам Отора, «возможности для такого рода замещения ограничены, потому что есть много задач, которые люди понимают без слов и выполняют без особых усилий, но для которых ни программисты, ни кто-либо другой не может сформулировать явные «правила» или «процедуры»»[127]. Таким образом, в будущем технологии будут все больше заменять людей в «рутинных» задачах и будут дополнять людей в «нестандартных» задачах.
Это различение «рутинных» и «нестандартных» задач распространилось далеко за пределы академических экономических работ. Наиболее влиятельные институты и аналитические центры – от МВФ до Всемирного банка, от ОЭСР до Международной организации труда – опираются на него, оценивая, какие человеческие действия подвергаются риску автоматизации[128]. Марк Карни, управляющий Банком Англии, повторил это в своем предупреждении о «расправе над Дилбертами»: новые технологии, по его мнению, угрожают «рутинной когнитивной работе», подобной той, которую выполняет Дилберт, персонаж стрип-комиксов об офисной жизни[129]. Президент Обама предупредил, что «повторяющиеся» роли подвержены особому риску автоматизации[130]. Из этой идеи исходят в своих рассуждениях и крупные компании: инвестиционный банк UBS утверждает, что новые технологии «освободят людей от рутинной работы и тем самым дадут им возможность сосредоточиться на более креативных услугах с более высокой добавленной стоимостью»; фирма аудиторских услуг PwC говорит, что «машины, которые заменяют работников, выполняющих рутинные методические задачи, могут дополнить сравнительное преимущество тех из них, кто обладает такими качествами, как умение решать проблемы, лидерство, эмоциональный интеллект, эмпатия и креативность»; а аудиторская фирма Deloitte сообщает, что в Великобритании «количество рутинных рабочих мест, подверженных высокому риску автоматизации, сократилось, но это более чем компенсировало создание новых, менее стандартных рабочих мест, которым автоматизация грозит в меньшей степени»[131].
Эту концепцию также популяризировали журналисты и комментаторы. Economist, например, объясняет, что «уязвимость к автоматизации, по мнению экспертов, определяется не столько тем, является ли соответствующая работа ручной или простой, сколько тем, является ли она рутинной». В свою очередь, New Yorker предлагает нам «представить себе матрицу с двумя осями, от ручного – к когнитивному и от рутинного – к нестандартному», в которой каждая задача сортируется в один из образующихся из квадрантов[132]. Тень различий «рутины» и «нерутины» мы можем видеть и в других часто встречающихся описаниях автоматизации, согласно которым машины могут делать только «повторяющиеся» или «предсказуемые» вещи, «основанные на правилах» или «четко определенные» (другими словами, выполнять «рутинные» задачи), но не могут справиться с вещами «трудно определимыми» или «сложными» («нестандартными» задачами).
На самом деле очень немногие подходы в современной экономической мысли оказались столь же влиятельными, как гипотеза ОЛМ. Эта идея, зародившаяся в тишине кабинетов экономистов, просочилась во внешний мир и предопределила представления многих людей о грядущем[133]. Гипотеза ОЛМ уверила нас, что существует широкий спектр задач, которые никогда не могут быть автоматизированы; резерв деятельности, который всегда обеспечит людям достаточное количество работы. Привычный Век труда будет продолжаться.
На мой взгляд, это оптимистичное предположение, скорее всего, окажется неверным. Но чтобы понять почему, мы должны сначала взглянуть на изменения, произошедшие в мире технологий и искусственного интеллекта.
Люди уже давно фантазируют о машинах, способных делать удивительные вещи. Три тысячи лет назад Гомер рассказывал историю о треножниках, которые по приказу создавшего их бога «сами собой» устремлялись к своему владельцу[134]. Платон писал о Дедале, скульпторе настолько талантливом, что его статуи приходилось связывать, чтобы те не убежали[135]. Каким бы причудливым ни казался этот миф, ученик Платона Аристотель проникся им и задался вопросом: что случилось бы с миром труда, если бы «каждый имеющийся у нас инструмент мог выполнять свою задачу либо по нашей просьбе, либо сам ощутив в этом необходимость»[136]. Древние еврейские мудрецы писали о големах – мистических существах из грязи и глины, оживавших, стоило лишь их хозяевам произнести правильное заклинание. Говорят, что один голем по имени Йозеф до сих пор прячется на чердаке Большой синагоги в Праге; по легенде, много веков назад раввин Йехуда Лёв вернул его к жизни, чтобы защитить евреев своей общины от преследований[137].
В древней литературе множество таких рассказов. Но и более поздняя история полна басен о чудесных и странных машинах, совершающих свою работу без всякого видимого участия человека. Сегодня мы называем их «роботами», но до изобретения этого слова в 1920 году их называли «автоматами» – и они были безумно популярны. В XV веке Леонардо да Винчи нарисовал самодвижущуюся тележку и облаченного в броню гуманоидного робота; он также создал для короля Франции механического льва, который после трех ударов кнута Его Величества раскрывал свою грудь, чтобы показать символ правящей династии[138]. В XVIII веке своими машинами прославился француз Жак де Вокансон: одна играла на флейте, другая – на бубнах, а самой знаменитой была утка, которая могла есть, пить, махать крыльями и испражняться. К сожалению, так называемый canard digérateur, или «переваривающая утка», на самом деле не соответствовал своему названию: из скрытого отсека просто выпускался правдоподобный заменитель (хлебные крошки, окрашенные в зеленый цвет)[139]. Подобные надувательства случались довольно часто. Примерно в то же время венгр по имени Вольфганг фон Кемпелен построил шахматную машину, получившую прозвище «турок» из-за восточной внешности. Она десятилетиями гастролировала по всему миру, побеждая таких знаменитых противников, как Наполеон Бонапарт и Бенджамин Франклин. Они даже не подозревали, что в брюхе предполагаемого автомата прятался гроссмейстер[140].
Почему людей так очаровывали эти машины? Отчасти, вероятно, потому, что они были зрелищными: некоторые делали забавные и (как в случае с переваривающей уткой) часто умеренно шокирующие вещи. Но как насчет шахматной машины? Почему она всех так взволновала? Дело было не в его ловкости рук: мир XVIII века был полон технологий, выполнявших задачи, требующие гораздо более впечатляющих физических возможностей, чем перемещение шахматной фигуры. Скорее всего, люди были впечатлены очевидной способностью «турка» выполнять задачи, требующие когнитивных способностей, то есть делать то, что люди делают головой, а не руками. Считалось, что такая деятельность находится далеко за пределами досягаемости любой машины, и все же шахматное устройство делало гораздо больше, чем просто бесцельно передвигало фигуры по доске. Казалось, оно взвешивает возможные ходы и переигрывает опытных игроков-людей, мыслит и рассуждает. Когда речь идет о людях, мы признаем, что эти способности требуют «интеллекта». И именно это должно было шокировать публику: машины, похоже, тоже действовали разумно.
В конце концов, почти все эти рассказы оказались выдумками. Множество проектов так и остались на бумаге, а построенные машины, как правило, были рассчитаны на то, чтобы обмануть зрителя. Неслучайно Жан-Эжен Робер-Уден, первый современный фокусник (у которого несколько десятилетий спустя позаимствовал свое имя иллюзионист Гудини), был мастером по изготовлению автоматов: однажды ему пришлось чинить знаменитую переваривающую утку, когда у нее сломалось крыло[141]. Но в XX веке все изменилось. Исследователи впервые в истории начали строить машины с серьезным намерением соперничать с людьми – началась разработка настоящей сложной программы по созданию интеллекта. Теперь их устремления не сводились к вымыслу или обману, а были вполне серьезны.
На заседании Лондонского математического общества в 1947 году Алан Тьюринг сообщил собравшимся, что задумал вычислительную машину, которая смогла бы демонстрировать интеллект[142]. Тьюринг заслуживал серьезного к себе отношения: он был, возможно, ведущим британским шифровальщиком времен войны и одним из величайших компьютерных ученых в истории. Однако реакция на высказанные им идеи оказалась настолько враждебной, что через год он был вынужден опубликовать новую статью, в которой гневно ответил на возражения против его утверждения, что машины «могут демонстрировать разумное поведение». «Обычно считают, что это невозможно, но никаких доводов не приводят», – заявлял он в первых же строках. Тьюринг считал, что возражения часто были «чисто эмоциональными» – например, «нежелание признать возможность того, что у интеллектуального могущества человека могут быть какие-то соперники», или «религиозная вера в то, что любая попытка построить такие машины является своего рода прометеевой непочтительностью»[143].
Менее чем через десять лет группа из четырех американских ученых – Джона Маккарти, Марвина Мински, Натаниэля Рочестера и Клода Шеннона – направила в Фонд Рокфеллера предложение о предоставлении средств на проведение «двухмесячного исследования искусственного интеллекта с участием десяти человек» в Дартмутском колледже (термин «искусственный интеллект» изобрел Маккарти)[144]. Их предложение поражало амбициозностью и оптимизмом. Они утверждали, что «каждый аспект обучения или любая другая особенность интеллекта» могут быть смоделированы машиной. И они считали, что можно достичь «значительного прогресса», если «тщательно отобранная группа ученых будет работать над этим вместе в течение лета»[145].
Так уж вышло, что летом 1956 года в Дартмуте не было достигнуто ничего заслуживающего внимания. Тем не менее образовалось сообщество ученых, определилось направление движения, и несколько великих умов начали сотрудничать. Со временем под вывеской искусственного интеллекта будет собрана эклектичная коллекция различных типов проблем: распознавание человеческой речи, анализ изображений и объектов, перевод и интерпретация письменного текста, игры в шашки и шахматы и решение проблем[146].
Вначале большинство исследователей искусственного интеллекта считали, что создание машины для выполнения определенной задачи подразумевает наблюдение за тем, как люди выполняют ту же самую задачу, и копирование. В то время такой подход, судя по всему, казался вполне разумным. Люди были, безусловно, самыми одаренными существами в мире, так почему бы не попытаться построить эти новые машины по их образу и подобию?
Эта мимикрия принимала различные формы. Некоторые исследователи пытались создать сети искусственных нейронов путем воспроизведения реальной физической структуры человеческого мозга (Марвин Мински, один из авторов группы, просившей финансирования у фонда Рокфеллера, посвятил этому докторскую диссертацию)[147]. Другие использовали психологический подход, стремясь воспроизвести процессы мышления и рассуждения, в которых задействован человеческий мозг (это пытались сделать присутствовавшие в Дартмуте Герберт Саймон и Аллен Ньюэлл, когда предложили «универсального решателя задач» – раннюю систему, известную как «программа, имитирующая человеческое мышление»)[148]. Третий подход состоял в том, чтобы вывести правила, которым следуют люди, и на их основе написать инструкции для машин. Для этого исследователи создали специальную подотрасль, а их изобретения стали известны как «экспертные системы» – они полагались на правила, которые задавал им живой эксперт.
Во всех этих начинаниях люди так или иначе задавали шаблон поведения машин. Например, для создания машины, которая могла бы играть в шахматы на высшем уровне, нужно было сесть за стол с гроссмейстерами и заставить их объяснить, как они играют в эту игру. Написание программы для перевода одного языка на другой подразумевало наблюдение за тем, как человек, знающий оба языка, понимает смысл абзаца текста. Идентификация объектов означала, что нужно обработать изображение так же, как это делает человеческий глаз[149].
Эта методология нашла свое отражение в языке пионеров ИИ. Алан Тьюринг утверждал, что «можно построить машины, которые будут очень точно имитировать поведение человеческого разума»[150]. Нильс Нильссон, присутствовавший на Дартмутском собрании, отметил, что большинство ученых там «были заинтересованы в подражании высшим уровням человеческого мышления. Их работа в определенной степени опиралась на анализ того, как люди решают свои проблемы»[151]. А философ Джон Хаугеланд писал, что область ИИ ищет «подлинный предмет: машины с разумом, в полном и буквальном смысле»[152].
За некоторыми утверждениями Хаугеланда и других ученых стояло более глубокое теоретическое убеждение: люди, по их мнению, представляют собой лишь сложный тип компьютера. Это была «вычислительная теория разума». С практической точки зрения, она могла быть привлекательной для исследователей ИИ. Если бы люди были всего лишь сложными компьютерами, то трудности в создании искусственного интеллекта были бы преодолимы: исследователи просто должны были сделать свои собственные, простые компьютеры более сложными[153]. Как выразился ученый-компьютерщик Дуглас Хофштадтер в своей знаменитой работе «Гедель, Эшер, Бах», многие исследователи воспринимали как «догмат» утверждение, что «любой разум – лишь вариация одной и той же темы, чтобы создать настоящий разум, работники ИИ должны подойти как можно ближе… к механизмам мозга, если они хотят, чтобы машины обладали теми же возможностями, что и мы»[154].
Конечно, не всех интересовало копирование людей. Но большинство специалистов по искусственному интеллекту того времени придерживались этих представлений – даже те, кто изначально был против, в конечном итоге поддались им. Например, Герберт Саймон и Аллен Ньюэлл. Прежде чем они создали общую систему решения проблем, основанную на человеческом мышлении, они фактически построили совершенно другую систему, названную «Логический теоретик». Эта система отличалась от всех остальных машин, появившихся после Дартмутского собрания, – она действительно работала. И все же, несмотря на успех, Саймон и Ньюэлл отказались от нее. Почему? Отчасти потому, что она действовала не как человек[155].
Однако в конечном счете этот подход к созданию машин по образу и подобию человека не увенчался успехом. Несмотря на первоначальный всплеск оптимизма и энтузиазма, серьезного прогресса в области искусственного интеллекта достигнуто не было. Когда речь заходила о грандиозных задачах – создании разумной машины, обладающей сознанием или способной мыслить и рассуждать как человек, – ничего подобного построить не удавалось. То же можно было сказать и о более скромных амбициях заставить машины выполнять конкретные задачи. Несмотря на все усилия, машины не могли победить лучшего игрока в шахматы. Они не могли перевести больше нескольких фраз или распознать что-либо, кроме самых простых объектов. Так происходило и со многими другими задачами.
По мере того как прогресс замедлялся, исследователи оказывались в тупике. Конец 1980-х годов вошел в историю как «зима искусственного интеллекта»: финансирование иссякло, исследования замедлились, а интерес к этой области упал. Первая волна искусственного интеллекта, породившая столько надежд, закончилась неудачей.
В 1997 году ситуация с ИИ начала улучшаться. Система под названием Deep Blue, принадлежавшая IBM, победила Гарри Каспарова, тогдашнего чемпиона мира по шахматам. Это было замечательное достижение, но еще замечательнее было то, как система его добилась. Компьютер Deep Blue не пытался копировать Гарри Каспарова, его интуицию или его гениальность. Он не повторял его мыслительный процесс и не имитировал его рассуждения. Вместо этого он использовал огромные объемы вычислительной мощности и памяти для обработки 330 миллионов ходов в секунду. Каспаров, один из лучших шахматистов всех времен и народов, мог в любой момент держать в голове до сотни возможных ходов[156].
Результат Deep Blue был не только практической победой, но и идеологическим триумфом. До этого события большинство исследователей ИИ можно было считать пуристами, которые пристально наблюдали за разумными действиями людей и пытались построить подобные им машины. Но Deep Blue был спроектирован совершенно иначе. Его создатели не стремились копировать анатомию шахматистов, их образ мысли или конкретные стратегии. Скорее они были прагматиками. От человека задача требовала применения интеллекта. Они же построили машину, способную выполнить ее принципиально иным способом, и тем самым положили конец зиме в области искусственного интеллекта – я называю это революцией прагматиков.
График 3.1. Частота ошибок систем, побеждавших в конкурсе ImageNet
За десятилетия, прошедшие после победы Deep Blue, на основе этого прагматического подхода было создано целое поколение машин, которые функционировали совсем не так, как люди, и оценивались не по тому, как они выполняют задачу, а по тому, насколько хорошо они ее выполняют. Прогресс в области машинного перевода, например, произошел не благодаря созданию машины, подражающей талантливому переводчику, а благодаря тому, что компьютеры сканируют миллионы переведенных человеком фрагментов текста, чтобы самостоятельно вычислять межъязыковые соответствия и паттерны. Подобным образом машины научились классифицировать изображения: они не подражают человеческому зрению, а просматривают миллионы ранее отмеченных изображений и выискивают сходство между ними и данной фотографией. Проект ImageNet ежегодно проводит конкурс, в котором ведущие ученые-компьютерщики соревнуются в создании систем, способных распознавать объекты на изображении точнее, чем их коллеги. В 2015 году победившая система впервые превзошла человека, правильно распознав 96 % изображений, а в 2017 году победитель достиг 98-процентной точности (см. график 3.1[157]).
Как и Deep Blue, многие из этих новых машин полагаются на последние достижения в области обработки и хранения данных. Вспомните, что между Дартмутским собранием 1956 года и концом столетия мощность обычного компьютера увеличилась примерно в десять миллиардов раз. Что касается объема данных, то Эрик Шмидт, бывший председатель совета директоров Google, считает, что сейчас мы за каждые два дня создаем столько же информации, сколько было создано с момента зарождения цивилизации до 2003 года[158].
В первой волне развития искусственного интеллекта, еще до появления таких вычислительных мощностей и возможностей по хранению данных, люди должны были сами выполнять большую часть сложной вычислительной работы. Опираясь на свою изобретательность, проницательность и аналитические способности, исследователи надеялись понять, как люди мыслят, или вручную обнаружить негласные правила, формирующие их поведение, и запечатлеть все это в виде набора четких инструкций для машин. Но во второй волне ИИ машины больше не полагались на такое иерархическое применение человеческого интеллекта, а начали использовать колоссальные вычислительные возможности и все более сложные алгоритмы для обработки огромных массивов данных, изучая человеческий опыт, чтобы выяснить, что делать им самим, двигаясь снизу вверх[159].
Слово «алгоритм», происходящее от имени математика IX века по имени Абу Абдуллах Мухаммад ибн Муса Аль-Хорезми, означает просто набор пошаговых инструкций. Алгоритмы машинного обучения, которые сегодня во многом определяют прогресс в области искусственного интеллекта, специально нацелены на то, чтобы системы учились на собственном опыте, а не руководствовались явными правилами. Многие из них опираются на идеи, разработанные задолго до того, как появились такие вычислительные мощности и был накоплен такой объем данных, чтобы из интересных теоретических возможностей они превратились в нечто более практическое. Действительно, некоторые из величайших триумфов нынешних прагматиков выросли из пуристских попыток копировать человеческие существа. Например, сегодня самые способные машины полагаются на так называемые искусственные нейронные сети, разработанные несколько десятилетий назад в попытке имитировать работу человеческого мозга[160]. Однако теперь нет особого смысла судить о том, насколько точно эти сети имитируют человеческую анатомию; их оценивают с чисто прагматической точки зрения, в зависимости от того, насколько хорошо они выполняют поставленные задачи[161].
В последние годы эти системы стали намного сложнее, чем Deep Blue. Взять, например, систему AlphaGo, разработанную для игры в китайскую настольную игру го. В 2016 году в серии из пяти игр она взяла верх над Ли Седолом, лучшим игроком в мире. Это крупное достижение, по мнению большинства экспертов, должно было произойти по меньшей мере на десять лет позже. Сложность го заключается не в правилах, а в том, что «пространство поиска», т. е. набор всех возможных ходов для просеивания, огромно. В шахматах на первом ходу первый игрок выбирает один из двадцати возможных ходов, а в го – из 361 варианта. После ответного движения противника в шахматах есть 400 возможных вариантов, а в го – около 129 960. После двух ходов это число увеличивается до 71 852 ходов в шахматах и около семнадцати миллиардов в го. А после всего лишь трех ходов у каждого игрока есть около 9,3 миллиона вариантов в шахматах и около 2,1×1015 в го – т. е. два с пятнадцатью нулями. Это в 230 миллионов раз больше возможностей, чем в шахматах на том же этапе игры[162].
В шахматах победа Deep Blue была отчасти обусловлена способностью компьютера использовать подавляющую вычислительную мощь по сравнению с той, что располагал Каспаров. Но в го эта стратегия не сработает, поскольку игра слишком сложна. Поэтому AlphaGo использовал другой подход. Сначала он просмотрел тридцать миллионов ходов из игр лучших игроков. Затем он перешел к обучению, играя против самого себя, и извлек опыт из тысяч собственных игр. Таким образом, AlphaGo смог выиграть, оценивая гораздо меньше позиций, чем Deep Blue.
В 2017 году была представлена еще более сложная версия программы, получившая название AlphaGo Zero. Замечательной эту систему делало то, что она полностью избавилась от всех принципов работы человеческого интеллекта. Глубоко внутри кода Deep Blue было прописано несколько умных стратегий, которые шахматные чемпионы разработали для него заранее[163]. Изучая обширную коллекцию прошлых игр великих игроков-людей, AlphaGo в определенном смысле полагалась на них в своей сложной вычислительной работе. Но AlphaGo Zero ничего этого не требовала. Ей не нужно было ничего знать об игре человеческих экспертов; ей вообще не нужно было пытаться подражать человеческому интеллекту. Все, что ей требовалось, – это правила игры. Получив их, она играла сама в течение трех дней и генерировала собственные данные, а затем победила своего старшего брата, AlphaGo[164].
Другие системы применяют схожие методы в решении задач, больше напоминающие беспорядок реальной жизни. Шахматы и го, например, являются играми «совершенной информации»: оба игрока видят всю доску и все фигуры. Но, как выразился легендарный математик Джон фон Нейман: «Настоящая жизнь совсем не такая. Настоящая жизнь состоит из блефа, из мелких хитростей, из вопросов, что, по мнению другого человека, я собираюсь сделать». Вот почему исследователей очаровал покер – его оказалось очень трудно автоматизировать. Тем не менее DeepStack, разработанный командой из Канады и Чехии в 2017 году, сумел победить профессиональных игроков в покер в серии из более чем 44 тысяч хедз-апов (то есть игр один на один). Как и AlphaGo Zero, он не выстраивал свою тактику на основе анализа прошлых игр, в которые играли люди, и не полагался на «предметные знания», т. е. умные стратегии покера, разработанные людьми. Вместо этого он научился выигрывать, просто исследуя несколько миллионов случайно сгенерированных игр[165]. В 2019 году Facebook и Университет Карнеги – Меллона пошли еще дальше: они объявили о создании Pluribus – системы, которая могла побеждать лучших профессиональных игроков в покер в соревнованиях с участием нескольких игроков. Эта система тоже научилась играть в покер «с нуля», без участия человека, просто играя партию за партией против копий самой себя в течение нескольких дней[166].
Было бы ошибкой думать, что в начале 1990-х исследователи просто «открыли» прагматический путь. Выбор между тем, чтобы заставить машины решать проблемы любыми возможными способами, и копированием человеческих навыков (между тем, что я называю «прагматизмом» и «пуризмом») не нов. Еще в 1961 году, во времена расцвета пуризма, Аллен Ньюэлл и Герберт Саймон писали, что исследователи «старательно разделяют… попытки выполнить с помощью машин задачи, выполняемые людьми, и попытки смоделировать процессы, которые люди фактически используют для выполнения этих задач»[167]. Подобным образом философ Хьюберт Дрейфус в 1979 году провел различие между «инженерами искусственного интеллекта» – группой практиков, «не заинтересованных в создании в широком смысле “умных” машин», – и «теоретиками искусственного интеллекта», руководствовавшихся тем, что он считал благородным научным призванием[168]. Пионеры кибернетики знали, что они могут сосредоточиться либо на создании машин, выполняющих задачи, которые исторически требовали разумных людей, либо на попытке понять сам человеческий интеллект[169]. Они предпочли сосредоточиться на последнем.
Отчасти, как мы уже видели, это было связано с тем, что изначально копирование человеческих действий казалось путем наименьшего сопротивления для создания умных машин. Люди так умны; зачем начинать с нуля проектирование машины, если можно просто сымитировать человека? Но у склонности к пуризму была и вторая причина. Для многих исследователей сам проект изучения человеческого интеллекта был намного интереснее, чем просто создание умных машин. Их труды полны восторженных упоминаний о классических мыслителях вроде Готфрида Вильгельма Лейбница, Томаса Гоббса, Рене Декарта и Дэвида Юма и цитат из их размышлений о человеческом разуме. Исследователи искусственного интеллекта надеялись, что идут по их стопам. Их интриговали вопросы не о машинах, а о людях – что такое «ум» и как работает «сознание», что на самом деле означает «думать» или «понимать»?