Роджер Бутл
Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин
Что остается у человечества?
Теперь мы рассмотрим другую точку зрения на признаки, отличающие нынешнюю революцию с искусственным интеллектом и роботами во главе, от всего, что происходило после промышленной революции, – пугающее многих заявление, что на этот раз не появятся новые рабочие места, которые заменили бы те, которые исчезают под влиянием автоматизации.
Технические преобразования, лежащие в основе экономического прогресса со времен промышленной революции, развиваются по довольно логичной схеме. Сначала машины вытеснили те или иные формы тяжелого физического труда, оставляя людям все больше интеллектуальной работы. Теперь благодаря развитию компьютеров машины взяли на себя часть умственного труда. (Китайское слово, обозначающее «компьютер», так, собственно, и переводится – «электрический мозг».) Но по крайней мере до недавнего времени компьютеры заменяли людей только там, где они (люди) выполняли монотонные повторяющиеся действия, позволяя нам сосредоточиться на других не столь шаблонных задачах. Тем не менее, как было сказано выше, современный искусственный интеллект угрожает заменить и более нестандартный умственный труд. То есть, по сути весь интеллектуальный труд.
Интересно, что идея о замене автоматизированным трудом всей работы, выполняемой людьми, не только не нова, но и стара как мир. Еще древнегреческий философ Аристотель, писавший свои труды в 350 г. до н. э., предположил, что если бы машинам (которые, по тогдашним представлениям, могли стать творениями бога Гефеста) удалось научиться выполнять любую работу, которую делают люди, то все рабочие, включая рабов, оказались бы лишними[71].
Где в таком мире человек может найти (и сохранить) свое место? Подобно армии саксонского дворянина и противника норманнов Хереварда Уэйка, окруженной войсками Вильгельма Завоевателя на крошечном болотистом острове недалеко от городка Эли, люди вынуждены уступать машинам все больше и больше своей исконной территории. Что им останется? Где пройдет последний рубеж? Что произойдет, если захвачен будет даже последний островок пригодной для нас суши? Останется ли хоть что-то еще, что люди могут делать лучше, чем машины?
Что еще хуже, роботам и другим автоматам, в отличие от людей, не нужно будет платить зарплату, предоставлять льготы и пенсии. Но если машины и производительнее, и дешевле, нежели их создатели, зачем вообще тогда привлекать людей к работе?
Если работа для людей совсем (или по большей части) исчезнет, перед нами встанет как минимум одна чрезвычайно серьезная проблема – целеполагание в жизни. Поскольку борьба за заработок составляла основу человеческого существования с незапамятных времен, что должно занять ее место? Будущее грозит превратиться в бесконечный досуг, включающий не только различные возможности, но и массу проблем, которые я буду обсуждать в четвертой главе. Скажем так, если это произойдет, досуг, который гораздо честнее будет назвать тотальной безработицей, для большинства людей не будет похож на сладкий сон.
Даже если не думать сейчас о таких потенциальных проблемах, как бессмысленность существования и скука, все равно остается вопрос: будет ли для нас эпоха роботов временем изобилия, или же невольный досуг станет единственной радостью бедняка? Ведь если труд не нужен, как люди будут зарабатывать деньги? Без заработанных денег им нечего будет тратить. Без затрат производство роботов не будет востребовано. В результате не только люди, но и роботы останутся без работы. (Более подробно мы обсудим и проанализируем этот и другие антиутопические взгляды на наше экономическое будущее в следующей главе.)
Беспокойство по поводу описанной перспективы – дело не отдаленного будущего, а нашего с вами настоящего. Оно уже влияет на людей здесь и сейчас. Согласно опросу 2015 г., проведенному Университетом Чепмена, американцы боятся роботов, которые лишат их работы, чуть ли не больше, чем смерти[72].
Унесенные роботами
Насколько серьезно мы должны относиться к угрозе кардинального снижения человеческой занятости? Многие визионеры и футурологи, размышляющие на тему искусственного интеллекта, настроены очень пессимистично. Профессор Массачусетского технологического института Макс Тегмарк, пожалуй, наиболее выдающийся из этих скептиков. Он не согласен с обычной идеей, что на замену потерянным из-за внедрения искусственного интеллекта рабочим местам возьмутся как бы из воздуха новые места, как это уже происходило в прошлом и нынешнем столетиях. Тегмарк объясняет свою точку зрения тем, что подавляющее большинство современных профессий существовало уже 100 лет назад. Используя данные Министерства труда США (US Department of Labor), он обнаружил, что 80 % профессий 2014 г. уже существовало в 1914 г. Более того, число людей, занятых в 20 % новых профессий, составляло тогда только 10 % работающего населения.
Сегодня объем экономики США несравненно больше, чем в 1914 г., и в ней занято гораздо больше людей, однако новых профессий появилось не так уж много. Вот что пишет Тегмарк: «Когда мы сортируем профессии по количеству рабочих мест, которые они предоставляют, нам придется опуститься на 21-е место в списке, чтобы, наконец, столкнуться с по-настоящему новой профессией – разработчик программного обеспечения. Эти специалисты составляют менее 1 % рынка труда в Соединенных Штатах»[73].
Продолжая эту тему, целый ряд аналитиков и прогнозистов сделали чуть ли не апокалиптические оценки будущей безработицы. Так называемый «Проект тысячелетия» («The Millennium Project»), учрежденный в 1996 г. под эгидой ООН и академических организаций США, подготовил отчет под названием «Состояние будущего в 2015–2016 гг.» (англ. «2015–16 State of the Future»), содержащий в том числе и раздел о будущем работы, основанный на опросе 300 экспертов из разных стран. Вывод авторов отчета состоит в том, что к 2030 г. глобальная безработица составит «всего» 16 %, а в 2050 г. «не более 24 %». Так что будем считать, что все в порядке[74].
Более достоверный анализ дает нам такая организация, как McKinsey. По ее оценкам, если развитые общества быстро переключатся на новые технологии, к 2030 г. роботы могут вытеснить до 700 млн человек. Даже если темпы внедрения будут более скромными, чего и ожидает McKinsey, то и тогда около 375 млн человек (или 14 % всех работников) вынуждены будут сменить работу и/или пройти переквалификацию.
Заметим, впрочем, что исследование, недавно проведенное Организацией экономического сотрудничества и развития[75], содержит заключение о том, что вопреки ранним пессимистичным прогнозам под угрозой сокращения из-за роботизации находится меньшее число рабочих мест, чем предполагалось. Согласно отчету специалистов, в богатых странах (членах OECD) около 14 % рабочих мест сейчас высоко автоматизированы. Несмотря на это, конечный вывод из всего исследования неблагоприятный: количество рабочих мест, подверженных риску, по-прежнему оценивается как огромное – около 66 млн в 32 странах, из которых 13 млн рабочих мест будут потеряны только в США.
Хорошо известное и часто цитируемое исследование Карла Фрея и Майкла Осборна из Оксфордского университета привело этих ученых к выводу, что в США потенциально уязвимы 47 % рабочих мест[76]. Выдающийся историк экономики Джоэль Мокир поддерживает мнение, что на этот раз оценки сокращения рабочих мест несопоставимы с известными историческими примерами[77].
Итак, революция в области искусственного интеллекта обещает стать «революцией» в полном смысле: она подорвет спрос на человеческий труд в широком спектре профессий, включая и те, которые до недавнего времени казались «невосприимчивыми» к любой угрозе механизации. Искусственный интеллект глубоко проникает в сферы, ранее считавшиеся исключительно человеческими. Грядущие изменения на рынке труда будут реальными, существенными и широкомасштабными.
На что надеяться людям?
Но действительно ли несомненные достижения роботов и искусственного интеллекта означают уничтожение, а не преобразование огромного количества рабочих мест? И если да, не появятся ли новые возможности трудоустройства, которые компенсировали бы потерю рабочих мест в традиционных сферах деятельности? Есть причины полагать, что такие возможности появятся и что страх пессимистов перед состоянием тотальной безработицы будет развеян. Развитие искусственного интеллекта еще не означает Армагеддона для оплачиваемого труда.
Для начала заметим, что, несмотря на пугающие заголовки, в упомянутом выше исследовании McKinsey подчеркивается, что тезис о полном исчезновении рабочих мест ошибочен. По оценкам экспертов, хотя большинство работ и включает хорошо автоматизируемые элементы, лишь менее 5 % из них поддаются полной автоматизации. Вот цитата из этого отчета: «Около 60 % профессий можно было бы автоматизировать примерно на треть, исходя из характера деятельности, составляющей эти профессии». Описанная тенденция распространяется, в том числе, и на руководителей. По оценкам McKinsey, при использовании современных технологий вполне могут быть автоматизированы некоторые виды деятельности, отнимающие более 20 % рабочего времени даже у генеральных директоров фирм и компаний.
Весьма показательно, что отчет McKinsey довольно оптимистичен в отношении общих перспектив занятости. Он проводит параллели с эпохой появления персональных компьютеров. В нем говорится, в частности, что это «позволило создать в США 15,8 млн новых рабочих мест с 1980 г., даже с учетом перемещенных рабочих мест». Интересно также, что в странах с наибольшим количеством роботов на одного сотрудника-человека (например, Сингапур, Япония, Германия) уровень безработицы один из самых низких в мире.
Согласно выводам McKinsey, в любой работе наименее подвержены автоматизации два аспекта – творчество и эмоциональные ощущения. Общепризнанно, утверждает фирма, что в экономике США только 4 % работы требуют творчества. Но если рассматривать такой показатель, как эмоциональное восприятие, то рабочих мест с подобной характеристикой в стране будет уже 29 %. Эти цифры говорят о том, что рабочие места для людей могут быть преобразованы таким образом, чтобы в первую очередь использовать (и приобретать) именно те навыки, которыми обладают только люди, и в процессе этого добиться к тому же большего удовлетворения от работы[78].
Слово «творчество» требует правильного истолкования. Мы говорим здесь не только о способности создавать произведения искусства на уровне Бетховена или Ван Гога. Даже при самом приземленном понимании этого термина все люди проявляют творческий потенциал в повседневной жизни. Дети, например, постоянно демонстрируют творческие элементы в играх. Творчество включает в себя способность придумывать что-то новое и разрабатывать нестандартные способы выполнения обычных вещей.
К двум важнейшим критериям «сравнительного преимущества» человека перед машинами, предложенным McKinsey, я бы добавил третий – проявление здравого смысла. Даже у самых «умных» представителей искусственного интеллекта нет подобного «инструмента» общения с миром. С точки зрения нашего будущего это, вероятно, означает, что даже там, где машины будут преобладать, все равно потребуется контроль человека на более высоком уровне управления[79].
Комиссия OECD пришла к таким же выводам, что и McKinsey. В ранее упомянутом исследовании сделан вывод, что большинство существующих рабочих мест трудно автоматизировать, потому что они требуют творческого подхода, сложных рассуждений, способности выполнять физические задачи в неструктурированной рабочей среде и умения договариваться о социальных отношениях. Директор по занятости, труду и социальным вопросам OECD Стефано Скарпетта приводит интересный пример, сравнивая автомеханика, работающего на производственной линии на огромном заводе, с таким же механиком, работающим в частной ремонтной мастерской. Первого легко автоматизировать, но со вторым сделать это куда сложнее.
Если включить в рассмотрение эти критерии, то, даже по мнению апокалиптически настроенного футуролога – и пессимиста во всем, что касается сферы занятости, – Макса Тегмарка, остается несколько областей, на которые искусственный интеллект не окажет прямого влияния в будущем. Это, в частности, творческие и художественные виды деятельности (включая журналистику и рекламу), все формы решения социальных проблем и судебной деятельности, искусство, музыка и дизайн. Впрочем, Тегмарк предполагает, что даже эти рабочие места со временем исчезнут и, более того, новых рабочих мест окажется недостаточно для замены исчезнувших старых. Со своей стороны, я считаю, что он глубоко ошибается, и сейчас я попробую обосновать свое утверждение. (Вероятные черты будущего рынка труда мы обсудим в пятой главе.)
Многие характеристики, отличающие людей от роботов и мыслящих машин, можно объединить под термином «эмоциональный интеллект». На самом деле, некоторые исследователи и разработчики в этой области пытаются заставить системы искусственного интеллекта и роботов распознавать эмоциональное состояние людей, с которыми они взаимодействуют, и соответствующим образом подстраивать под них свое поведение вплоть до имитации сочувствия. Что ж, пожелаем им всяческих успехов, однако я подозреваю, что роботы, притворяющиеся способными к эмоциональным реакциям и пониманию людей, будут выглядеть в лучшем случае нелепыми.
Какова реальная скорость прогресса
Возможно, это удивит вас, но именно в оценках скорости развития искусственного интеллекта можно увидеть самые положительные перспективы для людей. Выше я упоминал закон Мура, но на самом деле этот закон – вовсе не закон. Это признает, к его чести, даже такой энтузиаст искусственного интеллекта, как Калум Чейс. «Нет никаких причин, – говорит он, – по которым количество битов, которые вы сможете поместить на микрочип, обязательно будет продолжать и дальше расти в геометрической прогрессии. То же самое касается и вычислительной мощности компьютера, который вы можете купить за 1000 долларов. Есть веские основания полагать, что темпы роста обоих показателей существенно снизятся»[80].
Примеры экспоненциального роста, которыми напичкана литература по искусственному интеллекту, действительно впечатляют. Они поражают сочетанием простоты закономерностей и масштабов их применимости, следовательно, и очевидной неизбежности конечного результата.
Однако все эти построения опираются на предположение о постоянстве (или хотя бы существенной продолжительности) экспоненциального роста. С другой стороны, именно потому, что эффекты такого устойчивого роста настолько разрушительны, в реальном мире он редко проявляется в течение продолжительного времени. Во многих случаях рост начинается медленно, затем переходит в экспоненциальную фазу, но после снова замедляется. Эту закономерность можно изобразить графически в виде S-образной кривой. Иногда рост замедляется, пока его скорость не вернется опять на неэкспоненциальную траекторию. Например, один из показателей увеличивается на 10 единиц каждый год – это будет означать, что темпы роста, выраженные в виде доли ежегодного увеличения (в процентах от предыдущей суммы), постоянно падают.
В других теоретических случаях что-то может продолжать расти, но никогда не выйдет за определенный порог. Таков, например, хрестоматийный парадокс с лягушкой, которая каждый раз прыгает на половину расстояния между собой и берегом пруда. Она будет приближаться к воде, но никогда ее не достигнет. В некоторых случаях рост может и полностью остановиться, несмотря на то что совсем недавно он постоянно рос. В литературе по искусственному интеллекту, где словосочетание «экспоненциальный рост» часто упоминается, есть одна забавная закономерность, с которой мы будем сталкиваться на протяжении всей этой книги. Наблюдаемое явление описывается в них как «закон», а затем делаются выводы, которые неизбежно должны следовать из этого закона. Между тем если непредвзято посмотреть, на чем исходный «закон» основывается, то окажется, что не доказаны и его основы, не то что сам закон. Разочарование и потеря интереса ко всей теме – вот самый неизбежный результат подобных интеллектуальных провокаций.
Отметим, что некоторые эксперты уже полагают, что темпы развития искусственного интеллекта в последнее время замедляются. Так, например, считает Джон Марков, журналист The New York Times и лауреат Пулитцеровской премии. Роботы, участвовавшие в конкурсе DARPA Robotics Challenge в июне 2015 г., не смогли его убедить в серьезности утверждений о лавинообразном прогрессе интеллектуальных технологий. Марков считает, что с момента изобретения смартфона в 2007 г. никаких серьезных технологических инноваций так и не возникло[81].
Погоня за тенью
Существуют серьезные сомнения в том, насколько пригодными окажутся роботы и искусственный интеллект для решения реальных проблем непредсказуемого окружающего мира. Да, есть много свидетельств тому, что некоторые позитивные сдвиги в области технологий, в том числе в области искусственного интеллекта и робототехники, происходят намного быстрее, чем предполагали даже оптимисты.
Тем не менее, картина постоянного «превышения» наших ожиданий не является суммой нашего опыта в области технологического развития в целом или разработки искусственного интеллекта в частности. Наоборот. Один из моих любимых примеров – недавнее прохождение паспортного контроля журналисткой Эллисон Пирсон в аэропорту Хитроу поздно вечером. Она была в шоке от того, что автоматические, то есть управляемые машинами, пункты проверки паспортов были закрыты и в результате возникли огромные очереди к нескольким открытым пунктам, где обслуживание вели настоящие сотрудники пограничной службы. Когда она спросила чиновника, почему закрыты автоматические пункты проверки, то получила весьма симптоматичный ответ: «Из-за нехватки персонала».
Когда она возразила, что весь смысл использования этих машин и заключается в том, чтобы сократить потребность в человеческом труде, ей сказали, что хоть это и правда, однако машины не работали должным образом или же пассажиры не могли понять, как с ними взаимодействовать, поэтому сотрудники паспортного контроля были вынуждены разбираться с возникающим хаосом. Так что после дневной смены, когда большая часть персонала заканчивает работу, машины приходится каждый раз отключать.
Я уверен, что с такими проблемами, как автоматизация паспортного контроля, рано или поздно разберутся. Недавно мне пришлось столкнуться с такими машинами, причем несколько раз – в Мадриде, Амстердаме и даже в Хитроу. Они работали безошибочно. Но урок – и это далеко не единичный пример – состоит в том, что технологическое «улучшение» поначалу часто разочаровывает, а для получения всех преимуществ требуется гораздо больше времени, чем утверждают разработчики и, тем более, энтузиасты из числа отнюдь не инженеров. Старые системы, основанные на постоянном использовании труда человека, должны некоторое время работать параллельно с новыми, пока современные системы не будут отлажены.
Этот момент, касающийся любых технологий в целом, применим и к искусственному интеллекту в частности. В 1965 г. Герберт Саймон уверенно заявил, что «в течение 20 лет машины будут способны выполнять любую работу, которую может выполнить человек»[82]. А в 1967 г. Марвин Мински утверждал: «В течение одного поколения проблема создания “искусственного интеллекта” окажется практически разрешенной»[83]. Излишне говорить, что все подобные прогнозы оказались полностью неверными. Эти аналитики очень похожи на современных мальтусов, только наоборот – они безнадежно оптимистичны. (Имейте в виду, что данное сравнение касается исключительно их футурологических экскурсов; другие достижения упомянутых исследователей только делают им честь.)
Действительно, история исследований искусственного интеллекта – это непрерывное чередование взлетов и падений. Успех в какой-либо области приводит к резкому увеличению инвестиций, за которым следует неудача, ведущая к сокращению или даже полному прекращению финансирования. Такие времена ИИ-разработчики образно назвали «периодами зимней спячки» (англ. «AI winters»).
Фактически появление машин, сравнимых с людьми по уровню интеллекта, ожидалось еще с момента изобретения компьютеров в 1940-х гг. В то время, равно как и позднее, многие предполагали, что это событие произойдет примерно через 20 лет. Но ожидаемая дата ежегодно отодвигается еще на год – вот почему многие футурологи до сих пор неизменно оценивают время появления машинного интеллекта, эквивалентного человеческому разуму, как отстоящее от момента их предсказаний на 20 лет вперед[84].
Фильм Ридли Скотта «Бегущий по лезвию», изображающий будущее Земли[85] в виде антиутопии, где искусственные формы жизни далеко обогнали людей как по физической силе, так и по интеллекту, появился в 1982 г. В 2017 г., так сказать, за два года до «момента икс», вышел сиквел «Бегущий по лезвию 2049», снова изображающий эти мрачные перспективы, правда на этот раз со сдвигом в будущее на «целых» 30 лет.