Роджер Бутл
Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин

Полная версия

Разочарование от роботов

Между тем, в реальном мире эффективность роботов пока еще не оправдывает возлагавшихся надежд. До некоторой степени их извиняет сама новизна технологии. Исторически компания General Motors представила первого промышленного робота под названием Unimate еще в 1961 г., однако даже сейчас около половины промышленных роботов используются только в автомобилестроении, где четко алгоритмизированные задачи и жестко заданные условия идеально подходят для них^[86].

Впрочем, и здесь существуют интересные нюансы. Например, для установки ветровых стекол на автомобили заводы обычно используют именно роботов, но если владелец машины обратится в автомастерскую для замены поврежденного стекла, он обнаружит, что эту же работу выполняют люди.

В области бытовых роботов-помощников, несмотря на огромные суммы денег, потраченные на достижение этой цели, до сих пор не удалось создать машину, не только интеллектуальную, но достаточно ловкую, чтобы… сложить полотенце^[87]. Завязывание шнурков, кстати, – еще один пример задачи, по-прежнему выходящей за рамки возможностей современной чудо-техники. Следовательно, пресловутое использование машин в качестве независимых помощников по дому (а не просто как инструментарий типа «беспилотного» пылесоса, помогающий обычным компаньонам или домохозяйкам) еще очень далеко от воплощения в жизнь, если даже этим мечтам суждено сбыться.

Исследователи из Сингапура пытались научить промышленного робота собирать плоский стул, купленный в магазине IKEA, где такая мебель продается в виде «полуфабрикатов», запакованная в плоские коробки и готовая к сборке. Хорошая новость заключается в том, что им это удалось. Плохая – для сборки одного стула потребовалось сразу два таких робота, предварительно запрограммированных специалистами именно для этой задачи, и на сборку ушло больше 20 минут. Утверждается, что человек способен выполнить сборку такого стула за более короткое время, хотя стоит заметить, что это не совсем так: неопытный человек мог бы потратить и гораздо больше времени или даже запутаться и бросить работу, так и не доведя ее до конца^[88].

Исследовательская группа компании Google, теперь известная как «X», недавно запустила проект по идентификации изображений кошек на YouTube. Появившаяся вслед за этим статья в The New York Times, посвященная данному проекту, была озаглавлена так: «Сколько требуется компьютеров для идентификации кошки? 16 000»^[89].

В Китае разработчики потратили уйму времени и денег в попытке создать роботов-официантов, которые не только могут правильно принимать заказы, но также способны приносить еду прямо к вашему столу, не пролив суп вам на колени. Три ресторана в Гуанчжоу на юге Китая, использовавшие автоматы в качестве официантов, были вынуждены отказаться от них, потому что роботы оказались недостаточно хороши^[90]. Несомненно, здесь сработал тот факт, что роботов не смогли научить вести себя по отношению к клиентам с тем же угрюмым высокомерием, которое их люди-собратья демонстрируют во многих странах мира.

В этих «досадных мелочах» и заключается главный парадокс исследований искусственного интеллекта. Задачи, которые представлялись очень сложными с человеческой точки зрения, для роботов и искусственного интеллекта оказались достаточно просты. Но задачи, которые выглядели очень простыми для людей, оказались им не под силу. Это противоречие часто называют парадоксом Моравца (Moravec’s paradox). В 1998 г. робототехник Питер Моравец писал: «Сравнительно легко заставить компьютеры показывать результаты на уровне взрослых в тестах по математике или игре в шашки, но трудно или невозможно дать им навыки годовалого ребенка, когда дело касается гибкости восприятия и подвижности ума»^[91].

Предыдущий парадокс тесно связан с другим, который известен как парадокс Поланьи (англ. «Polanyi’s paradox»). Экономист, философ и химик Карл Поланьи заметил в 1966 г.: «Мы знаем больше, чем можем сказать». Он имел в виду, что многие вещи люди делают без соблюдения четкого набора правил. Задачи, по-настоящему сложные для автоматизации, требуют не столько логики, сколько рассудительности, здравого смысла и гибкости мышления, которые люди зачастую сами не могут объяснить. А раз так, то тем более трудно систематизировать это понимание таким образом, чтобы искусственный интеллект смог его воспроизвести.

Менее впечатляющие особенности искусственного интеллекта

Искусственному интеллекту очень трудно справляться с логически неоднозначными или попросту неправильно сформулированными инструкциями. Рассмотрим, к примеру, инструкцию, которую можно увидеть на упаковках с лечебными шампунями: «Намылить, смыть, повторить»^[92]. Большинство людей легко поймут, что это означает: процедуру следует повторить дважды за один раз. Но ее можно легко интерпретировать и как «повторять до бесконечности». Теперь представьте себе домашнего робота, который решил искупать вашу любимую болонку в шампуне от блох…

Или возьмите ту прекрасную сцену из фильма «Паддингтон», когда одноименный медведь собирается совершить первое путешествие на лондонском метро. Он видит знак на эскалаторе, знакомый миллионам лондонских пассажиров: «Возьмите собаку на руки». Опасаясь нарушить закон, Паддингтон покидает станцию и крадет собаку, чтобы взять ее на руки, как того требует инструкция. Искусственный интеллект вполне может счесть эту инструкцию такой же сложной, как и медведь, никогда не видевший метрополитена.

Сторонники «всемогущества» искусственного интеллекта, без сомнения, возразят, что можно было бы запрограммировать искусственный интеллект так, чтобы он правильно интерпретировал эту инструкцию. Я уверен, что конкретно в этом случае они правы, но смысл нашей иронии вовсе не в этом. Такие логически неоднозначные инструкции могут возникать буквально на каждом шагу и без всякого предупреждения возможности предварительного программирования. Люди могут справиться с ними именно потому, что их мышление не совсем логично, вернее опирается далеко не только на формальную логику.

Даже компьютер Deep Blue, победивший в турнире чемпиона мира по шахматам Гарри Каспарова, имеет ограничения. Его триумфальная победа содержала и ложку дегтя, поскольку она подчеркнула контраст между прежними мечтами апологетов искусственного интеллекта о создании компьютера, который мыслил бы и играл в шахматы как человек, то есть творчески и интуитивно, и тем, что вышло на самом деле: Deep Blue играл в шахматы как… машина и выигрывал, применяя грубую вычислительную силу. Процессорная мощность позволяла ему оценивать за одну секунду около 200 млн возможных шахматных ходов^[93].

Легендарный профессор Массачусетского технологического института Ноам Хомский дал оценку достижению искусственного интеллекта в победе над чемпионом мира по шахматам в своем стиле, заявив, что это было не более неожиданным, чем победа вилочного погрузчика в соревнованиях по тяжелой атлетике. К этому вполне можно добавить, что не только роботы, но и другие существа превосходят людей в определенных областях. Например, летучие мыши, в отличие от нас, наделены способностью ориентироваться в темноте с помощью эхолокации. Но мне еще не довелось встретить никого, кто бы из этого сделал вывод, что при наличии достаточного времени на эволюцию летучие мыши превзойдут людей по общему интеллекту.

Британский философ Джон Сирл написал статью в Wall Street Journal, где остроумно поместил достижение системы Watson (суперкомпьютера с системой искусственного интеллекта, созданного фирмой IBM и победившего игроков-людей в популярной американской телевикторине «Jeopardy!») в неожиданный контекст. Его статья вышла в свет под заголовком: «Watson не знает, что он выиграл в “Jeopardy!”». Сирл указывает, что Watson не мечтал об этой победе заранее, не предвкушал и не праздновал ее. Никаких разговоров с друзьями, никаких соболезнований побежденным противникам…^[94]

Мюррей Шанахан также признал существование этих проблем и ограничений. «Чат-бот, – отмечает он, – который запрограммирован на то, чтобы отпускать остроумные шутки, или робот-гуманоид, который следит “глазами” за вашими перемещениями по комнате, может легко произвести впечатление очень умного. Но, как немедленно и верно заметят скептики, это всего лишь иллюзия»^[95].

При всех значительных достижениях в области искусственного интеллекта, его возможности до сих пор представляют собой цифровой эквивалент попугаев или ворон, которые могут удивить людей своими способностями воспроизводить человеческую речь, но не имеют ни малейшего представления о смысле произносимых слов или фраз.

Куда направлена трансформация?

Похоже, у многих экспертов по искусственному интеллекту превалирует тенденция к чрезмерному оптимизму. В отличие от них, профессор Такахаши, один из ведущих японских специалистов по робототехнике, предупреждает, что «люди слишком многого ждут от робототехники и искусственного интеллекта». Ссылаясь на давнюю мечту о создании автомата, который мог бы быть слугой, компаньоном и обычным помощником по дому, он добавляет: «Это все равно, что размещать сейчас наши колонии на Марсе: возможно, технологически это и осуществимо, но, откровенно говоря, подобный проект не стоит тех огромных инвестиций, которые потребуются для его осуществления. Есть куда лучшие и более продуктивные способы потратить деньги»^[96].

А уж если говорить про «интернет вещей», то в мире трудно найти инициативу, значимость которой была бы настолько преувеличена. Мы сможем отслеживать бесчисленное количество предметов в нашей повседневной жизни и определять, нужно ли их обновлять, полировать, очищать или исправлять. И что с того? Полагаю, что мы сможем, конечно, узнать кое-что полезное для себя, но по большому счету все это игра, которая не будет ни значительно снижать спрос на человеческий труд, ни существенно повышать благополучие человека.

Кстати сказать, недавно я впервые столкнулся с тем, что можно назвать «умным туалетом». Благопристойность не позволяет мне сообщать все подробности, но достаточно сказать, что этот туалет способен вести беседу очаровательным женским голосом, рассказывая историю своей жизни и посвящая слушателя в то, какие вещи ей (ему?) нравятся или не нравятся. Впрочем, это ровным счетом ничего не добавляет к полезности или удовольствию, полученному от нашего знакомства.

В будущем дверные ручки и занавески также смогут говорить с нами, когда им потребуется наше внимание, как те ужасные бесплотные голоса или звуки в машинах, которые сообщают нам, что мы не пристегнули ремни безопасности. Да ни за какие коврижки! Мне уже представляется кошмарное видение окружающих меня вещей, которые наперебой пытаются сообщить мне очередную порцию своих «бесценных» сведений и создающих немыслимую какофонию. Такое видение, заметил бы психолог, несомненно, свидетельствует о значительной информационной перегрузке.

Заметьте, что этот поток бесполезной информации будет далеко не бесплатным. Подобное направление развития предвидел еще в 1971 г. лауреат Нобелевской премии Герберт Саймон, с которым мы уже встречались. Он писал тогда: «Информация поглощает внимание получателей. Следовательно, обилие информации создает недостаток внимания»^[97]. Вот оно – настоящее пророчество! Недостаток внимания – безусловно, именно то, что характеризует наше время, в котором преобладают интернет, смартфоны и социальные сети.

Все мы неоднократно бывали свидетелями такой современной сцены, когда посетители ресторанов – друзья, партнеры, даже влюбленные парочки – сидят за столиками и каждый приклеен к своему смартфону, не обращая друг на друга никакого внимания. Виртуальная связь с кем-либо (или с чем-либо), независимо от расстояния, отдаляет нас от той компании, в которой мы сейчас находимся. Только Всевышний знает, насколько острее будет недостаток внимания, когда к этому адскому хору добавят «голоса» все неодушевленные предметы.

Не ждали?

Даже там, где информационные технологии оправдали возлагавшиеся на них надежды и уже используются на рабочих местах, они все еще не оказали предполагавшегося по уровню воздействия на людей и общество – ни во благо, ни во вред. Люди уже давно пришли к пониманию того, что технический прогресс имеет отрицательные экономические последствия. В 1931 г. сам Эйнштейн обвинял машины в том, что они вызвали Великую депрессию. Через полвека после этого премьер-министр Великобритании Джеймс Каллаган поручил государственным службам провести исследование возможных угроз для рабочих мест со стороны автоматизации^[98].

Когда компьютеры только появились, неоднократно высказывались опасения, что они погубят большую часть существовавших тогда офисных рабочих мест. Ничего подобного не произошло, разве что практически исчезла работа машинистки. А как же безбумажный офис? Не вспоминается, правда?

В частности, когда в 1980-х гг. появилось программное обеспечение для работы с электронными таблицами, широко распространилось мнение, что вскоре это приведет к огромным потерям рабочих мест среди бухгалтеров. Результат оказался прямо противоположным: количество бухгалтеров и аудиторов, работающих в США, увеличилось с 1,1 млн в 1985 г. до 1,4 млн в 2016 г. Как это часто бывало и раньше, новая технология только расширила сферу деятельности бухгалтеров. Соответственно, спрос на их услуги возрос.

В формальных экономических терминах наиболее популярные объяснения, касающиеся роли искусственного интеллекта, просто следуют общепринятому мнению о влиянии предыдущих технологических достижений, предполагая, что новое оборудование неизбежно заменит старую рабочую силу. Некоторые технологические достижения действительно приводят к таким последствиям, но другие, наоборот, расширяют сферу применения человеческого труда и, следовательно, увеличивают спрос на него^[99].

Вот еще хороший пример, более близкий к повседневной жизни. Технический прогресс замечателен и прекрасен, но влияет он на реальную жизнь гораздо меньше, чем это могло бы показаться поначалу. Вы читаете эти строки на бумаге или в электронной книге, типа PocketBook или Kindle? Я уверен, что большинство из вас будут читать их, используя тот традиционный носитель информации, который сейчас пренебрежительно называют «бывшим деревом» (англ. «dead trees»). Всего несколько лет назад многие предсказывали, что распространение электронных книг приведет к полному исчезновению печатных изданий. Более того, отказ от печатных изданий и перевод книг в цифровую форму предоставят возможность для бесконечных улучшений дизайна, оформления и внешнего вида. Следовательно, никакая книга никогда не будет закончена, а будет постоянно обновляться и исправляться. По правде говоря, такая книга действительно перестала бы быть книгой и стала бы больше похожа на непрерывную новостную ленту.

Разве это не кошмар? Пожалейте бедных авторов! Представьте себе, что вы никогда не сможете расстаться со своим творением и вам придется пересматривать и переделывать все написанные вами произведения до тошноты… Трудно вообразить что-то более ужасное.

Но мы, авторы, можем расслабиться. Многообещающее развитие не зашло так далеко. Более того, похоже, описанного выше кошмара никогда и не случится. Действительно, мы видим, что за последние пару лет продажи электронных книг заметно упали, поскольку читатели массово возвращаются к печатным версиям. Лично я совершенно не удивляюсь такому повороту событий. Электронные книги имеют свою нишу, но в целом они не соответствуют ни удобству чтения, ни ощущению физического воплощения идей и мыслей, которые дает вам печатная книга. Я предполагаю, что оба формата будут сосуществовать, но печатная версия так и сохранит статус «подлинной». Следовательно, постоянное обновление книги и крах самой идеи этого жанра как законченного произведения будут жить только в страшных снах у литераторов.

Точно так же, когда впервые появилось кино, считалось, что оно скоро убьет театр. А позже, когда на арену вышло телевидение, многие утверждали, что оно убьет и кино, и театр. Ничего подобного не случилось. Кино, телевидение и живой театр существуют бок о бок. Более того, они все творчески подпитываются друг от друга.

Во что нам обходятся роботы и искусственный интеллект?

В чем же причины такого мрака и обреченности во взгляде на экономические перспективы у такого количества экспертов по искусственному интеллекту и даже у некоторых экономистов, не говоря уже о массе аналитиков из других областей? Я думаю, что проблема тут в отношении к роботам и прочим «умным» машинам как к прямым конкурентам для работающих людей. Когда вы смотрите на вещи таким образом, мрачные мысли не заставят себя долго ждать.

Для целого ряда футурологов революция, связанная с развитием искусственного интеллекта и робототехники, почему-то выглядит как повторение того, что произошло с западным миром в результате глобализации и экономического рывка в Китае. Упомянутые события фактически добавили несколько миллиардов человек к рабочей силе, но (по крайней мере, вначале) это почти не сопровождалось вливанием дополнительного капитала. Результатом оказалось сильное давление на реальную заработную плату в западных странах, падение цен и тенденция к снижению совокупного спроса, что привело к чрезвычайно низким процентным ставкам. Эта совокупность привела, в свою очередь, к глобальному финансовому кризису, за которым последовала великая рецессия – самый сильный спад в мировой экономике со времен Великой депрессии 1930-х гг.

На самом деле, легко понять людей, полагающих, что роботизация приведет к еще худшим последствиям. В конце концов, развитие Китая сыграло такую роль, поскольку зарплата китайских рабочих была очень маленькой по сравнению с западными коллегами. Но роботы и искусственный интеллект, как часто считают, будут работать даром. Неудивительно, что люди, которые так видят экономику внедрения роботов, уже преисполнены страха.

Но мы не должны думать о роботах и искусственном интеллекте как об изобилии бесплатных наемных рабочих. На самом деле это всего лишь единицы капитального оборудования. Таким образом, хотя они не получают заработную плату, не имеют пособий и не претендуют на пенсию, все равно они определенно не бесплатны. Их строительство и обслуживание требуют денег, а финансирование их развития – инвестиций, то есть опять-таки денег.

Кроме того, каждому роботу требуется правильное программное обеспечение. Оно не возникает даром. Его необходимо если не разрабатывать постоянно, то по крайней мере обновлять, причем не только для того, чтобы оно соответствовало последним нормам производительности, но просто для того, чтобы оно могло хоть как-то функционировать. Не забывайте, что роботам нужно будет общаться с другими роботами и все они будут постоянно развиваться.

Как известно, робот, называемый Baxter, работает за «плату», примерно равную четырем долларам в час. Но на самом деле «Бакстеры» не очень эффективны и большим спросом не пользуются. Они могут быть дешевыми в эксплуатации, однако стоимость каждого из них составляет 22 000 долларов и даже больше. Продажи этих машин в свое время так и не поднялись, в результате чего к концу декабря 2013 г. производитель «Бакстеров» фирма Rethink уволила четверть своих сотрудников^[100].

По словам Кевина Келли, покупка промышленного робота обходится в 100 000 долларов, а то и дороже. Но это все цветочки, ведь вам придется потратить в четыре раза больше в течение срока службы робота на его программирование, обучение и обслуживание, в результате чего общий счет за время, пока вы им пользуетесь, составит как минимум полмиллиона долларов^[101].

Таким образом, использование робота требует немалых вложений в основной капитал. И вложения будут зависеть от обычных факторов, которые определяют целесообразность любых промышленных инвестиций: стоимость оборудования, затраты на техническое обслуживание, норма прибыли, стоимость финансирования и риски, включая риск устаревания. Последний фактор в случае роботизации может оказаться чрезвычайно важным. Даже после того, как роботы станут играть важную роль в экономике, технический прогресс продолжится (а может, и ускорится). По мере совершенствования программного обеспечения и важнейших конструктивных особенностей старые версии роботов могут быстро терять первоначальную ценность – вплоть до полного морального устаревания.

Давайте сравним эту ситуацию с развитием технологии звукозаписи. Возможно, когда-то люди были вполне довольны старыми граммофонами на 78 об./мин., но вскоре они устарели, так как на смену пришли грампластинки на 45 об./мин. и 33 об./мин. Какое-то время спустя в лидеры выбились магнитофоны (сначала бобинные, потом кассетные), но тоже ненадолго, потому что над ними взяли верх компакт-диски. К настоящему моменту устарели и магнитофоны, и компакт-диски, которые когда-то казались последним словом, теперь музыка просто скачивается из интернета или хранится на флеш-носителях.

Пока роботы имеют начальную стоимость, у людей есть шанс оттеснить их, даже если роботы технически окажутся более эффективными. И чем выше стоимость роботов, тем легче люди смогут победить их в конкуренции. Или, говоря техническим языком, чем выше стоимость роботов, тем выше будет уровень заработной платы, при котором люди смогут оставаться более рентабельным вариантом на одном и том же рабочем месте.

Более того, существуют широкие возможности для того, чтобы лучшим конкурентом с технической точки зрения была комбинация «люди + роботы» или «человек + искусственный интеллект». Рассмотрим опять шахматы. Уже давно стало ясно, что искусственный интеллект может превзойти даже величайших шахматных чемпионов. Но сейчас появляются доказательства того, что совместные усилия хорошего шахматиста-человека и искусственного интеллекта позволяют победить не только других шахматистов, но и лучшие искусственные шахматные системы, играющие без поддержки со стороны человека.