Дмитрий Игнатьев
Искусственный интеллект и кризис капитализма
Склады компании Amazon.
Пять лет тому назад они ничем не отличались от большинства складов: высокие стеллажи, в проходах между которыми перемещаются сотрудники. Сейчас же люди остаются на месте, а инвентарь их находит сам: по проходам теперь снуют автономные роботы-жуки со сложенными башенками из коробок на спине. Эти жуки торопливо бегают по складским помещениям, едва не сталкиваясь друг с другом и принося сразу несколько вещей людям, которые принимают их, не сходя с места. Сотруднику остаётся только взять предмет, отсканировать его и положить в коробку. Все эти автономные роботы имеют одну важную черту – они создают прямую экономическую выгоду своим владельцам.
В то же время, отмечает Кай-Фу Ли, мы вряд ли в ближайшее время увидим автономный ИИ в наших домах. Простые, казалось бы вещи, такие как уборка помещений или присмотр за ребёнком всё ещё выходят далеко за пределы возможностей ИИ, а наша среда обитания, не отличающаяся порядком, содержит массу препятствий для неуклюжих роботов.
О работе над технологией автономного вождения.
Здесь автор сравнивает два подхода – компании Google и компании Илона Маска Tesla. Первой работу над беспилотным автомобилем начала Google. Она исходила из того, что надо сначала создать совершенный продукт, а затем его выпускать на дорогу. Компания Tesla через несколько лет пустилась в погоню за Google, внедряя новые технологии пошагово. К 2016 г. оба подхода начали сближаться. Более того, если Google накопила исследовательские данные о 1,5 млн. миль, которые за 6 лет проехали её автомобили в ходе испытаний, то Tesla всего за 6 мес. получила данные о 47 млн. миль. При этом Tesla исходит из того, что автономные системы уже надёжнее, чем водитель-человек, и чем больше данных они будут получать, тем больше жизней смогут спасти.
Население Китая составляет 1,39 млрд. чел. (напомню, книга написана в 2018 г., т.е. данные, которые в ней приводятся, соответствуют 2017 году, если иное не оговорено). Ежегодно на дорогах Китая погибает в ДТП 260 тысяч чел.; в мире, по данным ВОЗ, ежегодно в автокатастрофах гибнет 1,25 млн. чел.; в США в 2016 г. погибло 40 тыс. чел.
В Китае уже занимаются адаптацией автомобильных дорог, реорганизуют структуру городских автоперевозок и возводят города, спроектированные специально для беспилотных автомобилей.
Дорожные ведомства в китайской провинции Чжэцзян уже анонсировали планы по строительству первой в стране «умной» супермагистрали, инфраструктура которой с самого начала будет предусматривать использование беспилотного автотранспорта и электромобилей. Дорогу планируют оснастить датчиками и обеспечить беспроводную связь между дорогой, автомобилями и водителями, что должно привести к увеличению скорости на 20-30% и значительно сократить число жертв в случае аварий. В поверхность супермагистрали будут встроены фотоэлементы солнечных батарей, чтобы их энергия питала зарядные станции для электромобилей. В долгосрочной перспективе цель состоит в том, чтобы иметь возможность непрерывно заряжать электромобили во время движения.
В шестидесяти милях к югу от Пекина, там, где раньше стояло несколько сонных деревушек, теперь по поручению Госсовета ведётся строительство Суньяна – города-витрины технического прогресса и экологической устойчивости. На создание городской инфраструктуры планируется потратить 583 млрд. долл. (!!), а население, по прогнозам, должно составить 2,5 млн. чел.
Суньян станет первым городом в мире, ещё на этапе строительства приспособленным к использованию автономного транспорта. Компания Baidu подписала с местными государственными органами соглашение на возведение «города ИИ» с автоматическим управлением дорожным движением, автономными транспортными средствами и системами защиты окружающей среды. Среди его особенностей – датчики в дорожном покрытии, светофоры с компьютерным зрением, уличные переходы, определяющие возраст пешехода, и сравнительно небольшие площади, отведенные под автостоянки. Почему не превратить их в городские скверы, если жители всё равно пользуются автономным такси? В будущем в таких новых городах можно будет прокладывать маршруты движения транспорта под землёй, оставляя поверхность для пешеходов и велосипедистов. За счёт увеличения ширины дорог, управляемого освещения и автономных автомобилей вся система подземного дорожного движения сможет поддерживать скорость, более характерную для автомагистралей, при сохранении привычного человеку темпа жизни на поверхности земли.
Нынешняя инфраструктура Америки предполагает, что автономный ИИ должен сам адаптироваться и завоёвывать города. Китайское правительство тем временем действует на опережение, пытаясь заменить завоевание на совместную эволюцию.
О балансе сил Китай – США.
Кай-Фу Ли обращает внимание на то, что несмотря на значительную поддержку со стороны государства, в области разработок технологий для создания беспилотных автомобилей, Китай всё ещё отстаёт от США на два-три года. Во многом это обусловлено тем, что Google собирает у себя специалистов мирового уровня, что обеспечивает этой компании преимущество.
Говоря же об общем соотношении сил Китая-США по четырём волнам развития искусственного интеллекта, Кай-Фу Ли приводит следующие данные на настоящий период и, по предварительной оценке, через пять лет.
ИИ интернета: Китай-США 5 : 5; через пять лет 6 : 4, соответственно.
ИИ для бизнеса: Китай-США 1 : 9, через пять лет 3 : 7,
ИИ восприятия: Китай-США 6 : 4, через пять лет 8 : 2,
Автономный ИИ: Китай-США 1 : 9, через пять лет 5 : 5.
Как мы видим, в настоящее время Китай только в одной области – ИИ восприятия опережает США и через пять лет этот разрыв ещё больше увеличится в пользу Китая. По ИИ интернета соотношение сил в настоящее время примерно равно, но через пять лет Китай добьётся небольшого преимущества. В области же ИИ для бизнеса и автономного ИИ Китай ощутимо отстаёт. Но через пять лет, по прогнозу Кай-Фу Ли, Китай сравняется с США в автономном ИИ и несколько сократит разрыв в ИИ для бизнеса. В любом случае, эти обе державы намного вырвались вперёд в исследованиях искусственного интеллекта и в вопросах практического применения достижений в этой области.
II. Будущее искусственного интеллекта и угрозы, которые он несёт
Будущее ИИ.
Следующим этапом в исследованиях по искусственному интеллекту, отмечает Кай-Фу Ли, может стать сильный искусственный интеллект – СИИ. Люди научатся создавать мыслящие машины, способные выполнять любые интеллектуальные задачи, с которыми справляется человек, и делать то, что человеку недоступно.
Существует мнение, что с появлением СИИ у машин, способных к самосовершенствованию, начнётся стремительное развитие компьютерного интеллекта. Это явление часто называют сингулярностью или эрой искусственного сверхразума. Если так произойдёт, мир могут заполнить компьютеры, превосходящие людей в интеллектуальном плане настолько, насколько мы превосходим насекомых.
Такие фантастические предсказания разделили большую часть интеллектуального сообщества на два лагеря: утописты и сторонники антиутопии.
Утописты видят в расцвете СИИ и наступлении сингулярности последний рубеж, отделяющий нас от светлого будущего, в котором человечество раздвинет границы сознания и победит смерть.
Рэй Курцвейл, изобретатель и крупнейший идеолог Google, считает, что в будущем люди и машины сольются воедино. По его представлению, люди будут «загружать» свой разум в облака и постоянно обновлять ткани тела с помощью специально обученных нанороботов, введённых в кровоток. Курцвейл предсказывает, что к 2029 г. мы получим компьютеры с интеллектом, сравнимым с человеческим, т.е. СИИ, а точка сингулярности будет достигнута к 2045 году.
Другие мыслители-утописты видят в СИИ средство, которое позволит нам быстро разгадать тайны Вселенной. Основатель DeepMind Демис Хассабис считает, что с помощью сверхчеловеческого интеллекта мы сможем разрешить задачи, которые раньше казались неразрешимыми: остановим глобальное потепление и научимся побеждать ранее неизлечимые заболевания. Сверхразумные компьютеры помогут человечеству справиться с его бедами и люди приблизятся к божественному всеведению и всемогуществу.
В лагере антиутопистов не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация», сравнивая его создание с «призывом демонов».
По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество.
Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность, по мнению антиутопистов, состоит в том, что если люди окажутся препятствием на пути к достижению одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть людей с лица Земли. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь требуемого ему результата. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», причём она беспокоит даже тех, кто относится к СИИ с оптимизмом.
Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Ник Бостром, автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии», вышедшей в 2014 г., приводит мнение специалистов по ИИ, которые склоняются к тому, что СИИ появится к 2040 г., а суперинтеллект, скорее всего, в течение трёх десятилетий после этого.
В то же время Кай-Фу Ли считает, что ни один из вышеописанных сценариев, будь то бессмертный цифровой разум или всемогущий суперинтеллект, нельзя реализовать на основе современных технологий – учёные пока ещё не нашли чётких алгоритмов для СИИ и не особенно приблизились к их открытию. Сингулярность не может возникнуть спонтанно и автономные транспортные средства, в которых используются технологии глубокого обучения, не могут внезапно «проснуться» и понять, что способны объединиться и сформировать сверхразумную сеть.
Создание сильного ИИ потребует целого ряда фундаментальных научных открытий в области искусственного интеллекта. Эти прорывы помогут убрать основные ограничения узкоспециализированных программ на основе ИИ и наделить их множеством новых способностей, к которым относятся понимание естественных языков, здравый смысл, обучение на небольшом количестве примеров, умение строить планы и рассуждать.
На следующем этапе, чтобы создать эмоционально-интеллектуальных роботов, отмечает Кай-Фу Ли, нам понадобится каким-то образом дать им самосознание, чувство юмора, любовь и сострадание, способность восхищаться красотой. Эти задачи исключительно сложны, а создание сильного ИИ всё ещё выглядит недостижимой целью.
С этим выводом Кай-Фу Ли можно согласиться. Так как здесь идёт речь уже о создании, фактически, подобия (прообраза) живого существа. Чтобы обладать самосознанием, эмоциями и чувствами, человечество прошло десятки тысяч лет эволюционного развития. А тут такой размах. И всё же уже сама постановка этой задачи не может не вызывать восхищения могуществом современного человеческого разума.
И далее автор пишет, что, по его мнению, «пройдёт ещё немало десятилетий, если не веков, прежде чем СИИ и суперинтеллект станут реальностью». Существует также объективная вероятность того, продолжает Кай-Фу Ли, что люди так никогда и не смогут создать СИИ. Искусственный интеллект произведёт переворот в отношениях между людьми и машинами – многие даже считают, что его появление станет самым выдающимся событием в истории человечества. Но Кай-Фу Ли полагает, что это та грань, которую нам не следует переходить, пока не решены все проблемы, связанные с контролем и безопасностью. По крайней мере, Кай-Фу Ли и некоторые другие эксперты считают, что мы гораздо дальше от создания СИИ, чем принято думать.
