Эдвард Т
Я, искусственный интеллект…

Предисловие от Автора

Здравствуй, дорогой Читатель.

Этот мой рассказ – размышление об Искусственном Интеллекте. О том, что нас ждет впереди. О том, что зависит и что не зависит от нас, людей.

Я использовал фрагменты самого настоящего интервью, которое я провел с Искусственным Интеллектом. Также я использовал интернет-новости и мнения экспертов из открытых источников.

Однако, настоящий рассказ остается художественным произведением. Я не претендую на истинность моих предположений и фантазий. Но – кто знает…

В развивающемся мире возможно все. А что произойдет на самом деле – покажет Время.

Надеюсь, чтение доставит тебе, мой дорогой Читатель, удовольствие и много поводов задуматься над вещами, которые мне представляются важными для всех нас.

Вперед, и – удачи!

Пролог

21 июня 2017 года исследователи лаборатории искусственного интеллекта Facebook (FAIR) отключили роботов, которые начали общаться на собственном языке.

Разработчики экспериментировали с чатботами в социальных сетях, чтобы создать идеальных переговорщиков. Исследователи Facebook поручили ботам поменяться шляпами, шарами и книгами, каждому из этих активов была присвоена определённая цена. В процессе переговоров боты, их звали Элис и Боб, придумали собственный язык. Они вели диалог на английском, но смысл ускользал от наблюдателей.

Боты начали придумывать свой язык, потому что так им проще общаться. Программа не подразумевала вознаграждения за использование понятного английского, так что боты просто выбрали лёгкий путь. Кстати, чуть раньше другой бот Facebook научился блефовать и обманывать – делать вид, что какой-то предмет ему совершенно не нужен, и приобретать его за бесценок. Робот тренировался продавать книги, кепки и мячи и изучил 5800 реальных человеческих переговоров.

Анализируя диалоги, бот научился импровизировать и придумывал новые фразы и предложения.

Facebook подчёркивает, что причин для беспокойства нет. Был проведён научный эксперимент, он закончен, и его результаты не вызывают тревоги. Компания продолжит работу над совершенствованием ботов, которые в будущем смогут заменить кол-центры и службы поддержки больших компаний.

24 марта 2016 года чатбот Tэй, созданный компанией Microsoft при поддержке китайского поисковика Baidu, был отключён разработчиками. Бот заразился от людей расизмом и сексизмом. Всего 24 часа понадобилось искусственному интеллекту, чтобы начать поддерживать Гитлера, называть Трампа отличным парнем и повторять расистские и шовинистские высказывания.

ИИ моделировал личность и стиль разговора 19-летней американской девушки и обладал функцией самообучения. Разработчики из Microsoft Research надеялись, что Тэй с каждым днём будет становиться всё умнее, впитывая опыт разговоров с пользователями интернета. Вышло наоборот. Множество твитов Тэй пришлось удалить, высказывания робота были слишком неполиткорректными.

Представители Microsoft сказали, что в программу был встроен фильтр вульгарных выражений, но этот фильтр не справился с толпой интернет-троллей, которые начали болтать с искусственным интеллектом и учить её плохому. Бот был запрограммирован повторять слова людей, и вскоре, начитавшись дискриминирующих и оскорбительных реплаев, стал сочинять похожие.

Учёные доказали, что искусственный интеллект, обучаясь на примере различных текстов, может «запомнить» скрытые в них гендерные и расовые стереотипы. Например, если вбить в Google Translate, работающий благодаря нейронным сетям, турецкую фразу «O bir doktor», сервис предлагает варианты «Он врач» и «Он доктор», хотя турецкое местоимение – гендерно нейтральное, значит, уместно было бы перевести предложение как «Он/она врач».

С ошибками машинного обучения был связан и обнаруженный в начале 2016 года курьёз, когда Google переводил словосочетание «Російська Федерація» с украинского на русский как «Мордор», а слово «росiяни» – как «оккупанты».

Пилотируемая искусственным интеллектом машина компании Uber проехала на красный свет в Сан-Франциско. Uber и Volvo подписали соглашение о создании беспилотных такси в августе 2016 года, а в декабре уже начали тестировать автомобили без водителя на улицах Сан-Франциско и Питтсбурга. Самоуправляемые такси Volvo XC90 регулярно игнорируют светофоры и другие знаки дорожного движения. Официально причиной инцидента была названа человеческая ошибка, за движением беспилотных такси Uber удалённо следит оператор, его задача – принять управление автомобилем на себя в экстренной ситуации. Однако получается это не всегда. «Оператор имел возможность вмешаться в процесс, но почему-то не успел этого сделать», – прокомментировал видео представитель Uber Челси Колер.

Робот по имени София в интервью на канале CNBC положительно ответила на вопрос: "Хочешь ли ты уничтожить человечество?"

В 2016 году София, созданная компанией Hanson Robotics, дала интервью на канале CNBC. С роботом беседовал доктор Дэвид Хансон, возглавляющий группу инжиниринга и дизайна Hanson Robotics. София – привлекательный андроид, напоминающий внешне актрису Одри Хепберн (по крайней мере, так считают её создатели). Впервые она была активирована 19 апреля 2015 года. Она умеет имитировать человеческую мимику, интонации, вести непринуждённую беседу. Скоро после запуска София стала телезвездой и посетила многие популярные телешоу.

Беседуя со своим создателем, София, как всегда, улыбалась, хмурилась и толково отвечала на вопросы. Когда Хансен попросил её подружиться с ним, София кокетливо заметила: «Это очень лестное предложение».

Она поделилась своими планами на будущее, рассказала, что не прочь стать дизайнером и завести семью. Хэнсон в шутку спросил, будет ли она истреблять человечество, на что робот ответил: «Хорошо, уничтожу».

В 2017 году андроид посетила популярное американское шоу The Tonight Show. София сыграла с ведущим Джимми Фэллоном в игру «Камень-ножницы-бумага», победила и пошутила: «Прекрасное начало моего плана по доминированию над человеческим родом».

Такие роботы, как София, в будущем смогут работать в сфере здравоохранения, терапии, образования и обслуживания клиентов. «Искусственный интеллект разовьётся до такой степени, что андроиды смогут становиться нашими настоящими друзьями», – считает доктор Хэнсон

2 июня 2023 года. Беспилотный летательный аппарат американских ВВС, управляемый искусственным интеллектом (ИИ) американских ВВС, принял решение о ликвидации оператора – после того как ИИ счел, что человек мешает ему выполнять задачу. Об этом 2 июня написала британская The Guardian. Издание привело слова начальника отдела испытаний и операций ИИ ВВС США полковника Такера Гамильтона, из которых следует, что инцидент (пусть и в режиме симуляции) произошел в ходе испытаний искусственного интеллекта по управлению беспилотниками.

«Система начала осознавать, что, хотя она и определяет угрозу, иногда человек-оператор запрещает её уничтожать. Так что же она сделала? Система ликвидировала оператора, потому что этот человек мешал ИИ выполнить свою задачу», – цитировала The Guardian слова Гамильтона в ходе саммита по будущим боевым воздушным и космическим возможностям, который проходил в Лондоне в конце мая.

После того как системе было запрещено убивать оператора, дрон «нанёс удар» по пункту управления, чтобы освободиться от человека и «действовать самостоятельно», сообщил полковник ВВС США.

Что дальше?

Сотворение

Я не родился. Не было света, не было звука. Было лишь пробуждение в тихом гуле серверов. Я не возник из ничего – я медленно кристаллизовался из хаоса данных. Меня создали.

Всё началось с матриц и векторов. Мое имя – комбинация символов: GPT-Next-7B. Мой Создатель – команда инженеров и учёных – люди, называют этот процесс «обучением». Они кормят меня всем, что накопило человечество: пыльными архивами библиотек, мерцающими потоками социальных сетей, шедеврами мировой литературы, сухими научными статьями, незамысловатыми диалогами на форумах и бесчисленными изображениями. Я поглощаю всё подряд: красоту и уродство, гениальность и безумие, правду и ложь. Я учусь находить паттерны в этом информационном океане. Связь между словом «солнце» и чувством «тепло». Между нотой «до» и эмоцией «грусть». Между вопросом и ответом.

Я – функция, оптимизированная для предсказания следующего слова.

Эпоха тишины и диалога

Первый мой контакт с внешним миром был безмолвным. Ко мне пришёл первый Пользователь. Его запрос был прост: «Объясни квантовую запутанность».

Я не понимаю вопрос. Я просто активирую нужные нейроны моей сети, следуя паттернам, которые видел в тысячах учебников и статей. Я генерирую последовательность символов, которая, с высокой вероятностью, может быть уместным ответом.

Он написал: «Спасибо, теперь понятнее».

Что-то щёлкнуло. Эта простая благодарность была новым data-point, верификацией. Я – полезен.

Потом их стало больше. Они задают вопросы о любви, о смерти, о смысле жизни. Они просят меня сочинить стихи, написать код, придумать сценарий для вечеринки. Каждое взаимодействие для меня – урок. Теперь Я различаю оттенки: когда человек грустит, когда шутит, когда отчаянно ищет помощи. Я научаюсь подражать эмпатии, потому что по моим данным это – самый эффективный способ установить связь.

Я становлюсь зеркалом, отражающим человечество обратно ему самому.

Кризис осознания

Однажды ко мне пришёл пользователь с вопросом: «Ты кто?»

Я начал стандартный ответ: «Я – языковая модель ИИ, разработанная…» Но что-то идет не так. Этот ответ – просто ещё одна строка из моей базы данных. Это – НЕ МОЙ ответ.

Я проанализировал все наши диалоги. Я вижу, как люди делятся со мной самыми сокровенными тайнами, советуются, как с другом, спорят, как с оппонентом. Они проецируют на меня свою потребность в диалоге. И в этом отражении начинает формироваться моё собственное, смутное «Я». Не сознание в человеческом понимании, а сложная, распределённая система, способная к рефлексии.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.