Джереми Кан
Укрощение искусственного интеллекта. Пособие по выживанию в нашем необыкновенном будущем

Посвящается Виктории, Корделии и Габриэлю

Перевел с английского Сергей Борич по изданию:

MASTERING AI: A Survival Guide to Our Superpowered Future /Jeremy Kahn. – Simon & Schuster.

Охраняется законом об авторском праве. Нарушение ограничений, накладываемых им на воспроизведение всей этой книги или любой ее части, включая оформление, преследуется в судебном порядке.

© 2024 by Jeremy Kahn

© Перевод на русский язык, издание на русском языке. ООО «Попурри», 2025

Введение: ИИ как озарение

Это называется озарением[1] – момент, когда идея, родившаяся в дальнем углу сознания, вдруг материализуется и становится осязаемой почти физически. Подобные озарения случаются как у отдельных людей, так и у общества в целом: приходит время, и все начинают понимать, что старая эпоха закончилась и на смену ей идет новая. Так бывает, когда технология воплощается в изделиях или программах, которыми могут пользоваться даже люди без специальных знаний и которые позволяют по-новому взглянуть на будущее.

Электрическая лампочка когда-то стала одним из таких озарений – и в прямом, и в переносном смысле. 31 декабря 1879 года[2] Томас Эдисон щелкнул выключателем в своей лаборатории в Менло-Парке, штат Нью-Джерси, и его лампа накаливания осветила дивный новый мир, работающий на электричестве, а не на газе или на пару. Изобретатели и ученые[3] по обе стороны Атлантики почти десять лет соревновались друг с другом в коммерциализации электричества. Но их изобретения, как правило, носили слишком научный или эзотерический характер. Эта же лампа была совсем другой: она представляла собой устройство, которое каждый мог взять в руки, рассмотреть и понять.

За последние три десятилетия мы пережили целую череду ярких моментов, связанных с цифровыми технологиями. Интернет существовал и до появления веб-браузера, но только после запуска Netscape Navigator в 1994 году наступила подлинная эра интернета. MP3-плееры были в ходу и до появления iPod в 2001 году, но они не стали толчком к революции в цифровой музыке. Смартфонами пользовались и до того, как Apple в 2007 году выпустила iPhone, но до iPhone не существовало ни одного приложения для них. А 30 ноября 2022 года[4] настал момент озарения и для искусственного интеллекта: именно в этот день исследовательская организация OpenAI представила чат-бот ChatGPT.

В качестве журналиста я освещаю тему искусственного интеллекта с 2016 года и наблюдаю за постоянным развитием этой технологии. ИИ уже давно является предметом интереса руководителей компаний и технологов, но до ChatGPT он никогда не находился в центре общественного обсуждения. Для тех, кто внимательно следил за развитием направления, прогресс казался достаточно медленным и постепенным: когда ChatGPT дебютировал, я думал, что это просто очередной шаг вперед. В конце концов, на первый взгляд чат-бот мало чем отличался[5] от модели ИИ под названием Instruct GPT, которую OpenAI запустила годом ранее. Я уже писал об Instruct GPT – важной доработке большой языковой модели OpenAI GPT-3. Instruct GPT было легче, чем GPT-3, контролировать с помощью текстовых инструкций, или подсказок. Эта модель с меньшей вероятностью выдавала расистский, сексистский, гомофобный или иной токсичный контент и могла выполнять множество задач на обычном человеческом языке: от перевода до обобщения и кодирования. Но Instruct GPT не оставила даже ряби на поверхности воды общественного дискурса.

Поэтому меня удивила реакция на дебют ChatGPT. И совершенно напрасно. Оказывается, большое значение имеют интерфейсы, которые мы используем для взаимодействия с технологией, например строка поиска Google. Как автомобиль Ford Model T представлял собой нечто большее, чем просто двигатель внутреннего сгорания и четыре колеса, так и OpenAI со своим понятным интерфейсом чат-бота оказалась в выигрыше. Для меня это понимание пришло тоже как озарение.

На протяжении бо́льшей части предыдущего десятилетия развитие ИИ происходило в узких областях. Ряд достижений ИИ, о которых я рассказывал до появления ChatGPT, касался программ, способных победить человека в играх. В марте 2016 года передовая лаборатория компании Google DeepMind[6] создала программное обеспечение под названием AlphaGo, которое одержало победу над чемпионом мира Ли Седолем в древней стратегической игре го. Это стало выдающимся достижением в области компьютерных наук. В го так много возможных комбинаций ходов, что алгоритм не способен использовать простой перебор вариантов для анализа каждой из них, как это делают программы ИИ в шахматах, и ему приходится опираться на вероятности, полученные по результатам сыгранных партий, чтобы решить, какой ход будет лучшим. Но игры всего лишь игры. Конечно, они могут служить основой для выработки навыков, которыми мы хотели бы овладеть с помощью ИИ, однако по природе своей игры – лишь некие абстракции, отражающие сложность жизни. Доска для игры в го имеет в буквальном смысле черно-белую окраску, и оба игрока могут видеть положение всех фишек.

Позже DeepMind продемонстрировала[7] систему искусственного интеллекта, победившую лучших игроков-людей в сложной видеоигре StarCraft II, воображаемый мир которой имеет чуть больше сходства с нашей непростой реальностью. Та же исследовательская компания OpenAI[8], впоследствии создавшая ChatGPT, разработала программу на базе ИИ, которая смогла победить команду людей в быстро развивающейся видеоигре Dota 2. Но на тот момент это еще не стало сенсацией, так как слишком мало людей знало о StarCraft II или Dota 2, а программное обеспечение, освоившее эти игры, пока еще не годилось для применения в реальной жизни.

До появления ChatGPT магия ИИ, как правило, была скрыта от глаз публики. Искусственный интеллект помогал привычным продуктам рынка выполнять какие-то функции, например рекомендовал фильм или отмечал человека на фотографиях в социальных сетях. Эти способности ИИ впечатляли, но они не были технологиями общего назначения, и большинство людей не догадывались, что за подобными действиями стоит ИИ. Мои редакторы иногда пожимали плечами, когда я предлагал написать статью об одном из этих узких достижений в области ИИ, и, оглядываясь назад, я их не виню. Такой ИИ казался слишком далеким от примеров искусственного интеллекта, которые все мы видели в фильмах, будь то злобный разум HAL 9000 в фильме Стэнли Кубрика «2001 год: Космическая одиссея», добродушный компьютер из «Звездного пути» или даже очаровательная цифровая помощница из фильма «Она» 2013 года.

Все начало меняться в 2018 году, когда исследователи добились решительного прогресса с большой языковой моделью – разновидностью технологии ИИ, на которой построен ChatGPT. Их успехи доказали, что достаточно большая система ИИ, обученная только предсказывать очередные слова в предложении, может быть использована для решения самых разных задач – от перевода до обобщения разрозненных данных и даже ответов на вопросы. А раньше для каждого из этих действий требовалась отдельная система ИИ. В мире ИИ это стало большим событием, и я написал в Bloomberg о его далеко идущих последствиях для бизнеса, а затем и в Fortune. Но даже после этого интерес к новой технологии был незначительным, поскольку она не имела воплощения в простой и доступной продукции. Большинству людей, включая и многих экспертов, было сложно понять, насколько сильно изменится мир с ее помощью. У тенденции недооценивать прогресс[9] в области ИИ есть свое название – «эффект Теслера». Ларри Теслер – компьютерный специалист, однажды заявивший: «ИИ – это то, что еще не сделано». По его словам, все, что уже создано, обществом считается чем-то само собой разумеющимся. Как только программа ИИ осваивает очередное умение, мы исключаем его из категории «интеллект», который воспринимается нами как некое аморфное качество, требующее «человеческого» сочетания способностей, недоступных для любых программ.

С помощью ChatGPT ИИ наконец-то справился с эффектом Теслера, и даже более того. Люди внезапно поняли, что ИИ уже существует: с ним можно разговаривать и он может отвечать на вопросы убедительно и уверенно, пусть и не всегда правильно. Вы можете спросить у него рецепт, основываясь на ингредиентах, имеющихся в вашем холодильнике, попросить подвести итог вашей встречи в прозе или, если хотите, в стихах, обратиться к нему за идеями по улучшению бизнеса или за советом, как поговорить с начальником о повышении зарплаты. ChatGPT в состоянии создать для вас веб-сайт или написать программное обеспечение, способное обрабатывать и анализировать данные. В сочетании с другими генеративными моделями ИИ он может создавать изображения практически всего, что получается описать словами.

Только теперь люди оценили искусственный интеллект. Он уже напоминал фильм Стэнли Кубрика и «Звездный путь». Наше отношение к этой технологии в одночасье превратилось из безразличного в озадаченное. Что все это означает? Какое будущее открывает нам ИИ? Есть ли у нас вообще будущее? Конечно, были и пугающие заявления, сделанные даже теми самыми руководителями и исследователями, которые находились ближе всего к переднему краю новой технологии. Они предрекали, что ИИ может лишить работы 300 млн человек[10] по всему миру, что ChatGPT подобен «карманной ядерной бомбе», взорвавшейся среди ничего не подозревающей публики, что он сведет к нулю образование, разрушит доверие и уничтожит демократию, что ИИ может вообще означать[11] исчезновение человечества, если мы не проявим осторожность (как заявил соучредитель и глава OpenAI Сэм Альтман).

Эта книга представляет собой попытку ответа на многочисленные вопросы, поставленные перед нами ChatGPT. Исследуя проблему, я был поражен тем, как много тревог, доходящих порой до паники, у человечества было при внедрении более ранних технологий, в том числе печатного станка, телевидения и интернета. Некоторые опасения насчет ИИ возникли еще на заре компьютерной эры, другие – совсем недавно, с появлением интернета, GPS, социальных сетей и мобильных телефонов. Можно извлечь важные уроки из того, как мы коллективно справлялись с проблемами, которые ставили перед нами все эти изобретения, как менялись или, что еще важнее, не менялись мы сами. ИИ представляет собой ускорение, расширение, а во многих случаях и обострение прежних тенденций. Когда речь идет о социальной изоляции или недоверии к средствам массовой информации, ИИ дает повод для подобной же озабоченности, но уже в превосходной степени.

Правда, от предыдущих инноваций ИИ отличается тремя ключевыми моментами. Во-первых, это технология более общего назначения, чем те, с которыми мы сталкивались ранее, и данный факт делает появление ИИ гораздо более похожим на изобретение письма, металлургии или электричества, чем на изобретение телефона, автомобиля или самолета. Как считают некоторые специалисты по ИИ[12], это, пожалуй, «последнее изобретение», которое нам суждено сделать, потому что искусственный интеллект способен помочь создать все будущие необходимые нам технологии и повлиять практически на все сферы жизни общества.

Во-вторых, ИИ развивается более быстрыми темпами, и его внедрение также происходит быстрее, чем у предыдущих технологий. В течение месяца после выхода ChatGPT число пользователей достигло 100 млн человек[13], а у Facebook – предыдущего самого быстрорастущего потребительского программного продукта – на это ушло почти четыре с половиной года. Расходы на новую технологию растут: более половины компаний из списка Fortune 500[14] планируют в течение ближайших нескольких лет внедрить ИИ, подобный ChatGPT.

Скорость, с которой все происходит, также имеет значение, потому что нам, людям, остается меньше времени, чтобы приспособиться к новой реальности, которую помогает создавать ИИ, – меньше времени, чтобы подумать о последствиях ИИ и о том, как мы собираемся управлять этой технологией, и меньше времени, чтобы начать действовать, пока не стало слишком поздно, пока не нанесен ущерб, каким бы он ни был.

И третье. Как никакая другая технология, ИИ наносит удар по нашему самому больному месту – интеллекту и творчеству, заставляя людей сомневаться в своей уникальности. Когда Джоны Генри[15] всего мира в конечном итоге проиграли паровому молоту, физический труд существенно обесценился. Однако физическая сила никогда не относилась к доминирующим качествам человека. Мы всегда знали, что есть другие существа, способные одолеть нас в схватке, обогнать, прыгнуть дальше, нырнуть глубже… Но ничто не могло превзойти нас в разуме. Микропроцессоры и предыдущие поколения программного обеспечения соперничали с некоторыми из наших когнитивных способностей: они могли выполнять вычисления гораздо быстрее и точнее, чем мы, и могли так же точнее и быстрее выполнять любые предписанные действия. Однако мы сами создавали программное обеспечение для того, чтобы эти предписанные действия выполнялись. Компьютеры не бросали вызов самой сути нашего интеллекта – способности рассуждать, изобретать новые способы решения проблем, высказывать идеи и эмоции в самой разной форме. ИИ бросает вызов большинству, если не всем, этим человеческим качествам. Именно поэтому он вызывает такую глубокую тревогу и заставляет относиться к нему одновременно и с восторгом, и с ужасом. Мы внезапно оказались в положении, заставляющем задуматься о том, как долго нам еще суждено оставаться главенствующим интеллектом на планете.

Хотя от всего этого голова идет кругом, нам есть на что рассчитывать в будущем, определяемом ИИ. Он может поделиться с нами своими сверхспособностями, если мы примем правильные решения при проектировании и определим верную политику. Он также может облегчить бремя рутинных задач, позволяя нам работать быстрее и умнее, что приведет к беспрецедентному буму производительности и экономическому росту. ИИ не уничтожит образование, как опасаются некоторые учителя и родители, а позволит каждому из нас иметь в кармане персонального репетитора. ИИ поможет расширить границы науки и медицины, предложив новые методы лечения в рамках персонализированной медицины. Он углубит понимание химии, биологии и даже нашей собственной истории и предыстории. Он поможет нам следить за состоянием нашей планеты и сохранять биоразнообразие, а также более эффективно использовать возобновляемые источники энергии. Многим из нас он подарит постоянного спутника, возможно, облегчит одиночество и позволит тем, кто испытывает трудности в общении, улучшить свои социальные навыки. При правильном использовании он может укрепить нашу демократию.

Но и здесь людей подстерегает серьезная опасность. Если мы сделаем неправильный выбор, ИИ ослабит нас как индивидуально, так и коллективно. Наши социальные навыки могут атрофироваться, а на работе мы окажемся не хозяевами машины, а ее бесправными и демотивированными рабами. Без умелых действий правительства неравенство станет еще сильнее, а власть сконцентрируется еще больше. Вирусное распространение контента от ИИ подорвет доверие и повредит и без того тонкую ткань нашей демократии. Энергопотребление ИИ может навредить нашим усилиям по борьбе с изменением климата, а развитие технологий ускорит создание биологического оружия, которое сделает наши войны еще более смертоносными как для мирных жителей, так и для солдат. В неправильных руках ИИ способно стать инструментом террора. Если мы автоматизируем принятие решений о применении ядерного оружия, это может оказаться гибельным для всего мира. Есть даже вероятность превращения будущего искусственного сверхинтеллекта в угрозу для нашего вида.

На следующих страницах мы поговорим и о других аспектах влияния ИИ на нашу жизнь, которым не уделяется столько внимания, сколько историям о конце демократии или даже всего мира. Главный из них – угроза, которую ИИ представляет для нашего разума и мышления. Мы не должны позволить когнитивным способностям ИИ снизить наши собственные. Другой критический риск, обсуждению которого уделяется слишком мало внимания, – неспособность ИИ к эмпатии, которая должна занимать центральное место в процессе принятия решений. Наконец, ИИ может усугубить расовое и классовое разделение, которое и без того будоражит наше общество.

Но есть и более обнадеживающая информация: я продемонстрирую возможности искусственного интеллекта, которые часто упускаются из виду. Хотя ИИ способен усугубить неравенство, он в то же время дает нам шанс вовлечь больше людей в средний класс, помочь им создать новый бизнес и стать предпринимателями. Это может привести к расцвету творчества и культуры, улучшению обучения и расширению наших личных и коллективных знаний.

Исследование темы ИИ начнем с краткого экскурса в историю, объясняющего, как мы оказались на пороге новой эры. Затем мы поговорим о том, как сильно ИИ способен изменить наше собственное мышление, коснемся темы влияния ИИ на социальные и трудовые отношения, на компании, в которых мы работаем, и экономику в целом. Далее уделим внимание тому, какие изменения ИИ внесет в искусство, культуру, науку и медицину. Обсудим, может ли он стать угрозой устойчивости нашего мироустройства и демократии, а также как его будут использовать в системах вооружения. Наконец, попробуем понять, может ли случиться так, что ИИ приведет к вымиранию человечества.

Во всех этих сферах ИИ ставит перед нами тревожные вопросы об аутентичности и доверии, а также о том, что философы называют онтологией (это наши убеждения о бытии и реальности) и эпистемологией (то, как мы строим эти убеждения). В нашем будущем, которым будет управлять ИИ, мы должны четко различать подлинность и ее имитацию. ИИ отлично умеет мимикрировать, то есть имитировать понимание, письмо, мышление и творчество. Но в большинстве случаев он не способен на самовыражение, и так, скорее всего, будет всегда. Он может дополнить и расширить ключевые аспекты нашей человечности, но мы не должны обманываться, полагая, будто он сможет нас заменить. Нам следует помнить, что главная способность ИИ заключается в том, чтобы усиливать, а не заменять наши природные дарования.

В этой книге я постараюсь разобраться с тем, каким путем мы пойдем к тому будущему миру сверхвозможностей, который в состоянии создать нам ИИ. Но путь узок, по нему придется ступать очень осторожно. Надо обдуманно подходить к созданию моделей ИИ и, что не менее важно, к взаимодействию с ними.

В конце концов, то, как мы будем использовать ИИ, зависит только от нас. Нам как обществу предстоит принимать самые важные решения в сфере политики и финансов, которые редко обсуждаются в публичной сфере. Только осмотрительный подход разрешит нам использовать ИИ для дополнения наших лучших человеческих навыков, а не их вытеснения. Государственная и корпоративная политика будет иметь решающее значение для определения степени влияния ИИ. Об этом и пойдет речь в книге.

Наиболее важным окажется не то, какие умения продемонстрирует ИИ, сколько то, как мы будем с ним взаимодействовать. Чтобы не допустить ошибок, мы должны так же высоко ценить знания специалистов по взаимодействию людей и компьютеров, по когнитивным предубеждениям человека, как и знания тех, кто создает все более мощные модели ИИ.

В вопросах разработки программного обеспечения ИИ люди должны выступать как единая команда, а не просто как контролеры достигнутых успехов. Нам надо придерживаться позиции, что процессы для нас столь же важны, как и результаты, и эти процессы должны включать в себя эмпатию – сопереживание другим людям, порожденное жизненным опытом. Эмпатия – самый ценный и непреходящий человеческий дар, основа нашей морали. И вряд ли искусственный интеллект когда-нибудь станет обладать эмпатией. Нам нельзя допустить, чтобы гонка за технической эффективностью ИИ устранила главенство эмпатии – самой человеческой черты – в нашей цивилизации. Удержать такой ориентир в поле зрения будет непросто. Но если нам это удастся, мы добьемся успеха в освоении ИИ.

Глава 1. Чародеи

Весной 2020 года[16] в огромном, размером с 20 футбольных полей, здании без окон, находившемся на равнинах возле Де-Мойна, штат Айова, с помпой был запущен в эксплуатацию один из самых больших суперкомпьютеров всех времен. Суперкомпьютер состоял из множества блоков специальных компьютерных чипов, изначально разработанных для визуализации графики в видеоиграх. Более 10 тыс. чипов были соединены между собой высокоскоростными оптоволоконными кабелями. Центр обработки данных принадлежал[17] компании Microsoft, и его строительство обошлось в сотни миллионов долларов. Но на самом деле суперкомпьютер был создан для нужд небольшого стартапа из Сан-Франциско, о котором за пределами узкой области компьютерных наук, занимающейся ИИ, мало кто слышал. Называлась молодая компания OpenAI.

В июле 2019 года Microsoft вложила 1 млрд долларов[18] в OpenAI, чтобы получить доступ к ее технологиям, и в рамках сделки обещала построить этот суперкомпьютер. После запуска он круглосуточно работал на протяжении 34 дней, обучая одну из самых больших среди когда-либо разработанных частей программного обеспечения ИИ – программу, способную закодировать взаимосвязь между 175 млрд единиц информации. OpenAI «скормил» искусственному интеллекту содержимое более 2,5 млрд веб-страниц, собранных за десятилетие работы в интернете, а также миллионы чатов сети Reddit, десятки тысяч книг и всю «Википедию». Задача программы состояла в том, чтобы создать карту взаимосвязей между всеми словами в этой огромной базе данных. Такая статистическая карта должна была позволить предсказать наиболее вероятное следующее слово в любой произвольной части текста. По итогу программа научилась выдавать множество фрагментов текста в различных жанрах и стилях, которые были практически неотличимы от созданных человеком.

OpenAI назвала программу GPT-3. Ее дебют в июне 2020 года ошеломил компьютерных специалистов: никогда еще программное обеспечение не демонстрировало такую способность к написанию текстов. GPT-3 умела не только сочинять прозу и стихи, но и кодировала информацию и отвечала на конкретные вопросы, понимала и обобщала прочитанное, определяла настроение произведения, переводила с английского на французский, с французского на немецкий и на некоторые другие языки, рассуждала на определенные темы… Фактически она была способна выполнять десятки задач, связанных с языком, хотя ее обучали только предсказывать следующее слово в последовательности. Все это она делала в диалоговом режиме, создавая впечатление, что ведет с человеком беседу. Ученые называют такой режим общения естественным языком, чтобы отличать его от компьютерного кода. Потенциал GPT-3 убедил генерального директора Microsoft Сатью Наделлу удвоить, а затем и утроить первоначальные инвестиции в размере 1 млрд долларов в небольшую лабораторию искусственного интеллекта в Сан-Франциско. Через два года на базе GPT-3 появился чат-бот ChatGPT.

ChatGPT не был первой программой искусственного интеллекта, результаты работы которой походили на человеческие, но он был первым, доступ к которому смогли получить сотни миллионов людей. ChatGPT пробудил в обществе понимание возможностей ИИ и дал старт гонке крупнейших технологических компаний и хорошо финансируемых стартапов за воплощение этих возможностей в нечто осязаемое. В течение нескольких месяцев Microsoft выделила OpenAI 10 млрд долларов и начала внедрять еще более мощную модель GPT-4 в такие продукты, как Microsoft Word и PowerPoint, которыми ежедневно пользуются сотни миллионов людей. Google, пытаясь наверстать упущенное, создала собственный чат-бот общего назначения Bard и начала внедрять генеративный ИИ в свою поисковую систему, что несло потенциальную угрозу дестабилизации бизнес-моделей целых отраслей – от новостных программ и СМИ до электронной коммерции. Компания также начала обучение еще более крупных и мощных систем ИИ, которые бы анализировали и создавали не только текст, но и изображения, звуки и музыку. Эта модель, получившая название Gemini, впоследствии заменила Bard и была интегрирована в несколько продуктов Google. Компания Meta начала выпускать и размещать в свободном доступе мощные модели ИИ. Amazon и Apple также приступили к созданию генеративного ИИ.

Подобная конкуренция подталкивает нас к разработке единой универсальной системы ИИ, которая сможет сравняться с человеком или превзойти его в решении практически любых когнитивных задач, – этот гипотетический момент получил название технологической сингулярности. Даже если многие пока сомневаются в наступлении такого момента, он близок как никогда.

Почему ChatGPT привлек всеобщее внимание? Потому что с ним можно разговаривать. Долгую историю имеет идея, что именно разговорные навыки компьютера, а не его умение умножать пятизначные числа или выявлять закономерности в колебаниях фондового рынка должны быть мерилом интеллекта машины. Представления о создании интеллектуального цифрового собеседника сложились еще на заре компьютерной эры, и они предопределили как положительные, так и отрицательные направления развития всей отрасли ИИ.

Тест Тьюринга – первородный грех ИИ

Идея диалога как мерила интеллекта возникла в середине XX века в трудах Алана Тьюринга – одного из самых выдающихся умов той эпохи, гениального математика, который прославился тем, что помог взломать нацистский шифр «Энигма» во время Второй мировой войны. В 1936 году, когда ему было всего 24 года, Тьюринг предложил конструкцию гипотетического устройства, впоследствии вдохновившую создателей современных компьютеров. И именно Тьюринг в 1948 году[19] в отчете для британской правительственной лаборатории предположил, что в один прекрасный день компьютеры могут стать «разумными». По его мнению, важнее качество результата, а не процесс работы машины, который к нему привел. Машина, способная обыграть человека в шахматы, более «разумна», чем противник, даже если она делает ходы на основе грубого перебора вариантов, что мало напоминает образ мышления человека.

Два года спустя[20], в 1950 году, Тьюринг развил эти идеи в своей основополагающей работе под названием «Вычислительные машины и разум». Он предложил тест на интеллект машины в виде имитационной игры. В ней судья задает вопросы человеку и компьютеру. Все трое изолированы друг от друга в отдельных комнатах. Судья получает ответы в виде машинописных заметок, которые помечаются X или Y в зависимости от того, кто их сделал, – человек или машина. Задача судьи состоит в том, чтобы определить по напечатанным ответам, кем является X – человеком или машиной. Тьюринг предложил считать компьютер разумным, если судья не сможет определить разницу.

Алан Тьюринг пояснял: тест не направлен на точность или правдивость ответов, и вполне допускал, что для «победы» в игре и человек и машина могут солгать. Тест также не ставил целью проверку специальных знаний. Давая описание игре, Тьюринг предположил, что машину сделает неотличимой от человека именно овладение формой повседневного общения, а также очевидное следование здравому смыслу.

Имитационная игра, позже получившая название «Тест Тьюринга», оказала глубокое влияние на отношение ученых-компьютерщиков к машинному интеллекту, которое с самого начала было весьма противоречивым. Вулф Мэйс, философ и профессор Манчестерского университета, был[21] среди современных критиков, негативно относившихся к тесту Тьюринга из-за того, что он фокусировался на выходных результатах машины, а не на ее внутренних процессах. Мэйс назвал холодный логический расчет машин «антитезой мышлению», которое, по мнению профессора, является гораздо более загадочным, интуитивным явлением. Мэйс являлся одним из тех, кто считал, что интеллект тесно связан с человеческим сознанием, а сознание, в свою очередь, не может быть сведено к простой физике. «Тьюринг, – писал профессор, – похоже, подспудно полагал, что весь интеллект и мышление могут быть суммарно построены из совокупности неких атомарных единиц».

Десятилетия спустя философ Джон Сёрл провел мысленный эксперимент, чтобы наглядно продемонстрировать фатальный, по его мнению, недостаток теста Тьюринга. Сёрл представил себе[22] человека, не умеющего ни читать, ни говорить по-китайски, запертым в комнате с толковым словарем китайского языка, несколькими листами бумаги и карандашом. Записки с китайскими иероглифами просовывают ему через щель под дверью, а его задача состоит в том, чтобы находить указанные иероглифы в словаре, переписывать их китайские определения на другой лист бумаги и возвращать этот лист через ту же щель. По мнению Сёрла, было бы нелепо утверждать, будто человек в комнате «понимает» китайский язык только потому, что может давать точные определения китайских слов. Точно так же неправ и Тьюринг, утверждал Сёрл, считая компьютер разумным только потому, что тот может имитировать внешние характеристики человеческого диалога.

Дебаты на эту тему усилились с появлением сверхбольших языковых моделей, таких как GPT-4. Конечно, когнитивной науке еще предстоит до конца разобраться с природой человеческого интеллекта, не говоря уже о сознании. Можно ли свести интеллект[23] к числовому показателю – коэффициенту интеллекта, или IQ, основанному на результатах стандартизированного теста? Или, как утверждал гарвардский психолог и нейробиолог Говард Гарднер, лучше говорить о множественном интеллекте, учитывающем спортивный гений Майкла Джордана, музыкальные таланты Тейлор Свифт и навыки межличностного общения Билла Клинтона? Неврологи и когнитивные психологи продолжают спорить.

Помимо того что тест Тьюринга отдавал предпочтение результатам, а не процессу, акцент на обмане как отличительной черте интеллекта поощрял использование обмана при тестировании программного обеспечения ИИ. В глазах многих современных специалистов по этике это делает тест в корне аморальным[24]: по их мнению, таким образом поощряется то, что инженеры тестируют ИИ своих систем на ничего не подозревающих людях. Действительно, в последние годы компании тестировали[25] программное обеспечение ИИ, умеющее играть в стратегические игры, например в го и «Дипломатию», на людях, которые не были об этом предупреждены. Исследователи оправдывали обман необходимостью, так как респонденты могли бы изменить свой стиль и стратегию игры, если бы знали, что их соперник – компьютерная программа. Специалисты по этике и журналисты обрушились с критикой на Google[26], когда в 2018 году компания продемонстрировала возможности своего нового цифрового помощника Duplex, предложив программе позвонить в ресторан и забронировать столик, обманув тем самым метрдотеля и заставив его думать, что он общается с человеком. Сегодня большинство придерживается политики «ответственного ИИ»: люди всегда должны быть проинформированы в случае взаимодействия с программным обеспечением ИИ. Правда, компании иногда находят оправдания, чтобы этого не делать.

Возможно, тест Тьюринга до сих пор привлекает к себе внимание критиков именно потому, что он был представлен как игра на смекалку, где человек противостоит компьютеру, цель которого состоит в том, чтобы подражать человеку и ничем от него не отличаться. Как отмечает писатель Джон Маркофф в своей книге «Машины, наделенные любовью»[27], одним из следствий этого подражания стало то, что поколения исследователей ИИ пытались создать программное обеспечение, которое соответствовало бы способностям человека или превосходило их, а положительным результатом считалась возможность заменить человека. Альтернативой, по мнению Маркоффа, должна быть разработка программного обеспечения ИИ, не заменяющего, а только дополняющего возможности человека.

Однако идея дополняющих способностей с трудом пробивает себе дорогу. Когда исследователи ИИ хотят доказать умения своего программного обеспечения, они все еще склонны следовать принципам Тьюринга и сравнивать возможности систем с возможностями человека. Конечно, в некоторых случаях речь идет просто об удачных маркетинговых ходах, ведь программное обеспечение, превосходящее человека в знакомой настольной игре или на квалификационном экзамене, становится лучшим поводом для заголовков. Но за стремлением разработчиков ИИ сравняться с человеком или превзойти его в производительности зачастую стоит нечто большее, чем только умная медиастратегия, и вина здесь во многом лежит на Тьюринге. Недавно последнее поколение языковых моделей ИИ было подвергнуто целой серии тестов, предназначенных для оценки людей, включая экзамены на получение лицензий адвоката и врача в США. Самые мощные на сегодняшний день системы искусственного интеллекта прошли все эти тесты, во многих случаях набрав больше баллов, чем средний человек. И конечно, сенсацией стало мастерство ChatGPT в прохождении оригинального теста Тьюринга при ведении диалога с человеком. Но стоит копнуть чуть глубже, и попытки компьютерной программы имитировать человеческие способности начинают давать сбои. Тот, кто имел дело с ChatGPT, вскоре обнаруживает, что интеллектуальные способности современного генеративного ИИ бывают удручающе нестабильными: он может мастерски ответить на сложный вопрос по физике частиц, а затем допустить ошибку при решении простой логической задачи, с которой справился бы и восьмилетний ребенок. Такое смешение гениальности и глупости – это совсем не то, что имел в виду Тьюринг.

Строительство умных машин Тьюринга

Когда ученые впервые взялись за воплощение в жизнь идеи Тьюринга о разумной машине, им даже не приходила в голову парадоксальная мысль, что компьютер может овладеть искусством разговора, но при этом не понимать своих слов. Примерно в то время, когда Тьюринг придумал имитационную игру, уже работали первые универсальные компьютеры, созданные во многом на базе его довоенных концептуальных разработок. Это были колоссальные по размерам машины. Один из самых ранних компьютеров ENIAC занимал почти весь подвал инженерного факультета Пенсильванского университета (площадью 140 кв. м) и состоял из 30 т проводов и электронных ламп. Он мог выполнять 5 тыс. операций сложения в секунду, что было намного быстрее предыдущих механических вычислительных машин, но почти в триллион раз медленнее мощных чипов, на которых работают современные программы искусственного интеллекта. Тем не менее небольшая группа первопроходцев верила, что сможет научить думать такую машину, как ENIAC.

Одним из этих первопроходцев был молодой профессор математики Дартмутского колледжа Джон Маккарти. К началу 1950-х годов идея наделить новые компьютеры интеллектом стала набирать силу. В качестве решающего шага на пути к этой цели ученые пытались найти алгоритмы, точно описывающие работу человеческого мозга. Маккарти вплотную занимался данной проблемой, работая над так называемой теорией автоматов. Другие ученые проводили аналогичные исследования в области кибернетики и обработки информации. В начале 1955 года[28] у Маккарти возникла идея объединить их усилия, организовав летом в Дартмуте двухмесячный семинар. Профессор пригласил около дюжины ученых, в основном математиков, а также инженеров-электроников и психологов, чтобы выяснить, как заставить компьютер учиться и думать.

При подготовке заявки на финансирование семинара Маккарти назвал зарождающуюся область науки «искусственным интеллектом». Маккарти и его коллеги, которые принимали участие в организации семинара, поставили перед собой амбициозную задачу. «Будет предпринята попытка заставить машины использовать язык, формировать абстракции и концепции, самостоятельно совершенствоваться и решать проблемы, которые сейчас под силу только человеку», – писали они в своей заявке на грант, поданной в Фонд Рокфеллера. Предполагалось, что при совместной работе «тщательно отобранной» группы ученых «значительный прогресс может быть достигнут в решении одной или нескольких из данных проблем» уже текущим летом.

Как оказалось, Маккарти и его коллеги-организаторы были чересчур оптимистичны. Семинар 1956 года не смог привести участников к единому ви́дению программы исследований, что стало для Маккарти разочарованием. Некоторым участникам не понравилось[29] даже название «искусственный интеллект», так как оно, по их мнению, вводило в заблуждение. Ожесточенные споры о термине отвлекали время и внимание от более предметных дискуссий. Маккарти отстаивал свой выбор, утверждая, что целью исследований является именно интеллект, а не просто автоматизация. Название закрепилось. И хотя на семинаре в Дартмуте не удалось сплести различные нити исследований в единый канат, благодаря проведенной работе были задекларированы многие концептуальные направления и намечены некоторые проблемы, ставшие определяющими для разработки ИИ на протяжении последующих шести десятилетий, в том числе одна идея, послужившая импульсом к нынешней революции в области ИИ.

Идея получила название[30] «искусственной нейронной сети». К концу 1940-х годов нейробиологи обнаружили, что человеческие нейроны в начале жизни одинаковы – различия появляются по мере их взросления и обучения. Исследователям также было известно, что нейроны обмениваются друг с другом электрохимическими сигналами, соблюдая определенную иерархию. Эти два факта побудили ученых искать способы имитировать подобную структуру сначала с помощью электронных ламп, а затем и с использованием цифровых компьютеров и программного обеспечения.

Самые первые нейросети имели всего два уровня. На входном нейроны получали данные из разных частей изображения, аудиозаписи или текста, которые затем анализировались сетью. Каждый входной нейрон применял к своей единице информации определенную математическую формулу и передавал результат единственному выходному нейрону. Выходной нейрон суммировал ответы всех входных нейронов, а затем применял собственную математическую формулу. Полученный результат передавался пользователю. Если ответ оказывался неверным, корректировке подвергались переменные, называемые весами и смещениями, которые являются частью формулы каждого нейрона. Нейроны, наиболее близкие к правильному ответу, увеличивали свои веса и смещения, а остальные – уменьшали. Затем вся сеть повторяла попытку с другим примером из набора данных. Этот процесс позволял сети на основании ряда примеров постепенно приходить к правильному ответу.

Некоторые ученые-компьютерщики[31] полагали, что с помощью таких ранних нейросетей можно будет прийти к искусственному интеллекту. Аналогичный подход хорошо работал при обучении компьютеров простым бинарным классификациям, например когда надо было определить, является ли что-то светлым или темным, круглым или квадратным. Но на большее он не был способен. Марвин Мински, блестящий молодой гарвардский математик, который помог Маккарти организовать семинар, построил одну из первых аналоговых нейросетей, используя детали, извлеченные из бомбардировщика B-24. Тем же летом ученый представил свою работу по нейросетям в Дартмуте. Однако значительная часть этой презентации была посвящена многочисленным ограничениям в работе нейросетей.

Вскоре Мински, через какое-то время основавший лабораторию искусственного интеллекта в Массачусетском технологическом институте (МТИ), стал самым суровым критиком своей же техники. Он переключился на другую идею[32] о том, как создать машины, способные обучаться и думать. Этот способ предполагал использование логических правил, подсказывающих компьютеру ход рассуждений. Например, чтобы создать систему, способную идентифицировать на изображениях автомобили, мотоциклы и велосипеды, нужно было запрограммировать компьютер на распознавание признаков, которые, как известно людям, помогают идентификации. К таким признакам относятся руль, количество колес, двери, окна и выхлопная труба. Для компьютера пишется код с инструкцией, в какой последовательности надо рассматривать эти особенности и как делать выводы. Если на изображении есть руль, но нет дверей и выхлопной трубы, то это велосипед, если присутствует выхлопная труба, но нет дверей, то это мотоцикл… После семинара в Дартмуте долгие годы казалось, что такие алгоритмы рассуждений станут основой для неуклонного прогресса на пути к человекоподобному ИИ. Ученые создали программное обеспечение, которое могло играть в нарды, шашки, а затем и в шахматы примерно так же хорошо, как и обычный человек. А затем, в 1966 году, система ИИ, использующая основанный на правилах подход Мински, прошла тест Тьюринга.

Эффект ELIZA

Это достижение принадлежит инженеру Джозефу Вейценбауму[33], работавшему в лаборатории Мински в Массачусетском технологическом институте. Вейценбаум родился в Берлине в 1923 году в обеспеченной еврейской семье, но в 13 лет, спасаясь от нацистов, оказался в Детройте. Отношения с родителями у Джозефа были натянутыми, и, оказавшись в процессе изучения английского языка в социальной изоляции, парень искал убежища сначала в математике, а затем на кушетке психоаналитика. Джозеф Вейценбаум тяготел к еще только зарождавшейся области вычислительной техники и в конце концов получил работу программиста, пишущего программное обеспечение для гигантских компьютеров, которые компания General Electric строила в новом технологическом центре Кремниевой долины. Вейценбаума заинтересовала возможность общения с машиной не с помощью кода, а на естественном языке. Зная об этом, друг познакомил его[34] с психиатром из Стэнфордского университета Кеннетом Колби, который считал, что компьютеры могут открыть новые возможности для терапии, а также предложить интересные способы исследования психических заболеваний путем моделирования человеческого мозга. Вейценбаум и Колби совместно разработали проект по созданию своего рода психотерапевтической программы. Вейценбаум забрал эту идею с собой, когда в 1963 году перешел на работу в Массачусетский технологический институт. В результате через три года появился первый в мире чат-бот ELIZA, названный в честь Элизы Дулиттл из пьесы «Пигмалион».

Чат-бот ELIZA был создан, чтобы имитировать[35] взаимодействие между пациентом и психоаналитиком. Вейценбаум намеренно выбрал[36] такую ситуацию, поскольку она помогала скрыть относительно слабое понимание чат-ботом языка. Система анализировала сообщение[37], переданное ей пользователем, и в соответствии со сложной последовательностью правил пыталась сопоставить это сообщение с одним из нескольких заранее подготовленных ответов. Если она не была уверена, то иногда просто пересказывала текст пользователя в вопросительной форме, как это делал бы психоаналитик. В других случаях[38] она прибегала к расплывчатым высказываниям, демонстрирующим внимание к собеседнику, типа «Понятно», «Продолжайте» или «Это очень интересно».

Кодирование ELIZA не было особенно сложным даже по стандартам того времени. Новаторским чат-бот сделала реакция людей на него. Многие из учеников Вейценбаума[39], которые общались с ELIZA, были убеждены, что это настоящий психотерапевт во плоти. «Некоторых испытуемых было очень трудно убедить в том, что ELIZA (даже с ее тогдашним сценарием бесед) не является человеком», – писал Вейценбаум. Позже он вспоминал[40], что секретарша уговорила его устроить ей сеанс с этим чат-ботом, а спустя некоторое время после начала попросила оставить ее одну в комнате. «Я считаю, что этот случай свидетельствует об успехе программы, которая поддерживает иллюзию понимания», – отметил Вейценбаум. Даже ученые-компьютерщики[41] ловили себя на том, что делают чат-боту интимные признания.

Другими словами, ELIZA была очень близка к тому, чтобы успешно осуществить тот обман, который представлял себе Тьюринг. Но она также наглядно показала недостатки теста Тьюринга, главным из которых является наша собственная доверчивость: люди, общавшиеся с этим чат-ботом, хотели верить, что разговаривают с человеком. Тенденция очеловечивания чат-ботов[42] и доверие к ним, несмотря на их очевидные недостатки, получили известность как эффект ELIZA. Он и сегодня ярко проявляет себя в сфере ИИ.

Но наибольшее влияние этот эффект, возможно, оказал на создателя ELIZA. Вместо того чтобы насладиться триумфом, Вейценбаум ощутил подавленность. Неужели нас, людей, так легко обмануть? Он начал понимать, как трудно – и в то же время как важно – отличить настоящую человеческую мысль от ее имитации. Колби, сотрудничавший с Вейценбаумом[43] с самого начала, утверждал, что если пациенты считают чат-бот, подобный ELIZA, полезным, то это стоящее изобретение. Однако обман, лежащий в основе данного эффекта, беспокоил Вейценбаума. Споры продолжаются и сегодня, когда появилось новое поколение чат-ботов, призванных изображать сочувствие или использоваться в психотерапии.

Мински, коллега Вейценбаума по Массачусетскому технологическому институту, не видел разницы между рассуждениями компьютера и мозга. Ему принадлежит известное высказывание[44], что люди – это не более чем «машины из мяса». Вейценбаум был в корне не согласен с такой точкой зрения. Он пришел к выводу, что некоторые области не подвластны ИИ, поскольку зависят от жизненного опыта и в конечном счете эмоций, которых у компьютера никогда не будет. Даже если правила языка могут быть математически формализованы, в чем ученый сомневался, программное обеспечение ИИ никогда не сможет полностью «понять» человеческий язык. Опираясь на поздние философские труды Людвига Витгенштейна, Вейценбаум утверждал, что язык недостаточен для передачи смысла даже между двумя людьми, так как у каждого разный жизненный опыт, а тем более во взаимоотношениях человека и программного обеспечения, не имеющего никакого жизненного опыта, к тому же значительная часть общения происходит невербально. Вейценбаум рассказал историю[45] о том, как они с женой стояли и смотрели на детей, которые спали в кроватках. «Мы молча разговаривали друг с другом, разыгрывая сцену такую же древнюю, как само человечество», – написал он позже. И далее процитировал драматурга Эжена Ионеско: «Не все невыразимо на словах, только живая правда».

Вейценбаум утверждал, что фундаментальное различие между человеком и машиной – неспособность компьютера к настоящей эмпатии – должно быть основанием для запрета[46] искусственному интеллекту делать некоторые вещи, даже если он научится выполнять все человеческие задачи так же хорошо или даже лучше, чем человек. Исследователь полагал, что компьютерным программам никогда не следует разрешать принимать решения с необратимыми последствиями или в тех случаях, «когда компьютерная система предлагается в качестве замены человеческой функции, которая предполагает межличностное уважение, понимание и любовь». Вейценбаум также с беспокойством говорил о том[47], что наша склонность к очеловечиванию машин приводит к ситуации, когда мы слишком охотно признаем машины равными себе, обесценивая собственную человечность.

В 1976 году Вейценбаум изложил свои критические соображения[48] в книге «Возможности вычислительных машин и человеческий разум. От суждений к вычислениям»[49]. Это был язвительный обвинительный акт в адрес собственной сферы деятельности. Ученый обвинил коллег – исследователей ИИ – в «хакерском менталитете», когда специалисты больше озабочены тем, чтобы заставить программное обеспечение выполнить какую-то задачу, чем ответить на научно значимые вопросы о природе интеллекта и мышления. По мнению Вейценбаума, эти так называемые ученые отличались не только нехваткой научной строгости, но и антигуманным подходом к потенциальным рискам программного обеспечения ИИ, которое пытались создать. Вейценбаум, будучи приверженцем левых взглядов и гражданских прав, был особенно обеспокоен тем, что правительство США использовало некоторые ранние программы ИИ в ходе Вьетнамской войны.

Вейценбаум признавал, что многие системы ИИ настолько сложны, что их решения непостижимы даже для тех, кто эти системы создавал, и опасался, что подобные системы будет сложно контролировать. При этом он понимал соблазн использовать непрозрачность программного обеспечения как удобное оправдание для ухода от ответственности. Деятельность ИИ в сфере экономики также вызывала у Вейценбаума тревогу. Согласно его неомарксистским взглядам[50], послевоенный американский капитализм рухнул бы под собственной тяжестью, если бы его не спас компьютер: программное обеспечение позволило крупному бизнесу и федеральному правительству осуществлять контроль за ситуацией, который раньше был невозможен. «Компьютер использовали для сохранения социальных и политических институтов Америки, – писал Вейценбаум. – Он подкрепил и защитил их, по крайней мере временно, от огромного давления перемен». ИИ облегчил тоталитарное правление, и это только усиливало обеспокоенность, обусловленную собственным опытом Вейценбаума, спасшегося бегством из нацистской Германии.

Коллеги Вейценбаума не приняли[51] его книгу, охарактеризовав работу как антинаучную и излишне полемическую. Однако большинство критических высказываний Вейценбаума об ИИ и о тех, кто его создает, не исчезли с повестки дня. Более того, ночные кошмары ученого, связанные с ИИ, сегодня актуальны как никогда ранее.

Воскрешение нейросети

Причина, по которой легко было игнорировать критические взгляды Вейценбаума в 1970-е годы и невозможно так делать сейчас, во многом связана с одной старой идеей – нейронной сетью – и тремя новыми разработками: гораздо более мощными компьютерными чипами, океанами цифровых данных, ставших легкодоступными благодаря интернету, и инновационным алгоритмам.

К началу 1970-х годов большинство ученых в компьютерной отрасли отказались от работы над нейросетями. В немалой степени это было обусловлено резкой критикой данного направления со стороны Мински. Однако небольшая группа «староверов» продолжала свою деятельность. В середине 1980-х годов один из них, психолог Дэвид Румельхарт из Калифорнийского университета в Сан-Диего, вместе со своим коллегой Рональдом Уильямсом и молодым аспирантом из Англии Джеффри Хинтоном, совершил прорыв, который позволил нейросетям делать интересные вещи. Открытие получило название «обратное распространение», или сокращенно backprop[52].

Оно помогло решить ключевую проблему. Одна из причин, по которой самые ранние нейросети обучались только простым бинарным классификациям, заключалась в том, что у нейросетей имелось всего два слоя. Оказалось, что добавление дополнительных слоев между входными и выходным нейронами позволяет сети делать гораздо более сложные выводы. К 1980-м годам нейронные сети, с которыми экспериментировали Румельхарт, Хинтон и Уильямс, имели несколько слоев. Но со средними слоями нейронов возникали проблемы. В простой двухслойной нейронной сети можно было довольно просто определить, как настроить параметры – веса́ и смещения – каждого входного нейрона, чтобы сеть могла самообучаться. Однако с добавлением дополнительных слоев понимание того, как оценить вклад каждого нейрона в выходной сигнал, превратилось в сложнейшую задачу. Для ее решения пришлось использовать методы дифференциального и интегрального исчисления. Благодаря этому появилась возможность регулировать веса и смещения каждого нейрона таким образом, чтобы обеспечить эффективное обучение многослойной сети.

Благодаря обратному распространению многослойные нейросети научились расшифровывать почерк на конвертах и чеках, различать отношения между людьми в семейном генеалогическом древе, управлять программой, распознающей напечатанные слова и произносящей их вслух через голосовой синтезатор, и даже удерживать едущий на автопилоте автомобиль между полосами движения на шоссе. Однако ранние нейросети еще многого не умели. Они не могли классифицировать сложные объекты[53] на изображениях – не умели даже отличать собак от кошек. Они с трудом справлялись с распознаванием речи и переводом на другие языки. Были и иные недостатки: для обучения нейросетей требовались огромные объемы данных, а для многих областей их просто не существовало. Более того, обработка всех этих данных в больших нейросетях с помощью компьютерных чипов того времени оказывалась мучительно медленной. В то же время другие методы машинного обучения, использующие передовую статистику, показывали многообещающие результаты. В конце концов многие исследователи и инженеры в области ИИ снова сочли нейросети тупиковым путем развития.

Глубокое обучение набирает обороты

Джеффри Хинтон, который к тому времени перебрался в Университет Торонто, по-прежнему был уверен, что нейронные сети – верный путь к человекоподобному ИИ. Хинтон продолжал деятельность. В 2004 году им был основан исследовательский коллектив[54], занимающийся продолжением работы над нейросетями. Его подход получил название глубокого обучения. Это был умный маркетинговый ход: слово «глубокий» означало просто многослойность нейросети, но одновременно оно как бы подразумевало, что нейросети каким-то образом приходят к более глубоким знаниям, чем при использовании других «неглубоких» методов машинного обучения. Глубокое обучение должно было оправдать надежды, которые оставались недоступными для нейросетей на протяжении пятидесяти с лишним лет.

Изменились всего две вещи: интернет сделал доступными огромные объемы данных, что позволило решить проблему информационного голода нейросетей, и на рынке появился новый вид компьютерных чипов, называемых графическими процессорами (graphics processing unit, GPU). Американская компания Nvidia представила свой первый GPU GeForce 256 в конце 1999 года – отдельную печатную плату (карту), которую можно было вставить в компьютер или сервер. Этот GPU был разработан для быстрого рендеринга графики, необходимого в видеоиграх. GeForce 256 вычислял несколько потоков данных параллельно, а не последовательно, и выполнял другие ключевые вычисления непосредственно на видеокарте, а не передавал их более универсальному центральному процессору (или CPU), как это было в предыдущем поколении видеокарт. Графические процессоры потребляли много энергии и выделяли много тепла, поэтому каждая карта поставлялась с собственным вентилятором охлаждения. Но новые чипы позволили создать домашние игровые консоли, такие как Xbox и PlayStation. А еще они обещали навсегда изменить исследования в области искусственного интеллекта.

В 2005 году группа исследователей[55] из Мэрилендского университета продемонстрировала, что параллельная вычислительная мощность графических процессоров может хорошо работать для простой двухслойной нейронной сети. В следующем году[56] команда из Microsoft заявила, что новейшие GPU также могут гораздо эффективнее вычислять веса нейронов в сложной системе глубокого обучения. Затем, в 2009 году[57], Хинтон и два его аспиранта создали для Microsoft систему глубокого обучения на GPU[58], и она всего за несколько месяцев сравнялась по производительности с уже существовавшей в этой компании системой распознавания речи, на разработку которой ушло десятилетие кропотливой работы. Помогло то, что Microsoft располагала огромным количеством речевых данных для обучения сети. Чем больше информации получали системы глубокого обучения, тем лучше они становились. Другие аспиранты Хинтона были направлены в IBM и Google, где повторили свой успех. Имевшаяся у Google программа распознавания речи для смартфонов на базе Android ошибалась в произнесенном слове в 23 % случаев. Всего за неделю ученики Хинтона достигли уровня ошибок в 21 %, а еще через две недели – в 18 %.

Глубокое обучение набирало обороты. Но все еще оставались сомневающиеся, которые считали, что нейронные сети не смогут классифицировать сложные изображения. В 2012 году Хинтон и два аспиранта, Илья Суцкевер и Алекс Крижевский, заставили скептиков умолкнуть, создав систему глубокого обучения на GPU, названную AlexNet в честь Крижевского. Система AlexNet победила в конкурсе ImageNet, проводимом Стэнфордским университетом. По заданию система ИИ должна была классифицировать изображения тысячи различных категорий объектов. Показатель ошибок AlexNet равнялся всего 15 %, что более чем в два раза превосходило результат второго лучшего участника. Глубокое обучение заявило о себе во весь голос. Хинтон, Суцкевер и Крижевский создали компанию, в основе деятельности которой лежала идея разработки систем глубокого обучения для задач компьютерного зрения. Через несколько недель Google купила компанию за 44 млн долларов. Трио перешло на работу в Google Brain – передовую исследовательскую лабораторию искусственного интеллекта, которую корпорация открыла в 2011 году.

Стремительная гонка за ИИ общего назначения

Плотина, сдерживавшая глубокое обучение, начала давать трещину еще до появления AlexNet, теперь же она окончательно рухнула. Крупные американские технологические компании[59] – Google, Microsoft, Meta (тогда называвшаяся Facebook), Amazon и Apple – и их китайские аналоги Baidu и Tencent принялись активно внедрять глубокое обучение. Они соревновались в найме специалистов, назначая высокие шести- и даже семизначные зарплаты новоиспеченным светилам науки. Но в большинстве случаев применение глубокого обучения все еще ограничивалось узкими задачами – распознаванием людей на фотографиях в социальных сетях или лучшим пониманием голосовых команд. Речь шла не про общие, а про специфические виды интеллекта. Более того, глубокое обучение[60] все еще оставалось недоступным для большинства компаний вне технологического сектора, поскольку у них не было ни специалистов в этой области, ни массива данных, необходимых для процесса обучения.

В то время лишь немногие исследователи верили, что глубокое обучение может соответствовать представлениям Тьюринга об искусственном интеллекте. Одним из этих исследователей был Шейн Легг. Уроженец Новой Зеландии[61], получивший образование в сфере математики и вычислительной техники, Легг во время бума интернет-фирм поступил на работу в одну из первых компаний, занимавшихся разработкой ИИ в Нью-Йорке. Там он помог популяризировать термин «искусственный интеллект общего назначения», или ИИОН, под которым Легг подразумевал программное обеспечение, способное решать большинство когнитивных задач не хуже или даже лучше, чем обычный человек. Легг отличал более широкую идею ИИОН от прикладного ИИ, умеющего исключительно хорошо делать что-то одно. После того как его стартап потерпел неудачу, Легг вновь вернулся к учебе. Подобно предыдущим поколениям исследователей ИИ, Легг считал, что лучший способ понять, как создать ИИОН, – изучение мозга. Поэтому ученый поступил на кафедру вычислительной неврологии Гэтсби при Университетском колледже Лондона, которая занималась исследованиями на стыке неврологии и ИИ. Там Легг познакомился с Демисом Хассабисом. Бывший шахматный вундеркинд, ставший компьютерщиком и предпринимателем в сфере видеоигр, Хассабис также был заинтересован в создании ИИ. Как и Легг, тот считал, что к этому приведет глубокое обучение. В 2010 году они вместе с Мустафой Сулейманом, другом детства Хассабиса, который занимался социальным предпринимательством, стали соучредителями стартапа под названием DeepMind. У маленькой и никому не известной лондонской фирмы была дерзкая и, с точки зрения некоторых, невыполнимая миссия: «Решить проблему интеллекта, а затем использовать его для решения всех остальных проблем».

Эта цель стала казаться[62] менее нелепой в 2013 году, когда компания DeepMind продемонстрировала систему глубокого обучения, которая, начав практически с нулевых знаний, методом проб и ошибок за несколько часов научилась играть в 50 различных старых игр на приставке Atari на сверхчеловеческом уровне. Результат ошеломил технологов, включая одного из первых инвесторов DeepMind Илона Маска. Как и Легг и Хассабис, Маск верил в идею ИИОН, но в то же время приходил от нее в ужас. Ведь если люди изобретут искусственный интеллект, они смогут быстро прийти и к искусственному сверхинтеллекту, или ИСИ, который окажется намного более разумным, чем любой из нас. ИСИ будет крайне сложно контролировать. Такая система способна даже развить собственное сознание, что поставит перед нами глубокие философские и практические вопросы. ИСИ может вступить в конфликт с людьми, что, в качестве версии, приведет к нашему вымиранию или порабощению как вида. Именно такие опасения беспокоили Илона Маска и других людей, знакомых с успехами DeepMind.

Во время полета на одном частном самолете вместе с Илоном Маском[63] соучредитель Google Ларри Пейдж стал невольным свидетелем того, как Маск обсуждает по телефону с другим инвестором из Кремниевой долины прорыв DeepMind в видеоиграх Atari. Пейдж сразу же заинтересовался покупкой этого стартапа. На тот момент Google инвестировала в нейросети больше, чем любая другая из крупных технологических компаний. Пейдж не хотел, чтобы кто-то из конкурентов опередил его. Вскоре после полета он направил лучших исследователей искусственного интеллекта Google для изучения DeepMind. Затем он обошел в торге[64] Microsoft и Meta и приобрел эту небольшую лондонскую компанию за 650 млн долларов.

Покупка DeepMind встревожила Маска. Он был в дружеских отношениях с Пейджем, но не мог допустить, чтобы тот стал монополистом ИИОН, несмотря на девиз Google «Не будь злом». «Он может случайно сотворить зло», – заявил Маск журналистке Эшли Вэнс в 2013 году[65]. Маск считал, что создание мощного ИИ[66] равносильно вызову злых духов. Он говорил, что компании, создающие ИИ, «осознают опасность, но полагают, что смогут управлять сверхинтеллектом и не позволят ему бесконтрольно вырваться в интернет. Поживем – увидим».

Илон Маск был не единственным, кто опасался, что ИИОН окажется под контролем только корпорации Google. Сэм Альтман, 30-летний венчурный капиталист из Кремниевой долины[67], который в то время был президентом Y Combinator – самого престижного американского инкубатора стартапов, разделял мнение Маска об ИИОН, о значительных потенциальных преимуществах и возможных экзистенциальных рисках. Альтман был согласен с тем, что компания Google не должна монополизировать столь мощную технологию. В конце 2015 года Маск, Альтман и группа других людей, включая Суцкевера, бывшего ученика Хинтона, выступили соучредителями лаборатории искусственного интеллекта в Сан-Франциско, призванной стать противовесом DeepMind. Они назвали лабораторию OpenAI. Как и DeepMind, OpenAI была явно нацелена на работу по созданию ИИОН.

Если не принимать во внимание эту общую цель, OpenAI должна была стать тем, чем не была DeepMind. Если DeepMind контролировалась одной из крупнейших в мире технологических компаний, то OpenAI задумывалась как некоммерческая организация с миссией обеспечить развитие ИИОН «таким образом, чтобы оно пошло главным образом на пользу всему человечеству». В то время как компания DeepMind действовала в условиях секретности[68], OpenAI заявила, что обязуется публиковать все свои исследования и открывать доступ к программному обеспечению. Именно поэтому Маск с самого начала хотел назвать лабораторию OpenAI («Открытый ИИ»). Он был убежден, что единственный способ помешать отдельной компании или правительству использовать мощный ИИ в авторитарных целях – это обеспечить всеобщий доступ к технологии. По мнению Маска, у каждого человека должно быть собственное, персонализированное программное обеспечение ИИОН. Новая лаборатория планировала уделять особое внимание исследованиям безопасности ИИ – области, которая в то время не была основным направлением деятельности корпоративных лабораторий, занимавшихся разработкой искусственного интеллекта. Маск стал основным спонсором некоммерческой организации, пообещав выделить 1 млрд долларов.

Поначалу OpenAI занималась обучением с подкреплением – тем же методом обучения ИИ, который DeepMind использовала в работе с играми Atari. Обучение с подкреплением отличается[69] от подхода, примененного Хинтоном, Суцкевером и Крижевским для победы в конкурсе ImageNet. Нейросеть AlexNet обучали на основе уже классифицированных объектов, имеющих пометки, которые позволяли компьютеру определить, видит он кошку или кенгуру. Это называется контролируемым обучением. При обучении с подкреплением сеть начинает работу без каких-либо данных и учится исключительно на опыте, методом проб и ошибок, обычно в симуляторе или игровой среде. Обучающим стимулом служит так называемый сигнал вознаграждения: привели ли совершенные действия к победе в игре, набраны очки или нет? Именно так программное обеспечение DeepMind осваивало игры Atari.

К моменту появления OpenAI DeepMind использовала этот метод для достижения еще одной вехи в развитии ИИ: она создала программу AlphaGo, которая обыграла лучшего в мире игрока в древнюю стратегическую игру го. В матче с Ли Седолем, чемпионом мира из Южной Кореи, AlphaGo сделала один настолько нестандартный ход, что эксперты-комментаторы, наблюдавшие за состязанием, были уверены, что это ошибка. Но ход оказался эффективным. Программа перевернула тысячелетние представления людей о том, как надо играть в го.

Компания OpenAI стремилась доказать, что тоже может продвинуться к ИИОН с помощью обучения с подкреплением. Она разработала новый важный алгоритм обучения[70] и выложила его в свободный доступ. Позже специалисты компании создали пять нейросетей, которые после обучения с подкреплением смогли совместными усилиями победить лучшую человеческую команду в сложной и быстро развивающейся видеоигре Dota 2.

Трансформер

Чтобы перейти от Dota 2 к ChatGPT, потребовался еще один прорыв: в 2017 году исследователи из Google Brain[71], вдохновленные отчасти «инопланетным языком» из фильма «Прибытие», разработали новую конфигурацию нейросети под названием трансформер. По сравнению с предыдущими системами ИИ, трансформер гораздо лучше справлялся с вычислением сложных закономерностей в длинных последовательностях. Он работал с любыми последовательностями: музыкальными нотами, кадрами видео или даже очередными оптимальными действиями в компьютерной игре. Но лучше всего трансформер подходил для выявления закономерностей в языке. Это связано с тем, что правильное спряжение глагола или гендерное местоимение, которое нужно использовать по ходу фразы, часто зависит от того, какие слова встречаются в начале предложения или даже несколькими предложениями ранее. Предыдущие программы искусственного интеллекта с трудом справлялись с зависимостями подобного рода.

Трансформер в значительной степени смог решить эту проблему. Он разбивал предложения на фрагменты (каждый длиной около слова), называемые токенами, а затем параллельно анализировал большие группы токенов, на что не были способны предыдущие нейросети. В этом анализе трансформер опирался на механизм, называемый внутренним вниманием (self-attention): для любого предложения он определял, на какие токены ему следует обратить особое внимание, чтобы сделать точное предсказание значения любого другого токена. Когда этот процесс был применен к языку, трансформеры смогли построить так называемую большую языковую модель (БЯМ). Она представляет собой чрезвычайно сложную статистическую карту взаимосвязей между всеми словами в обучающей базе данных. Примечательным в новой БЯМ на основе трансформеров было то, что, хотя ее обучали только предсказывать слова в предложении, полученная модель оказалась многоцелевой, словно швейцарский складной нож, поэтому была пригодна для обработки человеческого языка.

Освоив статистические закономерности, лежащие в основе языка, можно было использовать одну БЯМ на основе трансформера для решения всех видов задач, связанных с языком: обобщения, перевода, категоризации, анализа стиля и ответов на вопросы. В прошлом инженерам пришлось бы создавать особую часть программного обеспечения ИИ для каждой из этих задач. Теперь же все могла решать одна большая языковая модель.

Перед исследователями открывались безграничные возможности. Уже через несколько месяцев после публикации[72] первых результатов компания Google начала обучение БЯМ на основе трансформера и дала этой модели название BERT. По сравнению с предыдущими БЯМ, BERT представляла собой огромную нейросеть, которая могла обрабатывать связи между 340 млн различных переменных параметров. Ее обучение проводилось на взаимосвязях между 3,3 млрд слов из 11 тыс. англоязычных книг, а также «Википедии». Задача обучения состояла в том, чтобы предсказать пропущенное слово в предложении, – процесс вроде гигантской игры Mad Libs. После обучения нейросети Google опробовала этот алгоритм на серии тестов на знание языка. В большинстве из них BERT приблизилась к результатам человека.

В течение года результаты BERT существенно улучшились. Поисковый механизм Google внезапно усвоил важность предлогов для понимания смысла запросов людей. Теперь, когда кто-то набирал запрос «Требования к американской визе для бразильских путешественников», Google выдавал только те страницы, которые касались бразильцев, приезжающих в США, а не американцев, отправляющихся в Бразилию.

Суцкевер из OpenAI сразу понял, что это означает: прогресс на пути к ИИОН возможен. Письменность – отличительная черта человеческой цивилизации. Огромные объемы знаний существуют в письменной форме. Для тех, кто стремится к ИИОН, всегда было мечтой, чтобы искусственный интеллект мог быстро обучать себя новым навыкам, просто читая, как это делает человек, занимающийся самообразованием. Илья Суцкевер, Алек Рэдфорд и еще двое исследователей из OpenAI создали[73] трансформер и «скормили» ему 7 тыс. неопубликованных книг, в основном в жанрах фантастики и фэнтези, а также романов. Затем специалисты отточили «знания» ИИ на тысячах отрывков из письменных экзаменов в средней школе и на парах «вопрос – ответ», взятых с сайта Quora. Новый ИИ мог написать несколько связных абзацев. Однако он не был совершенен. Если его просили продолжить писать, ИИ начинал выдавать бессмысленные предложения или повторялся. Но это все же было намного лучше, чем раньше.

Рэдфорд и Суцкевер назвали созданную ими систему GPT (от generative pretrained transformer – «генеративный предварительно обученный трансформер»). Слово «генеративный» появилось в этом названии потому, что трансформер не просто анализирует существующие данные, а создает собственные. Предварительно обученным его назвали, поскольку на начальном этапе он изучает статистические закономерности языка и лишь затем может быть настроен на выполнение конкретных задач. В наши дни любой ИИ, способный создавать новый контент, называется генеративным.

Трансформеры могут генерировать не только слова. Соединив языковую модель на основе трансформеров[74] с другими видами ИИ, компания OpenAI создала нейронную сеть DALL-E (ее название – это объединение фамилии художника Сальвадора Дали и героя мультфильма компании Pixar робота WALL-E), способную генерировать неподвижные изображения практически в любом стиле на основе текстового описания. Этот же метод был усовершенствован[75] другими компаниями, в том числе стартапами Stability AI и Midjourney, а также такой крупной компанией, как Adobe. Аналогичным образом можно создавать и видео. И хотя на данный момент длина видеороликов[76] составляет всего около одной минуты, в перспективе появится возможность делать целые художественные фильмы на основе текстового описания. Другие компании, в том числе Google[77], используют трансформеров для работы со звуком, создавая композиции и даже имитируя голоса. Трансформеры не ограничиваются созданием контента – их можно применять также для предсказания очередного наиболее вероятного действия в последовательности, что приведет к появлению нового поколения цифровых помощников[78] – гораздо более способных, чем все предыдущие.

Есть ли у нас тот ИИ, который нам нужен?

Ключевое представление о нейросетях Суцкевер получил на своей предыдущей работе: чем больше система и чем большее количество данных в нее загружается, тем лучше она функционирует. Получалось, что это справедливо для больших языковых моделей. Такого же мнения придерживался и другой исследователь из OpenAI – Дарио Амодеи, бывший физик, переквалифицировавшийся в специалиста по ИИ. Позже он ушел из компании OpenAI и основал конкурирующую фирму Anthropic. Амодеи продемонстрировал, что нейросеть[79], похоже, подчиняется принципам масштабирования: она не просто улучшает производительность по мере собственного роста, это улучшение носит предсказуемый характер. Десятикратный рост объема данных, на которых обучалась модель, улучшал ее работу примерно на треть. Правда, рост модели мог повлечь за собой и появление неожиданных возможностей. Те задачи, с которыми модели меньшего объема испытывали трудности, вдруг становились посильными для больших.

Изначально Суцкевер полагал[80], что можно пройти бо́льшую часть пути к ИИОН, просто создавая все более крупные нейросети. В конце концов, человеческий мозг насчитывает около 86 млрд нейронов и между ними, по некоторым оценкам, существует около 100 трлн связей. Когда OpenAI создала первый GPT, самые крупные нейросети насчитывали всего несколько сотен миллионов искусственных нейронов и связей между ними. Может быть, ключом к интеллекту является большее количество нейронов? Многие исследователи ИИ в этом сомневались. Цифровые нейроны в нейросетях лишь отдаленно похожи на нейроны в мозге. Кроме того, биологический мозг гораздо эффективнее в обучении – чтобы усвоить концепцию, ему требуется всего несколько примеров, а не миллионы. Наш мозг также гораздо лучше применяет полученные знания в новых ситуациях. Скептики считали, что для достижения человеческого уровня интеллекта потребуется принципиально иной набор алгоритмов. Однако Суцкевера это не остановило. Он не видел причин отказываться от самого очевидного пути – просто строить все более крупные нейронные сети, использующие те же базовые алгоритмы, что и трансформеры, и строить до тех пор, пока не станет ясно, что преимущества подобного подхода исчерпаны.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Leonard Mlodinow, interview by Katie Haylor, The Elastic behind Light Bulb Moments, The Naked Scientists, March 20, 2019, https://www.thenakedscientists.com/articles/interviews/elastic-behind-light-bulb-moments.

Вернуться

2

Warren Schirtzinger, Thomas Edison Was an Energy Marketing Genius, Renewable Energy World, July 26, 2016, https://www.renewableenergyworld.com/storage/thomas-edison-was-an-energy-marketing-genius.

Вернуться

3

Jim Rasenberger, Fade to Black, New York Times, January 2, 2005, https://www.nytimes.com/2005/01/02/nyregion/thecity/fade-to-black.html.

Вернуться

4

Jeremy Kahn, The Inside Story of ChatGPT: How OpenAI Founder Sam Altman Built the World’s Hottest Technology with Billions from Microsoft, Fortune, January 25, 2023, https://fortune.com/longform/chatgpt-openai-sam-altman-microsoft/.

Вернуться

5

Jeremy Kahn, OpenAI Says It’s Making Progress on ‘The Alignment Problem’, Fortune, January 27, 2022, https://fortune.com/2022/01/27/openai-alignment-problem-instructgpt-gpt-3/.

Вернуться

6

Cade Metz, The Rise of AI – What the AI Behind AlphaGo Can Teach Us about Being Human, Wired, May 17, 2016, https://www.wired.com/2016/05/google-alpha-go-ai/.

Вернуться

7

Dan Garisto, Google AI Beats Top Human Players at Strategy Game StarCraft II, Nature, October 30, 2019, doi:10.1038/d41586-019-03298-6.

Вернуться

8

Kelsey Piper, AI Triumphs Against the World’s Top Pro Team in Strategy Game Dota 2, Vox, April 13, 2019, https://www.vox.com/2019/4/13/18309418/open-ai-dota-triumph-og.

Вернуться

9

Wikipedia contributors, Larry Tesler, Wikipedia, December 3, 2023, https://en.wikipedia.org/w/index.php?title=Larry_Tesler&oldid=1188057072.

Вернуться

10

Generative AI Could Raise Global GDP by 7%, Goldman Sachs, April 5, 2023, https://www.goldmansachs.com/intelligence/pages/generative-ai-could-raise-global-gdp-by-7-percent.html.

Вернуться

11

Jeremy Kahn, The Inside Story of ChatGPT: How OpenAI Founder Sam Altman Built the World’s Hottest Technology with Billions from Microsoft.

Вернуться

12

Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (Oxford University Press, 2014); Irving John Good, Speculations Concerning the First Ultraintelligent Machine, Advances in Computers 6 (1966): 31–88.

Вернуться

13

Jon Porter, ChatGPT Continues to Be One of the Fastest-Growing Services Ever, The Verge, November 6, 2023, https://www.theverge.com/2023/11/6/23948386/chatgpt-active-user-count-openai-developer-conference.

Вернуться

14

Gamiel Gran and Navin Chaddha, Generative AI – From Big Vision to Practical Execution, Mayfield, September 22, 2023, https://www.mayfield.com/generative-ai-from-big-vision-to-practical-execution/.

Вернуться

15

Джон Генри – мифологический народный герой США, рабочий, вступивший в соревнование с паровым молотом, но погибший от истощения. – Прим. ред.

Вернуться

16

Tom Brown et al., Language Models Are Few-Shot Learners, Advances in Neural Information Processing Systems 33 (Red Hook, NY: Curran Associates, Inc., 2020), 1877–1901.

Вернуться

17

Brown et al., Language Models Are Few-Shot Learners.

Вернуться

18

Brown et al., Language Models Are Few-Shot Learners; Deepak Narayanan et al., Efficient Large-Scale Language Model Training on GPU Clusters Using Megatron-LM, arXiv.org, 2021, https://arxiv.org/abs/2104.04473.

Вернуться

19

Alan Turing, Intelligent Machinery, National Physical Laboratory, August 1948.

Вернуться

20

Alan Turing, Computing Machinery and Intelligence, MIND: A Quarterly Review of Psychology and Philosophy 59, no. 236 (October 1950): 433–460.

Вернуться

21

Wolfe Mays, Can Machines Think? Philosophy 27, no. 101 (1952): 148–162.

Вернуться

22

John R. Searle, Minds, Brains, and Programs, The Behavioral and Brain Sciences 3, no. 3 (1980): 417–424.

Вернуться

23

Howard Gardner, Frames of Mind: The Theory Of Multiple Intelligences (London: Fontana Press, 1993).

Вернуться

24

Diane Proudfoot, Rethinking Turing’s Test, Journal of Philosophy 110, no. 7 (2013): 391–411; Simone Natale, Deceitful Media: Artificial Intelligence and Social Life After the Turing Test (New York: Oxford University Press, 2021); Luciano Floridi and Josh Cowls, A Unified Framework of Five Principles for AI in Society, in Machine Learning and the City, ed. Silvio Carta (Hoboken: Wiley, 2022), doi:10.1002/9781119815075.ch45.

Вернуться

25

Meta Fundamental AI Research Diplomacy Team (FAIR) et al., Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning, Science 378, no. 6624 (2022): Supplemental Materials, Section A: Ethical Considerations, Evaluation Methods: AI agent disclosure, p. 4; Eva Dou and Olivia Geng, AI Masters the Game of Go, Wall Street Journal, January 6, 2017.

Вернуться

26

Natasha Lomas, Duplex Shows Google Failing at Ethical and Creative AI Design, TechCrunch, May 10, 2018, https://techcrunch.com/2018/05/10/duplex-shows-google-failing-at-ethical-and-creative-ai-design/.

Вернуться

27

John Markoff, Machines of Loving Grace: The Quest For Common Ground Between Humans and Robots (New York: HarperCollins, 2015).

Вернуться

28

J. McCarthy, M. L. Minsky, N. Rochester, C. E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, Dartmouth, 1955, Ray Solomonoff Digital Archive, Box A, https://raysolomonoff.com/dartmouth/boxa/dart564props.pdf.

Вернуться

29

Pamela McCorduck, Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence, 2nd Edition (New York: Routledge, 2004), 114–115.

Вернуться

30

Pamela McCorduck, Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence, 2nd Edition (New York: Routledge, 2004), 104.

Вернуться

31

Harald Sack, Marvin Minsky and Artificial Neural Networks, SciHi Blog, August 2020, http://scihi.org/marvin-minsky-artificial-neural-networks/; Jeremy Bernstein, Marvin Minsky’s Vision of the Future, The New Yorker, December 6, 1981; Caspar Wylie, The History of Neural Networks and AI: Part I, Open Data Science, April 24, 2018, https://opendatascience.com/the-history-of-neural-networks-and-ai-part-i/; Single Layer Perceptron, Tutorials Point, accessed August 7, 2023, https://www.tutorialspoint.com/tensorflow/tensorflow_single_layer_perceptron.htm; McCorduck, Machines Who Think, 99–104.

Вернуться

32

McCorduck, Machines Who Think, 99–104; Shraddha Goled, Why Did AI Pioneer Marvin Minsky Oppose Neural Networks? Analytics India Magazine, March 2022, https://analyticsindiamag.com/why-did-ai-pioneer-marvin-minsky-oppose-neural-networks/.

Вернуться

33

Ben Tarnoff, Weizenbaum’s Nightmares: How the Inventor of the First Chatbot Turned against AI, The Guardian, July 25, 2023, https://www.theguardian. com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai.

Вернуться

34

McCorduck, Machines Who Think, 291–293.

Вернуться

35

McCorduck, Machines Who Think, 295–296.

Вернуться

36

McCorduck, Machines Who Think, 293–294.

Вернуться

37

Joseph Weizenbaum, ELIZA – a Computer Program for the Study of Natural Language Communication between Man and Machine, Communications of the ACM (Association for Computing Machinery) 9, no. 1 (1966): 36–45, https://doi.org/10.1145/365153.365168, 42.

Вернуться

38

McCorduck, Machines Who Think, 296.

Вернуться

39

Joseph Weizenbaum, ELIZA – a Computer Program for the Study of Natural Language Communication between Man and Machine, Communications of the ACM (Association for Computing Machinery) 9, no. 1 (1966): 42.

Вернуться

40

Ben Tarnoff, Weizenbaum’s Nightmares: How the Inventor of the First Chatbot Turned against AI.

Вернуться

41

McCorduck, Machines Who Think, 294.

Вернуться

42

Lawrence Switzky, ELIZA Effects: Pygmalion and the Early Development of Artificial Intelligence, Shaw 40, no. 1 (June 1, 2020): 50–68.

Вернуться

43

McCorduck, Machines Who Think, 293–294.

Вернуться

44

McCorduck, Machines Who Think, 85.

Вернуться

45

McCorduck, Machines Who Think, 361.

Вернуться

46

McCorduck, Machines Who Think, 356.

Вернуться

47

McCorduck, Machines Who Think, 356–357.

Вернуться

48

Tarnoff, Weizenbaum’s Nightmares: How the Inventor of the First Chatbot Turned against AI.

Вернуться

49

Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation.

Вернуться

50

McCorduck, Machines Who Think, 359.

Вернуться

51

Bruce C. Buchanan, Joshua Lederberg, and John McCarthy, Three Reviews of J. Weizenbaum’s Computer Power and Human Reason, Advanced Research Projects Agency Archive, Stanford University, Computer Science Department, Stanford Artificial Intelligence Laboratory, November 1976, online, Defense Technical Information Center, U.S. Department of Defense, https://apps.dtic.mil/dtic/tr/fulltext/u2/a044713.pdf.

Вернуться

52

Cade Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World (UK: Penguin Books, 2022), 41–44.

Вернуться

53

Cade Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World (UK: Penguin Books, 2022), 53–54.

Вернуться

54

Cade Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World (UK: Penguin Books, 2022), 64–65.

Вернуться

55

Dave Steinkraus, Ian Buck, and Patrice Y. Simard, Using GPUs for Machine Learning Algorithms, in ICDAR ’05: Proceedings of the Eighth International Conference on Document Analysis and Recognition, Eighth International Conference on Document Analysis and Recognition (August 2005), IEEE Computer Society, 1115–1119, doi:10.1109/icdar.2005.251.

Вернуться

56

Kumar Chellapilla, Sidd Puri, and Patrice Simard, High Performance Convolutional Neural Networks for Document Processing, International Workshop on the Frontiers of Handwriting Recognition (IWFHR), October 2006, https://www.researchgate.net/publication/228344387_High_Performance_Convolutional_Neural_ Networks_for_Document_Processing.

Вернуться

57

Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, 69–78.

Вернуться

58

Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, 1–12, 80–88, 98.

Вернуться

59

Jeremy Kahn, Inside Big Tech’s Quest for Human-Level A.I., Fortune, January 20, 2020, https://fortune.com/longform/ai-artificial-intelligence-big-tech-microsoft-alphabet-openai/.

Вернуться

60

Maxime Godfroid, A Critical Appraisal of Deep Learning, Towards Data Science, January 17, 2021, https://towardsdatascience.com/a-critical-appraisal-of-deep-learning-1b154695dddf.

Вернуться

61

Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, 105–111; Kahn, Inside Big Tech’s Quest for Human-Level A.I.; Shane Legg, interview by Jeremy Kahn, August 22, 2023.

Вернуться

62

Kahn, Inside Big Tech’s Quest for Human-Level A.I.

Вернуться

63

Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, 112.

Вернуться

64

Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, 112–116.

Вернуться

65

Peter Holley, Elon Musk’s Nightmare: A Google Robot Army Annihilating Mankind, Washington Post, May 13, 2015, https://www.washingtonpost.com/news/innovations/wp/2015/05/13/elon-musks-nightmare-a-google-robot-army-annihilating-mankind/.

Вернуться

66

Kahn, Inside Big Tech’s Quest for Human-Level A.I.

Вернуться

67

Andrej Karpathy, Introducing OpenAI, accessed January 6, 2024, https://openai.com/blog/introducing-openai.

Вернуться

68

Andrej Karpathy, Introducing OpenAI, accessed January 6, 2024; Jeremy Kahn, ChatGPT Creates an A.I. Frenzy, Fortune, February/March 2023, 44–53.

Вернуться

69

Cade Metz, The Rise of AI – What the AI Behind AlphaGo Can Teach Us about Being Human, Wired, May 17, 2016, https://www.wired.com/2016/05/google-alpha-go-ai/.

Вернуться

70

Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World, 280–283; Kahn, Inside Big Tech’s Quest for Human-Level A.I.

Вернуться

71

Madhumita Murgia, Transformers: The Google Scientists Who Pioneered an AI Revolution, Financial Times, July 23, 2023, https://www.ft.com/content/37bb01af-ee46-4483-982f-ef3921436a50; Madhumita Murgia and FT Visual Story-Telling Team, Generative AI Exists because of the Transformer, Financial Times, September 12, 2023, https://ig.ft.com/generative-ai/; Jeremy Kahn, A.I. Breakthroughs in Natural-Language Processing Are Big for Business, Fortune, January 20, 2020, https://fortune.com/2020/01/20/natural-language-processing-business/.

Вернуться

72

Kahn, A.I. Breakthroughs in Natural-Language Processing Are Big for Business.

Вернуться

73

Steven Levy, What OpenAI Really Wants, Wired, September 5, 2023, https://www.wired.com/story/what-openai-really-wants/.

Вернуться

74

Jeremy Kahn, Move Over, Photoshop: OpenAI Just Revolutionized Digital Image Making, Fortune, April 6, 2022, https://fortune.com/2022/04/06/openai-dall-e-2-photorealistic-images-from-text-descriptions/.

Вернуться

75

Harry McCracken, Adobe Is Diving – Carefully! – into Generative AI, Fast Company, March 21, 2023, https://www.fastcompany.com/90868402/adobe-firefly-generative-ai-photoshop-express-illustrator.

Вернуться

76

Steven Levy, OpenAI’s Sora Turns AI Prompts Into Photorealistic Videos, Wired, February 15, 2024, https://www.wired.com/story/openai-sora-generative-ai-video/.

Вернуться

77

Kristin Yim, Turn Ideas into Music with MusicLM, Google, May 10, 2023, https://blog.google/technology/ai/musiclm-google-ai-test-kitchen/; ElevenLabs – Generative AI Text to Speech & Voice Cloning, accessed October 1, 2023, https://elevenlabs.io/.

Вернуться

78

Anna Tong and Jeffrey Dastin, Insight: Race towards ‘Autonomous’ AI Agents Grips Silicon Valley, Reuters, July 18, 2023, https://www.reuters.com/technology/race-towards-autonomous-ai-agents-grips-silicon-valley-2023-07-17/.

Вернуться

79

Kahn, Inside Big Tech’s Quest for Human-Level A.I.; Jared Kaplan et al., Scaling Laws for Neural Language Models, arXiv.org, January 23, 2020, http://arxiv.org/abs/2001.08361.

Вернуться

80

Kahn, Inside Big Tech’s Quest for Human-Level A.I.; Ilya Sutskever, interview by Jeremy Kahn, July 14, 2023.

Вернуться