Д. В. Бахтеев

Искусственный интеллект: этико-правовые основы

Монография

ebooks@prospekt.org

Информация о книге

УДК 004.8:34

ББК 67.410(2Рос)я73

Б30

Изображение на обложке foxaon1987 /Shutterstock.com

Автор:

Бахтеев Д. В., кандидат юридических наук, доцент кафедры криминалистики Уральского государственного юридического университета.

Рецензенты:

Грибанов Д. В., доктор юридических наук, профессор кафедры теории государства и права, проректор по учебной работе Уральского государственного юридического университета;

Морхат П. М., доктор юридических наук, судья Арбитражного суда Московской области.

В настоящей монографии описаны основы современных технологий искусственного интеллекта, основные проблемы их использования с точки зрения социогуманитарных наук. Рассмотрены этические и правовые подходы к регулированию технологии искусственного интеллекта, алгоритм и перспективы ее изучения инструментарием юридических наук, возможности использования искусственного интеллекта как метода и инструмента в юридической деятельности и научных исследованиях. Подробно исследованы риски и модели позиционирования технологии в обществе с точки зрения этики и права, в том числе вопросы правосубъектности и юридической ответственности в контексте функционирования систем искусственного интеллекта. В работе определены последующие направления дальнейших юридических исследований в области высоких технологий.

Законодательство приведено по состоянию на 12 мая 2020 г.

Предназначена для научных работников, преподавателей, аспирантов (адъюнктов), студентов (курсантов) юридических и иных гуманитарных вузов, практикующих юристов, а также всех, кто интересуется высокими технологиями и их связью с этикой и правом.

УДК 004.8:34

ББК 67.410(2Рос)я73

© Бахтеев Д. В., 2020

© ООО «Проспект», 2021

Памяти моего Учителя,
великого человека и блестящего ученого
Леонида Яковлевича Драпкина
(1924–2019)

ВВЕДЕНИЕ

Автор настоящей работы с 2015 г.занимается криминалистическими, правовыми, этическими и технологическими вопросами машинного обучения и искусственного интеллекта. С 2018 г.при финансировании Российского фонда фундаментальных исследований проводится комплексное исследование правовых, этических и криминалистических аспектов функционирования систем искусственного интеллекта. Настоящая книга является одним из теоретических результатов данного исследования (хотя содержит в числе прочего и описание фрагмента прикладного/экспериментального направления проекта).

Искусственный интеллект, машинное обучение, глубокое обучение, искусственные нейросети — эти бывшие не так давно прерогативой компьютерных наук термины все больше входят в повседневную реальность. Технология искусственного интеллекта уже показала свою полезность, при этом ее возможности еще далеко не исчерпаны, однако уже сейчас вполне заметны проблемы и риски, вызванные этой технологией. Представляется, что для оценки и выработки подходов к разрешению рисков в данном случае крайне важны этическая и правовая нормативные системы. Так, о недостаточности правовой разработки этой темы свидетельствует статистика, собранная автором настоящей работы в каталоге Российской государственной библиотеки. С 2015 по 2020 г. (именно с 2015 г. начался современный подъем интереса к рассматриваемой технологии) в каталог по специальности «Философские науки» было добавлено 819 диссертационных работ, связанных с тематикой искусственного интеллекта, по специальности «Юридические науки» — 365 работ (следует учитывать, что в эти числа включены как диссертации, так и авторефераты). Более чем двукратная разница усугубляется также тем, что связь между философией и юриспруденцией является односторонней, т. е. заимствование идей и методов направлено в основном от философии к юриспруденции: большинство юридических работ в этой области (не исключая данную) используют достижения философской науки, что вызывает статистические отклонения в силу алгоритмов поисковой индексации — в реальности юридических исследований по этой теме производится еще меньше.Это выявляет недостаточное внимание исследователей к этой важнейшей технологии, несмотря на то, что мы живем в эпоху технократии и технооптимизма.

Поведение человека в обществе ограничено различными регуляторами: правовыми, этическими, религиозными, корпоративными нормами, обычаями. Различия между предписаниями этих регуляторных систем вызывают значительное количество социальных противоречий и конфликтов, поэтому минимизацию таких различий можно назвать одной из целей развития и совершенствования как законодательства, так и других систем регулирования. По верному высказыванию Н. Н. Тарасова, «смена социокультурных стратегий, выражающаяся в трансформации ценностно-целевых структур переходного общества, означает для правовой науки не просто изменения в конкретном объекте исследования, но и серьезные методологические корректировки ее предмета и метода»¹. Технология искусственного интеллекта помимо изменений технологических процессов уже оказывает влияние на социальную сферу, а через нее— и на право, равно как и все прочие системы социальных норм. Как отметил П. Домингос, «люди боятся, что компьютеры станут слишком умными и захватят мир, но реальность такова, что они слишком глупы, но уже его захватили»².

В представленном монографическом исследовании рассматриваются основные подходы к восприятию технологии искусственного интеллекта с точки зрения регулирования этой технологии этическими и правовыми нормами. В этом случае основным методом исследования является моделирование, поскольку именно этот метод позволяет представить возможные варианты будущей интеграции систем искусственного интеллекта в различные сферы общества и функционирования государства. Формирование этических и правовых моделей в этом случае осуществлялось по следующим направлениям:

основы технологии искусственного интеллекта и ее возможности;

интеграция систем искусственного интеллекта в различные области жизни;

группы рисков, вызываемых этой технологией, и возможности их предотвращения или преодоления;

субъектность систем искусственного интеллекта, сравнение и противопоставление личности человека и системы искусственного интеллекта.

Несмотря на то, что исследование посвящено базовым вопросам этико-правового регулирования технологии искусственного интеллекта, также был задействован сравнительно-правовой метод, позволивший сопоставить отдельные нормотворческие подходы разных государств и организаций.

В первой главе монографии раскрываются особенности понятийного аппарата философии, этики, юриспруденции и компьютерных наук в отношении технологии искусственного интеллекта. Раскрываются вопросы рациональности и автономности систем искусственного интеллекта.Описывается соотношение систем искусственного интеллекта и киберфизических систем (роботов). Приводится краткое описание направлений человеческой деятельности, где системы искусственного интеллекта уже используются или могут использоваться. Основным элементом первой главы является предложенный алгоритм исследования любой важной технологии посредством социогуманитарного (в первую очередь этико-правового) инструментария. Последующее содержание работы следует этому алгоритму.

Вторая глава содержит описание истории технологии искусственного интеллекта и указание на специфику ее развития, заключающееся в «перезапуске» технологии с точки зрения ее восприятия наукой и обществом. Рассматривается смежная по отношению к искусственному интеллекту технология компьютерного зрения, раскрываются ее потенциал в применении в юриспруденции и смежных областях деятельности. В последнем параграфе главы на примере прикладной части настоящего исследования описываются сущность и этапы создания искусственной нейронной сети — наиболее распространенного на данный момент технологического решения в области искусственного интеллекта.

В третьей главе расположено как общее описание этико-правового подхода к искусственному интеллекту, так и его частные компоненты: риски применения технологии и их этико-правовая оценка, этические модели для разных вариантов позиционирования технологии искусственного интеллекта в обществе. На примере норм, разработанных межгосударственными и государственными органами, а также организациями и их объединениями, рассматривается нормативный подход к регулированию искусственного интеллекта. Описываются основные составляющие разработанного в рамках исследования Кодекса этики разработчика, оператора и пользователя системы искусственного интеллекта.

В последней главе содержатся описание и попытка разрешения основных проблем правового характера, связанных с технологией искусственного интеллекта. К таковым отнесены вопросы правосубъектности систем искусственного интеллекта, в том числе в контексте прав на объекты интеллектуальной собственности, и использования искусственного интеллекта как метода (на примере судебной, следственной и экспертной деятельности).

В конце монографии находится словарь использованных терминов, в основном, технического характера, который поможет юристу улучшить свое понимание описываемой технологии.

Монография не претендует на окончательную полноту и безусловное раскрытие поставленных вопросов, более того, вероятно, количество правовых и этических вопросов, связанных с технологией искусственного интеллекта, после прочтения этой книги может даже возрасти. Однако в работе задан вектор развития социогуманитарного знания, который может (и, можно надеяться, должен) поспособствовать согласованному и взвешенному развитию мультидисциплинарного научного подхода к пониманию искусственного интеллекта.

Автор благодарит за помощь в подготовке работы уважаемых рецензентов, а также Р. О. Сударикова — за технические советы, К. В. Бахтееву — за комментарии и советы по организации текста, А. А. Белякова, А. В. Антропова, А. В. Кабанова и Ф. В. Мусатова — за помощь в развитии проекта.

Глава I. ОБЩЕТЕОРЕТИЧЕСКИЕ ОСНОВЫ ИССЛЕДОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Верю в прогресс: будут изобретены
машины для чтения мыслей, еще
не пришедших в голову

Станислав Ежи Лец

§ 1.1. Основные понятия предмета исследования

К настоящему времени сформулировано грандиозное количество определений того, что из себя представляет (или должен представлять) искусственный интеллект. В данном параграфе мы предпримем попытку систематизировать основные подходы к определению этого понятия и соотнести его со смежными понятиями.

Крайне важным для признания некоей сущности интеллектуальной является возможность этой сущности воспринимать мир опосредованно. Соответственно, помимо наличия сенсорного компонента (органы чувств у живого существа, датчики — у компьютерной системы) должен присутствовать некий орган или модуль, осуществляющий моделирование полученных данных и создание опосредованных образов мира. Таким образом, сама по себе архитектура нервной системы живого существа либо искусственной нейронной сети (о ней речь пойдет в § 2.3 гл. II) не обязательно наделяет ее обладателя критерием интеллектуальности.

Один из крупнейших ученых эллинистического мира и человеческой цивилизации вообще — Аристотель — связывал наличие сознания и, соответственно, интеллекта с обладанием связной сложной речью, возможностью отличать правду от лжи, проявлять сознательную храбрость и другие качества, связанные с осознанием разницы между хорошим и плохим³. Соответственно, животные не воспринимались им и его последователями как носители интеллекта. Однако для большинства других ученых, как древности, так и более современных периодов, решение этого вопроса было не столь однозначным: поведение человека и животных имеет немало общего (к примеру, инстинкты самосохранения и продолжения рода); строение организма и нервной ткани также вполне сопоставимо.

Последнее, однако, не всегда справедливо. К примеру, улитки вместо мозга обладают ганглием, для функционирования им требуется не разветвленная, как у человека, нейронная сеть на миллионы нейронов, а лишь пара нейронов, один из которых отвечает за формирование чувства голода, второй — передает информацию о наличии пищи. Некоторые виды пауков при крайне малом количестве нервной ткани (фактически отсутствующем мозге) демонстрируют впечатляющие способности к самоорганизации, накоплению и использованию опыта, координированному сложному групповому взаимодействию⁴. Однако ни пауки, ни улитки не считаются носителями интеллекта — это качество в настоящее время приписывается помимо человека при определенных условиях только животным, которые способны действовать безотносительно безусловных и условных рефлексов.

Словарное определение интеллекта сводится к мыслительной способности, умственному началу исключительно у человека⁵. Многие домашние животные способны оперировать понятиями «свой», «чужой», «дом», отличают свои клички от других звуков. Крупные млекопитающие (слоны, обезьяны), некоторые птицы (сороки, вороны) и даже насекомые (муравьи) способны узнавать себя в зеркале, т. е. успешно проходить тест Гэллапа, который в третьей четверти прошлого века считался убедительной проверкой на наличие сознания и интеллекта. Под последним в этом случае стоит понимать возможность моделирования окружающей реальности и осознания своего места в ней (самореферентность).

Однако в данном ключе следует различать синтаксическое и семантическое моделирование. Первое отражает восприятие формы, второе — понимание содержания. Животные, равно как и современные системы искусственного интеллекта, обладают лишь первым, т. е. способны воспроизводить действие и даже различать отдельные компоненты причинности, однако реальной рефлексией и пониманием комплексности связей между объектами реальности, т. е. полноценным интеллектом ни животные, ни современные системы искусственного интеллекта (по крайней мере, к настоящему моменту) не обладают.

Естественный интеллект определяют как «способность живых систем решать задачи, в которых присутствуют не только репродуктивные (формализуемые), но и творческие компоненты»⁶. Представляется, что интеллект в таком случае предполагает наличие самосознания, т. е. восприятия себя и окружающей действительности как отдельных самостоятельных объектов; наличие возможности моделирования, в том числе, абстрактных понятий (к примеру, отдаленного будущего), что в свете приведенного можно считать творческой функцией. Забегая вперед, отметим, что с учетом изложенного говорить о полноценном искусственном интеллекте пока преждевременно, соответственно, этот термин является достаточно условным, что приводит к необходимости его детального изучения в целях недопущения некорректной интерпретации.

Термин «искусственный» означает «не природный, сделанный наподобие подлинного»⁷. Таким образом, в самом понятии искусственного интеллекта заложено моделирование именно мыслительных способностей человека, хотя данная точка зрения не идеальна. При этом исходный англоязычный термин — artificial intelligence — корректнее было бы переводить не как «искусственный интеллект», а как «искусственное умение рациональных рассуждений», что демонстрирует определенную, хотя и незначительную семантическую разницу в терминах, а значит, и в понимании этих терминов в российской и зарубежной научных традициях.

В монументальной работе С. Рассела и П. Норвига, посвященной комплексному исследованию искусственного интеллекта, указывается, что определения искусственного интеллекта, равно как и подходы к его исследованию могут быть сгруппированы с четырех позиций:

Системы, которые думают подобно людям.

Системы, которые действуют подобно людям;

Системы, которые думают рационально;

Системы, которые действуют рационально⁸.

С точки зрения первого подхода, искусственный интеллект, как правило, определяется как компьютерное устройство, способное думать и обладать разумом в полном и буквальном смысле этого слова⁹; автоматизация действий, ассоциируемых с человеческим мышлением, таких как принятие решений, решение задач, обучение¹⁰, получение новых результатов, не содержащихся в памяти¹¹. Аналогичной точки зрения придерживаются В. К. Финн и Ю. М. Арский, формулируя определение искусственного интеллекта как интеллектуальной компьютерной системы, способной реализовывать «анализ данных посредством автоматизированных познавательных процедур с использованием баз фактов и баз знаний, автоматическое порождение гипотез, процедуры объяснения исходного состояния баз фактов с целью оправдания и принятия гипотезы, совершение дедуктивного вывода из имеющихся ранее знаний и знаний, полученных в результате индуктивного обобщения сходных фактов из баз фактов»¹². Таким образом, искусственный интеллект рассматривается с когнитивных позиций, как познающая система.

Согласно второй позиции, системы искусственного интеллекта должны «выполнять функции, требующие интеллектуальности при выполнении таковых людьми»¹³, «совершать то, в чем люди их пока превосходят»¹⁴. Интеллектуальность в данном контексте стоит понимать как возможность изменения действий при сохранении их результативности в зависимости от изменяющейся ситуации.

Третий подход предполагает, что искусственный интеллект способен «воспроизводить умственные способности с помощью вычислительных моделей»¹⁵, при этом обеспечивать их реализацию без сравнения с человеком: оценка таких решений может производиться с точки зрения объективных показателей.

Четвертая позиция представляет искусственный интеллект как проектируемый интеллектуальный артефакт¹⁶ — созданный человеком, но не целиком зависящий от него объект.

Первая и вторая позиции опираются на так называемую трансляционную (традиционную) теорию, согласно которой человеческий опыт и подход к решению познавательных задач может и должен быть адаптирован компьютером.

Третья и четвертая позиции оперируют понятием рациональности, которая в зависимости от области применения может принимать десятки различных форм¹⁷. Д. И. Дубровский, характеризуя общие положения рациональности, указывает, что это «адекватно отображенное, целесообразное, логическое, разумное, обоснованное, причем обоснованное не только эмпирическими и теоретическими средствами в процессах познавательной деятельности, не только историческим опытом, но результатами биологической революции и антропогенеза — в них основания рациональности, создающей средства для создания реальности, которые позволяют отличить реально существующее от мнимого, “реально реальное” от виртуального, возможного от невозможного и т. п.»¹⁸

Рациональность, по мнению логика Ю. Эльстера, «предполагает несколько большее, чем непротиворечивые действия в соответствии с непротиворечивыми убеждениями и желаниями: мы также требуем, чтобы сами убеждения и желания были рациональными в более существенном смысле <…> Рациональность может быть закреплена <…> за агрегированным исходом индивидуальных решений»¹⁹. Соответственно, система искусственного интеллекта «думает» рационально, если источники ее целей характеризуются аналогично, т. е. в основе функционирования системы искусственного интеллекта, достойной такого наименования, должен находиться комплекс ее убеждений — гипотез существования (в том числе моральных и правовых) и прикладной реализации технологии, обеспечивающей функционирование такой системы.

С. Рассел и П. Норвиг не считают поведение человека априорно нерациональным, а указывают, что человек в силу эмоциональной неустойчивости или систематических ошибок рассуждения склонен вести себя нерационально²⁰. Данная точка зрения представляется не совсем корректной: рациональность, как правило, понимают как соответствие некоторым правилам (нормативность). Правила, в свою очередь, — понятие идеальное, создается, оценивается и, при совпадении ряда факторов, выполняется в мыслительном процессе. Н. С. Автономова характеризует рассудок как «область действий правил, которые вполне точно зафиксированы и в принципе могут быть описаны. Это могут быть правила логики, но вовсе необязательно только они»²¹. Представляется, что для описания технологии искусственного интеллекта действует комплекс правил, как внутренних — технологических, определяемых возможностями математики и компьютерных наук, так и внешних — этики и права. Современная философия ставит под сомнение нормативность рациональности, «большинство современных теоретиков придерживаются той точки зрения, что оценка действия на рациональность не предполагает строгого соответствия нормативных оснований этого действия положению дел в мире. Другими словами, рациональность действия понимается как когерентность нормативных оснований, а не их корреспонденция действительному положению дел»²², однако для целей правовых исследований понимание рациональности системы искусственного интеллекта через критерий соблюдения ею комплекса правил (нормативности) представляется вполне корректным.

О. П. Кузнецов, комментируя ограниченную рациональность человека, пишет, что «…человек часто поступает нерационально не только в силу объективных причин (необходимость быстро принимать решения в условиях недостаточной информации, ограниченного времени и т. д.), но и из-за неумения использовать те интеллектуальные способности, которыми он обладает»²³. Как ни странно, компьютерные системы, лишенные субъективности (в рамках настоящей работы помимо субъективности нужно также рассматривать и субъектность), с точки зрения этого определения лишены именно объективных причин иррациональности: скорость работы современной компьютерной техники позволяет обгонять человека в разы (например, при сборе кубика Рубика) или на сотни порядков (при математических вычислениях). Однако вторая группа факторов имеет значение: помимо фактических знаний для принятия рациональных решений необходим инструментарий по управлению этими знаниями. Такой инструментарий также с определенной долей условности можно назвать правилами обучения или мышления.

Н. Винер, основатель современных кибернетики и науки управления, писал, что «как биологические, так и механические системы управления стремятся к осуществлению рационального целенаправленного поведения, которое, в свою очередь, представляет собой минимизацию ошибок с помощью обучения и накопления опыта»²⁴.

В когнитивных науках и экономике под рациональностью часто понимают две различные ее формы.

Инструментальная рациональность — оптимизация достижения целей человеком. Показателем рационального поведения в этом случае будет величина его отклонения от паттерна оптимального выбора²⁵. Именно в ключе этого понимания критериев рациональности следует оценивать эффективность функционирования современных систем искусственного интеллекта.

Другим типом рациональности является эпистемическая (фактологическая) рациональность, под которой понимают соответствие убеждений субъекта структуре реального мира²⁶. Полагаем, что реализация данного типа рациональности системой искусственного интеллекта позволит говорить о наличии у него самосознания и такую систему следует считать манифестацией сильного (общего) искусственного интеллекта (см. далее).

Зачастую к указанным двум типам добавляют еще аксиологическую рациональность — систему целеполагания и производных от нее действий, направленных на достижение ценностного результата²⁷. Этот тип рациональности для понимания и оценки с его помощью прикладных и экспериментальных систем искусственного интеллекта (равно как и другого сложного технологического решения или комплекса решений) представляется слишком рискованным: вполне вероятна коллизия при сопоставлении интересов и ценностей пользователя системы и общества в целом.

Экспертная группа по вопросам искусственного интеллекта, созданная Еврокомиссией, определяет рациональность искусственного интеллекта как рациональное поведение по преобразованию окружающей среды, реализуемое благодаря возможности восприятия внешней среды, которая обеспечивается через сенсоры (датчики), позволяющие собирать и интерпретировать данные, принимать оптимальные решения²⁸. С точки зрения данной работы, такой подход представляется излишне узким — он может являться корректным только при понимании внешней среды (и как источника, и как результата работы с данными) в предельно широком смысле, как информации из любых источников (как предоставленных человеком непосредственно, так и вычленяемых из неупорядоченных информационных систем). Часто встречаемый в гуманитарных работах термин «датчик» может у системы искусственного интеллекта (особенно существующей в исключительно программной форме) в принципе отсутствовать, поскольку назвать датчиком алгоритм обработки текста или цифрового изображения нельзя, но при отсутствии конкретного модуля, который мог бы так называться, своего рода восприятие внешней среды (что является задачей сенсора) такие системы осуществляют, вполне признаются рациональными и могут так или иначе преобразовывать окружающий мир, но в большей мере через решения, а не активные действия.

Учитывая приведенные позиции, в контексте исследования искусственного интеллекта под рациональностью в общем смысле следует понимать возможность и способность системы искусственного интеллекта принимать ситуационно и причинно обусловленные наилучшие из доступных решений при соблюдении неких условно стабильных правил. Следует также отметить, что большинство исследователей рациональности это понятие адаптируют либо к человеку, либо к группе людей. Однако в настоящее время требуется расширение этого понятия и на искусственные системы. В их случае рациональность может предполагать одновременное выполнение показателей эффективности при соблюдении внешних социальных норм (этических и юридических).

Очевидно, в основе приведенной классификации подходов к определению понятия искусственного интеллекта лежит противопоставление мыслительных операций поведению в реальном мире. Кроме этого, также присутствует сопоставление мышления или действий искусственного интеллекта либо с человеческим мышлением или действиями, либо же оценка мышления или действий с позиций некоей объективной рациональности. В данном контексте неверной представляется система качеств познающего (вопрошающего) мышления, предложенная одним из величайших философов XX века М. Хайдеггером, которая включает четыре тезиса:

Мышление не ведет ни к какому знанию, наподобие наук.

Мышление не дает никакой полезной житейской мудрости.

Мышление не разрешает никакой мировой загадки.

Мышление не предоставляет непосредственно никаких сил к действию²⁹.

Итоговым этапом процесса мышления является инициация либо следующего процесса мышления, либо какого-либо действия. Само понятие мотивационной сферы уже указывает на зависимость действий от мышления. Далее в работе будет описано, каким образом системы искусственного интеллекта без прямого преобразования реальности генерируют новое знание из ранее известного.

Известный исследователь мышления и рациональности М. К. Мамардашвили описывает процесс мышления как выводимость структурированного знания безотносительно его связи с эмпирико-сенсуальной составляющей процесса познания³⁰, что вполне соотносится с применением критерия рациональности к искусственным объектам; вместе с тем, действие или совокупность действий — деятельность — так или иначе определяются для субъекта, действующего интеллектуально, именно правилами мышления и правилами, обрабатываемыми мышлением, поэтому отрицание связи мышления и деятельности представляется неверным, хотя в данной работе приоритет отдается именно «мыслительным» операциям искусственного интеллекта, а не его действиям в материальном мире.

Мышление мы понимаем многозначно — как совокупность характеристик познающего субъекта и способов познавательной деятельности, позволяющих осуществлять, воспринимать и обрабатывать фрагментированную, неполную информацию в целях выявления и объяснения объективных закономерностей и связей между отдельными объектами (явлениями, событиями). Однако мышление не должно восприниматься в отрыве от практической деятельности: даже теоретические мысленные эксперименты в науке — лишь шаг на пути к реализации некоего будущего прикладного проекта, т. е. даже фундаментальные исследования закладывают «фундамент» для строительства определенной «постройки». Соответственно, в рамках настоящей работы мы придерживаемся своего рода идеалистической позиции и считаем, что построение искусственного интеллекта в основе своей опирается на моделирование либо отдельных мыслительных операций (например, по распознаванию или оценке), либо, в случае «сильного» искусственного интеллекта, — на моделирование всего процесса мышления комплексно, однако в итоге любых теоретических исследований должен появиться практический результат, а программный продукт в виде системы искусственного интеллекта вполне может быть интегрирован в киберфизическую среду — робота. В дальнейших частях работы для описания прикладной программно-аппаратной системы на основе искусственного интеллекта будет использоваться термин «киберфизическая система».

Учитывая изложенное, содержание искусственного интеллекта должно определяться и рассматриваться через призму когнитивного, а не деятельностного подхода. Первая (системы, которые думают подобно людям) и третья (системы, которые думают рационально) позиции, описанные выше, по сути, отражают настоящее и предполагаемое будущее рассматриваемой технологии соответственно. К текущему моменту, как уже неоднократно упоминалось, у человечества нет другого примера системы мышления, кроме как собственно человеческой. В будущем, возможно, появятся альтернативные системы, однако в любом случае они будут антропогенными, поэтому говорить о достижении «внечеловеческой» рациональности к данному моменту неверно либо, по крайней мере, преждевременно.

А. Каплан и М. Хэнлин приводят следующую схему развития и соотношения интеллекта искусственного и человеческого³¹ (табл. 1).

Таблица 1

Соотношение искусственного интеллекта с интеллектом человека

Экспе-
ртные сис-
темы
Анали-
тиче-
ский ИИ
ИИ по аналогии с челове-
ческим разумом
ИИ, соотно-
симый с челове-
ческим разу-
мом
Чело-
вече-
ский интел-
лект

Когнитивный интеллект | нет | да | да | да | да
Эмоциональный интеллект | нет | нет | да | да | да
Социальный интеллект | нет | нет | нет | да | да
Художественная креативность | нет | нет | нет | нет | да
|  | Этапы развития технологии машинного обучения |

Следует считать, что существующие на момент написания работы технологии находятся, согласно приведенной схеме, между аналитическим и созданным по аналогии с человеческим разумом искусственным интеллектом. Однако с приведенными характеристиками довольно трудно согласиться: современные результаты работы систем искусственного интеллекта подвергают сомнению отсутствие у них художественной креативности, в то же время настоящий эмоциональный интеллект, а не его симуляция, т. е. проявление эмпатии, для рассматриваемых систем не характерен. А. Лавлесс, которую часто называют первым в истории программистом, писала, что компьютер «мог бы воздействовать на другие вещи, не только числа, если бы были найдены объекты, взаимные фундаментальные отношения которых могут быть выражены таковыми из абстрактной науки об операциях, и которые также должны быть подвержены адаптации к действию операционной нотации и механизмам двигателя <…> Предполагая, например, что фундаментальные отношения тональных звуков в науке о гармонии и музыкальной композиции восприимчивы к такому выражению и адаптации, этот двигатель может составлять сложные и научные музыкальные произведения любой степени сложности или степени»³². Таким образом, желаемое будущее на заре становления вычислительной техники включало в себя не только выполнение простых и сложных математических вычислений, но и реализацию эвристических, творческих функций.

Другим важным качеством системы искусственного интеллекта является автономность — независимость системы от внешних факторов. Автономность может быть как ресурсной (к примеру, энергетической), обеспечивающей возможность совершения в первую очередь действий в реальном мире, так и информационной, предполагающей возможность принятия собственных решений без информационной поддержки извне (от потенциального оператора системы). Представляется, что любая система искусственного интеллекта, заслуживающая такого обозначения, должна, как минимум, обладать информационной автономностью, в то время как ресурсная автономность характерна для систем, функционирующих в материальном мире. Так, к примеру, IEEE (Institute of Electrical and Electronics Engineers — Инженерный институт электрики и электроники) — профессиональное объединение инженеров и ученых, занимающихся в том числе изучением возможностей технологии искусственного интеллекта, — раздельно воспринимает автономные и интеллектуальные системы³³. Акцент на автономность при определении конкретного технологического решения чаще всего отражает именно ресурсную автономию, при этом интеллектуальная система (как исключительно программная, так и программно-аппаратная) так или иначе должна в определенных пределах обладать автономией информационной.

Технология — это совокупность производственных процессов в определенной отрасли производства, а также научное описание способов производства³⁴, сочетание искусства и научности знаний³⁵. Представляется, что применительно к социально-значимым технологиям на указанные действия и процессы оказывают существенное воздействие идеи, настроения, состояние науки и мировоззрения.

Исходя из этого, под технологией искусственного интеллекта в настоящей работе будут пониматься объем всех объективных сведений (как естественно-технического, так и социогуманитарного характера) о сущности, формах и функционировании искусственного интеллекта, а также совокупность прикладных и экспериментальных реализаций указанных сведений.

Конкретная реализация такой технологии в виде прикладного или экспериментального технологического решения, обладающего рациональностью и автономностью, носит название системы искусственного интеллекта, именно этот термин будет чаще встречаться в данной работе.

В науке, однако, встречаются и другие формулировки. Так, в работе С. Рассела и П. Норвига используется термин «рациональный агент». Агент (то, что действует, от лат. «agree» — действовать, приводить в движение), или артефакт, проявляет рациональное поведение, если «действует таким образом, чтобы можно было достичь наилучшего результата или, в условиях неопределенности, наилучшего ожидаемого результата»³⁶, при этом функция такого агента «определяет действие, предпринимаемое этим агентом в ответ на любую последовательность актов восприятия»³⁷.

Схожий термин предлагают С. Чопра и Л. Ф. Уайт, характеризуя интеллектуальный объект правовых исследований как «автономный искусственный агент». В их работе названный термин используется уже не в общенаучном, а в юридическом смысле — в рамках концепции юридической субъектности и автономности воли, а в отношении имеющихся систем — с использованием инструментария теории агентирования, т. е. автономный искусственный агент, несмотря на свои автономность и интеллектуальность, представляет интересы человека. Последний может занимать в отношении такого агента статус либо оператора (лица, контролирующего агента, которое является выгодоприобретателем от его действий), либо пользователя (лица, вступающего с агентом во взаимодействие в правовом поле)³⁸. Интересно, что в первом определении акцентировалась рациональность агента, а во втором — автономность и искусственность. Учитывая, что работа С. Чопра и Л. Ф. Уайта является юридическим исследованием, можно сделать осторожный вывод о том, что автономность является даже более критичной для социогуманитарных исследований искусственного интеллекта характеристикой, чем рациональность, по крайней мере, на данном этапе развития науки. Искусственность, само собой, является неотъемлемым свойством искусственного интеллекта.

П. М. Морхат, автор наиболее совершенного отечественного юридического исследования вопросов общеправового и гражданско-правового понимания технологии искусственного интеллекта, базовым термином считает слово «юнит», под которым понимает «носителя искусственного интеллекта (систему, объект, устройство, агента)»³⁹. Признавая удобство этого термина с точки зрения его краткости и семантического минимализма (англ. unit — единица, наименьшее количественная мера), отметим, что в прикладных компьютерно-технических исследованиях (откуда происходит значительная часть терминологического инструментария, в том числе используемого в социогуманитарных исследованиях) этот термин означает скорее единицу аппаратного обеспечения, используемого при создании или функционировании искусственного интеллекта. Таким образом, признавая в целом корректность термина «юнит», в настоящем исследовании в качестве базового будем использовать термин «система искусственного интеллекта». Именно такая формулировка, соответствуя задачам исследования, отражает структурированную (но не алгоритмизированную) сущность таких объектов, наличие в этой структуре формализованных элементов (см. § 2.3 гл. II), предусматривает как программный, так и аппаратный уровни организации и ориентацию на практическое использование такой системы.

Следует также рассмотреть уже упоминавшееся понятие машинного обучения. Машинное обучение (machine learning) — современный класс методов технологии искусственного интеллекта, с помощью которого решение задачи происходит не напрямую, а индуктивно, через процесс обучения на множестве сходных задач (прецедентов). Также иногда машинным обучением называют процесс обучения системы искусственного интеллекта. Машинное обучение в свою очередь тесно связано с наукой о данных. Наука о данных (data science) — раздел компьютерных наук, в котором изучаются проблемы операций с цифровой информацией, в том числе и с большими объемами такой информации. Соотношение искусственного интеллекта, машинного обучения и науки о данных графически представлено на рисунке 1.

Рис. 1. Соотношение понятий искусственного интеллекта, машинного обучения и науки о данных (Источник: архив автора)

Искусственный интеллект может и должен пониматься многоаспектно.

Во-первых, чаще всего под искусственным интеллектом понимают прикладную компьютерную систему (программную или программно-аппаратную), способную производить вычисления, результаты которых сравнимы с мыслительной деятельностью человека. Такая система должна включать в себя базу знаний, процессорный блок, способный эти знания обрабатывать, и интерфейс, обеспечивающий взаимодействие с оператором (пользователем)⁴⁰. При этом, как уже отмечалось выше, такие вычисления должны содержать эвристические элементы, т. е. результирующие знания должны по своим характеристикам превышать знания входные, что в итоге приводит к повышению результативности или эффективности человеческой деятельности или расширяет ее возможные области. Примером такого понимания может служить термин, предложенный И. В. Понкиным и А. И. Редькиной: «Искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе виртуальная, электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия, обладающая:

свойствами субстантивности (включая определенную субъектность, в том числе как интеллектуальный агент) и в целом автономности, а также элабортивной (имеющей тенденцию совершенствования) операциональности;

высокоуровневыми возможностями воспринимать (распознавать, анализировать и оценивать) и моделировать окружающие образы и символы, отношение, процессы, обстановку (ситуацию), самостоятельно принимать и реализовывать свои решения, анализировать и понимать собственные поведение и опыт, самостоятельно моделировать и корригировать для себя алгоритмы действий, воспроизводить (эмулировать) когнитивные функции, в том числе связанные с обучением, взаимодействием с окружающим миром и самостоятельным решением проблем;

способностями самореферентно адаптировать свое собственное поведение, автономно глубинно самообучаться (для решения задач определенного класса или более широко), осуществлять омологацию (усовершенствование — Д. Б.) себя и своих подсистем, в том числе вырабатывать омологированные “языки” (протоколы и способы) коммуницирования внутри себя и с другими искусственными интеллектами, субстантивно выполнять определенные антропоморфно-эмулирующие (конвенционально относимые к прерогативе человека (разумного существа)) когнитивные (в том числе — познавательно-аналитические и творческие, а также связанные с самоосознанием) функции, учитывать, накапливать и воспроизводить (эмулировать) опыт (в том числе — человеческий)»⁴¹.

Во-вторых, искусственный интеллект можно рассматривать как область научного фундаментального знания, в основе которого лежат отдельные области компьютерных наук, о которых было рассказано выше. Так, А. Кейзнер, Дж. Раффо и С. Ванч-Винсен характеризуют рассматриваемое понятие следующим образом: «Искусственный интеллект — самостоятельная область теории вычислительных машин и систем, изучающая возможности создания устройств, способных принимать рациональные решения»⁴². Они также подчеркивают, что в этом состоит отличие систем искусственного интеллекта от автономных устройств.

В-третьих, искусственный интеллект может являться предметом изучения науки. Рассматриваемая технология, как уже подчеркивалось, давно покинула рамки сугубо технического знания и к настоящему времени изучается в рамках философии, этики, истории, юриспруденции, социологии. Так, коллектив авторов под руководством А. В. Незнамова приводит следующую систему критериальных признаков искусственного интеллекта, с позиции правового подхода к анализу этой технологии:

«Аппаратное обеспечение не является главным (его может не быть), технология ИИ прежде всего описывает программу/алгоритм.

ИИ предполагает способность анализировать окружающую среду.

Система ИИ обладает некоторой степенью автономности в реализации алгоритма.

Технология ИИ, как правило, предполагает способность самообучения.

Наличие “интеллектуальности”, которая иногда описывается через категории “разумности”, “рациональности” или просто через способность “мыслить как человек” или “действовать как человек” во всех или узко определенных обстоятельствах»⁴³.

В-четвертых, искусственный интеллект может являться методом решения научных и иных задач, чаще всего связанных с обработкой больших данных. При этом данный метод не только может использоваться в области компьютерных наук, но и должен найти применение в иных научных дисциплинах. Так, к примеру, распространение идей о возможностях искусственного интеллекта подстегнуло интерес к изучению мыслительных возможностей и пределов человека, а «отделение малого мышления людей от большого мышления систем помогает нам понять роль “умных машин” в этом контексте»⁴⁴. Так, еще в 1970-х годах Н. Нильсон, выделяя в качестве компонентов «объединенного общего искусственного интеллекта» обработку сенсорных данных (особенно зрительных образов и речи), сложные системы хранения и извлечения информации и обработку естественных языков, подчеркивал их зависимость от ключевого модуля — системы нахождения решений⁴⁵. Следует отметить, что описанная схема в целом соответствует современному подходу к реализации киберфизических интеллектуальных систем.

В-пятых, искусственный интеллект можно рассматривать как признак технологической системы (к настоящему времени — исключительной компьютерной) адаптивно воспринимать и обрабатывать входящие данные для улучшения итогового результата. К примеру, современные смартфоны в полной мере системами искусственного интеллекта (согласно первому подходу) считать нельзя, однако при фотосъемке или обработке изображений зачастую системы искусственного интеллекта используются.

Учитывая тот факт, что системы искусственного интеллекта (как прикладное технологическое решение) часто ориентированы на взаимодействие с материальной действительностью, следует рассмотреть способ обеспечения взаимодействия между материальной и цифровой средами — компьютерное зрение. Это понятие можно условно определить как научное направление в области компьютерных наук (в первую очередь, искусственного интеллекта и робототехники) и связанную с ними группу технологий получения цифровых изображений объектов материального мира, их обработки и использования полученных данных для решения разного рода прикладных задач с ограниченным участием человека. В 49% случаев компьютерное зрение фигурирует в патентной заявке о системе искусственного интеллекта⁴⁶, что говорит о высоком уровне синхронизации общей технологии (искусственный интеллект) и ее частного проявления (компьютерного зрения).

Задачи, разрешаемые с помощью технологии компьютерного зрения, могут быть дифференцированы на несколько категорий:

Распознавание, т. е. определение, содержится ли в изображении (видеозаписи) определенная характеристика или объект. К примеру, таким образом осуществляется оценка количества присутствующих во время массового мероприятия людей, оценка транспортного потока и т. д.

Обнаружение, или проверка выполнения определенного условия. Данное направление имеет схожие черты с предшествующим, однако отличия тоже имеются. В этом направлении компьютерное зрение значительно уступает человеческому. К примеру, человек сравнительно легко может узнать знакомое лицо в большой толпе, а системы искусственного интеллекта только начинают делать первые шаги в этом направлении, к примеру, при идентификации преступников по их портрету в большом скоплении людей.

Идентификация и дифференциация: отнесение распознанного объекта к определенному классу или установление его тождества с другим объектом, или, по аналогии, установление отсутствия такого тождества. Данное направление представляет наибольший интерес для криминалистической деятельности, так как именно в его рамках возможна автоматизация распознавания лиц, следов и отпечатков пальцев рук, почеркового материала и пр.

Восстановление изображений и видеозаписей: удаление шумов, вызванных, к примеру, недостаточным освещением или высокой скоростью распознаваемого объекта.

Исторические предпосылки и более подробное описание технологии компьютерного зрения содержится в § 2.2 Гл. 2.

Рассмотрим более детально подходы к таксономии систем искусственного интеллекта.

Известный исследователь искусственного интеллекта Дж. Коупленд предлагает два подхода к пониманию искусственного интеллекта: нисходящий (Top-Down) и восходящий (Bottom-Up)⁴⁷.

В первом случае речь идет о прикладном моделировании отдельных компонентов (процессов) человеческого мышления в целях решения узкоспециализированных, частных задач, т. е. искусственный интеллект понимается как совокупность зачастую не связанных с собой технологий, объединенных системой указанных признаков. Каждая такая технология, в свою очередь, может быть детально исследована. Именно этот подход к настоящему времени возможен для реализации; большинство фактических примеров использования систем искусственного интеллекта, приведенных в работе, соответствуют этому подходу.

Восходящий подход к искусственному интеллекту предполагает уже полноценное мышление, т. е. комплексную оценку входящих сообщений и принятие на их основе взвешенных решений в условиях неполной, фрагментированной информации и последующее максимально рациональное поведение. Искусственный интеллект, согласно этому подходу, представляет собой уже комплексное целое, которое, хотя и можно дифференцировать покомпонентно, характеризуется уже ситуационной универсальностью, т. е. полноценными адаптивными качествами, а не узкой функциональностью.

Схожая классификационная система дифференцирует искусственные интеллекты на «слабые» и «сильный».

Искусственный интеллект первого типа ориентирован на решение конкретной, достаточно узкой задачи. К примеру, одна искусственная нейронная сеть может блестяще играть в шахматы, но в области распознавания внешности ее показатели без переобучения будут крайне низкими. К настоящему времени все существующие системы искусственного интеллекта относятся к этому типу.

Сильный искусственный интеллект, по аналогии с описанным выше восходящим подходом, предполагает синтез слабых искусственных интеллектов в цельную систему, как минимум, сопоставимую с мышлением человека, как максимум, превосходящую ее. Именно появление сильного искусственного интеллекта часто считается одним из критериев наступления технологической сингулярности — момента научно-технического прогресса, когда его понимание человечеством вследствие экспоненциально возросших вычислительных мощностей и появления новых технологий станет невозможным.

С точки зрения подхода к обработке информации, системы искусственного интеллекта могут быть подразделены на реактивные и проактивные.

К реактивным системам искусственного интеллекта относятся экспертные системы; в них отсутствует память и, как следствие, возможность обучения, принятие решений такой системой осуществляется исключительно на основании заранее прописанных правил поведения⁴⁸.

Проактивные системы в свою очередь следует разделить на системы с ограниченной и неограниченной памятью. К первым относятся современные автономные транспортные средства, голосовые помощники. В таких программных и программно-аппаратных комплексах осуществляются обработка ранее полученной информации и прогнозирование ближайшего будущего, однако возможности по записи событий и их интерпретации ограничены решаемой задачей, и в силу этого обучение хотя и осуществляется, не может привести к развитию системы выше заданных пределов. Проактивные системы второго вида способны, подобно человеку, использовать разные модели обучения применительно к одному и тому же массиву входных данных, что позволяет им эвристически подходить как к интерпретации имеющихся данных, так и к реализации прогностических функций.

В 2017 г. в США был внесен законопроект (на момент написания этого текста он находится на рассмотрении Комитета по исследованиям и технологии) «О будущем искусственного интеллекта» (Future of Artificial Intelligence Act), п.п. 2–3 ч. «а» которого содержат следующие определения:

Общий искусственный интеллект (artificial general intelligence) — предполагаемая в будущем система искусственного интеллекта, демонстрирующая интеллектуальное поведение, по крайней мере, настолько же продвинутое, как поведение человека в диапазоне когнитивного, эмоционального и социального поведения.

Узкий искусственный интеллект (narrow artificial intelligence) — система искусственного интеллекта, которая предназначена для конкретных областей использования, таких как стратегические игры, перевод с разных языков, автономные транспортные средства и распознавание образов⁴⁹.

Очевидно, что данные определения вполне соответствуют дифференциации на «слабый» и «сильный» искусственный интеллект, изложенной выше, т. е. можно отметить, что правовая система США пытается ориентироваться не только на разрешение насущных проблем, но и преодоление в будущем кризисов, связанных с развитием как узкого, так и общего искусственного интеллекта. Следует отметить, что данный законопроект оперирует термином «система искусственного интеллекта» (artificial intelligence system) как генеральным понятием для прикладной реализации соответствующей технологии.

Любое определение или классификация искусственного интеллекта так или иначе несет в себе ядро футуристических ожиданий от этой технологии. Известная в узких кругах шутка указывает, что искусственный интеллект — это то, о чем рассказывают на научных конференциях и показывают в презентациях, а согласно теоремам К. Геделя о неполноте, «не существует универсального алгоритма, с помощью которого можно было во всех случаях проверить истинность или ложность доказательства». Однако исключать возможность появления сильного (восходящего) искусственного интеллекта было бы ненаучно.

С позиций настоящего исследования, посвященного возможным рискам, создаваемым технологией искусственного интеллекта, и моделям их предотвращения или преодоления их негативных последствий, определение искусственного интеллекта выглядит следующим образом.

Искусственный интеллект — междисциплинарная область знаний о группе смежных технологий и создаваемое с ее помощью программное обеспечение, функционирующее нелинейно, способное ограниченно понимать причинность и выполнять задачи интеллектуального, эвристического характера с возможностью обучения, корректировки и уточнения за счет опыта принимаемых решений. Таким образом, в рамках настоящего исследования мы будем исследовать только этико-правовые аспекты функционирования интеллектуальных систем, способных к обучению и ситуативной обработке информации, что исключает как традиционное программные комплексы, так и экспертные системы. Следует отметить, что пригодное для целей этических или правовых исследований либо, в особенности, для нужд правового регулирования корректное и абсолютно точное определение системы искусственного интеллекта в силу его полисемии сформулировать затруднительно, что, тем не менее, не снижает ценность исследований в этой области.

Искусственный интеллект может быть реализован как в программной, так и в программно-аппаратной форме. В последнем случае идет речь о частном примере киберфизических систем — роботах.

Сущность киберфизических систем рассмотрена как в научных трудах, так и в нормативных актах разных государств. Приведем определение, предложенное научными сотрудниками АНО «Робоправо»: киберфизическая система — это «система, в которой информационная (вычислительная, коммуникационная) составляющая интегрирована в физический компонент»⁵⁰. Под роботами / киберфизическими системами в настоящем исследовании мы предлагаем понимать любые устройства, действующие в физическом мире автономно либо с минимальным вмешательством человека-оператора. ИСО/ТК 299 «Робототехника» в 2018 г. сформулировал следующее определение робота: «робот (robot) — программируемый исполнительный механизм с определенным уровнем автономности для выполнения перемещения, манипулирования или позиционирования»⁵¹. Полагаем, что перемещение, манипулирование и позиционирование должны быть рациональны, а потому детерминированы интеллектуальным программным модулем. Последний как раз и имеет ключевое значение для роботов, программное обеспечение которых составляет система искусственного интеллекта. Данное понимание является намеренным сужением вполне устоявшего термина, поскольку многие существующие типы роботов не могут восприниматься иначе как инструменты. Так, к настоящему времени роботы, исходя из их функции и сферы применения, могут быть подразделены на следующие виды:

Производственные роботы, в том числе промышленные, сельскохозяйственные, строительные, транспортные и бытовые. Задача таких устройств — замена человека в выполнении тяжелых, опасных или монотонных задач.

Исследовательские роботы, к которым относятся хирургические, саперные роботы, а также автономная военная техника: беспилотные летательные аппараты и многоцелевые боевые машины. Задача устройств такого типа — повышение или расширение границ эффективности человека.

Однако, к примеру, роботы-хирурги, существующие в настоящее время, объектом настоящего исследования не являются, поскольку управление роботом осуществляет, хотя и обычно удаленно, человек-врач. При этом автономные транспортные средства, несмотря на наличие в водительском кресле человека, вполне способны с определенными оговорками к самостоятельному передвижению, т. е. планированию и совершению действий в условиях информационной автономии.

Таким образом, в рамках настоящей работы мы будем рассматривать системы искусственного интеллекта — программные комплексы, действующие исключительно в виртуальном (цифровом) пространстве, и роботизированные системы, обладающие информационной (но не обязательно ресурсной) автономией.

§ 1.2. Основные сферы и возможности применения систем искусственного интеллекта

Развитие и степень интегрированности технологии следует оценивать в количественных и качественных показателях. В качестве первого в контексте искусственного интеллекта можно условно принять число научных публикаций и зарегистрированных патентов, в качестве последнего — области, в которых системы искусственного интеллекта внедряются либо уже продемонстрировали свою эффективность.

Согласно отчету Всемирной организации интеллектуальной собственности (WIPO), с 1956 по 2019 г. было опубликовано более 1,6 миллиона научных статей по тематике искусственного интеллекта, как чисто компьютерно-технического и математического характера, так и иных предметностей (как технических и естественно-научных, так и гуманитарных)⁵².

Группы задач, разрешаемых с помощью искусственных нейронных сетей, основной формы реализации технологии искусственного интеллекта (подробнее см. § 2.3 гл. II), условно сводятся к следующим:

Классификация — распределение данных по группам согласно заданным параметрам, к примеру, при оценке платежеспособности лица или достоверности информации в интернете, определении подделок и подлогов. Распределение может осуществляться по двум взаимоисключающим группам (к примеру, оригинал или контрафакт) либо при градации (оценки) объектов. В рамках классификационных задач данные (объекты) распределяются по группам согласно заданным характеристикам, т. е. искусственная нейронная сеть «отвечает» на вопрос «Представленная подпись относится к группе А или к группе Б?».

Распознавание — определение относимости входящих объектов (образов) к единичной искомой группе. «Образы — объективные характеристики внешнего мира, а не произвольные наборы изображений»⁵³. С точки зрения юридической и криминалистической технологии, такая задача является идентификационной, однако, в отличие от классификационных задач искусственных нейронных сетей, при распознавании происходит не сравнение двух объектов, а сопоставление одного распознаваемого объекта (образа) со всем массивом накопленного опыта восприятия этого же объекта. Примером реализации такой функции (с точки зрения решаемых задач, но не принципов работы) может служить известная АДИС «Папилон». К задачам распознавания относятся идентификация человека по его внешности, номера транспортного средства, группы генов в геноме и пр. Задачи распознавания образов в настоящее время преимущественно разрешаются с применением технологии компьютерного зрения, чему, в свою очередь, способствует рост числа камер видеонаблюдения. При решении задач распознавания искусственная нейронная сеть «отвечает» на вопрос «Является ли представленный объект искомым?».

Предсказание — определение будущего состояния определенной информационной системы или отдельных ей показателей, к примеру, роста или снижения рыночных цен, динамики преступности в регионе, места нахождения преступника или совершения следующего эпизода многоэпизодного преступления⁵⁴ и пр. Следует отметить, что творческие функции искусственных нейронных сетей также относятся к этой группе задач, создание нового художественного произведения или юридического документа является по сути обобщающим выводом из накопленного ранее опыта. В этом случае предъявляется совокупность статистических данных, на основании анализа которых система должна сделать предположение о будущем состоянии и вариантах развития источников данных. При решении задач предсказания искусственная нейронная сеть «отвечает» на вопрос «Как в будущем будет выглядеть представленный объект?».

Следует отметить, что разделение функций прикладных и экспериментальных систем искусственного интеллекта согласно указанным задачам носит скорее теоретический и методический характер: так, без функции распознавания потенциальных ошибок и рисков невозможно предсказание при моделировании оптимального управления технологическими, экономическими, транспортными или военными операциями.

Использование технологий искусственного интеллекта в перспективе может оказаться безграничным, однако возможно предпринять попытку сформулировать области применения систем искусственного интеллекта, в которых внедрение этой технологии уже произошло или происходит в настоящее время.

1) Научно-исследовательская деятельность: искусственный интеллект может выступать не только объектом, но и методом исследования. Специфика современных научных исследований часто сводится к обработке огромных объемов информации, с чем программное обеспечение справляется гораздо лучше, чем человек. Более того, благодаря искусственному интеллекту возможно не только совершение новых открытий, но и поиск пропущенных, однако важных для науки данных в старых публикациях.

2) Сельское хозяйство: к примеру, сервис «Ида», сочетающий технологии компьютерного зрения и машинного обучения, собирает данные о коровах с целью выявления проблем с их здоровьем, определения лучших для разведения животных, составления планов работы с ними и т. п.⁵⁵

3) Физиология и биология: распознавание признаков заболеваний по снимкам МРТ, кардиограммам и пр., определение патологий плода при скрининге⁵⁶, предсказание развития заболеваний, анализ состояния пациентов⁵⁷, выявление мутаций в генокоде животных⁵⁸ и т. п. Отметим, однако, что достаточно известная робот-ассистированная хирургическая система «da Vinci» к рассматриваемой технологии не относится в силу отсутствия самостоятельности принимаемых роботом решений: процесс операции полностью управляется человеком-врачом. Уже упоминавшееся компьютерное зрение позволяет, к примеру, с высокой точностью анализировать рентгенограммы. Одной из лучших работ по медицине в 2018 г. стало исследование под руководством Дже Хон Сона, доказавшего, что с помощью системы искусственного интеллекта, обрабатывающей снимки томографии, возможно предсказание болезни Альцгеймера в 98% случаев⁵⁹. К моменту написания этого текста организуется коллаборация более чем 900 специалистов в области компьютерной лингвистики для создания семантической поисковой системы для анализа научных публикаций с целью систематизации работы над вакциной против коронавируса⁶⁰.

4) Химия и фармацевтика: к настоящему времени использование систем искусственного интеллекта в данных областях, как правило, ориентировано на анализ научных публикаций с целью обнаружения потенциально значимых химических реакций и соединений, моделирование и тестирование новых соединений и веществ⁶¹, часть из которых используется в качестве активных веществ в медикаментах.

5) Обеспечение безопасности дорожного движения: во многих странах мира, в том числе и в России, на основе больших данных и анализа дорожной ситуации в реальном времени функционируют системы, способные, опираясь на показатели дорожной ситуации, переключать светофоры, что позволяет значительно сократить время ожидания на перекрестках как водителей, так и пешеходов. Другим направлением является контроль за действиями и состоянием водителя. Так, камеры, подключенные к системам искусственного интеллекта, уже сейчас способны определять водителей, пользующихся телефоном за рулем⁶², или выявлять признаки крайней усталости, способной инициировать дорожно-транспортное происшествие⁶³.

6) Автономные средства передвижения: ключевым их признаком следует считать возможность доставки людей и грузов без управления со стороны человека. Стоит, однако, указать, что существующие к моменту написания данной работы автономные автомобили не совсем соответствуют этому признаку: даже в современных автономных транспортных средствах, оснащенных лидаром и системой навигации по маршруту, пока необходим оператор (водитель). Более подробно об автономных транспортных средствах, их возможностях и рисках при их использовании будет рассказано в главе III настоящей работы.

7) Экология: анализ распространения загрязнений⁶⁴, снижение потребления электроэнергии, отслеживание миграций диких животных, контроль охоты и выявление фактов браконьерства⁶⁵ и многое другое. Актуальным примером является инициатива компаний Microsoft и Esri (производитель геоинформационных систем) по созданию на основе системы искусственного интеллекта «Планетарного компьютера» — системы мониторинга экологических ситуаций во всем мире и источника информации для ученых и государственных органов в сфере экологии⁶⁶.

8) Умные вещи: одна из функций научно-технического прогресса — замещать ручной труд человека, в том числе и при выполнении бытовых операций. Системы искусственного интеллекта способны разбудить человека и настроить освещение в соответствии с его циркадными ритмами, начать разогревать пищу при приближении хозяина к дому, облегчить планирование, заказывать и оплачивать регулярно используемые товары или услуги, автоматизировать такие времязатратные операции, как ручной перевод и пр.

9) Художественное искусство: в качестве примера отечественной разработки стоит привести искусственную нейронную сеть компании «Яндекс», способную анализировать музыкальные файлы и на основании них придумывать и записывать текст и музыку в песни. С ее помощью уже был издан музыкальный альбом «Нейронная сеть»⁶⁷. Картина «Портрет Эдмонда де Белами», созданная другой нейросетью, была продана на аукционе Кристи за 432 500 долларов⁶⁸.

10) Юридическая, в том числе правоохранительная, деятельность. К. Фрей и М. Осборн путем опроса специалистов и математической обработки этих данных распределили вероятности компьютеризации вплоть до полной замены специалиста интеллектуальной системой. В качестве основных параметров в этой модели использовались социальные навыки, творческий характер работы, внимательность, управленческие навыки, необходимость задействования мышечной моторики и др.⁶⁹. Так, для юридических и околоюридических профессий вероятность их компьютеризации, согласно указанной работе, приведена в таблице 2.

Таблица 2

Вероятности компьютеризации юридических профессий

Профессия | Вероятность компью- теризации
Секретари | 98%
Специалисты по регистрации документов и предоставлению справочной информации | 96%
Технические сотрудники архивов | 95%
Помощники юристов | 94%
Налоговые инспекторы | 93%
Руководители секретариата и помощники | 86%
Архивариусы | 76%
Судьи по административным делам | 64%
Сотрудники уголовно-исправительных учреждений | 60%
Сотрудники линейных отделов полиции | 57%
Секретари судебных заседаний | 50%
Диспетчеры дежурных частей полиции | 49%
Служащие судов | 46%
Помощники судей | 41%
Судьи | 40%
Судебные приставы | 36%
Следователи и дознаватели | 34%
Частные детективы | 31%
Сотрудники подразделений, осуществляющих административный надзор за лицами, освобожденными от отбывания наказания в виде лишения свободы | 25%
Сотрудники патрульных подразделений правоохранительных органов | 9%
Специалисты в сфере комплаенса | 8%
Арбитры, медиаторы, правовые посредники | 6%
Юристы коммерческих организаций | 3%
Эксперты-криминалисты | 0,9%
Младший руководящий состав в правоохранительных органах | 0,4%

Вероятность автоматизации в данном случае может восприниматься двояко: как качественная мера будущей компьютеризации с точки зрения ее реализуемости и как количественная оценка объема компьютеризации с точки зрения общего количества типовых решений и действий, реализуемых в рамках конкретной профессии. Т. С. Никифорова, К. М. Смирнова указывают, что «риск автоматизации связан прежде всего с рутинными операциями, выполняемыми, как правило, начинающими юристами или даже персоналом, не имеющим юридического образования»⁷⁰. Отметим, однако, что процессы автоматизации и компьютеризации как таковые считаются положительными, а не рисками сами по себе, что, разумеется, не лишает их и компонентов рискового характера (см. § 3.2 и § 3.3 гл. III).

Относительно правоохранительной сферы системы искусственного интеллекта уже находят свое применение в технико-криминалистических исследованиях, компьютерной криминалистике⁷¹, однако наибольшего успеха они достигли в уже реализованных в целях обеспечения общественной безопасности системах видеонаблюдения: миниатюризация и синтез колоссальных возможностей современных камер с интеллектуальным программным обеспечением позволяют не просто калибровать освещение, фон, устранять дефекты и артефакты изображения, но и послужить правоохранительным органам. Если обычные системы видеонаблюдения значительно увеличили раскрываемость отдельных категорий преступлений, то рассматриваемые системы способны еще более усилить эффективность борьбы с преступностью. Такие камеры способны анализировать трафик или скопление людей, в том числе с целью идентификации разыскиваемых преступников или номеров автотранспортных средств с помощью технологий компьютерного зрения, точно подсчитать количество присутствующих на массовом мероприятии людей, определить направление и траекторию движущихся людей или транспортных средств, собрать детальный портрет человека при съемке его внешности с разных ракурсов, контролировать периметр защищаемых объектов и многое другое.

В некоторых случаях системы искусственного интеллекта могут не только улучшать действия людей в реальном времени, но и предсказывать с определенной долей вероятности события будущего. Так, к примеру, в Новом Орлеане (США) с 2012 по 2018 г. действовал проект под названием «Palantir»⁷², в рамках которого собиралась информация о жителях города: их круге общения, работе, перемещениях, активности в соцсетях и пр. На основании этих данных искусственный интеллект анализировал социальную картину и пытался определить будущих преступников и жертв преступлений. Нужно отметить, однако, что отсутствие нормативного закрепления такого рода инициатив препятствует их реальному использованию: Palantir успешно определил 80 процентов преступников, использующих огнестрельное оружие, однако ни одно из их преступлений не было предотвращено. Следует отметить, однако, что в Евросоюзе к настоящему времени сворачиваются проекты видеонаблюдения с функцией распознавания внешности из-за проблем с приватностью.

Приведенный перечень не является исчерпывающим: рассматриваемая технология может найти (и находит) применение практически везде, где присутствует возможность улучшения качественно-количественных показателей деятельности человека, вне зависимости от того, ориентирована эта деятельность на производство, работу с информацией, сферу обслуживания и т. д.

§ 1.3. Алгоритм социогуманитарных исследований технологии искусственного интеллекта

В октябре 2019 г. президент России В. В. Путин утвердил Национальную стратегию развития искусственного интеллекта до 2030 г.⁷³, что подчеркивает колоссальную государственную и общественную важность данной технологии, что, в свою очередь, ставит перед общественными науками ряд задач. На момент написания этого текста Государственная дума России в третьем чтении приняла проект Федерального закона о создании необходимых условий для разработки и внедрения технологий искусственного интеллекта в Москве⁷⁴.

Любая достаточно развитая технология, которая закрепилась и получила сначала научное, а затем и общественное признание, неизбежно трансформирует индивидуальное и коллективное сознание, вызывает целый комплекс различных реакций, от восторженных до резко негативных. Юриспруденция и смежные с ней области, такие как судебная экспертиза и криминалистика, часто сталкивались с новой для себя (а зачастую и для естественно-научных дисциплин) технологией или идеей, которые, в силу своей важности для общества, должны были быть как оперативно изучены и адаптированы на уровне юридических понятий, терминов и текстов, так и восприняты юридическими сознанием и мировоззрением. Аналогичным образом осуществляется познание отдельных направлений технического прогресса и другими науками социогуманитарного цикла. Однако именно юридическая наука должна первой приступать к изучению технологических явлений, так как именно ее продукты в виде нормативно-правовых подходов и норм права оказывают влияние не только на общество в целом, но и на развитие такой технологии. В силу этого юристы должны понимать не только значение и конкретные последствия применения технологии, но и минимум технологических основ такой технологии и варианты ее интегрирования в общество. Можно сказать, что носители гуманитарного знания должны понимать важные технологии на уровне знания, понимания и реализации правил дорожного движения. При этом совершенно необязательно досконально разбираться в строении двигателя внутреннего сгорания, коробки передач и ходовой части автомобиля, однако ощущение динамики разгона и потенциала торможения может оказаться критичным для обеспечения безопасности на дороге. Аналогичным образом следует понимать методами гуманитарных наук и технологию искусственного интеллекта: на уровне ее основ, возможностей и рисков, хотя, разумеется, пределов познанию существовать не может.

Следует также отметить и обратную связь между социогуманитарными науками (в том числе юриспруденцией) и источником технологии — в данном случае — компьютерными науками. По словам А. Кея, известного ученого в области вычислительных систем, современные компьютерные системы в большинстве случаев «автоматизируют бумагу», т. е. моделируют те или иные процессы, связанные с документооборотом (в предельно широком смысле). Так, автоматизированные поисковые системы являются эволюционным развитием библиотек, алгоритмы-советники — методических рекомендаций и инструкций, а цифровые СМИ и социальные сети — аналогами своих классических форм (газет, журналов, клубов и объединений людей). Искусственный интеллект, как уже упоминалось выше, чаще всего используется в качестве прямой замены интеллекта естественного, соответственно, для создания прикладной системы искусственного интеллекта требуется корректная гипотеза — понимание сущности действия, на которое будет ориентироваться создаваемая система. А. П. Огурцов, описывая соотношение компьютерных наук и философии, указывает: «Известно, что современная философия (и не только она — Д. Б.) широко использует компьютерную терминологию (программы, язык программирования, продуктивные правила, формат, фреймы и пр.), но <…> компьютерное моделирование и нейрокомпьютинг амплифицируют в своих схемах и “железках” те представления о мышлении, которые уже развиты в философии и психологии, что язык философии и психологии стал языком, на котором программируются и конструируются компьютерные модели»⁷⁵. Именно поэтому помимо собственно технологического и философского осмысления проблематики искусственного интеллекта требуется также исследование этой технологии с позиций социогуманитарного знания, так как именно такие отрасли науки «работают» в максимальном приближении к человеку, чей интеллект и производная от него деятельность служат для системы искусственного интеллекта по сути образцом или моделью. Подобный подход позволяет избежать излишних иллюзий: так, автор настоящей работы при заслушивании докладов на научных конференциях несколько раз слышал транслируемую идею о том, что системы искусственного интеллекта позволят обеспечить прозрачность судебной, надзорной и пр. видов юридической деятельности, что радикально противоречит сущности и современному состоянию рассматриваемой технологии (подробнее см. § 2.3 гл. II).

Технология искусственного интеллекта пока находится на ранних стадиях своего развития, однако, в силу своих больших перспектив, требует выработки подходов к регулированию уже сейчас. Частные вопросы регулирования искусственного интеллекта средствами права и морали сводятся к следующим:

обновленные формальные основы индивидуальной и коллективной этики;

возможности качественно-количественной оценки этического поведения;

механизмы этического выбора и критерии принятия решений;

взаимодействие человека и интеллектуальных компьютерных систем;

взаимодействие общества и интеллектуальных компьютерных систем;

нормативно-правовое регулирование функционирования систем искусственного интеллекта.

Учитывая мультидисциплинарный характер любых исследований, связанных с искусственным интеллектом, их проведение должно быть разделено на несколько этапов, позволяющих как можно более комплексно подойти к решению поставленных задач. Этико-правовые аспекты регулирования искусственного интеллекта могут быть проанализированы согласно следующему алгоритму.

Во-первых, необходимо изучить необходимый минимум технико-технологических основ исследуемой технологии. В контексте искусственного интеллекта для этого требуется не просто визионирование и представление очень темного или очень светлого будущего, а понимание основ математической модели и способов реализации данной технологии. К настоящему времени искусственный интеллект в более эффективной реализации сводится к искусственным нейронным сетям.

Во-вторых, необходимо выработать понимание возможных рисков распространения технологии. Рискованные ситуации применения систем искусственного интеллекта можно дифференцировать по двум причинам: ошибки самой системы и ситуации неверного использования (ошибка целеполагания). При этом следует понимать, что системы искусственного интеллекта могут нанести вред не только в физическом мире (очевидным примером такого являются киберфизические системы, однако и программы могут нанести физический вред — к примеру, при неверном переключении режимов работы светофоров), но и в цифровой среде, к примеру, при обработке заявлений граждан или финансовых транзакций.

Причина подобных рисковых ситуаций находится в основе рассматриваемой технологии и заключается в отсутствии полной прозрачности при функционировании искусственного интеллекта в виде искусственных нейронных сетей (подробнее см. § 2.3 гл. II). Искусственная нейронная сеть, обладая возможностью адаптивного обучения, обязательно имеет в структуре процесса обработки входящей информации так называемый «скрытый слой», в котором осуществляется эвристическая обработка данных, позволяющая выявлять закономерности, недоступные человеческому мышлению. Вследствие этого логика итогового решения, принятого системой искусственного интеллекта, может казаться неочевидной и, как следствие, ненадежной или необоснованной.

В-третьих, следует изучить возможные модели реакции общества на технологию искусственного интеллекта с учетом возможных ситуаций максимального и минимального воплощения указанных рисков.

В-четвертых, необходимо создание формализованных этических норм (этического кодекса).

В-пятых, за этическими нормами должны последовать (при необходимости) нормы правового характера и внедрение систем искусственного интеллекта в юридические процедуры как передовой технологии в структуре информатизации и автоматизации юридической деятельности. Приоритетными нормами касательно систем искусственного интеллекта, представляется, должны стать унифицированные подходы к решению вопросов правосубъектности, юридической ответственности и установления областей человеческой деятельности, в которых применение систем искусственного интеллекта полностью исключается.

Таким образом, технология искусственного интеллекта представляет большой интерес не только для носителей технического знания, но и для юристов. Однако правовому регулированию должна предшествовать серьезная научная работа по изучению этических основ данной технологии, в том числе рисков, их последствий и возможных реакций общества.

В последующих частях настоящей работы данная модель будет более детально развернута, каждая ее стадия проанализирована, что в перспективе способно облегчить будущие исследования искусственного интеллекта методами социогуманитарных наук.

Глава II. ТЕХНОЛОГИЧЕСКИЕ ОСНОВЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Любая достаточно развитая
технология неотличима от магии

Артур Кларк

§ 2.1. История развития технологии искусственного интеллекта

Стремление создать или получить нечто разумное, не связанное с человеком биологически, пронизывает практически всю историю человечества. Не погружаясь глубоко в историю культуры, можно указать на древнееврейские мифы о Големе — человеке из глины, попытку Пигмалиона создать себе из слоновой кости спутницу — Галатею, гомункулусов Парацельса и искусственных людей, появлявшихся в литературных произведениях — чудовище Франкенштейна, Россумовские универсальные роботы. Кроме этого, во множестве фольклорных произведений встречаются проявления интеллектуального оружия, обладающего собственной волей: копье Ареадбар, принадлежащее богу Луху (ирландская мифология), метаемый диск Сударшана-чакра (индийская мифология), меч Тюрфинг (скандинавская мифология) и пр.

В русских народных сказках упоминаются предметы, обладающие той или иной степенью ресурсной или информационной автономии, которые в свете современных представлений о технике могли бы быть охарактеризованы как киберфизические интеллектуальные системы:

клубок Ивана-царевича (навигационная система);

волшебное зеркало (голосовой ассистент, поисковая система и система распознавания образов);

печка Емели (беспилотное транспортное средство);

ковер-самолет (беспилотный летательный аппарат);

изба Бабы-Яги (умный дом);

скатерть-самобранка (умный холодильник).

На каждом этапе развития культуры в речи (а значит, и сознании) людей моделировалось наделение неодушевленных предметов качествами разумности, нашедшее отражение даже в современном языке: очки спрятались, автомобиль не пожелал заводиться и т. д. Однако с течением времени подобные мифологические представления становились все более и более реальными.

В истории техники есть немало примеров того, как конструкторы и изобретатели предпринимали попытки создать машины, облегчающие отдельные мыслительные операции, как правило, вычислительного характера: считающие часы В. Шиккарда (1623 г.), суммирующая машина Б. Паскаля (1642 г.), арифмометр Г. Ф. Лейбница (1673 г.), демонстратор логики Ч. Стэнхоупа (1777 г.), разностная машина (машина различий) Ч. Беббиджа (1822 г.). Указанные примеры, не являясь интеллектуальными компьютерными системами, все же оказали воздействие на появление и развитие компьютерной техники, что в свою очередь привело к возникновению такой технологии, как искусственный интеллект. В настоящем параграфе будет предпринята попытка проанализировать, каким образом в мировоззрении человека и научно-техническом прогрессе произошли изменения, позволившие говорить с научной точки зрения о таком явлении, как искусственный интеллект.

Первой философской предпосылкой формирования искусственного интеллекта следует считать работы Аристотеля, в первую очередь, «Топика», «Первая аналитика» и «Вторая аналитика»⁷⁶, в которых впервые в известной истории была предпринята попытка формализации операций мышления человека, сформулированы некоторые основы формальной силлогистической логики, посредством которых многими столетиями позже будут созданы автоматизированные технические устройства.

Рене Декарт, отказывая человеку в возможности создать нечто более совершенное, чем он сам, аргументировал эту идею двумя характеристиками такого творения, которые на настоящем этапе развития науки и техники уже не являются безусловно невозможными: способность полноценно ощущать себя в окружающем мире и реагировать на изменения в нем; универсальность в выполнении различных действий, отсутствие строгой функциональной специализации⁷⁷. Развитие знаний о человеке, его физиологии и строении мира вообще привели к тому, что отдельные методологические основы современных концепций искусственного интеллекта берут свое начало в классическом механистическом восприятии мышления, его отдельных функций и производной от них функциональной деятельности человека. Основы сопоставления человеческого мышления и функционирования машины следует отслеживать через призму нескольких моделей, сформированных посредством разных областей научного знания: компьютерных наук, философии, физиологии, математики и некоторых других.

Современная идея о том, что каждый ментальный процесс связан с определенной областью головного мозга, принадлежит австрийскому физиологу Ф. Й. Галлю. «Еще в детстве Галль был впечатлен странным соответствием между необычными талантами своих друзей и столь же необычными вариантами в строении их черепа. Позже Галль разработал краниометрический метод для изучения локализации мозговых функций»⁷⁸. Известный физиолог Дж. Х. Джексон еще в конце XIX века указывал, что «каждый процесс мышления должен ассоциироваться с соответствующей активностью в работе нервных сетей высшего уровня»⁷⁹. Данная точка зрения к настоящему времени является лишь частично верной: действительно, каждому акту мышления соответствует возбуждение отдельных компонентов нервной системы, однако, несмотря на установление функциональной определенности отдельных отделов человеческого мозга, значительная его часть может быть условно охарактеризована «неразмеченной», т. е. нельзя сказать, что каждый отдел мозга или скопление нейронов «отвечает» за конкретную мыслительную операцию или их тип.

Колоссальный прорыв в области изучения физиологических основ мышления человека, его высшей нервной деятельности связан с работами А. Гуда, П. Брока, С. Рамон-и-Кахаля, К. Гольджи, создавших нейронную теорию нервной системы. Их исследование было продолжено в работах Г. Бергеля, И. П. Павлова, У. Пенфилда, Н. П. Бехтеревой и многих других ученых. В результате исследований была сформирована концепция, согласно которой мышление построено на основе электромагнитного, химического или смешанного перемещения ионов между синапсами, каждый из которых является одной из 1016 точек контактного взаимодействия нервных клеток (нейронов) головного и спинного мозга центральной нервной системы. Каждая из примерно 80—95 млрд нервных клеток (нейронов) способна генерировать свой собственный сигнал, при этом последний может относиться только к одной форме перемещения ионов. Нейрон способен суммировать входные сигналы и вырабатывать исходящий сигнал стандартной величины в момент, когда величина суммы входящих импульсов превысит определенный порог. Именно эта концепция была положена в основу действия искусственной нейронной сети (подробнее об этой технологии см. в § 2.3 данной главы).

Дж. фон Нейман, имя которого носит архитектура большинства современных компьютерных устройств, считал, что деятельность живого организма имеет аналогово-цифровую природу, а клетку нервной ткани — нейрон — вполне можно сопоставлять с электронной лампой⁸⁰ (в компьютерах первого поколения логические цепи строились на базе ламп). Нейроны как таковые могут быть условно названы элементарными физическими единицами когнитивных процессов, однако их объединение уже позволяет производить мыслительные операции. Именно принцип связи достаточно большого количества простых вычислительных элементов (будь это нейроны или электронные лампы) позволяет мозгу или компьютеру обрабатывать сложные массивы информации.

Упомянутые выше теоретические и практические положения напрямую не связаны с системами искусственного интеллекта, однако именно на их основе была сформулирована некоторые методология и архитектура современных систем искусственного интеллекта.

Другим основателем современной теории возможности создания машин, автоматов, конструктов, способных по своим когнитивным возможностям стать сравнимыми с человеком, считается британский ученый А. Тьюринг, который в 1950 г., по результатам работы над усовершенствованием устройства «криптологическая бомба», созданного польскими учеными и направленного на взлом немецкой шифровальной машины «Энигма», сформулировал условия мысленного эксперимента, получившего название «игра в имитацию»⁸¹. Участниками этого эксперимента являются три человека: мужчина (А), женщина (B) и лицо, задающее вопросы (C). C отделен от других участников. Цель игры в имитацию состоит в том, чтобы С, задавая вопросы А и B, постарался определить, кто из них является мужчиной, а кто женщиной. Тьюринг предложил заменить в этой системе А или B машиной; в этом случае C уже должен определить, кто из других участников является человеком, а кто машиной. Этот эксперимент получил название теста Тьюринга и к настоящему времени используется для прогнозирования появления антропоморфного (по своим функциональным признакам) искусственного интеллекта.

Тест Тьюринга является не единственной моделью понимания искусственного интеллекта через сравнение его с человеком. Через 30 лет после создания игры в имитацию, в 1980 г. американский философ Дж. Серл сформулировал мысленный эксперимент, получивший название «китайская комната». Он пишет: «Рассмотрим язык, который вы не понимаете. В моем случае я не понимаю китайский. Представим, что я заперт в комнате, в которой находится много корзин с китайскими письменами, которые для меня выглядят как бессмысленные загогулины. Также в комнате есть книга с правилами соответствия одних китайских иероглифов другим. В этой книге используются только графические изображения иероглифов, и правила не требуют, чтобы я их понимал. Правила могут быть сформулированы как “Возьмите символ кривой загогулины из корзины один и положите ее рядом с символом очень кривой загогулины из корзины два”. За пределами комнаты находятся люди, написавшие книгу правил и знающие китайский язык. В этом случае получается, что книга правил — это компьютерная программа, люди, которые написали книгу правил, — программисты, а я — компьютер. Корзины с иероглифами — это база данных, а конкретное правило — это запрос к базе данных. Если мои ответы на вопросы неотличимы от ответов носителей китайского языка, то мои действия могут полностью удовлетворить тест Тьюринга на понимание китайского, при этом я совершенно не знаю и не понимаю китайский язык, я не могу узнать значение ни одного из символов, которыми манипулирую»⁸².

Другим, гораздо более ранним примером критики механистического понимания искусственного интеллекта является мысленный эксперимент, описанный Г. Лейбницем в «Монадологии»: «Вообразим себе машину, устройство которой производит мысль, чувство и восприятия, то можно будет представить ее себе в увеличенном виде с сохранением тех же отношений, так что можно будет входить в нее как в мельницу. Предположив это, мы при осмотре ее не найдем ничего внутри ее, кроме частей, толкающих одна другую, и никогда не найдем ничего такого, чем бы можно было объяснить восприятие. Итак, именно в простой субстанции, а не в сложной и не в машине нужно искать восприятия. Ничего иного и нельзя найти в простой субстанции, кроме этого, т. е. кроме восприятий и их изменений»⁸³.

Представляется, что все три указанные позиции описывают современное состояние искусственного интеллекта: механистическая основа в системе искусственного интеллекта в виде программной или программно-аппаратной оболочки обязательно присутствует, однако этого недостаточно для признания системы интеллектуальной. В качестве компонента, заменяющего процесс сознания, которого, согласно экспериментам Серла и Лейбница, лишены компьютеры, выступает процесс обучения и накопления опыта.

Поскольку искусственный интеллект хотя и представляет междисциплинарную область знаний, опирается все же на компьютерные технологии, то важной точкой в его истории является создание первых современных компьютеров с возможностью программирования. Таковым стал компьютер Z1 немецкого ученого К. Цузе (1936 г.), а первым полностью функциональным цифровым компьютером стал ENIAC, работа над которым была завершена в 1946 году. Дальнейшее развитие компьютерной техники привело к поступательному развитию технологий, часть из которых относились к созданию первых прототипов систем искусственного интеллекта.

В 1943 г. У. МакКаллох и У. Питтс в совместной статье обосновали с помощью терминологии пропозициональной логики (логики высказываний) сетевой характер обработки информации в любых системах, предложили термины «искусственный нейрон» и «искусственная нейронная сеть». Под первым понималась нелинейная функция, способная изменять свое значение в зависимости от входящих сигналов, т. е. эвристически, а не алгоритмически обрабатывать информацию. Объединение большого количества искусственных нейронов формирует искусственную нейронную сеть, способную выполнять логические и вычислительные операции⁸⁴. В их работе была заложена синтетическая структура теории искусственного интеллекта, включающая знания из области физиологии, математической логики и зарождавшихся тогда компьютерных наук. Так, к примеру, в упомянутой работе был развит принцип, согласно которому вычислительные (в том числе моделирующие) операции любой степени сложности могут быть произведены при помощи примитивных компонентов, если количество последних достаточно велико. Сетевая (коннекционистская) модель, получившая закрепление в рассматриваемой технологии, предполагает, что интеллект — это возникающее, а не имманентное качество; «высокоуровневые задачи, например, распознавание шаблонов и установление связей между ними, проявляется автоматически в результате распространения активности по сети посредством элементарных операций во взаимосвязанных обрабатывающих устройствах»⁸⁵. Именно данную работу считают стартовой точкой развития технологии искусственного интеллекта.

В работах У. Маккалоха и У. Питтса была озвучена теория о том, что сетевая структура искусственной нейронной сети может быть способна к обучению и тем самым повышению своей эффективности без изменения количества структурных компонентов. Д. Хебб, развивая данную идею, продемонстрировал в 1949 году в своей монографии модель обучения искусственной нейронной сети на основе принципа иерархичности как самих искусственных нейронов, так и объединений (ассамблей) искусственных нейронных сетей⁸⁶.

В этот же период усилиями американского кибернетика Г. Уолтера была создана первая киберфизическая система в виде механической черепахи, созданной без использования цифровых технологий. Такая «черепаха» могла двигаться к источнику света и при столкновении с препятствием принимать решение о совершении маневра объезда. Этот пример показывает, что искусственный интеллект как таковой не обязательно связан с цифровыми технологиями, однако, как их часть, он может быть реализован наиболее эффективным образом.

В 1951 г. М. Минский и Э. Эдмонс собрали на основе 40 искусственных нейронов сетевой компьютер. Это был первый случай эмпирической проверки теории о возможности производства вычислений с использованием искусственной нейронной сети.

В 1955 г. будущий нобелевский лауреат А. Ньюэлл, Х. А. Саймон и Дж. С. Шоу создали компьютерную программу «Logic Theorist» («Теоретик логики»). С помощью этой программы удалось решить 38 из 52 теорем А. Н. Уайтхед и Б. Рассела, изложенных в работе «Principia Mathematica» и представляющих одну из наиболее сложных проблем математики по обоснованию логицизма — теории сводимости любых математических понятий к логическим. Для некоторых из теорем были найдены новые, более оптимальные решения, что укрепило представления того времени о том, что искусственный интеллект может сравниться с человеком. Позже при обсуждении именно этой программы впервые прозвучал термин «сильный искусственный интеллект» — техническое устройство, по своим характеристикам и возможностям не уступающее человеческому разуму. В 1963 г. модернизированный «Теоретик логики» сумел доказать все 52 теоремы.

В 1956 г. под руководством Д. Маккарти в Дартмутском колледже был организован двухмесячный научный семинар, на котором присутствовали крупные американские ученые, занимавшиеся проблематикой моделирования решения логических и творческих задач посредством вычислительной техники. В работе семинара приняли участие К. Шеннон, Н. Рочестер, М. Минский, О. Селфридж, А. Ньюэлл, Х. Саймон и др. Основными результатами этого семинара стало возникновение термина «искусственный интеллект»⁸⁷ и оформление соответствующей междисциплинарной области знаний. На наш взгляд, именно указанное научное мероприятие в некотором роде обособило теорию и практику искусственного интеллекта от ее основного источника — кибернетики. Если в последней приоритет отдавался автоматизации информационных процессов через понимание закономерностей связей индивидуальных элементов, то теория искусственного интеллекта с помощью связей индивидуальных элементов призвана решать внешние относительно этих элементов задачи. Однако отдельные компоненты теории кибернетики присутствуют даже в современных воззрениях на искусственный интеллект. В первую очередь это признание «сходства и различия между процессами управления и связи в живых организмах»⁸⁸, направленность на создание машин и компьютеров, облегчающих именно мыслительный труд. Таким образом, искусственный интеллект стал восприниматься одновременно как объект изучения и как метод (на тот момент лишь в ограниченном смысле) решения познавательных задач.

На уровне прикладной компьютерной модели теория У. Маккалоха и У. Питтса была реализована Ф. Розенблаттом в 1957 г. в устройстве под названием «перцептрон»⁸⁹, а первое физическое воплощение она получила в виде электронного устройства «Марк-1» тремя годами позже. Несмотря на свою простоту, данное устройство было способно при определенных условиях регистрировать и распознавать графические символы, т. е. выполнять базовые функции мышления человека: накопление информации и распознавание (классификация) образов. В условиях первых моделей искусственных нейронных сетей каждый искусственный нейрон мог работать только бинарно, подобно нейрону нервной ткани: оперировать только наличием сигнала (возбуждением, по аналогии с биологическими нейронами) или его отсутствием (торможением). Аналоговые (волновые) реакции искусственных нейронов появились гораздо позже.

В 1963–1969 гг. А. П. Петров, популяризатор информатики и кибернетики в СССР, а также М. Минский указывали на ограниченность и недостатки существовавших на то время моделей перцептронов, что в результате привело к падению интереса научного сообщества к технологии искусственного интеллекта.

Следующий период развития технологии искусственного интеллекта, продлившийся примерно с 1974 г. по начало 1980-х, получил название «зимы искусственного интеллекта» (AI winter). В качестве причин данного кризиса назывались:

Ограниченность искусственного интеллекта в решении прикладных задач: компьютеры прекрасно справляются с решением математических проблем (сложных интеллектуальных задач), однако испытывают значительные сложности при взаимодействии с материальным миром (так называемый парадокс Моравеца)⁹⁰.

Недостаточность исходных данных. Способы получения так называемых «больших данных» к указанному моменту времени еще не были разработаны, а объема имеющих баз данных не хватало и не могло хватать для решения поставленных задач.

Вычислительные возможности компьютеров того времени не позволяли производить обучение сети за достаточно короткое время, эта задача в ряде случаев могла решаться за счет распараллеливания процессов вычисления, однако далеко не во всех случаях это было возможно. Для примера: наиболее производительный компьютер по состоянию на 1970 г., американский CDC 7600, имел производительность в 10 мегафлопсов⁹¹, наиболее мощный современный компьютер, Summit, имеет мощность 122,3 петафлопса, а к 2023 г. ожидается появление компьютеров, чья производительность будет оцениваться с приставкой «экза»⁹².

Разочарование финансового толка: в технологии искусственного интеллекта были инвестированы колоссальные средства, однако ожидаемого эффекта (автоматизации исследовательской деятельности, финансового планирования и отдельных бизнес-процессов) так и не произошло. Так, в отчете, подготовленном британским математиком Дж. Лайтхиллом, было указано, что «машины всегда будут играть в шахматы на уровне опытного любителя, а сложные задачи, вроде распознавания лиц, никогда не будут им под силу»⁹³, что в настоящее время опровергнуто реализованными технологическими решениями в этой области. Следует, однако, отметить, что в данном отчете содержались и названные выше объективные факторы.

Возвращение интереса к искусственному интеллекту началось с работ Т. Кохонена⁹⁴, посвященных запоминанию информации искусственной нейронной сетью, и Дж. Хопфилда, оптимизировавшего алгоритм обучения сети с целью повышения ее эффективности (в том числе с точки зрения энергоресурсов)⁹⁵. В 1997 г. компьютер «Deep Blue» одержал победу над чемпионом мира по шахматам, Гарри Каспаровым, в конце 1990-х — начале 2000-х годов за счет технологий оптимизации поисковых алгоритмов и индексации сайтов резко возрастает роль интернета. К настоящему времени технология искусственного интеллекта продолжает интеграцию в различные секторы экономики, и в этот раз человечество к ней (хотя бы с технической точки зрения) готово. Следует отметить, что именно возвращение к технологиям обучения систем искусственного интеллекта реанимировало также и компьютерное зрение (см. § 2.2 настоящей главы), так как последнее изначально было рассчитано на работу с большими объемами информации, которые стали называть большими данными.

Учитывая изложенное, развитие технологии искусственного интеллекта можно условно дифференцировать на несколько этапов:

Предварительный этап (до 1936 г.): формирование математических основ функционирования вычислительных устройств, моделирование механистических и коннективистских представлений в философии, открытие нейрона и исследование физиологии мозга.

Первоначальный этап (1936–1955 гг.): появление первых компьютеров современной архитектуры, разработка философских и математических основ искусственных нейронных сетей, первые эксперименты по созданию, формулирование теста Тьюринга.

Этап «раннего энтузиазма» (1955–1974 гг.): создание перцептронов, разработка концепции компьютерного зрения, популяризация технологии, привлечение первых инвестиций в разработку экспертных систем на базе искусственных нейронных сетей, появление сомнений в перспективности данной технологии.

«Зима