# Искусственный интеллект и архитектура сознания. Переход от Narrow AI к General AI

Сергей Анатольевич Фролов

Создание ИИ, аналогичного человеческому – это «зона ближайшего развития» современной науки и индустрии информационных и компьютерных технологий. Современные виды ИИ, будучи способными решать отдельные и узкие, пусть даже очень сложные задачи, на выполнение которых у человека ушло бы не одно тысячелетие, имеют мало общего с интеллектом или сознанием человека.Для перехода от Narrow AI к General AI («ИИ, уровня человека») необходимо воспроизвести такую архитектуру сознания человека, которую можно заложить в основу ИИ и перенести на искусственные носители. Но этот вопрос до сих пор остается нерешенным.Эволюционно-адаптационная модель, представленная в данной работе, позволяет рассмотреть архитектуру сознания в виде 5 базовых когнитивно-поведенческих "контроллеров", управляющих структурированием окружающего информационного пространства, распознанием наиболее актуальных задач, а также выбором и реализацией наиболее адекватного поведенческого решения в каждый момент времени.

## Краткий обзор содержания

Создание ИИ, уровня человека и переход от Narrow/ Weak AI к General/ Strong AI, возможен при условии реконструкции архитектуры сознания и базовых принципов функционирования сознания человека.

В данной работе представлена модель архитектуры, включающая пять базовых когнитивно-поведенческих структур, с помощью которых живые организмы, управляют распознанием значений элементов информационного поля и выбирают наиболее адекватное поведенческое решение – изменение поведения для обеспечения своего средового благополучия.

Все живые организмы контролируют свое средовое благополучие и способны менять свое поведение в отношении, и в связи с теми значениями, которые они извлекают из распознания и оценки элементов окружающей среды – информационного поля – в текущем контексте при данных условиях.

В данной работе живые организмы рассматриваются как когнитивно-поведенческие системы, управляющие своим средовым благополучием с целью выживания и продолжения рода на основе когнитивной деятельности, которая обеспечивает распознание жизненно важных задач и выбор наиболее адекватного поведенческого решения.

Сознание человека – эволюционное приобретение, унаследованное от предковых форм всех живых организмов, составляющих филогенетическую «родословную» человека, начиная с LUCA до homo sapiens. Архитектура и структура сознания человека включают базовые когнитивно-поведенческие структуры, сформировавшиеся на более ранних этапах развития человека как вида и его сознания.

Сознание живого организма оперирует отдельными кластерами или доменами элементов информационного поля и их значениями. Каждый элемент информационного поля, имеющий значение и способный вызывать изменение поведения, принадлежит одному из 5 базовых доменов.

Значения всех элементов информационного поля живых организмов в естественной среде составляют 5 общих универсальных доменов: 1) Среда и ее фрагменты; 2) Отдельные свободноподвижные объекты (феномены, элементы) дистанционно; 3) Контекст; 4) Групповая динамика; 5) Символы (формализованные символьные и знаковые системы, абстрактные концепции).

Архитектура сознания представляет собой когнитивную проекцию (или «отражение» – Леонтьев А.Н.) пяти базовых доменов информационного поля, имеющих значение для живых организмов, которые способны вызывать изменение поведения организмов, и одновременно – требуют от организмов поведенческого решения для обеспечения средового благополучия.

Архитектура сознания в данной работе рассматривается с точки зрения эволюционно-адаптационного подхода и представлена в виде системы пяти базовых когнитивно-поведенческих структур, которые включают:

– 5 универсальных (базовых) доменов информационного поля, включающие соответствующие пять категорий элементов среды и их значений, на которые живые организмы способны и обязаны реагировать поведенческим решением – изменением поведения.

– 5 базовых поведенческих решений и паттернов изменения поведения, которые активируются элементами и их значениями и позволяют решать задачи средового благополучия.

– 5 универсальных контроллеров средового благополучия, управляющих распознанием значения данного элемента информационного поля и его дальнейшей коммуникацией в центр принятия поведенческого решения – изменения поведения.

– 5 базовых универсальных когнитивных карт, позволяющие организмам распознавать элементы и их значения, принадлежащие соответствующим доменам информационного поля.

– 5 типов когнитивно-поведенческого потенциала, которыми оснащены группы видов, обладающим соответствующими набором базовых контроллеров и паттернов изменения поведения.

Представленная в данной работе модель архитектуры сознания позволяет определить категории элементов информационного поля имеют значение для человека и активируют поведенческие решения. Данная модель позволяет рассмотреть сознание с точки зрения контроля и коммуникации, и предлагает концептуальное решение архитектуры сознания, которое может быть заложено в основу технического воплощения ИИ, уровня человека – General/ Strong AI.

## Глава 1. Искусственный интеллект

Введение

Пожалуй, не проходит и дня, чтобы на глаза не попалась очередная новость на тему «искусственного интеллекта» (ИИ). Практические не осталось сфер, в которых не были бы внедрены технологии искусственного интеллекта. Едва ли найдется человек, который не слышал об искусственном интеллекте. Тем не менее, до сих пор не существует общепринятого определения того, что из себя представляет искусственный интеллект и к какой сфере он относится – продукт, технология, научная дисциплина, алгоритм или программное обеспечение?

Дискуссия об искусственном интеллекте обычно выявляет три основные точки зрения на прогресс и будущее ИИ. Сторонники первой точки зрения полагают, что ИИ стремительно развивается и скоро достигнет уровня человеческого разума (например, Рэй Курцвейл, Герд Леонгард). Сторонники второй точки зрения заходят в своих ожиданиях еще дальше – согласно их представлениям ИИ развивается столь стремительно, что скоро может выйти из под контроля и начать самостоятельную жизнь и, в итоге, захватит человечество (Илон Маск, Билл Гейтс, Стивен Хокиниг, Ник Бостром, Стюарт Рассел, др.). Одновременно, сторонники третьей точки зрения сомневаются в том, что ИИ, уровня человека вообще будет создан в обозримом будущем и на его создание уйдут десятилетия или даже века (Родни Брукс, Джордж Дайсон, Дэвид Чалмерс и др.). При этом, все больше специалистов выражают сомнения в том, что те технологии и алгоритмы, которые стало привычным называть «искусственным интеллектом» – является таковым на самом деле.

У сторонников каждой из этих точек зрения есть свои убедительные аргументы и контраргументы, подтверждающие их правоту и опровергающие доводы оппонентов. Но как разобраться – кто прав? Как такие полярные и взаимоисключающие точки зрения сосуществуют вместе и находят своих сторонников?

Изначально, ИИ задумывался и разрабатывался с целью создать системы, которые были бы способны воспринимать, думать и действовать как люди (Winston, 1992). Но для этого ИИ должен обладать сознанием как у человека, что в свою очередь, требует реконструировать архитектуры сознания человека и ее воплощения на искусственные носители. Для создания ИИ, уровня человека, в первую очередь необходимо определить – что из себя представляет сознание человека, реконструировать его архитектуру, базовые структуры и принципы функционирования. Но одна из самых главных и наиболее фундаментальных проблем развития искусственного интеллекта и перехода к ИИ, уровня человека, связана с тем, что до сих пор не существует достоверной модели архитектуры сознания человека.

Представляется, что столь кардинальные разночтения в представлениях о будущем ИИ, возникают из-за того, что стремление перейти к General (Strong) AI, т. е. – «Мощному ИИ» есть, а понимания, как это сделать – нет. В результате одни авторы выдают желаемое за действительное, пытаясь ускорить наступления эры General (Strong) AI. Другие – фантазируют на тему Strong и даже Super AI, исходя из гипотетических представлений о том, что он уже создан и предлагают обсуждать вероятные последствия для человечества. Но главная проблема с ИИ в настоящее время заключается в следующем – у нас нет никаких представлений, что из себя представляет General (Strong) AI, и что в итоге мы планируем получить (напр., Larson, Erik J. 2021, Russell, 2019, Wooldridge, 2021).

Размытые представления о том, что собой представляет искусственный интеллект не мешают обсуждать прогресс и его дальнейшее развитие, а также рисовать картины общества будущего, в котором искусственный интеллект не уступает своими возможностями человеческому, также способен к эмоциям, эмпатии, юмору, альтруистическому поведению и т. п.

Но не имея модели архитектуры сознания, «невозможно создать настоящую искусственную форму жизни снизу вверх. Она должна быть спроектирована как когнитивный объект высокого уровня со всеми компонентами в архитектуре, моделями информации/знаний» (Crowder, Carbone, Friess, 2016).

«Если мы действительно желаем создать системы, которые смогут более динамично взаимодействовать с окружающей средой, чем сегодняшние системы – думать, рассуждать, действовать и общаться способами, подобными человеческим, то нам необходимо создать системы, воспроизводящие когнитивные процессы человека» (Crowder, Carbone, Friess, 2016; перевод цитаты – С.Ф.).

Для того, чтобы ИИ смог перейти на уровень функционирования сознания человека, необходимо оснастить его способностями человека преобразовывать мозаичное полотно картины окружающего мира в упорядоченную систему информационного поля, отделяя «значимые» элементы от «остального» для принятия поведенческих решений в каждый момент времени.

Решение такой задачи возможно только при условии реконструкции архитектуры сознания и оснащение искусственного интеллекта способностью самостоятельно распознавать задачу из всего множества элементов и событий информационного поля, аналогично тому, как функционирует сознание человека.

Без решения задачи «распознающей» архитектуры, ИИ продолжит экстенсивное и узкоспециализированное развитие на уровне Narrow AI и не сможет приблизиться к уровню сознания человека. Но на данный момент современная психология, биология, когнитивные науки до сих пор не смогли предложить концептуального решения; «в этой сфере ничего стоящего чтения до настоящего момента не было написано» (Stuart Sutherland, цитата по Chalmers D. J.).

Возможности современного ИИ

Современные виды искусственного интеллекта (Narrow/ Weak AI), будучи способными решать отдельные, пусть даже очень сложные задачи, имеют мало общего с интеллектом или сознанием человека. Современный ИИ не способен действовать вне рамок поставленных перед ним узко специализированных задач и за пределами запрограммированных алгоритмов, предустановленных разработчиками. На данный момент развитие ИИ осуществляется исключительно в таком – «экстенсивном» направлении – усложнения и совершенствования внутри замкнутых, изолированных задач – сбор и анализ Bigdata, распознавание лиц и объектов, обработка речевых и текстовых массивов, управление беспилотными автомобилями, игры в шахматы, Го и т.п.

В отличие от искусственного, человеческий интеллект (сознание) способен и обязан самостоятельно определять и приоритизировать наиболее актуальные задачи в каждый момент времени, учитывать контекст, обстоятельства, условия, эмоции и чувства, балансировать между моральными ограничениями и требованиями закона, сотрудничать, сопереживать, проявлять альтруистическое поведение и т.п.

Для того, чтобы перейти к созданию ИИ, уровня человека, необходимо «обучить» ИИ способности самостоятельно определять – что в данный момент представляет собой наиболее актуальную задачу в данный момент времени и выбирать наиболее адекватное поведенческое решение. Это означает, что необходимо оснастить ИИ таким функционалом, который позволит ему распознавать из всего информационного поля те значимые элементы (включая их значения), которые связаны с наиболее приоритетной задачей и соответствующими поведенческими паттернами, с помощью которых данная задача может быть решена.

Для таких операций требуется особое структурирование окружающего мира (информационного поля) и, соответственно, наличие ответственной за такое структурирование архитектура сознания, управляющая распознанием как значений информационного поля, так и задач, требующих решения в каждый конкретный момент.

Если бы проблема перехода к ИИ, уровня человека, заключалась только в технологиях и мощностях, то ее решение было бы вопросом времени, усилий, инвестиций и т.п. Но основная проблема заключается в том, что мы до сих пор не имели ясного представления о том, на каких небиологических принципах функционирует наше собственное сознание. В том числе – какие основные закономерности, какие базовые структуры и паттерны составляют основу и управляют сознанием человека.

Человеческие сознание и интеллект, при всей его сложности и уникальности – тем не менее, продукт эволюции сознания живых организмов и наследие всех предковых форм, которые предшествовали появлению homo sapiens. В этой связи сознание человека (и живых организмов вообще) имеет смысл рассматривать не только, и не столько в связи с биологическими процессами, но также в связи с когнитивно-поведенческими решениями, с помощью которых организмы решают свои жизненно важные задачи – адаптации, получения энергии, репродукции.

Если мы планируем получить ИИ, уровня человека, то обязательным условием его функционирования была бы его способность самостоятельно распознавать наиболее актуальные задачи в каждый момент времени, а также составляющие их элементы информационного поля и их значения, и реализовывать адекватные поведенческие решения. Другими словами, ИИ, уровня человека, должен быть способен не только решать задачи, но и самостоятельно определять – какая из множества задач требует решения в каждый момент времени. Однако, на данный момент общую ситуацию можно суммировать цитатой Ника Бострома: «Плохие новости для ИИ и когнитивных наук – никакой общей теорий решения проблем, равно как и теории обучения человека, до сих пор не существует» (Bostrom, 2014).

Представленная работа посвящена вопросам реконструкции архитектуры сознания для решения концептуальных проблем и барьеров на пути создания ИИ, уровня человека. Переход к AGI лежит через реконструкцию архитектуры сознания с точки зрения эволюционного развития и адаптационного функционала, обеспечивающего поведенческие решения, который позволяет организмам структурировать окружающее пространство (в том числе – значения информационного поля) таким образом, чтобы в любой момент времени извлекать информацию о том, какие именно элементы имеют значение и указывают на задачу, требующую немедленного поведенческого решения для выживания и процветания видов в естественной среде. В работе представлены подход, методика и модель архитектуры сознания человека, основанные на реконструкции базовых структур и принципов функционирования сознания как адаптационного функционала в виде 5 универсальных когнитивных карт, универсальных поведенческих решений или базовых когнитивно-поведенческих паттернов и базовых когнитивно-поведенческих «контроллеров», имеющих эволюционную природу и управляющих обеспечением средового благополучия организма.

В работе также представлен обзор текущего положения дел в развитии ИИ и проблемы, связанные с переходом от Narrow AI к General AI, то есть «ИИ, уровня человека». Создание ИИ, аналогичного человеческому сознанию – это зона ближайшая развития современной науки и индустрии информационных и компьютерных технологий. В настоящее время предложен и реализуется несколько подходов к созданию ИИ, аналогичного человеческому или уровня человека. Но ни один до сих пор не представил какие-либо осязаемые результаты, которые указывали бы на прогресс от текущего уровня ИИ (Narrow AI) к ИИ, уровня человека (General AI). Тем не менее, множество вопросов в отношении перехода к General AI все еще требует ответов.

В том числе, какое ближайшее будущее у ИИ и как скоро будет достигнут уровень человека, при котором машины и роботы смогут на равных общаться с людьми, обладать эмпатией, испытывать эмоции, шутить и смеяться над шутками других? Где сейчас находится наука и человечество на пути к созданию искусственного интеллекта, уровня человека?

Почему растет число «маргиналов», которые всерьез считают, что ИИ до сих пор не создан, а само название – не более чем удачный маркетинговый ход, за которым скрывается лишь программный «софт»? В чем тогда принципиальное отличие современного ИИ от обычного калькулятора, стиральной машины или пульта от телевизора, и существует ли ИИ вообще?

Краткая история ИИ

Несмотря на то, что термин ИИ появляется лишь в 1956 году, история создания ИИ началась значительно раньше. Некоторые исследователи и историки ИИ прослеживают его «родословную» вглубь древнегреческой культуры, сквозь средневековую Европу, эпоху Ренессанса и затем – в современный период индустриализации и развития капитализма.

Начало же современного этапа развития ИИ датируется 1936-1937 годами, и связано с именем выдающего математика и ученого Алана Тюринга, и его решением «проблемы принятия решения» («Entscheidungsproblem») и публикацией работы “On Computable Numbers” (Turing, A., 1936 – «Вычислимые числа»), в которой он изложил главную концепцию «компьютера», в дальнейшем получившей название «Машина Тюринга» («Turing machine»).

В 1948 году выходит книга Норберта Винера «Кибернетика или управление и связь в животном и машине» посвященная проблеме создания «думающих» и самостоятельно принимающих решение машин. На следующий же день после своего выхода книга Винера становится культовой не только среди специалистов, но и широкой публики, ожидающей скорого появления «умных» вычислительных машин, роботов и компьютеров.

Винер одним из первых артикулировал подход к созданию «думающих машин» с точки зрения реконструкции адаптационных механизмов, созданных природой и эволюцией для восприятия и переработки организмом информации для выработки поведенческого решения. Контроль за распознанием значимой информации и управление выработкой наиболее адекватного поведенческого решения, или как пишет сам Винер: «поглощения организмом информации из внешней среды и ее использования для выбора правильного поведения» (Винер, 1948) – базовый принцип жизни на Земле, который должен быть перенесен в создание «умных» машин, роботов и компьютеров.

Идея того, что контроль и коммуникация лежат в основе организации адаптационного поведения организма и выживания организма и вида в целом – вынесена Винером в само название его работы: «Cybernetics. Or control and communication in the animal and the machines». Свое видение того, в каком направлении должна развиваться кибернетика (в том числе ИИ), Винер обосновал следующим образом: «всякий организм скрепляется наличием средств приобретения, использования, хранения и передачи информации».

Винер одним из первых так четко сформулировал идею того, что развитие искусственных «умных» технологий должно строиться на эволюционно-адаптационных принципах, которые лежат в основе всей жизни на Земле. Перенос «сознания» с биологических носителей на искусственные (небиологические) носители возможен на условиях реконструкции структур и принципов, управляющих и контролирующих процесс преобразования информации в поведенческое решение. Однако с тех пор, как Винер выдвинул свой тезис, существенного прогресса в реконструкции таких структур и в целом архитектуры сознания не произошло.

История термина «искусственный интеллект»

В 1956 году Джон МкКарти и Марвин Мински организовывают «Дартмутскую конференцию» – шестинедельный семинар, который объединяет энтузиастов по разработке ИИ. Этим же годом официально датируется появления термина «искусственный интеллект».

– Почему именно «искусственный интеллект»? Изначально никакого особого значения Джон МакКарти не вкладывал в название. Термин возник в некотором смысле случайно; сам МакКарти так объяснил свой выбор: «Надо было как-то назвать, вот я и предложил такое название – искусственный интеллект» (цитата по Mitchell, 2019). На выбор названия повлияло то, что на тот момент времени МакКарти и Мински было важно отделить область своей деятельности от кибернетики и обозначить новое направление в информационных технологиях как самостоятельное.

Термин «искусственный интеллект» оказался поистине гениальным маркетинговым решением. Понятное и амбициозное, зовущее в технологичное будущее, оно мгновенно было подхвачено и растиражировано СМИ, авторами научных и художественных произведений. Новые технологии стремительно привлекали внимание общественности, журналистов, писателей-фантастов, режиссеров и т.п. Общество было взбудоражено перспективами искусственного интеллекта и ожиданиями безграничных возможностей искусственной жизни. Ближайшее будущее представлялось наполненным разумными роботами и небывалыми технологиями решениями, которые сделают жизнь на Земле прекрасной и беззаботной. Многие ожидания даже удалось воплотить в жизнь – компьютеры, смартфоны, роботы, беспилотные автомобили и летательные аппараты т.п. – стали вполне обыденной частью нашей повседневной жизни.

Однако первые десятилетия развития ИИ складывались весьма непросто и порой драматически, со своими взлетами и падениями, тупиками и перезагрузками. Два наиболее продолжительных периода спада в развитии ИИ получили особое название – «зимы ИИ» (AI Winters). Эти периоды сопровождаются резким снижением прогресса в развитии ИИ и, соответственно, сокращением финансирования проектов. Первая «зима ИИ» пришлась на период 60-х годов прошлого столетия и ее связывают с дискредитацией «нейросетевого» подхода, предложенного Розенблатом. Марвин Мински, один из основателей ИИ, выдвинул свой подход – экспертный, «symbolic logic – expert systems», подвергнув критике и заклеймив идеи «перцептрона» и в целом «нейросетевой» подход Розенблата как «тупиковый». Этот эпизод в истории ИИ вошел под названием «Битва разумов» («Brain Wars»).

Только 70-х годах «нейросетевой» подход был реабилитирован и даже стал доминировать в разработках ИИ, хотя его автор – Фрэнк Розенблат – к этому времени уже скончался в возрасте 43 лет. Но на тот момент компьютерам для решения задач с помощью нейросетевых алгоритмов не хватало вычислительных мощностей. В итоге наступает вторая «зима ИИ», которую удалось преодолеть только в 90-е прошлого века, когда был совершен революционный скачок в увеличении мощностей компьютеров.

«В настоящее время ИИ переживает свой новый этап хайпа» (Mueller&Massaron, 2016). Современного человека со всех сторон окружает ИИ, задачи, которые он способен решать, становятся все сложнее, а возможности – все более удивительными и даже – невероятными. Например, ИИ «научился» играть в настольные игры еще в конце 50-х прошлого столетия, а на рубеже 20 и 21 веков ИИ не оставляет шансов человеку в шахматах, Го, и даже в покер. В 1997 году шахматный компьютер «DeepBlue» побеждает действующего чемпиона мира по шахматам. Затем искусственный интеллект одолел чемпиона мира в китайскую игру Го (Google DeepMind Challenge Match) – сначала корейского чемпиона Ли Се-Дола (Lee Se-Dol)в 2016 году, а затем и китайского Ке Цзе (Ke Jie) в 2017 году.

Эти даты и события можно считать историческими вехами, которые ознаменовали торжество ИИ над интеллектуальными возможностями человека. С тех пор, как правило ИИ не оставляет шансов человеку в решении тех задач, для которых он создан и запрограммирован. Он способен не только играть и выигрывать в логические и комбинаторные игры, но также решать очень сложные и важные задачи, на решение которых у человека ушли бы века или даже тысячелетия. Современный компьютер способен обрабатывать до 100 млрд инструкций в секунду и на такой объем работы у человека уйдет порядка 3,5–3,7 тысяч лет (Wooldridge, 2021). Способности обычного человека считать «в уме» ни в какое сравнение не идут даже с простым калькулятором, не говоря уже об алгоритмах ИИ, которые способны собирать и обрабатывать гигантские массивы Bigdata или контролировать многоуровневые аналитические процессы.

ИИ применяется практически во всех жизненно важных сферах жизни человека и успешно решает множество задач: сбор и обработка Bigdata, диагностика заболеваний и определять стратегию лечения, распознание лиц, управление технологическими процессами, торговля акциями, обеспечение безопасностью, запуск и управление спутниками, самолетами и беспилотными устройствами, рисование картин, предсказание землетрясений и цунами, ответы на поисковые запросы в интернет, перевод разговорной речи с одного языка на другой и т.д.

Сингулярность

Технологии ИИ стремительно развиваются и, казалось бы, неизбежно смогут выйти на уровень человеческого интеллекта и сознания в ближайшее время, достигнув точки «сингулярности» – момент в будущем, когда человечество достигнет в разработке ИИ, уровня человеческого сознания. Термин и концепцию «сингулярности» разработал John von Neumann. В дальнейшем Irving John Good в своей работе “Speculations Concerning the First Ultraintelligent Machine” (1965), определил сингулярность применительно к ИИ как «интеллектуальный взрыв» – момент в истории человечества, когда появится «сверхразумная машина … которая может намного превзойти всю интеллектуальную деятельность человека, каким бы умным он ни был»; в этом случае «разум человека остался бы далеко позади». Дальнейшую популярность этому термину придали ученые, философы и писатели-футуристы, в том числе Vernor Vinge (например, Technological Singularity, 1993), Дэвид Чалмерс (The Singularity: A Philosophical Analysis, 2010 David J. Chalmers), Рэй Курцвейл (Singularity is Near, 2015) и другие.

Но именно в отношении этого прогноза – сроков и самой возможности достичь уровня человеческого интеллекта на искусственных носителях – у большого числа специалистов возникают обоснованные сомнения. Более того, все чаще приходится слышать от авторитетных экспертов, что никакого ИИ вообще не существует, а то, с чем мы имеем дело – это лишь программное обеспечение, не имеющее ничего общего ни с интеллектом, ни с сознанием человека.

Три уровня искусственного интеллекта

Традиционно выделяют два или три основных уровня ИИ. Первый – «Ограниченный» или «слабый» (Narrow/ Weak AI), к которому относятся все современные виды ИИ, созданные к настоящему времени. Такие виды ИИ (Narrow /Weak AI) характеризуются способностью ИИ выполнять отдельные задачи, как правило, намного эффективнее и стремительнее, чем это мог бы сделать человек. Например, обработка больших массивов данных (Bigdata), переводы текстов, распознание лиц, сбор информации, управление процессами и производствами, голосовые помощники, беспилотные автомобили, игры в шахматы, Го и т.п.

Второй уровень или тип ИИ – «Расширенный» или «Мощный» (General/ Strong AI) – это ближайшая зона развития современного ИИ, функционирующий по аналогии с человеческим сознанием, способному к самостоятельному обучению, принятию решений, приоритизации задач, эмпатии и т.п. Термин Strong AI предложил в 1980 John Rogers Searle в своей работе "Minds, Brains, and Programs" (1980). Strong AI – «когда машины смогут по-настоящему понимать, что происходит» («This is when a machine truly understands what is happening». Searle, 1980; перевод цитаты – С.Ф.).

Также часто выделяют третий уровень – Super AI или Superintelligence (Nick Bostrom, 2014) – ИИ, превосходящий уровень человеческого сознания и воплощающий в себе все интеллектуальные и когнитивные возможности, которые предоставляет природа и мироздание. Однако, представления о Super AI носят настолько фантастический и недостижимый в обозримом будущем характер, что обсуждать их в настоящее время не имеет смысл.

При этом экспертная оценка того, где сейчас находится прогресс в развитии ИИ – неоднозначна, и по этому вопросу существует несколько точек зрения. Одни эксперты считают, что в настоящий момент мы уже находимся на пути к ИИ, уровня человека и остались считанные годы до наступления «сингулярности». Так, например, известный футуролог и лингвист Рой Курцвейл (в настоящее время – руководитель natural language-oriented project в Google) установил четкую дату создания ИИ, уровня человека – 2029 год, а футурист и специалист в области технологий и гуманизма Gerd Leonhard еще раньше – в 2025. И хотя далеко не все сторонники столь скорого появления ИИ, уровня человека, разделяют его оптимизм, тем не менее, многие настроены позитивно в отношении скорого перехода к ИИ, уровня человека и даже к Super ИИ. Например, Ник Бостром, Стюарт Рассел и другие футуристы, не только прогнозируют появление ИИ, уровня человека в ближайшие десятилетия, но всерьез рассматривают сценарии технологического апокалипсиса, революции «терминаторов» и «восстании машин».

С другой стороны, Родни Брукс (Brooks, 2001) считает, что до создания уйдут многие десятилетия или даже века, прежде чем мы сможем приблизиться к ИИ, уровня человека. В качестве источника возможного решения он предлагает рассмотреть «невообразимое» и открыть некий совершенно новый взгляд на интеллект, сознание и мышление, которые позволят преодолеть «стеклянный потолок» нынешнего ИИ и перейти на новый уровень – ИИ, аналогичного человеческому. «Для систем восприятия может существовать какой-то организующий принцип… какие-то математические принципы или понятия, необходимые для построения хороших объяснений деталей эволюции, познания, сознания или обучения, что позволит расцвести ИИ и Искусственной жизни» (Brooks, 2011; перевод цитаты – С.Ф.)

Дэвид Чалмерс, философ-футуролог предлагает искать «новые свойства, неизведанной материи», которые позволит нам открыть тайну человеческого интеллекта и создать ИИ, уровня человека: «для объяснения сознания может быть необходим принципиально новый тип нового материала, новое физическое свойство вещей во Вселенной, подчиненное физическим законам, которые мы просто еще не понимаем…» (Chalmers, 1996).

Скептицизм

Где же истоки новой волны скептицизма, доходящего до отрицания того, что ИИ действительно создан? – В первую очередь, основные претензии связаны с тем, что технологии, которые по традиции называются ИИ, не являются «интеллектом» как таковым – это лишь продвинутый программный софт и алгоритмы (Rouhiainen, 2018). «Вообще говоря, разница между ИИ и программным обеспечением не такая уж и явная» (Bostrom, 2014). Человеческий интеллект и сознание намного сложнее и не могут быть сведены к набору алгоритмов и решению отдельных задач, или даже множеству самых сложных задач, но по отдельности.

Действительно, что же мы называем ИИ и на каком основании? Является ли пульт от телевизора или кнопки лифта искусственным интеллектом? Смартфон и автоматизированная система обработки Bigdata? Автопилот автомобиля и голосовой помощник? Компьютер для игры в шахматы или в Го?

Мельница с огромными жерновами, скрипящими лопастями, массивными приводящими механизмами и шестернями ни при каких обстоятельствах не удостоится звания ИИ. Но если процесс помола станет невидимым для пользователей, будет управляться с помощью touch screen, начнет подчиняться ситуационным потребностями пользователя и текущим условиям, распознавать лица пользователей, самостоятельно определять – в каком количестве и какого помола выдать муку каждому из них, и если все это еще будет сопровождаться имитацией диалога, подборкой музыкального фона и выдачей красивой аналитики в цветных диаграммах и анимированных презентациях – то уже вполне реалистично претендовать на грант на внедрение ИИ в мукомольной сфере.

Вряд ли кому-то придет в голову называть пульт ТВ или кнопки лифта искусственным интеллектом – условный социологический опрос выявит скорее всего из ста опрошенных ноль желающих назвать эти дивайсы ИИ. Но если лифт начнет «распознавать» входящего и отвозить его на нужный этаж самостоятельно? Возможно, уже один из ста человек согласится назвать такую технологию ИИ. Если при этом лифт начнет «здороваться» приятным голосом, обращаясь к входящему по имени, и включать музыку, соответствующую его предпочтениям и настроению? Поддерживать беседу и отвечать на вопросы о погоде, курсе акций, событиях в мире? Если прямо из лифта можно включить микроволновку или компьютер в своей квартире? Можно предположить, что число тех, кто готов сказать, что такой лифт обладает ИИ – будет возрастать. Но превратит ли это лифт в ИИ на самом деле?

В какой же момент происходит переход от простой «технологии кнопок» к искусственному интеллекту? Ведь по сути ничего не меняется от того, что лифт теперь способен выполнять больше задач, чем просто отвезти своего пассажира на нужный этаж. Также, как смартфон или компьютер, лифт не становится умнее от количества программ и приложений, установленных на них. Возможно ли определить универсальный и объективных маркер или индикатор, которые однозначно укажут: это – искусственный интеллект, а это – просто гаджет. Отсутствие четких границ и критериев, отделяющих ИИ от технологии, софта, программного обеспечения – с одной стороны, и отсутствие явных аналогий с человечески интеллектом и сознанием – с другой, во многом породили новую волну скептицизма в отношении современного ИИ. В результате увеличивается число специалистов, которые полагают, что мы достигли «стеклянного потолка» на данном уровне развития технологии, которую с легкой руки МакКарти традиционно продолжают называть ИИ.

Чтобы называться «интеллектом», недостаточно быть способным выполнять отдельные, узкоспециализированные задачи, даже если они очень сложные и «интеллектуальные». Наши собственные требования к ИИ стали включать сходство с человеческим поведением и сознанием, что неизбежно включает в себя наличие эмоций, чувство ситуации, эмпатию, гибкость в общении, эластичность поведенческих реакций, чувство юмора и т.п.

«ИИ – это не волшебство, а просто набор инженерных методов и алгоритмов, каждый со своими сильными и слабыми сторонами, подходящий для одних задач, но не для других» (Marcus&Davis, 2019). Гаджетам недостаточно простого, рабского послушания нашим командам чтобы называться интеллектом, даже если их функционирование и решение задач идеально, безотказно, эффективно и приятно для пользователя, превосходя «интеллектуальные» возможности самого пользователя. «Всякая компьютерная программа сводится к спискам инструкций. Microsoft Word и PowerPoint сводятся инструкциям. Call of Duty и Minecraft сводятся к инструкциям» (Wooldridge, 2021). Для того, чтобы иметь сходство ИИ с нашим собственным интеллектом, требуется нечто большее – мы ожидаем от искусственного интеллекта и искусственной жизни такого же поведения как наше собственное. Но что это означает на самом деле? Что именно мы ждем от поведения ИИ? Насколько наши требования обоснованы и реалистичны?

Проблема перехода к искусственному интеллекту, уровня человека

В настоящее время «все виды ИИ функционируют в режиме узкоспециализированного ИИ (Narrow AI)» (Bostrom, 2014). При этом задача создать ИИ, аналогичный человеческому, до сих пор не была формализована и определена так, чтобы стало ясно – в каком направлении должны развиваться исследования и как должен выглядеть итоговый результат. Чтобы создать искусственный интеллект, уровня человека, необходимо сначала определиться с тем, что вообще представляет интеллект и сознание человека, а также определиться с тем, что подразумевается под понятием «искусственный интеллект», и какие у нас ожидания от его дальнейшего развития.

Это не философские вопросы ради дискуссии на общую тему. Понятие ИИ, введенное с легкой руки Джона МакКарти для того, чтобы отделить новое направление от кибернетики, оказалось блестящим решением с маркетинговой точки зрения, но содержательно оно не было определено в полной мере ни самим автором, ни его последователями. От названия «ИИ» впоследствии даже пытались отказаться, но было уже поздно – оно цепко и навсегда закрепилось в общественном сознании.

Марвин Мински предложил такое определение: «ИИ – наука о том, как создавать машины, способные выполнять такую работу, которая требовала бы человеческого уровня интеллекта» (Minsky, 1962, цитата по Sleeman&Bernsen, 1992; перевод цитаты – С.Ф.). Это определение не прояснило главную проблему и вопрос остался прежним – что означает: «интеллект, уровня человека»? Каковы критерии? В чем измерять и по какой шкале?

Благодаря МакКарти и Мински, мы оказались в интересной, но непростой ситуации – сначала был придуман термин «искусственный интеллект», а затем началось его наполнение содержанием и поиск стратегии дальнейшего развития, исходя из случайно сгенерированного названия. Если на начальном этапе, когда ИИ только зарождался, такое положение дел не представляло проблемы и даже способствовало развитию ИИ, то для перехода от AGI к NGI, требуется ясность и четкое определение – в чем содержательная разница Narrow ИИ и General ИИ, что составляет проблему перехода от ANI и AGI, и что в конце концов мы желаем получить в качестве ИИ, уровня человека.

Проблема архитектуры сознания

На данный момент ответ очень прост и категоричен: «правда заключается в том, что даже близко не представляем себе то, что хотим создать» (Wooldridge, 2021).

Основная проблема перехода к ИИ, уровня человека заключается в отсутствии концептуального понимания – что именно собой представляет архитектура интеллекта (сознания), какие базовые структуры и «небиологических» принципы лежат в основе его функционирования.

Решение проблемы архитектуры сознания сдерживается отсутствием необходимых и достаточных представлений об интеллекте (сознании) человека, базовых структурах и «небиологических» принципах, с помощью которых сознание оперирует элементами информационного поля и конструирует реальность для его владельца с целью последующего выбора наиболее адекватного поведенческого решения в каждый момент времени.

Попытки решить задачу «архитектуры сознания» человека (и вообще живых организмов) регулярно предпринимаются, тем не менее она до сих пор не решена и едва ли можно говорить о существенном прогрессе. На данный момент ни психология, ни нейробиология, ни другие дисциплины не смогли сформировать понятную и практичную концепцию архитектуры сознания. Отсутствие модели архитектуры сознания (интеллекта) не позволяет сформулировать конечную цель и задачу таким образом, чтобы перейти к практическому созданию ИИ, уровня человека.

Возможно, прежде чем искать «новую материю» или думать о «невообразимом», имеет смысл вернуться к базовым понятиям, устранить искажения и неопределенности в формулировках, а также восстановить логику процессов и закономерностей, чтобы получить ответ на самый главный вопрос – каким образом сознанию удается распознавать именно те элементы информационного поля и определять наиболее актуальную задачу, которая требует поведенческого решения в каждый момент времени.

Условием создания ИИ, аналогичного человеческому, является структурно-функциональный подход к реконструкции архитектуры сознания, направленный на установление базовых когнитивно-поведенческих структур и небиологических принципов конструирования картины мира, позволяющих сознанию выделять именно те элементы, которые имеют значение для выбора и принятия поведенческого решения в каждый момент времени.

Распознание – две задачи

В свою очередь, проблема распознания подразделяется на две основные составляющие. Первая – каким образом наш интеллект (сознание) выделяет из всей картины мира только те элементы, которые значимы для нашей жизни в каждый конкретный момент. Вторая – каким образом приоритизируются значимые для нашей жизни задачи, и по какому принципу происходит выбор наиболее адекватного решения? Человек, как на индивидуальному уровне, так и видовом не смог бы прожить и минуты без способности распознавать и выделять из всего бесчисленного множества элементов информационного поля те, которые имеют значение для нашей жизни, определять сами значения, и на их основе выбирать наиболее эффективное решение в каждой конкретной ситуации.

Вообще говоря, если бы мы смогли ответить на эти два вопроса – как отделять «значимое» из всей картины мира, и почему именно данные элементы информационного поля имеют значение, то можно было сказать, что основная часть концептуальной работы по созданию ИИ была бы выполнена. Связав распознание значения элемента и соответствующее поведенческое решение, возможно более четко определить направление для дальнейшего технологического развития ИИ. Однако на данный момент, именно эти базовые вопросы не имеют ответов, без которых индустрия ИИ остается в границах Narrow AI, создавая, по сути, продвинутые калькуляторы, лишенные фундаментальных признаков человеческого сознания – мышления, эмоций, сопереживания и т.п.

## Глава 2. Проблемы ИИ и барьеры на пути к ИИ, уровня человека

«Родовые проклятия» ИИ

В настоящее время для развития технологий в рамках Narrow ИИ, серьезных и глубоких знаний о психологии, сознании и биологии – не требуется. Основной объем работы и решений приходится на программирование, технологии, алгоритмы и т.п. Но если наши амбиции устремляются к созданию ИИ, уровня человека, то баланс существенным образом смещается в пользу психологии и смежных дисциплин – биологии, социологии, математики, логики, философии, антропологии, нейропсихологии и нейролингвистики, когнитивных дисциплин и др.

С одной стороны, предполагается, что ИИ уровня человека, обязательным образом должен интегрировать наиболее прогрессивные достижения этих дисциплин и накопленные научно-практические знания о человеке, сознании, мозге, интеллекте, мышлении и т.п.

С другой стороны, наряду с достижениями, ИИ вынужден наследовать нерешенные проблемы смежных дисциплин, которые зачастую в неизменном виде, некритично и подспудно переносятся в сферу ИИ. Удивительным образом эти «родовые проклятия» практически полностью совпадают с теми понятиями и феноменами, в которых индустрия ИИ ищет надежную опору для своего дальнейшего развития. В том числе, к таковым относятся наиболее фундаментальные и ключевые понятия, такие как: сознание, интеллект, психика, поведение, эмоции, эволюция, естественный отбор и др.

Например, на данный момент психология обладает лишь примерными знания о том, что представляют собой эмоции, зачем они нам, какова их адаптационная функция и эволюционная история. Не менее ускользающим понятием является сам термин «психика» – наука не способна однозначно указать виды, которые являются носителями и обладателями психики – только лишь человек, «высшие» млекопитающие или другие живые организмы тоже?

Также психология до сих пор не смогла определиться с тем, что именно является источником психики и сознания – мозг и нервная система или возможны другие варианты? Если мозг и нервная система – это источники психики и сознания, то как быть с «донервными» видами – бактериями, грибами, растениями и др.? В соответствии с такой логикой, не обладая нервной системой, они не могут обладать психикой и сознанием. Но в таком случае, каким образом организмам без психики и сознания удавалось распознавать и решать задачи выживания и репродукции в течение сотен миллионов лет? Как удавалось выживать и процветать организмам в «допсихическую» и «досознательную» эпоху, если они не имели функционала распознания и принятия решений?

В результате каких явлений и процессов организмы стали обладать сознанием и/или психикой? В какой момент истории жизни на Земле возникает сознание и психика – в ходе эволюции или сразу же в момент зарождения жизни? Какой психикой обладал LUCA – первый живой организм на Земле?

Что вообще из себя представляет эволюция психики и сознания, в чем ее измерять и по какой шкале? Психология также не сильно помогла в этом вопросе – эволюция психики и сознания также не имеет единой теории и концепции. Разработанная еще в Советском Союзе основателем психологического факультета МГУ, Леонтьевым Алексеем Николаевичем теория эволюции психики (Леонтьев, 1972), фактически, до сих пор остается единственной признанной теорией в отечественной психологии. Концепций эволюции сознания разработано на данный момент несколько, в том числе и автором данной работы («Эволюция сознания: пять базовых когнитивно-поведенческих паттернов», Фролов, 2021), но единой общепринятой теории эволюции сознания в настоящее время, тем не менее, на данный момент не существует.

В чем разница между сознанием, мышлением, интеллектом и психикой? Что такое интеллект, и в чем он измеряется применительно к живым организмам помимо человека? Аналогичные вопросы вызывают другие привычные термины научного обихода, в том числе – сознание, поведение, личность, инстинкты, эволюция и даже – жизнь. Строго говоря, однозначных определений и четких критериев для этих понятий до сих пор не существует, а имеющиеся – вызывают больше вопросов и споров, чем проясняют суть явлений.

Когнитивные дисциплины также не дают ответа на вопросы – что представляет собой архитектура сознания? Каковы базовые структуры сознания и каким образом организм выделяет из всего множества элементов информационного поля именно те, которые связаны с наиболее актуальной задачей, требующей поведенческого решения в каждый момент времени? Какова связь сознания с информационным полем данного организма и его поведением? Каким образом организмы управляют и контролируют процесс распознания значений элементов среды и их переводом в изменение поведения? Современные знания об интеллекте, сознании и психике человека ограничены и весьма расплывчаты: «современная когнитивная наука имеет мало, что сообщить о сознании» («Modern cognitive science has had almost nothing to say about consciousness». Chalmers, 1996; перевод цитаты – С.Ф.).

В биологии для искусственного интеллекта ситуация сложилась не сильно лучше: помимо отсутствия единой классификации животных (на данный момент существует не менее 4 основных), биология до сих пор не смогла представить шкалу эволюционного развития живых организмов.

На данный момент существует лишь хронологическая шкала появления и развития видов, но не существует единиц измерений и четких критериев для определения эволюционной «развитости» видов. Эволюционный подход в биологии – единственный и базовый со времен Дарвина, но что именно представляет собой эволюция, в чем она измеряется и по какой шкале – до сих пор однозначных ответов нет.

Так, например, Richard D. Levins and Richard C. Lewontin в своей работе «The Dialectical Biologist» (Levins&Lewontin, 1985) отмечают, что главная проблема эволюционных теорий заключается в отсутствие шкалы, на которой мы могли бы расположить виды в таком иерархическом порядке, чтобы можно было однозначно утверждать – данный вид эволюционно более «продвинутый» по сравнению с другим. Эта проблема одинаково актуальна как для биологической, так и когнитивной эволюции. О развитии и прогрессе в эволюции сознания можно говорить лишь в том случае, если существуют четкие критерии и единая шкала измерения, с помощью которых можно сказать – данный вид находится на шкале на более ранней стадии, а другой – на более поздней. Когнитивные способности одного вида более развиты, чем аналогичные способности другого.

Сам термин «эволюция» имплицитно подразумевает движение от простого к сложному, от примитивного к совершенному, от «низшего» к «высшему». Во многих работах по эволюции можно встретить подобного рода утверждения: «по мере эволюции жизнь усложняется, становится более опасной и конкурентной», «потребовала от видов стать более эффективными в соперничестве и добыче пищи». К таким, на первый взгляд, безобидным формулировкам и заключениям возникает множество вопросов. Например, для каких именно видов жизнь стала «более опасной и конкурентной»? Для всех сразу или для какой-то группы? В чем конкретно выражается повышение опасности? Насколько жизнь стала «более опасной и конкурентной», например, для акул, крокодилов или черепах за последние пару сотен миллионов лет? Если взглянуть на мир бактерий и одноклеточных, то первый вопрос, который возникает – что конкретно подобные виды организмов сделали для того, чтобы стать более «эффективными в соперничестве и добыче пищи»? – Просто остались бактериями и продолжают ими быть в течение 4 миллиардов лет, практически в неизменном виде?

Совсем непохоже, чтобы жизнь для бактерий стала «более опасной и конкурентной», а сами они существенно эволюционировали (если речь не идет о модификациях). Скорее наоборот, с появлением крупных многоклеточных организмов, для бактерий появились «передвижные дома» для жизни – уютные, полные пищи и подходящих условий для размножения.

Вообще, насколько верно утверждение, что бактерии менее развиты, чем животные или растения? «В каком смысле млекопитающие сложнее чем бактерия?» (Levins&Lewontin, 1985). «В чем измерить сложность, которая позволила сравнить человека и лягушку?» (Lewontin, 1998). Даже если бы удалось протестировать лягушку на уровень IQ, то такое сравнительное исследование показало бы лишь то, что лягушка не так хороша в тестах на IQ. Но вопрос – чем, например, человек сложнее лягушки – остался бы без ответа.

Современная картина живой природы представлена множеством совершенно разных видов. Каким-то образом «примитивные» и «низшие» виды сосуществуют вместе с «развитыми» и «высшими», как будто вопреки закону «естественного отбора», согласно которому менее приспособленные должны стать добычей и пищей более развитых. Тем не менее, не просто соседствуют, а процветают уже в течение миллиардов лет, в отличие от «вчера» появившихся (по эволюционным меркам) «высшим» млекопитающих и человека. Такое противоречие означает либо то, что «естественный отбор» не работает (что невозможно), либо то, что наши представления о «высших» и «низших» видах отражают реальность не вполне корректно.

Генетическая информация и связи также не могу быть использованы в качестве основания для градации видов по «сложности» на эволюционной шкале. В своей работе «Основные эволюционные переходы» Meynard Smith и Szathmáry подтверждают неоднозначность биогенетического подхода: «если мы посмотрим на общую ДНК, то будем вынуждены признать унизительный факт – двоякодышашие рыбы или морской лилии примерно в 40 раз сложнее человека» (Meynard Smith&Szathmáry, 1995; перевод цитаты – С.Ф.)

Лишь по сложившейся традиции, мы используем термины «высшие» и «низшие» виды, не обращая внимания на то, что не существует критериев, которые бы позволяли бы точно указать на то, что дельфины «выше» кошек или наоборот (MacLean, Matthews, Hare, et al, 2012). Такое деление, по сути – естественное желание людей упорядочить сложные системы каким-либо образом, чтобы упростить свое восприятие при отсутствии определения и критериев эволюционной «развитости» в целом.

Теория высшей нервной деятельности до сих пор рассматривает сознание, психику, поведение как продукт и одновременно, как результат работы исключительно мозга и нервной системой в целом. При этом зачастую, не делая различия между понятиями «мозг» и «сознание» (или «психика»), используя их практически как синонимы. Применительно к человеку это отчасти верно, так же как и к другим организмам обладающих нервной системой Но к организмам, не обладающих нервной системой –оснований считать эквивалентными «мозг» и «сознание» или «мозг» и «психика» – просто нет. Одноклеточные, растения, грибы и даже вирусы, также способны принимать вариативные решения и контролировать свое поведение в зависимости от обстоятельств и условий. Не обладая мозгом и нервной системой, они тем не менее, обладают способностью распознавать, принимать решения, совершать рациональный выбор. Они, безусловно, не обладают сознанием уровня человека или даже животного, но не имея мозга и нервной системы, демонстрируют наличие когнитивной деятельности в полной мере, то есть – сознания.

Что такое интеллект

Еще одно «родовое проклятие» ИИ заключено в самом его названии – до сих пор не существует единого, общепринятого определения понятия «интеллект». Сам термин происходит от латинского intellectus – «понимать», «воспринимать», «познавать», «мыслить». Как правило, интеллект рассматривают как способность к выполнению определенной умственной деятельности: обучение, способность к рассуждению, понимание, извлечение смысла, распознание значений и связей, отделение и верификация фактов (Mueller&Massaron, 2016). Также часто к этому списку добавляют способность к эмпатии, чувство ситуации, альтруизм, коммуникативные навыки, лидерские качества и т.п. Большая советская энциклопедия дает такое определение: «интеллект выступает как синоним мышления, умственного развития личности». Оксфордский словарь английского языка определяет интеллект как «способность приобретать и применять знания и навыки». Словарь Merriam-Wesbter – как «способность учиться и понимать или справляться с новыми или трудными ситуациями».

Так, Daeyeol Lee приводит обзор определений термина «интеллект», которые предлагают различные специалисты в сфере человеческого и искусственного интеллекта (Lee, 2020). Например, согласно Говарду Гарднеру, «интеллект – это способность решать проблемы или создавать продукты, которые ценятся в одной или нескольких культурных средах» (Gardner & Hatch, 1989). Напротив, исследователи искусственного интеллекта Марвин Мински (1985) и Рэймонд Курцвейл (1999) определили интеллект как «способность решать сложные проблемы» и «способность оптимально использовать ограниченные ресурсы, включая время, для достижения целей» соответственно. Проанализировав около 70 различных определений интеллекта, Shane Legg и Marcus Hutter (Legg&Hutter, 2007), , предложили свое определение как способности субъекта «достигать целей в самых разных условиях» (см. также Lee, 2020).

Даже при поверхностном взгляде на представленные выше определения «интеллекта», обнаруживается несколько фундаментальных проблем и принципиальных несоответствий. Во-первых, определения включают в себя оценочные категории, которые сами требуют дополнительной шкалы, критериев и системы измерения, уже не могут считаться валидными. «Решать сложные проблемы», «создавать ценные объекты», «справляться с трудными ситуациями» и т.п. – такие формулировки не могут быть использованы в качестве определений и обесценивают те определения, в которых они применяются, потому что невозможно оценить – что и для кого представляется сложным, ценным, трудным.

Второй момент, который обращает на себя внимание – это то, что все представленные определения могут относиться как к человеку, так и к любому живому существу без исключения. В том числе – грибам, растениям, бактериям и т.д. Они тоже способны «решать сложные проблемы», «создавать ценные объекты» и «справляться с трудными ситуациями» и т.п. Не имея «способности приобретать и применять знания и навыки», не обладая «способностью учиться и понимать», никакие живые организмы, начиная с LUCA, не смогли бы выжить в естественной среде, а вид не смог бы удержаться в эволюции жизни на Земле в течение сотен миллионов и тем более – нескольких миллиардов лет.

Интеллект или сознание

Многие современные авторы справедливо критикуют чрезмерно широкое и вольное использование понятие «интеллект», поскольку оно размывает содержание и исходный смысл когнитивной деятельности. «Интеллект – термин, который напоминает переполненный чемодан, молния которого вот-вот разойдется» (Mitchell, 2019). Некоторые авторы вообще полагают, что «необходимы новые способы осмысления и понимания термина «интеллект» для его концептуализации» (N. Palanca-Castan, B. Sánchez Tajadura and R. Cofré, 2021). Действительно, одних только видов интеллекта – не менее восьми, согласно классической теории Гарднера («Теория множественного интеллекта», 1983): вербально-лингвистический, логико-математический, визуально-пространственный, музыкальный, телесно-кинестетический, межличностный, внутриличностный, натуралистический. При этом разработанные тесты для измерения уровня интеллекта вызывают больше споров, чем доверия. Например, уровень IQ устанавливается в результате решения заранее составленных задач, то есть таких, которые создали другие специалисты для того, чтобы оценить, насколько успешно и с какой скоростью с ними может справиться испытуемый. В результате тест указывает на место человека на шкале относительно других испытуемых относительно решения данных задач.

Однако жизнь в обществе (как и в естественной среде) не исчерпывается заранее составленными задачами из теста, и как правило, требуется не только найти решение поставленной задачи, но и определить – в чем именно проблема, и какая именно задача из множества требует решения в первую очередь. Адаптационное поведение человека в самом широком смысле требует именно таких навыков в первую очередь, а решение самой задачи – уже во вторую. Возможно, для ранжирования и иерархизации людей друг относительно друга подобные тесты могут быть полезны в определенных сферах, но они совершенно бесполезны для ранжирования «интеллектуальных» способностей живых организмов в естественной среде. При том, что по уровню «интеллекта» некоторые представители homo sapiens едва ли обгонят врановых, шимпанзе, попугаев или дельфинов.

Если мы готовы признать, что все живые организмы обладают интеллектом, то мы должны разработать универсальную шкалу и систему измерения «интеллекта» для всех живых организмов без исключения. При этом измерения и ранжирование должно исключать шовинистическое сравнение остальных организмов относительно человека и его «интеллектуальных» возможностей. Если нас интересуют объективные показатели, а не относительные значения, то необходима универсальная шкала, которая позволила бы оценить и измерить сложность видовых задач, и способности вида решать свои задачи выживания и репродукции в эволюционной и адаптационной перспективе. Насколько такая задача реалистична, учитывая разнообразие видов и различные среды обитания?

Чем способности пауков плести идеальную с инженерной точки зрения паутину превосходят или уступают способности растений совершенствовать дизайн семян и цветков, не имея органов дистанционного распознания и представлений об окружающем мире и пространстве? Или способность осьминогов изменять окрас, текстуру и форму, идеально совпадая с поверхностью и контекстом. Вживление голожаберным моллюском в свои покровы стрекательных клеток (клептокнидов), съеденных им стрекающих – насколько эта задача сложнее или проще способности коловраток самостоятельно встраивать в свою ДНК чужеродные гены (Gladyshev, E.A., Meselson M., Arkhipova, I.R., 2008)? Какие из этих задач сложнее? Как и по какой шкале это измерить?

– Ответов на эти вопросы не существует и даже постановка задач таким образом – нелепа; сам факт существования вида указывает на его «высшие» интеллектуальные возможности, благодаря которым он способен решать все свои задачи выживания и репродукции. С адаптационной и видовой точки зрения бактерии, растения, грибы, лягушки, кошки и человек – не отличаются своим «интеллектом». К жизни, выживанию, адаптации и эволюции – подобная иерархия неприменима, и любые попытки измерить «интеллект» видов – не просто «видовой шовинизм», но устаревший и безосновательный взгляд на живой мир как на «лестницу» развития, основанную на ложной иерархии и отсутствии объективных доказательств как эволюционной, так и интеллектуальной «развитости» видов.

С эволюционной точки зрения адаптационный «тест на IQ» пройден всеми живущими видами «на отлично», что подтверждается естественным отбором и самим фактом существования этих видов на Земле. С точки зрения эволюции и адаптации интеллект – ничтожный термин, не отражающий ровным счетом ничего о способностях вида решать «сложные» задачи, которые помогают ему выживать и продолжать род в естественной среде. В этом плане все живые организмы обладают интеллектом по шкале «адаптация и эволюция», уравнивающей интеллект всех живых организмов – если данный вид жив и процветает, значит, он успешно справляется со всеми своими актуальными задачами выживания и для каждой нашел эффективное решение. «Видовой шовинизм» – один из фундаментальных барьеров на пути к пониманию принципов как биологической эволюции, так и когнитивной.

Третий момент, на который стоит обратить внимание связан с тем, что представленные определения не вносят ясности – в чем отличие понятия «интеллект» от «сознания», и как оба связаны с поведением? Связан ли интеллект с адаптационным поведением, а если да, то каким образом? Насколько реалистично установить связь интеллекта с каждой формой и видом поведения прямо и однозначно? Возможно ли вообще ответить на этот вопрос, учитывая, что не существует конвенционального определения понятия «интеллект»? Также не разработаны критерии, которые позволили бы отделить адаптационное поведение из всех остальных форм и видов поведения живых организмов. Не установив однозначную связь интеллекта с поведением, невозможно установить – какое поведение относится к «интеллектуальному», а какое – лишено «интеллектуальности».

Согласно представленным определениям, интеллект – больше связан с решением неких «сложных», «новых», «нетривиальных» задач. Сознание же или когнитивная деятельность больше указывает на способность организма распознавать задачу, независимо от ее сложности, а также быстро и эффективно находить ее решение. В определенном смысле «интеллект» переносит акцент с распознания задачи на ее сложность и способность решения в кратчайшие сроки; сознание же сохраняет баланс между распознанием и решением, не связывая решение и «сложность задачи». В этой связи, возможно более подходящим названием для искусственного интеллекта, уровня человека было «сознание, уровня человека» или HLC – «human-like cognition».

Ожидания от результата

В итоге ИИ унаследовал множество нерешенных проблем из ключевых дисциплин, которые приняли участие в его создании и продолжают определять и ограничивать его развитие. Эти проблемы стали «родовыми проклятиями» ИИ, не позволяющими перейти на следующий уровень – ИИ, уровня человека. ИИ повторяет судьбу «спящей красавицы», достигнув своего совершеннолетия которая, заклятьем недоброй феи, погружается в вековой сон. Не имея конвенциональных, единых определений того, что такое интеллект человека, психика, какова архитектура сознания, мы, тем не менее, продолжаем предпринимать попытки создать искусственный интеллект, уровня человека (General AI).

При этом к настоящему отсутствуют ясные представления о том, в каком направлении следует развивать научную мысль и как выглядит конечный продукт, хотя бы в самых приблизительных очертаниях. Само «техническое задание» по созданию ИИ, уровня человека (или аналогичного человеческому) до сих пор не сформулировано. Какого именно человека? – Ребенка, взрослого, новорожденного? Что вообще означает формула «уровня человека» или «как у человека»? Ни в одной другой сфере такое «ТЗ» не будет рассмотрено всерьез: никто не согласится подписать договор на строительство дома «как у людей» и никто не купит билет на самолет с уровнем комфорта и безопасности «как у человека».

Но именно так звучит техническое задание, которое сами себе сформулировали разработчики «ИИ, аналогичного человеческому». С одной стороны, это позволяет работать в этом направлении бесконечно долго и осваивать гигантское финансирование, не опасаясь, что кто-то в ближайшее время придет требовать результат. С другой – снять с себя всю ответственность за качество итогового продукта. Такая расплывчатая формулировка конечного продукта – не более, чем бесхитростная уловка, чтобы скрыть очевидное: у нас нет понимания, что значит «ИИ уровня человека» и возможность не признаваться еще в большем «грехе» – у нас нет понимания том, что из себя представляет интеллект и сознание человека.

Это лишь примеры наиболее предварительных вопросов, на которые до сих пор не существует окончательных ответов. Может показаться, что эти вопросы слишком удалены от проблем ИИ и не связаны с непосредственно с созданием ИИ, уровня человека. В действительности, без ответа на них невозможно реконструировать архитектуру сознания человека, которая бы стала основной функционирования искусственного интеллекта, уровня человека или хотя бы – подобного человеческому.

Не преодолев подобные «родовые проклятия» когнитивных дисциплин, не получится выйти на новый уровень развития и создать «ИИ, уровня человека». Для этого перехода необходимо «разбудить» и «расколдовать» ИИ, ответив на вопросы – что именно мы хотим получить, что такое «интеллект» человека, какова архитектура сознания и каковы критерии того, что мы в итоге получили именно то, что планировали? Если мы ставим перед собой задачу перехода от «доразумного» ИИ (Narrow AI) к ИИ, аналогичного человеческому (General AI), то этих вопросов не избежать и придется найти ответы на каждый из них, вернувшись к базовым понятиям смежных дисциплин.

## Глава 3. Возможные пути преодоления барьеров к созданию AGI

Больше изолированных задач

«Никто в области ИИ не работает над тем, чтобы сделать машины сознательными, и никто не знает, с чего начать, и какое поведение требует наличия сознания» (Russell, 2019). На данный момент предлагается несколько генеральных подходов к созданию ИИ, уровня человека (General/ Strong AI). Одно из них – мультизадачный – предполагает увеличение числа задач, которые способен решать ИИ единовременно, а также увеличение скорости и производительности процессоров. Как предполагается, общая сумма множества отдельных специализированных задач, решаемых быстрым и мощным ИИ, в итоге, сможет имитировать ИИ, уровня человека.

Нейронный и биогенетический подход

Второй подход созданию к ИИ, уровня человека, условно – «нейрогенетический» – основан на реконструкции мозга человека и нейрогенетических механизмов. Согласно представлениям адептов данного подхода, если получится более детально изучить строение мозга, то возможно обнаружить в нем «сознание» (Nick Bostrom) и «паттерны распознания» (Ray Kurzweil). Реконструировав и перенеся их на искусственные носители, итоге, как предполагается, сможем получить желаемый ИИ, уровня человека.

Небиологические принципы работы сознания

Помимо двух указанных подходов, возможно также третий, который рассматривает архитектуру сознания как систему структурирования информационного поля для распознания значимых элементов и их значений для формирования соответствующего поведенческого решения с целью обеспечения средового благополучия – выживания и репродукции.

Всем живым организмам, от бактерий и простейших до приматов и человека, постоянно требуется распознавать значение происходящего в окружающей среде для того, чтобы иметь возможность своевременно и адекватно отреагировать.

Организмы в каждый момент времени способны отделить «значимое» от «остального» таким образом, чтобы поведенческое решение позволяло обеспечивать средовое благополучие (поддерживать, восстанавливать, соответствовать требованиям).

Каким же образом организмам удается структурировать информационное поле и конструировать свою картину мира так, чтобы выделять значимое и получать необходимые значения для принятия поведенческого решения в каждый момент времени? Для ответа на этот вопрос необходимо определить базовые структуры сознания, реконструировать небиологические принципы и когнитивно-коммуникативный функционал сознания. Объединение и синтез данных структур, принципов и функционала в единую систему, позволит получить модель архитектуры сознания и, в дальнейшем, перенести его на искусственные носители для создания ИИ, уровня человека.

Три подхода – какой верный?

Какой из этих трех подходов верный – покажет время; каждый имеет в своей основе здравые идеи, так же, как и фундаментальные ограничения и барьеры, преодолеть которые пока не удается.

Первый подход, основанный на увеличении числа задач, скорости и производительности, ограничен тем, что простое объединение элементов в сложных явлениях и процессах далеко не всегда приводит к образованию качественно нового феномена. В первую очередь это касается живой природы. Например, соединение химических элементов или даже готовых клеток не приводит к созданию единого живого организма в лабораторных условиях.

Также сомнительно, что сознание человека может быть составлено из множества способностей решать каждую специфическую задачу по отдельности. Надежды, что «количество перейдет в качество» настолько же беспочвенны, как попытка создать ИИ из смартфона, установив на него как можно больше разных программ. Смартфон не становится «умнее» и тем более «разумным» от увеличения числа установленных на нем приложений; это все тот же смартфон, лишенный сознания и интеллекта. Даже если удастся в какой-то момент установить программы на все случаи жизни, одна задача останется нерешенной – смартфон не сможет самостоятельно выбрать – какая из текущих задач является приоритетной. «Независимо от того, насколько функциональным становится ИИ, он по-прежнему является аналогом швейцарского армейского ножа по обработке информации – множество полезных инструментов, умело объединенных в одном, удобном для переноски устройстве» (Kaplan, 2016).

Тем не менее, такой подход до сих пор имеет своих сторонников со времен создания первых прототипов ИИ в 50-х, одержимых идеей создания «супер-мозга», который будет «быстрее, чем Эйнштейн» (Russell, 2019). Но если задачей было обогнать Эйнштейна по скорости мышления, то с ней справились уже давно и можно праздновать победу. Калькулятор решает арифметические задачи намного быстрее чем любой человек на Земле, компьютер обыгрывает любого чемпиона в шахматы, Го, покер. Эйнштейн проиграл бы в скорости и объеме «умственной» работы любому современному компьютеру. Как сообщается, у Эйнштейна была дислексия, и он испытывал трудности с чтением и письмом, он совершал грамматические ошибки, которые не допустил бы обычный Word в современном компьютере домохозяйки. Очевидно, современный компьютер выглядел бы на фоне Эйнштейна существенно выгоднее во многих аспектах. Но также очевидно другое – ни один компьютер не способен разработать теорию относительности, и вообще какую-либо значимую теорию в принципе.

Производительность и скорость компьютера сами по себе не могут быть основой для создания ИИ, уровня человека. Убогий алгоритм на мощном компьютере не становится лучше; «он просто совершает больше ошибок…» (Russell, 2019). Эйнштейн известен не тем, что быстро думал или решал много поставленных перед ним задач, а тем, что смог определить – в чем заключается ключевая задача и найти ее решение. Не нам судить, насколько это было быстро или медленно – Эйнштейн точно не участвовал в соревнованиях по скоростному созданию теории относительности. Его главная заслуга в том, что он определил и сформулировал – в чем проблема, и затем предложил ее успешное решение.

Второй подход, предлагающий реконструировать мозг и обнаружить «паттерны распознания», также не представляется продуктивным: «…когда кто-то читает в СМИ, что такая-то техника ИИ «работает точно так же, как человеческий мозг», можно заподозрить, что это либо просто чье-то предположение, либо просто вымысел» (Russell, 2019).

Вообще говоря, попытки обнаружить сознание и интеллект в мозге, аналогичны тому, чтобы искать «ходьбу» в ногах или «плаванье» в плавниках и ластах. Изучение строения мышц, связок, костей многое проясняет о механике и принципах перемещения, но сами ходьба или плаванье не дают ответ на вопрос – что именно приводит в движение механизмы, вызывает и контролирует перемещение, что меняет стиль, скорость, направление движения и т.п.

Кроме того, морфологически и структурно мозг уже достаточно изучен для того, чтобы утверждать, что никаких специализированных отдельных «паттернов распознания» мозг не содержит, как бы на этом ни настаивал автор этого подхода – писатель и футуролог Рой Курцвейл (Kurzweil, 2013). Если «паттерны распознания» и существуют, то искать их надо не в мозге, как биологической структуре, а в когнитивном функционале, который обслуживается в том числе мозгом у тех видов, которые оснастились нервной системой и мозгом в ходе эволюции. Но сама способность распознания и принятия решения присуща без исключения всем живым организмам, в том числе и те, кто не обладает мозгом, нервной системой, специализированными сенсорными органами. Например, грибы, растения, бактерии и вирусы. Даже LUCA, что бы он ни представлял собой, должен был быть способен распознавать источники энергии от остального мира, а также самого себя от окружающего мира.

Поэтому ответы скорее находятся не в биогенетических структурах, а в небиологических принципах функционирования когнитивной деятельности и архитектуре сознания как системе структурирования информационного поля для выработки наиболее адекватного поведенческого решения.

В большинстве случаев, с которыми имеет дело ИИ в настоящее время, вопрос отделения «значимых данных (информации) от остальных» решается с помощью предустановленных алгоритмов на основании четко заданных критериев. Например, отсев поисковых запросов, имеющих маркетинговое значение, сортировка маркетинговых запросов по различным основаниям и т.п. Решению установленной заранее узкоспециализированной задаче подчинены сложные алгоритмы, нейросети, deep learning и общее повышение производительности. ИИ выбирает и сортирует информацию, релевантную заранее заявленным условиям и поставленной перед ним задачи. Все действия с информацией, которые будет выполнять ИИ, определяются только той задачей, которую установили разработчики.

В отличие от ИИ, жизнь и процветание любого вида живых организмов основаны в первую очередь – на распознании задачи во всем множестве элементов окружающей среды, и во вторую – на решении распознанных задач. Неспособность к распознанию и решению задач означает смерть организма и, в итоге, приводит к вымиранию всего вида в целом. Если «паттерны распознания» (и принятия решения) и существуют, то их источник не мозг или нервная система, а сознание, и ответ надо искать в архитектуре сознания, а не в биологических носителях. Мозг и нервная система – частный случай таких носителей, но не единственный носитель и источник. Так же как ноги, лапы, ласты, плавники, крылья – не источник перемещения, а лишь видовые способы реализации перемещения.

Архитектура сознания: основные тезисы и понятия

Наиболее перспективным направлением в создании ИИ, уровня человека, представляется путь, обозначенный еще Норбертом Винером – посредством реконструкции принципов функционирования сознания и построения архитектуры и базовых когнитивно-поведенческих структур, управляющими процессом распознания элементов окружающего мира, извлечения их значений и переводом полученных значений в поведенческие решения – изменение поведения.

Подход к реконструкции модели архитектуры сознания человека, представленной в данной работе, исходит из эволюционной природы сознания, основная функция которого – управление адаптационным поведениям. Эта функция присущая всем без исключения живым организмам на Земле, сформировалась и развивалась под давлением естественного отбора и решением задач адаптации и средового благополучия – обеспечение энергией, безопасности, репродукции.

Для того, чтобы человек или любой другой организм был способен поддерживать свое средовое благополучие, ему необходимо распознавать те элементы, которые его нарушают и/или его обеспечивают, и на основании полученных значений вырабатывать соответствующее поведенческое решение – изменение поведения для восстановления средового благополучия или соответствия его требованиям.

Сознание – адаптационный функционал, управляющий поведением организма и решением базовых задач выживания: получения энергии, обеспечения безопасности, репродукции. Когнитивная деятельность организма управляет распознанием и извлечением значений элементов окружающей среды (или информационного поля) и выбором наиболее адекватного поведенческого решения – изменения поведения.

Основу модели архитектуры сознания составляют пять базовых когнитивно-поведенческих структур, сформировавшихся в ходе эволюции жизни на Земле под давлением естественного отбора и необходимости адаптивно реагировать на изменения в окружающей среде и обеспечивать свое средовое благополучие, решая задачи выживания и репродукции.

Модель представляет архитектуру сознания в виде 5 базовых когнитивно-поведенческих паттернов, управляющих и контролирующих распознание элементов информационного поля, коммуникацию их значений в центр принятия решения и выбор наиболее адекватного поведенческого решения для данной задачи в любой момент времени.

В данном случае речь идет не о биологических принципах, паттернах и структурах, а о ментальной или виртуальной архитектуре, позволяющей сознанию структурировать окружающую реальность и распознавать именно те элементы информационного поля, которые позволяют принять верное поведенческое решение в каждый момент времени.

Организующий принцип, заложенный в основу модели 5 базовых когнитивно-поведенческих структур (когнитивных карт, паттернов, контроллеров, потенциала), определяет домены информационного поля, состоящие из элементов, которые имеют значение для принятия организмом наиболее адекватного поведенческого решения в каждый момент времени.

Все множество элементов информационного поля (включая их значения), способных вызвать у живых организмов изменения поведения и принуждающих организмы активировать поведенческие решения, составляет 5 самостоятельных доменов: 1) Среда и ее фрагменты; 2) Отдельные свободноподвижные объекты (феномены, элементы) дистанционно; 3) Контекст; 4) Групповая динамика; 5) Символы (формализованные символьные и знаковые системы, абстрактные концепции).

При этом каждый и любой элемент информационного поля, имеющий значение для жизни организмов и способный вызывать изменение поведения, принадлежит одному из 5 базовых доменов.

Все живые организмы оснащены базовыми когнитивными картами – от 1 до 5 – позволяющие организмам распознавать значения элементов, соответствующих пяти общих доменов информационного поля. Каждому домену информационного поля соответствует когнитивная карта, общая и универсальная для данной группы видов.

Значения элементов информационного поля, принадлежащие данному домену, распознаются соответствующей универсальной когнитивной картой. Полученные значения элементов информационного поля активируют соответствующие универсальные поведенческие решения – изменения поведения, с помощью базового когнитивно-поведенческого контроллера – управляющей структура, связывающая значение и поведенческое решение.

Базовые когнитивно-поведенческие контроллеры осуществляют передачу (коммуникацию) распознанного значения данного элемента и выбором поведенческого решения – изменения поведения – локализации/ локомоции и взаимодействия – для решения задач средового благополучия. Когнитивно-поведенческие контроллеры представляют собой виртуальные «органы», управляющие способностью организма распознавать задачи и активировать наиболее адекватное поведенческое решение для обеспечения средового благополучия.

Таким образом каждому общему домену информационного поля соответствует определенная универсальная когнитивная карта, универсальное поведенческое решение (базовый паттерн изменения поведения), а также базовый когнитивно-поведенческий контроллер, управляющий коммуникацией значения в изменение поведения.

Все живые организмы, существующие на Земле или когда либо существовавшие ранее в истории жизни на Земле, составляют 5 основных групп видов по числу базовых когнитивно-поведенческих структур: общих доменов информационного поля, вызывающих изменения поведения; универсальных когнитивных карт; соответствующему числу базовых поведенческих решений (паттернов изменения поведения); и когнитивно-поведенческих контроллеров, управляющих распознанием значений и коммуникацией этого значения в изменение поведения.

Функция сознания или когнитивной деятельности в представленной модели – это коммуникация распознанного значения в изменение поведения для контроля и управления средовым благополучием – обеспечение энергией, безопасности, возможности для репродукции. Вообще говоря, сознание и есть – коммуникация значения в изменение поведения. Каждый живой организм представляет собой устойчивую когнитивно-поведенческую систему, способную к обеспечению своего средового благополучия и репродукции.

Каждая новая базовая когнитивно-поведенческая структура активирует для данной группы организмов новый когнитивно-поведенческий потенциал, необходимый и достаточный для выделения и распознания таких элементов из всего информационного поля, которые позволяю организму принимать поведенческие решения, требуемые для выживания и репродукции.

Далее в работе будет представлена методика, с помощью которой получены результаты и установлены 5 базовых когнитивно-поведенческих структур, которые включают:

– 5 универсальных (базовых) доменов информационного поля, включающие соответствующие пять категорий элементов среды и их значений, на которые живые организмы способны и обязаны реагировать поведенческим решением – изменением поведения.

– 5 базовых поведенческих решений и паттернов изменения поведения, которые активируются элементами и их значениями и позволяют решать задачи средового благополучия.

– 5 универсальных контроллеров средового благополучия, управляющих распознанием значения данного элемента информационного поля и его дальнейшей коммуникацией в центр принятия поведенческого решения – изменения поведения.

– 5 базовых универсальных когнитивных карт, позволяющие организмам распознавать элементы и их значения, принадлежащие соответствующим доменам информационного поля.

– 5 типов когнитивно-поведенческого потенциала, которыми оснащены группы видов, обладающим соответствующими набором базовых контроллеров и паттернов изменения поведения.


Также будут рассмотрены теоретические вопросы, связанные с разработкой представленной модели архитектуры сознания. В том числе; основные проблемы ИИ и перехода к General/ Strong AI, сознание человека и сознание у животных, эволюция сознания и когнитивно-поведенческих паттернов, эволюция сознания и эволюция психики, основные треки и переходы в эволюции сознания, эволюция и естественный отбор, когнитивно-поведенческое пространство организмов и человека, сознания и интеллект, распознание значений и когнитивные карты, поведение и изменение поведения, когнитивно-поведенческие паттерны и инстинкты, контроллеры, коммуникация и поведенческие решения и др.

Представленная в данной работе модель архитектуры сознания позволяет раскрыть организующие принципы, позволяющие сознанию структурировать окружающий мир и упорядочивать информационное поле таким образом, чтобы в каждый момент быть способным определять элементы окружающей среды, которые имеют значение и требуют поведенческого решения в данный момент.

## Глава 4. Сознание и искусственный интеллект

В свое время Ирвин Мински – один из основоположников и создателей ИИ – высказался следующим образом: «вообще говоря, меньше всего мы знаем о том, что наш разум делает лучше всего» (Minsky, 1988; цитата по Mitchell, 2019). Если бы проходил конкурс по подбору лучшего эпиграфа к истории развития ИИ, то более подходящей цитаты, пожалуй, не найти. Высказывание Мински наиболее точно маркирует ключевую проблему в переходе к ИИ уровня человека и указывает на главное «родовое проклятие» ИИ – отсутствие понимания того, что собой представляет сознание человека и необходимость восполнить пробел в этой сфере.

В действительности мы точно и однозначно можем сказать, что именно наш разум делает лучше всего. Эволюция и естественный отбор дают исчерпывающий ответ: лучшее, на что способен наш разум или сознание – это распознавать наиболее актуальную задачу в каждый момент времени и находить для нее наиболее адекватное решение. Те, кто не справляется с одной из двух частей этого упражнения – теряют в своих адаптационных возможностях и откатываются по иерархической лестнице ниже тех, кто способен быстрее и точнее определять задачу и находить эффективное решение за более короткий промежуток времени.

Интеллект, разум или сознание – самой природой, эволюцией и естественным отбором сформированы для того, чтобы человек и вообще любой организм, начиная с LUCA, имел возможность распознавать и выбирать. Все живые организмы без исключения обладают способностью распознания и выбора; это – главная функция не только сознания человека, но вообще любого живого существа. Без нее организм и вид в целом не способен выжить – естественный отбор безжалостно и беспристрастно отсеивает всех, кто не преуспел в этой сфере и позволил себе ошибиться.

Если объект обладает способностью распознавать наиболее актуальную задачу в каждый момент времени и выбирать наиболее адекватное решение для ее решения с целью обеспечения средового благополучия – значит, данный объект обладает сознанием. Если при этом объект способен к репродукции – это живой биологический объект, обладающий сознанием.

Верно и обратное утверждение – чтобы выжить и репродуцировать, любой организм должен быть способен в каждый момент времени распознать наиболее актуальную задачу и определить ее значение – что именно представляет собой данная задача и выбрать наиболее адекватное поведенческое решение.

В 1976 году Аллен Нюэлл и Герберт Саймон выдвинули гипотезу о физической символьной системе (Newell&Simon, 1972), которая позволяет живым организмам, человеку и машинам оперировать значениями, то есть выполнять символьные вычисления для выработки решения и/или итогового поведения (Russell&Norvig, 2010). Этот принцип они предложили в качестве основы для моделирования рассуждения человека и создания ИИ, уровня человека («Strong AI»).

В свою очередь, гипотеза Нюэлла-Саймона стала результатом программы General Problem Solver (GPS), разработанную ранее в 1959 году Саймоном. Эта гипотеза имеет сразу несколько важных следствий. Первое, она подразумевает что когнитивными способностями обладает не только человек, но и все живое на Земле, поскольку решение принимается на основе символьных вычислений. Второе – мозг не является обязательным и единственным источником когнитивной деятельности, поскольку решения могут и должны принимать также и те организмы, которые не обладают мозгом и нервной системой вовсе. Третье – когнитивная деятельность и интеллект могу быть воплощены на искусственных носителях, если удастся реализовать базовые принципы поиска решений организмами.

Однако есть один момент, который не в полной мере оказался охваченным гипотезой Нюэлла-Саймона, хотя определенным образом указывает на него. Прежде чем организм сможет перейти к поиску решения задачи, он должен распознать саму задачу и вычленить ее из всего информационного поля. Решение задачи требует от организма (или машины) не только символьных вычислений, но и распознания значений этих символов и определения того, что именно в данный момент времени составляет задачу, требующей поведенческого решения. Для этого организму требуется из всего множества элементов информационного поля в каждый момент времени быть способным определить именно те элементы и их значения, которые связаны с наиболее актуальной и приоритетной задачей и выбрать наиболее адекватное решение из имеющегося поведенческого арсенала.

Искусственный интеллект, уровня человека, должен обладать подобным функционалом распознавать и предвосхищать. Нильс Нильсон – один из основоположников ИИ – сформулировал это следующим образом: «искусственный интеллект – это деятельность, направленная на то, чтобы сделать машины разумными, а интеллект – это то качество, которое позволяет объекту предвосхищать события и функционировать должным образом в среде» (Nilsson, 2010; перевод цитаты – С.Ф.)

Сознание. Распознание

Любой организм, в любом возрасте, на любой стадии развития – от зачатия до самой смерти, характеризуется способностью распознавать и совершать выбор поведенческого решения для своей локализации и взаимодействия с элементами среды.

Сознание (cognition) и когнитивная деятельность проявляют себя там, где живой организм сталкивается с задачей благополучия, выживания и продолжения рода. Никакая задача не может быть распознана и решена без участия сознания и когнитивной деятельности. Если возникает задача и она находится в процессе решения, значит – организм активировал сознание и когнитивную деятельность. Даже если решение было найдено «случайно», сама задача должна была быть распознана в качестве ситуации, требующей действия. Распознание проблем и задач требуется всем живым организмам без исключения, значит когнитивная деятельность – неотъемлемый и ключевой функционал всего живого на Земле, позволяющий организмам обеспечивать свое средовое благополучие и возможность к репродукции.

«Понятие «сознание» относится к механизмам, с помощью которых животные воспринимают, обрабатывают, хранят информацию об окружающей среде, и на основе которой они формируют свое поведение, включая перцепцию, обучение, память и принятие решения» (Shettleworth, 2010).

Как демонстрируют многочисленные исследования, с задачами распознания и интерпретации справляются даже простейшие организмы – бактерии и археи, безошибочно выбирая верное направление движения в сторону благоприятной среды и активируя наиболее адекватное поведение. Несмотря на то, что они не обладают мозгом, нервной системой и даже ядром, задача распознания среды и верного направления, а также выбора наиболее адекватного поведения решается вариативно, безошибочно и своевременно.

Например, в классических опытах Герберта Спенсера Дженнингса (Jennings, 1987, 1906, 1910) инфузория Stentor roeselii уклоняется от кармина до тех пор, пока его концентрация не становится непереносимой. Затем инфузория принимает решение о смене локализации и уплывает. При этом «опытные» инфузории не тратят время на бесполезные попытки уклониться или отбиться от кармина, а сразу предпринимают решительные действия для своего благополучия. Их поведение отличается от поведения тех инфузорий, которые попадали в подобную ситуацию впервые и не обладали подобным опытом.

Слизевики физарум (Physarum polycephalum) способны распознавать питательные вещества за преградой из несъедобного и нежелательного вещества (например, хинина). После некоторых неудачных попыток получить еду в обход, слизевик принимает решение пробираться сквозь враждебную преграду. Простейшее готово временно пожертвовать своим благополучием и терпеть нежелательные обстоятельства ради того, чтобы достичь своей цели и, в итоге – получить желаемое (Beekman&Latty, 2015).

Поведение простейших указывает на то, что прежде, чем произойдет активации поведения, происходит оценка возможных вариантов и выбор между альтернативными поведенческими решениями – оставаться, ждать, терпеть, уклоняться, преодолевать или убегать… Подобное поведение, основанное на распознании, оценке и принятии решения демонстрируют без исключения все живые организмы на земле – от архей и бактерий, до приматов и человека, включая растения и грибы.

Разумеется, семена растения, кокон или яйцо сами по себе не могут существенно изменить локализацию в пространстве и активно взаимодействовать с внешним миром так же, как это способны делать животные или насекомые. Тем не менее, семена растений и споры грибов способны перемещаться, используя других животных и насекомых, а некоторые виды – самостоятельно углубляться в почву при определенных условиях. Бактерии, личинки и зародыши ежемоментно осуществляют распознание наличия или отсутствие питательных веществ, отличают их от нейтральных или токсичных, распознают условия окружающей среды, совершают выбор реакции и поведения, например усвоение и перераспределение веществ в соответствующие отделы, принимают решение расти дальше или замедлять рост и т.п. Практические во всех основных таксонах – от простейших до млекопитающих зарегистрирована способность организмов «отменять» или откладывать репродукцию, если условия среды недостаточно благоприятны и отложить воспроизводство до «лучших времен». Медузы могут без проблем пропустить несколько сезонов пока условия жизни не будут соответствовать их требованиям. Бактерии же способны отложить репродукцию или «законсервировать» себя на несколько десятков или даже сотен миллионов лет.