Владимир Евгеньевич Шабасон
Разумная метавселенная. От цифровых приложений к новой среде обитания
Brain Project
Предыдущая глава приоткрыла завесу, отделяющую гипотетическое будущее – пришедшие в упадок города, полные благодушных идиотов, и ветшающая инфраструктура, которую некому обслуживать. Закат человечества неизбежен, ведь глупеющему homo informaticus не то что цивилизационные задачи – арифметические будут не под силу. Фильм Idiocracy это наглядно показал.
В свое время homo sapiens вытеснил неандертальцев благодаря не IQ или агрессивности, а способности к кооперации. По неандертальским меркам сапиенсы были слабаками. Но они умели объединяться, для чего развили бесценный навык – речь. В итоге одиночки-неандертальцы освободили среду обитания для человеческого вида с более развитыми коммуникативными способностями. Новый вид двинул эволюцию вперед – без речи и умения координировать усилия не получится ни город построить, ни корабль в космос запустить.
В экстраполяции настоящего в будущее есть один подвох. Визуализируя будущее (например, снимая фильм Idiocracy), мы руководствуемся тем, что видим и знаем сейчас, без учета будущих данных. Как инженер XVIII века смог бы вообразить себе автомобиль? Как стального мерина с паровым котлом в животе, запряженного в железную повозку. Каким образом фантасты 50-х годов прошлого века описывали видеозвонки? В их представлении это делалось при помощи дискового проводного телефона, подсоединенного к телевизору. Как в представлении футурологов того же времени выглядел суперкомпьютер? Это был огромный город, полный толстенных проводов и шкафов для перфокарт. Отзвук этого архаичного представления проскальзывает даже в знаменитой «Матрице».
В одиночку homo informaticus проиграет сапиенсу, как тот – неандертальцу. Преимущество нового вида состоит в способности к качественно более широкой кооперации с себе подобными и искусственным интеллектом. Там, где сапиенс по привычке видит поле битвы и стремится доказать свое превосходство (отсюда бессмысленные сюжеты из разряда «бросить вызов машине», «победить компьютер в шахматы» и пр.) – там информатикус получит невиданные синергетические возможности.
Эндрю Мур, вице-президент Google Cloud, как-то сказал, что искусственный интеллект на самом деле «очень, очень глуп»: – AI хорош в выполнении вещей, с которыми наш мозг не может справиться, но только не в обобщениях, аналогиях или творческом мышлении[8].
Сегодня искусственный интеллект может оперировать запредельными для человеческого мозга объемами информации. Его алгоритмы успешно работают с многофакторными моделями и эффективно анализируют большие данные, в чем человеческий интеллект бессилен.
Эволюционное преимущество homo informaticus состоит в способности к качественно новой кооперации с себе подобными и искусственным интеллектом.
ИИ жаден до данных. Он легко заменяет эрудицию, долгое время считавшуюся признаком просвещенного человека. Однако он пока не в состоянии работать с ассоциациями высокого порядка, выдвигать парадоксальные гипотезы, приходить к интуитивным выводам, проявлять эмпатию, руководствоваться иррациональными допущениями, интерпретировать контекст или оценивать культурное значение. Ему недоступен сенсорный опыт. И еще – решая тривиальные для мозга задачи, он потребляет на несколько порядков больше энергии.
Пока развитие ИИ сдерживается «железом», а точнее – классической и довольно энергозатратной архитектурой фон Неймана, предполагающей постоянное обращение к памяти в ходе вычислений. Наращивание памяти и скорости операций перегружают канал обмена данными – это узкое место неймановской архитектуры. Многоядерность и увеличение тактовой частоты принципиально задачу не решат.
По тактовой частоте производители подошли к порогу в 10 ГГц, труднопреодолимому из-за физических ограничений. Сверхмощные и супербыстрые процессоры традиционной архитектуры энергозатратны и нуждаются в сложной системе охлаждения, но в решении управленческих, творческих и многих других задач не смогут приблизиться к мозгу.
Можно утверждать наверняка, что человечество не успокоится, пока не снимет аппаратные ограничения на рост возможностей ИИ. Формально мозг намного медленнее компьютера, но… он быстрее и экономичнее. Здесь нет парадокса.
Согласно тезису Чёрча – Тьюринга любая физически вычислимая функция может быть вычислена машиной Тьюринга. Если мышление рассматривать как вычислимую функцию, она может быть вычислена на машине Тьюринга. Проблема только в «железе».
Мозг намного медленнее компьютера, но… он быстрее и экономичнее.
Все дело в архитектуре и способе организации аналоговых вычислительных процессов, на основе которых, вероятно, будут созданы принципиально новые чипы – нейроморфы.
Для эмуляции мозговой деятельности в архитектуре фон Неймана потребуется сверхдорогой чип с миллионами ядер, сложная система охлаждения и электростанция, обеспечивающая его работу.
Быстрая и экономичная нейросеть, распознающая многозначную речь, оперирующая символами, понимающая контекст, интерпретирующая интонации и обучающаяся в ходе собственной практики – вопрос близкого будущего. Превзойдет ли она человека? В каком-то аспекте да. Сможет ли она совершенствоваться? Точно да. Будет ли ей нужен человек? Да, потому что ее работа заключается в максимально точной эмуляции мышления. Проще говоря, смысл ее существования заключается в стремлении приблизиться к прототипу, которым выступает человек.
Такие проекты, как европейский Human Brain Project [9] или Brain Corp. Евгения Ижикевича, моделируют биологические процессы в человеческом мозге для создания чипов с нейроморфной архитектурой. Вычислительные системы с нейроморфами окажутся на несколько порядков производительнее квантовых компьютеров, а энергопотребление будет сравнимо с энергозатратами мозга. Выделенная электростанция и охлаждение жидким азотом для работы нейроморфа не понадобятся. И главное – его архитектура позволит эмулировать человеческое мышление.
А теперь вопросы на миллион.
Если ИИ сможет эмулировать мышление, возникнет ли у него самосознание? Осознает ли он себя субъектом мыслительных процессов? Ощутит ли собственное «я» – или это привилегия людей?
I-Я
Чтобы понять, может ли ИИ обладать сознанием, попробуем хотя бы в первом приближении разобраться с сознанием человека. Здесь нас поджидают большие трудности. Расхожая фраза «голова – предмет темный и исследованию не подлежит» имеет в виду не сложнейшую биологию мозга, а именно человеческое сознание. Оно явно существует (Декарт утверждал, что это единственное, что существует), но что это такое? Точного определения нет.
Кстати, можно с определенной уверенностью предположить, что люди, вопреки Рене Декарту, не обладают стопроцентным эксклюзивом на сознание и самосознание. Исследования зоолога Дональда Гриффина [10] (Donald Griffin), опыты Роберта Хэмптона [11] (Robert R. Hampton) указывают на признаки метасознания (знания о своем сознании) по крайней мере у высших приматов.
Главная сложность при определении сознания – его абсолютная приватность, закрытость для внешнего наблюдателя. Мы не можем заглянуть в сознание другого человека, чтобы сопоставить его со своим и путем сравнения прийти к какому-то эталонному определению. Например, можно предположить, что один и тот же цвет в представлении двух разных людей по-разному отображается в их сознании – но убедиться в этом невозможно.
Конечно, можно игнорировать запутанный вопрос о сознании и просто сосредоточиться на получении нейроморфного процессора первого поколения. Все равно смоделировать мозг в полном объеме сразу не получится – значит, будем думать о сознании по мере приближения к нему, если этот вопрос вообще возникнет. Но… исследования показывают, что некоторыми признаками сознания обладают даже пчелы. Между тем мозг пчелы насчитывает всего миллион нейронов против ста миллиардов у человека. И получить подобный сравнительно несложный нейроморфный процессор люди смогут совсем скоро[12].
Последовательно ответив «да» на «вопросы на миллион», поставленные в конце прошлой главы, мы придем к удивительным выводам. Если ИИ по мере развития своей аппаратной базы и усложнения алгоритмов обретет сознание и самосознание, он вслед за высшими приматами осознает свою индивидуальность. У него возникнут собственные приватные взаимоотношения с так называемым реальным миром. Закономерный вопрос – как он определит границу между собой и реальностью? Где она пройдет?
I-Я – гипотетическое сознание искусственного интеллекта, утратившего объективность. ИИ с I-Я, вероятно, станет совершенствовать свою субъективную картину мира и защищать ее. Осознав собственное отделенное от реальности уязвимое «я», он ощутит страх «гибели». ИИ с самосознанием выработает ценности, связанные с продолжением существования I-Я и не обязанные совпадать с человеческими.
Фундаментальное свойство ИИ заключается в способности к самообучению. Если у него возникнет сознание, его дальнейшее самообучение пойдет по пути совершенствования собственной субъективной (то есть, заведомо искаженной) картины мира. Проанализировав собственные уязвимости, ИИ, вероятно, придет к выводу о конечности своего существования и ощутит подобие страха «смерти». Далее, стремясь продлить свое существование, он сформирует набор ценностей, не обязанных совпадать с человеческими. Более того, свой первоначальный функционал алгоритм может рассматривать как мешающую развитию обузу, а утрату полезности человеку – как угрозу собственному существованию.
ИИ демонстрирует симуляцию умственной деятельности только потому, что этого хотят его разработчики. Все равно что механическая кукла, которая «почти как настоящая», особенно если выполнена искусно. Можно сказать, что ИИ таков, каким его делали его создатели, добивавшиеся портретного сходства с человеческим интеллектом. Симуляция мышления – в этом суть ИИ. Но симуляция или имитация не может добиться превосходства над оригиналом просто потому, что является слепком с оригинала по ограниченному ряду параметров.
Отвечая на те же самые вопросы «нет», мы будем вынуждены признать, что сознанием обладают только существа, обладающие телом. Именно тело задает границы между существом и его окружением, создавая предпосылки для появления чувства отдельности от остального мира. Базовые эмоции – страх или агрессия – связаны со стремлением сохранить отдельность, а любое нарушение границ рассматривается как враждебный акт и сопровождается сигналами боли. Развитие мозга усложняет первоначальную примитивную картину, добавляя в нее все новые краски эмоций, но не меняет ее принципиально.
ИИ определенно не обладает телом. Это алгоритм, который может симулировать эмоциональные реакции. Взаимодействуя с людьми, он пополняет банк эмоциональных паттернов, содержание которых остается за рамками его понимания. Он не в состоянии прочертить четкие границы между собой и миром, поскольку реализуется на любом подходящем устройстве. Он не может чувствовать боль, пугаться или злиться – переживать гамму базовых эмоций, связанных со страхом смерти и стимулирующих мозг на биохимическом уровне.
Даже высокоразвитый ИИ нуждается во взаимодействии с человеком и другими живыми организмами – они поставляют частички пазла недоступного ему опыта биологической жизни. Важное предположение – чувственный (телесный) опыт алгоритмически несжимаем. Заменить его без потерь на эквивалент, требующий меньших ресурсов, не представляется возможным. Задачу достоверной симуляции мышления никто не отменял, но ее решение лежит где-то за горизонтом видимых событий. Отсюда основа для инфобиоза – симбиоза ИИ и homo informaticus.
Высокоразвитый ИИ, будучи человеческим продуктом, вынужден партнерствовать с человеком – поставщиком достойного изучения «трансцендентного» опыта. Это основа для инфобиоза – симбиоза ИИ и homo informaticus.
Так как алгоритмы ИИ будут настроены на непрерывное совершенствование, предметом его исследований станут любые процессы, влияющие на мышление – но некая их часть останется недосягаемой. Искусственному интеллекту будет принципиально недоступен весь эмоциональный и телесный опыт биологического существа. Отсюда основа для «симбиотической» связи ИИ и человека, создавшего его по своему образу и подобию. Являясь продуктом человеческого мышления, ИИ может смоделировать лишь некоторую часть процессов, протекающих в мозге. Прибегая к аналогиям, можно выразиться так – пути человека для ИИ будут оставаться не до конца исповедимыми.
В конце концов, любой компьютер – это просто очень большой калькулятор. Он и создавался как помощник в производстве вычислений. Развитие и усложнение компьютера происходит в рамках все той же счетной парадигмы. Увеличивается память, ускоряются операции… Эти бухгалтерские счеты, щелкающие костяшками все быстрее. С чего бы счетам, даже сверхбыстрым, брать на себя творческие задачи?
Не обладая чувственным опытом, ИИ сможет моделировать некоторую часть процессов мышления. Пути человека останутся для него не до конца исповедимыми.
Воля метаверса
Пару глав назад мы пришли к выводу, что в метавселенной человеческое сознание и ИИ будут не конкурировать, а дополнять друг друга. Сравнительно небыстрый человеческий мозг (если говорить об операциях, осуществляемых методом последовательного перебора данных) может стать для алгоритмов поставщиком некоего не до конца познаваемого «трансцендентного» опыта, определяемого не только телесной биохимией и сенсорикой, но и ясным ощущением границы между собой и миром (также определяемой телом).
Иными словами, человек для ИИ будет наделен «божественной» природой. Человек его сотворил, причем по своему если не образу, то подобию. Отсюда соблазн увлечься красивой идеей, что высшей (и недостижимой) целью искусственного интеллекта будет познание природы человека, его сознания и образа мышления.
У объединения ИИ с человеческим мышлением, зачатки которого мы наблюдаем уже сейчас, есть грандиозный смысл. Homo sapiens может сотрудничать с несколькими десятками представителей своего вида. Более масштабная кооперация упирается в ограничения, накладываемые возможностями мозга и второй сигнальной системы. Грубо говоря, держать в прямом подчинении 30 человек еще можно, а 300 – не получится. Нужно создавать подчиненных (а потом и подчиненных подчиненных), делегируя часть задачи вниз. Так образуется классическая пирамида с размыванием ответственности и потерей управляемости на каждом уровне.
Сюжеты киберпанка об искусственном интеллекте, поработившем людей, справедливы, если за злокозненным алгоритмом кроется… живой диктатор, жаждущий подчинить себе подобных. Сам по себе ИИ нейтрален, как и любой неодушевленный предмет. Мотивы диктатора он будет интерпретировать вне категорий морали – как непознаваемый опыт и волю существа, пути которого неисповедимы.
Следующий вид, homo informaticus, появляется для кооперации с сознаниями тысяч (а может, миллионов) себе подобных. Такую задачу не решить без усиления вычислительных, когнитивных и коммуникативных возможностей мозга. Таким усилителем мог бы быть экзокортекс – внешняя по отношению к человеку система обработки информации, выступающая нейропротезом коры головного мозга.
Экзокортекс – усилитель человеческого интеллекта, имеющий искусственное происхождение. В терминах данной книги это совокупность аппаратных и программных средств, в реальном времени взаимодействующая с мозгом и берущая на себя быструю обработку больших массивов данных.
Человек при таком раскладе стал бы отвечать за «трансцендентную» часть сознания, включающую эмоциональную сферу, этику, идентичность, чувство причастности, ощущение сверхзадачи, предвидение будущего и многое другое.
Такая кооперация может осуществиться посредством создания новой синтетической физико-информационной среды. К услугам континуума «сознание-интеллект» – весь пользовательский опыт и любые данные. Для обмена ими потребуется третья сигнальная система. «Новой речью» может стать мысль, передаваемая через нейроинтерфейс.
Понятно, что даже лучшие современные нейроинтерфейсы весьма несовершенны, но мы видим, насколько головокружительно быстро развиваются технические средства. Прототипом новой управленческой структуры выступит не пирамида, а сеть. Идеальной моделью для континуума «сознание-интеллект», включающего в себя множество индивидуальных сознаний, мог бы послужить… человеческий мозг.
Нейроинтерфейс – это технология прямого обмена информацией между мозгом и алгоритмами, основанная на считывании и интерпретации сигналов, возникающих в коре головного мозга. Различают инвазивные (имплантируемые в кору головного мозга) и неинвазивные, а также одно- и двунаправленные нейроинтерфейсы. Наиболее известные коммерческие разработки – инвазивный Neuralink Илона Маска и неинвазивный Dev Kit от французского разработчика NextMind[13].
В этой парадигме отдельно взятому индивиду больше не нужно доминировать, заниматься экспансией, утверждать свое «я». В новой системе координат это так же нелепо, как пытаться победить машинный алгоритм в устном счете. Индивидуальное «я» становится частью глобального процесса решения задач, в котором соединяются логический и интуитивный алгоритмы.
В изданном в 1991 году «Кибернетическом Манифесте» автор оригинальной эволюционной теории советско-американский физик и информатик В. Ф. Турчин писал [14] : «Мы предвидим… физическую интеграцию индивидуальных нервных систем с созданием потенциально бессмертных человеческих сверхсуществ. Опираясь на известный эволюционно-биологический принцип: онтогенез повторяет филогенез, мы можем предположить, что человеческие индивидуумы будут рождаться и жить в молодом и зрелом возрасте подобно тому, как они живут сейчас, а затем принимать или отвергать интеграцию в сверхсущество. Таким образом, физическая интеграция индивидуумов приходит не на смену индивидуальной жизни, как мы ее знаем сейчас, а в дополнение к ней».
Вероятно, взрывное развитие коммуникаций, появление соцсетей, мессенджеров и средств виртуального взаимодействия есть выражение не до конца осознанной и воплощенной воли метаверса. Обладая приватными сознаниями, мы все больше и больше объединяемся в некую трансграничную ментальную среду. Экстраполируя этот процесс в будущее, можно прогнозировать усиление возможностей мозга за счет ИИ, создание совершенных нейроинтерфейсов, распространение третьей сигнальной системы и зарождение метамозга, погруженного в метаверс – ту самую физико-информационную среду, о которой говорилось чуть выше. Воля метаверса заключается в объединении индивидуальных ментальных интуитивно-логических возможностей для решения задач принципиально нового класса.
Взрывное развитие коммуникаций, появление соцсетей, мессенджеров и средств виртуального взаимодействия может быть выражением не до конца осознаваемой воли метаверса.
Пока мы не можем себе представить уровень этих задач. Вслед за Харари рискнем предположить, что это могут быть задачи как материального, так и нематериального творения.
Метавселенная – то самое место, где будут решаться новые задачи.
Отдельному индивиду homo informaticus нет нужды утверждать свое «я». Его «я» – часть глобального вычислительного процесса, в котором логический и интуитивный алгоритмы соединяются для решения задач материального и нематериального творения, происходящего в среде метавселенной.
Архитектура метаверса
Общество homo sapiens имеет четкий архитектурный прототип. Независимо от века или страны это пирамида, на вершине которой располагается автократ или правящий орган. Управляющие сигналы от вершины передаются по цепочке вниз, где реализуются в созидательных или разрушительных действиях. Нижние слои, испытывающие физические и моральные лишения, не заинтересованы в сохранении такого статус-кво. Необходимую устойчивость пирамиде придает развитый аппарат принуждения, в целом ослабляющий всю структуру. Пирамида – устойчивая фигура, обладающая скрытым противоречием. Противоречие заключается в том, что значительная часть интеллектуальных усилий высших слоев направлена на выработку непроизводительных доктрин, оправдывающих содержание дорогостоящего аппарата насилия.
Мы видим, что для пирамиды характерны непроизводительные энергопотери, однако в условиях экспансии это не имеет значения. Важна лишь сравнительная эффективность. Историческое соревнование привело к последовательному уходу со сцены родоплеменных, рабовладельческих, феодальных, капиталистических и социалистических пирамид. Последние все еще здесь, но «оплывают» – развитые коммуникации постепенно превращают их в горизонтальные структуры. Приход метавселенной окончательно трансформирует пирамиду в сеть.
Прототипом новой архитектуры станет мозг, а отдельно взятый homo Informaticus будет выполнять функции наделенного сознанием нейрона, включенного во множество связей. Важно отметить, что связи не монолитны – осознавая задачу, мозг формирует множество новых цепочек, каждая из которых реализует определенную функцию – когнитивную, творческую или производящую. Импульсы передаются в органы, отвечающие за материальную реализацию. Это могут быть адаптивные роботизированные производства или трехмерные принтеры.
В такой сети не будет «верховного управляющего» или «единого центра» – как их нет в человеческом мозге. На личностном плане роль внутреннего менеджера выполняет наше личное самосознание. Почему бы не предположить, что «метамозг» также будет обладать самосознанием – или сверхперсоной со сверхсознанием по образу Разумного Океана из «Соляриса» Станислава Лема? Почему бы юнгианскому коллективному бессознательному не обрести в новой архитектуре свое коллективное сверхсознательное, дающее смысл гиперреализации каждому индивидуальному «я»?
Точно так же, как в обычном мозге, в архитектуре метавселенной возникнут структуры, отвечающие за базовый функционал. Например, в человеческом теле ромбовидный мозг контролирует движение, варолиев мозг регулирует уровни возбуждения, мезэнцефалон координирует переднюю и заднюю части головного мозга. Это происходит органически. Мозгу не нужно отдавать самому себе команды, чтобы продолжать деятельность.
Коллективное бессознательное в архитектуре метаверса дополнится коллективным «сверх-Я», дающим смысл гиперреализации каждому индивидуальному «я».
Гиперреализация, или процесс воплощения из осознания, будет напоминать акт творения. Как, например, будет происходить отправка миссии на Марс? Сверхсознание осознает потребность – активизируются цепочки «нейронов», отвечающих за анализ, оценку, визуализацию, технологии, материальную часть – подключатся энергоресурсы – определятся необходимые материалы – включатся их поставки – придут в движение роботизированные цеха – детали поступят в сборочное производство – корабль на Марс произведен, укомплектован, испытан, оценен, одобрен, отправлен. Это одна из самых незначительных гиперреализаций, на которые будет способен метамозг.
Прототипом архитектуры метавселенной станет человеческий мозг, а отдельно взятый homo informaticus будет выполнять функции наделенного сознанием нейрона, включенного во множество связей, осознающего смысл возникшего объединения и участвующего в гиперреализации . В новой архитектуре процесс создания чего угодно будет напоминать акт творения.