Дуглас Хофштадтер
Я – странная петля
Глава 6. О символах и самости
Петля восприятия как ядро «Я»
Я нахожу занятным, что, не считая собственных имен и соответствующих прилагательных, единственное слово в английском языке, которое пишется всегда с заглавной буквы, это местоимение первого лица (в именительном падеже), с которого так торжественно отправилось в плавание это предложение. Это примечательная и странная традиция, которая намекает на важность того, что это слово обозначает. В самом деле, для некоторых людей – пожалуй, для большинства людей или даже для всех, – непередаваемое ощущение того, что они являются «Я» или «первым лицом», интуитивное ощущение «присутствия» или попросту «существования», сила «обладания опытом» и «испытывания базовых чувств» (некоторые философы называют их «первичными ощущениями») кажутся наиболее настоящими элементами их жизни, и настойчивый внутренний голос яростно негодует при одном только предположении, что все это может быть лишь иллюзией, продуктом некоторых физических процессов, происходящих в «третьем лице» (то есть в неодушевленном объекте). Моя задача – сразиться с этим назойливым внутренним голосом.
Я начну с простого факта: выживание является самой базовой, рефлекторной и врожденной целью эволюционно сформировавшихся живых существ. Чтобы повысить свои шансы на выживание, живые существа должны уметь гибко реагировать на события, происходящие в их среде. Это означает, что они должны развивать, пусть хотя бы примитивную, способность чувствовать и категоризировать происходящее в их непосредственном окружении (большинство земных существ могут безболезненно игнорировать падение комет на Юпитер). Однако, когда развивается способность чувствовать происходящее вокруг, из этого следует забавный побочный эффект, который имеет существенные и радикальные последствия. Эффект заключается в том, что способность живого существа чувствовать некоторые аспекты среды перекручивается и наделяет это существо способностью чувствовать некоторые аспекты самого себя.
Само по себе это перекручивание не удивительно и не чудесно, напротив, это мало примечательное и достаточно тривиальное следствие того, что живое существо обладает восприятием. Это не более удивительно, чем то, что случается обратная аудиосвязь или что камеру можно направить на экран, на который с нее передается изображение. Кто-то может счесть самовосприятие явлением эксцентрическим, бессмысленным или даже извращенным, но предрассудки такого рода не делают это явление ни более сложным, ни менее явным, ни, тем более, парадоксальным. В конце концов, если мы рассматриваем существо, которое сражается за выживание, единственное, что постоянно его окружает, это… оно само. Так с чего оно вдруг должно быть невосприимчиво к самому заметному объекту в собственном мире? Вот это поистине было бы извращением!
Такой пробел напоминал бы язык, словарный запас которого разрастался бы все больше и больше, но так и не приобрел бы слов для банальных понятий, которым соответствуют слова «сказать», «говорить», «слово», «язык», «понимать», «спрашивать», «отвечать», «рассказывать», «общаться», «заявлять», «отрицать», «спорить», «объяснять», «фраза», «рассказ», «книга», «читать», «настаивать», «описывать», «переводить», «пересказ», «повторять», «лгать», «увиливать», «существительное», «глагол», «время», «буква», «слог», «множественное число», «значение», «грамматика», «акцентировать», «ссылаться», «произносить», «преувеличивать», «бахвалиться» и так далее. Если бы такой исключительно несведущий о себе самом язык действительно существовал, то вместе с тем как разрастались бы его гибкость и сложность, его носители все чаще бы завязывали разговоры, споры, перепалки и так далее, но никогда бы не упоминали о своих действиях, а вопросы, ответы, ложь (продолжая быть безымянными) становились бы все более заметными и многочисленными. Подобно хромым на обе ноги формализмам, вышедшим из трепетной теории типов Бертрана Рассела, этот язык зиял бы дырой в самом своем ядре – отсутствием какого-либо механизма для того, чтобы слово, высказывание или книга (и т. д.) ссылались на себя самих. Аналогично, крайней аномалией для живых существ было бы развить богатые способности к восприятию и категоризации, но иметь встроенную неспособность применить этот аппарат к себе самим. Такая выборочная пренебрежительность была бы патологией и угрожала бы выживанию.
Разнообразие петель
Понятно, что у самых примитивных живых существ самовосприятия мало или нет вовсе. В качестве аналогии тут уместно представить видеокамеру, намертво прикрученную наверху телевизионной установки, которая смотрит в сторону от экрана, как фонарик, крепко приделанный к каске шахтера, всегда смотрит вперед и никогда не светит шахтеру в глаза. В такой телеустановке о замыкании петли на себя, разумеется, не может быть и речи. Как ее ни разверни, камера и телесистема повернутся синхронно, предотвращая замыкание петли.
Теперь представим более «развитую», а потому более гибкую систему; на сей раз камера не прикручена к телеустановке, а крепится к ней на «коротком поводке». Здесь, в зависимости от длины и гибкости шнура, у камеры может быть возможность развернуться достаточно для того, чтобы захватить в видоискатель хотя бы часть экрана, порождая усеченный коридор. Биологическим эквивалентом обратной связи на этом уровне сложности может служить степень осознанности наших домашних животных или даже маленьких детей.
На следующей ступени, очевидно, поводок становится существенно длиннее и гибче, так что камера может указывать прямо в центр экрана. Это позволит появиться бесконечному коридору, который куда богаче усеченного. Но сама возможность замкнуть петлю самосозерцания не ставит точку в разнообразии системы, поскольку остается еще так много разных опций. Может ли камера наклоняться и если да, то как сильно? Может ли она менять приближение? Картинка с этой камеры цветная или черно-белая? Можно ли менять яркость и контрастность? Какое у камеры разрешение? Сколько процентов времени она тратит на самосозерцание по сравнению с временем, затраченным на созерцание среды? Есть ли какой-то способ сделать так, чтобы сама камера появилась на экране? И прочее, и прочее. Пока есть так много параметров, с которыми можно поиграть, гипотетическая петля может совершенствоваться по многим измерениям.
Регистрация против восприятия
Несмотря на то, какое разнообразие обеспечивают все эти варианты, самосозерцающая телесистема всегда будет лишена одного важнейшего аспекта: не просто регистрации, то есть получения изображения, а способности восприятия. Восприятие принимает на «вход» некие данные (возможно, двумерную картинку, но не обязательно ее), составленные из огромного количества микроскопических сигналов, но затем идет гораздо дальше, приводя в итоге к запуску небольшого набора символов – дискретных структур, наделенных репрезентативными качествами, – обширная библиотека которых находится обычно в режиме ожидания. Таким образом, символ в нашем уме, подобно симмболу в теоретическом Столкновениуме, должен рассматриваться как физическая структура с возможностью активации, которая позволяет мозгу воплотить определенное понятие или категорию.
Должен вкратце пояснить слово «символ» в этом новом смысле, раз уж оно так перегружено ассоциациями, части которых мне точно хотелось бы избежать. Мы часто обозначаем письменные знаки (буквы алфавита, цифры, музыкальные ноты, китайские иероглифы и так далее) словом «символ». Это не то значение, которое я имею в виду. Также мы порой говорим об объектах мифологии, аллегорий и снов (например, о ключе, пламени, кольце, мече, орле, сигаре, тоннеле) как о «символах», обозначающих что-то другое. Но это тоже не то значение, которое я имею в виду. Фразой «символ в мозгу» я хочу донести идею, что некая особая структура в вашем уме (или в вашем Столкновениуме, смотря к какому виду вы принадлежите) активируется всегда, когда вы думаете, скажем, об Эйфелевой башне. Эту мозговую структуру, какой бы она ни была, я буду называть вашим «символом Эйфелевой башни».
Также у вас есть символ «Альберт Эйнштейн», символ «Антарктика» и символ «пингвин», последний из которых является некоторой структурой в вашем мозгу, которая запускается всегда, когда вы наблюдаете одного или нескольких пингвинов, а также когда вы просто думаете о пингвинах, не наблюдая их. Также в вашем мозгу есть символы действия вроде «бить», «любить» и «убить», символы отношений вроде «спереди», «сзади» и «сбоку», и так далее. Итак, в этой книге символами в мозгу называются нейрофизиологические сущности, которые отвечают понятиям, точно так же, как генами называются химические сущности, которые отвечают наследуемым чертам. Символы большую часть времени дремлют (ведь большинство из нас редко думает о сладкой вате, яичном супе, святом Фоме Аквинском, последней теореме Ферма, Большом Красном Пятне Юпитера и упаковках зубной нити), но, с другой стороны, каждый символ из библиотеки нашего мозга может быть вызван в любой момент.
Путь, ведущий от огромного количества полученных сигналов к запуску нескольких символов, это своего рода воронка, в которой над изначальными входными сигналами совершаются некоторые манипуляции и «махинации», результат которых выборочно запускает следующие (то есть более «внутренние») сигналы и так далее. В этой передаче эстафеты от одних сигнальных групп другим прослеживается тропинка в мозгу, которая все сужается и сужается, приводя в итоге к вызову маленького набора символов, сущность которых, конечно, является неочевидной функцией от начальных входных сигналов.
Так и получается – надеюсь, вас развлечет мой пример, – что мириады микроскопических обонятельных сокращений в ноздрях путешественника, который идет по залу ожидания в аэропорту, могут привести в зависимости от степени чувства голода этого путешественника и его прошлого опыта к совместному запуску символов «сладкий» и «запах», или символов «приторный» и «калорийный», или символов «Синнабон» и «недалеко», или символов «мгновенный», «реклама», «подсознательный», «ушлый» и «уловка» – или, возможно, к запуску всех этих одиннадцати символов в мозгу в той или иной последовательности. Каждый из этих примеров запуска символов являет собой акт восприятия, который отличается от одного лишь регистрирования чудовищного количества микроскопических сигналов, поступающих от некоторого источника подобно тому, как миллионы дождевых капель стучат по крыше.
Чтобы привнести побольше ясности, я изобразил слишком упрощенную картину того, как происходит процесс восприятия, хотя в действительности это куда больше похоже на двусторонний процесс. Сигналы не только поступают снаружи вовнутрь, к символам; ожидания от прошлого опыта немедленно порождают сигналы, поступающие от определенных символов наружу. Происходят своего рода переговоры между сигналами, направленными наружу, и сигналами, направленными внутрь, и по их итогам устанавливается тропинка, соединяющая сырые входные данные и их символическую интерпретацию. Направления потоков в мозгу так перемешаны, что восприятие становится поистине сложным процессом. Впрочем, для наших целей достаточно описать значение восприятия так: благодаря стремительному двустороннему вихрю столкнувшиеся потоки входных сигналов приводят к запуску маленького набора символов, или, говоря менее биологическим языком, активируют несколько понятий.
Подведу итог: каким бы высоким ни было качество изображения в видеосистеме, недостающим ее ингредиентом является библиотека символов, которые могут выборочно запускаться. Мы можем сказать, что система действительно что-то воспринимает, только в том случае, если такая библиотека существует и доступна. Хотя нам ничто не мешает представить, что мы усложнили и расширили базовую видеосистему дополнительной схемой, которая поддерживает каскадный процесс махинаций с сигналами, ведущий к библиотеке потенциально вызываемых символов. В самом деле, размышляя о том, как кто-то мог бы принять этот инженерный вызов, очень удобно в это же время представлять процесс восприятия в мозгу живого существа и его аналог в когнитивной системе искусственного разума (или инопланетного создания, кстати говоря). Впрочем, разумеется, не все воплощения подобной архитектуры, земные ли, инопланетные или искусственные, будут обладать одинаково обширными библиотеками символов, которые могут запуститься от входного стимула. Давайте еще раз пройдемся по шкале сложности снизу вверх, как я уже проделывал здесь раньше.
Символы у комара
Предлагаю начать со смиренного комара (не то чтобы я знал комаров заносчивых и надменных). Каким представлением о внешнем мире обладает такое примитивное создание? Другими словами, какая библиотека символов, доступная для процессов восприятия, располагается в его мозге? Может ли комар знать или считать, что «снаружи» есть какие-то объекты? Допустим, что да, хотя я настроен весьма скептично. Относит ли он объекты, которые распознает, к каким-нибудь категориям? Применимы ли к комару слова «знать» и «считать» хоть в каком-то значении?
Давайте рассмотрим это чуть подробнее. Разделяет ли комар (без использования слов, конечно) внешний мир на мысленные категории типа «стул», «занавеска», «стена», «потолок», «человек», «собака», «мех», «нога», «голова» или «хвост»? Иначе говоря, содержит ли комариный мозг символы – раздельно запускаемые структуры – для таких абстракций сравнительно высокого уровня? Вряд ли, конечно; в конце концов, со своей комариной работой комар прекрасно справляется и без этих «интеллектуальных» излишеств. Какая разница, кого я кусаю, собаку, кошку, мышь или человека, какая разница, рука это, ухо, хвост или нога, если мне удалось попить кровь?
Тогда какие же категории комару необходимы? Что-то вроде «потенциального источника еды» (для краткости: «хорошо») и «потенциальной посадочной площадки» (для краткости: «порт») будет, по-моему, достаточным разнообразием для его системы категорий. Также он может смутно осознавать то, что мы бы назвали «потенциальной угрозой» – особый тип подвижной тени или зрительного контраста (для краткости: «плохо»). Но, опять же, «осознавать», даже с поправкой на «смутно», может быть слишком громким словом. Ключевой вопрос в том, есть ли у комара символы для таких категорий или он может обойтись более простым механизмом, не содержащим никаких каскадов воспринимаемых сигналов, кульминацией которых стал бы запуск символов.
Если вам кажется неясной идея о том, чтобы, не трогая символы, обойтись очень грубой альтернативой восприятия, обдумайте следующие вопросы. Осознает ли туалетный бачок, хотя бы самую малость, уровень воды в самом себе? Осознает ли термостат, сколь угодно тускло, температуру, которую он регулирует? Осознает ли ракета с тепловой системой наведения, ну хоть чуть-чуть, что тепло выделяет преследуемый ею самолет? Осознает ли красный лучик в Эксплораториуме, пусть на ужасно примитивном уровне, что он так радостно и настойчиво убегает именно от людей? Если на эти вопросы вы ответили «нет», представьте, что подобные неосознанные механизмы в голове комара позволяют ему находить кровь и уворачиваться от ладони, выделывая эти трюки без единой мысли.
Комариная самость
Поразмыслив о комариных символах, мы чуть-чуть приблизились к разгадке. Что за мир внутри у комара? То есть как он переживает свое «Я»? Насколько щедро комар одарен ощущением собственной самости? Это слишком смелые вопросы, давайте начнем с чего-нибудь попроще. Есть ли у комара зрительный образ того, как он выглядит? Думаю, на этом этапе вы разделите мой скептицизм. Осведомлен ли комар о том, что у него есть крылья, голова, ноги? С чего бы ему иметь представление о «крыльях» или «голове»? Знает ли он, что у него есть глаза и хоботок? Нелепым кажется одно только это предположение. Разве он может узнать об этом? Давайте лучше поразмыслим о том, что комар знает о своем внутреннем состоянии. Чувствует ли он жар и холод? Усталость и бодрость духа? Легкий аппетит и смертельный голод? Надежду и страх? Простите, но и это, по-моему, переходит все мыслимые границы, когда мы говорим про одного лишь жалкого комарика.
Что ж, как насчет более базовых штук вроде «больно» – «не больно»? Я все еще сомневаюсь. С другой стороны, я легко могу представить, как из комариного глаза уходит сигнал в комариный мозг, отправляя ответные сигналы в крылья и формируя рефлекс, который на человеческом языке звучал бы: «Избегай угрозы слева», или попросту: «Сваливай!» – но эта краткая фраза в исполнении комара, я боюсь, все еще звучит слишком осознанно. Я бы с радостью сравнил внутренний мир комара с таковым у туалетного бачка или термостата, но дальше я бы не пошел. Поведение комара выглядит для меня совершенно понятным, даже если не прибегать к чему-то, что можно назвать «символом». Иными словами, поведение комара в случае опасности, без слов и понятий, может меньше походить на восприятие в нашем, человеческом понимании, и больше на поведение вашей коленки, которая дергается, когда доктор ударяет по ней молоточком. У кого же больше внутренний мир, у комара или у вашей коленки?
Есть ли у комара хотя бы самое смутное представление о том, что он подвижная часть огромного мира? И снова я думаю, что нет, поскольку для этого потребовалось бы хранить в микроскопическом мозгу всевозможные абстрактные символы, отвечающие понятиям «большой», «маленький», «часть», «место», «двигаться» и так далее, не говоря уж о «себе». Для чего комару такая роскошь? Как это поможет ему более эффективно найти кровь или партнера для спаривания? Если бы гипотетическому комару хватило мощности мозга, чтобы разместить в нем такие прихотливые символы, его голова раздулась бы от необходимости таскать гораздо больше нейронов, чем его прямолинейная и просто мыслящая родня, и оттого он стал бы тяжелее и медленнее ее, потеряв все преимущества в погоне за кровью и размножением и проиграв в эволюционной гонке.
Как бы то ни было, а я считаю, что в крошечной и очень эффективной нервной системе комара полностью отсутствуют категории восприятия (и следовательно, символы). Если я не ошибаюсь, это низводит разновидность петли самовосприятия, которая может существовать в мозгу у комара, до чрезвычайно низкого уровня, тем самым присваивая комару ранг очень «мелкодушного человека». Надеюсь, это прозвучит не слишком кощунственно и не слишком безумно, если я предположу, что «душа» у комара примерно того же «размера», что и у красного лучика света, который скачет по стене «Эксплораториума», – скажем, одна десятимиллиардная ханекера (то есть приблизительно одна триллионная человеческой души).
Числовую оценку я, конечно, дал легкомысленно, но о своих субъективных догадках о том, есть ли символы в комарином мозгу, я говорю всерьез. Впрочем, это лишь субъективные догадки, с которыми вы можете не согласиться, хотя спорить о таких тонкостях здесь будет излишне. Суть куда проще и примитивнее: есть какая-то разновидность жизни, к которой применим именно этот уровень сложности и никакой другой. Если с этим суждением вы не согласны, приглашаю вас прокатиться вверх или вниз по шкале интеллектов различных животных, пока вы не поймете, что нужный уровень найден.
И последнее соображение по этому поводу. На все эти вопросы про комариный взгляд на мир некоторые читатели могут с якобы неподдельной искренностью возразить: «Откуда нам знать? Ни вы, ни я не можем пробраться внутрь комариного мозга или сознания – никто не может. Насколько мне известно, комары ничуть не менее осознанные, чем я!» Так вот, при всем уважении, не могу счесть подобного рода претензии искренними, потому что я ставлю десять долларов – когда на руку к одному из таких читателей сядет комар, он прихлопнет его без малейших колебаний. Если же эти люди и вправду верят, что комары вполне могут быть столь же осознанными, сколь и они сами, как же так вышло, что они готовы вмиг оборвать комариную жизнь? Не делает ли их страшными чудовищами такое безразличие к убийству живых существ, которые, по их словам, могут наслаждаться не меньшей степенью осознанности, чем люди? Я думаю, мнения людей нужно оценивать не по их словам, а по их делам.
Интермедия, посвященная мобильным роботам
Прежде чем мы перейдем к высшим видам животных, я хочу прерваться на короткое обсуждение машин, которые умеют самостоятельно ездить по гладким шоссе или по каменистым пустыням. На борту таких средств передвижения находятся одна или более видеокамер (а также лазерных дальномеров и прочих сенсоров), которые снабжены дополнительными процессорами, позволяющими машине понимать окружающую обстановку. Никакой тривиальный анализ самих по себе объектов на экране и их цвета не сможет дать хорошую рекомендацию, как обходить препятствия, чтобы не опрокинуться и не застрять. Такой системе для успешного вождения необходима серьезная библиотека заранее заданных структур знаний, которые могут быть выборочно запущены окружающей обстановкой. Так что понадобятся некоторые знания об абстракциях вроде «дорога», «холм», «овраг», «грязь», «камень», «дерево», «песок» и о многих других, если машина не собирается завязнуть в грязи, свалиться в овраг или застрять между двух булыжников. Видеокамеры, дальномеры (и т. д.) обеспечивают только простейшую, начальную стадию «процесса восприятия» машины, а запуск разнообразных структур знаний вроде тех, что были только что перечислены, отвечает конечной, символической точке процесса.
Я слегка усомнился в необходимости «ставить кавычки вокруг слов» «процесс восприятия» в предыдущем предложении, пришлось выбрать наудачу, потому что оба варианта «прокляты»: без кавычек выглядело бы так, будто я неявно даю понять, что обработка визуальной информации у мобильного робота проходит в точности как наше восприятие; с кавычками же выглядело бы так, будто я неявно даю понять, что между тем, что делают «всего лишь машины», и тем, что делают живые создания, лежит непреодолимая пропасть. Любой выбор в такой ситуации крайность. К сожалению, кавычки не выставляются в оттенках серого; если бы я мог, я бы использовал какой-нибудь промежуточный оттенок, обозначая им неоднозначность положения.
Автономная навигация сегодняшних мобильных роботов очень впечатляет, хотя все еще и рядом не стоит с уровнем восприятия млекопитающих; и все же, по-моему, будет справедливо сказать, что «восприятие» машиной (простите за кавычки без оттенков!) окружающей обстановки по сложности сравнимо с «восприятием» комара (смотрите, надеюсь, я немного сравнял счет), если не сложнее. (Прекрасный подход к разговору о мобильных роботах и о том, что им дадут разные уровни «восприятия», представлен в книге Валентино Брайтенберга «Средства передвижения» (Vehicles).
Давайте я просто скажу, не вдаваясь в детали, что совершенно логично обсуждать животных и самоуправляемых роботов в одной и той же части книги, поскольку нынешние технологические достижения только приближают нас к пониманию, что происходит в живых системах, которые обитают в сложной среде. Эти успехи уличили во лживости пресловутую догму, которую бесконечно повторял Джон Сёрл, что компьютеры навечно обречены лишь «имитировать» жизненные процессы. Если робот может самостоятельно проехать расстояние в две сотни миль по страшно неприступной пустынной местности, разве можно назвать его ловкость лишь «симуляцией»? Этот акт выживания во вражеской среде не менее подлинный, чем подвиг комара, которому удается летать по комнате, уворачиваясь от наших ладоней.