Дуглас Хофштадтер
Я – странная петля
Футбольный мяч по имени Желание
Почему этот шаг к целеориентированным – иначе говоря, телеологичным – упрощениям кажется заманчивым, если речь идет о системах, снабженных обратной связью, но не кажется подходящим для менее структурированных систем? Это связано с тем, каким образом «восприятие» системы поддерживает связь с ее поведением. Если система всегда движется к определенному состоянию, мы считаем это состояние «целью» системы. Именно из-за того, что система сама за собой наблюдает, сама себя контролирует, нам хочется говорить о ней в телеологических терминах.
Но что это за системы, у которых есть обратная связь, цели, желания? «Хочет» ли футбольный мяч, который катится вниз с зеленого холма, достичь его подножья? Большинство из нас рефлекторно отшатнется от такого примитивного аристотелевского понимания причин движения объектов и без колебаний ответит «нет». Но давайте всего чуть-чуть изменим ситуацию и зададим вопрос еще раз.
Как насчет футбольного мяча, который мчится вниз по длинной и узкой придорожной канаве с поперечным сечением U-образной формы? Насколько он целеустремлен? Ускоряясь, этот мяч сперва закатится на один бортик канавы, затем скатится в центр, пересечет его и закатится на другой бортик, затем снова вниз и так далее, постепенно сменяя синусоидальную траекторию, колеблющуюся около центра канавы, на прямой путь по ее дну. Есть ли тут «обратная связь»? «Ищет» ли мяч середину канавы? «Хочет» ли он катиться по дну? Как показывает этот и предыдущий пример – про мяч, который катится с холма, – наличие или отсутствие обратной связи, целей и желаний вовсе не черно-белая история – тут есть о чем поспорить.
Скользкие склоны телеологии
Когда мы переключаемся на системы с более хитрой обратной связью и менее явными механизмами, желание перейти к телеологическим терминам – сперва говорить на языке целей, затем на языке «желаний», «стремлений», «попыток» – становится все более соблазнительным, ему все труднее противостоять. Скрытая обратная связь даже не должна быть особо хитрой.
В музее «Эксплораториум» в Сан-Франциско есть огороженная площадка, на которой можно встать и понаблюдать, как по полу и стенам танцует пятнышко красного света. Если попытаться его поймать, в последний момент пятнышко ускользает. В общем, все выглядит так, будто оно своим танцем дразнит людей, иногда полностью замирает, искушая зрителей, позволяя им приблизиться, а затем в нужный момент убегает. Однако, несмотря на то, как это выглядит, никто им тайно не управляет – есть только простой механизм обратной связи в электронных схемах, наблюдающих за объектами площадки и управляющих световым лучом. Но так похоже, что красный зайчик обладает личностью, озорным желанием дразнить людей, даже чувством юмора! Красное пятнышко света в «Эксплораториуме» кажется более живым, чем, скажем, комар или муха – хоть они тоже убегают из-под грозящей расправой руки, чувства юмора в них никак нельзя заметить.
В видеоролике Карла Симса «Виртуальные создания» (Virtual Creatures) представлены виртуальные объекты, сделанные из нескольких (виртуальных) труб, соединенных между собой. Объекты могут «размахивать» конечностями и таким образом передвигаться по (виртуальной) плоскости. Если снабдить их примитивным восприятием и простой петлей обратной связи, побуждающей их охотиться за некими ресурсами, создается жутковатое впечатление, что их погоня за своеобразной «едой» и неистовые схватки с «соперниками» в борьбе за ресурсы есть не что иное, как борьба за выживание между примитивными живыми существами.
Более привычным примером служат растения – взять хотя бы подсолнух или виноградную лозу, – которые выглядят неподвижными как скала и, следственно, лишенными желаний, если наблюдать за ними на обычной скорости; но если посмотреть в ускоренной съемке, похоже, что они прекрасно осознают, что их окружает, и обладают как ясными целями, так и стратегиями для их достижения. Вопрос заключается в том, насыщены ли эти системы целями и желаниями, несмотря на отсутствие мозгов. Есть ли у них надежды и стремления? Есть ли у них страхи и сны? Печали и чаяния?
Наличие петли обратной связи, даже достаточно простой, подвергает нас, людей, огромному соблазну перевести дискуссию с бесцельного уровня механики (на котором силы заставляют вещи двигаться) на целеориентированный уровень кибернетики (на котором, если уж начистоту, желания заставляют вещи двигаться). Хочу еще раз подчеркнуть, что последнее утверждение – лишь более экономно перефразированное предыдущее; и все же, когда системы приобретают крайне хитрые и неявные петли обратной связи, экономичности этого упрощения почти невозможно сопротивляться. В конце концов, телеологический язык не просто становится незаменимым, мы уже считаем, что не могло быть никак иначе – и в этот момент он становится неотъемлемой частью нашего мировоззрения.
Петли обратной связи и экспоненциальный рост
Наиболее знакомый нам пример обратной связи (по которому, вероятно, и было названо явление) – это обратная аудиосвязь. Она часто случается в аудиториях, когда микрофон подносят слишком близко к колонке, которая транслирует, увеличивая громкость, звук с этого микрофона. Внутрь поступает какой-нибудь звук (не важно, какой именно), наружу выходит он же, но громче, затем внутрь поступает уже этот звук, выходит наружу еще громче, снова поступает внутрь, и вот почти из ниоткуда появляется петля, порочный круг, который порождает жуткий истошный визг, и вся аудитория зажимает ладонями уши.
Это явление нам так знакомо, что как будто бы не требует комментариев, однако на пару моментов здесь все же стоит указать. Во-первых, с каждым оборотом громкость исходного звука теоретически должна возрастать в определенное количество, скажем, в k раз – таким образом, два оборота усиливают громкость в k2 раз, три оборота в k3 и так далее. Что ж, все мы хорошо знакомы с мощью экспоненциального роста, наслушавшись страшилок об экспоненциальном росте населения планеты и прочих подобных катастрофах. (В моем детстве мощь экспоненты оставила более невинное, хоть и неизгладимое впечатление благодаря истории о султане, который приказал насыпать на каждую клетку шахматной доски в два раза больше риса, чем на предыдущую; еще не заполнилось и половины доски, как стало ясно, что ни во владениях султана, ни во всем мире не найдется достаточно риса, чтобы добраться до конца.) В теории, легчайший шепот разрастется до рева и продолжит расти безо всяких границ, сперва оглушив всех в аудитории, затем неистово встряхнув перекрытия здания так, что они обрушатся на оглохшую аудиторию, и всего через несколько таких циклов планета скончается от сотрясений и, наконец, аннигилирует Вселенная. Что не так с этим апокалиптическим сценарием?
Заблуждение первое
Наша первое заблуждение в том, что мы не учли в этом сценарии само устройство, производящее экспоненциальный процесс – саму звуковую систему, а главное, усилитель. Чтобы донести мысль самым грубым образом, я всего лишь напомню, что в тот момент, когда обвалится потолок аудитории, он приземлится на усилитель и разнесет его на кусочки, что стремительно завершит распоясавшийся цикл обратной связи. Наша маленькая система несет в себе семена саморазрушения!
Но и в этом сценарии кое-что неверно, поскольку, как мы все знаем, дело никогда не заходит так далеко: аудитории не рушатся, слушатели не глохнут от невообразимого гула. Что-то гораздо раньше замедляет вышедший из-под контроля процесс. Что же?
Заблуждение второе
Вторая ошибка в наших рассуждениях также касается способа саморазрушения звуковой системы, только на этот раз более деликатного, чем разнесение ее вдребезги. Дело в том, что, когда звук становится все громче и громче, усилитель перестает усиливать звук в постоянные k раз. На определенном уровне этот коэффициент начинает падать. Если выжать в машине педаль газа, она не будет постоянно ускоряться (сперва 100 миль в час, затем 200, 300, 400, вскоре преодолеет звуковой барьер и т. д.), а в конце концов достигнет некоторого пика скорости (который будет функцией от трения дороги, сопротивления воздуха, внутренних ограничений двигателя и прочих факторов); точно так же усилитель не будет прилежно усиливать звук любой громкости, а в какой-то момент достигнет насыщения, усиливая звук все слабее и слабее, пока наконец громкость звука на выходе не будет равняться громкости звука на входе и система не стабилизируется. Громкость, при которой коэффициент усиления становится равным единице, это тот самый знакомый нам визг, который сводит с ума, но не оглушает, и уж тем более не заставляет потолок аудитории обвалиться на наши головы.
Почему же система всегда выдает один и тот же высокий визг? Почему не низкий грохот? Почему не шум водопада, не звук реактивного двигателя, не громовые раскаты? Дело тут в естественной резонансной частоте системы – акустическом аналоге естественной частоты колебаний качелей на детской площадке, которые раскачиваются приблизительно раз в пару секунд. У петли обратной связи на усилителе тоже есть своя естественная частота колебаний, и по причинам, которые не должны нас беспокоить, она близка к высокочастотному крику. Однако система не может разом установиться на этом пике. Если вы значительно замедлите процесс, вы увидите, что путь, каким она приходит к этому визгливому пику, очень похож на тот, каким футбольный мяч ищет дно канавы – совершая очень быстрые колебания частоты вперед – назад, как будто «хочет» занять свое естественное положение в звуковом спектре.
Так мы увидели, что даже в самой простой обратной связи есть уровни скрытой сложности, о которых редко кто задумывается, полные разнообразия и сюрпризов. Представьте, что же происходит в более сложных системах с обратной связью.
Дурная слава обратной связи
Когда мои родители впервые захотели купить видеокамеру, где-то в 1970-х, я пошел в магазин вместе с ними, и мы попросили показать нам ассортимент. В отделе, в который нас проводили, на полке стояло несколько телевизоров, и с обратной стороны одного из них была подключена камера: так можно было увидеть то, на что смотрит камера, оценить качество цветопередачи и прочее. Я взял камеру, направил ее на своего отца, и мы увидели, как его довольная улыбка тут же оказалась на экране. Затем я направил камеру на собственное лицо, и – оп! – уже я сменил на экране отца. Но затем мне неминуемо захотелось направить камеру на сам телеэкран.
Тут случилось занимательное событие, которое я всегда буду вспоминать с оттенком стыда: мне было неловко замкнуть эту петлю! Вместо того чтобы просто взять и сделать это, я замешкался и нерешительно спросил у продавца разрешения на то, чтобы это сделать. С чего мне вообще было его спрашивать? Что ж, возможно, это слегка объясняется его ответом на мой вопрос. Он сказал следующее: «Нет, нет, нет! Не делай так – ты сломаешь камеру!»
И как же я отреагировал на его внезапную панику? Презрительно? Может быть, я посмеялся? Я просто взял и последовал своему порыву, несмотря ни на что? Нет. Правда в том, что я и сам не был до конца уверен, и его панический вопль только усугубил мою неясную тревогу, так что я сдержался и не сделал того, что хотел. Впрочем, позже, когда мы с новехонькой камерой уже ехали домой, я внимательно обдумал этот вопрос и попросту не нашел, что, черт побери, тут могло навредить системе – хоть камере, хоть телевизору, – если бы я замкнул петлю (хотя априори оба устройства казались катастрофически хрупкими). Так что, когда я приехал домой, я робко попробовал направить камеру на экран, и – невероятно – ничего страшного не произошло.
Опасность, которую тут можно почувствовать, сродни обратной аудиосвязи: быть может, одно конкретное место на экране (то самое, на которое направлена камера, конечно), будет становиться все ярче, ярче и ярче, пока экран не возьмет и не расплавится. Но с чего бы этому произойти? Как в случае с обратной аудиосвязью, это могло бы произойти при некотором усилении яркости света; однако мы знаем, что видеокамеры не предназначены для того, чтобы усиливать картинку, они лишь передают ее в другое место. Как я и догадался, успокоившись в машине по дороге домой, нет никакой опасности в обыкновенной обратной видеосвязи (кстати, я не знаю, кто и когда придумал термин «обратная видеосвязь», в то время я его совершенно точно не слышал). Но, есть опасность или нет, я хорошо помню собственную нерешительность в магазине, так что легко могу понять панику продавца, сколь бы иррациональна она ни была. Обратная связь – что-то, что заставляет систему обернуться, извернуться и посмотреть на самое себя, формируя таким образом некую мистическую, запретную петлю, – кажется опасной, кажется искушением судьбы, возможно, даже внутренне неправильной, что бы это ни значило.
Это поведение глубоко и иррационально инстинктивное, и кто знает, где лежат его истоки. Кто-то может предположить, что страх перед любого рода обратной связью есть лишь простое и естественное обобщение опыта с обратной аудиосвязью, но я почему-то сомневаюсь, что объяснение настолько очевидно. Всем известно, что некоторые племена боятся зеркал, во многих обществах с подозрением относятся к камерам, в некоторых религиях запрещено рисовать людей и так далее. Создавать отображение чьей-то личности видится действием подозрительным, странным, возможно, даже совершенно роковым. Настороженность в отношении петель, похоже, заложена в природе человека. Однако, как и в случае со многими рискованными предприятиями вроде полетов на дельтаплане и прыжков с парашютом, некоторых из нас к ним необъяснимо тянет, тогда как другие до смерти пугаются одних только мыслей об этом.
Бог, Гёдель, умлауты и тайны
Однажды, когда мне было четырнадцать, я болтался по книжному магазину и вдруг замер у брошюры в мягком переплете под названием «Доказательство Гёделя». Я понятия не имел, кем был этот Гёдель и что он (в таком раннем возрасте я совершенно точно не раздумывал, «он или она») доказал, но мысль о том, что целая книжка посвящена одному математическому доказательству – не важно, какому конкретно – меня заинтриговала. Должен также признаться, что слово «Бог», бесцеремонно проскочившее в фамилию «Гёдель»[8], а также загадочный умлаут посередине «Бога» подхлестнули мое любопытство. Молекулы моего мозга, расшевеленные определенным образом, послали сигналы по моим рукам и пальцам, так что я взял украшенную умлаутом книгу, пролистал ее и увидел дразнящие слова «метаматематика», «метаязык» и «неопределенность». А затем, к вящему удовольствию, я обнаружил, что в книге обсуждаются парадоксальные самореферентные высказывания вроде «Я лгу» и другие его более сложные родственники. Я понял: что бы Гёдель ни доказал, речь здесь шла не о числах как таковых, а о самих рассуждениях, и, что самое удивительное, числа использовались в рассуждениях о природе математики.
То, что я скажу дальше, некоторым читателям может показаться неправдоподобным, но я помню, что особенно меня привлекло длинное примечание о корректном использовании кавычек в целях различения употребления и упоминания. Авторы – Эрнест Нагель и Джеймс Р. Ньюман – привели два предложения: «Чикаго – густонаселенный город» и «В Чикаго три слога», затем обозначили, что первое верно, а второе ложно, и объяснили это тем, что при желании говорить о свойствах слова необходимо использовать его имя, каковым является слово, взятое в кавычки. Таким образом, высказывание «В “Чикаго” три слога» касается не города, а его названия, и поэтому истинно. Авторы продолжили говорить о необходимости внимательно следить за этими отличиями в формальных рассуждениях и отметили, что у имен, в свою очередь, есть имена (которые получаются с добавлением кавычек), и так далее, и так далее до бесконечности. Итак, передо мной была книга, говорившая о том, как язык может говорить о самом себе, говоря о самом себе (и т. д.), и о том, как рассуждения могут рассуждать о самих себе (и т. д.). Я был пленен! Все еще не имея представления о теореме Гёделя, я понял, что должен прочесть эту книгу. Молекулы, составляющие книгу, умудрились заставить молекулы в моей голове заставить молекулы в моей руке вытащить молекулы из моего кошелька… Ну, идею вы уловили.
Смакуя цикличность и самоприменимость
Пока я читал брошюру Нагеля и Ньюмана, больше всего магии я видел в том, как математика, казалось, шла по собственным следам, поглощала сама себя, сама внутри себя искажалась. Меня всегда неумолимо влекли циклические явления подобного рода. Например, с раннего детства я обожал способ закрывать картонные коробки «по кругу», накладывая каждую из ее четырех створок на следующую – A над B, B над C, C над D, D над A. Это соприкосновение с парадоксальными явлениями восхищало и завораживало меня.
Также мне всегда нравилось вставать между двумя зеркалами и смотреть, как получившаяся бесконечность изображений истаивает где-то вдалеке. (Фото сделано Келли Гутман). Зеркало, отражающее зеркало, – можно ли придумать что-то более вызывающее? И я обожал картинку, на которой девушка с упаковки соли «Мортон Солт» держит упаковку «Мортон Солт», на которой изображена она же с упаковкой соли, и снова, и снова, и все меньшие копии вплетаются в этот бесконечный ряд.
Годы спустя, когда мы с детьми были в Голландии и решили посетить парк «Мадуродам» (эти кавычки, кстати, свидетельствуют о пожизненном эффекте, который оказали настойчивые увещевания Нагеля и Ньюмана о важности различий между употреблением и упоминанием слов), в котором находятся дюжины изящно исполненных миниатюрных копий самых известных зданий со всех уголков Голландии, я был крайне расстроен тем, что среди них не было миниатюрной копии самого Мадуродама, которая бы, конечно, содержала еще меньшую копию и так далее. Я был особенно удивлен тем, что такая оплошность случилась именно в Голландии – не только на родине М. К. Эшера, но также на родине знаменитого горячего шоколада Дроста, на упаковке которого, как и на упаковке «Мортон Солт», изображен бесконечный коридор из ее собственных копий, с детства знакомый каждому голландцу.
Истоки моего восхищения подобными циклами лежат очень глубоко. Когда я был еще малышом лет четырех или пяти, я сообразил, или, может, мне рассказали, что дважды два будет четыре. Эта захватывающая фраза – «дважды два» – пустила мурашки по моей спине, потому что я обнаружил, что в ней понятие «два» применялось к самому себе. Это была разновидность самореферентной операции, идея, которая скрутилась и замкнулась сама на себя. Как бесшабашному летчику или скалолазу, мне хотелось больше подобного и даже более рискованного опыта, так что я довольно закономерно задался вопросом, чем же будет трижды три. Будучи слишком маленьким, чтобы разрешить эту тайну самостоятельно (и, например, составить квадрат с тремя рядами из трех точек), я спросил ответ у своей мамы, у этого Источника Мудрости, и она спокойно сообщила, что получится девять.
Сперва я был удовлетворен, но смутная тревога о том, что я задал неверный вопрос, не заставила себя ждать. Меня беспокоило, что и в первой, и во второй фразе содержались лишь две копии рассматриваемого числа, тогда как моей целью было превзойти двоичность. Так что я наудачу изобрел более троичную фразу «трижды трижды три» – но, к сожалению, я сам не знал, что под этим подразумеваю. И, конечно, я снова обратился к Всемудрейшей за помощью. Помню, что у нас состоялся разговор на эту тему (который, я был уверен в том нежном возрасте, находился за пределами понимания абсолютно всех жителей земного шара), и я помню, что она убедила меня в том, что полностью поняла мою идею, и даже дала ответ, хотя я забыл какой – наверняка 9 или 27.
Но дело не в ответе. Дело в том, что среди моих самых ранних воспоминаний уже читается пристрастие к замкнутым на себя структурам, самоприменимым операциям, цикличности, противоречиям, вложенным бесконечностям. Это для меня было одновременно и изюминкой, и вишенкой на торте.
Трепетная теория типов
Вышеописанная зарисовка раскрывает черту характера, которую я разделяю со множеством людей, но определенно не со всеми. Впервые я обнаружил этот раскол в человеческих инстинктах, когда читал об изобретенной Бертраном Расселом так называемой «теории типов» в «Принципах математики» (Principia Mathematica), его знаменитом главном опусе, написанном совместно с его бывшим преподавателем Альфредом Нортом Уайтхедом и опубликованном в 1910–1913 годах.
Несколькими годами ранее Рассел пытался обосновать математику при помощи теории множеств, которая, по его убеждению, являлась краеугольным камнем человеческого мышления, но когда, казалось, намеченная цель уже замаячила впереди, он неожиданно обнаружил в теории множеств ужасную брешь[9]. Брешь заключалась в определении «множества всех множеств, которые не содержат себя в качестве элемента», определение, допустимое в теории множеств, но глубоко противоречивое внутри себя. Стремясь донести роковую природу своего открытия до широкой аудитории, Рассел несколько приукрасил его, приведя в пример аналогию с гипотетическим деревенским брадобреем, «который бреет в деревне всех тех, кто не бреется сам». Условия существования такого брадобрея парадоксальны по тем же самым причинам.
Когда выяснилось, что теория множеств допускает внутренне противоречивые сущности вроде этой, мечта Рассела о том, чтобы полностью обосновать математику, погребла его под своими обломками. Эта травма вселила в него страх перед теориями, которые допускали петли самовключенности или самореференции, поскольку в своем интеллектуальном отчаянии он винил зацикливание и только его.
В попытках восстановиться Рассел, работая со своим давним наставником и новым коллегой Уайтхедом, изобрел новую разновидность теории множеств, в которой множество по определению не могло включать самое себя и, более того, в которой была выстроена строгая лингвистическая иерархия, жестко запрещающая ссылаться на себя любым высказываниям. В «Принципах математики» множества не должны были замыкаться на себя, язык не должен был говорить о себе. Если какой-то формальный язык содержал слово «слово», это слово не могло указывать на себя, только на сущности более низких уровней.
Когда я читал об этой «теории типов», меня поразило это патологическое отступление от здравого смысла и от очарования петель. По какой такой причине слово «слово» не может являться элементом категории «слово»? Что не так с невинными фразами вроде: «Я начал писать эту книгу в живописной деревне в итальянских Доломитах», «Основной шрифт данной главы – Baskerville» или «Эта коробка сделана из перерабатываемого картона»? Эти заявления подвергают кого-то или что-то опасности? Я не могу представить как.
Что насчет «Эта фраза содержит двенадцать слогов» или «Последнее слово в этом предложении – шестисложное существительное»? Обе фразы легко понять, они определенно верны и точно не содержат парадоксов. Даже дурацкие фразы вроде «Девятое слово в этой фразе состоит из пяти букв» или «Десятое слово в этой фразе состоит из девяти букв» не более проблемны, чем фраза «Два плюс два равняется пяти». Все три утверждения либо ложны, либо, в худшем случае, бессмысленны (вторая отсылает к тому, чего нет), но ни в одной из них нет никакого противоречия. Категорическое исключение всех свернутых в петлю отсылок показалось мне таким параноидальным шагом, что я на всю жизнь разочаровался в Расселе, который дует на воду, обжегшись на молоке.