Дмитрий Волков
Свобода воли. Иллюзия или возможность
3. Интерпретация мысленного эксперимента
Мысленный эксперимент «Два черных ящика» хорош своим почти детективным сюжетом, и вряд ли есть читатель, который хотя бы чуть-чуть не был заинтригован любопытным аппаратом и его свойствами. Однако нас интересует польза, которую философские исследования ментального могут получить от подобной иллюстрации. Не является ли эта громоздкая мысленная конструкция чем-то вроде «машины Руба Голдберга», чрезвычайно сложным и запутанным устройством для осуществления простейшей функции? Быть может, задачу, которую решает мысленный эксперимент, можно решить более лаконичным образом? Да и в чем состоит эта задача?
Эта история, насколько мне известно, была опубликована в двух книгах Деннета: «Опасной идее Дарвина» (1990) и монографии «Помпы для интуиции» (2013)[19]. И в обоих случаях автор представлял лишь очень краткое разъяснение этого мысленного эксперимента. Поэтому я приведу собственную интерпретацию. С моей точки зрения, мысленный эксперимент Деннета иллюстрирует каузальную эффективность высокоуровневых свойств. Только этим можно объяснить функционирование этой сложной системы.
Рис. 3. Два черных ящика Д. Деннета
Описанная Деннетом система состоит из двух уровней. На базовом уровне ее функционирование определяется последовательностями из символов: нулей и единиц. А на высоком уровне последовательностями из утверждений: утверждения могут быть ложными или истинными. Поскольку каждый раз из ящика А в ящик Б передается новое закодированное сообщение, из одной только последовательности символов невозможно предсказать, какой индикатор загорится. Также с помощью одной только ссылки на последовательность входящих символов невозможно объяснить результат, цвет индикатора. На вопрос, почему в случае отправки некоторых последовательностей загорается красный индикатор, а не какой-то другой, есть только один удовлетворительный ответ: потому что эти последовательности в закодированном виде выражают истинные, а не ложные утверждения о мире. По замыслу Деннета, единственным способом объяснить и предсказать, почему и какой индикатор загорится, является ссылка на свойство высокого уровня, в данном случае – семантическое. Таким образом, результатом мысленного эксперимента можно считать следующие два тезиса:
(1) Механическая система, состоящая из двух соединенных ящиков и спроектированная для выполнения синтаксических операций, проявляет семантические свойства. То есть помимо низкоуровневых, базовых свойств, она обладает высокоуровневыми свойствами.
(2) Свойствами, которые определяют регулярность и каузальную связь между нажатием кнопок на одном ящике и вспышками индикаторов на другом, являются эти семантические, высокоуровневые свойства последовательностей.
Синтаксические свойства, то есть последовательности битов, не содержат какого-то общего паттерна и потому не могут обосновывать каузальную закономерность. Синтаксис и семантика одновременно присутствуют в системе, но только семантические свойства имеют каузальную силу. Это не уникальный случай такого сочетания свойств. Вот, к примеру, человек идет по песчаному пляжу и оставляет за собой след. Этот след зависит от формы подошвы и веса человека, но никак не от цвета и материала подошвы. В предшествующем событии реализованы разные свойства, но только некоторые из них каузально эффективны. Вымышленная ситуация Деннета построена так, чтобы продемонстрировать, как семантическое содержание может быть каузально релевантным свойством, как форма или вес, а не как цвет или материал по отношению к следу на песке. Но, вероятно, каузальную действенность семантических свойств в механической системе можно было продемонстрировать как-то проще?
Аппарат Деннета напоминает светофор, управляемый вручную. Две кнопки на одном устройстве зажигают соответствующие лампочки на другом. Такая модель светофора демонстрировала бы (а) каузальную регулярность. Но этого недостаточно для философских целей. Для объяснения каузальной регулярности и предсказания состояний такого «светофора» достаточно описаний физического уровня. Чтобы появилась (б) возможность описывать работу «светофора» на интенциональном уровне, система должна демонстрировать автономность, хотя бы в какой-то степени управляться изнутри и реагировать избирательно на входящие сигналы. Тогда можно будет описывать процесс так: отправленные первым компьютером данные второй компьютер «считает» соответствующими такому-то цвету. Кажется, необходимую автономность система начинает демонстрировать тогда, когда впервые загорается оранжевый индикатор. Но только возможности приписывать интенциональные состояния тоже недостаточно. Необходимо (в) заблокировать возможность предсказаний на основе только лишь синтаксического анализа. Для этого нужно создать ключ для генерации бесконечного числа последовательностей, сохранив при этом регулярность в работе системы. Ключ должен находиться вне системы, чтобы его нельзя было обнаружить и расшифровать. Таким ключом в аппарате Деннета является описание внешнего мира. «Именно тот факт, что каждый ящик несет в себе многообразную семантическую связь с одним объектом (описанием мира. – Д. В.), выраженную, однако, в разной “терминологии” и по-разному аксиоматизированную, является основой регулярности» [Dennett 2013, 195].
Возможно, ключом мог быть также какой-то внешний текст, например текст «Войны и мира» на двух языках. Но тогда синтаксические последовательности, содержащие этот текст в закодированном виде, были бы конечными. А значит, со временем, даже не зная ключа (текста Толстого), ученые смогли бы предсказывать, какая последовательность будет «красной», а какая – «зеленой». Мне кажется, установка действительно соответствует минимальным требованиям и не чересчур усложнена. Но достигает ли Деннет с ее помощью поставленных целей? Удается ли ему показать, что семантические высокоуровневые свойства способны обладать каузальной эффективностью в механических системах?
4. Критика телеофункционализма и возможные ответы
A. Невыполнимость условий мысленного эксперимента
На первый взгляд, описанный выше аппарат представим и возможен. Но уверенность в этом рассеивается, стоит лишь обдумать механизм его функционирования более тщательно. Видимо, программисты фактически все-таки не могли реализовать аппарат так, чтобы свойства «быть истинным» или «быть ложным высказыванием» регулярно вызывали соответствующую цветовую индикацию. Во-первых, истинность части высказываний должна со временем быть опровергнута, во-вторых, что-то должно было измениться с момента создания базы и, в-третьих, то, что было истинным для машины А, могло не быть истинным для машины Б. К примеру, высказывание «Изотоп антигелия-4 был зарегистрирован на ионном коллайдере RHIC» могло быть ложным до 2011 г., истинным после 2011 г. и даже бессмысленным до появления слов «изотоп», «антигелий» и «ионный коллайдер». А выражение «Мою программу написал Эл» истинно для первой машины и ложно для второй. Таким образом, в работе аппарата отсутствовали бы регулярности, которые описаны в мысленном эксперименте. И, при нажатии α, на ящике Б иногда загорался бы красный индикатор, а иногда – зеленый и даже оранжевый.
Парировать возражение можно небольшим усовершенствованием эксперимента. Допустим, что программисты предварительно договорились, какие истины включить в экспертную программу. Тогда их базы данных должны соответствовать друг другу, а регулярность работы аппарата – соблюдаться. Но в таком случае неясно, что является каузально эффективным свойством. «Быть истинным» или «быть ложным выражением» в качестве таких свойств уже не работают. Так как в случае с предварительно согласованной базой высказываний программисты могли бы допустить совместные ошибки. Также в ходе исследования ящиков ученые могли случайно набрать последовательность символов, которая была бы истинной, но при этом не вошла бы в согласованный массив знаний Эла и Бо. В качестве кандидата на каузальную эффективность можно принять свойство «быть истинным выражением для… машин А и Б»[20]. Но оправданно ли это?
B. Машина не обладает семантическими свойствами
Далеко не очевидно, что машины могут иметь убеждения. Для многих даже очевидно обратное. По крайней мере, машины, как они описаны в мысленном эксперименте Деннета, точно не представляются мыслящими существами. Поэтому эти машины вряд ли могут считать что-то истинным или ложным. Но высказывание может быть истинным или ложным для самих программистов. Тогда правильней всего свойством верхнего уровня считать только свойство «быть истинным или ложным для Эла и Бо». Иначе говоря, в аппарате Деннета нельзя найти высокоуровневых интенциональных свойств, для их наличия нужны программисты. Таким образом, мысленный эксперимент возвращает нас к исходным пунктам, к необъяснимой и противоречивой ментальной каузальности.
Так допустимо возражать, если предполагать возможность каузальной связи между событиями, отстоящими во времени и пространстве. Ментальные состояния агентов, безусловно, имели отношение к работе этого аппарата тогда, когда программировалась база знаний. Но в момент нажатия кнопок они уже не имеют значения. Для верности можно представить, что два ящика были раскопаны следующими поколениями на месте, где раньше находился Лос-Анджелес, например в 3105 году. К тому времени программисты давно уже умерли. Вряд ли уместно говорить, что каузальным действием обладают ментальные состояния уже несуществующих людей.
На это можно ответить: пусть между ментальными состояниями программистов и состоянием компьютеров в момент исследования нет контакта, но генеалогическая связь прослеживается. Ментальные состояния программистов повлияли на исходные состояния компьютеров, а эти исходные состояния каузально связаны с каждым последующим их состоянием, и так – до самого последнего, до момента, когда ученые начали исследовать ящики А и Б в лаборатории. Помогает ли такое рассуждение преодолеть временной зазор? Допустим, но тогда можно дальше усовершенствовать мысленный эксперимент. Например, можно представить, что массив истинных данных был получен путем сбора информации о внешнем мире непосредственно машинами-роботами. Тогда ментальные состояния не будут иметь прямого отношения к последовательностям битов. Впрочем, скептик и здесь, наверное, не будет удовлетворен. Он может спросить: а реализуем ли такой сценарий? Возможно ли создать самообучающуюся энциклопедию? И даже если возможно, что будет обозначать информация, собранная машиной? Разве машина вообще может быть чувствительна к семантическим содержаниям? Она способна распознавать и совершать операции только с формами, содержание которых может быть интерпретировано сознательными мыслящими агентами. Но сама машина не способна интерпретировать эти сигналы. Только для мыслящих существ последовательность битов обозначает истинное высказывание или что-то еще. Только мыслящие существа наделяют материальные объекты смыслом. Машина – только инструмент, а никак не мыслящий агент.
Это возражение достаточно популярно. Одним из самых влиятельных сторонников такой позиции является уже известный нам и Деннету Джон Сёрл. Поэтому неудивительно, что в текстах Деннета можно найти развернутый подходящий ответ. Это – еще одна вымышленная история, или помпа для интуиции. Новая история Деннета должна подорвать уверенность в том, что только сознательные разумные существа наделяют знаки значением.
«Итак, предположим, вы решили по каким-либо причинам продлить свою жизнь и узнать, что произойдет в двадцать пятом веке» [Dennett 1996, 295], – начинает свою историю автор. Чтобы дождаться этого момента, придется длительное время провести в состоянии глубокого сна, комы. Когда вы проснетесь, ваших детей и внуков уже не будет. Так что нужно заранее позаботиться о сохранности тела, например создав специальную защитную капсулу. Создание такой капсулы для хранения – не единственная забота. Нужно обеспечить ее снабжение и безопасность. Выбирать придется между двумя вариантами. Первый – сразу найти идеальное место, куда будут подведены источники питания и энергии. Этот вариант плох тем, что обстоятельства могут измениться и идеальное место может перестать быть таковым. Второй вариант – создать движущуюся конструкцию, гигантского робота, и установить капсулу в него. Вторая, более сложная идея, требует, чтобы робот был способен «выбирать» то или иное действие исходя из ваших интересов. У него должны быть органы восприятия, способность управлять движением, даже планировать. В конечном итоге сложно предсказать, какие неприятности могут произойти в следующие столетия. К тому же нельзя исключать возможности создания других таких же роботов, которые будут бороться за ограниченные ресурсы, продолжает Д. Деннет. Вполне возможно, роботу придется состязаться или сотрудничать с ними. В таком случае его нужно запрограммировать так, чтобы, обладая основной целью (обеспечить ваше выживание), он мог выстраивать и свои, промежуточные. Вполне возможно, эти цели даже в какой-то момент станут преобладать, даже вступят в противоречие с основной целью. Его может толкнуть на самоубийство другой робот, стремящийся подчинить все окружающее своей миссии. Или заставить помогать и защищать другой организм. В соответствии с описанием Деннета, очевидно, что программа и поведение такого робота должны быть очень сложными. Такой робот даже, наверное, прошел бы тест Тьюринга: по поведению его сложно будет отличить от обычного человека. Ему можно будет приписать подлинные интенциональные состояния. Он будет вести себя так, будто мыслит, имеет убеждения и желания… хотя все это будет запрограммировано вами заранее. Разве он не будет мыслящей машиной?
Если все это не убедило вас, значит, вне зависимости от деталей, вы не способны допустить интенциональность у любых механических объектов. Но если это так, вы… не способны допустить существование интенциональности даже у людей. История в руках Деннета вдруг обретает неожиданный оборот. До этого момента она могла показаться несуразной и уж слишком надуманной фантастикой. Но Деннет объявляет, что она – всего лишь немного замаскированная история эволюции человека, вариация на тему, представленную в знаменитой книге этолога и эволюционного биолога Ричарда Докинза «Эгоистичный ген» [Dennett 1996, 298].
Две стратегии выживания в биологической истории обозначают стратегии выживания двух царств: растений и животных. А сам робот – это мы. Как ни парадоксально, люди – это машины для выживания генов, продукт их творчества. Это их эгоистичные планы мы выполняем, их цели, а не наши собственные, являются нашим raison d’être. В своей основе гены, конечно, весьма просты. Но они обладают бессознательной целенаправленностью: «желанием» сохранять собственную «жизнь» и преумножать число своих копий. И им удается реализовать свои планы. Жизнь одного гена намного дольше человеческой. Она почти бесконечна. Так кто кем в результате управляет, мы генами или гены нами? Кто стоит у руля? Правда, управление генов организмом происходит не в реальном времени, не как управление, скажем, марионеткой. Генам приходится предвидеть все заранее. Поскольку точные условия окружающей среды в будущем для них неизвестны, они строят самые общие предположения о рисках и возможностях. Направляя синтез белка, они программируют функциональность организма задолго до того, как «механизм выживания» встретится с реальными опасностями. Когда их работа проделана, организму приходится справляться самостоятельно. Но тем не менее именно гены остаются в центре эволюционного процесса и являются авторами «наших» замыслов.
Деннет считает, что наличие исходно семантической составляющей в нашем сознании – это иллюзия. «[Мозг] не может быть создан, чтобы решать невозможную задачу, но он может быть создан так, чтобы решать ее приближенно, подражая работе невозможного объекта (семантического процессора)» [Dennett 1996, 61]. Мозг решает эту задачу, используя соответствия между структурными (синтаксическими) закономерностями в своем внутреннем устройстве и окружающей среде. Правда, что мы оперируем интенциональным содержанием, точнее, как бы оперируем. Но даже люди не обладают первичной, внутренней интенциональностью. Значениями состояния и действия людей наделяются постепенно, в ходе эволюционного процесса, во взаимодействии с миром. И этот процесс не имеет абсолютного завершения. Семантические свойства в любом случае производны. И четкой грани между только лишь «синтаксическими операциями» и «семантическими операциями» не может быть. Допущение четкой разделительной линии между ними – это тупиковый путь, ошибочный путь эссенциализма, на который философия все время норовит свернуть, может быть, еще со времен Сократа.
Абсурдность философского поиска сущностных свойств и проведения повсюду границ Деннет иллюстрирует с помощью псевдоаргумента, Аргумента о невозможности существования млекопитающих [Dennett 2013, 240]:
1. Каждое млекопитающее имеет мать-млекопитающее.
2. Если млекопитающие существуют, их к настоящему времени было конечное количество.
3. Но у каждого млекопитающего должна быть мать-млекопитающее. Тогда к настоящему времени должно быть бесконечное количество млекопитающих. Это приводит к противоречию с пунктом 2.
Из этого аргумента будто бы следует, что млекопитающих не существует. Но это же абсурд. Несмотря на формальную корректность аргумента, следствие ложно. Ошибочны посылки, скрытое в них предположение наличия четкой грани между млекопитающими и их предками. И полностью автономные семантические двигатели – это такая же химера, как «первое млекопитающее». Млекопитающие постепенно эволюционируют из рептилий. И между двумя видами стоит множество транзитных «как бы млекопитающих» и их матерей (животных из отряда терапсидов). Аналогичным образом эволюционируют и семантические двигатели. Они не появляются внезапно. Более того, идеального семантического двигателя не существует. Поэтому вряд ли стоит удивляться, что воображаемый аппарат из двух ящиков не может абсолютно точно схватить свойство «быть истинным выражением». Он работает на «почти истинных выражениях» в большинстве случаев; впрочем, как и мозг человека.
C. Высокоуровневые свойства в принципе не обладают каузальной эффективностью
Впрочем, оппонент Деннета мог бы усомниться и в другом тезисе автора: в том, что в мысленном эксперименте с «Двумя черными ящиками» каузально эффективным свойством является какое-либо высокоуровневое свойство. Оппонент мог бы попытаться доказать, что в реальности каузальная сила есть только у другого, низкоуровневого физического свойства, например у свойства «быть частью такого-то блока данных». При реализации базы вероятней всего, что истинные выражения располагались в каком-то одном блоке, скорее всего даже пространственном, а ложные – в другом. Тогда каузальным действием обладают не семантические характеристики, а, например, пространственные.
Пространственное расположение действительно могло быть общностью, отличающей одни наборы битов от других. Но данные на жестком диске могли располагаться по-разному. Даже если пространственная общность существовала, она не была обязательной. При смене «места» хранения последовательности она все равно вызывала бы ту же ответную реакцию второй машины. То есть пространственная общность являлась бы общностью случайной, в отличие от общности семантической. Это была бы случайная корреляция, а не каузальная зависимость.
Аналогичным образом в качестве претендента на каузальную роль не подходит и характеристика «принадлежать к блоку данных, связанных с α», так как вполне возможно, чтобы последовательности были связаны иначе, но регулярность бы соблюдалась. (Под этой регулярностью я подразумеваю отправку на второе устройство все время различных последовательностей битов без синтаксических и иных общностей и способность второго ящика отсортировывать их должным образом.) Для примера представим такое устройство, в котором металлический стержень соединяет между собой взрывчатое вещество и открытый огонь. Пока теплопроводность металлического стержня низкая, взрыва не происходит, так как недостаточно тепла передается от огня. Но стоит повысить теплопроводность стержня (например, заменив его на стержень с другим химическим составом), как произойдет взрыв.
Существует, однако, еще один верный способ произвести взрыв такого устройства. По закону Видемана – Франца, теплопроводность всегда при нормальных условиях коррелирует с электропроводностью (так как оба этих свойства обуславливаются движением свободных электронов). Соответственно, повышая электропроводность стержня в устройстве (заменяя химический состав стержня), мы также создаем условия для взрыва. При этом кажется, что электропроводность является только сопутствующим свойством, а не каузально эффективным[21].
Описанное выше устройство демонстрирует, что только одно из двух коррелирующих между собой свойств может быть каузально эффективным. При этом в случае с данным устройством корреляция высокоуровневых свойств систематическая, регулярная. А в случае с пространственным расположением данных корреляция явно случайная, нерегулярная, несистематическая. Последовательности битов могут располагаться как угодно, при этом истинные выражения, «выражения, истинные для машин Эла и Бо», будут вызывать один и тот же эффект. Контрфактический анализ помогает определить, какое из свойств антецедента является каузально эффективным, а какое – нет. И именно семантическое свойство выдерживает контрфактическую проверку, а не низкоуровневое физическое.