Андрей Курпатов
Deepfake. Где ты? Проснись!

© А. В. Курпатов, 2024

© ООО Издательский дом «Нева», 2025

* * *

Обращаюсь ко всем, кто ещё способен услышать…

Я поверил бы только в то божество, которое умело бы танцевать.

Фридрих Ницше

Извинения, необходимые оговорки и информированное согласие

Видимо, я должен начать с извинений…

Прошу прощения, но эта книга – не для всех. Нет, я не шучу, и это не маркетинговый ход. И дело не в сложности текста, а в том внутреннем вызове, на который надо решиться, чтобы её понять.

Первый вариант книги, который я опубликую отдельно под названием «История твоего „я“», и правда написан достаточно сложно. В нём есть всё необходимое для серьёзной научной работы – специальная терминология, сотни ссылок на учёных и философов, на теории и конкретные статьи, объяснения экспериментов и т. п.

Здесь я всё это «роскошество» безжалостно порезал. Терминология, без которой уж совсем было не обойтись, в этой книге была максимально упрощена и объяснена на понятных примерах.

Признаюсь, труд этот дался мне нелегко. Мне нравится писать сложно – это для меня само по себе интеллектуальное удовольствие. Да и мысль можно сделать более выверенной, точёной, объёмной. Но детали, к сожалению, затемняют основной смысл – главный посыл книги, а именно на этом я бы хотел сейчас сосредоточиться.

Многие читатели «Красной таблетки» благодарны мне именно за доступность и наглядность. Образ «Матрицы», который я использовал, интуитивно понятен: мир – не таков каким он нам кажется. Осознать это – значит принять «красную таблетку» Морфеуса: у нас открываются глаза на ложность прежних истин.

Проблема в том, что признать иллюзорность нашего восприятия – лишь начало пути. Недаром создатели «Матрицы» иронично назвали Морфеуса не каким-нибудь Прометеем, а именем бога сновидений…

Нео вовсе не просыпается, а лишь оказывается в другой Матрице.

Да, он теперь больше понимает про то, как устроен мир. Но что это меняет? Только то, что он оказался в шрёдингеровской суперпозиции – как тот кот в ящике, который и не жив, и не мёртв.

Если мы и в самом деле хотим что-то изменить, нам нужно заглянуть в этот ящик. Котам это не повредит, но способно повредить вашему «я», вашему представлению о себе. И честно признаюсь, я даже на это рассчитываю.

Мы расколдуем ваш мир, столкнёмся со страхом небытия, пройдём, как мифологический герой, через долину смерти. Мы отправимся на поиски подлинности, чтобы обрести её.

Найдём ли? Не могу вам этого обещать. Скажу одно – мы попробуем.

Если же вы ещё не готовы – нестрашно: сработают психологические защиты, и вас просто откинет в начало пути. Наше сознание, столкнувшись с тем, что ему не по зубам, всему найдёт «разумное объяснение» – мы заболтаем свой опыт, начнём его обесценивать… На подобные фокусы наше «эго» тратит все свои силы и всю нашу жизнь.

Так что по большому счёту вы ничем не рискуете. Ну не понравится вам это чтиво – выбросите, не велика потеря. Моё предупреждение важно по другой причине: вы должны внутренне выбрать этот опыт и этот путь, испытать себя. Никто другой не пройдёт наш путь своими ногами.

Эта книга для тех, кто уже стоит на пути. Для тех, кто уже ищет себя, как чёрную кошку в чёрной комнате, и не может найти.

Для тех, у кого уже тревожный сон. И я не буду вас убаюкивать. Наоборот. Так что вам решать – закрыть сейчас эту книгу или отправиться в путь.

Что ж, если вы решите продолжать, то будем считать это «информированным согласием». Я же ещё раз искренне попрошу прощения, если обманул чьи-то ожидания и кот в мешке книжной обложки оказался не тем, что вам грезится. В конце концов, с ним всегда что-то не так.

Итак, все формальности соблюдены. Мы выступаем…

Вместо введения
Системная ошибка

Однажды Чжуан-цзы заснул, и ему приснилось, что он бабочка, которой снится, что она Чжуан-цзы.

Проснувшись, философ долго не мог понять, кто же он – Чжуан-цзы, которому снилось, что он бабочка, или бабочка, которой снилось, что она Чжуан-цзы.

Чжуан-цзы

Вы открываете глаза после долгого ночного сна и вдруг отчётливо осознаёте, что всё вокруг вас… нереально.

Машинально берёте телефон, открываете его, и снова это чувство: всё в нём – подделка. Лента новостей, ваши фото и видео – каждая буква и каждый кадр – всё это какой-то фантастический, невообразимый deepfake.

Вам начинает казаться, что за эту ночь какой-то тайный демон полностью заменил ваш мир. Всё в нём вроде бы на месте – ваша комната, этот телефон, вы сами. Всё так, как и должно быть. Только нет чувства подлинности.

Это словно наваждение, продолжение сна. Наверное, так и есть…

Вы с непривычной тяжестью поднимаетесь с кровати и, пошатываясь, словно не на своих ногах, идёте по тёмному коридору – в ванную. Там зажигаете свет, опираетесь руками на раковину, протираете глаза.

Из зеркала на вас смотрит совершенно незнакомый вам человек.

Что?!

Нет, это вы. Вы – собственной персоной: те же черты лица, те же утренняя отёчность и бардак на голове. Но при всей этой абсолютной внешней схожести вы себя не узнаёте.

Примерно так ощущает себя пациент с синдромом Капгра при старческой деменции: реальность начинает как будто мерцать.

Всё, на первый взгляд, как обычно – те же ситуации, обстановка, лица родственников. Они что-то ему говорят, улыбаются, предлагают чай, о чём-то его спрашивают. В общем, ничего из ряда вон выходящего.

Но пациенту кажется, что его родственников подменили. Будто бы всё это – странный спектакль, где вместо живых людей – куклы, загримированные под его близких. Бездушные актёры, которые лишь прикидываются ими.

И знаете что?

Мы все живём с этим синдромом.

Идеальная подделка

Все мы постоянно галлюцинируем. Просто, когда мы сходимся во мнении относительно этих галлюцинаций, мы называем их реальностью.

Анил Сет

Всё, что мы видим, слышим, чувствуем, думаем, переживаем, – всё это, как мы знаем благодаря современным научным исследованиям, продукт, то есть непосредственное производное нашего мозга. Точнее сказать, это подделки, которые создаёт наш мозг.

Вот простой пример, который часто используют, потому что нагляднее уже сложно придумать…

У каждого из нас есть «слепое пятно». Это участок сетчатки, где зрительный нерв входит в специальное отверстие внутри глазницы.

На этом участке нет светочувствительных рецепторов, а потому в поле нашего зрения, куда бы мы ни посмотрели, всегда должны зиять две чёрные дыры.

Но где же они?

Говорят, что мозг автоматически «закрашивает» эти пробелы, создавая иллюзию целостного изображения. Но на деле ситуация куда удивительнее.

Карл Фристон

В 2018 году директор Лаборатории функциональных изображений мозга при Университетском колледже Лондона профессор Карл Фристон опубликовал статью, в которой обобщил результаты своих и множества других исследований в рамках единой теории «предиктивного кодирования».

Без преувеличения, это одна из самых прорывных работ XXI века в науках о мозге и человеке.

Суть в том, что наш мозг не воспринимает реальность, а пытается предсказывать её на основе уже имеющихся у него данных.

Проще говоря, он постоянно создаёт наиболее вероятный образ реальности.

То есть всё, что вы видите, слышите, ощущаете, – это в действительности продукт вашего воображения. Или, как говорит другой выдающийся нейробиолог современности, руководитель Центра изучения сознания Сассекского университета Анил Сет, «контролируемая галлюцинация».

Только если картинка, созданная нашим мозгом, значимо не соответствует происходящему, он вносит в свою галлюцинацию небольшие правки. И это именно правки – уточнения, коррекция, штрихи, адаптация под задачу, само изображение мира – сделанное.

Вам кажется, что вы смотрите вокруг… Но нет, вы смотрите свой сон.

Вам только кажется, что вы наблюдаете, воспринимаете окружающий вас мир.

Странно ли, что мы никогда не видим своего «слепого пятна»? Нет, но оно должно быть!

Или другой избитый, но очень показательный пример – эксперименты по «бинокулярному соперничеству». Как вы думаете, что вы увидите, если показывать вашему правому глазу одно изображение, а левому – другое? По идее, должно произойти какое-то наслоение изображений, правильно?

Но этого не происходит. Вместо этого ваш мозг «выберет», какое изображение он будет показывать вашему сознанию. И скорее всего, сначала вы увидите одно, а потом – другое, затем снова первое.

Понимаете, в такой ситуации наш мозг буквально отбрасывает половину объективно воспринимаемой им визуальной информации, а мы этого даже не замечаем!

Но если такие штуки возможны со зрительным анализатором, чего мы не замечаем ещё?

И нет, это не какие-то сбои или ошибки. Это нормальная работа нашего мозга. Ну а с позиции нашего сознания, говоря юридическим языком, это просто «добросовестное заблуждение».

Мозг нас обманывает, а мы обманываемся и ничего не можем с этим поделать.

Ещё раз: воспринимаемый нами мир нами не воспринимается!

Ошибка думать, что на нас подействовал какой-то раздражитель, а мы его восприняли, и вот результат. Нет, наш мозг создал представление о реальности, примерил его на неё. И если она активно этому не воспротивилась, мы эту подделку и будем видеть.

«А если воспротивилась?» – спросите вы.

Не переживайте, он сделает другое изображение и воспользуется уже им. Всё наше восприятие мира – грандиозный обман. В экспериментах, к сожалению, это можно показать только на отдельных, относительно простых нейронных процессах. Но это системный эффект, а точнее – системная ошибка.

Вот почему эта книга называется «Deepfake»: реальность, которую мы воспринимаем, иллюзорна.

Она создана нашим мозгом согласно той самой технологии deepfake, когда одно изображение намеренно накладывается на другое.

Впрочем, восприятие – это только цветочки и верхушка айсберга. Ягодки, поверьте, впереди. В самом деле, если нас настолько дурачит вроде бы элементарный процесс восприятия, то представьте, какой неслыханный подлог происходит на уровне сознания!

Что такое, например, наше чувство собственной «личности», нашего «я»?

Художественная аппликация

Реальность бесконечно сложна для нашего познания. Мы должны упрощать.

Олдос Хаксли

Мозг виртуозно создаёт удивительно масштабную и непротиворечивую иллюзию всей нашей реальности – всего привычного нам мира. Диву даёшься, как ему это удаётся! И правда, как?

Фокус в том, что разные элементы «картины реальности» создаются в разных отделах мозга.

Например, затылочная кора создаёт зрительный образ – допустим, внешние черты ваших близких. А чувства, которые вы к ним испытываете, порождаются уже в другой области – в передней поясной извилине, то есть, по сути, в противоположной части мозга.

Теперь вернёмся к нашему больному с синдромом Капгра. Из-за дегенеративных процессов длинные нервные пути должны страдать первыми, правильно? Именно так!

Поэтому больной видит внешность человека – его зрительная кора создаёт образ. А вот эмоции, которые должны это изображение оживить, – то ли затерялись где-то, то ли просто опаздывают.

Представьте, что вы видите человека, который похож на вашего близкого, но вы ничего к нему не чувствуете… Возникнет у вас ощущение, что что-то тут не так? Ну, вероятно.

Итак, всё наше представление о мире всегда создаётся из отдельных восприятий, имеющих разное происхождение.

Представьте, мы берём множество разных карт – то есть буквально разные местности, разные масштабы, – и созданы они под разные задачи: тут – политические карты, там – географические, топографические, экономические, климатические и т. п.

Теперь разрезаем всё это богатство изобразительного материала на множество кусочков и выбираем те из них, что нам особенно симпатичны. Потом склеиваем, как нам заблагорассудится, точнее – ориентируясь, так сказать, на своё эстетическое чутьё.

Аппликация, быть может, получится у нас и очаровательная. Но вот использовать её в качестве карты… Нет, я бы не рекомендовал. Однако же мозг действует именно так. И не потому, что он дурак, а потому, что так и задумано.

У мозга множество разных карт под разные задачи, ему ведь приходится заниматься кучей проблем – от артикуляции звуков и слаженной работы сфинктеров до удержания определённого положения тела и контроля количества кислорода в крови.

Какой смысл следовать какому-то единому, общему, генеральному плану?

Нет, он живёт и трудится в режиме управляемого хаоса. Да, в нём есть множество, как бы сказали теоретики того самого хаоса, аттракторов – то есть центров сгущения нервных напряжений.

Но они случайны.

Почему метеорологам так сложно предсказывать погоду? У них уже и космические спутники есть, и суперкомпьютеры, а прогнозы – ну такое… Просто погода – классический пример хаотической системы.

Тысячи факторов – температура воздуха в разных слоях атмосферы, влажность, давление, направление и сила ветра, рельеф местности, океанские течения… И всё это влияет одно на другое, создавая бесконечно сложную сеть взаимодействий.

Однако же в этом хаосе возникают сгущения – те самые аттракторы. Мы называем их циклонами, антициклонами, фронтами. Их формирование – спонтанно, да и существуют они лишь какое-то время, а затем распадаются. Но пока они действуют, мы наблюдаем бури, ураганы, штормы и цунами.

В мозге всё происходит ровно таким же образом. Нет единого центра управления или генерального плана, а лишь постоянное взаимодействие миллиардов нейронов, каждый из которых реагирует на сигналы от своих соседей.

И в этом хаосе спонтанно возникают временные «сгустки активности» – те самые аттракторы, но уже не погодные, а психические.

Целостная картина нашей психической реальности чудесным образом складывается из разрозненных сигналов – визуальных образов, звуков, ощущений, воспоминаний, пережитого опыта, интерпретаций, спонтанных, инстинктивных внутренних импульсов, гормональной активности, эмоций, каких-то знаний.

Получающийся коллаж может быть очень убедительным – как прогноз погоды на завтра. Но чем дальше мы пытаемся заглянуть и чем глубже пытаемся понять происходящее, тем больше растёт неизвестность.

Долгосрочный прогноз погоды – это по большому счёту лишь догадка, пальцем в небо. Так и с нашей психикой – какие-то «сезоны» есть, но вот что там в конкретный миг случится – это неизвестно.

С какой ноги вы сегодня встали? Быть может, это и неважно. А возможно, это окажется тем взмахом крыльев бабочки в низовьях Амазонки, что приведёт к урагану в Нью-Йорке.

Наш мозг, как изящно выразился выдающийся нейрофизиолог Алексей Алексеевич Ухтомский, —

это просто «бесконечная борьба доминант».

Вот и нет человека

Мир нашего повседневного опыта – мир столов, стульев, звёзд и людей, мир форм, запахов, ощущений и звуков – это присущий исключительно нашему биологическому виду интерфейс между нами и гораздо более сложной реальностью.

Дональд Хоффман

То, что испытывает человек с синдромом Капгра, – это только иллюстрация, по сути, нормального психического процесса. Примерно то же самое происходит с вами прямо сейчас, без всяких деструкций и дегенерации мозговой ткани.

Но согласитесь, возникает вопрос: почему же в таком случае наше представление о реальности в общем и целом так гармонично?

Частично на вопрос о «внутренней непротиворечивости» нашего восприятия я уже ответил: всё дело в «эстетическом чувстве», с которым мы собирали нашу аппликацию из обрезков случайных карт. Но это если выражаться образно, а для желающих есть, конечно, и научное обоснование.

Например, замечательная в своём роде «теория мультимодального пользовательского интерфейса», разработанная блестящим когнитивным психологом из Калифорнийского университета – Дональдом Хоффманом.

И поскольку мы решили, что не будем отвлекаться на детали, перейдём сразу к сути. Каждый отдел нашего мозга имеет свою эволюционную историю и приспособительную задачу.

Он не создавался для поисков истины или объективного восприятия мира: он – просто «умная» приставка к сложной биологической системе.

Своего рода – джойстик для тела или тот самый «мультимодальный пользовательский интерфейс» Дональда Хоффмана.

Организм человека – это биологическая система, которая движима встроенной в него потребностью в выживании. А мозг – лишь программа под эту биологическую задачу. Так почему мир кажется нам таким, каким мы его воспринимаем?

Просто потому, что такая галлюцинация эффективна для выживания нашего организма.

Причём когда-то была эффективна – когда его жизнь действительно зависела от правильного выбора пищи, для защиты от угроз и воспроизводства генетического материала и т. п.

По большому счёту – это просто случайность, что мир видится нам именно таким, как мы его воспринимаем.

А единое полотно наших переживаний – это просто результат бесчисленных склеек мокрого с круглым, красного с быстрым и толстого с пустым.

Множество отдельных фигур, залакированных послушным сознанием.

Чтобы как-то компенсировать недостаток научной аргументации, я, с вашего позволения, воспользуюсь личным опытом. Всё-таки я по профессии врач-психиатр, и «сломанных» буквально на ровном месте картин реальности я повидал предостаточно.

Впрочем, это прямо личная-личная история. Так уже случилось, что в 1997 году, буквально перед выпуском из Военно-медицинской академии, я загремел в неврологическую реанимацию с периферическим параличом.

Соседи по реанимации у меня не отличались готовностью к коммуникации – тяжёлые инсульты, отёки мозга и т. п. По большей части у нас было тихо, как в могиле, иногда в буквальном смысле этого слова.

Но однажды к нам подселили невероятно бодрого для нашей тихой компании пациента. Это был ещё молодой мужчина около 40 лет с корсаковским синдромом. Последний, доложу я вам, будет даже поярче, чем синдром Капгра. Но он уж слишком суетный, чтобы иллюстрировать им тонкости работы мозга. А вот для общей иллюстрации – самое то.

Человек в этом состоянии просто напрочь дезориентирован во времени, пространстве и собственной личности. То есть он буквально не понимает, кто он и где, что происходит и какую он во всём этом играет роль.

Самой драматичной, конечно, выдалась первая ночь. При госпитализации его накачали нейролептиками, чтобы он сильно не куролесил. Но к ночи их действие пошло на спад, и я встретился с его галлюцинозом самым неотвратимым для себя образом.

Хорошо помню, как он командовал пиратской шхуной, попавшей в шторм. Лёжа на кровати, он уверенно отдавал мне команды, не сомневаясь, что я матрос из его команды. Видимо, при заезде в реанимацию он видел кого-то из моих однокурсников в морской форме, которые узнавали у персонала, как мои дела. Его мозг, можно предположить, выхватил один факт и начал в своём внутреннем хаосе грезить пиратами и штормами.

Поскольку я сам лежал с параличом, мне даже при желании с этого «корабля» было не сбежать, а медперсонал, как назло, куда-то отлучился. Ну и что делать? Я подыгрываю, вяло рапортую – мол, всё хорошо, капитан, грот-мачта восстановлена, ветер слабеет!

И вроде бы он унимается, а я погружаюсь в тяжёлую дрёму.

Следующий кадр: он стоит у моей кровати с явным намерение помочиться под мою капельницу. Ну да, если сильно напрячь воображение, то можно, наверное, представить себе, что банка сверху – это что-то вроде сливного бачка (такая конструкция туалетов была тогда в ходу). Вопрос: что мне-то делать?!

– Подожди, – кричу, – этот унитаз сломан! Вон, можно в раковину!

Показываю ему в направлении аппарата для вентиляции лёгких, он поворачивается и уверенно идёт туда, а я пока пытаюсь дозваться дежурного. Ну и дальше всё примерно в таком духе…

Не знаю, что точно приключилось с этим бедолагой: его быстро перевели в психиатрию. Но скорее всего, это был небольшой инсульт в зоне гиппокампа – маленькая аневризма лопнула. Внешне, как вы понимаете, он выглядел совершенно нормально – ходил, говорил, реагировал.

Однако же одно небольшое поражение мозга, не затронувшее ни одной значимой функции, смогло полностью лишить человека личности.

А его мозг стал видеть сны наяву – по-научному, конфабулировать – собирать из каких-то обрывков целостное представление о том, что происходит вокруг.

Помню, как на следующий день к нему пустили жену – она что-то ему рассказывала, о чём-то спрашивала, поила простоквашей. Он с ней общался, всё вроде бы хорошо. Но когда она ушла, он повернулся ко мне и спросил заговорщицким тоном: «А кто это была?» Я ответил: «Твоя жена». «А-а…» – произнёс он, словно бы мы говорили о чём-то совершенно отвлечённом.

Все базовые элементы сознания были на месте – речь, память, поведенческие паттерны. Но не было главного – непрерывности личного опыта – нашего «я». Да, оно – лишь иллюзия, возникающая из последовательности образов.

Маленький сосудик лопнул – тончайший, почти микроскопический, – образы перестали цепляться друг за дружку… И, как карточный домик, разлетелась вся сложная конструкция личности. Был человек, и нет человека. Хотя все прочие элементы системы вроде как и работают совершенно исправно.

То, что мы считаем монолитным и незыблемым основанием нашей личности, на самом деле – лишь тончайшая плёнка иллюзии, натянутая над бездной. Но мы даже не догадываемся об этом.

Так чего стоит наша уверенность в прочности собственного «я»?

Бастион сознания

Если мы все – лишь сумма нашей биологии и окружающей среды, над чем мы не имеем никакого контроля, нет смысла возлагать на нас ответственность за всё, что мы делаем.

Роберт Сапольски

При всей пугающей необычности синдромов Капгра или Корсакова, тут нет ничего удивительного с неврологической точки зрения. Когда нервные связи нашего мозга, подобно деталям старого автомобиля, начинаются сыпаться, единство личности разваливается. Ведь оно держится буквально на честном слове.

Но почему мы этого не замечаем? И главное – почему об этом никто ничего толком не говорит?

Напротив, те же философы продолжают дискутировать о теориях сознания. Может быть, вы что-то даже слышали о «квалиа» Томаса Нагеля, о «трудной проблеме» Дэвида Чалмерса, «китайской комнате» Джона Сёрля…

Всё это без конца обсуждается, причём на полном серьёзе! Зачем? Мы уже знаем, что всё это в лучшем случае прошлогодний снег. Чего ради? Какая-то борьба за научные гранты и просто хайп? Нет, на самом деле на кону, возможно, самый страшный вопрос. И он политический.

Нейробиология уже поставила на наших представлениях о сознании жирный крест.

Не буду повторять набивший оскомину эксперимент Бенджамина Либета полувековой давности. Он делался на коленке, без современного оборудования. Но и этого оказалось достаточно, чтобы наглядно продемонстрировать, что наше сознание ничего собой не представляет.

Хаос напряжений создаёт какие-то сгущения, а сознанию остаётся их только оправдывать: «О, хорошая идея! Так и сделаем!» Как часто вы и сами говорите – «мне в голову пришла мысль», «мне тут подумалось»… Что?! Откуда пришла? Что значит «подумалось»? Кем?

Мозг что-то в себе «сварил», к каким-то выводам внутри своего хаоса пришёл, а потом просто сыграл в беспроигрышную лотерею – в поддавки с нашим сознанием.

Каждый божий день мы рассказываем себе истории о том, как мы что-то «решили», «выбрали», «осознали». Но это только иллюзия…

И мы даже не замечаем, насколько зачастую противоречим себе, как меняем свои «твёрдые убеждения», как объясняем одни и те же поступки разными мотивами. Можно сколько угодно строить теории личности, рассказывать про ответственность и рассуждать о свободе воли. Но это лишь случайный узор нейронной активности.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.