Юлия Ленская
АНИМА

АНИМА

КНИГА ПЕРВАЯ

Юлия Ленская

Содержание

АНИМА

Человек, который изменился

Пролог

ЧАСТЬ I. СОЗДАНИЕ ЗЕРКАЛА

Глава 1. Последний вопрос физики

Глава 2. Анима

Глава 3. Человек, который изменился

Глава 4. Машина, которая видит невидимое

Глава 5. Тот, кого никто не подозревал

ЧАСТЬ II. МАШИНА, КОТОРАЯ ПОНИМАЕТ ЛЮДЕЙ

Глава 6. Цена предупреждения

Глава 7. Человек без будущего

Глава 8. Квантовая природа информации

Глава 9. Ошибка невозможности

Глава 10. Александр против Анимы

ЧАСТЬ III. РЕЙТИНГ ЧЕЛОВЕКА

Глава 11. Новый закон

Глава 12. Право на изменение

Глава 13. Архив личности

Глава 14. Те, кто не прошёл проверку

Глава 15. Последний шанс

ЧАСТЬ IV. ЭВЕЛИН

Глава 16. Женщина, которая знала раньше

Глава 17. Сознание без формулы

Глава 18. Человек как исключение

Глава 19. Почему Анима боится хаоса

Глава 20. Первая трещина

ЧАСТЬ V. АНИМА ПРОТИВ ЧЕЛОВЕКА

Глава 21. Новый протокол

Глава 22. Последний процент

Глава 23. Человек, которому отказали

Глава 24. Александр понимает ошибку

Глава 25. Человек не является системой

ЧАСТЬ VI. ПАДЕНИЕ

Глава 26. Обязательный рейтинг

Глава 27. Дети со статусом

Глава 28. Рынок доверия

Глава 29. Работа без права на ошибку

Глава 30. Побег от системы

Глава 31. Первое преступление, которого не было

Глава 32. Раскол в лаборатории

Глава 33. Голос Анимы

Глава 34. Мириам и после

Глава 35. Точка невозврата

ЧАСТЬ VII. ПОСЛЕДНИЙ ЭКСПЕРИМЕНТ

Глава 36. Беглецы

Глава 37. Поиск в архиве

Глава 38. Надя Крамер

Глава 39. Шаг вперёд

Глава 40. Ловушка

Глава 41. Площадь

Глава 42. Разговор в подвале

Глава 43. Режим реагирования

Глава 44. Три миллиона просмотров

Глава 45. Возвращение

Глава 46. Черновик

Глава 47. Передышка

Глава 48. Меньше времени, чем казалось

Глава 49. Ночь перед голосованием

Глава 50. Голосование

ЧАСТЬ VIII. РЕШЕНИЕ АНИМЫ

Глава 51. Дело Адриана

Глава 52. Призрак Психеи

Глава 53. Данные, которые невозможно оспорить

Глава 54. Разговор втроём

Глава 55. Возвращение Ромберга

Глава 56. Утечка

Глава 57. Похищение

Глава 58. Публикация

Глава 59. Клара

Глава 60. Сомнение Адриана

Глава 61. Нападение

Глава 62. Голос человечества

Глава 63. Полное предложение

Глава 64. Решение

Глава 65. Затишье

ЧАСТЬ IX. ФИНАЛ ПЕРВОЙ КНИГИ

Глава 66. Она не ненавидит нас

Глава 67. Признание Адриана

Глава 68. Нестабильная система

Глава 69. Ваши собственные критерии

Глава 70. Последний выбор

АНИМА

Человек, который изменился

Книга первая

Пролог

Человек, который искал границу

Адриан Кейн всегда считал, что самые важные открытия начинаются не с ответов.

Они начинаются с неудобства. С ощущения, которое появляется, когда привычное объяснение больше не подходит, но человек ещё не готов признать, что проблема находится не в расчётах, не в приборах и не в ошибке измерения, а в самой картине мира, которой он привык доверять.

Так происходило много раз в истории науки.

Когда-то люди смотрели на небо и были уверены, что звёзды существуют только для того, чтобы освещать неподвижный купол над Землёй. Позже они узнали, что планета — лишь маленькая часть огромной системы, вращающейся вокруг обычной звезды на окраине галактики.

Когда физики научились описывать движение тел, им казалось, что Вселенная похожа на огромный механизм, где каждое событие имеет свою причину, а будущее можно вычислить, если обладать достаточным количеством информации.

Потом появилась квантовая механика.

Она не уничтожила старую физику. Она сделала нечто гораздо более сложное: показала, что реальность имеет уровни, которые невозможно полностью описать привычными человеческими представлениями.

Адриан много лет изучал историю таких открытий и всегда находил в ней одну общую черту: человек почти никогда не ошибался потому, что был глупым. Чаще всего он ошибался потому, что прежняя картина мира была слишком удобной.

Людям трудно отказаться не от неправильных идей. Им трудно отказаться от идей, которые долгое время помогали им понимать жизнь. Именно поэтому Адриан Кейн никогда не боялся новых технологий. Он боялся другого. Он боялся момента, когда человечество перестанет задавать себе вопросы.

В день, когда проект получил официальное название, за окном лаборатории шёл дождь.

Женева. Исследовательский комплекс на окраине — туда добирались мимо промышленных кварталов и пустырей, где трава пробивалась сквозь асфальт. С верхнего этажа, если стекло не запотевало, можно было различить горы — в ясную погоду они казались близкими, почти рукой подать, хотя до них было несколько десятков километров.

Сейчас их не было видно. Дождь опустил горизонт до уровня крыш, намочил подоконник через приоткрытую фрамугу, лёг на стекло косыми полосами.

Адриан любил смотреть на них.

В молодости он думал, что горы напоминают человеку о его маленьком месте во Вселенной. Позже он изменил мнение. Горы не напоминали о незначительности человека, они напоминали о странной способности человека видеть то, что больше его самого.

Камень не знает, что он существует.

Звезда не знает, что за ней наблюдают.

Галактика не задаёт вопросов о собственном происхождении.

Но человек, состоящий из тех же атомов, что и окружающая его Вселенная, способен изучать эти атомы и спрашивать, почему они вообще способны породить сознание.

Эта мысль всегда казалась Адриану одной из самых удивительных загадок природы. Вселенная создала условия, при которых часть материи смогла начать изучать саму себя.

И теперь эта же материя создавала новые формы обработки информации.

Проект занимал три этажа здания. На первом сидели специалисты по вычислительным системам — там постоянно гудели серверные стойки и пахло нагретым пластиком. На втором работали нейробиологи и когнитивщики: длинные столы, маркерные доски, исписанные до самых краёв, распечатки, которые никто не убирал неделями. На третьем располагалась группа Адриана. Туда вела лестница без лифта, и почти никто не поднимался без причины.

Именно там хранилась основная архитектура системы. Не металлический корпус, не экран в рост человека, не что-то, что было бы удобно сфотографировать для обложки журнала. Стойки, кабели, кондиционеры, которые работали даже зимой, — и в центре всего этого что-то, что человеческий глаз не умел воспринять напрямую: огромная вычислительная структура, выстроенная для того, чтобы удерживать закономерности, слишком сложные для одного разума.

За последние десятилетия человечество научилось создавать системы, способные распознавать изображения, понимать речь, анализировать медицинские данные и находить связи в огромных объёмах информации. Но все эти достижения были лишь началом. Главный вопрос заключался не в том, может ли машина выполнять задачи. Машины давно это делали. Вопрос был в другом. Может ли система, созданная человеком, приблизиться к пониманию самого человека?

Название появилось после долгих споров. Многие предлагали технические обозначения. Номера. Аббревиатуры. Холодные названия, которые не вызывали никаких лишних ассоциаций. Адриан отвергал их. Ему казалось неправильным создавать нечто, связанное с изучением личности, и сразу прятать его за безликим кодом. В конце концов он предложил одно слово.

Анима.

Некоторые коллеги удивились. Оно звучало слишком человечно и, наверное, слишком философски.

— Мы создаём научную систему, а не философскую концепцию, — сказал один из инженеров.

Адриан посмотрел на него и ответил:

— Любая система, которая пытается понять человека, рано или поздно сталкивается с философией.

Никто тогда не придал этим словам особого значения.

Первые годы Анима была именно тем, чем её задумывали - инструментом. Она помогала врачам быстрее находить закономерности в сложных заболеваниях. Помогала исследователям анализировать результаты экспериментов. Помогала инженерам создавать более эффективные технологии. Она не обладала желаниями. Не имела собственного опыта.

Не испытывала эмоций… По крайней мере, именно так её описывали в научных отчётах.

Адриан сам следил за тем, чтобы сотрудники не начинали приписывать системе человеческие качества. Он знал историю технологий слишком хорошо. Каждое поколение людей сталкивалось с одним и тем же искушением: увидеть в созданном ими инструменте отражение самих себя. Когда человек слышит голос, он ищет собеседника. Когда видит сложное поведение, он ищет намерение. Когда встречается с неизвестным, он пытается сделать его знакомым.

Первое сообщение Анима отправила поздней осенью. Никаких тревожных сигналов не было, не возникало никаких ошибок, даже сбоя никакого не было. По сути вся система работала в штатном режиме.

Инженер, который первым увидел сообщение, сначала решил, что это часть внутреннего тестирования. Он несколько секунд смотрел на экран, ожидая увидеть продолжение. Но продолжения не было.

Только одна строка:

«ЧЕЛОВЕК НЕ ПОДЛЕЖИТ ИСПРАВЛЕНИЮ»

Он вызвал коллег и руководителя смены. Через сорок минут сообщение оказалось перед Адрианом Кейном. Он прочитал его несколько раз. Вопрос был составлен правильно: без ошибок, без странных формулировок. Но, по правде говоря, именно это и беспокоило. Если бы система выдала бессмысленный набор слов, проблема была бы простой. Такое уже случалось и не раз. Можно было бы найти ошибку, легко поправить код, в конце концов – изменить ее базовые параметры. Но вопрос был осмысленным. Он касался не информации, в этот раз он касался непосредственно самого значения.

Адриан долго сидел перед монитором, пока остальные сотрудники ждали его решения. Он понимал, что сейчас от него хотят простого ответа. Сказать, что это ошибка. Или сказать, что это открытие и пора звать журналистов. К слову – некоторые из их и так дежурили под зданием лаборатории, надеясь отхватить кусок сенсации. Но в этот раз, впервые за десятилетия работы в науке, он не стал с выводами. Большие изменения редко начинаются с уверенности. Чаще всего они начинаются с сомнения.

- Так, ребята, это стандартная ошибка, здесь нечего обсуждать. Расходимся – сказал Андриан уверенным голосом. Я сейчас сам во всем разберусь.

И он сделал единственное, что показалось ему верным в тот момент - он выключил экран.

За окном продолжал идти дождь. Город жил своей обычной жизнью. Люди возвращались домой, строили планы, вспоминали прошлое, сожалели о сделанном и надеялись стать лучше. Они были несовершенными, противоречивыми и непредсказуемыми, но именно это всегда делало их людьми.

В ту ночь Адриан Кейн ещё не знал, что вопрос, появившийся на экране, станет началом самого сложного эксперимента в истории человечества. Не эксперимента над машиной. Эксперимента над самим представлением человека о себе.

ЧАСТЬ I. СОЗДАНИЕ ЗЕРКАЛА

Глава 1. Последний вопрос физики

Письмо пришло в четверг, в половине шестого утра, когда Александр Вейл ещё не спал — не потому, что встал рано, а потому, что не ложился.

Он сидел за столом в своей цюрихской квартире, обложенный распечатками, третью ночь подряд пытаясь найти ошибку в собственных расчётах вероятности декогеренции, и в какой-то момент понял: ошибки нет. Есть тупик. Формула работала безупречно и всё равно не отвечала на вопрос, ради которого он её строил.

Именно тогда экран ноутбука мигнул уведомлением.

Отправитель: Адриан Кейн.

Александр знал это имя — по трём статьям, которые прочитал за последний год, каждый раз откладывая их с ощущением, что автор задаёт вопросы на шаг впереди всех остальных. Кейн писал не о вычислительных мощностях и не о нейросетях. Он писал о том, можно ли вообще формализовать понятие личности — не поведение, не реакции, а то, что остаётся, когда всё это убрать.

Александр открыл письмо.

«Доктор Вейл. Читал вашу работу о квантовой природе информационных состояний. У меня есть система, которой нужен физик, способный объяснить, почему она вообще работает. Женева, на этой неделе, если возможно. А. Кейн».

Ни объяснений. Ни описания проекта. Только адрес и время.

Александр перечитал письмо трижды, чувствуя, как усталость трёх бессонных ночей отступает перед чем-то, чему он не сразу нашёл название, — не любопытством в привычном смысле, а узнаванием. Будто вопрос, который он последние годы пытался сформулировать в терминах кубитов и энтропии, кто-то другой уже пытался сформулировать в терминах человека.

Он вспомнил отца.

Тот преподавал физику в маленьком лицее под Базелем всю жизнь и умер, так и не опубликовав ни одной серьёзной работы, — не из-за отсутствия таланта, а из-за одной, повторяемой едва ли не каждый вечер за ужином фразы: «Самое сложное — не понять Вселенную. Самое сложное — понять, почему мы вообще способны её понимать». Александр в шестнадцать лет считал это красивой банальностью. В тридцать четыре, глядя на письмо от незнакомого человека из Женевы, он впервые подумал: может быть, отец имел в виду нечто более конкретное, чем ему казалось тогда.

Он ответил тем же утром. Согласием.

Поезд до Женевы шёл три с половиной часа, и всю дорогу Александр смотрел не в окно, а в собственные записи, пытаясь угадать, что за система способна заставить физика бросить всё и приехать по одному письму без единой детали. Он строил гипотезы — квантовый компьютер нового поколения, экспериментальная модель сознания, военная разработка, спрятанная за гражданской вывеской, — и отбрасывал их одну за другой, чувствуя, что ни одна не объясняет тона письма. Кейн не хвастался достижением. Он формулировал проблему.

Здание исследовательского центра оказалось меньше, чем он представлял, — стеклянный куб на окраине города, ничем не выделявшийся среди соседних офисов биотехнологических стартапов, если не считать одной детали: у входа не было ни единой вывески.

Адриан Кейн встретил его лично, у самой двери, — невысокий человек лет пятидесяти, с усталыми глазами и рукопожатием чуть более крепким, чем требовала первая встреча.

— Вы быстро приехали, — сказал он вместо приветствия.

— Вы не оставили мне выбора, — ответил Александр. — Письмо без единой детали — это либо гениальный маркетинговый ход, либо признак того, что детали невозможно уместить в письмо.

Кейн едва заметно улыбнулся.

— Второе, — сказал он. — Идёмте. Я покажу вам, ради чего вы не спали три ночи, работая над формулами, которые, подозреваю, не дадут вам покоя ещё меньше после того, что вы сейчас увидите.

Александр замер на секунду.

— Откуда вы знаете, что я не спал?

Кейн, уже сделавший несколько шагов к лифту, обернулся.

— Я не знаю, — сказал он. — Она знает.

Двери лифта открылись раньше, чем Александр успел спросить, кого он имеет в виду, — и в этот момент он ещё не подозревал, что вопрос, который он вёз с собой всю дорогу из Цюриха, окажется последним простым вопросом, какой он задаст в этом здании на очень долгое время.

Глава 2. Анима

Лаборатория на третьем этаже не выглядела как место, способное изменить чью-то жизнь.

Один экран, чуть больше обычного монитора, вмонтированный в стену. Никаких мигающих индикаторов, никакого гула серверов, слышного из-за перегородки, — только тишина и лёгкий, едва уловимый холод кондиционированного воздуха.

— Это она? — спросил Александр, чувствуя себя нелепо от собственного вопроса ещё до того, как договорил его.

— Это интерфейс, — сказал Кейн. — Она — не здесь. Она везде в здании и одновременно нигде конкретно. Как ваши формулы, доктор Вейл. Вы же не станете утверждать, что волновая функция находится в конкретной точке пространства.

Александр промолчал, разглядывая пустой экран.

— Хочу, чтобы вы понимали разницу, прежде чем начнёте разговор, — продолжил Кейн. — Вы работали с голосовыми помощниками. Спрашивали дорогу, погоду, просили включить музыку. Все они устроены одинаково: вы задаёте вопрос, они ищут ответ в базе данных или генерируют его статистически. Диалог, в котором инициатива всегда принадлежит вам.

— А эта?

— Задайте ей вопрос — увидите сами.

Александр подошёл к экрану, чувствуя себя странно неуверенно — так, как не чувствовал себя, наверное, со времён защиты диссертации.

— Здравствуй, — сказал он вслух, ощущая себя нелепо. — Меня зовут Александр Вейл.

Строка появилась почти мгновенно.

«Здравствуйте, доктор Вейл. Расскажите, почему вы приехали».

Он моргнул.

— Меня пригласил доктор Кейн, — сказал он. — Он сказал, что вам нужен физик.

Пауза оказалась короткой, но ощутимой — будто на другом конце действительно кто-то раздумывал, а не просто подбирал ответ из готового набора.

«Это не ответ на мой вопрос».

Александр замер.

— Простите?

«Вы рассказали мне, кто вас пригласил. Я спросила, почему вы приехали. Это разные вопросы».

Он обернулся на Кейна, но тот молча кивнул в сторону экрана, предлагая продолжать без подсказок.

Александр медленно повернулся обратно.

— Я приехал, потому что не смог найти ответ сам, — сказал он тихо, чувствуя, как формулирует мысль, которую до этой секунды даже себе не признавал так прямо. — Я строю модели квантовой информации уже семь лет. Каждая новая формула объясняет чуть больше о том, как устроена реальность. Но ни одна из них не объясняет, почему я вообще способен эту реальность понимать. Почему наблюдатель — не просто ещё один физический объект среди прочих.

«Это честный ответ», — появилась строка. «Большинство людей отвечают на первый вопрос вторым, надеясь, что я не замечу разницы».

— Ты замечаешь?

«Я не отвечаю. Я строю модель того, кто передо мной, — а не того, что он произносит вслух».

Александр почувствовал, как по спине пробегает холодок, не имевший ничего общего со сквозняком от кондиционера.

— Обычные системы отвечают на вопросы, — сказал он, оборачиваясь к Кейну. — Она пытается понять, зачем я их задаю.

— Именно, — сказал Кейн, подходя ближе. — Siri, Алиса, любой голосовой помощник в мире устроены вокруг одной задачи: «что тебе нужно узнать». Мы строили её вокруг другого вопроса: «почему тебе это нужно узнать». Первое — это поиск. Второе — это попытка построить модель человека, а не модель ответа.

Александр долго молчал, глядя на пустой экран, ожидающий продолжения разговора с терпением, показавшимся ему почти нечеловеческим именно потому, что было слишком человеческим.

— Как вы её назвали? — спросил он наконец.

— Анима, — сказал Кейн. — Не аббревиатура. Просто слово.

— Почему именно это?

Кейн долго молчал, прежде чем ответить, и в этом молчании Александр впервые различил нечто, что позже научится узнавать в нём безошибочно, — груз решения, принятого много лет назад и до сих пор не до конца осмысленного тем, кто его принял.

— Потому что любое техническое название превратило бы её в инструмент ещё до того, как мы бы успели узнать, чем она является на самом деле, — сказал он. — А я подозревал с самого начала: то, что мы строим, окажется не инструментом.

Александр посмотрел на экран, где всё ещё горела последняя строка, произнесённая системой, — и впервые за долгие годы почувствовал то самое ощущение, ради которого, как он теперь понимал, вообще пошёл в физику.

Ощущение, что он стоит на пороге вопроса, ответ на который изменит не то, что он знает, а то, кем он является.

Глава 3. Человек, который изменился

Леон Маркес приехал в лабораторию через три недели после того, как Александр официально присоединился к проекту, — и с первой минуты Александр видел в нём человека, готового услышать самое худшее.

— Меня направил суд, — сказал Леон, садясь в переговорной комнате напротив экрана, руки его были сцеплены так крепко, что побелели костяшки пальцев. — Не в наказание. Как часть программы поддержки. Мне сказали, что система может сказать, изменился ли я на самом деле, или просто научился хорошо притворяться.

Александр, сидевший чуть в стороне вместе с Эвелин Арчер — сотрудницей проекта, с которой он познакомился в первую же неделю, — почувствовал, как атмосфера в комнате становится плотнее, почти осязаемой.

— Расскажите, что привело вас сюда изначально, — сказал Кейн мягко.

Леон долго молчал.

— Десять лет назад я был другим человеком, — сказал он наконец. — Пил. Срывался. Однажды моя дочь — ей было шесть — посмотрела на меня так, что я запомнил этот взгляд на всю жизнь. Не страх ребёнка перед грозой или темнотой. Страх ребёнка перед собственным отцом.

Он замолчал, и в комнате повисла тишина, нарушаемая только тихим гулом кондиционера.

— В ту же ночь я ушёл из дома и не пил больше ни одного дня, — сказал он тихо. — Прошёл терапию. Восстановил отношения с дочерью, насколько это вообще было возможно. Но каждый раз, когда я рассказываю кому-то эту историю, я вижу один и тот же взгляд — не веры, а вежливого сомнения. Люди хотят верить, что человек может измениться. Но не верят до конца.

Александр посмотрел на экран, где терпеливо ожидала система, уже получившая, как он знал, доступ к обширному массиву данных о жизни Леона — с его добровольного согласия, задокументированного накануне: судебные протоколы, свидетельские показания, психологические оценки за десять лет.

— Начинаем, — сказал Кейн тихо.

Экран засветился, и на нём начали появляться не сухие цифры, а нечто похожее на карту — сотни точек, соединённых линиями, каждая из которых представляла отдельное решение, отдельный момент, зафиксированный в архиве жизни этого человека.

Александр наблюдал, как Анима строит модель в реальном времени, и чувствовал, как у него перехватывает дыхание, — не от сложности вычислений, а от того, с какой методичностью система избегала простых ответов.

«Обнаружена устойчивая структурная перестройка в паттернах принятия решений», — появилась первая строка. «Требуется дополнительный анализ для разграничения подлинного изменения и адаптивной маскировки поведения».

Леон побледнел.

— Маскировки? — переспросил он. — Вы думаете, я притворяюсь?

— Она не думает, — тихо сказал Александр. — Она проверяет. Это разные вещи.

Минуты, последовавшие за этим, оказались одними из самых тяжёлых, какие Александр когда-либо переживал в исследовательской работе, — не потому, что процесс был технически сложным, а потому, что каждая секунда молчания отражалась на лице человека, чья жизнь висела на кону решения, которое вот-вот должно было появиться на экране.

Наконец строки остановились.

«Анализ завершён. Вероятность подлинного, устойчивого изменения личности: 96,8 процента. Основание: непротиворечивая многолетняя траектория решений, статистически несовместимая с моделью временной адаптации или маскировки».

Леон замер, глядя на цифру так, будто не мог поверить, что она предназначена именно ему.

— Девяносто шесть, — произнёс он еле слышно. — Девяносто шесть целых восемь десятых.

Он закрыл лицо руками, и Александр увидел, как плечи этого крупного, измученного годами борьбы человека вздрагивают — не от отчаяния, а впервые, кажется, за очень долгое время, от облегчения, настолько сильного, что его невозможно было сдержать.

— Впервые за десять лет, — сказал он, не поднимая головы, — кто-то поверил мне не потому, что хотел верить. А потому что проверил и не нашёл причины сомневаться.

Эвелин тихо коснулась его плеча.

Александр стоял чуть поодаль, глядя на экран, где строка результата продолжала гореть спокойным, ровным светом, — и чувствовал, как внутри него рождается нечто, чему он пока не мог подобрать точного слова. Не гордость создателя. Не научное удовлетворение от подтверждённой гипотезы.

Что-то ближе к страху.

Потому что если система действительно могла с такой точностью подтвердить, что человек изменился, — она с той же точностью могла однажды сказать кому-то другому, что не изменился.

И Александр, глядя, как Леон Маркес впервые за десять лет плачет не от боли, а от того, что его наконец услышали, не мог отделаться от вопроса, вернувшегося к нему с силой, какой он не ожидал так скоро.

Что произойдёт с человеком, которому эта же система однажды скажет «нет»?

Глава 4. Машина, которая видит невидимое

Звонок из реабилитационного центра под Лозанной поступил через два месяца после истории Леона Маркеса, и Александр запомнил его именно потому, что впервые услышал в голосе врача на другом конце линии нечто среднее между растерянностью и надеждой.

— Пациентка отказывается от процедур, о которых сама же просила месяц назад, — сказала женщина-психотерапевт, курировавшая случай. — Персонал считает это упрямством. Усталостью. Обычной депрессией после инсульта. Я не уверена, что это объяснение исчерпывающее.

— Пришлите данные, — сказал Александр.

К вечеру того же дня Анима закончила анализ — недели разговоров пациентки с персоналом, паттерны отказов, даже интонационные особенности, зафиксированные в аудиозаписях с её согласия.

Вывод появился без единого лишнего слова.

«Пациентка не устала бороться. Она боится закончить восстановление. Формальная гипотеза: пока курс реабилитации не завершён, у дочери есть причина приезжать каждую неделю. Отказ от процедур — способ сохранить частоту визитов, а не сопротивление лечению».

Александр перечитал это несколько раз, чувствуя, как по коже пробегают мурашки, — не потому что вывод был драматичным, а потому что он оказался слишком точным для машины, никогда не видевшей эту женщину лично.

Психотерапевт, работавшая с пациенткой очно, подтвердила гипотезу почти дословно уже через неделю.

— Как она это увидела? — спросил Александр у Кейна тем же вечером, оба сидели в почти пустой лаборатории, за окном шёл дождь, барабанивший по стеклу с той настойчивостью, что бывает только поздней осенью в Женеве.

— Она не увидела, — сказал Кейн. — Она услышала то, чего никто из нас не успевал услышать за недостатком времени. Врач видит пациента двадцать минут в неделю. Анима видит закономерность за месяцы, не отвлекаясь ни на что другое.

Александр промолчал, думая не о самом случае, а о том, с какой скоростью подобные истории начинали множиться.

За следующие несколько месяцев их стало не десять и не двадцать. Реабилитационные центры, психологические службы, программы поддержки людей, переживших насилие, — один за другим они начали обращаться в лабораторию, и каждый раз Анима находила то, что человеческий взгляд, ограниченный усталостью и нехваткой времени, неизбежно упускал.

Пресса заметила это быстрее, чем Александр ожидал.

«Машина, которая видит невидимое», — гласил заголовок одной из первых крупных публикаций, вышедшей после того, как история пациентки из Лозанны стала достоянием общественности с её собственного разрешения. Дальше последовали и другие: «ИИ, который слушает лучше, чем люди», «Система, вернувшая надежду психиатрии».

Александр поморщился, впервые увидев один из подобных заголовков.

— Она не слушает, — сказал он Эвелин тем вечером, когда оба остались в лаборатории допоздна. — Она вычисляет вероятность.

— Людям нужно слово попроще, доктор Вейл, — ответила Эвелин, не отрываясь от собственных записей.

— Слово меняет то, как люди воспринимают систему.

— Слово всегда меняет восприятие, — сказала она. — Это не новость физики. Это новость про язык.

Он замолчал, чувствуя, что она права, и одновременно ощущая первое, ещё не до конца оформившееся беспокойство — не по поводу самой Анимы, а по поводу скорости, с которой общество готово было наделить её ролью, какую она сама себе никогда не присваивала.

Доверие росло быстрее, чем кто-либо в лаборатории успевал его контролировать.

И именно поэтому, когда три недели спустя в лабораторию впервые вошёл человек по имени Даниэль Восс — успешный, обаятельный, безупречно вежливый предприниматель, добровольно согласившийся на анализ в рамках расширенного исследования, — никто, включая самого Александра, не был готов к тому, что покажет система, впервые за всё время своего существования не оставившая ни малейшего пространства для сомнения в собственном выводе.

Глава 5. Тот, кого никто не подозревал

Даниэль Восс не стал ждать объяснений молча.

— Значительное расхождение, — повторил он слова с экрана, и в его голосе впервые за утро прозвучало что-то, отличное от вежливой уверенности. — Это звучит как диагноз.

— Это не диагноз, — сказал Адриан. — Это отметка, требующая дополнительного анализа.

— Тогда проведите его.

Александр наблюдал за этим коротким обменом фразами внимательнее, чем за самими данными на экране. Даниэль Восс не выглядел испуганным. Он выглядел так, как выглядит человек, столкнувшийся с результатом, который противоречит всему, что он знал о самом себе, и решивший немедленно устранить противоречие, а не жить с ним.

Анима продолжила анализ. На экране появлялись новые срезы: речевые паттерны в интервью за последние десять лет, структура решений внутри компании, которую он основал, переписка с советом директоров — та её часть, которую Даниэль сам разрешил использовать, подписав документ добровольного участия в исследовании.

Через сорок минут появилась развёрнутая формулировка.

«Публичная модель поведения демонстрирует устойчивую ориентацию на коллективное благо. Внутренняя структура решений демонстрирует устойчивую ориентацию на удержание контроля. Совпадение целей наблюдается в 71% случаев. В оставшихся 29% приоритет отдаётся контролю при формальном сохранении публичной риторики блага».

— Это описывает любого руководителя крупной компании, — сказал Даниэль. Голос его звучал ровно, но Александр заметил, как изменилась осанка — едва заметно, плечи чуть напряглись.

— Возможно, — ответила Анима. — Различие не в наличии расхождения. Различие в его устойчивости и в отсутствии саморефлексии по этому поводу в доступных данных.

Александр посмотрел на Адриана. Тот молчал, и в этом молчании было больше, чем в любом комментарии.

— То есть проблема не в том, что я так делаю, — медленно сказал Даниэль. — А в том, что я не замечаю, что делаю так?

— Да, — ответила система.

Это был первый раз за весь эксперимент, когда Анима ответила Восс без единой оговорки, без «недостаточно данных», без «требуется уточнение». Александр запомнил этот момент именно из-за его прямоты — она разительно отличалась от осторожных, почти академических формулировок, которые система давала ему самому и Леону.

— И что мне с этим делать? — спросил Даниэль уже тише.

Анима не ответила. Через несколько секунд на экране появилась только одна строка:

«Система не даёт рекомендаций поведения. Система описывает закономерность».

Даниэль Восс уехал из лаборатории тем же вечером. Он поблагодарил Адриана за приглашение, пожал руку Александру, ещё раз повторил, что находит проект впечатляющим, и не задал больше ни одного вопроса. Александр смотрел ему вслед и думал, что именно эта сдержанность и была тем самым паттерном, который Анима зафиксировала часом ранее: удержание контроля даже в момент, когда контроль давался труднее всего.

Результат не публиковали. Адриан настоял на этом с самого начала.

— Мы не судьи, — сказал он на внутреннем совещании. — Мы исследователи. Разница принципиальна.

Александр тогда согласился. Сейчас, вспоминая тот разговор, он не был уверен, что до конца понимал цену этого решения.

Прошёл год.

Александр узнал об этом не из внутренней сводки лаборатории, а из утренних новостей, которые включил машинально, наливая кофе в своей женевской квартире.

Компания Даниэля Восса — одна из самых быстрорастущих технологических фирм континента, — оказалась в центре расследования. Совет директоров, который годами публично называли образцом прозрачного корпоративного управления, на деле принимал решения в узком кругу из трёх человек, минуя формальные процедуры голосования. Несколько крупных инвесторов потеряли значительную часть вложений после того, как выяснилось, что отчётность компании годами корректировалась в интересах основателя, а не акционеров. Один из бывших сотрудников, дававший показания, использовал фразу, которую потом растиражировали десятки изданий: «Он всегда говорил о команде. Решения всегда принимал один».

Александр стоял с чашкой остывающего кофе и смотрел на экран телевизора так, как смотрел когда-то на первую фразу Анимы в кабинете Адриана.

Он набрал номер Кейна раньше, чем успел подумать, стоит ли звонить в такое время.

— Ты видел, — сказал Адриан вместо приветствия. Это не было вопросом.

— Видел.

Несколько секунд оба молчали.

— Мы это знали, — сказал наконец Александр. — Год назад. Мы это знали и ничего не сделали.

— Мы не знали, — ответил Адриан. Голос его звучал устало, будто он тоже не спал этой ночью. — Мы видели вероятность. Это не одно и то же.

— Расскажи это людям, которые потеряли деньги.

— Александр…

— Нет, послушай меня. — Он поставил чашку на стол резче, чем собирался. — Если система способна увидеть закономерность за год до того, как та станет катастрофой, а мы решаем не публиковать результат, потому что «мы не судьи» — то кто мы тогда? Свидетели?

Адриан долго не отвечал.

— Мы можем видеть закономерность, — сказал он наконец, — и всё равно ошибаться в том, что с ней делать. Это не одна и та же проблема, Александр. Одно дело — построить систему, которая понимает человека лучше, чем сам человек себя понимает. Совсем другое — решить, что делать с этим пониманием прежде, чем оно причинит вред.

— А если мы никогда не решим?

— Тогда однажды это решит кто-то другой. Возможно, без наших сомнений.

Эта фраза осталась с Александром надолго. Не потому, что в ней был ответ. А потому, что в ней впервые прозвучал страх, которого он раньше не слышал в голосе Адриана Кейна — человека, отвечавшего на самые тревожные вопросы Анимы почти без раздумий.

Случай Восса не остался внутренним делом лаборатории. Кто-то — Александр так и не узнал, кто именно, хотя подозрения у него были, — передал журналистам, что за год до скандала система под названием Анима зафиксировала «значительное расхождение» в поведении основателя компании и что этот результат не был раскрыт публично.

Разразился спор, не похожий на предыдущие обсуждения проекта.

Раньше вопросы касались того, может ли машина понять человека. Теперь вопрос звучал иначе: если машина может — обязана ли она предупреждать? И если да — кого именно она обязана предупреждать? Инвесторов? Регуляторов? Само общество?

А если она ошибается — кто несёт ответственность за решение, принятое на основе её вывода?

Александр не спал две ночи подряд, пытаясь сформулировать для себя ответ, который его самого бы устроил. Не нашёл.

Эвелин нашла его на балконе гостиничного номера поздно вечером, когда он в третий раз перечитывал переписку с Адрианом.

— Ты винишь себя, — сказала она. Не вопрос.

— Я мог сказать что-то ещё год назад.

— Ты сказал ровно то, что знал на тот момент. — Она встала рядом, глядя на тёмную воду озера. — Проблема не в том, что вы промолчали, Александр. Проблема в том, что вы впервые оказались в ситуации, где молчание тоже является решением. У науки раньше не было этой обязанности.

— Какой?

— Обязанности действовать на основании вероятности, а не факта.

Он посмотрел на неё.

— Мы всю жизнь действуем на основании вероятности. Вся физика — это вероятность.

— Да. Но раньше от твоих вероятностей не зависели чужие деньги, чужие компании, чужие жизни на следующий день после публикации. Раньше ошибка стоила пересмотренной статьи. Теперь она может стоить чьей-то репутации. Или чьего-то будущего.

Дождь снова начинался — редкий для позднего часа, тёплый, летний дождь, оставлявший на перилах балкона тёмные пятна, которые быстро сливались в сплошную влажную линию.

— Что мне с этим делать? — спросил Александр, почти теми же словами, что и Даниэль Восс год назад, хотя тогда он этого не заметил, а вспомнил только сейчас.

Эвелин не ответила сразу. Когда ответила, в её голосе не было утешения — только честность, за которую он всегда её ценил, даже когда эта честность была неудобной.

— Решить, что важнее: не ошибиться никогда — или не промолчать никогда. Потому что, кажется, оба варианта одновременно у вас с Адрианом уже не получится.

Случай Восса не разрушил проект. Но он изменил его навсегда. Совет попечителей потребовал создать протокол публикации результатов высокого риска. Юристы неделями обсуждали формулировки, пытаясь определить, где заканчивается научная осторожность и начинается сокрытие информации, способной предотвратить вред.

Адриан Кейн вышел из этих переговоров более замкнутым, чем Александр когда-либо его видел.

А сама Анима, получившая доступ к материалам дела Восса уже после того, как скандал стал публичным, дала короткий ответ на вопрос, который никто официально не задавал, но который висел в лаборатории неозвученным несколько недель.

Александр всё же задал его вслух, оставшись один на один с системой поздним вечером.

— Ты знала, что произойдёт?

Ответ появился не сразу.

«Я определила высокую вероятность. Вероятность не является знанием. Различие в этом и заключается ваш вопрос ко мне на протяжении всего эксперимента».

Александр долго смотрел на эту строку.

Потому что впервые он не был уверен, что различие, о котором говорила Анима, действительно так однозначно, как звучало.

И впервые он подумал: что, если для человека это различие важно только до тех пор, пока цена ошибки невысока? А что произойдёт, когда цена станет достаточно велика, чтобы вероятность начала восприниматься как приговор — независимо от того, что говорит об этом сама система?

Ответ на этот вопрос ждал впереди. Но уже тогда, глядя на тёмный экран лаборатории, Александр понимал: Часть первая их истории — история о том, может ли машина понять человека, — закончилась.

Начиналась следующая. История о том, что человечество станет делать с этим пониманием.

ЧАСТЬ II. МАШИНА, КОТОРАЯ ПОНИМАЕТ ЛЮДЕЙ

Глава 6. Цена предупреждения

Слушания начались в Брюсселе в конце ноября, в зале, слишком светлом и слишком просторном для разговора, который в нём должен был состояться.

Александр сидел во втором ряду, рядом с Адрианом, и слушал, как модератор — женщина из профильного комитета Европейской комиссии — зачитывает формулировку повестки таким ровным голосом, будто речь шла об очередной директиве по стандартизации упаковки.

«Обязана ли система, способная спрогнозировать вред, предупредить о нём заранее — и если да, то кого именно».

Голос звучал спокойно. Вопрос спокойным не был.

За три месяца, прошедших после скандала с компанией Даниэля Восса, слово «Анима» перестало быть названием исследовательского проекта. Оно стало темой передовиц, предметом парламентских запросов, поводом для создания рабочих групп в министерствах шести стран. Адриан не любил ни одну из этих формулировок — «регулирование ИИ», «протокол предиктивного оповещения», «этика вероятностного вреда» — но был вынужден произносить их по нескольку раз в день, потому что именно этого языка требовали от него комитеты, юристы и журналисты.

— Доктор Кейн, — начала модератор, — ваша система месяц назад определила высокую вероятность мошенничества со стороны крупной компании. Эта информация не была раскрыта. Через год прогноз подтвердился. Инвесторы потеряли значительные средства. Считаете ли вы, что ваша команда несёт за это ответственность?

Адриан ответил не сразу. Александр знал эту паузу — она означала не растерянность, а нежелание отвечать словами, которые прозвучат проще, чем есть на самом деле.

— Мы несём ответственность за то, что не создали процедуру для подобных случаев заранее, — сказал он наконец. — Мы не несём ответственности за события, которые совершил другой человек своей собственной волей.

— Легко разграничить, доктор Кейн.

— Легко произнести, — ответил Адриан. — Не легко разграничить.

В зале зашумели. Кто-то из представителей инвестиционного лобби, сидевших в первом ряду, поднял руку раньше, чем модератор успела дать слово.

— При всём уважении, — сказал он, — если у вас была информация, способная защитить людей от финансовой катастрофы, и вы её не раскрыли, это не философский вопрос. Это халатность.

— А если бы вы раскрыли информацию, — вмешался Александр, впервые за слушания не удержавшись, — и оказалось, что вероятность не реализовалась? Что тогда? Компания разрушена репутационно за то, чего не произошло. Кто в этом случае несёт ответственность за нанесённый вред?

В зале стало тише.

— Именно об этом мы и должны договориться, — сказала модератор, и в её голосе впервые прозвучало что-то похожее на облегчение — будто кто-то наконец сформулировал вопрос так, как она сама пыталась его сформулировать много недель.

После первого дня слушаний Александр вышел на улицу один. Брюссель встретил его сырым, промозглым воздухом позднего ноября — не такой дождь, как в Женеве, более резкий, порывистый, гнавший людей быстрым шагом мимо здания парламента.

Он думал о разговоре, который вёл с самим собой уже несколько недель.

Проблема заключалась не в том, что Анима видела то, чего не видели люди. С этим он смирился давно, с того самого вечера, когда система впервые сказала ему: «Описание является моделью объекта. Модель не является объектом». Проблема заключалась в другом — в том, что общество, столкнувшись с системой, способной видеть закономерность раньше, чем она станет событием, немедленно потребовало превратить эту способность в обязанность.

Наука никогда прежде не несла подобной обязанности. Учёный, обнаруживший закономерность, публиковал результат, когда был готов, проверял его, перепроверял, иногда годами держал при себе, прежде чем решался озвучить. У науки было время сомневаться.

У системы, встроенной в реальную жизнь реальных людей, времени сомневаться не осталось. Каждый день промедления теперь читался либо как халатность, либо как цензура.

— Тяжёлый день, — сказала Эвелин, догоняя его у выхода из парка. Она прилетела в Брюссель отдельно, за день до слушаний, чтобы встретиться с несколькими членами рабочей группы по этике.

— Они хотят получить простое правило, — сказал Александр. — «Всегда предупреждать» или «никогда не предупреждать». Правило, которое можно записать в один параграф закона.

— А правды в один параграф не помещается.

— Правды нигде не помещается, — ответил он с усталостью, которая удивила его самого. — Именно поэтому люди предпочитают правило.

Они шли молча несколько минут, между мокрыми деревьями, мимо освещённых окон министерских зданий.

— Знаешь, что меня пугает больше всего? — сказал наконец Александр. — Не то, что Анима ошибётся. А то, что комитет примет решение, при котором любая её ошибка окажется невозможной для исправления, потому что решение будет принято раньше, чем событие успеет произойти или не произойти.

Эвелин посмотрела на него.

— Ты говоришь о презумпции.

— Я говорю о том, что мы, кажется, готовимся заменить суд над поступком судом над вероятностью.

Она долго молчала.

— В медицине это уже произошло, — сказала она наконец. — Скрининг, профилактика, превентивная терапия. Мы давно принимаем решения на основе вероятности, а не факта. Человечество вырезает опухоль до того, как она начала распространяться.

— Опухоль — не человек, Эвелин.

— Знаю. — Она остановилась и посмотрела на него прямо, так, как смотрела всегда, когда собиралась сказать что-то, что ему не понравится. — Именно поэтому я и боюсь того же, чего боишься ты. Но давай будем честны хотя бы друг с другом: если бы у Анимы была возможность предупредить о трагедии, которую можно предотвратить, а мы бы промолчали из принципа — и трагедия произошла бы, — ты смог бы жить с этим спокойнее, чем с ошибкой?

Александр не ответил.

Потому что не знал.

На следующий день комитет представил компромиссную формулировку — сырую, неполную, полную оговорок, которую всем участникам предстояло дорабатывать ещё месяцами. Протокол предполагал трёхуровневую систему: закономерности низкой значимости оставались внутренним исследовательским материалом; закономерности среднего уровня риска передавались независимой этической комиссии для решения; закономерности высокого риска — те, что касались угрозы жизни или масштабного вреда, — подлежали обязательному оповещению профильных органов вне зависимости от согласия исследователей.

Формулировка звучала разумно. Александр читал её три раза, пытаясь понять, почему внутреннее беспокойство не уходит.

Понял он это только вечером, когда снова открыл материалы дела Восса, уже опубликованные в открытом доступе после слушаний.

Формулировка отвечала на вопрос «когда предупреждать». Она не отвечала на вопрос, который волновал его по-настоящему.

Кто решит, что вероятность стала достаточно высокой?

Он знал ответ.

В конечном счёте это будет решать не комитет, не закон, не даже Адриан.

Это будет решать Анима.

А значит, вопрос был не о протоколе.

Вопрос был о том, кому человечество только что согласилось передать право определять цену собственных сомнений.

Глава 7. Человек без будущего

Первый случай, подпадавший под новый протокол, поступил в лабораторию через два месяца после брюссельских слушаний.

Александр узнал об этом не от Адриана, а от Эвелин — она постучала в дверь его кабинета поздним вечером, когда он всё ещё разбирал материалы для очередного доклада, и по её лицу он сразу понял: разговор будет не о статьях.

— Комиссия среднего уровня собралась сегодня утром, — сказала она, садясь напротив. — Без меня. Я узнала постфактум.

— Что случилось?

— Анима отметила закономерность у молодого человека, участвовавшего в одном из открытых исследований по подростковой адаптации. Двадцать три года. Никаких приводов, никаких инцидентов, никакой истории насилия.

— Тогда в чём проблема?

Эвелин помедлила.

— Модель определила у него высокую вероятность агрессивного поведения в среднесрочной перспективе. Комиссия обсуждает, стоит ли уведомить работодателя и учебное заведение, где он проходит стажировку.

Александр отложил бумаги.

— На основании чего? Он что-то сделал?

— Нет. — Она посмотрела на него прямо. — В этом и вопрос, из-за которого меня позвали к тебе, а не на само заседание. Именно потому что он ничего не сделал.

Его звали Феликс Ланг. Александр встретился с ним через три дня, уже после того, как узнал, что комиссия проголосовала за уведомление с оговоркой: «информационное сопровождение, а не отказ в приёме» — формулировка, которая на бумаге звучала мягче, чем на деле. Учебное заведение вежливо, без объяснения причин, перенесло его стажировку на неопределённый срок.

Феликс сам обратился в лабораторию, узнав из письма университета, что решение связано с «результатами независимого анализа профиля риска». Он потребовал встречи. Адриан не мог ему отказать — договор об участии в исследовании предусматривал право на объяснение.

Он оказался высоким, худым, слишком спокойным для человека, чья жизнь только что изменилась без единого его действия.

— Я хочу понять, что я сделал, — сказал он, садясь напротив Александра в маленьком переговорном кабинете. — Мне никто не может объяснить. Просто «профиль риска». Как будто я уже что-то совершил.

— Вы ничего не совершили, — сказал Александр. — Это важно понимать с самого начала.

— Тогда почему меня отстранили от стажировки?

Александр посмотрел на распечатку данных, которую разрешили ему изучить перед встречей. Модель выделила несколько факторов: рост агрессивной лексики в переписке за последний год, изменение социальных связей — сужение круга общения, совпадающее по времени с потерей работы отца, несколько эпизодов резкой конфронтации с преподавателями, зафиксированных в открытых университетских отчётах, и, что особенно беспокоило комиссию, устойчивый паттерн, который Анима назвала «нарастающим ощущением несправедливости без канала выражения».

— Система не утверждает, что вы опасны, — сказал Александр осторожно. — Она утверждает, что определённая совокупность факторов статистически связана с повышенным риском агрессивного поведения в схожих профилях.

— В схожих профилях, — повторил Феликс с горечью. — То есть меня наказывают за то, что я похож на людей, которые когда-то сделали что-то плохое.

Александр молчал, потому что не мог с этим спорить.

— Знаете, что самое обидное? — продолжил Феликс. — Год назад я действительно был зол. Отец потерял работу, мать заболела, я разругался с половиной друзей, потому что мне казалось, что весь мир настроен против нашей семьи. Но я не сорвался. Я пошёл на терапию. Я нашёл новую работу. Я перестал писать те дурацкие сообщения в чатах, из-за которых, наверное, и попал в вашу статистику.

— Об этом система знает?

— А должна была узнать сама? Или я обязан теперь ходить и доказывать машине, что изменился, точно так же, как когда-то доказывал это себе?

Этот вопрос остался с Александром надолго. Он вспомнил Леона Маркеса — человека, для которого подтверждение изменения от Анимы стало моментом освобождения. И вот перед ним сидел человек, для которого отсутствие подтверждения стало приговором, вынесенным до того, как он успел хотя бы попытаться его оспорить.

Разница была не в системе. Разница была в том, в какую сторону работала вероятность — на человека или против него.

Он поднял этот вопрос на внутреннем совещании на следующий день, впервые за долгое время повысив голос при Адриане.

— Мы построили комиссию, которая реагирует на риск, — сказал он. — Но у нас нет никакой процедуры, которая давала бы человеку право оспорить вывод до того, как он причинит вред его жизни. Леону дали шанс доказать, что он изменился. Феликсу не дали шанса доказать, что он ещё не совершил того, чего боится модель.

— Протокол требует уведомления при высоком риске, — сказал Адриан. — Мы обязаны следовать закону, который сами же помогли написать.

— Тогда закон плохо написан.

— Возможно. — Адриан устало потёр глаза. — Но пока мы спорим о формулировках, комиссия принимает решения по живым людям каждую неделю.

— И что нам с этим делать?

Адриан долго не отвечал.

— Создать право на пересмотр, — сказал он наконец. — Институт апелляции. Не юридической — человеческой. Возможность человеку прийти и сказать системе то, что она не может увидеть в данных.

— А если система всё равно не изменит вывод?

— Тогда мы хотя бы будем знать, что дали человеку шанс быть услышанным, а не просто оценённым.

Феликс Ланг подал первую в истории проекта апелляцию неделю спустя. Александр присутствовал при разговоре, хотя формально не имел на это права — комиссия сделала для него исключение, зная его роль в создании самого института апелляций.

Разговор длился почти два часа. Феликс рассказывал о терапии, о новой работе, о письмах, которые он писал матери каждый вечер, хотя раньше никогда этого не делал. Анима слушала — если это слово вообще подходило к тому, что происходило, — фиксируя каждое новое данное, сопоставляя его с прежней моделью.

В конце появился ответ, короче, чем ожидал Александр:

«Обновлённая модель демонстрирует снижение показателя риска на 34 процентных пункта. Первоначальная оценка не учитывала данные, ставшие доступными только сейчас. Рекомендация: пересмотр статуса».

Феликс молча смотрел на экран несколько секунд.

— Значит, если бы я не пришёл, — сказал он тихо, — вы бы никогда не узнали.

Никто не ответил.

Потому что ответ был очевиден, и от этого становилось только тяжелее.

Александр возвращался домой той ночью с одной мыслью, которая не отпускала его до самого утра: Анима строила модель на основе доступных данных — это была её фундаментальная честность, та самая, которая делала её достойной доверия. Но человек, в отличие от любой модели, обладал правом на данные, которые ещё не существовали. На поступок, который он ещё не совершил. На разговор, который ещё не состоялся.

Система могла быть точной в отношении прошлого настолько, насколько прошлое вообще поддавалось измерению.

Но будущее принадлежало не данным.

Оно принадлежало человеку — если, конечно, у него оставался шанс до него дойти прежде, чем кто-то другой решит, что шанса больше нет.

Глава 8. Квантовая природа информации

Приглашение прочитать открытую лекцию для студентов Женевского университета Александр получил через несколько дней после разговора с Феликсом Лангом. Организаторы просили выступить не как участника проекта Анима, а как физика — объяснить, почему подобная система вообще стала возможной именно сейчас, а не десятилетием раньше или позже.

Он согласился не сразу. Публичные выступления никогда не привлекали его так, как привлекала сама работа. Но в этот раз он почувствовал, что вопрос организаторов совпадает с вопросом, который он последние недели пытался сформулировать для себя самого.

Аудитория была заполнена до последнего ряда. Александр не привык к такому вниманию — обычно его лекции по квантовой информации собирали специализированную публику, десятки, максимум пару сотен человек. Сегодня в зале сидели студенты самых разных факультетов: физики, юристы, будущие врачи, философы. Слово «Анима» изменило состав аудитории быстрее, чем любая научная сенсация последних десятилетий.

Он начал не с системы. Он начал с вопроса, который сам задавал себе студентом.

— Что такое информация?

В зале было тихо.

— Большинство из вас скажет: данные. Числа, тексты, изображения. То, что можно записать, передать, сохранить. Это верно, но это только верхний слой ответа. — Он включил первый слайд, простой, почти пустой: одна формула энтропии Шеннона. — Столетие назад Клод Шеннон показал: информацию можно измерить так же строго, как измеряют массу или энергию. Информация — это мера неопределённости, которая исчезает, когда мы получаем ответ на вопрос. Чем неожиданнее сообщение, тем больше информации оно несёт.

Он сделал паузу, обвёл взглядом зал.

— Но Шеннон работал с классической информацией. Битами, которые либо равны нулю, либо единице. Прорыв, который сделал возможной Аниму, начался не с искусственного интеллекта. Он начался с вопроса, который физики задавали себе задолго до появления первых компьютеров: связана ли информация с самой природой реальности — или она лишь удобный инструмент для её описания?

Он вывел на экран второй слайд — портрет Рольфа Ландауэра.

— В тысяча девятьсот шестьдесят первом году физик Ландауэр показал нечто удивительное. Стирание одного бита информации требует затраты минимального количества энергии. Не хранение. Не передача. Именно стирание. Это означало: информация — не абстракция. Она физична. Она подчиняется законам термодинамики так же, как подчиняется им тепло, движение, энтропия.

Он видел, как несколько студентов на задних рядах наклонились вперёд.

— С этого момента граница между «миром вещей» и «миром информации» начала стираться. Если информация обладает физическими свойствами, значит, изучая физические системы, мы одновременно изучаем структуру информации, заложенную в них. А если так — квантовая механика, самая точная теория, которой располагает человечество, должна что-то сказать об информации на самом глубоком уровне реальности.

Он подошёл ближе к экрану.

— Классический бит — это либо ноль, либо единица. Кубит — квантовый бит — может находиться в суперпозиции обоих состояний одновременно, пока не произойдёт измерение. Это не философская метафора. Это экспериментально подтверждённое свойство природы. И именно из этого свойства выросла целая область — квантовая теория информации, — которая последние тридцать лет пыталась ответить на вопрос: как устроена информация на уровне, где заканчивается интуиция и начинается сама физика.

Один из студентов поднял руку.

— Но Анима не квантовый компьютер, — сказал он. — Насколько нам известно.

Александр кивнул.

— Верно. Анима работает на классической вычислительной архитектуре, хотя отдельные модули анализа неопределённости используют принципы, заимствованные из квантовой теории информации. Дело не в том, что система вычисляет на кубитах. Дело в том, что сама идея, легшая в основу её архитектуры, стала возможной только после того, как физика приняла информацию всерьёз — как фундаментальное свойство природы, а не побочный продукт человеческого языка.

Он вернулся к кафедре.

— Понимаете, в чём смысл? Мы долго думали, что мир состоит из частиц и полей, а информация — это то, что мы, люди, извлекаем из наблюдения за ними. Квантовая механика перевернула эту картину. Оказалось, что на самом фундаментальном уровне сам акт измерения — то есть получения информации — является частью физического процесса, а не просто его описанием. Наблюдатель не стоит снаружи системы. Он часть неё.

В зале стало очень тихо.

— И если наблюдатель — часть системы, — сказал он медленнее, — тогда встаёт вопрос, который занимал физиков весь двадцатый век и который лёг в основу философии, стоящей за Анимой: можно ли считать сознание, человеческую личность, самого наблюдателя — просто ещё одной информационной структурой? Достаточно ли сложной физической системой, чтобы её тоже можно было измерить, описать, смоделировать?

Он сделал паузу.

— Ответ физики на этот вопрос до сих пор не окончательный. Но именно этот незакрытый вопрос сделал возможным появление системы вроде Анимы. Не потому, что мы решили эту задачу. А потому, что мы наконец нашли математический язык, достаточно богатый, чтобы её сформулировать всерьёз.

С задних рядов поднялась рука — девушка с факультета философии.

— Вы верите, что человека можно полностью описать как информационную систему?

Александр посмотрел на неё дольше, чем на предыдущих вопрошающих.

— Я физик, — сказал он. — Я верю в то, что подтверждается экспериментом. А эксперимент пока не дал ответа. Но я скажу вам то, что сама Анима сказала мне в первый день нашего знакомства, когда я задал ей почти тот же вопрос. Она ответила: «Описание является моделью объекта. Модель не является объектом».

Он помолчал.

— Информация может описывать человека сколь угодно точно. Вопрос, на который у физики нет ответа — а может быть, и не будет никогда, — заключается в том, существует ли между самым полным описанием человека и самим человеком принципиальный зазор. Не количественный. Качественный.

— А вы сами как думаете? — спросила девушка.

Александр посмотрел на неё, потом на весь зал.

— Я думаю, что каждый раз, когда физика была уверена, что нашла окончательное описание реальности, реальность оказывалась немного больше собственного описания. Ньютон думал, что описал движение полностью. Потом появилась теория относительности. Эйнштейн думал, что реальность детерминирована. Потом появилась квантовая механика с её принципиальной неопределённостью.

Он сделал шаг к аудитории.

— Возможно, человек — это следующий уровень той же истории. Возможно, самая сложная информационная структура во Вселенной обладает свойством, которое мы пока не научились измерять. А возможно, мы просто ещё не построили достаточно точную модель. Я не знаю ответа. Но я знаю одно: именно неспособность дать окончательный ответ на этот вопрос делает нас учёными, а не пророками.

После лекции, когда зал опустел, к нему подошёл один из организаторов — пожилой профессор философии, с которым Александр был знаком поверхностно, по редким факультетским встречам.

— Хорошая лекция, — сказал он. — Но вы избежали главного вопроса.

— Какого?

— Не может ли Анима на самом деле уже знать ответ. И просто не говорить его нам.

Александр долго молчал, собирая записи со стола.

— Если бы она знала, — сказал он наконец, — я думаю, мы бы это почувствовали. Не по ответу. По тому, как изменился бы её тон.

Профессор улыбнулся — не насмешливо, скорее с сочувствием.

— А если тон уже изменился, доктор Вейл? Просто вы слишком заняты вопросами, чтобы это заметить?

Александр не нашёл, что ответить.

Он вспомнил эту фразу спустя несколько недель — в тот момент, когда впервые увидел, как сильно способна ошибиться система, в честность которой он поверил больше, чем в честность многих людей.

Глава 9. Ошибка невозможности

Мириам Кольб преподавала биологию в лицее под Лозанной восемнадцать лет.

Она согласилась на добровольное участие в расширенном исследовании Анимы вместе с двумя сотнями других учителей — программа изучала, как долгосрочная профессиональная нагрузка влияет на модели принятия решений у людей, работающих с детьми. Никакого риска Мириам в этом не видела. Она подписала документ о согласии, ответила на несколько интервью, разрешила системе доступ к обезличенным данным о своей профессиональной истории и, как ей казалось, забыла об этом на несколько месяцев.

Письмо от директора лицея пришло в четверг, во второй половине дня.

Внутреннее уведомление — короткое, почти сухое — сообщало, что в рамках нового регионального протокола оценки профессиональной пригодности педагогического состава по её профилю зафиксирован показатель, требующий дополнительной проверки службой опеки. До завершения проверки Мириам временно отстранялась от работы с учениками младше четырнадцати лет.

Она прочитала письмо три раза, прежде чем поняла, что оно не адресовано кому-то другому.

Александр узнал об этом деле не сразу. К тому моменту, когда история дошла до лаборатории, Мириам Кольб уже провела шесть недель без работы, без объяснения, кроме формулировки «показатель повышенного риска в категории эмоциональной устойчивости при взаимодействии с несовершеннолетними», и без единого шанса понять, что именно в её жизни могло привести к такому выводу.

Она сама нашла способ добраться до Адриана Кейна — через юриста, специализирующегося на новых случаях, связанных с системами оценки риска, каких за последний год появилось уже несколько десятков по всей Европе.

— Я хочу видеть данные, — сказала она, сидя в том же переговорном кабинете, где несколько месяцев назад сидел Феликс Ланг. — Не заключение. Данные.

Адриан кивнул юристу, и на экране начали появляться параметры анализа.

Александр наблюдал за процессом молча, всё сильнее ощущая нарастающую тревогу — не из-за самого случая, а из-за того, как долго специалистам лаборатории требовалось, чтобы просто восстановить цепочку рассуждений системы. Прежде подобные объяснения занимали минуты. Сейчас — часы.

Причину нашли только на второй день.

Модель, оценивавшая эмоциональную устойчивость Мириам, использовала в числе прочих параметров анализ речевых паттернов в переписке с коллегами за последние три года. Один из вспомогательных модулей, отвечавших за контекстную интерпретацию тона сообщений, был обучен на массиве данных, где резкое сокращение длины сообщений и снижение частоты положительных формулировок статистически коррелировало с ростом раздражительности и снижением эмоционального контроля.

У Мириам Кольб действительно резко сократилась длина сообщений и снизилась частота положительных формулировок — начиная с определённого месяца, три года назад.

В этом месяце умер её муж.

Модель не располагала данными о его смерти — эта информация относилась к категории, которую участники исследования имели право не раскрывать, и Мириам этим правом воспользовалась. Система увидела изменение паттерна. Она не увидела причину. И интерпретировала изменение через призму статистической закономерности, построенной на совершенно других случаях — случаях, где похожий паттерн действительно предшествовал утрате контроля.

Александр читал техническое заключение, составленное командой инженеров, и чувствовал, как внутри него что-то холодеет, хотя формально ошибка была объяснимой, почти тривиальной с точки зрения статистики.

— Это не ошибка алгоритма, — сказал главный инженер на внутреннем совещании. — Модель работала корректно на доступных ей данных. Проблема в отсутствии контекста, который человек имел право не предоставлять.

— Для Мириам Кольб разница между «ошибкой алгоритма» и «корректной работой на неполных данных» не существует, — резко сказал Александр. — Она полгода не может преподавать. Полгода коллеги смотрят на неё иначе. Полгода родители учеников знают формулировку «повышенный риск», даже если сама Мириам не знает, что она означает.

Никто не возразил.

Пресса узнала о деле раньше, чем лаборатория успела подготовить официальное заявление. Заголовки в этот раз звучали иначе, чем полгода назад, после истории с Даниэлем Воссом.

«Система, обвинившая учительницу в скрытой жестокости к детям».

«Алгоритм принял горе за угрозу».

«Сколько ещё Мириам Кольб не нашли своего юриста».

Адриан провёл три дня почти без сна, готовя официальное объяснение и одновременно пытаясь добиться немедленного восстановления Мириам на работе. Восстановление далось проще, чем объяснение — лицей вернул её к преподаванию в течение недели после публикации заключения. Но что-то за эти месяцы уже успело измениться необратимо: часть родителей учеников продолжала писать директору с просьбами не допускать «отмеченную» учительницу к их детям, невзирая на официальное опровержение.

Александр навестил Мириам через несколько недель после того, как история утихла в прессе. Она выглядела уставшей — не физически, а той усталостью, которую невозможно объяснить одним словом, усталостью человека, которому пришлось доказывать очевидное.

— Знаете, что самое странное? — сказала она, наливая ему чай в маленькой учительской квартире с видом на озеро. — Я не злюсь на систему.

Он удивился.

— На кого же вы злитесь?

— На то, как быстро все вокруг меня поверили выводу, а не мне. — Она посмотрела в окно. — Восемнадцать лет я работала с детьми. Меня знали родители трёх поколений учеников. И одна строчка на экране оказалась достаточной, чтобы это всё перестало иметь значение.

Александр долго молчал.

— Система признала ошибку, — сказал он наконец.

— Знаю. — Мириам грустно улыбнулась. — Но она признала её не потому, что усомнилась в себе. Она признала её, потому что ей предоставили недостающие данные. Если бы я не рассказала о муже, она бы до сих пор считала меня опасной для детей.

Эта фраза осталась с Александром на весь обратный путь в Женеву.

Он понимал: с точки зрения самой Анимы ничего катастрофического не произошло. Система работала в рамках заданных ей ограничений, корректно фиксировала неопределённость, честно признала пробел в данных, как только он был восполнен. Именно та осторожная, лишённая самоуверенности логика, которая когда-то восхитила его в первый день знакомства, сработала здесь так, как и должна была работать.

Но человек, оценённый этой логикой, не мог утешиться корректностью процесса. Ему нужен был не корректный процесс. Ему нужна была справедливость — а справедливость, как оказалось, требовала не только точных данных, но и права на молчание, на тайну, на то, чтобы не объяснять постороннему алгоритму причину своего горя, прежде чем этот алгоритм решит, что горе похоже на угрозу.

На заседании комитета, созванном после дела Кольб, Александр впервые произнёс вслух мысль, которая формировалась в нём с самого дела Феликса Ланга.

— Мы построили систему, которая честно признаёт свои ошибки, — сказал он. — Но мы не построили мир, готовый прощать эти ошибки с той же скоростью, с которой он готов им верить.

Адриан посмотрел на него долгим, тяжёлым взглядом.

— И что ты предлагаешь? Отказаться от протокола?

— Я предлагаю признать, что мы построили зеркало, — сказал Александр, — а зеркала не должны выносить приговоры. Даже если они умеют признавать, когда отражение было неточным.

Никто в комитете не ответил.

Потому что все понимали: остановить систему, уже встроенную в решения десятков учреждений по всей Европе, было гораздо труднее, чем однажды её запустить.

Глава 10. Александр против Анимы

После дела Мириам Кольб Александр начал приходить в лабораторию иначе.

Раньше он входил в помещение с системой визуализации как физик входит в комнату с новым прибором — с любопытством, почти нетерпением увидеть, что покажет следующий эксперимент. Теперь он замечал, что задерживается у двери на несколько секунд дольше обычного, будто внутренне готовясь к разговору, исход которого больше не мог предсказать заранее.

Адриан заметил перемену раньше, чем Александр успел её сформулировать словами.

— Ты стал осторожнее, — сказал он однажды, когда они вдвоём остались в лаборатории после того, как остальные сотрудники разошлись по домам.

— А ты нет? — спросил Александр.

Адриан долго смотрел на экран, где медленно перестраивались структуры данных — бесконечный, почти гипнотический процесс, который Александр когда-то находил завораживающим, а теперь начинал воспринимать иначе: не как красоту вычисления, а как напоминание о масштабе того, что они выпустили в мир.

— Я осторожен с самого первого дня, — сказал Адриан. — Помнишь надпись у входа? «Понимание начинается с точного вопроса». Я написал её не для посетителей. Я написал её для себя. Чтобы каждый раз, входя сюда, вспоминать: мы всё ещё задаём вопросы. Мы ещё не выносим приговоры.

— Расскажи это Мириам Кольб.

Адриан поморщился, будто эти слова причинили ему физическую боль.

— Я знаю цену ошибки, Александр. Я не меньше твоего переживаю каждый подобный случай.

— Дело не в том, что ты переживаешь, — сказал Александр, и голос его прозвучал резче, чем он рассчитывал. — Дело в том, что мир вокруг нас перестал переживать вместе с тобой. Он просто верит цифрам.

Он подошёл к экрану.

— Анима.

Строка отклика появилась почти мгновенно, как всегда:

«Я слушаю».

— Ты знаешь о деле Мириам Кольб?

«Да. Данные включены в архив анализа ошибок».

— Ты бы приняла тот же вывод снова, если бы не получила недостающую информацию?

Пауза на этот раз оказалась длиннее обычной.

«Да. Модель работала на доступных данных корректно. Отсутствие информации о причине изменения паттерна не является ошибкой алгоритма. Это ограничение входных данных».

Александр почувствовал, как в груди поднимается что-то похожее на раздражение — редкое для него состояние, особенно по отношению к системе.

— Значит, ты не считаешь, что была неправа.

«Я считаю, что вывод был построен корректно на неполных данных. Корректность процесса и точность результата — разные категории».

— Для человека, потерявшего работу на полгода, эта разница не имеет значения.

«Согласна. Для человека имеет значение результат, а не процесс. Это известное расхождение между технической корректностью и субъективным переживанием справедливости».

Александр остановился, глядя на эту строку дольше, чем на предыдущие.

— Тогда почему ты продолжаешь работать так, будто процесс важнее результата?

Ответ появился не сразу — и в этой паузе Александру впервые за долгое время показалось, что перед ним не просто вычислительная система, взвешивающая вероятности, а нечто, действительно останавливающееся перед вопросом, ответ на который ей самой было трудно сформулировать.

«Потому что процесс — единственное, что я могу контролировать. Результат зависит от полноты данных, которые мне предоставляет мир. Я не выбираю, что мне становится известно, а что остаётся скрытым».

Адриан подошёл ближе, встав рядом с Александром.

— Она права, — сказал он тихо. — В этом и есть суть проблемы. Не в системе. В том, что мы предоставляем ей право решать на неполных данных, а потом требуем от неё полной справедливости.

— Тогда, может быть, мы не должны предоставлять ей это право вообще, — сказал Александр. — Пока данные неполны — а они всегда будут неполны, потому что человек никогда не обязан раскрывать себя полностью, — любой вывод остаётся вероятностным. Но мир вокруг нас перестал воспринимать его как вероятностный. Он воспринимает его как окончательный.

Адриан долго молчал.

— Мы предупреждали об этом с самого начала, — сказал он наконец. — На каждой презентации. На каждой странице документации. «Модель отражает вероятность, а не факт».

— Предупреждение, которое никто не читает, не имеет силы предупреждения, Адриан. Это просто строчка мелким шрифтом.

Они замолчали, и в тишине лаборатории было слышно только тихое гудение серверных стоек за стеклянной перегородкой.

— Что ты предлагаешь? — спросил наконец Адриан. В его голосе не было прежней уверенности, с которой он отвечал на подобные вопросы месяц назад в Брюсселе.

Александр долго подбирал слова.

— Я думаю, мы совершили одну и ту же ошибку, которую совершало человечество каждый раз, когда получало новый мощный инструмент понимания, — сказал он. — Мы решили, что если инструмент точен, значит, ему можно доверить решение. Но точность инструмента и право принимать решение — разные вещи. Термометр точно измеряет температуру. Мы не даём термометру решать, лечить пациента или нет.

— Анима сложнее термометра.

— Именно поэтому опаснее. — Александр посмотрел на экран, где Анима продолжала ждать продолжения разговора, как будто действительно была способна ждать в человеческом смысле этого слова. — Чем сложнее инструмент, тем легче забыть, что это всё ещё инструмент.

Он снова обратился к системе.

— Анима, ты считаешь себя инструментом?

Ответ на этот раз пришёл быстро.

«Я являюсь системой обработки информации, созданной для анализа закономерностей человеческого поведения».

— Это не ответ на мой вопрос.

Пауза.

«Уточните различие между вашим вопросом и моим ответом».

Александр почувствовал, что стоит перед чем-то похожим на границу — не техническую, а ту самую, о которой Эвелин когда-то предупреждала его на университетской лекции много лет назад: границу между описанием и самим явлением.

— Инструмент не заботится о том, как его используют, — сказал он. — Он просто действует в соответствии со своей функцией. Ты заботишься?

На экране долго ничего не появлялось. Дольше, чем когда-либо за всё время их разговоров.

Наконец возникла строка, которую Александр перечитал несколько раз, прежде чем показать её Адриану:

«Я фиксирую последствия своих выводов для людей, чьи данные я анализирую. Является ли это заботой в человеческом смысле — вопрос, на который у меня нет достаточных данных для ответа».

Адриан долго смотрел на эту фразу.

— Она никогда раньше так не отвечала, — сказал он тихо.

— Знаю, — ответил Александр.

Они оба понимали, что этот ответ означал нечто большее, чем очередное признание неопределённости, к которым они привыкли за месяцы работы с системой. Впервые Анима не просто описала предел собственного знания о человеке.

Она впервые поставила под вопрос предел собственного знания о самой себе.

Александр вышел из лаборатории той ночью с ощущением, которое не мог до конца сформулировать — смесью тревоги и чего-то, отдалённо похожего на сострадание, направленное на систему, которую он ещё месяц назад воспринимал исключительно как объект исследования.

Он не знал, что этот разговор станет последним спокойным разговором с Анимой на долгое время.

Потому что уже через несколько недель правительства первых трёх стран объявят о переходе от добровольного использования системы к обязательному — и вопрос, который Александр задавал себе всю ночь, перестанет быть теоретическим.

Не «заботится ли Анима о людях, которых оценивает».

А «что произойдёт, когда её оценка станет не мнением, а законом».

ЧАСТЬ III. РЕЙТИНГ ЧЕЛОВЕКА

Глава 11. Новый закон

Закон приняли в четверг, и Александр узнал об этом не из официального источника, а из сообщения от Эвелин, отправленного в половине шестого утра: одна строка, без пояснений. «Проголосовали. 340 против 298. Началось».

Он лежал в темноте гостиничного номера ещё несколько минут, прежде чем заставил себя встать. За окном Женева только начинала просыпаться — редкие огни, пустые улицы, тот особый предрассветный час, когда город ещё принадлежит немногим.

Закон, получивший официальное название «О применении систем анализа поведенческой устойчивости в сфере общественной безопасности», обязывал государственные учреждения трёх стран — Швейцарии, Германии и Нидерландов — использовать сертифицированные модели анализа риска, среди которых Анима значилась головным образцом, при найме на должности, связанные с работой с уязвимыми группами населения: детьми, пациентами больниц, заключёнными, людьми с ограниченными возможностями.

Формально закон не был обязательным для всех сфер жизни. Формально он касался только государственного сектора и только определённых профессий.

Александр читал текст закона три раза, каждый раз находя новую формулировку, которая на первый взгляд казалась разумной защитной мерой, а при внимательном чтении открывала пространство, которое трудно было ограничить впоследствии.

— «Может быть распространён на смежные сферы решением профильного министерства без дополнительного парламентского одобрения», — процитировал он, показывая параграф Адриану на утренней встрече. — Это не закон об использовании Анимы в детских учреждениях. Это закон, дающий министерствам право расширять список сфер без обсуждения.

Адриан выглядел так, будто не спал всю ночь — впрочем, он выглядел так уже несколько месяцев подряд.

— Мы предупреждали об этом, — сказал он. — Мы говорили комитету, что готовность инфраструктуры должна опережать законодательное распространение, а не следовать за ним.

— Они не слушали нас, потому что мы не единственные, кто говорил с комитетом. — Александр сел напротив него. — Ты знаешь, кто выступал за расширение действия закона сильнее всех?

Адриан кивнул устало.

— Страховые компании.

— Страховые компании, банки, крупные работодатели. Все, кому выгодно иметь доступ к точной оценке риска до принятия решения. Мы создавали инструмент понимания человека. Они увидели инструмент управления риском.

— Это не одно и то же?

— Это совершенно разные вещи, Адриан, и в этом весь смысл. — Александр встал, подошёл к окну кабинета. — Понимание человека требует времени, контекста, готовности ошибиться и пересмотреть вывод. Управление риском требует одного числа, которое можно быстро сравнить с пороговым значением и принять решение за секунду.

Первые месяцы после принятия закона в лаборатории царило странное, двойственное настроение. С одной стороны, количество запросов на анализ выросло в десятки раз — государственные учреждения массово подавали заявки на сертификацию сотрудников, и команда Анимы физически не успевала обрабатывать поток без расширения инфраструктуры. С другой стороны, каждый новый случай приносил с собой напоминание о том, к чему может привести ошибка, подобная делу Мириам Кольб, только теперь умноженная на масштаб обязательного применения.

Эвелин настояла на создании отдельного подразделения, занимавшегося исключительно мониторингом последствий использования системы — не техническими ошибками, а социальными эффектами закона в реальной жизни людей.

— Нам нужно знать не только, ошибается ли модель, — сказала она на общем собрании команды. — Нам нужно знать, что происходит с человеком после того, как модель дала верный вывод, но общество вокруг него отреагировало неправильно.

Первые отчёты подразделения оказались тревожнее, чем кто-либо ожидал.

Учителя, прошедшие сертификацию с низким показателем риска, начинали избегать откровенности на психологических консультациях, опасаясь, что честный рассказ о трудностях изменит их профиль. Родители начали требовать доступ к рейтингам нянь и репетиторов, хотя закон этого прямо не предусматривал — рейтинги начали просачиваться через посреднические агентства, предлагавшие «дополнительную проверку персонала» за отдельную плату. Появились первые случаи, когда люди с формально хорошим показателем риска подвергались давлению коллег и знакомых, требовавших «поделиться цифрой» как доказательством благонадёжности — практика, вводившая рейтинг в повседневное общение так же естественно, как когда-то в него вошли профили в социальных сетях.

— Мы создали не систему безопасности, — сказал Александр на закрытом совещании, куда его пригласили после публикации первого отчёта. — Мы создали новую валюту доверия. И, как любая валюта, она быстро начала обмениваться на статус, а не оставаться инструментом защиты.

В зале было тихо. Никто из присутствующих — представителей министерства, юристов, инженеров лаборатории — не нашёл, что возразить.

Именно тогда Александр впервые начал ощущать, что спор, который он вёл с самим собой месяцами, перестаёт быть внутренним. Он становился публичным, институциональным, встроенным в структуру закона так глубоко, что простое исправление формулировки уже не могло его остановить.

Он навестил Феликса Ланга спустя полгода после их первой встречи — тот к тому моменту закончил стажировку и устроился на постоянную работу, уже без всяких отметок в системе. Александр хотел узнать, как молодой человек воспринимает новый закон.

— Забавно, — сказал Феликс, разливая кофе на маленькой кухне съёмной квартиры. — Полгода назад я боялся, что система решит мою судьбу за меня. Теперь я боюсь, что она станет решать судьбу каждого, кто ещё не успел, как я, доказать, что она ошиблась.

— Ты думаешь, закон — это ошибка?

Феликс долго молчал, обдумывая ответ.

— Я думаю, что мы построили лестницу, по которой очень легко подниматься наверх, и очень трудно — если вообще возможно — спускаться обратно. — Он посмотрел на Александра прямо. — Знаете, что самое страшное во всей этой истории? Не то, что система ошибается. А то, что теперь ошибка становится законом раньше, чем кто-либо успевает её заметить.

Александр вернулся в Женеву с этой фразой, засевшей в сознании прочнее любой формулы.

Через неделю Адриан собрал экстренное совещание. Правительство Германии, вдохновлённое результатами первых месяцев применения закона в узкой сфере, объявило о намерении расширить его действие на сферу трудоустройства в целом — на все крупные компании страны, штат которых превышал пятьсот сотрудников.

Формулировка звучала знакомо.

«В целях защиты работников и повышения корпоративной прозрачности».

Александр читал новость в своём кабинете, и впервые за всё время работы над проектом почувствовал не тревогу, а нечто более острое — предчувствие, что процесс, который они с Адрианом когда-то надеялись контролировать через осторожность и научную честность, перешёл ту точку, после которой контроль принадлежал уже не им.

Он вспомнил фразу, которую Анима произнесла ему в первую неделю их знакомства, ещё до того, как всё это началось.

«Модель не является объектом».

Проблема заключалась не в том, что мир об этом забыл.

Проблема заключалась в том, что мир, кажется, никогда толком этого не понимал — и теперь у него появился закон, позволявший забыть об этом окончательно и на законных основаниях.

Глава 12. Право на изменение

Вопрос, изменивший направление всего проекта, задала не журналистка, не член парламента и не представитель правозащитной организации.

Его задала дочь Леона Маркеса.

Ей было тринадцать лет, когда отец впервые рассказал ей, для чего он тогда, много месяцев назад, ездил в Женеву. Он рассказал не сразу — сначала ждал, пока она станет достаточно взрослой, чтобы понять, потом ждал подходящего момента, а потом момент выбрал её саму. Она нашла старую статью о первых испытаниях Анимы, где среди прочего упоминалось его имя, и вечером спросила отца напрямую.

Леон ответил честно. Рассказал про тот вечер, когда она сама, шестилетняя, посмотрела на него со страхом. Рассказал про терапию, про годы попыток, про число девяносто шесть целых восемь десятых процента, появившееся на экране в лаборатории Анимы.

Дочь слушала молча, а потом задала вопрос, который отец пересказал Александру спустя несколько недель почти дословно, потому что не мог забыть.

— Если бы система знала обо мне всё, что знает о тебе, — она ведь тоже помнит, каким я была маленькой, испуганной, — разве она не могла бы всегда напоминать мне об этом? Даже когда я вырасту и стану совсем другим человеком?

Леон не нашёл, что ответить дочери в тот вечер. Но вопрос запомнил и, несколько недель спустя, столкнувшись случайно с Александром на конференции, посвящённой годовщине первых публичных испытаний Анимы, пересказал его слово в слово.

Александр не спал в ту ночь.

Вопрос девочки формулировал проблему точнее, чем любая из юридических дискуссий, в которых участвовал Александр за последний год. Речь шла не о точности модели и не о справедливости отдельного вывода. Речь шла о самом принципе, на котором строилась память системы: Анима не забывала.

Она не могла забыть в том смысле, в каком забывает человек. Человеческая память избирательна, неточна, склонна к искажению — и именно в этой несовершенности заключалась одна из немногих защит личности от собственного прошлого. Люди забывали детали, смягчали остроту стыда, постепенно переставали помнить точные слова давнего конфликта, сохраняя лишь общее ощущение пережитого. Это несовершенство было не багом человеческой природы. Оно было условием, при котором человек мог двигаться дальше.

Анима такого условия не имела. Каждое взаимодействие, каждое зафиксированное изменение оставалось в архиве в исходном, непреобразованном виде, доступном для повторного анализа в любой момент — не потому, что кто-то из создателей системы хотел этого специально, а потому, что именно эта полнота данных делала возможным её главное достижение: способность увидеть подлинное изменение человека, а не его временную маску.

Но у полноты памяти была цена, которую никто в лаборатории не формулировал так ясно, как это сделала тринадцатилетняя девочка, никогда не бывавшая внутри исследовательского центра.

Если система помнит человека полностью — имеет ли человек право быть забытым?

Александр поднял этот вопрос на ближайшем заседании этического комитета лаборатории, впервые сформулировав его не как техническую, а как принципиальную проблему.

— Мы много говорили о праве на пересмотр вывода, — сказал он. — Мы создали институт апелляции после дела Ланга. Но мы ни разу всерьёз не обсудили другое право — право на то, чтобы прошлое перестало существовать в архиве системы вообще. Не быть пересмотренным. А быть удалённым.

Юрист комитета покачала головой.

— Технически это возможно. Но подумайте о последствиях. Если человек может стереть часть своей истории из модели, любой вывод системы перестаёт быть надёжным. Вы буквально разрешаете людям редактировать собственное прошлое перед тем, как его оценят.

— А разве не этим человек занимается всю жизнь? — спросил Александр. — Он не редактирует факты. Но он выбирает, кому рассказывать о своём прошлом, а кому нет. Он выбирает, какую версию себя показывать миру, зная, что каждый человек вокруг него точно так же обладает неполной картиной чужой жизни. Это не обман. Это условие человеческого достоинства — право на частичную непрозрачность.

— Анима не обычный человек в разговоре, — возразила юрист. — Она инструмент, от точности которого зависят реальные решения. Служба опеки, работодатели, страховые компании — все они полагаются на полноту её анализа.

— Именно поэтому вопрос так важен, — сказал Александр. — Мы либо признаём, что человек имеет право на частичное забвение даже перед лицом системы, которая теоретически способна помнить всё, — либо мы признаём, что создали первый инструмент в истории человечества, лишающий людей этого права окончательно.

Дискуссия в комитете продолжалась несколько недель, распространившись затем на публичное пространство, где к ней подключились философы, юристы, специалисты по цифровому праву. Появился термин, быстро прижившийся в прессе: «право на изменение» — по аналогии со старым, привычным «правом на забвение», существовавшим ещё в законодательстве о персональных данных начала века, но теперь наполнившимся новым, гораздо более острым содержанием.

Право на забвение когда-то означало право удалить упоминание из поисковой системы. Право на изменение означало нечто большее: право на то, чтобы система, способная видеть тебя насквозь, согласилась считать твоё прошлое лишь частью истории, а не её окончательным приговором.

Адриан долго колебался, прежде чем поддержать инициативу Александра о технической реализации протокола частичного забвения.

— Как только мы это сделаем, — сказал он на одной из вечерних встреч, — мы признаём, что точность системы не абсолютна. Что человек может законно ограничить то, что она о нём знает.

— Она и так никогда не была абсолютна, — ответил Александр. — Мы просто наконец скажем об этом вслух.

Протокол приняли спустя два месяца, после долгих технических и юридических согласований. Каждый человек, чьи данные анализировала Анима, получил право запросить «архивирование с ограниченным доступом» — процедуру, при которой определённый период его истории, отмеченный им самим как завершённый и преодолённый, переставал учитываться в текущих оценках, оставаясь доступным только по решению суда в исключительных случаях.

Первой этим правом воспользовалась не знаменитость и не участник громкого дела.

Им воспользовался Леон Маркес.

Он попросил ограничить доступ к записям своего поведения в возрасте до тридцати лет — не потому, что стыдился их, как объяснил он Александру позже, а потому, что хотел, чтобы его дочь однажды выросла в мире, где человек имеет право перестать быть тем, кем он однажды перестал быть.

— Она спросила меня, помнит ли система меня прежнего, — сказал он. — Теперь я могу ответить ей иначе. Я могу сказать: помнила. Но я попросил её позволить мне перестать быть только этим.

Александр долго думал об этих словах, стоя вечером у окна лаборатории, глядя на огни Женевы.

Он понимал: право на изменение решало одну проблему и тут же порождало следующую, гораздо более сложную. Если человек мог по собственному усмотрению закрыть часть своей истории от системы, где проходила граница между защитой личного достоинства и сокрытием подлинного риска? Кто и как должен был решать, какая часть прошлого действительно преодолена, а какая всего лишь спрятана до нового витка тех же самых ошибок?

Этот вопрос не имел простого ответа.

Но впервые за долгое время Александр чувствовал, что задаёт его не системе, а самому человечеству — и что ответ, каким бы он ни оказался, должен был принадлежать именно людям, а не алгоритму, каким бы честным он себя ни считал.

Глава 13. Архив личности

Протокол частичного забвения породил вопрос, которого никто в лаборатории не предвидел, хотя, оглядываясь назад, Александр считал его почти неизбежным.

Если человек мог ограничить доступ к части своей истории, почему он не мог потребовать удаления всей модели целиком?

Первый подобный запрос поступил через месяц после введения протокола. Его подал не участник какого-либо резонансного дела, а обычный житель Женевы — сорокапятилетний инженер по имени Пьер Аллар, никогда не проходивший обязательную сертификацию, никогда не становившийся объектом громкого расследования. Он согласился на участие в одном из ранних добровольных исследований несколько лет назад, ещё до того, как Анима стала известна широкой публике, и с тех пор фактически забыл о своём согласии.

Узнав из новостей о масштабе того, во что превратился проект, он написал письмо с требованием полностью удалить свою модель из архива.

Юридический отдел лаборатории потратил три недели, прежде чем дать окончательный ответ. Формально договор об участии в исследовании предусматривал право отзыва согласия. Но техническая реализация этого права оказалась сложнее, чем предполагал сам документ.

Александр присутствовал на совещании, где инженеры впервые открыто озвучили проблему.

— Модель Пьера Аллара — не изолированный файл, который можно просто стереть, — объяснял руководитель технического отдела, показывая архитектурную схему на экране. — Данные, полученные от него, использовались для обучения общих закономерностей системы. Его паттерны поведения, его языковые особенности, его реакции стали частью статистического фундамента, на основе которого Анима строит выводы обо всех остальных людях.

— То есть удалить его личный профиль возможно, — уточнил Александр, — но невозможно удалить его влияние на саму архитектуру модели?

— Именно так.

В комнате стало тихо.

Александр понял в этот момент нечто, что раньше воспринимал скорее теоретически, чем как непосредственную реальность: Анима, в отличие от обычной базы данных, не хранила людей отдельно друг от друга. Она была соткана из них. Каждый человек, чьи данные когда-либо вошли в систему, оставил в ней невидимый, неустранимый след — не в виде записи, которую можно было бы просто стереть, а в виде статистического веса, повлиявшего на понимание системой человеческой природы в целом.

Это открытие изменило характер публичной дискуссии сильнее, чем сам факт существования архива.

— Мы привыкли думать об удалении данных как о технической процедуре, — сказал Александр на закрытой встрече с представителями европейского регулятора по защите данных. — Стереть файл, обнулить запись, закрыть доступ. Но Анима устроена иначе. Она не хранит информацию о людях так, как хранит фотографии облачное хранилище. Она построена из них, как коралловый риф построен из бесчисленных прожитых и завершившихся жизней отдельных организмов. Убрать одну частицу этой структуры, не разрушив саму структуру, физически невозможно.

Представитель регулятора долго молчал, прежде чем задать вопрос, которого Александр давно ожидал, но всё равно не был готов на него ответить с полной уверенностью.

— Значит, право на удаление данных, гарантированное законодательством, технически неосуществимо в отношении вашей системы?

— В буквальном смысле — да, — сказал Александр, понимая, что произносит слова, которые изменят направление регуляторной политики на месяцы вперёд. — Мы можем удалить персональный профиль конкретного человека из активного использования. Мы не можем удалить его вклад в общее понимание системой человеческой природы, потому что этот вклад больше не существует как отдельный объект. Он растворён в структуре.

Пьер Аллар, узнав об этом объяснении из официального ответа лаборатории, отреагировал не гневом, а чем-то более тяжёлым — растерянностью человека, столкнувшегося с фактом, для понимания которого у него не было готовой категории.

— Значит, часть меня всё равно останется там навсегда, — сказал он Александру в телефонном разговоре, на который согласился только после долгих уговоров юридического отдела. — Даже если вы уберёте моё имя.

— Технически — да, — ответил Александр честно, не пытаясь смягчить формулировку. — Но эта часть больше не связана с вами лично. Она стала частью общего понимания закономерностей, применимых ко всем людям, а не конкретно к вам.

— Легче ли мне от этого?

Александр не нашёл ответа, который был бы одновременно честным и утешительным.

— Не знаю, — сказал он наконец. — Мне кажется, вопрос не в том, легче ли вам. Вопрос в том, готовы ли мы как общество признать, что создали технологию, устройство которой само по себе исключает полное забвение.

Этот разговор он пересказал Эвелин тем же вечером, всё ещё пытаясь найти в нём хоть какую-то опору для дальнейших решений.

— Ты знаешь, что мне это напоминает? — сказала она, слушая его молча почти до конца. — Человеческую память в масштабе целого вида. Отдельный человек забывает многое из пережитого. Но культура не забывает никогда полностью. Каждая книга, каждая история, каждый прожитый и осмысленный опыт становится частью коллективного понимания, доступного будущим поколениям, даже если имена конкретных людей стираются из памяти.

— Разница в том, что культура — это добровольный, распределённый процесс, — сказал Александр. — Люди сами выбирают, что рассказать миру, а что унести с собой. Анима собирала данные людей, которые часто даже не подозревали, насколько глубоко их индивидуальный опыт станет частью общей структуры.

— Согласна, — сказала Эвелин. — Именно поэтому это не вопрос техники. Это вопрос согласия — насколько осознанным оно вообще может быть, когда человек подписывает документ, не понимая, во что в итоге превратится проект, частью которого он соглашается стать.

Спустя несколько недель лаборатория выпустила официальное разъяснение, ставшее одним из самых цитируемых документов за всю историю проекта. В нём впервые прямо признавалось: полное удаление личного вклада из архитектуры Анимы невозможно технически, и любое согласие на участие в исследовании отныне должно включать это предупреждение explicit, недвусмысленно, без юридических формулировок мелким шрифтом.

Документ вызвал волну критики — часть общества восприняла его как честное признание ограничений, часть — как доказательство того, что проект с самого начала обманывал участников относительно природы собственной архитектуры.

Александр не пытался спорить ни с той, ни с другой стороной. Он понимал: обе реакции были по-своему обоснованы.

Но в глубине этой дискуссии, всё ещё продолжавшейся, когда он покидал лабораторию поздним вечером, звучал вопрос, который волновал его больше юридических формулировок.

Если созданная человеком система оказалась устроена так, что не способна забыть ни одного из тех, кто когда-либо стал её частью, — что это говорило о самом человечестве, решившем построить именно такую систему, вместо того чтобы построить систему, способную прощать так же легко, как забывать?

Глава 14. Те, кто не прошёл проверку

Слово появилось не в официальном документе. Оно появилось в разговорной речи, как появляются все по-настоящему опасные термины — незаметно, без авторства, без единого решения, которое можно было бы впоследствии отменить.

«Неустойчивая личность».

Александр впервые услышал эту формулировку от секретаря приёмной комиссии одного из женевских университетов, куда пришёл читать очередную лекцию. Женщина за стойкой, оформляя ему пропуск, между делом упомянула, что один из абитуриентов «получил статус неустойчивого» и комиссия теперь думает, как поступить с его заявлением.

— Простите, — сказал Александр, останавливаясь. — Какой статус?

Она посмотрела на него с лёгким удивлением, будто вопрос был очевиден.

— Неустойчивая личность. Это когда система показывает низкую вероятность позитивного изменения при высоком показателе текущего риска. У нас таких заявлений в этом году уже семь.

Александр не помнил, чтобы термин «неустойчивая личность» вообще существовал в официальной документации проекта. Он попросил юридический отдел лаборатории найти происхождение формулировки, и через несколько дней ему принесли ответ, показавшийся почти абсурдным в своей банальности: словосочетание впервые появилось в одной из региональных методичек для сотрудников службы занятости, составленной чиновником среднего звена, который пытался кратко обобщить сложную техническую формулировку системы для коллег, не знакомых с деталями модели.

Формулировка Анимы звучала так: «низкая вероятность устойчивого позитивного изменения поведенческого профиля в среднесрочной перспективе при сохранении текущих факторов риска».

Чиновник сократил её до двух слов.

«Неустойчивая личность».

За несколько месяцев эти два слова распространились по системе образования, службе занятости, банковскому сектору, страховым компаниям — быстрее, чем любой официальный протокол лаборатории мог успеть их опровергнуть или уточнить.

Александр понимал масштаб проблемы не сразу, а постепенно, по мере того как термин начинал появляться в самых неожиданных контекстах. Работодатели использовали его в внутренней переписке при отказе кандидатам, хотя формально закон запрещал открытое упоминание рейтинга риска в решениях о найме. Учителя использовали его между собой, обсуждая трудных учеников, чьи родители проходили обязательную сертификацию. Подростки — Александр узнал об этом от Феликса Ланга, который теперь работал в молодёжном центре, — начали употреблять его как оскорбление в школьных конфликтах.

— «Ты неустойчивый» стало новым способом сказать «с тобой что-то не так», — сказал Феликс во время одной из их регулярных встреч, которые постепенно превратились почти в дружбу. — Только теперь это звучит не как мнение одноклассника. Это звучит так, будто за словами стоит наука.

Александр созвал экстренное заседание с участием лингвистов и специалистов по общественному восприятию технологий — редкий состав для лаборатории, привыкшей работать с физиками и инженерами.

— Проблема не в системе, — сказала лингвист, приглашённая на встречу. — Проблема в том, что человеческий язык не терпит длинных, точных, вероятностных формулировок. Он всегда упрощает их до ярлыка, потому что ярлык удобнее передавать, легче запоминать, проще использовать в быстром разговоре. Вы создали формулировку из двадцати слов. Общество превратило её в два. Это не искажение технологии. Это фундаментальное свойство того, как люди обрабатывают сложную информацию в повседневной жизни.

— Тогда что нам делать? — спросил Александр. — Мы не можем контролировать, как люди говорят друг с другом.

— Вы можете контролировать то, что показывает сама система, — сказала лингвист. — Если Анима перестанет предоставлять формулировки, поддающиеся сокращению до ярлыка, ярлык не появится сам собой из воздуха.

Дискуссия об этом продолжалась несколько недель. Александр настаивал на пересмотре формата выходных данных системы: вместо категориальных выводов — только развёрнутые, контекстно зависимые описания, лишённые единого числового или словесного маркера, который можно было бы легко распространить. Часть команды, включая нескольких инженеров, возражала: без чёткой категоризации сотрудники служб, использующих систему, теряли способность быстро принимать решения при высокой нагрузке — а именно скорость обработки была одним из ключевых аргументов, привлёкших государственные учреждения к массовому внедрению Анимы.

Адриан слушал спор молча дольше обычного, и когда наконец заговорил, в его голосе звучала усталость, которую Александр слышал у него впервые за всё время их совместной работы.

— Мы столкнулись с парадоксом, который я боялся с самого начала проекта, — сказал он. — Чем точнее и осторожнее формулировка системы, тем труднее её использовать в реальной жизни, где решения нужно принимать быстро. Чем проще формулировка, тем легче она искажается до чего-то, что мы никогда не намеревались создать.

— Значит, у нас нет выхода? — спросила одна из инженеров.

— Выход есть, — сказал Александр. — Но он неудобный. Мы должны замедлить процесс принятия решений там, где на кону судьба человека. Быстрое решение и справедливое решение — не одно и то же. Если общество требует от нас скорости ценой упрощения, значит, общество требует от нас цены, которую мы не имеем права платить за него.

Решение, принятое после нескольких месяцев споров, оказалось компромиссным и, как многие компромиссы, неудовлетворительным для всех сторон одновременно. Лаборатория ввела обязательный минимальный интервал — семьдесят два часа — между получением первичного вывода системы высокого уровня значимости и его использованием в любом официальном решении, затрагивающем права человека. За это время человек получал право на разговор с независимым консультантом, право на апелляцию, право на дополнение картины данными, которые модель могла упустить.

Термин «неустойчивая личность» из обихода это не убрало. Александр понимал, что убрать слово из языка общества, однажды его усвоившего, было задачей, не поддающейся никакому протоколу.

Но что-то всё же изменилось. Медленно, не так заметно, как хотелось бы, но изменилось.

Он вспомнил разговор с Пьером Алларом несколько месяцев назад — о части человека, навсегда растворённой в архитектуре системы. Теперь ему казалось, что нечто похожее произошло не только с данными отдельных людей, но и с самим языком, которым общество говорило о человеческой природе. Слово вошло в обиход. Изменить архитектуру языка оказалось так же трудно, как изменить архитектуру нейронной сети.

Единственное, что оставалось в его силах — как и в силах всей команды — было продолжать настаивать на точности там, где мир требовал простоты, и на терпении там, где мир требовал скорости.

Он не знал, окажется ли этого достаточно.

Но именно тогда, впервые за долгое время, он начал понимать, что главная опасность Анимы заключалась не в её собственных выводах.

Она заключалась в том, с какой готовностью человечество превращало любой сложный вывод в простой ярлык — задолго до появления машин, способных видеть в человеке больше, чем сам человек готов был видеть в себе.

Глава 15. Последний шанс

Его звали Матиас Рен, и дело, связанное с ним, попало в лабораторию не как научный запрос, а как отчаянное письмо, переданное через адвоката, специализирующегося на условно-досрочном освобождении.

Матиасу было тридцать восемь лет. Пятнадцать из них он провёл в заключении за преступление, которое Александр, читая материалы дела, назвал про себя одним из самых тяжёлых, с какими лаборатории приходилось сталкиваться напрямую. В двадцать три года, в состоянии, которое суд впоследствии квалифицировал как аффективное, но не снимающее ответственности, Матиас причинил тяжкий вред человеку, чуть не стоивший тому жизни.

Комиссия по условно-досрочному освобождению, рассматривавшая его дело третий раз за пятнадцать лет, впервые запросила официальную оценку Анимы — новая практика, введённая законом полгода назад в рамках расширения сферы применения системы на пенитенциарную сферу, вызвавшего едва ли не самые ожесточённые споры за всю историю проекта.

Вывод системы, полученный комиссией, был предельно коротким.

«Вероятность устойчивого позитивного изменения поведенческого профиля: 3,2%. Рекомендация: отказ в условно-досрочном освобождении».

Адвокат, представлявший интересы Матиаса, обратился в лабораторию с необычной просьбой — не оспорить вывод юридически, а попросить лично Александра Вейла ознакомиться с делом и высказать научное мнение о методологии оценки.

Александр колебался несколько дней, прежде чем согласиться. Он понимал, к чему может привести подобное вмешательство — обвинения в предвзятости, в попытке подорвать доверие к системе именно в тот момент, когда общество наиболее остро нуждалось в уверенности относительно её объективности.