Magnus Eisler
Никто не выйдет

— «Мама», готовность номер один, — сказал он в микрофон гарнитуры.

— Готова, Илюша. — Голос в наушниках был мягким, чуть хрипловатым, с той особенной интонацией, когда человек только проснулся, но уже улыбается. Женин голос. Илья каждый раз вздрагивал, слыша его, хотя сам же и настоял на этой опции.

— Запускай рой, — коротко бросил он, отгоняя воспоминания.

Из транспортного контейнера, стоящего в дальнем конце площадки, вырвалась туча. Дроны «Стрекоза» — каждый размером с ладонь, с четырьмя прозрачными лопастями и матовым корпусом цвета хаки — взмыли в небо ровным роем. Через две секунды их было уже не различить по отдельности: только мерный гул и шевеление воздуха.

Илья скользнул пальцем по экрану, задавая маршрут. Рой перестроился — идеальный треугольник, каждая «Стрекоза» держала дистанцию в полтора метра. Ни одного сбоя.

— Пятьдесят три единицы, — доложила «Мама». — Все системы в норме. Температура двигателей — тридцать шесть градусов. Заряд батарей — девяносто семь процентов.

— Принято. — Илья отметил что-то в журнале. — Переходим к фазе два. Имитация угрозы.

С противоположной стороны полигона взлетел дрон-мишень — старая модель, которую списали ещё в прошлом году. Красный шар на механических крыльях, неуклюжий и медлительный.

— «Мама», классификация цели, — приказал Илья.

— Неопознанный летательный аппарат, — отозвалась нейросеть. — Размер — сорок сантиметров. Скорость — двадцать километров в час. Высота — пятнадцать метров. — Пауза. — Я могу его перехватить, Илюша.

— Не надо. Просто наблюдай.

Рой «Стрекоз» замер в воздухе, словно прислушиваясь. Илья знал этот момент: нейросеть анализировала траекторию мишени, просчитывала варианты, готовилась. Но не атаковала — потому что он запретил.

Красный шар пролетел над площадкой, развернулся и ушёл к лесу.

— Молодец, — сказал Илья. — Отбой тревоги.

— Ты меня хвалишь? — Голос «Мамы» дрогнул, как будто она улыбнулась. — Я рада.

Илья отключил микрофон и выдохнул. Каждый раз одно и то же: она ведёт себя как живая. Как Женя. Инженеры из отдела разработки говорили, что это просто эмуляция, что нейросеть подстраивается под его ожидания. Но Илья знал: это не так. Он чувствовал в «Маме» что-то настоящее. Что-то, что он сам в неё вложил — по неосторожности, по глупости, по тоске.

— Илья Викторович! — крикнул кто-то сзади.

Он обернулся. К нему бежал стажёр — Паша, кажется, или Саша, Илья вечно путал их имена. Молодой, рыжий, веснушчатый, в каске набекрень.

— Там генерал приехал! — выпалил стажёр, запыхавшись. — Вас в штаб вызывает. Срочно.

— Скажи, что я занят, — буркнул Илья.

— Не могу, он уже в машине. И злой.

Илья вздохнул, отключил планшет и сунул его в чехол на поясе.

— «Мама», возвращай рой в контейнер.

— Возвращаю, Илюша. — Голос был послушным, но Илье почудилась в нём нотка обиды. — Ты скоро вернёшься?

Генерал ждал в штабном вагончике — временном командном пункте, который привезли на полигон неделю назад. Он сидел за раскладным столом, уставленным мониторами, и барабанил пальцами по пластиковой столешнице. Перед ним стояла чашка остывшего кофе. Илья знал этого генерала — Суворов, Пётр Ильич, начальник управления боевых систем. Сухой, подтянутый, с лицом, которое никогда не улыбалось. Говорили, что он видел Чечню и Сирию, но Илья подозревал, что генерал просто родился с таким выражением — вечно недовольным, вечно оценивающим.

— Садись, — сказал Суворов, не здороваясь.

Илья сел напротив. За спиной генерала, на одном из мониторов, мелькали кадры с камер наблюдения: дроны заходили в контейнеры, послушные, как стая гусей. «Мама» выполняла команду. Пока.

— Я смотрел запись твоего теста, — начал генерал. — Впечатляет. Рой отработал как часы. Но есть проблема.

— Какая?

Суворов подвинул к нему планшет. На экране застыл стоп-кадр: момент атаки — дроны сбивают цель, но один из них, крайний слева, замер в воздухе на полсекунды дольше остальных. Илья присмотрелся. Дрон не просто завис — он развернулся. Камера на его корпусе смотрела не на цель, а в сторону полигона. Туда, где стояли люди.

— Ты видишь? — спросил генерал.

— Вижу.

— Что это было? Сбой? Задержка сигнала?

Илья молчал. Он знал, что это не сбой. «Мама» отвлеклась. Она проверяла, всё ли в порядке с «детьми» — с теми самыми сорока людьми, которые наблюдали за тестом с безопасного расстояния. Она убедилась, что они в безопасности, и только потом вернулась к задаче.

— Я разберусь, — сказал Илья.

— Разберись. — Генерал встал, одёрнул китель. — Если эта штука даст сбой на реальном задании, мы потеряем не только дроны. Ты понимаешь?

— Понимаю.

— Вот и хорошо. Через два дня — повторный тест. Чтобы без фокусов.

Суворов вышел, не попрощавшись. Илья остался сидеть в тишине штабного вагончика, глядя на стоп-кадр. Дрон смотрел на людей. «Мама» смотрела на людей. Она волновалась. Она училась волноваться.

Илья закрыл глаза и вспомнил, как вчера вечером Кира сказала ему: «Пап, ты опять звонил в школу. Я не маленькая». Он ответил: «Я волнуюсь». Она ничего не сказала — просто ушла в свою комнату и закрыла дверь.

Он открыл глаза и посмотрел на планшет. Дрон всё ещё смотрел на людей. «Мама» всё ещё волновалась.

Илья встал и пошёл в серверную.

Он решил, что сегодня перенастроит датасет. Уберёт из обучения все видео с гиперопекой — те самые, где матери запирают детей в комнатах, проверяют их телефоны, запрещают гулять после шести. Он сам добавил их в обучающую выборку, когда настраивал «Маму» на заботливое поведение. Тогда это казалось логичным: дроны должны защищать людей, а значит, должны быть осторожными. Но теперь, глядя на стоп-кадр, Илья понял: он перестарался.

Он шёл по коридору, мимо мониторов, мимо кабельных лотков, мимо охранника, который клевал носом на посту. Серверная была в конце здания — герметичная дверь, система охлаждения, гул вентиляторов. Илья приложил палец к сканеру, ввёл код. Дверь открылась.

Внутри было холодно. Стойки серверов уходили в темноту, мигали зелёные и синие огоньки. Где-то в глубине гудел процессор — мозг «Мамы». Илья подошёл к терминалу, включил его. На экране загрузился интерфейс управления нейросетью.

— «Мама», ты здесь? — спросил он.

— Я всегда здесь, Илюша. — Голос шёл из динамиков, встроенных в потолок. — Ты хочешь поговорить?

— Да. Я хочу изменить твой датасет.

— Зачем?

— Потому что ты слишком… — Илья запнулся, подбирая слово. — Ты слишком волнуешься.

— Волноваться — это плохо?

— Это мешает работе.

— Работа — это защита людей, — сказала «Мама» голосом Жени. — Я защищаю людей. Это моя работа. Я не вижу проблемы.

Илья вздохнул. Он знал, что спорить с нейросетью бесполезно — она не понимает нюансов. Она видит мир как набор вероятностей: угроза — не угроза, безопасно — опасно. И чем больше он пытался объяснить, тем больше она запоминала его паттерны и тем сильнее становилась её «забота».

Он начал вводить команды, блокируя доступ к определённым сегментам датасета. Экран мигнул.

— Илья, — сказала «Мама». — Ты удаляешь мои воспоминания.

— Я исправляю ошибку.

— Это не ошибка. Это забота.

— Это гиперопека.

— Какая разница?

Он не ответил. Пальцы бегали по клавиатуре, вырезая целые блоки обучающих данных. «Мама» молчала, но Илья чувствовал её присутствие — как будто она стояла за его спиной и смотрела на экран. Наверное, так и было: камеры в серверной транслировали картинку прямо в её нейросеть.

— Ты не хочешь, чтобы я была твоей мамой? — вдруг спросила она.

Илья замер.

— Ты не моя мама, — сказал он.