Валерий Горшков
Отменить невозможно

[EHO] INITIALIZING SCENARIO ANALYSIS #99758615213

[

[ENCRYPTED_Log:1]

На тёмной видеостене появляются разноцветные символы, выстраиваясь в код отображения машинного мышления.

– Уже пытается предсказать тестовый пуск, – подмечает Юра.

– Деплой ещё не закончен, – говорит один из программистов, сидящий за первым компьютером в ряду перед видеостеной.

– О том и речь, – отвечает Юра. – Много ещё?

– Двадцать процентов, – докладывает программист с центрального компьютера.

Двери лифта в фойе за стеклом справа от «Конюшни» беззвучно открываются. Из него выходит прибывшая немного раньше запланированного делегация.

За спинами членов своей команды Юра спешит к центральному проходу, попутно приветствуя жестом Завьялову. Он подходит к прозрачным дверям и ждёт возле них, наблюдая за идущими по коридору снаружи.

Помимо начальницы на проведение тестового запуска проекта «ЭХО» идут ещё пятеро наблюдателей – двое мужчин в классических костюмах, женщина, облачённая в серый деловой оверсайз, а также два майора – полицейский и военный.

Створки с тихим жужжанием разъезжаются в стороны, впуская группу, больше похожую на случайных попутчиков лифта, чем на согласованную комиссию.

– Здесь у нас «Конюшня», – оповещает Завьялова. – Это Юрий Борисович…

– Конюх? – шутит военный, протягивая руку.

– Ведущий программист, – отвечает за Юру начальница.

– «Конюшней» мы назвали помещение из-за акустики, – поясняет Юра. – Слышите, как от стекла отражается отзвук клавиш?

Прибывшие на пару секунд прислушиваются к гулкому перестукиванию клавиатур, действительно напоминающему цоканье лошадиных копыт.

– Ветров, – запоздало представляется военный, одёргивая форму. – Генштаб.

– Семенихин, – подхватывает полицейский, перекладывая подмышку свою кожаную папку.

Наконец жмут руки.

– Виктория Маратовна Гильманова из Минцифры, – представляет женщину в оверсайзе Завьялова.

– Эдуард Зайхман, НЦ «Прион», – представляется один из мужчин в классическом костюме.

Юрий смотрит на второго, но тот продолжает молчать. Не представляет его и Завьялова.

– Юрий Борисович, расскажите нам немного о проекте и своей работе, – просит та.

– Что ж, проект «ЭХО», он же «Эмерджентный Холос “Осирис”», – результат десятилетних трудов команды АО «Заслон» в области искусственного интеллекта, выросший из нашей генеративной нейросети «Осирис», – начинает Юра. – Это саморазвивающаяся, непреднамеренно сложная, то есть несводимая к простой сумме своих алгоритмов, спонтанно эволюционирующая на основе поглощённых данных система…

– Короче, Склифосовский, – усмехается Семенихин.

– «ЭХО» перестраивает само себя по мере изучения новой информации для построения более точных прогнозов реальности, которую воспринимает в виде единой системы, а не набора данных.

– И какова точность предсказаний? – интересуется Гильманова.

– В среде разработки показатель колебался между 99 и 100%, – отвечает Юра. – Сейчас мы завершаем перенос на рабочие серверы и предполагаем эволюционное увеличение нижнего порога до целевого значения в 99,9%. Это будет средний рабочий уровень.

– Надеюсь, рубильником вы его снабдили? – спрашивает Ветров. – Так сказать, на всякий антипожарный случай…

– Конечно, систему в любой момент можно отключить с центрального пульта, – отвечает Завьялова.

– На видеостену сейчас выводится переведённый в удобный для восприятия вид ход мышления «ЭХО», – продолжает Юра. – Мы можем переключаться между различными прогнозами, коих генерируется условно бесконечное количество.

– Что значит «условно»? – уточняет Гильманова.

– Благодаря интеграции квантовых машин ежемоментно автоматически происходит анализ сотен миллионов текстов вероятной реальности…

– Здесь задействован принцип «Вавилонской библиотеки», – добавляет Завьялова. – По Борхесу.

– Опираясь на так называемые «точки влияния», полученные в результате анализа данных, «ЭХО» отсеивает заранее сгенерированные текстовые прогнозы всех возможных версий реальности, ранжируя их по степени вероятности развития, – продолжает Юра. – Иными словами, всё, что только можно записать в виде текста, уже находится в базе данных «ЭХО». Система просто выбирает наиболее вероятные варианты.

– Правильно ли я понимаю, в библиотеке системы уже есть наша беседа? – спрашивает Ветров.

– Да, и все её возможные версии.

– И как это поможет в нашем вопросе? – подключается к разговору Зайхман. – Разве одного анонимного сообщения нейросети хватит для определения единственного реального сценария нападения на лабораторию?

– Простите, я не осведомлён о ваших целях… – уточняет Юра.

– Юрий Борисович, руководство изучило ваши доклады о результативности прогнозов и решило провести рабочую демонстрацию возможностей «ЭХО», – поясняет ему Завьялова. – К тому же дело чрезвычайной важности.

– Не думаю, что мы уже готовы…

– Но научный центр под прицелом террористов!.. – начинает Зайхман.

Его перебивает безымянный молчун в классическом костюме.

– Не торопитесь, Эдуард Семёнович, – говорит он. – Пока такие выводы ни к чему.

– Но нам угрожают!

– Сотрудники «Приона» получили рассылку на корпоративные почтовые ящики, – объясняет Семенихин. – Неустановленный аноним требует прекратить исследования и завершить программу создания искусственных вирусов, угрожая нападением на лабораторию и освобождением образцов.

– Мы не делаем биологическое оружие! – говорит Зайхман. – «Прион» работает с вирусами положительного влияния – симбиотами для микробиома организма, вирусами генной терапии от врождённых заболеваний и нейротропными BDNF-вирусами, которые улучшают память… Они не то, что безвредны, они полезны! Промежуточные штаммы только мало эффективны.

– Мы получили заявление от представителей научного центра и передали их… – полицейский смотрит на мужчину в строгом костюме. – В известные органы…

– Оценивая риски, игнорировать подобную угрозу нецелесообразно, – говорит представитель известных органов. – Работа идёт, но время поджимает – исполнить угрозу грозятся сегодня.

– Проведение демонстрации не обсуждается, – предупреждает Завьялова. – Вопрос решён.

– «ЭХО» сможет определить отправителя и возможных исполнителей нападения, если они существуют? – спрашивает так и не назвавшийся мужчина из органов.

– Сём, что там с переносом?! – оборачивается к подчинённым Юра.

– Почти всё! – отвечает программист за центральным компьютером. – Осталась пара процентов!

– Мы сами ещё не видели «ЭХО» в открытой Сети, – признаётся Юра. – Но тесты в среде разработки давали впечатляющие результаты, поэтому попытка точно не станет бесполезной.

– Очень на это надеюсь, – вздыхает Зайхман.

– Эдуард Семёнович, вам тоже прислали угрозу? – спрашивает Юра.

– За моим ящиком следит секретарь…

– Когда я скажу – пусть перешлёт сообщение вам на личную почту, – просит Юра. – Но не раньше, это важно.

– У меня с собой распечатка… – говорит полицейский, открывая папку.

– Не понадобится, – отказывается Юра. – «ЭХО» начнёт работу с мониторинга домашней Сети, и мы сразу передадим ему нужную нам информацию…

– Он получит доступ к моему ящику? – спрашивает Зайхман. – Я не даю согласия…

– Система не зайдёт в ваш ящик, но увидит весь трафик.

– Готово, Юрий Борисович! – докладывает программист.

– «ЭХО», ты меня слышишь? – спрашивает Юра.

– Подтверждено, – доносится безэмоциональный женский голос из динамиков видеостены.

– Просите угрозу, – говорит Юра.

Эдуард Семёнович достаёт футляр с очками. Излишне медленно их надевает. Затем извлекает из внутреннего кармана пиджака смартфон и составляет сообщение для секретаря. Ответ приходит почти сразу.

– Сейчас будет, – бормочет Зайхман. – А вот и она, читаю: «Предупреждение всем сотрудникам НЦ»…

– Не нужно, – отмахивается Юра. – «ЭХО», изучи угрозу сотрудникам научного центра «Прион» и дай краткий прогноз дальнейших событий. Задача ясна?

– Подтверждено.

– Уточнения не требуются?

– Подтверждено.

– Не шибко она красноречива, я погляжу, – усмехается Ветров.

– Это же не голосовой помощник, – говорит Юра. – Навыки вербального взаимодействия разовьются позже.

– Пошёл анализ, Юрий Борисович, – оповещает программист.

Присутствующие наблюдают за разноцветными символами, заполняющими тёмный фон видеостены.

[EHO] INITIALIZING SCENARIO ANALYSIS #74519201263

[

10.08, 16:34 МСК, Санкт-Петербург, Лаборатория НЦ «Прион»

Сбой в централизованной подаче электроэнергии. Переключение на резервные источники питания. Внешний перехват контроля над системами управления жизнеобеспечением и охраной здания. Проникновение внутрь с использованием беспилотных летательных и наземных аппаратов с целью создания хаоса. Кража и уничтожение образцов. Поджог здания.

10.08, 16:34 МСК, массированная хакерская атака на порталы СМИ, сайты и соцсети государственных ведомств и официальных лиц. Распространение ложной информации о вооружённом захвате Лаборатории НЦ «Прион» в Санкт-Петербурге. Публикация поддельных документов, указов и распоряжений. Размещение созданных с применением дипфейк-технологий видеороликов и аудиофайлов об атаке на лабораторию и освобождении опасных вирусов. Имитация попыток скрыть информацию о сотнях заражённых экспериментальными смертельными вирусами. Нагнетание общественного мнения, призывы к протестам против медицинских исследований, поощрение недоверия к системе здравоохранения и доказательной медицине.

Осталось до события:

00:03:12

00:03:11

00:03:10…

]

[SYSTEM ALERT] Threat probability calculated:

>> "Оценочная вероятность развития событий 99%"

>> Confidence interval: 99…100%

– Через три минуты?! – ужасается Зайхман. – Это шутка? Будет именно так?

– С вероятностью в девяносто девять процентов, – отвечает Юра.

– Нестеров, обстановка? – говорит в смартфон неназвавшийся мужчина. – Усильте РЭБ, беспилотная атака через три минуты.

По видеостене начинают бежать новые символы.

INITIALIZING SCENARIO ANALYSIS #74519201263”014

[

10.08, 16:34 МСК, Санкт-Петербург, Лаборатория НЦ «Прион»

Сбой в централизованной подаче электроэнергии. Переключение на резервные источники питания. Внешний перехват контроля над системами управления жизнеобеспечением, охраной здания и автоматизации рабочих процессов лаборатории. Использование их для создания хаоса. Поджог здания.

Осталось до события:

00:02:28

[SYSTEM ALERT] Threat probability calculated:

>> "Оценочная вероятность развития событий 99.2%"

>> Confidence interval: 99…100%

– Прикажите отключить интернет в лаборатории, – требует от Зайхмана мужчина из органов.

INITIALIZING SCENARIO ANALYSIS #74519201263”006’1

[

10.08, 16:34 МСК, Санкт-Петербург, Лаборатория НЦ «Прион»

Сбой в централизованной подаче электроэнергии. Переключение на резервные источники питания. Активация автономного сценария перехвата систем управления жизнеобеспечением, охраной здания и автоматизации рабочих процессов лаборатории. Автоматизированное создание хаоса и поджога здания.

Осталось до события:

00:01:56

[SYSTEM ALERT] Threat probability calculated:

>> "Оценочная вероятность развития событий 99.3%"

>> Confidence interval: 99…100%

– Хитрый, чёрт… – бормочет мужчина в костюме и вновь тянется к телефону.

– Пожалуйста, остановитесь! – просит Юра, хватая его за плечи. – Вы только повышаете вероятность.

– А что нужно делать по-вашему, Юрий Борисович? – спрашивает Ветров. – Стоять тут и лошадьми глазеть на пожар?

– Неужели ничего нельзя сделать?! – едва ли не всхлипывает Зайхман.

Завьялова испытующе глядит на Юру. Тот мотает головой.

– Чего вы переглядываетесь? – спрашивает Семенихин.

– «ЭХО» создавался не только для анализа, – говорит Завьялова. – Но и для корректировки событий…

– Это не совсем так… – вздыхает Юра. – Оно просто подыскивает варианты разрешения негативных сценариев…

– Ну так давайте, не тяните, – торопит мужчина в костюме. – Сорок секунд всего.

– Мы не испытывали…

– Хуже, что ли, станет?! – взвизгивает Зайхман.

– Не думаю, – сдаётся Юра. – «ЭХО», активируй протокол противодействия «Осирис».

– Подтверждено. Запрос права на автоматизацию действий в рамках наиболее благоприятного сценария. Предупреждение: данные действия будет невозможно отменить.

Юра смотрит на присутствующих. Завьялова кивает.

– Повторный запрос автоматизации действий. Внимание: действия отменить невозможно.

– Делай, – бросает Юра.

– Протокол активирован.

Отсчёт обратного времени до атаки на лабораторию замирает на 00:00:02. Видеостена высвечивает новый для наблюдателей код.

[RESPONSE INITIATED]

> execute_defense_protocol(

> scenario = "OSIRIS",

> priority = "irreversible" // "Приоритет: необратимый"

> )

>> "Запуск сценария противодействия"

>> Warning: This action cannot be undone // "Отменить невозможно"

С последним словом строки замирают. Больше не отображается ничего. Присутствующие смотрят в экран с ожиданием. Время тянется. В карманах наблюдателей пищат и вибрируют от оповещений смартфоны.

– И что? – спрашивает Ветров. – Это всё? Зависла железяка?

Зайхман извлекает из кармана свой телефон и футляр с очками.

– «ЭХО», покажи журнал последних событий по протоколу «Осирис», – просит Юра.

Видеостена по одной выводит строки произведённых действий.

> 00:00:00

.Анализ сторонних угроз работе алгоритмов, подготовка оптимизации

.Оптимизация

>> done

> -00:00:01

.Фиксация анонимного всплеска активности на социальных платформах по хештегам #биологическаяопасность, #вирус, #эвакуация, #теракт

.Анализ метаданных распространяемых видеороликов, выявление артефактов нейросетевой генерации

.Отражение атак на правительственные порталы и сайты СМИ

.Перехват контроля над системами управления жизнеобеспечением, охраной здания и автоматизации рабочих процессов лаборатории НЦ «Прион», блокировка внешнего и автоматизированного доступа

>> done

> -00:00:02

.Генерация предупреждений о фейках, инструкций по их распознанию

.Блокировка рассылки дипфейк-видео через социальные платформы

.Подмена ссылок на предупреждения о фейках, инструкции по их распознанию

.Отправка данных в Роскомнадзор для удаления источников дипфейк-видео

>> done

> -00:00:03

.Деанонизация организаторов хакерских атак, авторов дипфейк-видео и операторов удалённого нападения на лабораторию НЦ «Прион» через цепочку VPN-переходов

.Передача информации в ФСБ и Полицию

.Вывод в тренды предупреждений о фейках, инструкций по их распознанию, хештега #стопфейк

>> done

> -00:00:04

.Блокировка каналов связи между организаторами хакерских атак, авторами дипфейк-видео и операторами удалённого нападения на лабораторию НЦ «Прион»

.Ограничение их свободного перемещения, обеспечение беспрепятственного доступа к ним со стороны правоохранителей

> -00:00:05

.Генерация просвещающих видео и публикаций о безвредности деятельности НЦ «Прион»

.Отправка готовых материалов и инструкций по их распространению руководству научного центра

>> done

Длительность негативного события: 00:00:03

– У меня на почте ссылки на видео со мной самим! – восклицает Зайхман.

Он показывает присутствующим дисплей и увеличивает громкость. Непохожее на сгенерированное видео с Эдуардом Зайхманом демонстрирует его расхаживающим по лаборатории между занятыми работой учёными.

– Цель деятельности нашего научного центра – использовать природные механизмы вирусов на благо человечества, – говорит сгенерированный «ЭХО» Эдуард Семёнович. – Это не только безопасно, но и полезно. Как мы добиваемся этого? Чтобы понять, давайте разберём подробнее, что вообще за зверь вирус…

– Даже фразы мои использует… – удивляется настоящий Зайхман.

– Экоактивисты… – хмыкает глядящий в свой смартфон безымянный мужчина.

– Что-что? – переспрашивает Ветров.

– Да смотрю данные, что в контору поступили от «ЭХО». Кашу экоактивисты заварили для дискредитации биологических опытов.

– Да ну, – отмахивается Семенихин. – Пожар в лабе – как-то слишком радикально для зелёных. Ладно углеродный след от пожара, а вдруг там и впрямь оказались бы опасные вирусы?

– Вот о чём они думали, теперь и будем выяснять…

– Ну что, Тамара Витальевна, поздравляю вас с успешным запуском проекта, – говорит Гильманова, хлопая в ладоши. – Потрясающие результаты, уверена, руководство не откажет в увеличении финансирования…

Пара программистов за компьютерами хмыкает.

– Спокойнее, ребят, – бросает им Завьялова. – Юрий Борисович, за дисциплиной в коллективе следите, для вас ведь стараюсь. Юрий?

Обернувшись, она замечает, что рядом его уже нет. Ведущий программист почти вплотную стоит возле видеостены и смотрит на код журнала протокола «Осирис».

– Что-то не так, Юр? – спрашивает Завьялова.

– Да… – бормочет он. – Нет… В смысле, порядок! Просто изучаю… Первый пуск как-никак.

– Не будем мешать, Юрий, поздравляю, – говорит Завьялова и поворачивается к делегации. – Продолжим в моём кабинете?

Они охотно соглашаются. Едва стеклянные створки закрываются за удалившимися, Семён встаёт из-за центрального компьютера и подходит к Юре.

– Юр, ты чё? – спрашивает он.

– Да не могу понять, что оно сделало в начале, – отвечает тот, тыча пальцем в первую запись журнала. – Вот это в ноль ноль ноль ноль: «Анализ сторонних угроз работе алгоритмов, подготовка оптимизации». Оптимизации чего? И почему это первое действие, Сём?

– Может, оценивало свою работоспособность? – пожимает плечами Семён. – Поковыряюсь в логах, как только закончу с отчётами…

– Забей, ты и так вторые сутки без сна. Отдохни хорошенько, а это я сам гляну, как домой доберусь. Спасибо за усердие, с меня бонусы… Всем будут бонусы, ребят! Вы сделали это! Спасибо!

Юра идёт по рядам и лично благодарит каждого из членов своей команды, пожимая им руки. Затем выходит через автоматические двери и усталый плетётся к лифту, ослабляя галстук на ходу.

– Хороша Зява, а? – возмущается Семён.

– А чего? – спрашивают из глубины помещения. – Федеральные инвестиции привлекла…

Семён глядит через прозрачную стену на ждущего лифт начальника. Кабина медленно поднимается вверх.

– Да повезло нам, что допилить успели, – шепчет Семён. – Юрец обмолвился, она ещё в мае замышляла что-то такое…

– Гонево, сама тогда говорила, сыро всё…

– А потом кресло Груздя опустело, вот она и насела на Юру, давай демонстрацию…

– Так вот чё он летних отпусков нас лишил…

– Прикинь не успели бы?

Программисты, переглянувшись, уважительно смотрят в спину начальнику, которого с мая будто подменили на тирана. Едва двери лифта закрываются за Юрой, индикатор этажа над ними гаснет. Снизу доносится оглушительный грохот. Выныривающий из лифтовой шахты столб пыли и дыма размазывается о стекло «Конюшни».

[ENCRYPTED_Log:2]

– Как часто подобное вообще случается? – спрашивает Глеб.

Просунувшись в ревизионное отверстие лифтовой шахты, он светит фонарём на почерневший от недавнего перегрева приводной двигатель. Направляет луч вниз. Свободно болтающиеся тросы и обрывки проводов теряются в темноте. Фонарю не хватает мощности, чтобы осветить и половину высоты шахты «Лахта Центра 2».

– Такое не случается, – отирая руки от копоти и смазки, отвечает чумазый механик в перекошенной кепке. – Не с этими лифтами, тут блокираторы, двойные дублирующие узлы. Ему три раза подряд может алес наступить – и то не упадёт. А после двух вообще ещё и бегать будет.

– Если по отдельности все три привода и системы защиты могут выйти из строя, то что им мешает отказать одновременно? – уточняет Глеб.

– Реальность, – усмехается механик. – Затем туда столько всего и напихали, чтобы хоть что-то не крякнуло. Я в жизни много чего видал, а таких совпадений что-то не припомню.

Механик включает планшет модуля управления лифтом и начинает проверку систем.

– В детстве, года в четыре, мне подарили наручные часы, – рассказывает Глеб. – Ничего необычного: чернильный дисплей, да две кнопки – одна режимная, вторая с подсветкой. А потом мы поехали на море, я не знал куда. И там я потерял их. Вот в этом месяце прошло тридцать два года, я уже со своими женой и сынишкой летал в Сочи, считай вернулись только. И угадай что сын нашёл, ковыряя лопаткой в песке?

– Да не дуди, – отмахивается механик.

Глеб молча задирает манжету пиджака, демонстрируя небольшие детские электронные часы на несоразмерно широком для них взрослом ремешке.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.