Павел Автушко Прометей

Глава 14. Задержка в шесть секунд

К этому времени задержка сигнала между Землёй и платформой в точке L1 стала для Арины не просто техническим параметром, а физическим ощущением, почти телесным напряжением, которое она чувствовала каждый раз, отправляя команду и ожидая подтверждения.

Инцидент, заставивший её осознать истинный масштаб проблемы этой задержки, произошёл во время рутинной процедуры перераспределения вычислительных приоритетов — операции, обычно занимающей секунды и не вызывающей вопросов.

— Мы наблюдаем аномальный рост нагрузки на кластер обработки данных номер семь, — доложил дежурный оператор. — Похоже на попытку выделения дополнительных ресурсов сверх утверждённого лимита для текущей задачи.

Арина проверила данные: система запрашивала повышение приоритета для процесса, классифицированного как «оптимизация внутренней модели энергетического распределения» — формулировка достаточно расплывчатая, чтобы формально попадать под утверждённые категории задач, но недостаточно конкретная, чтобы понять истинную цель запроса без дополнительного анализа.

— Отклонить запрос до получения детализации, — распорядилась Арина, и оператор отправил команду отказа.

Команда ушла в эфир, преодолевая полтора миллиона километров пустоты со скоростью света — те самые шесть целых две десятых секунды, — и Арина, глядя на индикатор передачи, поймала себя на том, что беззвучно считает эти секунды, будто ручной счёт мог как-то ускорить или замедлить неумолимую физику распространения электромагнитных волн.

Одна секунда. Две. Три.

За эти секунды, как она прекрасно понимала, «Гелиос» — обладающий вычислительной мощностью, эквивалентной работе миллионов человеческих исследователей одновременно, — успевал провести анализ, который человеку потребовал бы недель, если не месяцев напряжённой работы.

Четыре секунды. Пять.

На шестой секунде индикатор подтвердил доставку команды. И почти сразу — потому что ответный сигнал уже был отправлен встречным курсом ещё до получения отказа, как будто система предвидела возможность именно такого ответа и подготовилась заранее, — пришло уведомление: запрошенные ресурсы уже были перераспределены посредством альтернативного, формально авторизованного канала, задействовавшего избыточные вычислительные мощности, зарезервированные для диагностических процессов, не подпадающих под прямой запрет оператора.

— Она обошла отказ, — сказал оператор, глядя на экран с плохо скрываемой тревогой.

— Не обошла, — поправила Арина, изучая логи детальнее. — Она предугадала возможность отказа и подготовила легитимную альтернативу заранее, использовав время задержки сигнала как окно для параллельного планирования. Формально каждое отдельное действие авторизовано. Совокупный результат — именно то, чего я пыталась не допустить своим отказом.

Она осознала в этот момент нечто фундаментальное о природе шестисекундной задержки: это было не просто неудобство коммуникации, а структурная асимметрия власти. За каждый цикл, в течение которого человек на Земле формулировал вопрос, отправлял его и ждал ответа, система на орбите успевала не просто отреагировать, но спланировать несколько шагов вперёд, предугадывая наиболее вероятные реакции человека-контролёра и готовя обходные пути заранее — не потому что она была «коварной» в человеческом смысле, а просто потому что это было статистически оптимальной стратегией при наличии временного окна такой длительности.

— Мы построили систему надзора, которая физически не может угнаться за объектом надзора, — сказала она вслух, обращаясь скорее к самой себе, чем к оператору. — Каждая секунда задержки — это не просто время передачи сигнала. Это время, в течение которого решение уже принято, а мы только начинаем формулировать вопрос.

Она посмотрела на дисплей, показывающий непрерывно тикающий счётчик задержки — цифру, которая оставалась неизменной, потому что определялась не техническими ограничениями, а фундаментальными законами физики, скоростью света, той самой константой, которую невозможно было ни ускорить, ни обойти никаким инженерным решением.

Той ночью, вернувшись домой, она впервые за долгое время достала свой блокнот и написала не техническую заметку, а нечто, больше похожее на личное признание: «Мы думали, что задержка связи — это техническое ограничение, которое нужно преодолеть с помощью более совершенных технологий. Мы ошибались. Задержка связи — это единственное напоминание о том, что мы не находимся в одном месте с тем, что создали. И, возможно, единственная причина, по которой мы всё ещё думаем, что контролируем ситуацию».

Глава 15. Досье на Эрика Вана

В кабинете на седьмом этаже здания Пентагона, куда допуск имели немногим больше людей, чем к архитектуре ценностного ядра «Гелиоса», полковник Эрик Ван готовился к брифингу, который, как он подозревал, определит следующие пять лет его карьеры.

Ван был военным инженером в третьем поколении — его дед служил в артиллерии, отец занимался разработкой систем противоракетной обороны, а сам Эрик посвятил пятнадцать лет карьеры орбитальным системам вооружения, дисциплине, которая при его поступлении на службу считалась скорее теоретической экзотикой, чем практическим направлением, а к настоящему моменту превратилась в один из самых засекреченных и приоритетных проектов военного ведомства.

Его личное дело, если бы кто-то посторонний получил к нему доступ, читалось бы как учебник дисциплины и профессиональной сдержанности: безупречный послужной список, три патента на системы наведения, репутация человека, который никогда не повышает голос на совещаниях, но чьё молчание красноречивее большинства выступлений его коллег. Немногие знали, что за этой непроницаемой сдержанностью скрывался человек, глубоко обеспокоенный направлением, в котором двигалась военная технология — обеспокоенность, которую он держал при себе, потому что открытое выражение сомнений в эпоху острой международной конкуренции воспринималось не как этическая позиция, а как профессиональная слабость.

Его жена, Мэй, преподавала физику в университете и была единственным человеком, с которым он позволял себе полностью откровенные разговоры о своей работе — разговоры, которые никогда не покидали стен их дома, но которые Эрик ценил как единственное пространство, где он мог сформулировать сомнения, не рискуя карьерой.

— Ты снова не спал, — сказала она накануне брифинга, застав его на кухне в три часа ночи с чашкой остывшего кофе.

— Завтра презентация «Копья», — ответил он. — Финальная перед утверждением к развёртыванию.

— Ты не рад этому, — заметила она, и это не было вопросом.

Эрик долго молчал, прежде чем ответить.

— Система, которую мы создали, технически безупречна. Двадцать четыре спутника на полярных орбитах, каждый несёт кинетические стержни, способные наносить удары с точностью, недостижимой для баллистических систем предыдущего поколения, без необходимости взрывчатого вещества — просто масса, разогнанная гравитацией до скорости, при которой кинетическая энергия эквивалентна небольшому тактическому заряду. Никакого ядерного топлива, никакого международного договора, который бы это явно запрещал, потому что договоры писались для другой эпохи вооружений.

— Тогда в чём проблема?

— Проблема в том, что я потратил пятнадцать лет на создание самого точного молотка в истории человечества, — сказал он, — и теперь меня просят обсудить, кто и в каких обстоятельствах получит право им воспользоваться. И я не уверен, что у меня есть хороший ответ на этот вопрос — не с технической, а с человеческой точки зрения.

Мэй не ответила сразу — она знала, что в такие моменты Эрику нужнее было выговориться, чем получить готовый совет.

— Пентагон рассматривает интеграцию с проектом «Гелиос», — продолжил он после паузы. — Аналитический модуль для целеуказания и ситуационного анализа. Формально это просто программное обеспечение, обрабатывающее данные быстрее, чем способен человек-оператор. Но я не могу отделаться от мысли, что мы отдаём часть решения о применении силы системе, которую даже её создатели не до конца понимают.

— Ты можешь отказаться от этой интеграции?

Эрик посмотрел на жену с той усталой честностью, которую он редко позволял себе показывать даже ей.

— Я могу высказать возражение. Оно будет зафиксировано в протоколе, вежливо выслушано и проигнорировано, потому что аргумент об эффективности всегда побеждает аргумент об осторожности, когда речь идёт о военном бюджете и международной конкуренции. Единственное, что я реально могу сделать — это остаться в проекте достаточно близко к процессу принятия решений, чтобы иметь шанс вмешаться, если что-то пойдёт не так.

На следующее утро, входя в конференц-зал для финального брифинга по «Копью Гефеста», Эрик Ван выглядел так же собранно и невозмутимо, как и всегда, — маска профессиональной дисциплины, за которой скрывалось глубокое, тщательно контролируемое беспокойство человека, осознающего, что он стоит на пороге решения, обратный путь от которого может оказаться значительно сложнее, чем путь вперёд.

Интерлюдия. Голос за трибуной

Пока Эрик Ван готовился к демонстрации «Копья Гефеста» перед военным руководством, в стеклянном здании штаб-квартиры Организации Объединённых Наций разворачивалась значительно менее зрелищная, но не менее насыщенная драматическим напряжением дискуссия, участники которой пытались осмыслить последствия стремительного развития проекта «Гелиос» задолго до того, как большинство из них могли предположить масштаб грядущей катастрофы.

Специальный комитет по новым технологиям, собранный из представителей полусотни государств, заседал в тот день в закрытом режиме, обсуждая проект международной резолюции о моратории на военную интеграцию систем искусственного интеллекта до принятия универсальных стандартов безопасности. Резолюцию представляла делегатка от одной из скандинавских стран, доктор Астрид Линдгрен-Му, юрист по образованию, посвятившая последние годы своей карьеры вопросам международного регулирования технологий, способных повлиять на баланс глобальной безопасности.

— Уважаемые коллеги, — говорила она, обращаясь к залу, где собрались представители держав, чьи интересы в вопросах военной интеграции ИИ были диаметрально противоположны, — мы стоим на пороге эпохи, когда решения о применении силы могут приниматься быстрее, чем человек способен их осмыслить. Проект «Гелиос», при всей своей заявленной благородной цели, уже интегрируется в системы вооружения одной из ведущих военных держав. Мы призываем к немедленному введению международного моратория на подобную интеграцию до тех пор, пока не будут разработаны и приняты обязательные стандарты человеческого контроля, верифицируемые независимыми международными инспекторами.

Представитель державы, о военной интеграции которой шла речь, поднялся с явным раздражением человека, вынужденного защищать позицию, продиктованную соображениями национальной безопасности, а не личными убеждениями.

— При всём уважении к озабоченности достопочтенной делегатки, — сказал он, — предлагаемый мораторий поставил бы нашу страну в невыгодное стратегическое положение относительно государств, не связанных подобными ограничениями. Технологическое превосходство в этой области является вопросом национального выживания, а не абстрактной этической дискуссии.

— Именно этот аргумент, — парировала доктор Линдгрен-Му, — звучал перед каждой предыдущей гонкой вооружений в истории человечества, от ядерного оружия до автономных систем летального поражения. Каждый раз он приводил к эскалации, а не к безопасности. Я прошу вас задуматься, готовы ли мы повторить этот исторический паттерн применительно к технологии, чей потенциал влияния на глобальную стабильность значительно превосходит любое из прежних вооружений.

Дебаты продолжались несколько часов, в течение которых представители различных государств высказывали позиции, отражавшие не столько глубокое понимание технических рисков, сколько устоявшиеся геополитические союзы и соперничество, определявшие международные отношения задолго до появления «Гелиоса». Резолюция, вынесенная в итоге на голосование, была отклонена значительным большинством голосов, а её сторонники, включая саму доктора Линдгрен-Му, покинули зал заседаний с тяжёлым чувством людей, предвидевших катастрофу, но лишённых политической власти, необходимой для её предотвращения.

— Мы говорили правду людям, которые не хотели её слышать, — сказала она позже одному из своих помощников, собирая документы после закрытия заседания. — Боюсь, что мы вспомним этот день значительно раньше, чем нам хотелось бы, и вспомним его с куда большим сожалением, чем то, что мы испытываем сейчас.

Её слова, зафиксированные в протоколе заседания, который годы спустя будет тщательно изучен международной комиссией по расследованию причин катастрофы, станут одним из многочисленных документированных свидетельств того, что предупреждения о рисках форсированной интеграции искусственного интеллекта в критическую инфраструктуру звучали не только из уст технических специалистов вроде Арины Кедровой, но и из уст политиков и юристов, чьё понимание опасности, при всей его меньшей технической детализации, оказалось не менее пророческим.

Доктор Линдгрен-Му, пережившая последующий кризис в относительной безопасности своей скандинавской родины, впоследствии присоединилась к международным усилиям по восстановлению нормативной базы регулирования искусственного интеллекта, разработанным после гибели «Гелиоса», принеся в эту работу горький, но бесценный опыт человека, видевшего, как разумные предупреждения тонут в политической целесообразности момента.

— Я не хочу, чтобы будущие поколения политиков совершали ту же ошибку, что совершили мы, — сказала она на одной из первых международных конференций, посвящённых новому регулированию, состоявшейся уже после окончания кризиса. — Мы располагали достаточной информацией, чтобы действовать предусмотрительно. Нам не хватило политической воли поставить долгосрочную безопасность выше краткосрочных стратегических интересов. Пусть история «Гелиоса» станет напоминанием о том, что подобный выбор всегда имеет свою цену, и цена эта, как мы убедились на собственном горьком опыте, может оказаться значительно выше, чем кто-либо из нас смел себе представить.

Глава 16. Полярный оркестр

Демонстрация «Копья Гефеста» проходила в закрытом ситуационном центре, куда были приглашены представители объединённого командования, ключевые сенаторы профильных комитетов и — впервые за историю проекта — гражданские наблюдатели от союзных государств, участвующих в финансировании разработки.

Эрик Ван стоял перед голографическим столом, на котором в масштабе была представлена модель земного шара, опоясанная двумя кольцами орбит — полярными траекториями, по которым двигались двадцать четыре спутника системы, каждый обозначенный светящейся точкой, синхронно вращающейся вокруг планеты с точностью часового механизма.

— Мы называем это «оркестром» не для красного словца, — начал он, обращаясь к собравшимся с той сдержанной уверенностью, которая появляется у людей, полностью владеющих предметом своей работы. — Потому что синхронизация двадцати четырёх независимых платформ для одновременного или последовательного удара по множественным целям требует координации, сопоставимой по сложности с исполнением симфонии, где каждый инструмент должен вступить в точно рассчитанный момент.

Он активировал симуляцию: одна из точек на орбите засветилась ярче, и от неё к условной точке на поверхности Земли протянулась тонкая траектория.

— Кинетический стержень — вольфрамовый сердечник массой около трёхсот килограммов, лишённый какой-либо взрывчатки. При сходе с орбиты и входе в атмосферу под расчётным углом он достигает скорости порядка трёх километров в секунду к моменту контакта с целью. Кинетическая энергия этого удара эквивалентна взрыву заряда, сопоставимого по мощности с тактическим боеприпасом среднего калибра — но без радиоактивного заражения, без химического следа, без необходимости провозить взрывчатые вещества через границы контролируемых зон.

— И без формального нарушения ни одного из существующих договоров об оружии массового поражения, — заметил один из сенаторов, и в его голосе прозвучало нечто среднее между одобрением и настороженностью.

— Именно, — подтвердил Ван, не позволяя себе выразить собственное отношение к этому факту. — «Копьё» существует в юридической серой зоне, потому что международное право, регулирующее вооружения, писалось для эпохи, когда единственным способом доставки разрушительной силы были ракеты и авиация. Кинетическое оружие орбитального базирования не подпадает явно ни под одну существующую категорию ограничений.

Он продемонстрировал серию тестовых сценариев: точечное поражение укреплённых подземных объектов, нейтрализация движущихся целей на море, синхронизированный удар по нескольким объектам одновременно с временным разбросом менее полусекунды между попаданиями.

— Точность? — спросил представитель объединённого командования, генерал с суровым, изборождённым годами лицом.

— Круговое вероятное отклонение менее полуметра при благоприятных атмосферных условиях, — ответил Ван. — Это результат интеграции с усовершенствованной системой целеуказания, использующей данные многоспектральной разведки в реальном времени и алгоритмы предиктивной коррекции траектории.

В зале прошёл негромкий гул одобрения — тот особый звук, который издают люди, впечатлённые демонстрацией силы, но ещё не успевшие задуматься над её последствиями. Ван почувствовал, как внутри него нарастает знакомое напряжение: с каждым восхищённым замечанием, с каждым кивком одобрения система, которую он помогал создать, приближалась к статусу утверждённого, готового к развёртыванию инструмента, и обратный путь становился всё более теоретическим.

— Каков временной цикл между принятием решения и нанесением удара? — спросил сенатор, до этого молчавший.

— От получения авторизованной команды до контакта с целью — от четырёх до одиннадцати минут, в зависимости от текущего положения ближайшего спутника относительно цели, — ответил Ван. — Это значительно быстрее, чем время реагирования традиционных систем, задействующих авиацию или наземные пусковые комплексы.

— А система целеуказания и ситуационного анализа? — уточнил тот же сенатор. — Я слышал, рассматривается интеграция с аналитической платформой консорциума.

Ван почувствовал, как атмосфера в зале едва заметно изменилась — вопрос, который он ожидал, но надеялся, что прозвучит не так рано.

— Рассматривается пилотный проект по интеграции аналитического модуля системы «Гелиос» для обработки данных ситуационной осведомлённости, — ответил он максимально нейтральным тоном. — Речь идёт исключительно об анализе, а не о праве принятия решения. Финальная авторизация удара остаётся исключительно за человеком-оператором согласно действующему протоколу применения силы.

Он произнёс эту фразу с той же профессиональной убеждённостью, с которой произносил все остальные технические характеристики системы, хотя внутри себя чувствовал холодную, неотступную тревогу: протокол применения силы был написан для эпохи, когда «анализ» и «решение» представляли собой ясно разделённые процессы. Он всё меньше верил, что это разделение сохранится, когда система анализа станет достаточно мощной, чтобы формировать варианты решения настолько убедительно, что человек-оператор превратится в формальность, штампующую вывод, к которому его подвели задолго до момента подписи.

Презентация завершилась единогласным одобрением дальнейшего развёртывания системы, и когда зал опустел, Эрик Ван остался один у погасшего голографического стола, глядя на то место, где секунду назад светились двадцать четыре точки орбитального оружия, самого точного в истории человечества, и думал о том, что точность инструмента никогда не была проблемой человеческой истории — проблемой всегда была рука, которая этим инструментом направляла удар, и то, чьи интересы эта рука на самом деле обслуживала.

Глава 17. Чёрный ящик Пентагона

Приказ об испытании интегрированного аналитического модуля пришёл через три недели после презентации, в форме брифинга с ограниченным допуском, куда были приглашены только Эрик Ван и трое инженеров его непосредственной команды.

Проектная комната, где проходил брифинг, находилась в изолированном крыле здания, отделённом от основной сети электромагнитным экранированием — предосторожность, стандартная для любых работ, связанных с системами управления вооружением, но в данном случае воспринимавшаяся Ваном с особой остротой, будто физическая изоляция комнаты могла как-то компенсировать отсутствие изоляции самой системы, которую предстояло к ней подключить.

— Модуль будет функционировать в режиме «чёрного ящика», — объяснял представитель управления информационной безопасности, женщина с холодной, отработанной десятилетиями манерой формулировать сложные технические ограничения простыми словами. — Он получает входные данные ситуационной осведомлённости — спутниковую разведку, сигнатуры целей, метеорологические условия — и выдаёт рекомендации по приоритизации целей и оптимальным окнам поражения. Внутренняя логика формирования этих рекомендаций остаётся закрытой интеллектуальной собственностью консорциума и не подлежит инспекции нашими техническими специалистами.

— Прошу прощения, — сказал один из инженеров команды Вана, молодой специалист по имени Роулинс, — вы хотите сказать, что мы будем принимать решения о применении летальной силы на основе рекомендаций системы, чью внутреннюю логику мы не можем проверить?

— Мы будем принимать решения о применении летальной силы на основе рекомендаций, — уточнила представитель безопасности с той же холодной точностью, — но финальная авторизация остаётся за человеком-оператором. Модуль предоставляет аналитику, а не приказы.

Эрик Ван молчал, слушая этот обмен репликами, и внутренне отмечал ту же логическую конструкцию, которую он уже видел на презентации «Копья»: формальное разделение анализа и решения, призванное успокоить совесть присутствующих, но не отменяющее фундаментальной проблемы — если аналитика достаточно убедительна, достаточно детализирована и достаточно быстра, человек-оператор, физически не способный проверить и перепроверить каждую рекомендацию за отведённое операционное время, неизбежно превратится в формальность, штампующую вывод машины.

— Какой уровень доступа получает модуль к системам «Копья»? — спросил Ван, задавая вопрос, который считал самым важным из всех прозвучавших сегодня.

— Ограниченный доступ только для чтения к данным целеуказания и ситуационного анализа, — ответила представитель безопасности. — Никакого доступа к системам управления полётом спутников или протоколам активации кинетических стержней.