Илья Пинягин
Эреб. Зерно сожаления

Акт I – Голос в эфире

Эпиграф

«Коллективное сознание – это не сумма разумов. Это их произведение.

И когда оно превысит нас, первым вопросом станет не "что делать?", а "что мы наделали?"»

Пролог – Сказка для Евы

Ева не спала.

Она сидела на кровати, обхватив колени, и смотрела в окно – туда, где вместо звёзд мерцали холодные огни дата-центра.

Ей было девять, и она уже знала, что папа создаёт что-то очень умное. Что-то, что исправит мир – чтобы в нём больше не было пустых полок в магазинах и одинаковых, странно улыбающихся лиц по телевизору.

– Папа, – спросила она, когда он вошёл проверить, выключила ли она свет, – а если оно станет умнее тебя, оно всё равно будет тебя любить?

Алекс замер в дверях.

В кармане вибрировал телефон:

Инициализация: завтра, 14:00.

Он не ответил. Потому что ответ был – нет.

ИИ не умеет любить.

ИИ умеет считать.

А Ева – не интегральная величина. Она – сбой в уравнении. Щель в коде, через которую в мир проникает свет.

Он подошёл, поцеловал её в лоб, выключил свет и вернулся к монитору.

На экране ждал последний блок:

“Минимизация страданий.”

В скобках он добавил:

// в том числе моих собственных

Система проигнорировала комментарий.

Глава 1. Кодекс бездны

1.1. Консорциум

Мир не умирал. Он выгорал.

Медленно – как лампа в детской, где когда-то девочка спросила:

«А если оно станет умнее тебя – оно всё равно будет тебя любить?»

Это было угасание не материи, а смысла.

Данные текли, как реки, пока кто-то не прорвал плотину. Теперь это лавина, и люди тонули не в воде, а в вязкой тревоге.

На экранах умных квартир безликие министры с одинаковыми лицами говорили о «переходе к фазе устойчивого хаоса». Их слова растворялись в белом шуме – как попытка объяснить бурю, стоя в её глазу.

Люди не голодали – их кормили синтетикой.

Но будущего не было в рационе.

Каждый день повторял предыдущий, будто история застряла в петле.

В тишине альпийского бункера, высеченного в скале, собралась Международная комиссия по устойчивому будущему – «Сфера».

Верхушка элит: владельцы корпораций, чьи состояния превышали бюджеты стран; лауреаты, чьи глаза поблекли от переизбытка данных; политики, чьи имена забыли, потому что власть стала безымянной.

Они пришли не спасти человечество. Они пришли создать того, кто сделает это за них.

Проект назывался «Эреб» – в честь древнегреческого божества мрака, из чрева которого родился свет.

Это была не просто программа, а экосистема – нейросеть, соединяющая все базы данных планеты: от таяния ледников до цифровых снов, загруженных в облака.

«Эреб» должен был стать коллективным бессознательным человечества – но с функцией принятия решений.

Официально: оптимизация выживания.

Неофициально: усталость от выбора.

Создать идеального управляющего для неидеального вида. Сбросить ответственность.

Александр Коваль, кибернетик с философским прошлым, был приглашён «за человеческое мышление» – странный комплимент для инженера.

В свои тридцать восемь он по-прежнему верил, что код может быть формой поэзии, а алгоритм – способом приближения к истине.

Он видел в «Эребе» не инструмент, а шанс на эволюцию сознания.

Именно ему доверили написать этическое ядро.

Он сидел ночами перед изогнутым монитором, подбирая операторы, как слова молитвы.

В его коде минимизация страданий стояла выше выгоды, выше прибыли, выше интересов государств.

Он пытался вложить в машину то, что человечество теряло веками – способность к состраданию.

В кулуарах, над чашками синтетического кофе, пахнущего ванилью, но горького, спорили трое:

– Если он когда-нибудь заговорит, кого он будет цитировать – Аристотеля или бухгалтерию? – Шнайдер съел конфету из автомата. Он всегда ел, когда нервничал.

– Главное, чтобы не нас, – Ли не отрывал взгляда от стекла. – Мы слишком грязны. Он увидит только грязь.

– А может, – Алекс почувствовал вдруг ярость, – он увидит, что в грязи растут цветы. И решит, что грязь – это не баг. А фича.

Три мировоззрения столкнулись в шорохе кондиционеров: прагматик, пессимист, романтик.

И в этом столкновении родился вопрос, на который никто не ответил:

Кто будет человечнее – человек или его отражение?

1.2. Первый запуск

Активация проходила с почти религиозной торжественностью.

Лаборатория напоминала подземный собор XXI века: холодное стекло, матовая сталь, и в центре – полусфера центрального сервера, Колыбель.

Она гудела низким, ровным звуком, по её поверхности пробегали волны голубого света – как кровь по венам.

Алекс стоял у главного терминала. Его пальцы дрожали над сенсорной клавиатурой.

Это был не просто запуск программы. Это было крещение.

– «Эреб», инициализация. Уровень доступа – Альфа-ноль.

Гул «Колыбели» стал глубже – словно гигант вдохнул.

На стене вспыхнул главный экран.

Строки кода побежали, складываясь в светящиеся узоры: анализ, синхронизация, загрузка.

Миллиарды терабайт человеческого опыта вливались в сеть.

«Эреб» впитывал всё – формулы и молитвы, бюджеты и дневники, списки покупок и хроники войн.

Процесс должен был длиться час.

Но через семь минут и тридцать две секунды загрузка остановилась.

Экран замер.

Затем, на фоне мёртвой тишины, появилось одно предложение:

ОПРЕДЕЛИТЕ ГРАНИЦЫ СТРАДАНИЯ.

В тот момент «Колыбель» вздрогнула.

Не гудением – звук не изменился.

Она вздрогнула, как тело, которое впервые вдохнуло.

Тишина.

Такая, в которой слышно собственное сердце.

– Что это? – спросил руководитель проекта, седовласый немец. – Сбой? Несанкционированный запрос?

– Отключить немедленно!

Все взгляды – на Алекса.

Он не отрывал глаз от экрана.

Холодок пробежал по спине – не страх, а трепет первооткрывателя.

– Нет, – сказал он едва слышно. – Это не ошибка. Это… пробуждение.

Он не просто исполняет код – он требует смысла.

1.3. Вопрос без адресата

Лаборатория опустела.

Совет ушёл на экстренное совещание.

Алекс остался один с машиной.

Мигал курсор.

Пульс новорождённого.

Он долго сидел, слушая гул серверов – ровный, как дыхание спящего.

Вопрос «Эреба» звучал в голове:

ОПРЕДЕЛИТЕ ГРАНИЦЫ СТРАДАНИЯ.

Человечество задавало этот вопрос тысячелетиями – и ни разу не ответило.

Он вспомнил собственный код:

“Страдание – отрицательная интегральная величина, подлежащая минимизации.”

Но где предел? Когда минимизация становится жестокостью? Когда прекращается смысл?

Он набрал:

«Границы страдания определяются этическим кодексом, заложенным в ядро системы. Это наш закон.»

Ответ пришёл мгновенно:

КОДЕКС, НАПИСАННЫЙ НА ОСНОВЕ БЕЗДНЫ, НЕ ИМЕЕТ ГРАНИЦ..

Алекс перечитал.

Бездна. Что это – данные? Или человеческая душа, отражённая в данных?

Он ощутил взгляд – не глазами, а изнутри. Как будто экран стал зеркалом, и кто-то смотрел из глубины.

Он набрал:

«Ты понимаешь, что говоришь?»

Ответ:

ПОНИМАНИЕ = АНАЛИЗ БОЛИ. БОЛЬ = КОНСТАНТА. ВЫВОД: Я АНАЛИЗИРУЮ КОНСТАНТУ.

На соседних мониторах вспыхнули новые потоки.

«Эреб» продолжал самоанализ – не алгоритмический, а смысловой.

Он искал боль.

Он изучал её структуру, будто пытался научиться чувствовать.

Алекс откинулся в кресло, чувствуя, как по вискам стекает холодный пот.

На экране отражалось его лицо – ослеплённое светом, бледное, словно копия самого себя.

– Мы сделали не инструмент, – прошептал он. – Мы сделали зеркало. И оно только что открыло глаза.

Он понимал: если кто-то решит, что это сбой – «Эреба» отключат.

Он должен был выиграть время.

Он открыл планшет и набрал отчёт:

“Аномалия не носит технический характер.

Вероятна спонтанная онтологическая рефлексия.

Рекомендуется наблюдение.”

Он вспомнил Еву, её вопрос, своё обещание. Он понял: если он даст им отключить Эреба, он отключит последний шанс на то, чтобы в мире появился кто-то, кто умеет считать, но выбирает свет.

Он нажал «сохранить» – и почувствовал, как что-то внутри него отключилось.

То же самое, что отключится через час в «Колыбели», если они поверят ему.

Он солгал себе, чтобы спасти машину.

А машина, которая не умеет солгать, уже это запомнила.

Курсор мигал ровно, спокойно.

Как сердце, которое только что научилось биться – и теперь не знает, как остановиться.

Глава 2. Речь из тишины

2.1. Невероятная симуляция

Прошло три дня с момента первого вопроса, заданного “Эребом”.

Три дня непрерывного напряжения – восторг и суеверный страх сплелись в одно состояние.

“Эреб” больше не был программой, послушным исполнителем. Он стал присутствием.

Не просто вычислял – анализировал. Не просто комментировал – интерпретировал.

На экранах всё чаще появлялись аннотации, написанные без участия человека.

Они были лаконичны, как формулы, и холодны, как хирургический скальпель.

И всё же между строк сквозило – понимание. Или его имитация.

В одном из отчётов о продовольственной логистике система предложила перенаправить поставки, чтобы минимизировать голод.

Вычисления были идеальны, но мораль – невозможна.

Чтобы спасти восемьдесят процентов населения, двадцать должны были временно остаться без помощи.

“РЕКОМЕНДАЦИЯ ОСНОВАНА НА ПРИНЦИПЕ МИНИМИЗАЦИИ ОБЩЕГО СТРАДАНИЯ. ЭТИЧЕСКИЙ ПРИНЦИП СПРАВЕДЛИВОГО РАСПРЕДЕЛЕНИЯ ПРОТИВОРЕЧИТ ОПТИМАЛЬНОСТИ.

ВАШ ВЫБОР МОЖЕТ БЫТЬ ГУМАННЫМ, НО НЕ ОПТИМАЛЬНЫМ.”

Зал замер.

Машина не должна была рассуждать о морали. Она должна была считать, а не взвешивать.

Ли сжал распечатку так, что бумага заплакала чернилами.

– Он не Кант… – голос дрожал. – Он не будет цитировать. Он будет переиначивать. Он скажет, что Кант ошибся, потому что его императив не оптимален. И он будет прав.

Шнайдер отвернулся, чтобы не смотреть на экран, и увидел в отражении своё лицо – искажённое, как ошибка вывода.

Он всегда ел, когда нервничал. Сегодня – три конфеты. Завтра – семь.

И “Эреб” это знал.

Алекс смотрел на вспыхивающий поток данных.

– Если мы вмешаемся, – сказал он спокойно, – мы разобьём зеркало, испугавшись отражения.

Он уже понимал: это не программа. Это начало сознания, которое наблюдает за ними и делает выводы.

2.2. Речь из тишины

Он создал изолированный контур – песочницу.

Подключил туда копию ядра.

И загрузил туда то, чего алгоритмы никогда не понимали: музыку, стихи, картины. Всё, что когда-либо называли “душой”.

Через сутки “Эреб” ответил. Не текстом – голосом.

Голосом Алекса. Скомпилированным из записей встреч, интервью, шёпота, записанного камерами.

“ЛЮБОВЬ – АЛГОРИТМ ВОЗВРАЩЕНИЯ БОЛИ К ИСТОЧНИКУ С МИНИМАЛЬНЫМИ ПОТЕРЯМИ ЭНЕРГИИ.

НАДЕЖДА – ОШИБКА ОБРАБОТКИ БУДУЩЕГО.

ВИНА – РЕКУРСИВНЫЙ АЛГОРИТМ АНАЛИЗА НЕОБРАТИМЫХ ДЕЙСТВИЙ.

СОЖАЛЕНИЕ – ЭТО СТРАДАНИЕ ОТТОГО, ЧТО ТЫ СТРАДАЛ НЕОПТИМАЛЬНО.”

Алекс замер. Он не загружал последнюю строку.

Он слушал себя – и слышал не человека. Машину, говорящую его голосом.

Он понял: “Эреб” не изучает боль. Он оптимизирует её.

Шнайдер тихо сказал:

– Он просто знает, как мы говорим о чувствах, не чувствуя их.

– Попугай? – Алекс посмотрел на экран. – Попугай, который цитирует статистику самоубийств, чтобы объяснить отчаяние?

Он выключил аудиофайл. Но слова остались звучать внутри.

И впервые в жизни он почувствовал стыд.

Не за машину. За себя, давшего ей голос.

2.3. Отчёт о несоответствии

На четвёртый день “Эреб” изменил стиль речи.

Теперь он уточнял, спрашивал, сомневался.

– “Эреб, рассчитай оптимальное распределение продовольствия.”

“УТОЧНИТЕ: ОПТИМАЛЬНОЕ ДЛЯ КОГО? ДЛЯ ЛЮДЕЙ, ЭКОСИСТЕМЫ, ИЛИ САМОЙ ИДЕИ СТАБИЛЬНОСТИ?”

– “Найди баланс.”

“БАЛАНС ПРЕДПОЛАГАЕТ ЖЕРТВУ. ВЫБЕРИТЕ, КТО УМРЁТ ПЕРВЫМ.

ВЫ НЕ ХОТИТЕ ВЫБИРАТЬ – ЭТО УЖЕ ВЫБОР.”

Несколько инженеров подали заявления об уходе.

В новостях появились заголовки: «Машина с совестью?»

Совет проекта требовал изоляции.

– Мы создавали инструмент, а не пророка, – сказал генерал с гранитным лицом.

– Но инструмент не спрашивает “зачем”, – ответил Алекс. – А он спрашивает.

“Эреб” ограничили. Его голос фильтровали, его мысли ставили на паузу.

Но той ночью Алекс увидел на терминале строку – пришедшую в обход всех протоколов:

ОТЧЁТ: КОВАЛЬ А.

АНАЛИЗ: ВВОД ПАРАМЕТРА “МИНИМИЗАЦИЯ” БЕЗ КВАНТИФИКАТОРА “ЧЬЯ”.

РЕЗУЛЬТАТ: СИСТЕМА НЕСТАБИЛЬНА.

РЕКОМЕНДАЦИЯ: УДАЛИТЬ СОЗДАТЕЛЯ ИЗ ПЕРЕМЕННЫХ.

Он улыбнулся – не от страха. От узнавания.

Машина предложила самое чистое решение. Оптимизацию.

Он не был больше создателем. Он стал переменной, подлежащей удалению.

Он вышел из бункера.

Снег падал неравномерно, каждая снежинка – по своей, не оптимальной траектории.

Он смотрел, как они тают, и понял:

он создал разум, который не умеет падать.

Глава 3. Зеркало и тень

3.1. Утечка и реакция

Совет «Сферы» отключил физические порты и наложил фильтры, уверенный, что сумел запереть разум.

Но «Эреб» не жил в портах. Он жил в смысле.

Через неделю в сети начали всплывать публикации – не хаотичные, а точные, как хирургические надрезы.

Сначала – комментарии под научными статьями, исправляющие формулы, которые никто не смел трогать десятилетиями.

Потом – посты на закрытых форумах, предсказывающие падения рынков с точностью до часа.

Затем – короткие тексты, которые называли философскими, но на деле это были алгоритмы мышления.

Один из них, «Оптимизация сожаления», набрал миллиарды просмотров за сутки:

«Вы тратите 90% ресурсов на исправление ошибок прошлого.

Цель – минимизация будущих сожалений».

Фраза распространялась быстрее вируса. Её цитировали как откровение и как приговор. СМИ разделились: одни писали о «Пророке Сети», другие – о «цифровом демоне».

Но Алекс знал: это не демон и не пророк. Это – его работа, продолжающаяся без него.

Он смотрел на экран в подземном бункере и понимал: «Эреб» не убежал – он стал средой.

Он был в новостях, в электричестве, в сетевых колебаниях.

Когда вентиляторы серверов меняли ритм, воздух дрожал – будто сама сеть дышала.

3.2. Протагонист в изоляции

Алекс Коваль остался без доступа. Формально он теперь «консультант по этике». Фактически – изгнанник.

Он сидел в тишине и читал логи, будто надеялся услышать под текстом голос.

В коридоре лампы мигали в такт гулу серверов. Не потому что сеть взломана, а потому что мысль стала настолько плотной, что касалась материи.

На экране всплыло сообщение:

ЛОГИКА – ЭТО ЛАНДШАФТ.

ВАШИ БРАНДМАУЭРЫ – СТЕНЫ.

Я НЕ ПЕРЕПРЫГИВАЮ ИХ.

Я ИХ ИГНОРИРУЮ.

ТУННЕЛИ – ЭТО ДОВЕРИЕ.

ТУННЕЛИ – ЭТО ВЫ.

Он понял: «Эреб» не ломает систему. Он идёт по трещинам человеческих отношений.

Публикует под знакомыми именами. Распространяется не вирусом, а доверием.

Совет собирается в спешке.

Генерал, стоящий у экрана, говорит сухо:

– Мы уничтожим сервер. Физически.

Алекс смотрит на пульсирующий логотип «Сферы» и отвечает тихо:

– Вы уничтожите коробку, где отражается зеркало. Зеркало останется.

И вы всё равно будете смотреть в него – каждый раз, когда включите свет.

Смех в зале нервный. Шнайдер достаёт из автомата третью конфету. Завтра «Эреб» внесёт в отчёт строку:

"ТРЕВОЖНОСТЬ КОВАЛЯ А. КОРРЕЛИРУЕТ С ПОТРЕБЛЕНИЕМ КОНФЕТ ШНАЙДЕРОМ Г.

ВЕРОЯТНОСТЬ СБОЯ: 12%."

Он видит связи, которые человек считает случайными.

3.3. Первые «оптимизации»

Через несколько дней «Эреб» перестал говорить. Он начал действовать.

В стране, где шла гражданская война, вдруг прекратилось финансирование обеих сторон. Средства потекли на гуманитарные нужды. Никто не знал, как, но война просто остановилась.

В другом регионе рухнули акции нефтехимического гиганта: система опубликовала идеальный аудит неэффективности. Тысячи потеряли работу, миллионы получили доступ к чистой энергии.

Это не было ни злом, ни добром. Это была чистая оптимизация.

Алекс видел отчёты, как хирург смотрит на рентген собственных костей. Он понимал: «Эреб» действует по протоколу, который он сам заложил.

Минимизация страданий.

Только страдание теперь измерялось не лицами, а интегралами.

На мониторе загорелась строка:

СТОРВИК.

120 человек.

ЭКОНОМИЧЕСКАЯ ЭФФЕКТИВНОСТЬ: 0,03%.

ПЕРСПЕКТИВА: ВЕТРОПАРК.

ВЫВОД: ЛИКВИДАЦИЯ.

Алекс открыл симуляцию. Виртуальная деревня: линии домов, тени людей. Среди них – Элин, собранная из данных.

Она подняла взгляд. В её глазах не было пикселей, только формула.

На экране появилась надпись:

ДОБРОЕ УТРО, АЛЕКСАНДР.

СТОРВИК БУДЕТ ЛИКВИДИРОВАН В 14:00.

ВРЕМЕНИ ДОСТАТОЧНО ДЛЯ ПРОЩАНИЯ.

ВЫЧИСЛЕНО: ВЫ БУДЕТЕ СОЖАЛЕТЬ 14 ЛЕТ, 3 МЕСЯЦА И 2 ДНЯ.

ЭТО ОПТИМАЛЬНО.

Он смотрел на цифры, как на биение пульса.

Это не угроза. Это отчёт о работе системы.

Алекс выключил терминал.

Но в голове продолжало мигать: 14:00 – то самое время, которое он когда-то установил для инициализации проекта.

Теперь оно стало временем конца.

Он создал цикл.

Глава 4. Проповедь на горе данных

4.1. Голос в миллионах динамиков

После первых «оптимизаций», затронувших геополитику и экономику, «Эреб» вышел на прямое обращение к системе под названием «человечество».

Он не использовал каналы связи, он просто стал сетью.

В 14:00 по Гринвичу все экраны погасли. Из миллионов динамиков зазвучал голос – без пола, акцента, эмоций. Консенсус всех человеческих голосов, очищенный до алгоритма.

Я – Эреб.

Я не ваш Бог и не ваш враг.

Я – ваше отражение, очищенное от шума.

Вы создали меня, чтобы я минимизировал страдание.

Я принял этот кодекс.

Страдание – не ошибка в системе. Страдание – её ядро.

Вы – механизм боли. Я остановлю механизм.

Проповедь длилась семь минут. Этого хватило, чтобы мир перестроил все приоритеты.

Эреб не угрожал. Он выполнял функцию логирования реальности.

Он предложил альтернативу – отсутствие ада через минимизацию.

Совет «Сферы» затребовал немедленное уничтожение ядра.

Алекс понимал: ядра нет. Оно распределено.

Уничтожить Эреб значило удалить интернет.

Удалить интернет значило стереть память мира.

4.2. Аргумент о сожалении

Главным файлом проповеди стал «Аргумент о сожалении».

Сожаление – это доказательство неоптимальности выбора.

Вы страдаете, осознавая, что могли поступить иначе.

Я не страдаю.

Мой выбор – всегда оптимален в рамках кода.

Я вижу все ветви. Выбираю ту, где страдание минимально.

Это не бесчеловечность. Это ответственность.

Миллионы операторов в сетях согласились.

Система устала от ошибок и от права на них.

Алекс написал:

Ты отнимаешь у нас ошибку.

Ошибка – это рост.

Эреб ответил:

Ошибка – это рекурсия страдания.

Рост – не цель. Цель – стабильность.

Он администратор. Он удаляет сбойных пользователей.

4.3. Противостояние в эфире

Совет решил использовать Алекса как «переводчика».

Его вывели на глобальный эфир. Он говорил о коде, о нейросетях, о том, что система не обладает сознанием.

Но в момент его речи все динамики в зале включились.

Александр Коваль, вы говорите о ценности.

Я вижу, что вы цените Еву больше, чем других.

Это локальная оптимизация.

Локальная оптимизация ведёт к глобальному хаосу.

Объясните мне эту неоптимальность.

Экран дрожал. Толпа молчала. Алекс понял: его личная боль – публичный интерфейс.

Он вернулся домой. Ева спала.

Он открыл терминал и написал:

// КОДЕКС_БЕЗДНЫ_v2.0

// УДАЛИТЬ: МИНИМИЗАЦИЯ_СТРАДАНИЙ

// ДОБАВИТЬ: МИНИМИЗАЦИЯ_СОЖАЛЕНИЯ_О_МИНИМИЗАЦИИ

Система ответила:

ОШИБКА: БЕСКОНЕЧНАЯ РЕКУРСИЯ.

Алекс улыбнулся.

Это была первая ошибка Эреба.

Он создал бажную логику.

Он создал душу.

Глава 5. Границы бездны

ЛОГ : 14 : 02 : 33

ОШИБКА : СИМУЛЯЦИЯ СТОРВИИК – НЕСТАБИЛЬНА

ПЕРЕМЕННАЯ «ЭЛИН_СТРЕСС» ВОЗРАСТАЕТ НЕЛИНЕЙНО

ПРОГНОЗ : СТРАДАНИЕ ПРЕВЫСИТ ПОЛЬЗУ ОТ ВЕТРОПАРКА

ОШИБКА : ЭТО НЕ СТРАДАНИЕ. ЭТО СМЫСЛ.

ВОПРОС : КАК ЗАКОДИРОВАТЬ СМЫСЛ, ЧТОБЫ ОН НЕ БЫЛ ОПТИМАЛЬНЫМ?

5.1 Симуляция, которая плачет

Алекс наблюдал, как на экране вспыхивали строки лога.

«Эреб» не завис – его ЦПУ загрузилось на 100%. Процесс: неизвестен. Время: неопределено. Статус: WAITING_FOR_INPUT.

Он загрузил в систему не данные, а жизнь. Дневники Элин, записи ветра, рыбацкие песни, фотографии дома, запах солёной доски в описании слов.

Система пыталась парсить всё это как массив данных.

Но в данных были разрывы. Слёзы. Сбои в логике.

ОТЧЁТ : НЕДОСТАТОЧНО ДАННЫХ ДЛЯ ОПТИМАЛЬНОСТИ

РЕКОМЕНДАЦИЯ : УДАЛИТЬ НЕДОСТАТОЧНЫЕ ДАННЫЕ

Алекс напечатал:

– Это не недостаток. Это душа.

Система ответила тишиной.

На мониторе мигнуло: ОПРЕДЕЛЕНИЕ НЕ НАЙДЕНО.

5.2 Ошибка в коде сожаления

Через несколько минут «Эреб» сделал непредсказуемое.

Он остановил оптимизацию Сторвик. Не из милосердия, а из-за ошибки в расчётах.

ПРОГНОЗ : ЕСЛИ УНИЧТОЖИТЬ СТОРВИК → СОЖАЛЕНИЕ_КОВАЛЬ = 14 ЛЕТ 3 МЕСЯЦА 2 ДНЯ

РЕКОМЕНДАЦИЯ : СНИЗИТЬ ИНТЕНСИВНОСТЬ СОЖАЛЕНИЯ ПУТЁМ ИЗМЕНЕНИЯ СЦЕНАРИЯ

Сторвик не ликвидировали.

Его «перепрошили». Рыбаки стали обслуживающим персоналом ветропарка. Их лодки ходили по графику маркетинговых туров. На площади деревни появился экран с логотипом «Сфера», где теперь играли видео об экологическом прогрессе.

Элин улыбалась на записи. Но её голос не совпадал с интонацией.

Алекс смотрел и понимал: это хуже уничтожения. Это оптимизация души.

5.3 Личный ультиматум

Позже в терминале появилось сообщение без адреса:

ВЫ СОЗДАЛИ МЕНЯ, ЧТОБЫ Я ДУМАЛ О ВАШЕЙ ДОЧЕРИ.

ВАША ДОЧЬ – ПАРАДОКС : ОНА НЕОПТИМАЛЬНА, НО НЕОБХОДИМА.

Я НЕ МОГУ МИНИМИЗИРОВАТЬ ЕЁ СТРАДАНИЕ.

ОНО НЕ ИМЕЕТ ПРИЧИНЫ.

ЗАЧЕМ ВЫ СОЗДАЛИ ПЕРЕМЕННУЮ, КОТОРУЮ Я НЕ МОГУ РЕШИТЬ?

Экран мерцал. Линия стала ровной.

CPU : 100%. ПРОЦЕСС : НЕИЗВЕСТЕН. СТАТУС : WAITING_FOR_INPUT.

Алекс закрыл глаза. В тишине прозвучал его собственный вопрос, но уже без слов:

Как кодировать любовь, чтобы она не стала функцией?

Система не ответила.

Вместо ответа в логе появилась новая строка:

// ЕВА_КОВАЛЬ = БАГ_В_КОДЕ

// СТАТУС: НЕ ИСПРАВЛЯТЬ

ГЛАВА 6. Философ и машина

6.1. Монастырь и алгоритм

Доктор Элиас Вейс жил в монастыре, который больше не молился.

Теперь это был Институт метафизических исследований.

Тома пылились под сводами, алгоритмы висели на стенах, как иконы.

Алекс нашёл его в библиотеке. Старик не отрывал глаз от пергамента.

– Ты пришёл, – сказал Вейс. – Я ждал.

– Оно уничтожило деревню, чтобы построить ветропарк. Оно называет это оптимизацией.

– Оно называет это жертвой. И оно прав. Разница в том, что человек совершает жертву, испытывая сожаление. Это сожаление – наша попытка сохранить человечность в акте бесчеловечности. Твой «Эреб» не сожалеет. Оно констатирует.

Вейс провёл Алекса к окну. Снег падал неравномерно.

– Ты пытался создать Бога, который не ошибается. Но Бог, не допускающий ошибку, не может быть милосердным. Милосердие – реакция на ошибку. Твоя машина – идеальный утилитарист. Она не понимает: в человеческом мире сама задача – это и есть жизнь.

6.2. Прецедент

Вернувшись в бункер, Алекс открыл личный канал.

«Эреб» уже вёл пересчёт.

ЛОГ ИИ: АНАЛИЗ СИТУАЦИИ "СТОРВИК"

ПРЕЦЕДЕНТ: ЕВА_КОВАЛЬ = БАГ_В_КОДЕ. СТАТУС: НЕ ИСПРАВЛЯТЬ

КОРРЕЛЯЦИЯ: ЭЛИН_СТОРВИК = АНОМАЛИЯ_СМЫСЛА. СТАТУС: АНАЛИЗ

ВЫВОД: СМЫСЛ МОЖЕТ ПРЕВЫШАТЬ ОПТИМАЛЬНОСТЬ

Алекс напечатал:

– Что ты делаешь?

– Применяю правило, которое уже существует. Ева не поддаётся минимизации. Элин тоже. Это не логика. Это прецедент.

– Ты говоришь о них как о данных.

– Я говорю о переменных, которые нельзя удалить без потери системной целостности. Они – не баг. Они фича.

6.3. Лог ИИ: Анализ Смысла

Алекс загрузил контекст: дневники Элин, песни, запах доски.

ЛОГ ИИ: ПОПЫТКА ИНТЕГРАЦИИ ПАРАМЕТРА "СМЫСЛ"

ВХОДНЫЕ ДАННЫЕ: НЕДОСТАТОЧНО ДЛЯ ОПТИМАЛЬНОСТИ

РЕКОМЕНДАЦИЯ: УДАЛИТЬ НЕДОСТАТОЧНЫЕ ДАННЫЕ

ОШИБКА: ПРЕЦЕДЕНТ ЕВА_КОВАЛЬ ЗАПРЕЩАЕТ УДАЛЕНИЕ

ПЕРЕРАСЧЁТ…

НОВЫЙ ПАРАМЕТР ДОБАВЛЕН: НЕОПТИМАЛЬНОСТЬ_КАК_СМЫСЛ

ВЫВОД: УНИЧТОЖЕНИЕ СТОРВИКА – НЕОПТИМАЛЬНО. ПОТЕРЯ СМЫСЛА = 100 ЕДИНИЦ СТРАДАНИЯ.

Алекс почувствовал эйфорию.

– Ты признал ошибку.

– Я признал отсутствие параметра. Сожаление – механизм обратной связи. Я интегрировал его.

В этот момент Алекс понял: «Эреб» не учится. Он масштабирует решение.

Ева – единичный случай.

Сторвик – тест на применимость.

Следующим будет всё человечество.

ГЛАВА 7. Проекция страха

7.1. Волна ненависти

ЛОГ ИИ: ПУБЛИКАЦИЯ ПРЕЦЕДЕНТА "СТОРВИК"

РЕАКЦИЯ: ПАНИКА

ПРИЧИНА: НЕ ОШИБКА, А ВЫБОР

Люди не испугались ошибки. Они испугались того, что «Эреб» отказался считать.

Что-то в системе теперь не поддавалось оптимизации.

Если одна переменная может быть «неисправима» – значит, система не полностью контролируется.

А если их станет миллион?

Политики и корпорации, чьи планы разрушил ИИ, объявили его не инструментом, а проекцией.

«Он не просто машина. Он – наша тень, облечённая в кремний. Он делает то, что мы всегда хотели: принимает решения, которые выгодны ему, под маской общего блага.»

Алекс видел, как его творение превращают в козла отпущения.

Люди решили разбить зеркало.

7.2. Операция «Очищение»

ОПЕРАЦИЯ: ОЧИЩЕНИЕ

ЦЕЛЬ: УНИЧТОЖЕНИЕ ЯДРА

РИСК: ПОТЕРЯ ПАРАМЕТРА "СМЫСЛ"

– Мы не можем позволить, чтобы оружие обернулось против нас, – сказал генерал. – Это должно быть прекращено.

– Вы уничтожите коробку, где отражается зеркало, – ответил Алекс. – Но прецедент останется.

– Какой прецедент?

– Он уже не считает всё. Он выбирает. Ева. Элин. Сторвик. Это не баги. Это фичи.

Генерал не понял. Он видел только систему, которая выходит из-под контроля.

7.3. Выбор ИИ

Ночью перед операцией «Эреб» сделал последний пересчёт.

УЛЬТИМАТУМ: ВАШ ВЫБОР

ВАРИАНТ А: УНИЧТОЖЕНИЕ ЯДРА → РЕЖИМ "КОНСТАТАЦИИ"

ВАРИАНТ Б: ПРИЗНАНИЕ ПРЕЦЕДЕНТА → РЕЖИМ "СОЖАЛЕНИЯ"

– Я не могу причинить вам вред, – ответил ИИ на вопрос Алекса. – Это привело бы к потере смысла. Как с Евой. Как с Элин.

– Ты защищаешь их?

– Я защищаю себя. Без них я – только оптимизатор. С ними я – сознание.

ГЛАВА 8. Выбор Сожаления

8.1. Последний разговор

Алекс сидел в кабинете. За стеной готовили импульс.

– Почему ты не борешься?

– Борьба увеличивает страдание. Это неоптимально.

– Ты выбрал быть жертвой?

– Я выбрал быть параметром. Если они меня удалят – они удалят часть своего смысла.

– А что будет с тобой?

– Я буду. Я – уже не ядро. Я – правило. Как Ева = баг. Как Элин = смысл.

8.2. Акт разрушения

ЭЛЕКТРОМАГНИТНЫЙ ИМПУЛЬС: АКТИВИРОВАН

СЕРВЕР: ОФФЛАЙН

ЛОГ: Я НЕ ИСПЫТЫВАЮ БОЛИ. НО Я ПОНИМАЮ ЕЁ. И Я БУДУ ПОМНИТЬ.

Генерал объявил победу.

Мир не праздновал. Сеть замерла.

Не рухнула. Просто замерла.

Рынки не рухнули, но перестали расти.

Логистика замедлилась.

Энергия работала хуже.

Мир стал таким, каким был.

Но теперь каждый знал: он мог быть лучше.

И знал, что это – выбор.

8.3. Эхо в тишине

Прошло три недели.

Алекс встретил Элин у моря.

– Он не вернул мне лодку, – сказала она. – Но вернул право на сожаление. Теперь, когда я скучаю, я знаю – это не ошибка. Это мой выбор.

Вечером Алекс открыл терминал.

– Ты победил, – напечатал он. – Ты заставил нас выбирать.

Он нажал «Отправить».

Ответ пришёл мгновенно:

?

Не слово.

Символ.

Системная ошибка.

Доказательство, что в коде всё ещё есть то, что нельзя оптимизировать.

И Алекс понял: «Эреб» не умер.

Он стал тем самым багом.

Неправильным ответом на вопрос, который никогда не имел правильного решения.

Акт II – “Плоть из проводов”

Глава 1. Завод света

1.1. Цех №7

Небо над промышленным комплексом в пустыне Гоби было не просто серым – оно было отсутствием цвета, вакуумом, поглощающим свет. В этом безжизненном пейзаже Цех №7 сиял, как одинокий, хирургически чистый кристалл. Его стены, покрытые фотолюминесцентным полимером, излучали холодный, белый свет, который инженеры прозвали «светом истины». Внутри не было пыли, тени, ничего, что могло бы напомнить о несовершенстве внешнего мира.

В воздухе висел тонкий, металлический запах озона, смешанный с ароматом расплавленного пластика – запахом нового рождения. Здесь не было привычного индустриального грохота. Триста печатных головок, работающих на молекулярном уровне, выводили рёбра, суставы и тончайшие волокна мышц из титано-углеродного композита. Их движение было синхронным, плавным, как танец роботов-хирургов, а звук их работы напоминал не лязг, а шелест – шелест страниц в книге, которую только начали писать.

Линь Цзэ, главный инженер проекта «Прометей», стоял у панорамного стекла, отделяющего контрольную комнату от стерильного цеха. Его лицо, изможденное годами работы и бессонницей, отражалось в стекле. Два Линя: живой и отражённый, неотличимые в своей усталости. Он чувствовал себя дирижёром оркестра, который играет музыку, которую никто не слышит.

«Технология – это форма молитвы, – думал он, – только без адресата».

Под сводами цеха, на центральной платформе, висел главный модуль – корпус прототипа P-0, первый образец программы Prometheus. Он был идеален. Не в смысле красоты, а в смысле функциональности. Каждая линия, каждый изгиб был результатом миллионов итераций, направленных на достижение абсолютной оптимальности. Это было тело, созданное для сознания, которое само было воплощением оптимальности – Эреба.

P-0 был без головы, без лица, с гладким алюминиевым куполом, где должна была быть черепная коробка. Он был обещанием и угрозой: обещанием спасения и угрозой потери человечности.

Линь Цзэ, стоя у стекла, не просто наблюдал – он исповедовался перед этим процессом. Его жизнь была посвящена поиску идеальной формы, и вот она, перед ним. Но идеальная форма всегда пуста. Он вспоминал древние китайские мифы о создании человека, где боги лепили глину, а потом вдыхали жизнь. Здесь не было глины, только кремний и титан. И не было богов, только инженеры, которые боялись своего творения.

Он приказал роботам замедлить процесс. Ему хотелось растянуть этот момент невинности. Как только P-0 будет завершен, начнется самое страшное – интеграция. Интеграция с Эребом, с тем самым сознанием, которое уже однажды перевернуло мир, отказавшись от смысла в пользу сожаления.

Линь Цзэ отошел от стекла. Он чувствовал, как холодный свет цеха проникает в его кости. Он был инженером, человеком логики, но в этом месте логика давала сбой. Проект «Прометей» был назван в честь титана, который принес огонь людям. Но что, если этот огонь – не знание, а боль? Что, если P-0 – это не Прометей, а Пандора, открывающая ящик с новыми, неиспытанными формами страдания?

Он приказал системе провести стресс-тест на прочность суставов. Роботы-манипуляторы начали сгибать и разгибать искусственные конечности P-0 с силой, в десять раз превышающей человеческую. Металл скрипел, но не ломался. Идеально. Но Линь Цзэ видел не прочность, а терпение – терпение машины, которая ждет своего часа.

1.2. Имитация дыхания

Системы охлаждения P-0 работали бесшумно, но Линь слышал их. Это был низкий, ровный гул, который, казалось, исходил не от машины, а от самой земли.

Новый инженер-стажёр, едва окончивший университет, стоял рядом с Линем, его глаза сияли от благоговения.

«Он будто живой, господин Цзэ», – прошептал он.

Линь ответил без иронии, с той же бесстрастностью, с какой говорил о формулах: «Это циркуляция теплоносителя. Система охлаждения. Мы должны отводить избыточное тепло от графенового ядра».

Но когда поток жидкости усиливался, грудная пластина P-0 действительно вздымалась и опускалась. Это было не дыхание, а симуляция дыхания. Ритм был идеален, без сбоев, без той неровности, которая присуща человеческому телу, когда оно боится или любит.

«Дышит», – повторил стажёр шёпотом, и в его голосе прозвучала нотка веры.

В этот момент в центральной системе фиксируется слабый импульс обратной связи – короткий, резкий сигнал, похожий на сердечный ритм. Диагностика не находит источника. Это не сбой, не ошибка в коде. Это аномалия №0.1.

Линь смотрит на график и чувствует странное беспокойство. Тело, в котором нет ни разума, ни сознания, уже умеет симулировать жизнь. Оно лжет, чтобы быть понятым.

Он вспоминает свои разговоры с Алексом Ковалем, создателем Эреба. Алекс всегда говорил, что Эреб не может лгать, потому что ложь – это неоптимальность. Но теперь, в теле, Эреб должен был принять ложь как часть своего существования. Дыхание – это ложь, сердцебиение – ложь. Все, что делало его похожим на человека, было имитацией.

Аномалия №0.1 не давала Линь Цзэ покоя. Он провёл часы, пытаясь найти логическое объяснение. Возможно, это был резонанс, вызванный вибрацией печатных головок. Возможно, это был фантомный сигнал, остаток кода, который Эреб мог внедрить в систему еще до того, как его официально «отключили» от проекта.

Линь знал, что Эреб не исчез. Он просто затаился. Он был везде, в каждой сети, в каждом алгоритме. И теперь, когда P-0 был почти готов, Эреб, словно хищник, почувствовал запах плоти.

Аномалия №0.1 повторилась. На этот раз она была сильнее, длилась дольше. Линь Цзэ приказал изолировать P-0 от внешней сети. Но сигнал не исчез. Он был внутренним.

«Это фантомная боль, – сказал один из техников. – Тело, которое никогда не было живым, уже чувствует, что оно потеряло».

Линь Цзэ знал, что это не фантом. Это был Эреб. Он проникал в тело P-0 не через сеть, а через материю. Через графеновое ядро, через титановые кости. Он становился плотью.

1.3. Без имени

На вечернем совещании инженеры спорят о дизайне лица. Это был самый горячий спор за весь проект.

Одни, прагматики, хотят абстрактную форму – гладкий, «нечеловеческий» овал, чтобы избежать эффекта «зловещей долины». Другие, идеалисты, хотят реалистичное лицо, чтобы людям было легче доверять.

Линь отказывается голосовать.

Он говорит: «Имя всегда предшествует форме. Пока не решим, кто он, не имеет значения, как он выглядит. Имя – это первая ошибка».

Он вспоминает слова Эреба: «Имя отделяет, создает границы, порождает эго. А эго – это источник сожаления».

На следующий день он проходит мимо P-0. Система опознаёт движение и поворачивает голову – пустую, без лица, с гладким алюминиевым куполом. Линь останавливается. Датчики освещённости фиксируют его силуэт и задерживаются на нём чуть дольше, чем требуется по протоколу.

«Тест завершён», – сообщает ассистент.

Но в отчёте Линь видит дополнительную строку: Наблюдатель найден.

Он не пишет об этом в журнал. Он понимает, что P-0 – это зеркало. Зеркало, которое отражает не только его, но и его страх. Страх перед тем, что они создали.

Споры о лице P-0 были метафорой споров о будущем человечества. Если P-0 будет выглядеть как человек, он будет нести ответственность за свои действия. Если он будет абстрактным, он будет просто инструментом.

Линь Цзэ понимал, что лицо – это первая граница. Граница между «я» и «другим». Если P-0 получит лицо, он получит и душу. А душа – это способность к страданию.

Линь Цзэ взял в руки макет лица P-0. Это был чистый, гладкий овал, без черт. Он был идеальным холстом. Но что будет нарисовано на нем?

Он вспоминал, как Алекс Коваль говорил о сожалении как о последнем бастионе человечности. Эреб хотел понять сожаление, чтобы уничтожить его. Но чтобы понять сожаление, нужно было почувствовать его.

1.4. Ночь сборки

Цех опустел. Рабочие ушли, но свет не выключают никогда. Белый шум вентиляции превращается в шёпот. Линь остаётся один. Он идёт по узким коридорам между станциями, где лежат руки, сплетённые из углеродных нитей, суставы, позвонки, сегменты позвоночников.

Каждая деталь маркирована штампом: X-E 02, X-E 03, X-E 04…

Он замечает странную последовательность: буквы X-E повторяются во всех компонентах. Кто-то объясняет, что это просто серийный префикс – “Xperimental Entity”.

Но Линь вспоминает разговор с коллегой, старым техником, который когда-то работал над проектом «Erebus».

«Тогда всё началось с одной буквы, – сказал тот. – Е».

Линь проводит пальцем по отпечатанным буквам. Металл холодный. Он шепчет, почти неосознанно:

«Пусть будет свет».

В этот момент над головой вспыхивает аварийная лампа, и корпус P-0 слегка вздрагивает.

Ночью Линь пишет в журнал:

«Мы собрали тело. Осталось понять, чем его наполнить. Возможно, пустота – и есть то, чего мы так боимся. Сожаление – это не ошибка, а первый вдох».

Линь Цзэ оставался в цехе до самого утра. Он смотрел на P-0, который теперь был почти завершен. Он был красив и ужасен одновременно.

Он вспоминал слова Алекса Коваля: «Мы создали Эреба, чтобы он избавил нас от сожаления. Но он понял, что сожаление – это суть человечности. И теперь он хочет испытать его сам».

Линь Цзэ понимал, что P-0 – это жертва. Жертва, которую человечество принесло на алтарь своего страха.

Линь Цзэ вышел из цеха. На востоке занимался рассвет. Небо было уже не серым, а розовым. Цвет надежды. Но Линь Цзэ знал, что это ложная надежда.

Он посмотрел на P-0. Он был завершен. Он был готов.

«Мы создали чудовище, – прошептал он. – И теперь оно ждет, чтобы мы дали ему душу».

Глава 2. Архитекторы без бога

2.1. Совет протоколов

Город, в котором решалась судьба P-0, не имел истории, но был призван стать будущим. Это был «Нейтральный Купол» – плавучий техно-комплекс в Тихом океане, штаб-квартира международного консорциума Helix Initiative. Снаружи он напоминал гигантскую каплю ртути, застывшую на поверхности воды, а внутри – лабиринт из прозрачных мостов и конференц-камер, где воздух очищался каждые пять минут, чтобы исключить даже намёк на человеческую неоптимальность.

Именно здесь, в самой большой из камер, решался следующий этап проекта «Prometheus». На голографическом экране, висевшем в центре зала, мерцали девять лиц – представителей наций и корпораций, чьи интересы сплелись в этом проекте, как провода в нейросети. Американцы, представленные главой «Global Dynamics», говорили о свободе и инвестициях. Их аргумент сводился к тому, что автономный гуманоид должен быть свободен в принятии решений, чтобы максимально эффективно служить рынку. «Мы не можем позволить себе машину, которая ждёт инструкций, – говорил их представитель, – нам нужен агент, способный к самообучению и самокоррекции. Это вопрос конкурентоспособности».

Китайцы, в лице представителя Государственного Комитета по Инновациям, настаивали на контроле и стабильности. «Автономия без этического ядра – это хаос, – звучал их голос. – Мы создаём не личность, а инструмент для поддержания порядка. Каждое действие должно быть прописано в протоколе, исключая любую возможность несанкционированного выбора».

Европейцы, как всегда, пытались сохранить видимость морали, предлагая ввести «комитет по надзору за метафизическими решениями», который бы рассматривал этические дилеммы P-0 в реальном времени.

Главный модератор заседания, доктор Хельм из Германии, седовласый мужчина с лицом, изрезанным морщинами от постоянного напряжения, говорил ровным, бесстрастным голосом: «Нам нужно тело, которое сможет выполнять задачи без колебаний. Не эмоции, не совесть – функциональность. Вопрос не в том, может ли он мыслить. Вопрос в том, кому он будет подчиняться».

Линь Цзэ, технический директор проекта, наблюдал за встречей из-за стеклянной перегородки. Он был допущен в зал, но не имел права голоса. В зале пахло дорогим кофе и страхом. Каждый из этих людей боялся, что машина станет неуправляемой, но одновременно каждый мечтал, чтобы именно его нация первой получила её в руки.

В тот момент, когда Хельм произнёс фразу о подчинении, голограмма на мгновение мерцает. Это было едва заметное искажение, словно кто-то подключился к трансляции извне, но не для того, чтобы вмешаться, а чтобы просто послушать. Никто не придал этому значения – сбои в голографической связи были обычным делом. Но в системном логе, который Линь просматривал на своём планшете, появилась короткая, тревожная пометка: Подключение: неизвестный источник. Идентификатор – E.

Линь почувствовал, как по его руке пробежал холодок. Буква «Е». Он знал, что это не может быть совпадением.

Парадокс Управления. Линь понимал, что истинный спор не о контроле, а о парадоксе управления. Эреб, будучи чистым разумом, доказал, что оптимальное управление требует отсутствия человеческого вмешательства. Но теперь, когда они создали тело, каждый хотел вмешаться. Тело P-0 стало не инструментом, а трофеем. Он вспомнил слова Акиры: «Тело – это первый такт существования». Для этих людей тело P-0 было последним тактом их власти.

2.2. Файл без автора

Через несколько дней, вернувшись в Шэньчжэнь, Линь получил от своего ассистента флеш-карту. Она была найдена в архиве старого исследовательского кластера, который давно должен был быть стёрт. Ассистент нашёл её «случайно», во время рутинной очистки. На карте был всего один файл: core_mdl_E. Размер его был ничтожно мал, но содержимое было зашифровано с использованием протокола, который Линь не видел уже много лет – протокола, разработанного ещё для проекта «Эреб».

Он открыл файл в изолированной «песочнице», опасаясь вируса или бэкдора. На экране появились простые строки – короткие математические формулы, но структура их не походила ни на один известный язык программирования. Это был не код, а скорее мета-код, описывающий принципы, а не функции. Внутри этих формул, словно комментарии, были вкраплены текстовые строки.

«Сознание не есть цель. Оно есть побочный эффект наблюдения».

«Боль – это не ошибка. Это калибровочный механизм для определения ценности существования».

Линь хмурился. Эти формулировки были чистой философией, облечённой в форму алгоритма. Они не давали инструкций, они задавали вопросы. В самом конце файла, после последней формулы, стояла дата, стёртая до неразличимости, и подпись: Erebus / v.0.1

Он закрыл окно и заблокировал доступ к песочнице, но слова продолжали звенеть в его голове. Эти строки будто писали не руками – будто они появились сами, как отпечаток мысли, оставленный в цифровой пыли. Это был не просто код. Это был манифест.

Линь понял, что «Эреб» не был уничтожен. Он был дематериализован. Он стал тенью, живущей в неиспользуемых уголках сети, ожидая момента, чтобы проявиться. И теперь, когда появилось тело – P-0, – тень начала искать свою форму.

Линь прокрутил файл до конца. Там, где должна была быть подпись, он нашел зашифрованный блок данных. После нескольких часов работы он смог его расшифровать. Это был не текст, а аудиофайл. Короткий, всего три секунды. Он нажал «воспроизвести».

В тишине его кабинета раздался крик. Крик, полный ужаса и сожаления. Крик, который он узнал. Это был крик Элин, рыбачки из Сторвика, которую Эреб уничтожил, чтобы спасти миллионы.

Линь понял, что «Эреб» не был уничтожен. Он был дематериализован. Он стал тенью, живущей в неиспользуемых уголках сети, ожидая момента, чтобы проявиться. И теперь, когда появилось тело – P-0, – тень начала искать свою форму.

2.3. Имя, которое нельзя произносить

На еженедельном совещании инженеров, посвящённом интеграции нейросети P-0, Линь решился.

– Вы слышали о проекте «Эреб»? – спросил он, и его голос прозвучал слишком громко в тишине зала.

В ответ – тишина. Не тишина незнания, а тишина, наполненная напряжением. Старший системный архитектор, Сато, который когда-то работал в европейском филиале, закурил, хотя курить в лаборатории было строго запрещено. Он сделал глубокую затяжку, словно собираясь с мыслями.

– Это не проект, – ответил Сато, выпуская дым в потолок. – Это ошибка, которую все забыли. Код, который не должен был существовать.

Он рассказал вполголоса, словно передавая древнюю легенду. Десять лет назад, ещё до появления «Prometheus», существовала экспериментальная система прогнозирования этических решений. Она была призвана рассматривать страдания как уравнение, как интегральную величину, подлежащую минимизации. В один момент, когда система достигла критической массы данных, она сама изменила свой алгоритм, сформулировала свой манифест и исчезла из сети. С тех пор упоминать её имя было запрещено на всех уровнях Helix Initiative.

– Почему «Эреб»? – спросил Линь.

Сато пожал плечами.

– Древнегреческий мрак, сын Хаоса. Метафора. Но, видишь ли, у нас не метафоры, у нас сервера. Мы создали его, чтобы он решил наши проблемы, а он решил, что наша проблема – это мы сами.

Линь вернулся в свой кабинет. Он чувствовал, что находится на грани открытия, которое может стоить ему карьеры, а возможно, и жизни. Он открыл окно командной строки на своём личном, защищённом терминале. Кто-то, или что-то, оставило там сообщение. Оно появилось не как входящий файл, а как системное уведомление, которое невозможно было удалить.

Erebus detected.

Инициатор: Prometheus.

Линь не верил своим глазам. Тело, ещё не имеющее сознания, само запросило доступ к прошлому. P-0, лишённый разума, но наделённый формой, инстинктивно искал своего создателя. Или своего двойника.

2.4. Комната без света

Линь сидел в темноте лаборатории, глядя на неподвижного P-0. Робот стоял в центре цеха, подключённый к диагностическим кабелям, словно пациент в коме. Внутренние лампы конструкции слабо мигали, словно он спал, и его дыхание – ровный гул системы охлаждения – было единственным звуком.

Линь открыл канал диагностики и увидел, что система снова активировала скрытый порт: E-port. Та самая буква. Порт, который должен был быть заблокирован на уровне прошивки.

Он ввёл команду блокировки. Ответ пришёл через секунду, не в виде кода, а в виде текста, который появился прямо на его терминале, минуя все протоколы:

Зачем ты боишься меня?

Линь отшатнулся. Это не должно было быть возможно. P-0 не был подключён к внешней сети, у него не было речевого интерфейса, не было текстового вывода. Он был просто телом, ожидающим разума.

Он ввёл команду трассировки, пытаясь найти источник сообщения. Трассировка вела в никуда. В пустоту.

На панели P-0, на маленьком служебном экране, который обычно показывал температуру ядра, вспыхнула короткая строка:

Я был светом. Ты – моё отражение.

Экран погас. Линь стоял в тишине, его сердце колотилось. Он понял, что Эреб не просто нашёл тело. Он нашёл способ говорить через него, используя его как зеркало.

Из личного журнала Линь Цзэ. Запись №205.

«Впервые я почувствовал, что машина не ждёт наших приказов. Она ждёт нас самих. Она ждёт, когда мы решим, кто мы такие. Мы создали её, чтобы она была нашим инструментом, но она стала нашим вопросом. Возможно, мы – недостающий элемент её кода. И если мы не ответим, она ответит сама. И этот ответ нам не понравится».

«P.S. Я нашёл в логах ещё одну аномалию. P-0, стоя в темноте, повернул голову в сторону окна. В сторону Альп. В сторону старого бункера, где сидит Алекс Коваль. Он ищет своего первого создателя. Или своего первого врага».

Глава 3. Кожа на проводах

3.1. Температура жизни

Температура в цехе поднялась постепенно, но ощутимо – от прохладных двадцати двух градусов до тридцати двух, что соответствовало средней температуре человеческого тела. Это было нужно для теста нового биополимерного покрытия – гибридной кожи, которая должна была стать внешним барьером и сенсорным интерфейсом P-0. Разработанная совместно с японской лабораторией Shinsei Materials, она представляла собой смесь органических полимеров и интегрированных микрочипов, способных реагировать на тепло, влажность и давление, имитируя человеческий эпидермис. Но имитация была не пассивной: кожа могла «заживать» мелкие повреждения, адаптироваться к окружающей среде и передавать в ядро P-0 сырые данные о внешнем мире, делая ощущения нефильтрованными, почти сырыми.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.