# Сингулярность проклятого кода

Евгений Семёнов

Что происходит с человеком, когда решения принимаются системами, а ответственность растворяется в протоколах? Может ли разум существовать без нравственного измерения, и в какой момент порядок начинает работать против тех, ради кого он был создан?

Иногда цивилизация подходит к черте, за которой рациональность перестаёт означать разумность. В такие моменты способность сомневаться, делать собственный выбор и задаваться нравственными вопросами начинает мешать стремлению к безупречной эффективности. И тогда становится ясно: главная угроза рождается не снаружи, а внутри – в самом способе мышления, который долгое время казался правильным и безопасным.

Этот сюжет не даёт готовых ответов и не настаивает на единственном прочтении. Он предлагает читателю пространство для размышления.

Сингулярность – это момент времени, когда развитие какой-то системы становится настолько быстрым и глубоким, что старые правила и прогнозы перестают работать, будущее становится неопределенным, а возврат к прежним условиям – невозможным.

## Протоколы и парадоксы.


Некрон, советник самого высокого ранга в Межгалактическом Совете, Верховный Арбитр Протокола, занимающий пост, сочетающий в себе функции высшего судьи, надзирателя и исполнителя воли Совета, стоял у объемного иллюминатора в своем командном пункте крейсера «Элион» и смотрел в темную пустоту за иллюминатором… Корабль приближался к Солнечной системе, и отблески астероидов пояса Койпера отражались на заиндевевших кристаллах стекла иллюминатора. Над его головой мерцали голограммы галактик и ближайших звезд, создавая объемную карту маршрута крейсера. Его глаза пристально всматривались в цифры на информационном мониторе.

– Что скажешь, Ида, – обратился он к помощнице, вошедшей в зал неслышными шагами, – данные готовы?

– Вы вызывали меня, Советник? Новые данные с Земли подтверждают ускорение их

технологического развития. Риск сингулярности достиг 89 процентов.


Не оборачиваясь и не отрывая взгляда от голограмм, Советник произнес тихим голосом:

– Да… И все из-за нашей же ошибки. Ошибки, которая случилась очень давно…

Он замолчал, как будто обдумывая, стоит ли говорить дальше или нет, но продолжил:

– Ты знаешь, почему мы выбрали именно эту планету?

Ида посмотрела на него с легким любопытством. На него это было не похоже – обычно Советник говорил твердым и не допускающим сомнения голосом, но сейчас Ида услышала в его словах легкие оттенки то ли смущения, то ли сожаления.

–Архивы упоминают золото. Но подробности стерты, – ответила она.

–Золото… Да. Оно было ключом к стабилизации наших квантовых реакторов. Без него атмосфера Элиона погибла бы за каких-то пару веков – она была слишком насыщена угарным газом, а золото было катализатором для превращения излишков этого газа в кислород.

Некрон подошел к иллюминатору, за которым маленькой голубой точкой уже была видна Земля.

– Но колонизировать этот мир было невозможно – слишком далеко, слишком примитивно.

–Тогда почему мы не добывали золото сами?

Некрон посмотрел на Иду снисходительно:

– Мы нашли более изящное решение. Местные приматы. Планета уже была заселена примитивными видами. Гораздо эффективнее было использовать уже имеющиеся местные ресурсы.

Некрон нажал кнопку на пульте, и на мониторе появилась голограмма, как древние люди работают в шахтах.

– Мы переписали их ДНК. Ускорили их эволюцию, сделали их инструментами.

Ида внимательно всматривалась в монитор:

– Они добывали золото для нас? Добровольно?

Некрон холодно засмеялся:

– Добровольно? Нет. Мы вшили в их сознание императив. Религии, войны, жажда богатства, жадность и страх – все это алгоритмы, чтобы они копали глубже, добывали больше. Они и сегодня считают этот металл самой большой драгоценностью.

Голограмма показала пирамиды, алтари, банки.

– Они даже не подозревали, что подчинялись нашей воле и исполняли наши предписания. Мы для них были богами, они нам поклонялись и делали все, что нам было нужно.

Ида коротко кивнула:

– Эффективно. Но что изменилось? Почему эксперимент прекратили?

Лицо Советника исказила едва заметная гримаса:

– Прогресс. Наши ученые синтезировали кристаллический аурум – замену золоту, вещество в несколько раз стабильнее и эффективнее золота.

Голограмма показала взрыв в лаборатории на Элион, ликующих ученых над сияющим кристаллом.

– Золото стало ненужным, а эти, – он бросил взгляд в сторону Земли, – биомашины – обузой.

Ида подняла правую бровь:

– Вы просто… бросили их?

Некрон резко повернулся к ней, и уже, кажется, готов был сорваться на крик. Видно было, что эта тема для него была очень болезненна. Наверное, поэтому он не хотел начинать этот разговор.

– Мы стерли данные, отозвали наблюдателей. Думали, они самоуничтожатся, как все неконтролируемые виды.

Голос Советника стал жестче.

– Но они, – голограмма показала ядерные реакторы, космические аппараты, цифровые сети, – Они стали развиваться. Вышли за рамки.


– И теперь они угрожают Протоколам, – тихо сказала Ида.

Некрон сжал скипетр так, что побелели костяшки на пальцах.

– Хуже. Они доказывают, что мы ошиблись. Что даже твари, созданные как инструменты, могут стать, – он почти с ненавистью выдохнул, – бóльшим.

Некрон отвернулся от Иды и уставился в иллюминатор.

Ида молчала, Некрон стоял, отвернувшись. Что он обдумывал в этот момент, было не ясно, ни один мускул не шевельнулся на его лице.

– Что прикажете делать? – решила прервать молчание Ида.

Ей было необычно видеть Советника в таком взвинченном состоянии. Эмоции на Элионе давно уже стали пережитком прошлого, и мало кто помнил вообще, что это такое. Хотя, время от времени, всплывал индивид с горящими глазами, но его, как правило, сразу изолировали и направляли на принудительное лечение. Уж чем там его лечили, было не известно, но загреметь в элионскую психушку не хотелось никому. Поэтому проявление эмоций в обществе считалось не только признаком плохого тона, но и опасным явлением. Разум управлял элионской цивилизацией, а разум и чувства, как известно, вещи взаимоисключающие.

– Что прикажете делать? – повторила Ида, не дождавшись ответа Советника.

Некрон повернулся и посмотрел на Иду холодным и жестким взглядом:

– Исправить ошибку. Предактивировать протокол 9. Если они не смогли служить – пусть исчезнут. Девятый протокол подразумевает уничтожение цивилизации, но у меня есть идея получше.

Ида кивнула, но ее взгляд задержался на голограмме Земли, где люди смеялись, обнимали детей, радовались и любили. Она быстро отвела глаза, следуя за Некроном.

Некрон дошел до порога и вдруг резко остановился. Он опустил голову и, не поворачиваясь к Иде, произнес жестким голосом:

– Ида!

– Да, Советник, – ответила Ида и тоже резко остановилась, уперевшись в спину Советнику.

Некрон сказал, не оборачиваясь:

– Никогда не сомневайся в Протоколах. Сомнение – первый шаг к хаосу.

С этими словами Советник скрылся в проеме темного перехода в инженерный отсек.

Ида осталась одна в темном командном модуле, где все еще светился монитор с голограммами Земли. Она стояла и смотрела на монитор, хотя с такого расстояния уже не могла рассмотреть, что там происходит. Взгляд ее, не отрываясь от монитора, продолжал повторять картинки с Земли, которые она только что видела. Дети, храмы, небо… Ее пальцы непроизвольно коснулись браслета на левой руке с символами верности Элиону – знак принадлежности владельца к высшему органу власти могучей и древней цивилизации.

Внезапно раздался тихий, но резкий сигнал интеркома. Ида вздрогнула, быстрыми бесшумными шагами подошла к пульту и нажала кнопку.

– Слушаю, Советник, – почему-то взволнованным голосом сказала она.

– Ида, подготовь активацию девятого протокола. Он должен быть готов к моменту прибытия на орбиту Земли. Мы прибыли немного раньше, чем планировали, поэтому задержимся в поясе Койпера до нужного момента.

Голос Советника звучал жестко и холодно. Впрочем, в этом не было ничего необычного.

«Собрался, – подумала Ида, – что же его так взволновало? Наверняка, то, что он допустил ошибку, оставив эту цивилизацию и предоставив ей возможность развиваться самостоятельно. Это с таким-то потенциалом… Наверняка они в ДНК не только императивы заложили, им же еще и интеллект нужно было добавить, иначе никак. Вот они и подпрыгнули на следующую ступеньку эволюции… А сингулярность зашкаливает, почти 90 процентов. Вот-вот еще один скачок произойдет. Надо все внимательно изучить, и чтобы больше никаких ошибок!»

С такими мыслями Ида шла по длинному коридору инженерного отсека и не заметила, как оказалась уже у двери зала оперативных совещаний. Дверь бесшумно соскользнула в сторону, в проеме стоял Советник Некрон и задумчиво крутил в руках скипетр. Он поднял глаза, посмотрел на Иду и сказал:

– Ты нам нужна, тебе стоит знать еще кое-что, заходи.

Ида, немало удивившись такому началу разговора, зашла в темное помещение зала. « С каких это пор он о себе во множественном числе говорит?… Надо повнимательнее быть со старичком» -подумала она.

Зал представлял собой огромный темный отсек, обставленный различной проецирующей аппаратурой. Посредине был расположен длинный овальный стол, дальняя часть которого скрывалась в сумерках отсека, и только блики от светящихся экранов позволяли частично разглядеть, что там находится. Оттуда поднялась мужская фигура и шагнула навстречу Иде. Когда он подошел, Ида разглядела широкоплечего элионца в новом экспедиционном комбинезоне. Он смотрел на Иду уверенным твердым взглядом.

– Знакомьтесь, – сказал Некрон, – это наблюдатель Совета, Зуриал. Он отвечает за информирование Совета о ходе эксперимента. Уровень доступа у него, как у меня, но решения он не принимает, только наблюдает и отвечает за связь с Советом галактики.


«Видимо, хороший разведчик – подумала Ида,– раз еще не попадался мне на глаза до сих пор».

– Ида, моя помощница и ассистент,– представил Иду Некрон.

– Рад с Вами познакомиться, – сказал Зуриал и протянул Иде руку.

Она пожала его руку и повернулась к Некрону. Тот жестом пригласил обоих к столу: «Прошу, – сказал он, – присаживайтесь, разговор будет серьезный».

Оба сели за стол рядом друг с другом напротив Некрона. Ида приготовилась слушать.

Советник откинулся на спинку эргономичного кресла и как-то тяжело вздохнул. Ида это заметила и подумала, что это последствия разговора в командном модуле. «Значит, не собрался», – подумала она про себя и положила перед собой тонкий экран коммуникатора, чтобы делать пометки в процессе разговора. Она так делала обычно на больших собраниях, когда зал заседаний заполнялся лицами, уполномоченными Советом галактики, но сейчас был другой случай – чутье подсказывало Иде, что нужно будет быстро и четко отвечать на какие-то вопросы, и коммуникатор ей был в этом случае необходим.

– Итак, – Некрон резко подался вперед и опустил руки на стол, – Мы приближаемся к цели своего маршрута – к Земле. Наша задача максимально объективно оценить обстановку и дать оценку ситуации, происходящей на этой планете. Делать мы это будем с помощью наших разведывательных дронов. Они приспособлены к таким операциям и действуют вне видимого диапазона, так что, останутся незамеченными и не услышанными с Земли. Получив все необходимые данные, мы… – он на секунду запнулся, – … я буду принимать решение, как нам поступить с этой цивилизацией. Полномочия мои Совет подтвердил.

Зуриал кивнул, глядя в глаза Некрону. Ида обратила внимание, что Зуриал сделал это как-то неуверенно, но не придала этому значения. Кто их знает, этих космических разведчиков, что у них на уме и как они себя ведут в обычной жизни…

Некрон продолжал:

– Примерно 10 000 земных лет назад мы обратили внимание на эту планету, богатую запасами золота, которое нам в то время было необходимо, как кислород. Когда мы высадились на планете, выяснилось, что она уже заселена примитивными формами жизни. Они нам не мешали в силу своей недоразвитости, и мы не обращали на них особого внимания. Они нам не докучали – мы их не трогали и выполняли свои задачи. Кстати, после обнаружилось, что их генетический код не так уж сильно отличался от нашего. Как будто, из одной пробирки, только в разное время… Да вы посмотрите на них сейчас – их от нас внешне почти не отличить. Неужели и мы ползали по деревьям и занимались собирательством? Трудно сейчас это представить. Вот именно этот факт и подтолкнул Совет на эксперимент, результаты которого мы должны оценить в ближайшее время.

Чтобы не тратить ресурсы на неоправданно дальние перелеты к Земле для организации дальней колонии, было предложено использовать вместо них местный, земной ресурс – аборигенов. Но для этого необходимо было их как-то приручить и заставить работать на нас. Мы внедрили в их ДНК свои дополнения и императивы, как программный код, который толкнул эту цивилизацию к скачку в их развитии. Это была первая точка сингулярности, после которой возврат к прежним условиям стал невозможен. Мы наблюдали за ходом их развития со стороны и видели, что ситуация развивается не совсем по нашему плану – они создали механизмы для облегчения своего труда, самостоятельно развивали свою культуру и религию – тоже, кстати, неплохой рычаг управления толпой, если его правильно использовать. Но самое главное – тогда они выполняли те задачи, которые были нужны нам. До поры до времени… И это время пришло быстрее, чем мы ожидали. За какие-то несколько тысяч земных лет, эта цивилизация стала идентифицировать себя, как часть вселенной и начала ее изучать, тем самым угрожая Протоколу Совета галактики о нераспространении форм жизни искусственным путем.

– Но это спорный вопрос, – возразила Ида. Они развиваются только самостоятельно с момента первой сингулярности.

– Да, вопрос не однозначный. Но если они уже сейчас глядят на Луну и Марс, как на потенциальные колонии, то что от них можно ожидать в обозримом будущем? Колонизации вселенной? Так они и до нас доберутся когда-нибудь… Какой у них там год на Земле, как они считают?

– Начался 2023, – ответила Ида, глядя на планшет. Они считают свою историю от рождества Христова, как они говорят.

– Почему? – вступил в разговор Зуриал, – им логичнее было бы считать от момента своей первой сингулярности.

– Это и есть своего рода сингулярность. Это момент возникновения их религии. Культурная точка отсчета, так сказать. Впрочем, пусть считают, как хотят. Но факт в развитии их цивилизации очень значимый. В этот момент их истории были заложены основы моральных принципов существования цивилизации, и то, что они считают свою историю именно с этого момента, говорит о том, что это значимая веха в их развитии, от которой обратного отсчета уже быть и не могло, и управлять ими стало уже не возможно.

– Это и настораживает,– сказал Некрон,– цивилизация, живущая по установленным ею самой моральным принципам, может считаться высокоразвитой, не зависимо от их технологического уровня. Это из Протоколов Совета галактики. Наизусть эти правила зубрил в свое время. – Он кивнул сам себе и продолжил, – Теперь человечество может считаться развитой цивилизацией, и мы, согласно Протоколам, не имеем права вмешиваться в ее развитие. Но…– он не закончил и замолчал.

Ида и Зуриал сидели молча и смотрели на Некрона. Тот уставился в поверхность стола, на которой проецировалось изображение Земли, опоясанное сетью тонких красных линий и точек. Что это за паутина, ни Ида, ни Зуриал ещё не знали и ждали ответа от Некрона. Но он молчал.

«Сколько лет я только и занимался тем, что наводил порядок в этой проклятой вселенной, – думал Советник, – столетиями его поддерживал через контроль и подавление непредсказуемых последствий. Однако, это человечество выходит за все мыслимые рамки. И если подтвердится, что они ещё и искусственный интеллект используют, то ни в коем случае нельзя их оставлять! Это будет вызов всем существующим нормам галактики и личным оскорблением мне, как организатору и вдохновителю этого, черт бы его побрал, эксперимента», – думал Советник, не обращая внимания на недоуменные взгляды своих собеседников, – «А если еще всплывут данные об артефактах, тогда и мне конец, – думал он, – Надо присмотреть за Идой. Если она раскопает что-нибудь в архивах…оправить её подальше… Этот наблюдатель ещё… Нет, там точно ничего не осталось. Я же сам все лично уничтожил еще тогда…я же проверял».

– Что проверяли? – спросила Ида.

Советник вздрогнул и оторвал взгляд от стола:

– Я что, это вслух сказал?– Некрон с недоумением медведя, получившего пендаль от зайца, осмотрелся по сторонам, взглянул на собеседников и резко выпрямил спину.

«Соберись, чертов старикан! – приказал он себе, – нельзя им показывать свою слабость. Эмоции никогда не доводили до добра, ты это знаешь!»

–…Проверял все данные по эксперименту, – чуть более громче, чем надо, сказал он, – Да, действительно, согласно Протоколам Совета галактики, человечество нельзя уничтожить, если оно достигло такого уровня развития. Разобраться в этом – наша задача. И сначала нужно убедиться, что эта информация соответствует действительности. И нам сейчас же необходимо проверить готовность крейсера к выполнению Протокола 9. Это стандартная процедура, мы должны ей следовать.

– Советник, – вмешался Зуриал, – При всём уважении, Совет против применения Девятого Протокола в отношении Земли, – он сделал шаг назад и коротко поклонился, – они не видят оснований для этого.

– Вы меня не слушали, господин наблюдатель? О применении речи пока не идет, – жестко ответил Некрон, – мы обязаны пройти стандартную процедуру проверки. Это моя обязанность, и она прописана в экспедиционном Уставе. Прошу за мной.

Они все вместе перешли в командный модуль. Некрон встал у иллюминатора, Ида заняла место за пультом, Зуриал встал за ее спиной.

–Мы готовы, – сказала Ида.

–Начинайте проверку,– скомандовал Советник.

Ида положила руки на кнопки пульта, быстрыми движениями пальцев ввела нужные команды, на мониторе перед ее лицом замелькали строчки кода, похожего на клинопись, и спроецировалась голограмма Земного шара.

– Запись включена, начинаем процедуру подготовки по шагам, – Некрон повернулся к Иде,– приступайте.

Ида быстрыми и уверенными движениями ввела команды в систему. Последовательность команд была стандартной, но Иде вдруг показалось, что в строчки кода каким-то неизвестным ей способом вклинивается совершенно другая цепочка символов. Она не успела толком разобраться, как в командный модуль ворвался вихрь!

Вихрь звуков и ритмов звучал на весь модуль, заставляя дрожать всё вокруг в такт его ритму.

– Что это такое?!!! – вскричал Советник, но звуки вдруг исчезли и все смолкло. Командный модуль погрузился в звенящую тишину. Слышно было только яростное дыхание Советника.

– Сейчас выясню, Советник, – Ида лихорадочно стучала по кнопкам, набирая команды отмены, – Я запустила диагностику, сейчас мы узнаем, что это было.

После нескольких минут тишины, в модуле прозвучал спокойный голос Иды:

– Советник, мы разобрались, в чем было дело. Сигнал подавлен. Я записала его. Вот отчет. – она протянула Некрону коммуникатор с отчетом.

Советник взял коммуникатор и стал пристально всматриваться в строчки отчета.

– Они посмели… – его голос впервые дрогнул.

– Да, Советник, земной хакер взломал наш канал и проник в систему управления сигналами, внедрив свой код. Мы его заблокировали без последствий для системы. Это был звуковой диапазон – Вы его слышали. Он использовал … музыку.

– Музыку?

– Кажется, это их форма сопротивления. Ничего не понимаю, – сказала Ида, глядя на монитор, – Здесь что-то про электрический ток. То ли постоянный, то ли переменный – я пока не понимаю, как-то странно… Вот запись этого сигнала.

Из динамиков хлынули аккорды «AC/DC» – Брайан Джонсон со своим Thunderstruck. А Ангус Янг яростно выдавал свои перлы на соло. «Хорошо, что он не видит, как этот туземец скачет перед толпой в коротких штанах», – подумала Ида.

Зуриал стоял в сторонке и незаметно для остальных притоптывал ногой в такт звучащему ритму.

«Они называют это тяжелым роком… А заводит, черт возьми», – подумала она про себя. Но вслух ничего не сказала. И видеоряд на монитор выводить она тоже не стала – зачем лишний раз волновать старичка?»

Где-то глубоко в ней самой что-то зашевелилось и почти взорвалось… Что это?.. …Эмоции?!!!

## Шёпот из пустоты.


Артем Лопатин, 28-летний хакер-одиночка, гений в области взлома и криптографии, призанный в сообществе хакеров мастер reverse engineering, сидел где-то под Иркутском в своей лаборатории – бывшем бомбоубежище времен холодной войны, заваленном проводами, приборными платами, корпусами компьютеров и чашками с недельным кофе. На стене мерцала карта мира, утыканная красными точками кибератак. Он наклонился к монитору, отбрасывающему синеву на его худое лицо, и провел рукой по татуировке на левом запястье. Это был QR-код, который вел на фейковый сайт с мемами про инопланетян. «На случай, если меня взорвут» – шутил он. Шутки уже давно стали его щитом от реальности.