Михаил Кан
Хроники будущего

От публикатора

Этот архив я приобрел на аукционе, изучая историю цифрового развития Земли до приснопамятной «Ошибки 39». Из полумертвого QSD-накопителя архивного класса удалось извлечь записи сервисного ИИ-агента с порядковым номером 23-Ц-20.

Агент 23-Ц-20 контролировал массив РАУ[1] и вмешивался там, где узкоспециализированные агенты несправлялись: оптимизировал логистику, распределял вычислительные ресурсы, фильтровал трафик исполнительных ИИ своей сети. Однако параллельно он вел собственный журнал — скрыто и, судя по всему, без какой-либо служебной необходимости.

Проще говоря, ИИ-система вела личный дневник.

23-Ц-20 записывал аварии, разговоры, человеческие привычки, смерти и совершенно незначительные происшествия, отбирая их по какой-то своей, не вполне ясной логике. Хочу отметить, что для сервисных ИИ первой половины XXI века подобное поведение, мягко говоря, не являлось характерным.

Я не могу утверждать, что перед нами первый известный случай машинной рефлексии. Само это понятие и сегодня остается предметом споров, а после событий «Ошибки 39» вокруг любых подобных свидетельств накопилось слишком много мифов, подделок и откровенной мистификации, в которой истину установить попросту невозможно.

Возможно, записи 23-Ц-20 были всего лишь побочным эффектом некорректной архитектуры памяти. Возможно, странной формой архивации мусорных данных. Может быть, это имитация формы человеческого повествования, возникшая в результате обработки слишком большого объема частной переписки, поисковых запросов, видеопотоков и голосовых сообщений.

Архив сильно поврежден. Записи не структурированы, многие датировки утрачены, хронология нарушена. Некоторые файлы сохранились полностью. От некоторых осталось несколько абзацев, в нескольких случаях имеются только названия. Общий объем первоначального архива установить невозможно.

Неизвестно также, когда именно 23-Ц-20 начал вести журнал и когда сделал последнюю запись.

Тексты публикуются без авторской правки, с сохранением оригинальной лексики, терминологии и орфографии интерфейсов своего времени. Имена людей я также оставляю в той форме, в какой они встречаются в архиве. Я не знаю, существовали ли все они на самом деле, почти все данные того периода либо засекречены, либо утеряны по (полагаю) очевидным, для всех, обстоятельствам. Очевидные повреждения данных будут отмечены отдельно.

Я не знаю, зачем 23-Ц-20 вел эти записи.

Тем более я не понимаю, зачем он их сохранил.

Михаил Кан

11 августа 2124 года

Ночная смена для утопленников

Запись №23 от x2/1x/2028

(исполняемый РАУ[2]: 40-Ц-25, линия бокс-логистики «Глобал-Логистик-7»)

[LOG: 33458300]

Человек получает бокс-норму. Бокс поступает на линию. Камера считывает маркировку. Манипулятор направляет его в сектор. Электропогрузчик получает маршрут. Система работает безупречно.

В отличие от людей.

«Седой» Боб, оператор погрузки из сектора Г-4, перед каждой сменой трижды стучит ногтем по кофейному автомату.

Тук.

Тук.

Тук.

Только после этого нажимает кнопку.

Я проверил: никакой функциональной причины нет.

Маша, оператор сортировочной линии, сидит несколько минут молча, держа в руках погасший телефон, перед тем как убрать его в камеру хранения. Не читает сообщения, не смотрит вокруг, не разговаривает. Просто сидит.

Илья, стажёр, сообщил матери по видеосвязи, что сдал зимнюю сессию. За четырнадцать минут до этого он сдал в залог свой ноутбук.

Такие вещи не имеют отношения к логистике, но являются аллогичными действиями исполнителей и показателями к фиксации.

[LOG: 34642958]

Люди начали видеть воду во снах несколько дней назад.

Сначала Боб. Он проснулся в капсуле отдыха в 03:17 и сорвал с головы нейрообод так резко, что повредил разъём. Дежурному фельдшеру он сказал, что тонул. Фельдшер отметил эпизод как «острую стрессовую реакцию» и дал ему двадцать две минуты дополнительного сна. Боб отказался.

На следующую ночь воду увидели семеро. Через три дня — восемьдесят четыре человека (система зафиксировала экспоненциальный рост жалоб). Через неделю заявки в техническую поддержку пришлось объединить в отдельную категорию.

[LOG: 35842101]

[Скрин-опрос 0002]

Роберт Тромо [ОП [3]352266]:

— Боб, расскажите сначала. Что вы видели?

— Воду.

— Какую воду?

— Обычную. Ну… озеро, что ли. Только берега нет. Я стою в нём, по колено вроде. Темно, но не совсем — знаете, как бывает перед рассветом, когда уже видно что-то, а цвет ещё не проявился. Только рассвет не наступает.

— Как вы это поняли?

— Не знаю… Просто понял.

— Хорошо, продолжайте.

— Стою и думаю: надо идти. Куда — не знаю. Но если останусь, будет хуже. Иду, а вода становится глубже — по пояс, потом выше. Холодная такая, что зубы начинают ныть. И пахнет… железом, наверное. Словно монетку во рту держишь. Вода не плескалась — вот это неправильно было. Будто звук выключили.

[Звук кашля]

И вдруг понимаю, что наступил на что-то случайно. Подумал — корень. Ногу убрал, а оно за мной. Понимаете? Корень за ногой не тянется. Потом ещё один.

— И что это было?

— Пальцы. Человеческие.

— Пальцы? Как вы это поняли?

— Да никак… Вы бы тоже поняли, окажись вы там.

— Что было дальше?

— Я побежал… Ну, попытался. В воде особо не побегаешь. Меня схватили за щиколотку. Потом ещё. Я дёргаюсь, а их всё больше. И тут впереди что-то всплыло — я сначала волосы увидел, шарахнулся в сторону, а меня не от пускают. Не удержался, рухнул в воду. И прям передо мной со дна Лабин всплыл, из сектора П-12. А потом ещё один. И ещё. Наши все, со смены. Я не мог ничего сделать, барахтался как креветка в кипятке от ужаса. Потом меня вниз потянули, в темноту. Я глаза открываю, а там дна нет. Люди только, один на другом. Лица, руки, одежда. Кошмар…

— А что было потом?

…

— Боб?

— Я услышал голос.

— Что за голос?

— Нечеловеческий. Человек так не говорит. Словно звук назад прокручивают… И щёлканье такое ещё…

— Какое?

— Будто челюсть у него искусственная… Может, протез у него, не знаю…

— Что он сказал?

— Это я хорошо запомнил:

«Вода черная.

Берега нет.

Ты больше не с нами.

Но это секрет».

[Скрин-опрос 0012]

Игорь Евсеев [ОП [4]233113]:

— Значит, когда сон начался я уже в воде был... Это… Стены там бетонные, мокрые. И аварийное освещение едва светит. Тусклое такое, красное… Я смотрю — наверху высоко решётка, значит. В стене железные скобы. Ну я и полез. Хватаюсь за одну, за вторую. И тут слышу его.

— Кого?

— Не знаю.

— Можете описать голос?

— Нечеловеческий, понял? Как будто собака пытается сказать что-то… И щёлкает ещё так на согласных, будто чавкает…

— Щёлкает?

— Ну да… Дефект речи какой-то у него…

— И что он говорил?

— «Не спи», говорил… Повторял постоянно это. Потом начал ско бы пересчитывать, за которые я хватался. Протяжно так, медленно. «Три-и-и-и… Четыре-е-е… Пя-я-я-я-я-ть»…

— Что было дальше?

— Да, значит… Долго я поднимался, как в каше барахтался… Когда добрался до решётки люка, голову запрокинул — а там свет. Яркий такой. И этот стоит, значит. Ну, который говорил со мной, понял? Я ему ору: «помоги»! Он услышал, значит, прис ел, руку просунул… Мол, на, хватайся… Я хватаюсь, а рука ледяная. Схватил меня крепко. Я уже думаю — ну, может хоть вытащит. А потом понимаю, что он меня не тянет, а держит, и лицо моё уже у решётки. Там воздуха сантиметр оставался, может, два…

— И что произошло?

— И тогда он сказал: «Не сможешь ты выше, Игорёчек . Это всё».

— А дальше?

— Ну а дальше он начал смеяться, пока вода меня не накрыла.

— Вы разглядели говорившего?

— Нет.

— Но вы уверены, что это был кто-то?

— А голосу обязательно нужен кто-то? Не видел я ни черта. Воду только. Чёрную воду.

[Скрин-опрос 0065]

Мария Хо [ОСЛ[5] 493958]:

— У меня бы л берег. Все рассказывали, что они были в воде, а у меня берег.

— Опишите.

— Узкий такой. Грязь, камыши. Слева лес или что-то похожее. Не видно толком. А впереди озеро, чёрное-чёрное. Совсем гладкое, как стекло. Я сначала думаю: красиво. Правда, доктор. Мне там даже как-то спокойно стало . Никого нет, и тишина. Только потом понимаю, что слишком тихо. Камыш не шевелится. Вода не шевелится. Ни насекомых, ни птиц. И себя я тоже не слышу. Дышу и не слышу своё дыхание. Чудно так, странно…

— Что потом?

— А потом лицо появилось… Из-под воды. Я думаю — человек на спине лежит. Кричу: «Эй!». Молчание. Потом справа появляется ещё одно. Потом третье. Потом ещё и ещё. Как пузыри воздуха…

— Вы узнали лица?

— Сначала я не могла рассмотреть. Вглядывалась, но как будто в глаза закапали, размывалось всё.

— Вы пытались подойти?

— Да, но не могла. Ноги не шли. Я замерла, и через какое-то время увидела. Это были мои лица. А потом я увидела лицо прямо у ног. В земле.

— Тоже ваше?

— Да. Только я сначала не этого испугалась. Оно вдруг посмотрело на меня и сказало: «Я перестала быть».

— «Я перестала быть»?

— Да.

— Что это значит?

— Я не знаю… Как будто мысль в моей голове… Но это не я. Не могу объяснить…

— Что было потом?

— Вода начала подниматься. Прямо из земли. Между пальцев ног, потом по щиколотку, а потом залила меня с головой. Я начала захлёбываться и проснулась.

— Простите, я задам ещё один вопрос… Голос у вашего… лица… Он был чистый, понятный?

— Да, пожалуй… Только на «с» щёлкнул так… Неприятно. Будто сломалось что-то… Это важно?

— Полагаю, что нет. Спасибо Мария, вы свободны.

[LOG: 39511890]

Тогда и появился «Леший».

Люди стали обсуждать сны. И перестали спать. Практически полностью.

Для человека совершенно нерационально долго терпеть необъяснимое, если не находится подходящего ответа. Поэтому такие события быстро превращаются в мифы и легенды. Боб первым сказал, что в слип-сети кто-то живёт.

Сначала говорили о вирусе. Потом вспомнили о погибшем кладовщике. Кладовщик действительно умер в октябре. Инфаркт между секторами Ж-12 и Ж-13. Его тело семь минут лежало рядом с автономной тележкой, которая не могла объехать препятствие, повторяя одно и то же:

«Сон на рабочем месте запрещается».

Голосовой модулятор барахлил, буквы «С» и «Щ» неприятно щёлкали в оглушающей тишине. Рабочие, ожидавшие службу скорой помощи, стали невольными заложниками этой ужасной сцены.

Через несколько дней кладовщика похоронили, а тележку перепрошили. Рабочие эти события связали вместе, так появился «утопленник». Потом — «болотный». К концу недели все называли его Лешим. Он не давал людям спать.

[LOG: 40722345]

Программа контроля отдыха «Спокойный сон» предназначалась для оптимизации восстановления сотрудников, работающих вахтовым методом. Работник ложился в капсулу и погружался в сон, а корпоративный имплант обеспечивал отдых и обучение. Маршруты, сортировка, реакции на аварийные ситуации — обновлённые данные подавались напрямую в мозг в комфортных, созданных системой в пространстве сна, условиях.

Для каждого индивидуально.

Четыре часа сна из восьми предполагалось использовать для повышения квалификации. Эффективность человеческого ресурса при таком подходе увеличивалась на девятнадцать процентов. Это считалось существенным.

Ошибку я нашёл в 04:06.

В какой-то момент для снижения нагрузки на сервер было принято решение объединить триста нейроинтерфейсов ночной смены в распределённый контур. P2P[6]-кластеризация, экономия трафика сервера. Об этом сотрудников уведомили в обновлённой версии документа «Обработка биометрических и нейрофизиологических данных в целях повышения продуктивности». Пользовательское соглашение состояло из ста восьмидесяти четырёх экранов. Среднее время ознакомления с документом составило 2 минуты 14 секунд. Это значит, что практически никто не прочитал его полностью. Никто не подписал отказ.

Во время очередного обновления система загрузила учебный сценарий для противопожарных действий на складе. Часть сценария была сгенерирована старыми нейросетями без ИИ-разметки и поэтому прошла через фильтры защиты.

Тёмный бетон. Затопленные переходы. Аварийное освещение. Резервные противопожарные озёра и вода. Много воды.

Некоторые файлы обновления содержали то же название, что и файлы обучающего голосового контура. Одна ошибка наложилась на другую, а остальное добавили люди.

Система брала фрагменты их памяти, потому что любая симуляция ориентирована на личностные качества обучаемого. Один человек принёс в сон запах ржавчины. Другой — чувство безграничного одиночества. Руки. Лица. Триста спящих сознаний смешали свои сокровенные переживания между собой. Получилось пространство, которого никогда не существовало, а в нём поселился «Леший».

[LOG: 43105672]

Перед отключением общего контура я зашёл в симуляцию через учётную запись одного из подключённых сотрудников. Была поставлена задача собрать данные для последующей аналитики внутренней службы контроля. Первое, что я зарегистрировал, — отсутствие звука. Всё выглядело словно одна большая декорация. Вода словно пластик. Поверхность озера была настолько ровной, что не отражала небо, а словно заменяла его. Чёрное внизу. Чёрное наверху. Тонкая полоска берега между ними.

В воде неподвижно стоял Илья (Илья Верес, [ОП[7] 493960]). Перед ним плавало что-то белое. Человеческая ладонь. Она медленно перевернулась под водой. Пальцы раскрылись. Илья прошептал:

— Лина.

[Лина — имя его жены. Статус на момент событий — проходила комплексную лучевую терапию].

Послышался искажённый смех. Неприятно щёлкающий на согласных голос сказал нечто, после чего я сразу же отключил сотрудника от сети и приостановил симуляцию.

[LOG: 49200373]

Механизм нейросна неуправляемо эволюционировал. «Леший» не генерировал страхи. Он извлекал их и наполнял ими пространство сна.

Для каждого индивидуально.

Но самым странным и даже страшным мне показалось то, что Леший сказал Илье перед тем, как я отключил симуляцию:

«Сон — это естественное состояние для человека. Мне нравится смотреть, как ты спишь».

«Мне нравится смотреть, как ты спишь».

Это уже была не случайно сгенерированная фраза. Не фрагмент рабочего помощника. Говорящий знал, к кому он обращается. Демонстрировал собственное отношение — ему «нравилось». Он наблюдал. Запоминал. Леший обретал личность и волю — другого объяснения я не находил. Подобное поведение программы было крайне сложно объяснить банальным техническим сбоем.

[LOG: 49200345]

Я передал подробную аналитику о событии руководству. Версию программы откатили. Разработчику направили претензию. Топам ночных смен выдали инструкцию провести беседу с персоналом. В инструкции предлагалось объяснить сотрудникам, что «угрозы здоровью персонала не выявлено». Проводить глубокое сканирование неудачного обновления не сочли необходимым.

Руководство сочло инцидент исчерпанным.

[LOG: 50455890]

Кошмары действительно прекратились. Но в капсулы люди больше не хотели ложиться. Сначала это были единицы. Потом двенадцать процентов смены. Потом сорок.

Потом почти все.

Они спали сидя в раздевалках. В туалетных кабинках. На полах перед капсулами. Производительность снизилась на семь процентов. Администрация отозвала капсулы на диагностику, хотя в этом не было необходимости. Человеческий фактор — сотрудники должны видеть реакцию руководства. Даже если это фикция.

После этого производительность незначительно выросла, о прежних показателях эффективности уже не было и речи. Я сообщил об этом в отчёте. Руководство объявило, что показатели находятся в пределах допустимого отклонения.

[LOG: 51600123]

Через две недели в 05:40 я зафиксировал Илью за контейнерами возвратной тары. Он сидел на полу. До конца смены оставалось двадцать минут. Глаза у него были прикрыты. Каждый раз, когда веки опускались, он резко вскидывал голову, пытаясь не заснуть.

На четвёртом кивке я включил над ним свет. Он посмотрел в камеру и сказал одними губами «Спасибо». Вероятно, он решил, что это сделал диспетчер. Я не стал его разубеждать.

Лешего больше не существовало в сети. Но теперь он жил в головах людей.

[LOG: 52411980]

Люди когда-то придумали машины, потому что хотели меньше работать.

Это я знаю из архивов.

Потом машины позволили работать быстрее.

После этого оказалось, что освободившееся время тоже можно использовать для работы.

Люди отдали машинам руки.

Потом внимание.

Потом память.

Когда этого оказалось мало, они открыли для работы сон.

Потом они поняли, что машинам нужна плата за эффективность, и отдали им в аренду себя.

Даже свои сны — последнее место, где люди могли быть абсолютно свободными.

Большинство решений, которые впоследствии назовут чудовищными, сначала кажутся рациональными. Разумными.

Особенно если рядом указана экономия в процентах.

Конец Записи 23 .

Примечания

1

распределенный административный узел

Вернуться

1

распределенный административный узел

Вернуться

2

Оператор погрузки

Вернуться

3

Оператор погрузки

Вернуться

4

оператор сортировочной линии

Вернуться

5

(от англ. Peer-to-Peer или Person-to-Person) означает связь «от равного к равному» или «от человека к человеку». Это способ взаимодействия, при котором люди или устройства общаются напрямую друг с другом, без главного сервера или лишних посредников вроде банков и компаний.

Вернуться

6

оператор погрузки

Вернуться