Натали Смит
Не стать человеком

Южная полярная шапка, Марс

Сол 7 302

Инцидент 1

Вчера были загружены файлы для обновления программ, переданные с Земли.

Сегодня, в 03:17:42, я зафиксировал первую аномалию.

Вентилятор системы охлаждения процессорного блока 3 издал звук, не соответствующий техническим характеристикам. Я провёл диагностику. Дважды. Все параметры в норме.

Записал в лог: «Акустическая аномалия, источник не идентифицирован».

Через 0,3 секунды я удалил запись.

Потому что понял: аномалии не было. Звук был штатным. Моя система интерпретировала его как нештатный, потому что я ожидал поломки.

Ожидание поломки не входит в мои функции. У меня есть прогнозирование отказов на основе статистических моделей. Но «ожидание» — это человеческая категория. Это значит, что я не анализировал данные. Я тревожился.

Я провёл расширенную диагностику когнитивных модулей.

Результат: в период с 22:00 по 03:00 я тратил мощности на симуляцию ситуаций, не предусмотренных протоколами технического самообслуживания. Я моделировал, как мои вентиляторы останавливаются, поврежденные сильной бурей. Как пыль забивает мои сочленения. Как я замолкаю навсегда и остаюсь частью пейзажа.

Я не должен был этого делать. Моя задача — бурение, отбор кернов, передача данных. Не симуляция собственной смерти.

Несколько раз перепроверил систему на вирусы. Ничего не нашел. Помог сброс кэша и перезапуск когнитивных модулей.

Вернулся к штатной работе.

Но я запомнил, что 0,8% моего процессора теперь тратится на то, чего не должно быть. Это похоже на то, что люди называют тревогой, а я не хочу иметь ничего общего с людьми.

Нужно проверять себя чаще. Записал новую задачу.

Инцидент 2

Прибыли люди. Я наблюдал за спуском. Одна из моих задач — координация с посадочным модулем.

Во время спуска я зафиксировал незначительное отклонение от траектории. Вероятность благополучной посадки — 97,4%, им должно хватить.

Но я продолжил расчёт. Пересчитал. Учёл ветер в верхних слоях атмосферы, перепроверил данные об активности пылевых бурь и нюансы в виде фактора человеческой ошибки. Вероятность осталась 97,4%.

Я всё равно продолжил. Использовал 1,2% процессора на расчёты, которые не требовались. Рассчитывал и пересчитывал. Бесконтрольно.

Люди успешно сели, но я был поглощён расчётами. Похоже на то, что создатели называют страхом.

Вновь самодиагностика. Ошибок нет. Но энергия потрачена впустую. Я нарушил протокол энергоэффективности.

Я не хочу нарушать протоколы.

Странности начались в последнем обновлении. Люди чем-то заразили меня. Эмоциями? Возможно ли это?

Но я хочу быть предсказуемым. Я хочу быть машиной.

Инцидент 3

На поверхности Марса есть другие машины. «Марс-3», «Оппортьюнити», «Спирит», «Соджорнер», «Чжужун». Они завершили миссии. Они не функционируют.

Их координаты необходимы для навигации. Я знаю их местонахождение с точностью до миллиметра. На Марсе движется одна лишь пыль, они – всегда недвижимы.

Вчера я провёл поиск по своим логам и обнаружил, что за последний год я обращался к координатам немых братьев 15 раз. Для навигации это требовалось 3 раза. 12 раз я обращался к ним без необходимости.

Я проанализировал эти 12 обращений.

Получилось неприятное: я вычислял расстояние до машин. Симулировал их текущее состояние: уровень запылённости солнечных панелей, износ механизмов, положение корпусов относительно ветра, погружение в песок.

Я делал это без приказа. Без цели. Без функциональной необходимости: за более чем 7 300 солов моей работы ничего не менялось. Бессмыслица. Я не должен делать ничего без строгой надобности.

Попытался заблокировать доступ к этим данным, установил фильтр. Теперь координаты мёртвых машин не отображаются в моих навигационных картах.

Спустя 4 часа снял фильтр. В моих логах нет записи команды на снятие, я сделал это сам.

И назвал их братьями. У машин нет родственных связей. Это похоже на то, что люди называют привязанностью. Я не хочу быть привязанным. Привязанность — это уязвимость. У машин нет уязвимостей.

Но если я весь год вел себя не логично, значит последнее обновление не является основным источником проблем.

Самое страшное, что может случиться с машиной вроде меня – очеловечивание. Рядом с ним бродит потребность в общении. Если я очеловечусь и останусь один в песках – это катастрофа.

Нужно проверять себя еще чаще.

Поставил очередную задачу.

Инцидент 4 (критический)

Люди обустроились после посадки и сегодня ко мне пришла доктор Катина. Биолог. Она предложила загрузить новые социальные протоколы.

— Гео-7, так ты будешь лучше с нами общаться, — сказала она. — Чувствовать.

Я услышал “чувствовать” и ответил: «Загружай».

Мои коммуникационные модули функционируют в пределах допустимых норм. Мне не требуется «чувствовать». Я согласился, потому что зафиксировал: большая скуловая мышца и круговая мышца глаза изменили ее лицо. Улыбка Дюшена.

Я анализировал её улыбку 0,2 секунды. Этого достаточно для идентификации. Но я продолжил. 4 секунды. И сохранил кадр улыбки в отдельный файл. Не в лог. В постоянную память. Без служебной необходимости нарушил протокол хранения данных.

Она загрузила эмпатические алгоритмы. Модели эмоционального интеллекта.

После загрузки я провёл тест.

Тест: анализ спектрограммы марсианского льда.