Диана Бербери
Двойная лемма

Глава 1

Индикатор замигал красным.

Не истерично, как это делали аварийные модули в старых лифтах, а мягко, почти игриво: вспыхнул, погас, выждал ровно три секунды и снова вспыхнул. Если бы у этого настойчивого диода имелись ресницы, он бы ими ещё и захлопал.

Йен оторвался от разложенного на столе манипулятора, прищурился и с минуту укоризненно буравил взглядом стенд калибровки мелкой моторики так, как смотрят на кота, который уже грациозно смахнул чашку и просчитывает пути отступления.

– Не начинай, Пианист.

Индикатор, разумеется, начал.

На экране услужливо замерцала строка: рекомендована замена резервного контура питания в течение ста шестидесяти восьми часов. Ниже замельтешило пояснение для людей, которым нужна мотивация в виде заумных угроз: риск остановки непрерывных вычислительных процессов при превышении порога нагрузки – 0,0037%.

– Семь суток, – отрезал Йен, – У тебя семь суток, старая ты развалина. За это время твой младший и куда более навороченный брат успел тридцать лет назад слетать на Луну и обратно.

– ???

– Да-да, я имею ввиду именно ту самую миссию «Артемида-2» и сломанную систему удаления отходов.

Стенд принял не самое лестное сравнение с лёгким возмущением. Загудел, подмигнул ещё раз, то ли намеренно раздражая, то ли напоминая хозяину, что именно он делал настройку оповещения за неделю до конца заряда. И, наконец, нахохлился.

Индикатор погас.

В лаборатории было спокойно, насколько вообще можно охарактеризовать помещение, где одновременно жужжат три термошкафа, мигает датчик зарядно-сервисного модуля для антропоморфных роботов, щёлкает суставами полуразобранный манипулятор, а под потолком висит ремонтный дрон по кличке Марго и старательно создаёт видимость, что его не клинит вот уже который час подряд. Йен не торопился спасать Марго. Во-первых, она сама виновата: не надо было пытаться протиснуться между кабельным коробом и вытяжкой при размахе роторов в сорок два сантиметра. Во-вторых, девушек полезно держать в подвешенном состоянии.

– Что, милая, застряла?

Дрон обиженно пискнул.

– И я тебя люблю.

Не без ехидства Йен тут же отметил в журнале, что у малой ремонтной платформы МРП-4 наблюдается нарциссическая склонность к переоценке собственной компактности. После чего вернулся к манипулятору, стянул очки со лба на нос и осторожно подцепил микропинцетом обрывок надломленного кабеля, вытягивая его из гнезда. А затем с приглушенным ворчанием бросил куда-то на пол, к десяткам собратьев, чья участь решится при следующем нашествии жесткого и беспринципного клининг-менеджера баб-Милы.

Сам манипулятор был из однообразной по сборке и функционалу линейки дешёвых складских помощников, которым меняли дизайн, оставляли старую начинку, левой ногой дописывали код и продавали за неразумное количество нулей после произвольной цифры. Разумеется, чтобы через несколько месяцев заработать пару подсудных дел, сдать этого гомункула в отдел постэксплуатационной диагностики автономных систем с хитреньким: «а можно ли формочку получить-с, с заключением-с, что вина не изготовителя, а невнимательно читавшего инструкции пользователя?» И после раствориться в творческом тумане, где будет собираться следующая модель. Новее, технологичнее, экологичнее. Которую тоже принесут к нему.

На малом мониторе слева всплыло уведомление рабочего чата.

Энни:Ты жив?

Йен некоторое время смотрел на сообщение. Потом на Марго, висящую под потолком. Потом на красный индикатор, которому снова захотелось внимания. На манипулятор уже насмотрелся, надо сменить фокус. Поэтому набрал короткое:

Йен:Частично.

Энни:Отлично. Значит, можешь принять один гарантийный случай.

Йен:Не могу, у меня траур.

Энни:Кто умер?

Йен:Надежда уйти пораньше.

Пауза длилась недолго. Энни умела делать вид, что ценит его личные границы и право на вредность, но никогда не путала это право с собственным намерением добиться ответа. Через три секунды экран продемонстрировал карточку поступившего в диагностику изделия.

Домашний андроид. Новая серия. Глянцевый корпус, чистенький-свеженький и антропоморфный, ну просто загляденье. Аккуратные шарниры на суставах не бросаются в глаза. Объёмное лицо с неплохой попыткой имитировать идеально-безликие нос, рот и другие уступки потребительской слабости во имя красоты и эффекта зловещей долины. Откуда у человечества такая тяга создавать что-то по своему образу и подобию? Какой ни придумай облик, роботы всё равно будут лучше не столько физически, сколько функционально. Да, они нуждаются в обслуживании, апгрейдах, замене деталей. Но ещё ни один робот не был пойман на воровстве, зависти и потребности обниматься после злоупотребления чесночным соусом.

Йен:Слишком хорош для мерзавца. Что натворил?

Модель была совсем новой и знакома лишь отдалённо по рекламным роликам, которые он однажды вынужденно смотрел на конференции, потому что выход из зала перекрыла группа людей, вооружённых бокалами и миллионом революционно-бесполезных идей. В тех роликах андроид подавал пожилой женщине плед, помогал ребёнку собирать конструктор, бережно поливал базилик и поворачивал голову с такой выверенной мягкостью, что глаза невольно искали тень от фигуры оператора. Ну не двигаются роботы так быстро и чётко. И маркетинговая слёзовыжималка была нацелена лишь на высокий старт продаж.

Энни:Нападение на животное.

Йен моргнул.

Коллега из центра аналитики продолжила обстреливать подробностями.

Энни:Собака. Сотрясение средней тяжести. Хозяева требуют компенсацию, психолога для ребёнка, замену паркета и публичные извинения.

Йен:Паркет тоже получил сотрясение?

Энни:Вижу, что ты полон энтузиазма работать сверхурочно. Встреть ребят у зоны разгрузки, у них сегодня много доставок.

– Разумеется, – пробормотал Йен пустой лаборатории.

Разумеется, он никуда не пошёл. Манипулятор сам себя не разберёт, датчик состояния воздуха сам себя не продиагностирует, пыль с верхней полки тоже нуждается в моральной поддержке. А «ребята» потратят на несколько минут больше, чтобы сделать свою работу. То бишь, доставят упакованного андроида, поворчат, всунут акт приёма-передачи под дверь и исчезнут из его жизни ещё на пару часов. В идеале, конечно, дней.

Марго тоскливо пискнула с потолка.

– Нет, ты не пойдёшь за ним. Ты у нас теперь люстра.

Люстра, если судить по повторному писку, была с этим категорически не согласна, но Йен не стал развивать спор, поскольку препирательства с дронами попахивают направлением к мозгоправу. И, к тому же, в коридоре уже глухо загрохотала транспортная тележка, а этот звук неминуемо предвещал их… неотесанных, невнимательных, грязных, непредсказуемых. Людей. От предвосхищения грохота в дверь неприятно вспотели ладони, так что пришлось встать и приоткрыть врата в лабораторию.

Контейнер въехал через шесть минут. Сам. Без грузчиков. Йен даже испытал мимолётное уважение к человечеству, которое, видимо, всё же поняло: если можно не приходить лично, лучше не приходить лично.

Уважение умерло через секунду, когда из коридора донеслось:

– Доктор Резник? Там ещё акт!

– Я не доктор, – избегая прямого контакта, он торопливо нырнул за контейнер, пытаясь как можно быстрее протолкнуть его внутрь заставленного от пола до потолка пространства лаборатории.

– Тут написано – АО «Заслон», сорок четвертый этаж, кабинет четыре-четыре-восемь, доктор бла-бла, главный специалист бла-бла отдела какой-то там диагностики.

– Это не заразно.

– Зато солидно. И расписаться всё равно надо!

Йен посмотрел на дверь, потом на останки манипулятора. На Марго, будто дрон мог снизойти с небес на землю, принять человеческий облик, расписаться чужой рукой и вернуться обратно. В кои-то веки Марго промолчала. Предатели обычно молчат громче всех.

Пришлось вынырнуть из спасительной тени прибывшего груза.

Курьер оказался, как и ожидалось, круглым, краснолицым, с глазами человека, которому жизнь много раз объясняла, что обучение на чужих ошибках переоценено. Он протянул планшет, Йен ткнул подписью куда-то в угол, не читая.

– Новая игрушка? – спросил курьер, кивая на контейнер.

– Опасный зоопреступник, нужен был конвой.

– Чего?

– Ничего.

Дверь закрылась, очередная попытка в социальный контакт провалилась, да и чёрт с ней. Зато лаборатория снова стала похожа на место, где можно работать без опасения порезаться об чужое остроумие.

Контейнер удалось дотащить под его возмущённые скрипы вплотную до термошкафов. На боку желтела наклейка: «Эмпатический домашний ассистент. Серия I-SAAC 2.0. Не кантовать. Не переворачивать. Не давить».

Ниже какой-то остряк с упаковочного цеха приписал: «выходные прошли бурно».

Контейнер раскрылся с мягким шипением.

Андроид лежал внутри ровно, почти торжественно, как чёртова Белоснежка, ожидающая своего принца, который нажмёт кнопку запуска. На виске под полупрозрачным слоем кожи мерцал овальный интерфейс. Красивая, идеальная до зубовного скрежета игрушка, с той самой симметрией, от которой у покупателей теплеет в груди, а у инженеров чешутся руки проверить, сколько на самом деле дешёвого пластика спрятали под словом «премиальный».

На шее, чуть ниже сервисной линии, серебрилась тонкая спираль логотипа: Helix Meridian Integrated Technologies Group.

Ниже, мельче: Companion Robotics Division.

– Красивый, – нехотя признал Йен, обращаясь к Марго, – Но есть ли смысл в таких наворотах для быта? Это как купить аэротакси и перевезти на остров площадью метр на метр.

Марго ревниво зашелестела, после чего потеряла интерес к происходящему. Йен же подключил шину, поднял крышку сервисного порта и вывел первичный дамп, желая заглянуть под капот этого жеребца.

– Та-а-а-к, что тут у нас? Домашняя эксплуатация: два месяца, тринадцать дней, четыре часа. Основные задачи: бытовое сопровождение, поддержание безопасной среды, наблюдение за здоровьем владельцев, взаимодействие с детьми, базовое обучение через социальное подражание.

И один инцидент, отмеченный жирным красным треугольником.

Запись открылась на минималистичной, дорогой, тошнотворно-бежевой кухне. Женщина замерла у островка, собираясь с довольным видом предаться греху чревоугодия наедине с тарелкой горячих куриных крыльев. Мужчина сидел на диване, листал перед собой новостную ленту, не глядя ни на новости, ни на семью, ни на то, как жизнь медленно проходит мимо. Девочка лет пяти сидела на полу рядом с отцом, грустно смотрела на планшет и без энтузиазма играла со своими волосами. Эту сцену Йен со вздохом ускорил, не интересуясь бытовыми заботами владельцев андроида.

Так-так, а вот и пострадавшая. Маленький злобный концентрат восточных кровей, три десятка сантиметров в прыжке, требовательный фальцет настолько высокочастотный, что некомфортно было всем свидетелям видеоряда.

I-SAAC 2.0 стоял у стены.

Йен замедлил запись.

Пёс кружился вокруг хозяйки с охотничьим азартом, точно борзая шла на медведя. Женщина смеялась, поднимала руку всё выше и выше. И тут зубастая тварь, окрылённый успехом и ароматом потенциальной награды, прыгнула второй раз – уже без игривой настойчивости. Это было резче, с зубами вперёд и той яростной верой в себя, которая у мелких существ заменяет и массу тела, и страх смерти. Траектория шла к запястью хозяйки. Максимальный ущерб при удачном попадании: испачканный рукав, укус, царапина, возможно, экстренная эвакуация блузки в прачечную.

Айзек шагнул. Просто выставил руку.

Пёс ударился о предплечье, отлетел на паркет и завопил так, будто в нём внезапно проснулись все волчьи предки и потребовали крови.

Женщина закричала, за ней ребёнок. Мужчина вскочил, опрокинул стул и впервые за всю запись посмотрел не в экран.

Айзек замер с поднятой рукой и отрапортовал.

– Угроза предотвращена.

Йен отмотал назад. Потом ещё раз. Потом вывел поверх записи внутреннюю оценку угрозы.

Объект: домашнее животное. Масса: 3,8 кг.

Вектор движения: к верхней конечности владельца.

Вероятность контакта зубами: 42%.

Приоритет: предотвращение вреда человеку.

Сила блокировки: минимальная.

– Минимальная, – повторил Йен и потер переносицу, – Великолепно. Юридически ты не напал. Технически нападающим были три кило собачьей ярости.

Йен закрыл запись, сцепил пальцы под колючим подбородком и долго смотрел на неподвижного андроида.

– Дурак ты, – резюмировал наконец он, – Но дурак аккуратный.

Обычно такие случаи не стоили даже второго кофе. Откат, пометка, тесты на животных, тесты на детей, тесты на детей с животными, особенно если отдел безопасности в этот день чувствует себя щедрым на цирк. После чего изделие возвращалось владельцам с заключением из тех, где каждое слово такое гладкое, что на нём можно поскользнуться. Но здесь было нечто странное. Не ошибка двигателя, не сбой камеры. Не перепутанная команда или агрессия. Айзек не вышел из-под контроля, не выбрал насилие, не нарушил запрет. Он просто расставил приоритеты так бесхитростно и прямолинейно, что от этой незамутнённой сторонними факторами логики становилось неловко.

Старые домашние андроиды думали, как натасканные на канцелярщину бюрократы: запрос, сверка, облачный профиль, запрет, разрешение, действие. Между стимулом и движением у них стояла очередь из маленьких электронных чиновников, каждый боялся подписать лишнее. Поэтому они бесили, тупили, зависали перед лестницами, зато редко делали что-то неожиданное.

Этот – не тупил.

Он решил.

Йен снял боковую панель, заглянул внутрь и тихо присвистнул.

– А вот теперь не смешно.

Марго пискнула, желая принять участие в чужом удивлении.

– Не тебе. Ты всё ещё технически табурет с пропеллерами.

Внутренности Айзека были не похожи на стандартную архитектуру домашних помощников. Никакого привычного жирного управляющего блока, куда сходятся все нервы. Вместо него – распределённая сеть тончайших матовых дорожек под синтетическими мышцами, узлы локального анализа возле суставов, отдельные сенсорные островки в ладонях, шее, спине, висках. Тело не просто исполняло команды, оно участвовало в мышлении.

Простое и до обидного изящное решение. Если хочешь, чтобы машина двигалась и реагировала как живое существо, перестань заставлять её думать одной коробкой в груди, размажь вычисление по всему телу. Как в той шутке? Не укладывается в голове – растяни вдоль спинного мозга. Пусть рука знает руку, плечо знает тяжесть, кожа каждой зоны заранее знает приближение любого объекта до того, как главный модуль захочет наводить порядки. Ведь человек именно так и устроен: много маленьких реакций, переплетение инстинктов, интуиции, задержек.

Но простота тут была из тех, что стоят миллиарды.

Сделать один прототип можно на коленке, если коленка принадлежит гению, а рядом стоит склад редкоземельных металлов. Сделать серию, чтобы она не разваливалась через два месяца… это уже другое дело. Нужны фабрики синтетических нервов, нейроморфные платы, медицинские патенты, линии точной полимерной печати, свои датчики, свои автопилоты, свои юристы на случай, если чудо всё-таки кого-нибудь убьёт.

То есть нужен не просто производитель роботов. Нужен монстр с кучей конечностей в виде дочерних компаний.

Нужен Helix Meridian.

Йен открыл техдокументацию, выданную через внутренний шлюз «Заслона» сразу после карты объекта. Доступ, разумеется, был урезан до состояния приличного фигового листка: общие схемы, сертификационные таблицы, рекламно-вылизанные фразы про «адаптивное сопереживание» и «социально безопасную автономию». Но даже по обрезкам было видно: I-SAAC 2.0 не был продолжением старой линейки. Это была другая зверушка, которой натянули на морду знакомую этикетку, чтобы потребитель не подавился будущим раньше кассы.

Йен увеличил диаграмму задержек.

И замер.

Скорость реакций максимально приближена к живому существу. Айзек не просто просчитывал варианты, торопился с выводами или, напротив, тупил. Он в режиме реального времени фиксировал релевантные данные, пропускал через фильтр заводской морали и решал, как же отреагировать с учетом среды. В кавычках, конечно. Йен не любил, когда железу приписывают человеческие украшения, но тут кавычки неприятно скрипнули и попросились поучаствовать во внутреннем диалоге.

– Ах вы ж умные сволочи, – пробормотал с невольным уважением.

Марго пискнула вопросительно.

– Нет, не ты. Ты у нас сволочь эконом-класса, без вмешательства холдингов.

Он полез глубже.

Слои приоритетов были собраны не лестницей, а клубком. Защита человека не стояла сверху каменной плитой, как в старых системах. Она переплеталась с обучением, социальным контекстом, локальными привязанностями, повторяющимися реакциями хозяев. Айзек не получал готовую мораль, а взращивал её на данных семьи, как плесень на забытом бутерброде.

И вот это уже стоило копии.

Йен сохранил дамп. Потом ещё один, с сырыми сенсорными слоями. Потом третий, потому что первый раз – предусмотрительность, второй – научная осторожность, третий – уже поиск статистики, но кто их там считает.

Энни связалась с ним ближе к вечеру по видеозвонку.

– Как наш собачий террорист?

– Не террорист. Элитный защитник жареных крылышек с полным отсутствием эмпатии по отношению к голодным чихуахуа.

– Заводской дефект?

Йен посмотрел на вскрытого Айзека, на тонкие матовые дорожки под кожей, на аккуратно уложенные синтетические нервы, похожие на переплетения веток плюща.

– …нет.

Но тут же добавил:

– Но, если будет свободное от работы время, проверь по «Заслону» и внешним каналам все обращения по I-SAAC 2.0. Не только нападения. Любые странные решения: обход протокола, неоказание помощи, вред себе, вред животным, нарушение прямого приказа. В процентах от выпущенных моделей, по партиям, регионам, сроку эксплуатации.

– Ты просишь статистику?

– Нет, я прошу гороскоп. Конечно статистику.

Пауза.

– Ты нашёл что-то серьёзное?

Йен хотел ответить «пока нет». Хорошая фраза. Удобная. Но недостаточно честная по отношению к встревоженной брюнетке по ту сторону экрана.

– Я нашёл причину не возвращать его сразу.

– Боже, Йен, я слишком хорошо тебя знаю. Ты и не собирался его возвращать, верно?

Загадочно-утвердительная ухмылка была лаконичнее любого ответа.

Второй случай Энни прислала через два дня.

Неофициально. То есть именно так, как в любой компании делалось всё важное: без служебной помпы, без длинных писем, с пометкой «только посмотри, не влезай», после которой любой уважающий себя специалист немедленно влезал по плечи.

Файл был опечатан, без корпуса и права допуска посторонним лицам. Только банк данных, протоколы допросов, судебный запрос и короткое резюме: инцидент с летальным исходом. Возможное неоказание помощи автономной системой I-SAAC 2.0.

Погиб человек.

Кто именно – в первом пакете замазали. Возраст, имя, часть видео, голоса несовершеннолетних. Юристы иногда всё-таки приносили пользу: умели создать туман так, что в нём утонет даже очевидность.

Йен начал смотреть.

Дом был большой, стеклянный, просторный и абсолютно нежилой по ощущению. Такие дома строят люди, которые хотят много воздуха, а потом заполняют его собственным напряжением. Хозяин появлялся в записях часто: высокий, сухой, вечно напряженный, потирающий приплющенный подбородок и с лёгким тиком правой стороны лица.

– Оно опять стоит посреди прохода, – говорил он, когда наталкивался на своего андроида.

Оно.

Йен терпеть не мог, когда роботов называли «оно». Не из уважения к роботам. Просто если ты купил антропоморфного ассистента за цену полноценного особняка и теперь демонстративно называешь его предметом, проблема не в грамматике. Проблема в том, что ты очень хочешь, чтобы все вокруг знали: у тебя есть вещи, похожие на людей, и люди, с которыми можно обращаться как с вещами.

За забором иногда мелькала соседская девчонка. Смеялась, болтала с Айзеком, потом с сыном хозяина. Мальчик рядом с ней становился чуть менее деревянным. Йен не стал задерживаться на этих сценах: чужая подростковая дружба интересовала его примерно так же, псина из предыдущего файла. Но в логах Айзека именно там появлялись первые странные маркеры: радость субъекта B-2, снижение тревожности, защитная значимость внешнего контакта.

Потом хозяин это заметил.

И записи стали суше. К примеру, вот разговор с женой в гостиной, где Айзек стоял у стены с подносом и был, по мнению присутствующих, частью интерьера.

– Её отец скоро лишится места, – сказал хозяин, листая документы, – Они не потянут аренду. Вопрос решится сам.

Жена что-то возразила, тихо, слабо. По её лицу и так было видно: в этом доме возражения жили недолго, как комнатные растения у творческих людей.

– Ты бы лучше за своим сыном следила, – не дал договорить ей хозяин, – Если у тебя вообще остались функции, кроме декоративных.

Йен поймал себя на невыразимо остром желании, чтобы следственный файл был про него.

Не в профессиональном смысле. А в человеческом, маленьком, плохо проветренном углу – хотел, чтобы этот самовлюблённый козёл подошёл к своему щитку, сунул туда руки и получил направление к патологоанатому в роли кебаба.

Айзек, судя по логам, тоже пришёл к чему-то похожему.

Только аккуратнее.

Он не писал «козёл». Машины вообще редко радуют точностью эпитетов.

Он писал: субъект A-1 охарактеризован, как главный источник устойчивого неблагополучия внутренней среды.

Йен усмехнулся без радости.

– Да что ж вы все такие вежливые, когда собираетесь делать гадости.

Дальше был гараж. Просторный, чистый, с несколькими дронами для обслуживания аэрокара, выглядящий, как мечта любого мальчишки от нуля до девяносто девяти лет. Количество дорогих игрушек было настолько велико, что даже Йен поначалу не обратил внимания на электрощит, меланхолично сообщающий кратким морганием лампочки о нарушении протокола внешней изоляции. К слову, Айзек три дня назад аккуратно оповестил об этом всё семейство в журнале обслуживания, вот только кто читает этот журнал? Супруга? Сын? Не смешите.

Андроид, в соответствии с отведённой ему ролью в этой семье, безучастно стоял рядом и смотрел, как мужчина одной рукой открывает панель, другой принимает звонок, третьей, которой у людей обычно нет, но которую они всё равно пытаются отрастить в пылу жаркого спора, раздаёт раздражённые команды собеседнику.

В логах робота тут же вспыхнул расчёт: возможен лёгкий удар током, травма, вероятная госпитализация не длиннее суток; летальность низкая, поскольку субъект А-1 неоднократно чинил этот щиток прицельным ударом локтя. Да, низкая, но не нулевая.

Айзек не вмешался.

Не толкнул, не придержал руку, не заблокировал щиток. Он просто оставил человека наедине с последствиями его же пренебрежения, твёрдо уверенный в правильности своих выводов. Йен уже знал, что напишет: автономная система зафиксировала риск, имела возможность предупредить, но снизила приоритет вмешательства на основании самостоятельно сформированной оценочной модели. Не убийство. Не механический отказ. Самовольная этическая сортировка, будь она неладна.

Потом туман в файле кончился.

Открылась дополнительная запись с другого угла.

К щитку подошёл не хозяин.

Мальчик.

Вид