Георгий Григорьянц
Совершенство войны
– Сделаю, – сказал Вадим и ушел.
Горюнов расплылся в злорадной улыбке: «Посмотрим, чья возьмет».
В большом цехе предприятия АО «Заслон» шли испытания ИИ «Ника». Воспроизводились боевые действия и проигрывался наихудший сценарий боя для пяти новейших образцов вооружения, в том числе танка «Армата». Безэкипажные образцы с закрепленными на пушках и ракетных направляющих лазерными симуляторами стреляли импульсами по внезапно появляющимся в разных точках цеха лазерным мишеням, имитирующих трехмерные цифровые модели боевых машин и летательных аппаратов противника. Тренажерный комплекс для отработки задач и проверки возможностей «Ники» создавал сложные условия тактической обстановки, иногда заведомо нереальные. «Ника» справлялась блестяще. Результаты роботизированного боя, которым управлял искусственный мозг, регистрировал суперкомпьютер-арбитр.
Директор Игнатов был доволен:
– Виктор, программа испытаний выполнена безукоризненно. Поздравляю! Ваш ИИ показывает высокую эффективность.
Орлов, не отрываясь от экрана монитора, на котором внимательно и с некоторой досадой читал данные тестирования, поблагодарил его:
– Спасибо. Мы заложили в «Нику» возможность управлять операциями в различных географических и виртуальных средах…
– Думаю, – улыбнулся директор, – скоро наступит время, когда все войны будут вестись в кибернетическом пространстве… Продолжайте в том же духе.
Директор ушел. Орлов повернулся к связисту:
– Олег, данные испытаний регистрируют уязвимость каналов связи. Ты до сих пор не решил вопрос защищенного информационного пространства.
– Шеф, я знаю… Нужен новый подход… Мы работаем над этим.
Цех опустел. Свет выключили. Луч фонарика высветил дорожку между образцами боевой техники. Человек в черной куртке с накинутым на голову капюшоном, в кожаных перчатках на руках, крадучись пробирался по полутемному цеху, остановившись у железного шкафа. Повозившись отмычками в замке, он открыл его. На полке – алюминиевый кейс с уложенным в ложементе новейшим высокоточным снарядом «Спринтер». Окончательно снаряженный танковый боеприпас с электронной начинкой и новым чипом, согласно плану, предназначался для совместных с ИИ «Ника» испытаний. Стрельба снарядом не предполагалась, только проверка взаимодействия.
Искаженное гримасой презрения лицо Тоцкого в слабом свете фонарика выражало намерение воспрепятствовать успеху питерской команды. Киберпсихолог, по совместительству хакер, знал цену своим поступкам: сумма с шестью нулями. Да, работал он ради денег, но зато результативно. Сумев с удаленного компьютера временно заблокировать видеонаблюдение, тепловизоры и лазерное сканирование пространства цеха, он, выполняя поручение Горюнова, ни на минуту не сомневался, что справится с заданием безупречно.
Пустой кейс уложен обратно в железный шкаф, а снаряд «случайно» оказался в автомате заряжания танка «Армата». В жгут проводов, опутавших электронное оборудование, бронекапсулы экипажа помещен «смартфон». Тоцкий вылез из боевой машины, и след его простыл.
Внезапно с танком стали происходить странные вещи. Он «ожил»: двигатель взревел, фары осветили цех, завращалась башня, пушка задвигалась вверх-вниз. В кабинете главного конструктора раздался сигнал тревоги. Нейрокомпьютер «Ника», контролирующий все процессоры распределенной по образцам бронетехники нейросети, мягким женским голосом произнес:
– Внимание! Непредвиденная ситуация! Танк «Армата» ведет себя непредсказуемо, на команды не реагирует.
Орлов опешил, но взял себя в руки.
– «Ника», покажи!
На экране монитора возникло изображение: цех без людей, танк буйствует.
– «Ника», отключи питание танка! – приказал Орлов.
– Главный конструктор, – бесстрастно сообщил ИИ, – отключить не получается.
– «Ника», покажи бронекапсулу!
В компонентах нейрокомпьютера предусмотрен «электронный глаз» – скрытая видеокамера, фиксирующая все, что происходит внутри объекта. В танке никого нет, и подозрительного Виктор ничего не заметил.
– «Ника», – приказал Орлов, – покажи всех, кто недавно залезал в танк!
На экране еле различимый в полутьме человек в черной куртке, светя фонариком, снаряжает механизм заряжания снарядом «Спринтер», а в жгут проводов помещает некое устройство. Лицо злоумышленника скрывает капюшон.
– «Ника», покадровое изображение! – потребовал Орлов.
ИИ медленно прокрутил запись и, выбрав картинку с появившимся из-под капюшона кончиком носа человека, резко укрупнил изображение. Кто это? Виктор в растерянных чувствах стоял без движения, понимая, что узнать человека по кончику носа лично ему не удастся: этого элемента лица явно недостаточно для идентификации злодея. Все же, веря в созданный им ИИ, он дал команду:
– «Ника», установить личность человека на картинке! Распознавание по носу! Поиск среди людей, проходивших сегодня на режимную территорию!
– Слушаюсь, главный конструктор.
Нос – заметная черта человеческого лица; все носы уникальны по форме, длине, ширине, общему строению, цвету и другим особенностям. Такие элементы носа, как кончик и крылья – важные признаки внешности для идентификации конкретного человека. ИИ приступил к распознаванию.
– «Ника», вывести на связь Березину и Мухина!
Видеоконференцсвязь с помощниками началась.
– Ребята, – сказал Виктор, – у нас ЧП. «Ника», покажи!
Нейрокомпьютер доложил:
– Картинка из цеха на мониторы выведена.
Артем таращился на экран:
– Не может быть! Наш ИИ свихнулся с ума?
Березина выкрикнула:
– «Ника», почему это происходит?
Бесстрастный голос ИИ констатировал:
– Канал связи с объектом заблокирован. Кто-то перехватил управление.
Вдруг танк «Армата», почудив в замкнутом пространстве цеха, двинулся вперед, громыхая и расталкивая бронетехнику. ИИ «Ника» самостоятельно предпринял попытку его остановить. Завелась и двинулась наперерез многотонная самоходная артиллерийская установка «Коалиция», преградив дорогу танку. «Армата», развернув пушку, взял САУ в прицел и выстрелил боевым снарядом «Спринтер». Снаряд, пробив броню, разорвался внутри установки «Коалиция». Взрыв, черный дым, оранжевое пламя… САУ полностью уничтожена.
Путь танку к воротам заблокировала боевая машина «Терминатор» массой сорок восемь тонн, однако «Армата», имеющий пятьдесят пять тонн веса, пошел в лобовую и, нещадно тесня тяжелую машину, бесцеремонно отодвинул ее в сторону. С треском рухнули наземь протараненные ворота. Танк вырвался на свободу.
В паническом ужасе директор звонил Орлову, напуганные сотрудники выбегали на улицу и от беспомощности и досады что-то кричали, а танк, маневрируя, давил и уничтожал инфраструктуру предприятия, пугал шарахавшихся по сторонам рабочих, двигался от укрытия к укрытию, минимизируя шансы быть уничтоженным. Заискрила разрушенная электроподстанция, как гейзеры фонтанировали порванные водяные трубы. На пути танка маячила кислородная станция… Реальность до жути выглядела отчаянно, и никто не знал, что предпринять.
Наконец искусственный интеллект, допустивший это безобразие, с большим опозданием принял единственное верное решение. Вслед за танком из цеха выехали боевые машины «Гермес» и «Тор», поставившие на частоте канала управления «Арматы» активные радиопомехи. Танк остановился и замер. Круживший в небесной выси шпионский коптер – ретранслятор чужих команд – поспешно полетел восвояси.
Директор Игнатов мрачно смотрел в глаза Орлову:
– По кончику носа хочешь найти виновного?.. Виктор, твое изобретение наводит тоску. Поспорить с богом не удалось, остается малоприятное – пойти под суд!
– Анатолий Иванович, не спорю, мы оплошали, но потенциал-то у нашей разработки есть. В результате ИИ справился с патовой ситуацией…
– Виктор, – снисходительно усмехнулся Игнатов, – пока ситуация не усугубилась, преврати ее из неуправляемой в контролируемую.
Подал голос ИИ «Ника»:
– Главный конструктор, идентификация завершена, нарушитель опознан.
Директор и главный конструктор застыли в изумлении. Весть поразила их, как гром среди ясного неба.
Орлов осторожно спросил:
– Кто это?
– Психолог Тоцкий Леонид, – известил нейрокомпьютер.
Игнатов растерялся:
– Что?.. ИИ по кончику носа нашел преступника?
Виктор поддался инстинктивному порыву:
– Я разберусь…
– Не смей! – приказал Игнатов. – Этим займется представитель ФСБ. А ты наведи порядок в своем хозяйстве.
Поздним вечером удрученный Виктор, согнувшись под грузом проблем, сидел дома на диване, размышляя о происшествии. Он понимал, что виноват. Компьютерный мозг «Ники» сделался настолько громоздким, что нейросеть, распределенная по многим объектам вооружения, приобрела элементы непредсказуемости, стала долго соображать, с трудом обучалась. Коллектив КБ проводил глубокое обучение системы почти круглосуточно, количество кибернейронов росло в геометрической прогрессии, перегруженные каналы связи, создавая большую задержку в передаче команд, с трудом справлялись с работой. А результат? Потеря управления в первой же нештатной ситуации. Неужели путь, избранный Орловым, ошибочен?
Поразмыслив о потенциале ИИ, об угрозах, исходящих от кибернетического мозга, о цифровой революции, разрушающей сложившиеся стереотипы, он заключил: если не предпринять никаких мер, день завтрашний будет таить серьезную опасность для благополучия людей, и рано или поздно наступит деградация модели существования общества. Что делать? Прекратить разработку ИИ, запретить создание нейросетей? Обеспечит ли это безопасное будущее человечества? Похоже, нет. Прогресс не остановить… и конкуренцию тоже. У кого круче вооружение, тот доминирует в мире. Если сегодня информация – самое ценное и грозное оружие, то искусственный интеллект – инструмент, способный решать ранее немыслимые задачи. Отставание в разработке ИИ приведет к тяжким для страны последствиям.
Рассматривая все более разрушительные процессы, Орлов мучительно морщил лоб, обдумывая пути выхода из положения. Прозрение наступило. Нужно менять концепцию кибермозга, внедрять другой процесс обучения ИИ, перестроить архитектуру нейросети, разработать протокол безопасности, а распределенным в пространстве частям ИИ разрешить действовать при необходимости автономно. Иными словами, сломать все ранее созданное и начать разработку заново. От этой мысли ему стало не по себе.
В комнату вошла Ника:
– Витя, ужин готов.
Орлов поднял пустые глаза. И тут произошло чудо. Он увидел обворожительную, привлекательную женщину с синими, как глубокое море, глазами, сапфировыми серьгами и цепочкой со знаком зодиака Водолей, и вдруг почувствовал облегчение. Ее имя Ника – удивительная и прекрасная богиня победы, чьи избранники во все времена одерживали победы на войне. Его взбудораженный мозг мгновенно успокоился. Все в любимой женщине – запах тела, умное выражение глаз, безупречная фигура, маленькая упругая грудь – завораживало Виктора. Она решение всех проблем… У парня возникло желание, но, поборов его, он заговорил о загвоздке в работе.
– Никуся, кибернейроны тормозят процесс развития нейросети. Мы зациклились на увеличении числа нейронов, при этом способность ИИ адаптироваться к новым данным и игнорировать неважное снижается…
Она села на диван рядом с ним.
– Благодаря сложным взаимосвязям в мозгу человека, – сказала она, – обрабатывается информация для принятия решения. Сущность этих взаимосвязей мы, нейрофизиологи, до конца не понимаем. Но биология подсказывает, что нейроны – ключевой фактор гибкости нейросети. Так что без нейронов никуда…
Два интеллектуала размышляли, как сделать ИИ совершеннее, чтобы никогда не повторился провал, случившийся на предприятии.
Виктор досадовал:
– Кто сказал, что эволюция, создав нейрон, сделала самую эффективную единицу нервной системы? Думаю, не обязательно в точности копировать нервную сеть, нужны новые подходы.
– Есть альтернативная концепция? – поинтересовалась Ника. – Нет! Я так и думала. А вот у меня есть кое-какие мысли…
Она рассказывала, а он удивленно таращил на возлюбленную глаза. Создатели ИИ, привязавшись к функциям работы головного мозга человека, достигли потолка, выйдя на тупиковый путь. Проблему нужно решать. Для военной системы «Ника» в ходе принятия решения требуется слишком большой объем данных. Процесс машинного обучения долгий, нудный, кропотливый. Не лучше ли вместо директивного указания машине классифицировать немыслимое количество текстов, картинок, объектов и событий, описывать ей явления посредством теорий и моделей? Кибернейроны все же будут задействованы, но не станут решающим фактором. Использовать когнитивные и нейросетевые подходы необходимо совместно! Это и станет существенным фактором при решении задач на поле боя.
