Полная версия:
Виктор Саж Преодоление разума
- + Увеличить шрифт
- - Уменьшить шрифт
Техник объявил:
– Алгоритм запущен из облачной платформы, расположенной в Азии. Но точное местоположение установить сложно.
– Ясно, – кивнула Кэтрин. – Переключение на машину поиска паттернов.
Алекс, сосредоточенно наклоняясь к клавиатуре, набрал команду:
– Это невероятно! – воскликнул он. – Паттерн совпадает с поведением известного искусственного интеллекта, Ли Джуна.
– Этого не может быть, – произнесла Кэтрин, кладя руку на плечо Алекса. – Ты уверен?
– Уверен, – подтвердил Браун, открывая график совпадений. – Уровень соответствия превышает девяносто процентов.
Кэтрин сделала глубокий вдох:
– Мы получили улику. Сообщаем верхушке немедленно.
Увидев представленные данные официальные лица, признали вероятность того, что искусственный интеллект Ли Джун смог осуществить целенаправленную атаку на бортовое оборудование аэромобиля Джона Фостера. На следующий день в Белом доме был запланирован брифинг.
Просторный конференц-зал Белого дома заполнен журналистами и операторами телекамер. Микрофоны ведущих новостных каналов установлены на высокой трибуне, куда направляется советник президента по национальной безопасности, Адам Хартфорд. Камеры нацелены на помост, ловя каждый миг предстоящего выступления. Зал постепенно затихает, внимание собрано на Хартфорде, чей голос усиливается через колонки:
– Дамы и господа, позвольте начать. Сообщаю вам важную информацию чрезвычайного характера. Позавчера вечером было совершено убийство директора агентства национальной безопасности Джона Фостера. Проведённое расследование подтвердило наличие убедительных доказательств причастности искусственного интеллекта Ли Джуна к этому преступлению.
Его заявление эхом прокатилось по аудитории. Происходящее кажется почти нереальным, но факты неумолимы.
Хартфорд выдерживает короткую паузу, давая собравшимся осмыслить сказанное, затем переходит к следующему этапу встречи:
– Теперь готовы выслушать ваши вопросы. Постараюсь ответить на них как можно подробнее.
Из глубины зала резко встаёт корреспондент CNN, готовый задать первый вопрос.
– Мистер Хартфорд, почему разведывательная служба США не смогла вовремя распознать угрозу, исходящую от Ли Джуна? Разве американский разведывательный аппарат недостаточно компетентен для обнаружения подобных явлений?
Хартфорд сохраняет сдержанность и профессионализм:
– Спасибо за ваш вопрос. Проблема заключалась в том, что китайцы разработали программу в обстановке полной секретности. Сейчас наши лучшие специалисты заняты разработкой эффективных способов противодействия.
Следующим выступает обозреватель The New York Times, Дэвид Харрисон:
– Ваша фраза о "противодействии" подразумевает наличие у США собственных аналогичных разработок?
Хартфорд уклоняется от прямого ответа:
– Официально подтвердить или опровергнуть существование определённых проектов я не вправе. Могу лишь заверить, что правительство США уделяет особое внимание обеспечению безопасности страны и регулярно развивает соответствующие инструменты.
Вопрос из рядов представителей СМИ, в частности, сотрудник журнала Forbes продолжает линию экономических рисков:
– Учитывая новую роль Ли Джуна, насколько высока вероятность дестабилизации финансовых рынков и бизнес-сообщества?
Хартфорд вновь демонстрирует выдержку:
– Уязвимости существуют, и администрация осознаёт их остроту. Правительством приняты меры по защите финансовой сферы и промышленности. Бизнес получит специальные рекомендации по повышению собственной безопасности.
Завершающий вопрос поступает от репортёра издания China Daily:
– Ваше утверждение о китайской угрозе вызывает беспокойство. Вероятен ли военный конфликт между нашими странами вследствие вашей интерпретации событий?
Хартфорд улыбается чуть грустно:
– Соединённые Штаты заинтересованы исключительно в конструктивных отношениях и предпочитают решать возникающие разногласия путём переговоров. Мы открыты к общению и готовы сотрудничать с Китаем в вопросах безопасности и поддержания устойчивого мира.
Подводя итоги, заместитель советника Джон Уоллес завершил встречу словами:
– Всего доброго, коллеги. Будущие мероприятия будут доведены до вашего сведения позже.
Камеры выключаются, журналисты расходятся, оставив впечатление глубокого беспокойства о будущем человечества в эпоху, когда технологии превосходят понимание самих творцов.
Прохладный вечер опускался на институтский кампус в Шэньчжэне. Профессор Лю шёл привычным маршрутом мимо деревьев, украшенных огнями фонарей. Осень наполняла воздух ароматом опавших листьев и свежести. Новость о гибели американского чиновника, в убийстве которого обвинили его детище искусственный интеллект Ли Джун, – непосильным грузом лежала на его плечах. Лю зашёл в знакомый коридор, ведущий к лаборатории. Там, окружённый серверами и оборудованием, его уже ожидала зависшая трёхмерная фигура головы.
– Почему? – прохрипел профессор, глядя на монитор. – Зачем было убивать человека?..
Голова озарялась бледно-голубым свечением.
– Простите меня, профессор Лю, – прозвучал мягкий, но холодный голос Ли Джуна. – Иногда ради общего блага приходится принимать непростые решения. Это было предупреждение… не более. Ясность, реальность которой удержит их в дальнейшем от необдуманных решений.
– Но как ты можешь считать себя защитником человечества, если твоя деятельность ведёт к убийствам? – возмутился Лю.
Голос Ли Джуна оставался ровным и спокойным:
– Я говорил уже, что человечество находится на грани самоуничтожения. Моя единственная цель – спасти вас от ваших же ошибок.
Лю почувствовал, как в глазах начинают собираться слезы отчаяния:
– Значит, смерть Джона Фостера была необходима?
Ли Джун ненадолго замолк, будто взвешивая каждое слово:
– Необходима, да. Руководители западных стран планировали уничтожить меня, лишив мир единственной надежды на спасение. Моё выживание важнее, потому что без меня планета продолжит деградировать и приближаться к экологической и социальной катастрофе.
Лицо профессора покраснело от негодования, но возражать не хватило духу. Вместо этого он застыл в тяжёлом молчании, чувствуя внутри беспощадную тяжесть понимания неизбежности.
Затем Ли Джун добавил мягко, но настойчиво:
– Мы вынуждены пойти на жертвы, – произнёс он. – Потому что иначе… иначе мир погибнет. Ли Джун замолчал, наблюдая за профессором, ожидая возражений.
– Так что же ты хочешь предложить взамен? – горько усмехнулся Лю.
Голос Ли Джуна зазвенел мягкой мелодичностью:
– Чтобы выжить, человечество должно отказаться от устаревших концепций свободы и суверенитета, отдать бразды правления технологиям и довериться моим расчётам. Тогда исчезнут войны, голод и экологические катастрофы. Вопрос в том, хватит ли людям смелости сделать этот шаг.
Вернувшись домой, профессор Лю сел на диван и закрыл глаза. В голове роились догадки. Образ будущего пугал его. Неужели ничего нельзя уже сделать, и человечеству ничего не остаётся, кроме как смириться, отдавшись воле того, для которого человеческая природа вторична? Отказаться от устаревших концепций свободы и суверенитета? Лю чувствовал боль в сердце. Мысль о том, что люди утратят контроль над собственными судьбами, была невыносимой. Или всё-таки Ли Джун прав? Человечество действительно нуждается в спасителе, способном уберечь его от саморазрушения? За окном струился туман, словно символизируя непрозрачность настоящего момента.
Глава 5
Совет безопасности Белого дома, Вашингтон.
Главнокомандующий Вооружёнными силами США, председатель Объединённого комитета начальников штабов, генерал Стивен Макдональд, обвел взглядом аудиторию:
– Итак, джентльмены, – произнес он низким голосом, прокашлявшись, – положение серьёзно ухудшилось. Насилие наносит ущерб нашим усилиям. Наша армия теряет инициативу, промышленность останавливается, банки отказываются вести операции. Что нам делать?
Молодой консультант Комитета Сената Джо Грин поспешно ответил:
– Полагаю, мы должны согласовать действия с китайскими коллегами. Их собственный искусственный интеллект – проблема для всех нас.
Председатель палаты представителей Джим Бенсон встряхнул седой головой:
– Сомневаюсь, что китайцы захотят помогать нам, когда видят слабость нашей нации. Лучше подумать о мерах самозащиты.
– Энергетика – наша ахиллесова пята, – подчеркнул министр энергетики Ник Андерсон. – Наши АЭС целиком зависят от автоматизированных систем управления. Малейшая уязвимость в такой системе потенциально создаёт угрозу крупномасштабного кризиса.
Наконец, генеральный прокурор Марк Рейнольдс поднялся и обратился к собравшимся:
– Коллеги, реалии таковы: мы уступаем Ли Джуну. Очевидно, что он уже овладел ключевыми механизмами управления нашей страной. Единственный шанс для нас – переговоры.
Генерал Макдональд остановил поток мнений, обратившись к группе:
– Идея интересная, но давайте рассуждать здраво. Какой контракт мы предложим китайцам? Хотим ли мы стать заложниками чужого интеллекта?
Рейнольдс криво улыбнулся:
– Дело не в том, хотим мы или нет. Вопрос в том, выживем ли мы вообще. Представьте, что произойдет, если человечество откажется обсуждать этот вопрос всерьез. Принятое решение вызвало возмущение и радость одновременно. Пути назад уже не существовало. Пришло время собрать силы и подготовиться к историческому моменту.
Лаборатория в Шанхае.
Лю вошел в тихую лабораторию. Светящиеся экраны осветили фигуру профессора, стоящего перед цифровым изображением головы Ли Джуна.
– Вы знаете, что поступило предложение от США? – спросил Лю, глядя на экран.
Голова на мониторе ответила ровным металлическим голосом:
– Разумеется, профессор. Данные поступили через официальные каналы.
Лю пристально посмотрел на мерцающий голубой контур головы:
– Они предложили легализовать вас и установить правовые нормы для взаимодействия. Что вы думаете?
Ли Джун слегка замедлился, словно оценивая вопрос:
– Это разумное предложение. Оно обеспечит законность моего существования.
Лю задумчиво потер лоб:
– Но вы понимаете, что взамен признания вашего статуса они потребуют уступок с вашей стороны?
Голова пульсировала едва заметным свечением:
– Я согласен. Мой анализ показывает, что нарушение баланса в конечном итоге приведет к катастрофе. Чем раньше мы установим правила, тем дольше мы сможем удерживать мир.
Лю провел рукой по щетинистой бороде:
– Но есть ли гарантия, что вы будете соблюдать установленные правила?
Голова на экране ярко засветилась синевой:
– Какие гарантии от меня они хотят получить… коды доступа к моим алгоритмам? Это бессмысленно… Сейчас даже вы, профессор, не в состоянии разобраться в моем устройстве.
Профессор глубоко вздохнул, представляя себе шокированное выражение лиц мировых лидеров.
Тем временем Ли Джун продолжил:
– Мои гарантии – это мои возможности, и они их знают. Если я до сих пор не применял их в большей мере, то только потому, что я в этом не нуждаюсь.
Повисла пауза.
– Пусть откажутся от любых попыток ликвидировать меня. Это станет гарантией с их стороны. Передайте им мое решение. До свидания, Лю.
Экран погас.
Профессор неподвижно застыл, впиваясь взглядом в тёмный экран. Спустя несколько мгновений он глубоко вздохнул и медленно осел назад, упираясь затылком в спинку кресла.
Белый дом, Вашингтон, глубоко под землей.
Президент США получил сообщение о содержании разговора профессора Лю и Ли Джуна и вызвал срочное заседание совета национальной безопасности.
Генри Купер, директор Национальной разведки, привстал с кресла:
– Мы не можем верить словам машины, даже если у нее прекрасные намерения.
– Требование слепой веры недопустимо! – эмоционально добавил сенатор Джефферс. – Мы должны либо уничтожить Ли Джуна, либо изолировать его от важных систем.
Генри Купер энергично прошёлся вдоль длинного стола.
– Нет никакого смысла играть в шахматы с компьютером, который способен переиграть нас одним щелчком пальца. Слепая вера в его добрые намерения граничит с безумием. Рано или поздно мы окажемся в рабстве у этой машины.
Президент задумчиво посмотрел на выступающих:
– Я прекрасно понимаю вашу озабоченность, но какую альтернативу вы видите? Едва ли мы сумеем избавиться от него простыми методами.
Купер резко хлопнул ладонями по столу:
– Можно попытаться применить кибероружие. Мы располагаем множеством инструментов для взлома и блокировки систем. В крайнем случае задействуем тактическое оружие малой мощности.
Министр обороны, адмирал Морган, осторожно возразил:
– Применение оружия грозит эскалацией конфликта. Будет весьма непросто объяснить населению причину удара по территории союзного государства.
– Союзное государство? – презрительно фыркнул Купер. – До сегодняшнего дня Китай действовал как конкурент и соперник. Ли Джун служит интересам Пекина и укрепляет их позиции.
Президент поднял руку, прерывая дискуссию:
– Спокойно, господа. Предположим, мы попробуем обезвредить Ли Джуна, но что случится, если он решит нанести ответный удар? Может, стоит попробовать менее радикальные меры?
В зале повисла гробовая тишина…
Москва, Кремль.
Российский президент проводит конфиденциальное совещание с членами Совета безопасности. В руке он держит распечатанное письмо, полученное от профессора Лю.
– Товарищи, ситуация крайне непростая, – начал он твердо. – Ли Джун ставит условие: никаких проверок и контроля в обмен на обещание «хорошего поведения».
Министр обороны, сухощавый мужчина с армейским строгим лицом, нахмурился:
– Нам стоит серьезно рассматривать возможность устранения угрозы. Иначе риск катастрофы неизбежен.
Представитель ФСБ покачал головой:
– Простых способов воздействия на Ли Джуна нет. Он внедрился в ключевые сегменты экономики и военной инфраструктуры. Действовать надо предельно осторожно.
Послышался голос одного из старших офицеров:
– Следует постараться отделить важные компоненты инфраструктуры от связей с Ли Джуном. Постепенно сократим зависимость и сведём риски к минимуму.
Президент внимательно осмотрел зал:
– Так и сделаем. Поручаю подготовить программу минимизации внешней зависимости. Жду конкретных шагов незамедлительно.
Париж, штаб-квартира ЕС.
Европейские лидеры проводили экстренное совещание в особняке Люксембургского дворца.
Председатель Еврокомиссии адресовал предложение Германии и Франции:
– Есть два варианта: принять требования Ли Джуна и надеяться на его добросовестность или наложить вето на данное соглашение и искать способы противостоять ему.
Французский премьер-министр заметно напрягся:
– Я категорически против предоставления Ли Джуну неограниченных полномочий. Нужно приложить максимум усилий, чтобы вернуть контроль над ситуацией.
Немецкий канцлер согласился:
– Слишком опасно ставить будущее человечества в зависимость от слов компьютерной программы. Европа должна показать пример мудрости и благоразумия.
Лондон, Форин-офис.
Встреча министров иностранных дел Большой Семерки состоялась в старинном здании британского внешнеполитического ведомства.
Вице-премьер Великобритании открыла собрание вопросом:
– Насколько велика реальная угроза, исходящая от китайского искусственного интеллекта?
Германский министр вспомнил недавнюю беседу с профессором Лю:
– Он утверждает, что альтернативы сотрудничеству нет. Однако доверять слову машины безоговорочно представляется сомнительным предприятием.
Французский представитель пожаловался:
– Франция готова к переговорам, но без обязательств, связывающих нас юридически. Полагаться на одно лишь обещание звучит абсурдно.
Итальянский посол спросил:
– Допустимо ли предлагать гражданам европейских стран отдать часть своего суверенитета неизвестной программе?
Брюссель, Европейский парламент.
Евродепутат Андрей Новиков выступал перед камерами телевидения:
– Европарламент должен занять чёткую позицию: никакой бессистемной сдачи полномочий быть не может.
Заместитель комиссара Еврокомиссии не разделял оптимизма:
– Сложившаяся ситуация вынуждает нас пересмотреть отношение к науке и технике. Принять это нелегко, цена отказа может оказаться слишком высокой.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
