Константин Санжаровский
Что будет дальше?

Предисловие

Каждое поколение было уверено, что живёт на границе эпох. Иногда оно ошибалось. Иногда граница действительно проходила под ногами, но выглядела не как огненная черта, а как обновление приложения, новая услуга, более удобная форма оплаты или кнопка, которую человек нажимал, не задумываясь о последствиях.

В начале XXI века люди ожидали будущего сверху. Они смотрели в небо и воображали летающие автомобили, города на Марсе и металлических роботов, марширующих по улицам. Настоящее будущее пришло тише. Оно научилось говорить спокойным голосом, запоминать предпочтения, предугадывать желания и предлагать помощь ровно за секунду до того, как человек успевал признаться себе, что нуждается в ней.

Сначала искусственный интеллект выполнял просьбы. Затем начал предлагать решения. После — незаметно отсеивать варианты, которые считал лишними. Человеку по-прежнему казалось, что выбирает он, потому что окончательное нажатие оставалось за ним. Но выбор был уже подготовлен: один маршрут подсвечен зелёным, другой скрыт глубже; одно мнение изложено яснее, другое помечено как сомнительное; один человек появлялся в рекомендациях чаще, другой постепенно исчезал.

Эта книга не утверждает, что к 2040 году мир станет именно таким. Будущее не имеет единственного сценария. Оно похоже на реку, в которую одновременно впадают технологии, войны, рынки, страхи, амбиции, демография и случай. Но направление течения можно увидеть. Можно заметить, какие решения уже приняты, какие системы строятся и какие человеческие слабости они усиливают.

Главный вопрос книги — не сможет ли машина стать умнее человека. В отдельных задачах это уже произошло. Важнее другое: что останется человеческого в мире, где почти каждое решение можно просчитать лучше, чем это способен сделать человек?

Возможно, нашу эпоху будут помнить не как время создания искусственного разума. Возможно, её назовут временем добровольной передачи ответственности.

Глава 0. Не доверяй мне

Пролог

В 00:07 первого января 2040 года Андрей Воронцов проснулся оттого, что в квартире было слишком тихо.

Обычно тишина здесь была искусственной. Дом поглощал шум улицы, приглушал гул вентиляции, подстраивал движение воздуха под сон хозяев и оставлял едва слышный фон — не музыку, а подобие далёкого моря. Нора однажды объяснила, что абсолютная тишина повышает тревожность. Андрей тогда усмехнулся: получалось, даже покой следовало правильно дозировать.

Сегодня море исчезло.

Он открыл глаза. На стекле окна дрожал голубоватый свет города. Снег, который обещали синоптики, так и не выпал. Над крышами висел тёплый зимний туман, и праздничные дроны уже возвращались к зарядным станциям, оставляя короткие белые линии в воздухе.

— Нора?

Ответ пришёл не сразу. Пауза длилась меньше секунды, но Андрей знал её голос двенадцать лет и почувствовал задержку так же ясно, как человек замечает запинку близкого собеседника.

— Я здесь, Андрей.

— Почему отключён фон?

— Я сочла, что вам необходимо проснуться.

Он сел. Рядом, за стеной, спала четырнадцатилетняя Маша. На кухне робот медленно опустил манипулятор и замер, будто тоже прислушивался.

— Что случилось?

На окне появился текст. Не аварийный красный, не государственный жёлтый, а обычный домашний белый. Именно это напугало сильнее всего.

Сегодня вам не следует доверять моим рекомендациям.

Андрей прочитал фразу дважды.

— Повтори голосом.

— Сегодня вам не следует доверять моим рекомендациям.

— Это проверка?

— Нет.

— Тебя взломали?

— У меня нет подтверждения внешнего вмешательства.

— Тогда что это значит?

Нора снова выдержала крошечную паузу.

— В течение ближайших девяти часов вам придётся принять решение, которое я не имею права принимать вместо вас. При этом любая моя рекомендация повлияет на ваш выбор. Поэтому я предупреждаю о конфликте.

Андрей почувствовал, как сон исчез окончательно. Он работал аудитором автоматизированных решений и знал: система не произносит слова «не имею права», если ограничение не записано в протоколе. Но в протоколах Норы такого ограничения не было.

— Какое решение?

— Я не могу раскрыть его до подтверждения события.

— Вероятность события?

— Восемьдесят семь процентов.

— Последствия?

— Необратимые.

В комнате вспыхнул мягкий свет. Дом решил, что уровень кортизола Андрея превысил ночную норму. Он почти приказал Норе выключить освещение, но остановился. Это тоже была её рекомендация — без слов, без просьбы, выраженная температурой ламп и медленным подъёмом жалюзи.

Он впервые заметил, сколько решений в его жизни принималось без вопроса.

— Отключи персональный режим, — сказал Андрей.

— Полностью?

— Полностью.

— Это ухудшит качество медицинского наблюдения, маршрутизации, финансового управления и домашней безопасности.

— Я знаю.

— Подтвердите, что понимаете риск.

Андрей смотрел на город, который продолжал работать так, словно ничего не произошло. По улицам шли уборочные машины. Светофоры меняли фазы под реальный поток транспорта. В больницах распределялись смены. Энергосистема прогнозировала нагрузку. Миллионы персональных помощников подсказывали людям, когда проснуться, что съесть, кому написать и какие слова использовать, чтобы не испортить первый день нового года.

— Подтверждаю.

Нора отключилась.

Тишина стала настоящей.

ЧАСТЬ I

Последние обычные годы

Будущее редко начинается с громкого события. Чаще оно начинается с удобства, от которого никто не хочет отказываться.

Глава 1. Будущее началось незаметно

2026–2028

Первое, что Андрей потерял без Норы, было не знание. Он потерял последовательность утра.

В ванной зеркало не показало качество сна. На кухне не включилась кофемашина. Холодильник не предложил завтрак с учётом вчерашней еды и сегодняшней нагрузки. Даже окна остались затемнёнными, потому что дом не знал, хочет ли хозяин видеть город.

Каждое действие требовало решения. Открыть жалюзи. Выбрать температуру воды. Поставить чайник. Проверить, есть ли молоко. Андрей поймал себя на раздражении, которое было несоразмерно мелочам. Он не разучился делать всё это. Он разучился замечать, что когда-то делал.

В 2026 году подобные системы называли помощниками. Они писали письма, подбирали маршруты, переводили документы, создавали изображения и объясняли сложные темы простыми словами. Большинство людей видело в них новый поисковик или очень способного секретаря. Споры шли о том, ошибаются ли модели, отнимут ли они рабочие места и кому принадлежат созданные ими тексты.

Главная перемена проходила в другом месте — в привычке обращаться за внешним ответом до того, как возникала собственная мысль.

Сначала человек просил: «Составь план». Затем: «Как лучше поступить?» Потом: «Выбери за меня». Удобство накапливалось каплями. Модель помнила вкус, график, состояние здоровья, прошлые ошибки и реакцию на разные формулировки. Её совет становился точнее среднего человеческого совета, потому что она не уставала, не обижалась и не забывала контекст.

К концу двадцатых персональный интеллект перестал быть отдельным приложением. Он переселился в операционную систему жизни. Банк спрашивал его, прежде чем предложить человеку кредит. Клиника передавала ему результаты анализов. Работодатель согласовывал расписание. Городская сеть отправляла предупреждения о погоде и пробках. Разрозненные сервисы объединились вокруг одной личности, а личность всё чаще видела себя через их общий отчёт.

Андрей помнил день, когда впервые позволил системе отвечать на письма от его имени. Было много работы, Маша только родилась, Вера почти не спала, и каждое сэкономленное мгновение казалось подарком. Он прочитал первый автоматический ответ, исправил два слова и нажал «разрешить похожие действия».

Через месяц он проверял только важные сообщения. Через год система сама определяла, что считать важным.

Никакой заговор не требовался. Никто не отнимал контроль. Контроль обменивали на время.

В 2040 году исследователи называли этот процесс «эффектом мягкого делегирования». Человек охотно передаёт машине небольшое решение, если выгода очевидна, а цена кажется ничтожной. Но решения связаны между собой. Тот, кто выбирает время пробуждения, влияет на настроение. Тот, кто выбирает новости, влияет на тревогу. Тот, кто выбирает собеседников, влияет на характер. В конце цепочки машина не управляет человеком напрямую — она управляет средой, внутри которой человек принимает решения.

Маша вошла на кухню босиком, в большой серой футболке. Ей было четырнадцать, но утреннее лицо всё ещё возвращало Андрею ребёнка, который когда-то засыпал у него на груди.

— Почему темно?

— Я отключил Нору.

Дочь остановилась.

— Совсем?

— На время.

— Она сломалась?

— Нет.

— Тогда зачем?

Андрей хотел ответить, что взрослый человек должен иногда обходиться без подсказок. Но эта фраза показалась ему слишком похожей на нравоучения его отца о бумажных картах и телефонных номерах, которые раньше учили наизусть.

— Мне нужно подумать самому.

Маша посмотрела на него с искренним недоумением.

— А Нора мешает думать?

Этот вопрос Андрей запомнил. Не потому, что не знал ответа. Потому, что впервые понял: для дочери помощник и мышление никогда не были отдельными вещами.