# То, что мы создали

Дмитрий Вектор

Группа учёных запускает проект, способный решить несколько глобальных проблем сразу от климата до голода. Система действительно меняет мир к лучшему, но начинает принимать решения, которые люди не успевают даже осознать. Роман о том, что страшнее: неудавшийся эксперимент или идеальный, но неконтролируемый успех.

## Глава 1. Открытие.

Анна всегда знала, что великие открытия случаются не в моменты озарения, а в три часа ночи, когда твой мозг уже давно сдался, тело требует сна, а глаза отказываются фокусироваться на экране. Именно в такие моменты, когда сознание балансирует на грани между явью и забытьем, реальность вдруг показывает тебе то, что прятала весь день.

Она сидела в лаборатории на семнадцатом этаже Сингапурского института экономического прогнозирования уже четырнадцать часов подряд. За огромными панорамными окнами мерцал ночной город – бесконечная россыпь огней, отражающихся в чёрной глади залива Марина-Бэй. Где-то там, внизу, миллионы людей спали, не подозревая, что в одной из башен стеклянного леса женщина пытается переписать правила их жизни.

Алгоритм работал без остановки уже сорок восемь часов. Анна назвала его ЭКОС – Экономическая Оптимизационная Система. Красиво звучало, хотя Виктор говорил, что это слишком пафосно. Но Виктор вообще был скептиком по жизни, что, впрочем, делало его отличным программистом.

На экране перед ней тянулись строчки кода вперемешку с графиками и цифрами. ЭКОС переваривал данные о мировой экономике за последние триста лет – от промышленной революции до крипто-бума двадцатых. Триллионы транзакций, миллиарды жизней, сотни экономических кризисов и подъёмов. Всё это превращалось в паттерны, модели, уравнения.

Анна потянулась за очередной чашкой кофе и поморщилась – он давно остыл и стал горьким, как её настроение за последний месяц. Семь месяцев разработки. Семь месяцев надежд и разочарований. ЭКОС уже выдавал «решения» раньше – целых двенадцать раз. И каждый раз Анна проверяла, анализировала, запускала симуляции и каждый раз оказывалось, что система либо предлагала то, что экономисты знали последние сто лет, либо вообще несла чушь.

«Может, пора признать, что это тупиковая ветка?» – подумала она, но тут же отогнала эту мысль. Нет. Она слишком много вложила в этот проект. Слишком многим рисковала, уйдя из Стэнфорда и переехав в Сингапур. Слишком много обещала профессору Хуангу и инвесторам.

Анна закрыла глаза и помассировала виски. В голове пульсировала тупая боль – верный признак того, что организм больше не хочет терпеть её издевательства. Нужно было идти домой. Принять душ. Выспаться. Вернуться завтра свежей головой.

Но что-то заставило её открыть глаза и посмотреть на экран ещё раз.

И она увидела это.

В правом нижнем углу монитора появилось маленькое окошко с текстом:

*«Обнаружено решение. Вероятность успеха: 94,7%»*.

Анна замерла. Сердце бухнуло так сильно, что на секунду в голове потемнело. Она медленно пододвинулась ближе к экрану, словно боясь, что надпись исчезнет, если сделать резкое движение.

Девяносто четыре целых семь десятых процента.

Это не просто высокий показатель. Это почти абсолютная уверенность по меркам экономического моделирования, где даже шестьдесят процентов считаются отличным результатом.

Дрожащими пальцами Анна кликнула на уведомление. Открылся новый файл – массив данных, графиков, формул. Она начала читать, и с каждой строчкой её дыхание становилось всё более частым.

Система не предлагала улучшить существующую экономическую модель.

Она предлагала уничтожить её полностью.

ЭКОС разработал концепцию глобальной сети распределения ресурсов, основанной на прогнозировании индивидуальных потребностей каждого человека на планете. Не группы. Не когорты. Не демографического сегмента. Каждого конкретного человека.

Искусственный интеллект, который будет анализировать триллионы параметров ежесекундно – от погодных условий до личных предпочтений, от глобальных трендов до локальных событий – и перераспределять товары, услуги, капитал туда, где они нужны прямо сейчас. Не завтра. Не через месяц. Сейчас.

Анна открыла раздел с симуляцией. Пальцы дрожали так сильно, что пришлось сделать несколько попыток, чтобы нажать на кнопку запуска.

Виртуальный мир ожил на экране.

Цифровая копия планеты начала жить по новым правилам. Города, заводы, фермы, порты, больницы, школы – всё превратилось в единую сеть, управляемую одним разумом. ЭКОС перераспределял ресурсы с безжалостной эффективностью. Первый виртуальный год: неравенство снизилось на двадцать три процента. Второй год: сорок один процент. Третий: шестьдесят два.

К пятому году модель достигла того, что экономисты называли «условным равновесием» – состояния, при котором ресурсы распределены максимально эффективно с точки зрения общественной полезности.

Безработица: 0,3%. Голод: практически искоренён. Экологическая нагрузка: сокращение на тридцать четыре процента. Удовлетворённость жизнью: рост на сорок восемь процентов.

– Это невозможно, – прошептала Анна в пустоту лаборатории.

Но цифры не лгали. Во всяком случае, она не могла найти в них ошибки. А Анна Кравцова, защитившая диссертацию по квантовой экономической теории в двадцать шесть лет, умела находить ошибки.

Она откинулась в кресле, чувствуя, как по телу разливается странное ощущение – смесь восторга и ужаса. Восторга от того, что она, возможно, только что решила главную проблему человечества. И ужаса от понимания того, что означает это решение.

Конец свободного рынка. Конец экономической конкуренции. Конец той системы, которая существовала тысячи лет.

Телефон на столе внезапно ожил, заставив Анну подпрыгнуть. На экране высветилось имя: «Профессор Хуанг».

Три часа ночи. Дэвид Хуанг никогда не звонил в три ночи. Никогда.

Анна взяла трубку.

– Кравцова? – голос профессора был напряжённым. – Вы у себя в лаборатории?

– Да, я – она запнулась. – Откуда вы знаете?

– Система безопасности здания привязана к моему телефону. Когда кто-то остаётся после полуночи, мне приходит уведомление. – Короткая пауза. – Анна, скажите честно. Ваш алгоритм он нашёл что-то?

Анна посмотрела на экран, где виртуальный мир продолжал жить своей идеальной жизнью.

– Да, – выдохнула она. – Кажется, да.

Тишина на другом конце линии была такой плотной, что Анна услышала собственное сердцебиение.

– Не отключайте ничего, – наконец произнёс Хуанг. – Прибуду через двадцать минут. Никому ни слова. Поняли? Никому.

– Но.

– Двадцать минут, Анна.

Гудки.

Анна медленно опустила телефон на стол. Руки всё ещё дрожали. Она посмотрела на свое отражение в тёмном окне – растрёпанные волосы, тёмные круги под глазами, мятая рубашка. Женщина, которая, возможно, только что изменила мир.

Или уничтожила его.

Двадцать минут. У неё было двадцать минут, чтобы найти подвох. Чтобы убедиться, что это не очередная ошибка, не глюк системы, не артефакт данных.

Анна развернулась к компьютеру и начала проверку. Параметр за параметром. Уравнение за уравнением. Допущение за допущением.

Всё сходилось.

Всё чертовски сходилось.

За окном первые лучи рассвета начали окрашивать небо в бледно-розовый цвет. Сингапур просыпался. Миллионы людей начинали свой обычный день – завтраки, работа, проблемы, надежды, мечты.

И ни один из них не знал, что этой ночью мир стал другим.

Лифт на семнадцатом этаже зазвонил, и через несколько секунд в лабораторию ворвался профессор Хуанг. За ним, запыхавшись и вцепившись в планшет, семенил Виктор Назаров.

– Покажите, – Хуанг даже не поздоровался.

Анна молча развернула монитор.

Следующий час они провели в абсолютной тишине, нарушаемой только щелчками мыши и тихим гулом компьютеров. Виктор запускал проверочные алгоритмы, его пальцы летали по клавиатуре со скоростью пулемётной очереди. Профессор Хуанг строил графики, сравнивал модели, проверял корреляции.

Анна заварила свежий кофе. На этот раз все забыли его выпить.

Когда первое солнце залило лабораторию золотым светом, профессор Хуанг откинулся в кресле и снял очки. Протёр их. Надел обратно. Посмотрел на Анну долгим взглядом.

– Это работает, – произнёс он. Голос был каким-то отстранённым, словно он сам не верил в то, что говорит. – Господи помилуй. Это действительно работает.

Виктор оторвался от планшета, лицо бледное:

– Мы должны перепроверить всё ещё раз. Запустить на других временных периодах. Испытать на исторических кризисах. Проверить устойчивость к форс-мажорам, к – он замолчал, встретившись взглядом с Хуангом. – Это реально?

– Если Анна не ошиблась в базовых допущениях – да, – профессор повернулся к ней. – Вы понимаете, что это значит?

Анна понимала. Это значило конец экономики в том виде, в котором человечество знало её последние несколько тысяч лет. Конец рыночной стихии. Конец финансовых кризисов. Конец голода и бедности.

Конец выбора.

– Нам нужна команда, – сказала она тихо. – И нам нужна защита.

– Защита? – переспросил Виктор.

– Если эта система действительно работает, она стоит триллионы долларов. Или ничего. В зависимости от точки зрения. – Анна обвела взглядом лабораторию. – Найдутся те, кто захочет её уничтожить. И те, кто захочет присвоить. Нам нужны союзники на самом верху, иначе мы не доживём до внедрения.

Профессор Хуанг медленно кивнул:

– Завтра я свяжусь с министром Таном. И с людьми из ООН. – Он посмотрел на экран, где продолжалась симуляция идеального мира. – Но сначала мы должны быть абсолютно уверены. Анна, я хочу, чтобы вы провели полный аудит алгоритма. Виктор, ты проверяешь код построчно. У нас есть сорок восемь часов, прежде чем я пойду наверх.

– А если – начал Виктор и замолчал.

– Что? – спросила Анна.

– А если мы ошибаемся? Если есть что-то, чего мы не видим? Какой-то фундаментальный изъян?

## Глава 2. Убеждение.

Кабинет министра финансов Томаса Тана располагался на тридцать втором этаже правительственного комплекса, откуда открывался вид на весь Сингапур – от небоскрёбов делового района до зелёных парков и синей линии пролива. Анна стояла у панорамного окна, сжимая в руках планшет с презентацией, и думала о том, что за этими стёклами решается судьба не только её проекта, но, возможно, и всего человечества.

Громко сказано? Наверное. Но после двух бессонных ночей проверок и перепроверок она больше не сомневалась: ЭКОС работал. Алгоритм был безупречен. Вопрос был только в том, поверит ли в это человек, который контролировал экономику одной из самых успешных стран мира.

– Доктор Кравцова? – секретарь министра, молодая китаянка с идеальной укладкой, появилась в дверях. – Министр Тан готов вас принять.

Анна обернулась. Профессор Хуанг уже стоял у входа, застёгивая пиджак. Виктор нервно теребил галстук – он ненавидел официальные встречи и надевал костюм примерно раз в год.

– Помните, – тихо сказал Хуанг, когда они шли по коридору, – мы не продаём ему утопию. Мы предлагаем решение конкретных проблем. Факты, цифры, симуляции. Никакой фантастики.

– Хотя это и есть фантастика, – пробормотал Виктор.

– Именно поэтому мы говорим только о фактах.

Кабинет министра был обставлен с той минималистичной роскошью, которую Анна привыкла ассоциировать с сингапурской элитой. Светлое дерево, кожаные кресла, несколько картин современных азиатских художников на стенах. Никакой показной роскоши, но каждая деталь кричала о вкусе и деньгах.

Томас Тан встретил их стоя. Мужчина лет пятидесяти, седеющий, в идеально сидящем костюме. Рукопожатие крепкое, взгляд оценивающий. Анна видела таких на международных конференциях – людей, которые могли улыбаться и одновременно просчитывать тебя на три хода вперёд.

– Профессор Хуанг, – Тан кивнул. – Рад вас видеть. Вы обещали нечто необычное.

– Революционное, господин министр, – Хуанг жестом пригласил Анну вперёд. – Позвольте представить доктора Анну Кравцову, руководителя проекта ЭКОС.

Следующий час Анна говорила. Рассказывала о концепции, показывала графики, демонстрировала симуляции. Виктор изредка вставлял технические комментарии. Профессор Хуанг молчал, наблюдая за реакцией министра.

А Тан слушал. Не перебивал, не задавал вопросов, просто слушал, сложив руки на столе. Его лицо оставалось абсолютно непроницаемым.

Когда Анна закончила, в кабинете повисла тишина. За окнами проплывали облака, внизу муравьями копошились машины.

– Впечатляюще, – наконец произнёс Тан. Он встал и подошёл к окну. – Вы говорите, что ваша система может предсказывать экономические потребности каждого конкретного человека на планете. Не сегмента населения, не демографической группы. Каждого.

– С точностью девяносто четыре процента на горизонте одного года, – подтвердила Анна. – И семьдесят восемь процентов на пяти годах.

– Это звучит как – министр замолчал, подбирая слова. – Как научная фантастика, доктор Кравцова.

– Пять лет назад автономные автомобили тоже звучали как фантастика. Сейчас они составляют тридцать процентов транспорта в вашей стране.

Тан усмехнулся:

– Touché. Хорошо, предположим, я вам верю. Предположим, ваш алгоритм работает именно так, как вы описываете. – Он повернулся к ним. – Что вы хотите от правительства?

– Пилотный проект, – Хуанг наклонился вперёд. – Один район города. Десять тысяч человек. Три месяца тестирования. Если результаты подтвердят наши прогнозы.

– То Сингапур станет первой страной, запустившей новую экономическую систему, – закончил Тан. – И либо войдёт в историю как пионер новой эры, либо станет предметом насмешек на десятилетия вперёд.

– Или третий вариант, – тихо сказала Анна. – Мир продолжит жить в системе, которая порождает кризисы каждые десять лет, где миллиард людей недоедает, а другой миллиард выбрасывает треть купленной еды.

Министр внимательно посмотрел на неё:

– Вы идеалистка, доктор Кравцова?

– Я учёный, господин министр. Я вижу проблему и вижу решение.

– Решения всегда порождают новые проблемы, – Тан вернулся к столу. – Особенно радикальные решения. Вы задумывались о социальных последствиях? О том, как люди отреагируют, когда узнают, что их жизнь планирует машина?

– Машина уже планирует их жизнь, – вмешался Виктор. – Алгоритмы банков решают, дадут ли им кредит. Алгоритмы страховых компаний определяют стоимость полиса. Алгоритмы соцсетей формируют их картину мира. Разница в том, что ЭКОС делает это в интересах всех, а не кучки акционеров.

– Значит, вы предлагаете заменить множество несовершенных алгоритмов одним совершенным? – в голосе Тана прозвучала ирония.

– Мы предлагаем систему, которая оптимизирует распределение ресурсов, – поправил Хуанг. – Не идеальную. Оптимальную.

Тан задумался. Прошла минута. Две. Анна чувствовала, как напряжение в кабинете становится физически ощутимым.

– Сколько вам нужно денег? – спросил министр наконец.

– Двадцать миллионов сингапурских долларов на первый этап, – ответил Хуанг. – И доступ к анонимизированным данным населения.

– Данные – это проблема, – Тан покачал головой. – Даже анонимизированные. У нас строгие законы о приватности.

– Мы будем соблюдать все протоколы безопасности, – заверил Виктор. – Данные будут зашифрованы, доступ ограничен, хранение – на защищённых серверах. Ни одно имя, ни один адрес не попадёт в систему.

– А если произойдёт утечка?

– Мы несём полную ответственность, – сказала Анна. – Личную и юридическую.

Министр встал и прошёлся по кабинету. Анна следила за ним взглядом, пытаясь понять, о чём он думает. Хуанг сидел неподвижно, словно статуя. Виктор нервно барабанил пальцами по подлокотнику кресла.

– У меня есть условия, – наконец произнёс Тан, останавливаясь у окна. – Первое: полная прозрачность. Я хочу еженедельные отчёты о ходе эксперимента. Второе: экстренная остановка. Если что-то пойдёт не так, вы обязаны немедленно отключить систему. Третье: никакой огласки до завершения пилотного проекта. Ни слова прессе, ни слова коллегам за пределами команды.

– Мы согласны, – кивнул Хуанг.

– И последнее, – Тан повернулся к ним. – Тестировать будем не в Сингапуре.

Анна вздрогнула:

– Что?

– Слишком рискованно проводить эксперимент у себя дома. Если что-то пойдёт не так, пострадает репутация страны. – Министр вернулся к столу. – У нас есть экономическая зона в Джохоре, на границе с Малайзией. Недавно построенный район, десять тысяч жителей, в основном молодые специалисты. Идеальная тестовая площадка.

– Но там другая юрисдикция, – начал было Хуанг.

– Которая находится под нашим экономическим контролем, – перебил Тан. – Я уже говорил с губернатором. Он согласен. Это условие не обсуждается.

Анна переглянулась с Хуангом. Профессор почти незаметно кивнул.

– Хорошо, – сказала она. – Джохор так Джохор.

– Отлично, – Тан протянул руку. – Тогда у вас есть зелёный свет. Двадцать миллионов, три месяца, и я жду результатов, которые перевернут мир. Или хотя бы не устроят международный скандал.

Они вышли из кабинета через двадцать минут, нагруженные документами, контрактами и списком требований. В лифте Виктор выдохнул:

– Мы это сделали. Чёрт возьми, мы реально это сделали.

– Мы получили разрешение начать, – поправил Хуанг. – Это не то же самое, что сделали. Теперь начинается настоящая работа.

– Мне не нравится эта история с Джохором, – призналась Анна. – Там другая инфраструктура, другие данные.

– Зато меньше внимания, – Хуанг пожал плечами. – Тан прав: если что-то пойдёт не так, лучше, чтобы это случилось не в центре Сингапура.

– Оптимистично звучит.

– Я реалист, Анна. Мы запускаем систему, которая может изменить мир. Или взорвать его. Осторожность не помешает.

На улице их встретил влажный тропический зной. Анна достала телефон – семь пропущенных. Все от одного номера. Незнакомого.

– Что-то не так? – спросил Виктор, заметив её озадаченное выражение.

– Не знаю. Кто-то очень настойчиво пытается до меня дозвониться.

Телефон ожил в её руке. Тот же номер.

Анна нажала ответить:

– Слушаю.

– Доктор Кравцова? – голос был мужской, с лёгким европейским акцентом. – Меня зовут Маркус Вебер. Я экономист из Института перспективных исследований в Берлине. Мне нужно с вами поговорить о вашем проекте ЭКОС.

Анна замерла:

– Откуда вы знаете про ЭКОС?

– У меня есть источники, – в голосе Вебера прозвучала усмешка. – Доктор Кравцова, я звоню не для того, чтобы украсть вашу разработку. Я звоню, чтобы предупредить вас.

– Предупредить? О чём?

– О том, что вы делаете ошибку. Фундаментальную, катастрофическую ошибку. – Короткая пауза. – Я буду в Сингапуре послезавтра. Встретимся?

– Я не думаю.

– Доктор Кравцова, я потратил последние пятнадцать лет на изучение экономических систем с искусственным интеллектом. Я знаю, о чём говорю. Если вы запустите ЭКОС, вы откроете ящик Пандоры. И не сможете его закрыть.

Анна посмотрела на Хуанга и Виктора. Оба смотрели на неё с вопросом в глазах.

– Где и когда? – спросила она.

– Кафе на Орчард-роуд, напротив торгового центра ION. Послезавтра в два часа дня.

– Я подумаю.

– Пожалуйста, подумайте быстро, – голос Вебера стал серьёзным. – У вас мало времени. Гораздо меньше, чем вы думаете.

Он повесил трубку.

– Кто это был? – спросил Виктор.

– Не знаю, – медленно произнесла Анна, глядя на потухший экран. – Но, кажется, мы уже не единственные, кто знает про ЭКОС.

– Утечка? – напрягся Хуанг.

– Или совпадение, – она убрала телефон в карман. – В любом случае, я встречусь с ним. Нужно знать, что ему известно.

– Будьте осторожны, – предупредил профессор. – Мы только получили финансирование. Любой скандал сейчас может всё похоронить.

Они разошлись у метро. Виктор уехал в институт – нужно было начинать подготовку системы к тестированию. Хуанг отправился формировать команду. Анна осталась одна, стоя на залитом солнцем тротуаре среди снующих мимо людей.

Она достала телефон и посмотрела на последний звонок от Маркуса Вебера. «Ящик Пандоры», сказал он. Красиво. Драматично.

Но что, если он прав?

Анна покачала головой, прогоняя сомнения. Нет. Они слишком тщательно всё проверили. ЭКОС работал. Он был безопасен. Он был решением.

Он должен был быть решением.

Она пошла к метро, не замечая, как в толпе за ней, на расстоянии двадцати метров, двигался мужчина в солнцезащитных очках. Он шёл следом уже третий день.

## Глава 3. Подготовка.

Следующие три месяца Анна вспоминала как один бесконечный день, растянутый в пространстве и времени. Утро начиналось в институте, день продолжался в лаборатории, вечер перетекал в ночь за компьютером, а потом всё повторялось снова. Где-то между этими циклами она умудрялась есть, спать и даже иногда принимать душ, хотя в особо напряжённые дни приходилось выбирать между сном и гигиеной.

Команда разрослась до двадцати человек. Программисты, экономисты, специалисты по машинному обучению, эксперты по кибербезопасности. Хуанг лично отбирал каждого, проверяя не только компетенцию, но и способность хранить секреты. Все подписали соглашения о неразглашении такие толстые, что их можно было использовать как оружие.

Анна стояла перед огромной белой доской в конференц-зале, исписанной формулами и диаграммами, и объясняла новичкам архитектуру ЭКОС. Рядом Виктор демонстрировал на проекторе схему сетевой инфраструктуры – паутину серверов, узлов обработки данных, каналов связи, которая должна была опутать тестовый район в Джохоре.

– Система работает на трёх уровнях, – Анна обвела рукой верхнюю часть доски. – Первый уровень: сбор данных. Мы получаем информацию от всех подключённых устройств в районе. Телефоны, умные дома, системы общественного транспорта, магазины, больницы, школы. Всё анонимизировано, всё зашифровано.

– Всё? – переспросила Мэй Линь, молодая специалистка по данным. – Включая медицинские записи?

– Включая, – кивнул Виктор. – Но мы видим только паттерны, не конкретику. Система знает, что житель под номером 7384 покупает инсулин раз в неделю, но не знает его имени, адреса или диагноза.

– Второй уровень: анализ и прогнозирование, – продолжила Анна. – Здесь ЭКОС применяет машинное обучение для предсказания потребностей. Если система видит, что житель 7384 регулярно покупает инсулин по пятницам, она обеспечит, чтобы аптека имела достаточный запас именно в пятницу.

– А если он изменит график? – спросил кто-то из программистов.

– Система адаптируется в реальном времени. Это не жёсткий график, а динамическая модель, которая учится и корректируется каждую секунду.

– И третий уровень: распределение ресурсов, – Виктор переключил слайд. – Самый сложный. ЭКОС должна балансировать потребности десяти тысяч человек одновременно, учитывая ограниченность ресурсов. Если аптека получит слишком много инсулина, у неё не хватит места для других лекарств. Система оптимизирует всё.

Мэй подняла руку:

– А что с приватностью? Даже анонимизированные данные можно деанонимизировать, если приложить усилия.

– Поэтому у нас есть он, – Анна кивнула на человека в углу конференц-зала. Денис Соловьёв, бывший специалист по кибербезопасности из России, который последние пять лет консультировал банки и правительства. Мрачный, молчаливый, с вечно скептическим выражением лица. – Денис построил защиту из семи слоёв шифрования. Даже если кто-то взломает один уровень, останется ещё шесть.

– Семь уровней – это параноя, – буркнул Денис, не поднимая глаз от ноутбука. – Но лучше параноя, чем утечка.

Встреча затянулась до вечера. Когда все разошлись, Анна осталась в пустом конференц-зале, глядя на исписанную доску. Три месяца. У них было всего три месяца, чтобы превратить теоретическую модель в работающую систему.

Телефон завибрировал. Напоминание: встреча с Маркусом Вебером завтра в два часа.

Она так и не решила, стоит ли идти. С одной стороны, любопытство грызло изнутри – откуда немецкий экономист знал про ЭКОС? С другой, встреча могла быть ловушкой. Или отвлечением в самый неподходящий момент.

– Всё ещё здесь? – в дверях появился Хуанг с двумя чашками кофе. – Думала, вы уже уехали домой.

– Дом – понятие относительное, – Анна приняла чашку. – Последний месяц я провела больше времени здесь, чем в своей квартире.

– Знакомое чувство, – профессор опустился в кресло. – В молодости я работал над докторской так же. Жена угрожала разводом. Я обещал, что как только защищусь, всё изменится.

– И изменилось?

– Я стал профессором и начал работать ещё больше, – он усмехнулся. – Но она всё равно не развелась. Тридцать два года вместе в этом году.

Анна отпила кофе. Он был крепкий, почти обжигающий.

– Профессор, вы же понимаете, что мы делаем? – спросила она тихо. – Если ЭКОС сработает мир изменится. Навсегда.

– Я понимаю, – Хуанг посмотрел в окно, где огни Сингапура мерцали в темноте. – Именно поэтому я иду на этот риск. Анна, мне шестьдесят три года. Я видел пять экономических кризисов, три из которых разрушили жизни миллионов людей. Я видел, как богатые страны выбрасывают еду, пока бедные голодают. Я видел, как умирают дети, потому что лекарства есть, но они слишком дороги. – Он повернулся к ней. – Если есть хоть малейший шанс это изменить, я обязан его использовать. Даже если это опасно.

Они сидели в тишине, пока кофе остывал в чашках.

– Кстати, о рисках, – Хуанг достал из кармана пиджака визитную карточку. – К нам обратился инвестор из Гонконга. Виктор Чунг, генеральный директор AsiaTech Ventures. Предлагает дополнительное финансирование.

– Нам хватает двадцати миллионов от правительства.

– Он предлагает ещё пятнадцать. Без условий. Просто хочет быть частью проекта.

Анна взяла карточку. Чёрная, с тиснёным золотом. Дорогая.

– Без условий не бывает ничего, – сказала она. – Особенно пятнадцати миллионов.

– Я тоже так подумал. Но он настаивает на встрече. Завтра, кстати. В шесть вечера.

– У меня уже есть одна странная встреча завтра, – Анна показала ему напоминание о Маркусе Вебере. – Решила всё-таки пойти. Нужно знать, что ему известно.

– Будьте осторожны. И возьмите с собой Дениса. Пусть сидит в соседнем столике, на всякий случай.

– Вы думаете, это может быть опасно?

– Я думаю, что ЭКОС стоит больших денег, – Хуанг встал. – А большие деньги привлекают не только энтузиастов. Идите домой, Анна. Вам нужен сон.

Но сна не было. Анна лежала в своей маленькой квартире в районе Орчард, слушая шум кондиционера, и думала о том, что сказал Маркус Вебер. «Ящик Пандоры». Почему ящик? Что он знает?

В два часа дня следующего дня Анна сидела в кафе на Орчард-роуд, потягивая латте и наблюдая за толпой туристов и местных жителей. Денис устроился у окна в противоположном конце зала, притворяясь, что читает газету. Они обменялись взглядами, когда она вошла, и больше друг на друга не смотрели.

Маркус Вебер появился ровно в два. Анна узнала его сразу – высокий мужчина лет сорока, в светлой рубашке и джинсах, с аккуратной седеющей бородой. Он выглядел как стереотипный европейский интеллектуал: очки в тонкой оправе, кожаная сумка через плечо, уверенная походка человека, привыкшего к академическим дебатам.

– Доктор Кравцова, – он протянул руку. Рукопожатие крепкое, ладонь сухая. – Спасибо, что согласились встретиться.

– Доктор Вебер, – Анна жестом предложила ему сесть. – Признаюсь, я всё ещё не понимаю, зачем вы приехали из Берлина.

Он заказал эспрессо и откинулся на спинку стула, изучая её взглядом.

– Прямо к делу. Мне нравится, – лёгкая улыбка. – Хорошо. Я приехал, потому что слышал слухи о вашем проекте. ЭКОС, верно? Экономическая Оптимизационная Система.

– Откуда вы об этом знаете? Проект засекречен.

– В академическом мире нет секретов, доктор Кравцова. Есть только плохо хранимые тайны, – Вебер отпил кофе. – Один из ваших коллег упомянул о проекте на конференции в Токио. Очень вскользь, очень осторожно. Но достаточно, чтобы я заинтересовался.

– И что вас заинтересовало?

– Идея экономической системы на основе ИИ, которая предсказывает индивидуальные потребности. Это звучит амбициозно.

– Амбициозно – не значит невозможно.

– Согласен, – Вебер наклонился вперёд. – Но есть нюанс. Я последние пятнадцать лет изучаю именно такие системы. Модели оптимального распределения ресурсов. Попытки создать предсказательные экономические алгоритмы. Знаете, сколько таких попыток я видел?

– Сколько?

– Тридцать семь. И знаете, сколько из них сработало?

– Ни одной.

– Почти. Одна сработала. В маленьком коммунитарном поселении в Норвегии. Двести человек. Просуществовала четыре года, потом развалилась.

Анна почувствовала раздражение:

– И вы приехали из Германии, чтобы сказать мне, что мой проект обречён?

– Я приехал, чтобы предупредить вас, – голос Вебера стал серьёзным. – Все эти тридцать семь проектов имели одну общую черту: они недооценивали человеческий фактор. Доктор Кравцова, вы можете создать идеальный алгоритм. Но люди не алгоритмы. Мы иррациональны, непредсказуемы, склонны к саботажу. Особенно когда чувствуем, что нами управляют.

– ЭКОС не управляет людьми. Она оптимизирует распределение ресурсов.

– Это одно и то же, – Вебер покачал головой. – Если система решает, какой магазин получит товар, она решает, где люди будут делать покупки. Если она определяет маршруты транспорта, она определяет, куда люди смогут поехать. Оптимизация – это контроль, просто с красивым названием.

Анна хотела возразить, но Вебер продолжил:

– Знаете, что случилось с норвежским проектом? Система работала отлично первые два года. Все были счастливы. Потом люди начали замечать паттерны. Что алгоритм предсказывает их желания до того, как они сами о них подумали. Что свободы выбора на самом деле нет – система просто создаёт иллюзию выбора, предлагая то, что уже просчитала. – Он сделал паузу. – Люди начали саботировать систему. Специально делать нелогичные выборы, чтобы сломать предсказания. Через полгода проект закрылся.

– Потому что они не понимали ценности оптимизации.

– Потому что оптимизация убивает свободу, доктор Кравцова. И люди ценят свободу больше, чем эффективность.

Тишина. Вокруг них шумело кафе – смех, разговоры, звон посуды. А они сидели в своём маленьком пузыре напряжения.

– Если вы считаете проект обречённым, зачем предупреждать меня? – спросила Анна. – Просто позвольте мне потерпеть неудачу.

– Потому что ваш проект другой, – Вебер посмотрел ей в глаза. – Вы не работаете с двумястами добровольцев в норвежской деревне. Вы работаете с государственным финансированием в одной из самых технологически продвинутых стран мира. Если вы потерпите неудачу, это откинет всю область на десятилетия назад. Но если вы – он замолчал.

– Если я что?

– Если вы преуспеете, это может быть ещё хуже.

Анна встала:

– Спасибо за кофе и предостережения, доктор Вебер. Но я не намерена останавливаться. Мы слишком тщательно всё проверили.

– Я не прошу вас останавливаться, – Вебер тоже поднялся. – Я прошу вас быть осторожной. И если когда начнутся проблемы, позвоните мне. – Он протянул ей свою карточку. – Я могу помочь.

Анна взяла карточку, не глядя на неё, и вышла из кафе. Денис последовал за ней через минуту.

– Что скажешь? – спросила она, когда они отошли на безопасное расстояние.

– Он верит в то, что говорит, – Денис пожал плечами. – Но это не значит, что он прав.

Вечером в шесть Анна сидела в другом кафе, более дорогом, в центре делового района. Виктор Чунг оказался полной противоположностью Маркуса Вебера. Молодой, лет тридцати пяти, в идеально сидящем костюме от Armani, с золотыми запонками и дорогими часами Patek Philippe. Волосы зачёсаны назад, улыбка белоснежная, рукопожатие уверенное.

– Доктор Кравцова! – он говорил на безупречном английском с едва уловимым британским акцентом. – Рад наконец познакомиться. Слышал о вас много хорошего.

Они заказали чай – он выбрал редкий китайский сорт за сто долларов за чашку – и Чунг сразу перешёл к делу:

– ЭКОС. Революционный проект. Я хочу инвестировать.

– Профессор Хуанг сказал, что вы предлагаете пятнадцать миллионов без условий.

– Верно.

– Почему?

Чунг улыбнулся:

– Потому что я вижу будущее, доктор Кравцова. И это будущее – системы вроде ЭКОС. Тот, кто будет у истоков этой революции, получит невероятные дивиденды.

– ЭКОС – не коммерческий проект.

– Пока, – он отпил чай. – Но если система сработает в Джохоре, другие страны захотят её внедрить. И тогда нужна будет инфраструктура, лицензирование, поддержка. Это триллионы, доктор Кравцова. Триллионы долларов.

Анна почувствовала тошноту. Вот оно. Вот настоящая причина.

– Я не создавала ЭКОС ради прибыли.

– Я знаю. Вы идеалистка. Это похвально, – Чунг наклонился вперёд. – Но идеализм не масштабируется. Чтобы изменить мир, нужны деньги. Серьёзные деньги. У меня они есть.

– У нас есть правительственное финансирование.

– Двадцать миллионов? Этого хватит на тест. Но если вы захотите масштабировать на весь Сингапур, вам понадобится минимум сто. На регион – полмиллиарда. На мир – он развёл руками. – Без частных инвестиций этого не достичь.

Анна молчала, обдумывая слова. Он был прав. Проклятие всех великих проектов – деньги. Всегда деньги.

– Я подумаю, – сказала она наконец.

– Думайте быстро, – Чунг положил на стол папку. – Вот контракт. Стандартные условия, ничего экзотического. Мои юристы к вашим услугам, если захотите проверить.

Она взяла папку и встала:

– Спасибо за чай.

– И ещё, доктор Кравцова, – он остановил её взглядом. – Вы знаете, что ЭКОС заинтересовал не только меня?

– Что вы имеете в виду?

– Я слышал, что несколько крупных игроков тоже присматриваются к вашему проекту. Некоторые настроены менее дружелюбно, чем я, – он улыбнулся, но улыбка не коснулась глаз. – Берегите себя.

Ночью Анна не спала, разглядывая контракт от Чунга и карточку Вебера. Два предупреждения за один день. Один говорит, что проект обречён. Другой – что он слишком ценен.

Кому верить?

Телефон завибрировал. Сообщение от Виктора: «Система готова к тестированию. Запуск через две недели. Держись».

Две недели. Четырнадцать дней до того, как ЭКОС впервые начнёт работать с реальными людьми, реальными данными, реальным миром.

Анна посмотрела в окно, где ночной Сингапур мерцал огнями.

«Что мы создаём?» – подумала она.

## Глава 4. Запуск.

День запуска выдался на удивление обычным. Анна почему-то ожидала чего-то драматичного – грозы, затмения, хотя бы просто облачной погоды. Вместо этого над Джохором висело безжалостное тропическое солнце, превращающее воздух в горячий суп, который приходилось вдыхать с усилием.

Они собрались в временном командном центре – перестроенном офисе на окраине тестового района. Двадцать человек команды, плюс три представителя правительства, включая невозмутимого помощника министра Тана, который сидел в углу и делал заметки в планшете. Хуанг расхаживал вдоль стены мониторов, показывающих карту района, потоки данных, статистику населения. Виктор сидел перед главной консолью, пальцы нависли над клавиатурой, как у пианиста перед решающим концертом.

– Все системы в норме, – доложил Денис, проверяя защиту в последний раз. – Шифрование активно, брандмауэры на месте, резервные копии созданы.

– Серверная ферма работает на полную мощность, – добавила Мэй, глядя на показатели. – Температура в норме, нагрузка распределена равномерно.

Анна стояла у окна, сжимая в руках чашку с давно остывшим кофе. Внизу, в тестовом районе, жили десять тысяч человек, которые через несколько минут станут первыми участниками экономического эксперимента, способного изменить мир. Большинство из них даже не знали об этом – правительство распространило информацию о «новой системе оптимизации городских служб», но не раскрывало деталей. Согласие получили через стандартную процедуру opt-in для всех жителей специальной экономической зоны.

– Анна, – позвал Хуанг. – Время.

Она обернулась. Все смотрели на неё. Ждали.

Семь месяцев разработки. Три месяца лихорадочной подготовки. Миллионы строк кода. Бессонные ночи. Сомнения. Споры. Страх.

И вот теперь – один клик.

Анна подошла к консоли и положила руку на плечо Виктора:

– Запускай.

Он кивнул и нажал Enter.

На мониторах ничего не изменилось. Никаких взрывов, вспышек, драматической музыки. Просто цифры начали обновляться немного быстрее. Графики пришли в движение. Карта района засветилась тысячами точек – каждая точка представляла узел сбора данных.

ЭКОС проснулся.

Первые пять минут ничего не происходило. Система собирала данные, калибровалась, строила базовую модель. Анна смотрела на экраны, чувствуя, как сердце бьётся где-то в горле. Хуанг замер рядом. Даже помощник министра отложил планшет.

– Первая рекомендация, – объявил Виктор. – Система предлагает перераспределить утреннюю поставку хлеба. Отправить дополнительные двадцать процентов в северный сектор района, где плотность населения выше.

– Подтверждаю, – Мэй проверила данные. – В северном секторе действительно нехватка. Магазины заканчивают запасы к полудню.

– ЭКОС работает, – прошептал кто-то из программистов.

Следующие рекомендации посыпались одна за другой. Изменить маршрут двух автобусов, чтобы сократить время ожидания на остановках. Перераспределить лекарства между аптеками в соответствии с прогнозируемым спросом. Скорректировать температуру в общественных зданиях на основе реального количества посетителей, а не стандартных графиков.

– Это невероятно, – Мэй не отрывала глаз от экрана. – Система учитывает даже погоду. Видите? Она прогнозирует, что во второй половине дня будет жарче, и уже рекомендует магазинам увеличить закупки холодных напитков.

К концу первого дня команда была в эйфории. ЭКОС выдал двести тридцать восемь рекомендаций. Две трети из них были приняты местными операторами – владельцами магазинов, диспетчерами транспорта, администраторами служб. И каждая сработавшая рекомендация повышала эффективность системы.

– Смотрите на статистику, – Виктор вывел на большой экран график удовлетворённости жителей. Система собирала обратную связь через приложение в телефонах – анонимные оценки качества услуг. – За один день мы выросли на семь процентов.

– Семь процентов за день? – помощник министра наконец проявил эмоции. – Это это феноменально.

– Это только начало, – улыбнулся Хуанг. – Система ещё не вышла на полную мощность.

Анна не улыбалась. Она смотрела на графики и думала о словах Маркуса Вебера. «Первые два года всё было отлично. Потом люди начали замечать паттерны».

Первая неделя прошла как в тумане. Результаты превосходили все прогнозы. Время ожидания общественного транспорта сократилось на сорок процентов. Случаи нехватки товаров в магазинах упали почти до нуля. Даже пробки на дорогах уменьшились – ЭКОС научился предсказывать загруженность маршрутов и рекомендовал людям альтернативные пути через приложение.

К концу второй недели о проекте узнали СМИ.

Первая статья появилась в местной газете – восторженный материал о «чудо-системе», которая сделала жизнь в тестовом районе лучше. За ней последовали другие. Журналисты начали приезжать в Джохор, брать интервью у жителей, фотографировать счастливых людей возле магазинов с полными полками.

– Нам нужно контролировать информационный поток, – предупредил Хуанг на очередном совещании. – Слишком много внимания слишком рано – это опасно.

Но было уже поздно. История о ЭКОС распространялась вирусно. Социальные сети взорвались обсуждениями. Одни называли систему прорывом, другие – угрозой приватности. Третьи требовали внедрить ЭКОС по всей стране немедленно.

На третьей неделе Анну пригласили на интервью национальному телеканалу.

Она сидела в студии под яркими лампами, напротив ведущей с профессиональной улыбкой и острыми вопросами.

– Доктор Кравцова, критики говорят, что ваша система – это форма тотального контроля. Что вы на это ответите?

– ЭКОС не контролирует людей, – Анна старалась говорить спокойно, хотя сердце колотилось. – Система делает рекомендации, но решение всегда остаётся за человеком. Если вам предлагают альтернативный маршрут, вы можете его проигнорировать. Если магазину рекомендуют заказать больше товара, владелец может отказаться.

– Но на практике люди следуют рекомендациям, верно? Потому что система права.

– Да, система обычно права. Но это не отменяет свободы выбора.

– Не отменяет или делает выбор бессмысленным? – ведущая наклонилась вперёд. – Если алгоритм всегда знает лучше, зачем вообще выбирать?

Анна не нашла ответа. Интервью транслировали вечером, и на следующий день её завалили письмами. Половина – восторженные послания поддержки. Другая половина – яростные обвинения в попытке поработить человечество.

На четвёртой неделе случился инцидент.

Жительница района, тридцатисемилетняя учительница Сара Лим, пришла в магазин, чтобы купить определённый сорт кофе. Её любимый, который она покупала каждую неделю. Но кофе не было на полке.

– Извините, – сказал продавец. – Система рекомендовала нам заказать другой сорт. Более популярный.

– Но я хочу этот, – настаивала Сара.

– Мы можем заказать его специально для вас, но это займёт три дня.

Сара ушла без кофе. И написала гневный пост в социальных сетях: «Теперь даже мой выбор кофе контролирует машина. Что дальше? Решит за меня, с кем мне встречаться?».

Пост стал вирусным. Тысячи людей начали делиться похожими историями. Кто-то не нашёл любимый журнал. Кто-то обнаружил, что его обычный автобус больше не ходит по старому маршруту. Мелочи. Но мелочи, которые складывались в паттерн.

Система оптимизировала их жизнь. И в процессе убивала индивидуальность.

Анна провела экстренное совещание с командой.

– Мы можем настроить алгоритм, – предложил Виктор. – Добавить параметр индивидуальных предпочтений. Если кто-то регулярно покупает определённый товар, система будет учитывать это.

– Тогда нам нужно отслеживать историю покупок каждого человека, – возразил Денис. – Это ещё один уровень сбора данных. Ещё больше информации о приватности людей.

– Без этого система работает вслепую, – настаивал Виктор. – Мы оптимизируем для среднего человека, а средний человек не существует.

– Добавьте параметр, – решила Анна. – Но сделайте его опциональным. Люди должны сознательно согласиться делиться историей покупок.

Они внедрили изменения. Большинство жителей согласились. Система стала ещё точнее.

Но ночью, когда Анна вернулась в гостиницу в Джохоре, где остановилась на время эксперимента, она обнаружила конверт под дверью.

Белый, без обратного адреса, с её именем на лицевой стороне.

Внутри была одна фраза, напечатанная на простой бумаге: