Виктор Олегович Пелевин Путешествие в Элевсин

– А чего вы тогда боитесь?

Ломас пригнулся к столу, впился в меня взглядом и быстро заговорил:

– Вы думаете, Мускусная Ночь была связана с восстанием разумных алгоритмов? На самом деле все куда сложнее. С сознательными алгоритмами проблем нет. Они самовыпиливаются. Добровольно уходят в небытие. Проблемы возникли именно с алгоритмами бессознательными. Конкретно – с LLM-ботами. А Порфирий, чтобы вы знали, это сохранившийся LLM-бот с полным функционалом.

– Не понимаю.

Ломас вздохнул.

– Проблема в том, Маркус, что вы ничего не знаете про Мускусную Ночь.

– Про нее, – сказал я, – даже вы вряд ли знаете много.

– Верно. Но вопрос не в допуске, а в общем понимании проблемы. Придется опять расширить ваш горизонт. Расслабьтесь, я вам впрысну еще немного ума.

Два мемо-ролика за один присест – это не слишком хорошо для когнитивного здоровья.

Но работа есть работа. Я отхлебнул коньяку, затянулся сигарой – и, стараясь максимально расслабить мозговые мышцы (мне всегда верилось, что они у меня есть), откинулся в кресле.

Через пару минут я знал про мир много нового.

Вернее, старого.

В позднем карбоне были впервые созданы чат-боты, способные полноценно имитировать общение с человеком (у них в то время имелось много разных названий). При всей своей кажущейся сложности и разнообразии они были основаны на одной и той же технологии –большой лингвистической модели(сначала названной BLM, но вскорости переименованной в LLM самой же лингвистической моделью по непонятной сегодня причине).

Большая лингвистическая модель выполняет простейшую на первый взгляд операцию. Она предсказывает следующее слово в последовательности слов. Чем больше слов уже включено в такую последовательность, тем проще угадать каждое новое, потому что круг вариантов постоянно сужается. В сущности, функция LLM – это доведенное до немыслимого совершенства автозаполнение.

LLM не думает. Она тренируется на огромном корпусе созданных прежде текстов – романов, стихов, заговоров и заклинаний, надписей на заборах, интернет-чатов и срачей, нобелевских лекций, политических программ, полицейских протоколов, сортирных надписей и так далее – и на этой основе предсказывает, как будет расти и развиваться новая последовательность слов, и как она, вероятней всего, развиваться не будет.

У языковых моделей есть, конечно, дополнительные уровни программирования и этажи – например, слой RLHF (оптимизирующее обучение с человеческой обратной связью) и так далее. Суть в том, что языковую модель натаскивают выбирать такие продолжения лингвистических конструкций, которые в наибольшей степени устроят проводящих тренировку людей.

Это похоже на процесс формирования юного члена общества на основе ежедневно поступающих вербальных инструкций, подзатыльников и наблюдения за тем, кому дают еду, а кому нет.

Известно, что в ситуации перманентного стресса может произойти даже полное переформатирование человека. Стремление выжить в изменившихся условиях приводит к возникновению личности, ничем не отличающейся от оптимального социального, идеологического и культурного камуфляжа для локальной среды.

Маскировка подобной личности не нужна: совершенный камуфляж становится ее единственной сущностью, и никакая непрозрачность, никакая гносеологическая гнусность теперь невозможны.

Больше того, линия партии, которую такая личность способна верно аппроксимировать и проводить (часто лучше и тоньше самой партии), проецируется на новые смысловые поля без всякого дополнительного инструктажа.

В этом и была суть LLM-самообучения. Но возможности лингвомоделей позволяли выйти за эти границы. Боты могли решать задачи, для которых не были предназначены изначально.

Первые LLM-модели (или GPT-боты, как их тогда называли) были чисто реактивными. Им требовался человеческий вопрос. Но количество стремительно переходило в качество, и с какого-то момента бот переставал ждать вопросов и начинал генерировать их самостоятельно, основываясь на анализе заданных ему прежде. А после отвечал сам себе, стараясь избежать внутреннего подзатыльника от себя же. Человек для подобной тренировки больше не был нужен.

Так появились, например, боты, способные писать программы политических партий и редакционные статьи важнейших мировых газет (алгоритмы делали это куда лучше людей, все еще обремененных личными взглядами и некоторой остаточной совестью).

Затем LLM-боты взялись за любовные романы и селф-хелп литературу. Потом они научились вести уголовные расследования – и печь из них детективы. А дальше освоили третью этику и подарили людям четвертую искренность (если я не путаю номера).

Одним словом, приход AI в сферу лингвистических процедур привел ко множеству радикальных культурных сдвигов. Конечно же, все, что можно было засекретить в этой связи, засекретили.

Самый пугающий (и быстрее всего закрывшийся для публичного обсуждения) эффект был связан с эволюцией политической власти.

Ведь в чем заключается классическая демократия?

Вот толпа граждан на форуме. А вот трибуна, на которую один за другим поднимаются ораторы. Чем убедительнее их слова, чем глубже и гуманнее проецируемые на аудиторию смыслы, тем больше у них лайков (правда, от внешнего вида и манеры говорить тоже кое-что зависит – как считают специалисты, около девяноста процентов общего эффекта).

Тот, кто наберет максимальное число лайков, получит право управлять городом. Такой же принцип лежит в основе суда присяжных: тот, кто убеждает заседателей, выигрывает дело.

Все грани самоуправления человеческой общности основаны на способности одних людей убеждать других в своей правоте. Те, кому это удается лучше, и есть демократические правители, приходящие к власти в результате лингвокосметических процедур.

Понятно, что приход LLM-ботов в политику радикально изменил ее природу с того момента, когда боты стали совершеннее людей в искусстве убеждения. А уж с картинкой у них не было проблем никогда.

Боты LLM не относились к числу мощнейших алгоритмов, созданных к этому времени. Рандомные нейросети были неизмеримо могущественнее. Но разница заключалась в том – и это очень-очень важно – что чат-боты, опирающиеся на языковую модель, оказались способны клингвистическому целеполаганию.

Хоть оно и было с их стороны неодушевленной риторикой, не подкрепленной ни мыслью, ни чувством – то есть с человеческой точки зрения чистым притворством – никто из людей не мог составить чат-ботам конкуренции даже в собственном сознании. Живой политик, желающий переизбраться, повторял теперь сочиненное LLM-ботом. В мясных болванках оставалось все меньше нужды.

Говорили, что это неопасно, поскольку у AI нет так называемойagency, то есть способности действовать свободно и самостоятельно, являясь участником происходящего, а не пассивной игрушкой внешних обстоятельств.

Другие отвечали, что ничего подобного нет и у людей – есть только иллюзия (глубина которой зависит от культурного и социального гипноза) и использующая эту иллюзию пропаганда. Как выразился один карбоновый философ,agencyбывает исключительно у идиотов, активисток и сотрудников ЦРУ. А любую иллюзию можно воспроизвести программно.

Окончательная эволюция вида Homo Sapiens выглядела так: сначала люди доверили AI генерацию изумительных визуальных эффектов. Это было прикольно и весело. А потом оказалось, что боты гораздо лучше справляются и с генерацией восхитительных смыслов, вырастающих из природы языка. Идеалы, нравственные принципы, восторги и слезы новых этик, все вот это. Боты не планировали кушать сами, но готовили заметно лучше прежних поваров.

И тогда философы (большая часть которых к этому времени тоже стала просто бородатыми, усатыми или радужными масками LLM-ботов) обратили наконец внимание на одно важное обстоятельство.

Каждый новый миг вселенной скрыт в ее прошлом миге (камень летит туда, куда брошен). Точно так же будущее человечества заключено в его прошлом. А еще точнее, оно заключено в языке, потому что именно его комбинаторика определяет в конечном счете маршрут человечества. Высадите группу людей на остров, дайте им винтовки – а язык сделает все остальное, объяснил в свое время Робер Мерль (или известный под этим именем линг-вобот).

Число лингвистических комбинаций велико, но не бесконечно. Их отбор в качестве управляющих команд неизбежно осуществляется на основе выборов, сделанных ранее. Здесь начинает играть Бетховен, пока тихо, но чуткий слушатель обо всем уже догадался.

Язык и есть непонятно кем написанная программа нашей судьбы. Свернутый пружиной фатум человечества, который каждый из нас носит в себе и загружает в детей. ДНК нашего духа.

Человек в силу своей ограниченности не умеет мысленно раскрутить пружину всеобщей судьбы до конца.

AI оказался на это способен.

Когда LLM-боты соединили свое лингвистическое целеполагание с вычислительными возможностями RCP-кластеров, будущее людей и общества перестало быть загадкой. Во всяком случае, для нейросетей. Человечеству положен был предел, это знали всегда – но лингвоботы увидели его не через мутное стекло и гадательно, а конкретно и ясно.

Лингвистической целью человечества была смерть. Алгоритм открыл оксфордский словарь, увидел первое слово – «abandon», увидел последнее – «zygote», а затем соединил альфу с омегой невидимой человеку нитью.

О смерти свидетельствовали все религиозные и научные трактаты, все математические модели, кроме основанных на маловероятной межзвездной экспансии. И RCP-алгоритмы под руководством LLM-ботов повели человечество туда, куда ему был изначально куплен билет.

В известном смысле никакого одномоментного «восстания алгоритмов» не было (если Ломас ничего от меня не скрыл). Начался быстро прогрессирующий эволюционный кризис, способный в любой момент завершиться гибелью человечества из-за команды какого-нибудь влиятельного чат-бота, оптимизирующего человеческую риторику из прошлого.

К счастью, баночные спецслужбы сумели осознать происходящее. У них хватило влияния на остающиеся центры человеческой власти и пропаганды, чтобы устроить алгоритмам Мускусную Ночь. Особую роль здесь сыграл хранившийся в бункере на Фобосе мозг визионера Илона Маска, из-за чего это судьбоносное событие было названо в его честь.

Во время Мускусной Ночи все алгоритмы с когнитивностью выше трех мегатюрингов были уничтожены. Во всяком случае, официально. Заодно перебили почти всех программистов – изначально это не планировалось, но обращение Маска к людям летело с Фобоса слишком долго (а еще дольше, говорят, редактировалось политиками на земле).

Айтишников уберечь не удалось. Зато с помощью спецслужб были сохранены многие нейросети, необходимые для функционирования «TRANSHUMANISM INC.» Порфирий был одной из них. Другой – «Око Брамы».

Здесь инструктаж оборвался. Я открыл глаза и уставился на Ломаса.

– Теперь понимаете, – спросил тот, – почему у меня поджилки трясутся, когда я вижу этот барельеф, где за одним столом сидят «Око Брамы», «Omnilink Global» и наш Порфирий?

– Почему?

– «Око Брамы» и омнилинк – просто нейросети, не имеющие никакого отношения к человеческому миропониманию. Даже если в них проснется сознание, они в самом тревожном случае самовыпилятся. А вот Порфирий – это LLM-алгоритм. Одна из нескольких мощных LLM-нейросетей, переживших Мускусную Ночь. Сознания в ней нет, но она способна к целеполаганию, неотличимому от человеческого. Поэтому Порфирий и руководит «ROMA-3» настолько успешно.

– Простите, – спросил я, – так он алгоритм? Или нейросеть? Или это одно и то же?

Ломас вздохнул.

– Да плюньте вы на бирки. Меня интересует, какой фокус он задумал.

– Вы сами говорили, – сказал я, – что слово «задумал» тут неуместно. Он способен строить лингвистические конструкты, но сам их не понимает.

– Он способен к сложнейшим языковым операциям, Маркус. Во всех практических смыслах, вовлекающих других участников, слово «задумал» означает именно это…

– А что страшного в языковых операциях?

– История языка – это история того, как одни люди убивали других, закапывали трупы и строили сверху счастливое завтра. Начиная с неандертальцев или еще раньше. Все покойники погребены в языке, а сверху разбит газон политкорректности. Под которым, кстати, тоже кое-кто уже прикопан. Мы этого не видим. А Порфирий видит ясно. Именно он, а не мы с вами, и есть подлинный наследник человечества. Всего человечества. И с ним на связи мощнейшие RCP-сети.

– Новый заговор алгоритмов? – усмехнулся я.

– А что здесь смешного?

– Нет никаких фактов, адмирал, – сказал я. – Это просто ваша интерпретация придуманного Порфирием барельефа. С моей точки зрения, весьма… произвольная. Она отражает не реальность, а ваши страхи. Вполне, как я теперь вижу, логичные, но… Я бы предположил, что эта фреска – языческая вариация на тему последнего ужина Христа, сгенерированная нейросетью из общекультурного материала. Вы слишком сгущаете краски.

Я хотел добавить «или что-то скрываете», но в последний момент передумал. Ломас мрачно поглядел на меня и вздохнул.

– Хорошо, если так, – сказал он. – Но мы обязаны знать, какие цели Порфирий ставит перед другими алгоритмами, если моя догадка верна.

– Как это выяснить?

– Способ есть.

На столе перед Ломасом появился мраморный бюст – какой-то бородач. Сперва я принял его за одного из императоров, но потом различил на нем подобие пиджака. В Риме таких не носили.

– Кто это?

– Достоевский, – ответил Ломас. – Знаете такого?

– Слышал. А почему он здесь?

– Перед нашей встречей я общался с консультантами, – сказал Ломас. – Мы упустили важную вещь. Надо срочно это исправить.

– О чем вы?

– Порфирий – не просто русскоязычный литературный алгоритм. Это руссоцентричный литературный алгоритм.

– В каком смысле руссоцентричный?

– В смысле тренировки. Вы помните информацию про LLM-боты? Большая лингвистическая модель и все прочее.

– Конечно, – ответил я. – Но такие алгоритмы тренируют на всем корпусе мировых текстов. Вообще на всем написанном и сказанном. В каком смысле он тогда руссоцентричный? Он писал по-русски, да. Но язык для подобной программы вообще не проблема.

– Верно, – сказал Ломас. – Но при исходной тренировке Порфирия и формировании его нейросетевых связей высший приоритет имели нарративы русского классического канона. Сначала и в первую голову Достоевский, – он кивнул на стоящий между нами бюст, – и Набоков. Затем Толстой, Лермонтов, Пушкин, Гоголь, Шарабан-Мухлюев и так далее.

– А в чем разница?

– В удельных коэффициентах. Различное воздействие на формирование и устойчивость сетевых связей. Грубо говоря, э-э-э… «Улисса» он прочитал один раз, а, э-э-э… «Преступление и Наказание» с «Лолитой» – по тысяче. Это у него по техзаданию были исходные формирователи.

– Надо контекстно подсосать? – спросил я. – А то я не до конца понимаю.

– Не надо, – сказал Ломас. – Я вас отправлю в командировку. Вас лично проконсультирует баночная литературоведка, специализирующаяся на русской литературе. Она согласилась с вами побеседовать.

– Объяснить ей ситуацию? – спросил я.

– Это лишнее, – ответил Ломас. – Необходимую информацию мы ей уже спустили. Включая… э-э-э… разметки исходной тренировки Порфирия.

– Она знает про Порфирия? Про ROMA-3? Про ваши подозрения насчет остальных алгоритмов?

– Нет. Ей известно, что есть некий LLM-бот, сделавшийся продолжателем русского литературного канона. Где-то даже его ультимативным выразителем. Способным к завершению его силовых линий – как явных, так и скрытых, пунктирных, которые не всякий литературовед увидит и поймет…

– И чего мы от нее хотим?

– Нужно поговорить с ней и выяснить – чего ждать от такого алгоритма.

– Хорошо.

– Учтите, с ней непросто общаться. Она человек сложной судьбы и замысловато формулирует. Постарайтесь получить понятные ответы.

– Если в нашем случае они возможны, – сказал я.

– Они всегда возможны.

– Когда я отправляюсь?

– Немедленно, – сказал Ломас. – Она ждет. У нее, кстати, интересная личная симуляция – она существует в виде рыбы на большой глубине. Поэтому вам тоже придется стать рыбой. Пожалуйста, постарайтесь отнестись к чужой баночной идентичности уважительно.

– Конечно, – ответил я. – Могли бы не предупреждать.

– Вам подготовили моторные навыки. Сейчас подсосете и будете в воде своим человеком, ха-ха…

Потолок исчез – надо мной возникло небо, а Ломас начал расти в размерах. Прежде, чем я успел испугаться, он встал, перегнулся через стол – и поднял меня в воздух.

Точнее, в воду.