Стивен Хорс Когда AI начинает думать за нас. Как искусственный интеллект меняет наше мышление, память и способность принимать решения

Глава 6. Как рекомендательные системы формируют наши предпочтения

Каждый день человек открывает видеоплатформу, соцсети или музыкальный сервис и почти никогда не задумывается о том, что список предложений перед ним не случаен. За внешне простой лентой рекомендаций стоит сложная система расчетов, которая изучает поведение человека внимательнее, чем сам человек когда-либо изучал себя. Она замечает, на чем задерживается взгляд, какое видео досмотрено до конца, а какое закрыто на второй секунде, какая песня прослушана трижды подряд, а какая пропущена без сожаления. Из этих мельчайших следов складывается портрет, куда более подробный, чем тот, что человек мог бы составить о себе сам, сидя вечером с блокнотом и пытаясь честно описать собственные вкусы.

Идея рекомендательных систем родилась из вполне понятного стремления облегчить выбор. Когда количество доступных фильмов, книг, товаров и статей превысило всякие разумные пределы, стало ясно, что человек физически не способен просмотреть все и выбрать лучшее для себя. Тогда на помощь пришли алгоритмы, способные сортировать огромные массивы информации и предлагать то, что с высокой вероятностью понравится именно этому человеку. На первый взгляд это выглядит как чистое благо: меньше времени тратится на поиск, больше времени остается на то, что действительно приносит удовольствие или пользу. Но за этим удобством скрывается процесс, который постепенно меняет саму природу выбора.

Чтобы понять, как это работает, полезно представить себе рекомендательную систему не как справочник, а как собеседника, который слушает вас годами и с каждым разговором все точнее предугадывает, что вы скажете дальше. Только этот собеседник не просто угадывает — он еще и незаметно направляет разговор в ту сторону, где его прогнозы сбываются чаще. Система устроена так, что ее цель не в том, чтобы сделать человека счастливее или мудрее, а в том, чтобы удержать его внимание как можно дольше. Это принципиальное отличие часто ускользает от внимания пользователя, который искренне уверен, что перед ним просто список того, что ему может понравиться, а не инструмент, оптимизированный под совершенно иную задачу.

Механизм формирования предпочтений начинается с простого наблюдения. Первое взаимодействие человека с системой — просмотр одного ролика, покупка одной книги, лайк одной публикации — становится отправной точкой. Система немедленно предлагает нечто похожее, и если человек откликается на это предложение, цепочка продолжается. С каждым следующим шагом пространство выбора сужается, потому что алгоритм, стремясь угодить, все реже показывает то, что находится за пределами уже нащупанного круга интересов. Так постепенно вокруг человека выстраивается пространство, состоящее почти исключительно из подтверждений уже сложившихся вкусов. То, что должно было расширить кругозор благодаря доступу к бескрайнему множеству вариантов, на деле сужает его, потому что сам механизм отбора работает по принципу повторения удачного опыта, а не разнообразия.

Здесь важно остановиться и разобраться, чем это отличается от обычного человеческого выбора. Раньше, покупая пластинку в магазине или беря книгу с полки библиотеки, человек полагался на собственное любопытство, на случайные советы знакомых, на обложку, которая почему-то привлекла взгляд, на рецензию в журнале, написанную живым человеком со своим вкусом и своими слепыми пятнами. В этом процессе было много случайности, и именно случайность нередко становилась источником открытий, которые невозможно было предсказать заранее. Рекомендательная система работает иначе: она минимизирует случайность, потому что случайность с точки зрения алгоритма — это риск. Показать что-то незнакомое означает рискнуть потерять внимание пользователя, а значит, снизить показатели, по которым оценивается эффективность системы. Поэтому алгоритм почти всегда выбирает знакомое, лишь изредка позволяя себе эксперимент, да и то обычно в узких, заранее просчитанных границах.

Со временем это приводит к формированию того, что можно назвать пузырем вкуса. Человек оказывается внутри пространства, которое кажется огромным — ведь предложений действительно много, — но на самом деле представляет собой множество вариаций на одну и ту же тему. Любитель определенного жанра музыки будет получать бесконечный поток похожих исполнителей, зритель, однажды заинтересовавшийся определенной темой в видео, увидит десятки роликов на ту же тему в разных обертках. Иллюзия разнообразия сохраняется, потому что формально предложений много, но внутреннее разнообразие, то есть подлинная новизна и непохожесть, неуклонно снижается.

Особенно интересно то, как рекомендательные системы влияют не только на выбор конкретного контента, но и на формирование самого представления человека о собственных вкусах. Психологи давно заметили, что люди склонны объяснять свое поведение задним числом, подгоняя объяснение под уже совершенный поступок. Если алгоритм годами показывает человеку определенный тип историй, определенный ритм музыки, определенную манеру подачи информации, человек постепенно начинает искренне считать, что это и есть его подлинный, естественный вкус, сложившийся сам по себе. На деле же значительная часть этого вкуса сформирована внешней системой, которая методично отсеивала все, что не вписывалось в уже намеченную траекторию.

Показателен пример с музыкальными предпочтениями. Человек, который в юности слушал самую разную музыку, экспериментируя и иногда откровенно ошибаясь в выборе, с возрастом нередко замечает, что его музыкальный мир сузился до нескольких проверенных исполнителей и похожих на них новых имен. Отчасти это естественный процесс — с годами вкус действительно кристаллизуется. Но в эпоху алгоритмических подборок это сужение происходит быстрее и жестче, чем происходило бы само по себе, потому что система активно поощряет уже сложившиеся предпочтения и почти не дает шанса случайному, непредсказуемому открытию, способному сдвинуть вкус в неожиданную сторону.

Отдельного разговора заслуживает то, как рекомендательные системы формируют не только эстетические, но и мировоззренческие предпочтения. Если человек однажды проявил интерес к определенной точке зрения на какой-либо вопрос, алгоритм с высокой вероятностью продолжит подкреплять именно эту точку зрения, показывая материалы, которые ее поддерживают, и значительно реже — материалы, которые ее оспаривают. Это происходит не потому, что кто-то специально задумал ограничить кругозор человека, а потому, что материалы, совпадающие с уже имеющимися взглядами, статистически вызывают более сильный отклик: их охотнее досматривают, под ними чаще оставляют одобрительные реакции, ими чаще делятся с теми, кто думает похоже. Алгоритм, обученный на этих данных, делает вполне логичный вывод: раз отклик сильнее, значит, нужно показывать больше подобного. Так формируется среда, в которой собственная точка зрения человека день за днем получает подтверждение, а альтернативные взгляды становятся все более редкими гостями в его информационном пространстве.

Важно понимать, что этот процесс работает незаметно именно потому, что каждый отдельный шаг выглядит совершенно нейтральным и даже полезным. Никто не принимает решение сузить кругозор конкретного человека. Система просто реагирует на статистику откликов, оптимизируя единственный показатель — вовлеченность. Но сумма множества таких нейтральных на первый взгляд шагов приводит к результату, который никто напрямую не планировал: человек оказывается в информационном коконе, устроенном таким образом, чтобы подтверждать, а не проверять уже существующие убеждения.

Здесь полезно провести различие между двумя типами влияния, которое оказывают рекомендательные системы. Первый тип — это влияние на поверхностные предпочтения: какую музыку слушать, какой сериал посмотреть вечером, какую одежду выбрать в интернет-магазине. Второй тип — это влияние на более глубокие убеждения: политические взгляды, отношение к социальным вопросам, представления о том, что считается нормой, а что отклонением. Первый тип влияния относительно безобиден и во многом даже удобен: человек экономит время, получая подборки, действительно соответствующие его вкусу. Второй тип влияния гораздо серьезнее, потому что затрагивает саму способность человека формировать самостоятельное, взвешенное суждение о мире.

Особую тревогу вызывает то, как рекомендательные системы влияют на молодых людей, чья система взглядов еще только формируется. Взрослый человек, обладающий устойчивым опытом и разнообразным кругом общения, способен в какой-то мере противостоять сужающему воздействию алгоритма, потому что у него есть множество источников информации помимо цифровой ленты: разговоры с коллегами, книги, прочитанные не по рекомендации, случайные встречи и споры. У молодого человека, который значительную часть своего дня проводит внутри соцсетей и видеоплатформ, таких альтернативных источников заметно меньше, а значит, влияние алгоритмической подборки на формирование его картины мира оказывается пропорционально сильнее.

Отдельно стоит сказать о том, как рекомендательные системы влияют на формирование потребительских привычек. Интернет-магазины давно используют похожие механизмы, предлагая товары на основе истории покупок и просмотров. Человек, однажды заинтересовавшийся определенной категорией товаров, начинает получать все более узкую и точную подборку предложений именно в этой категории. Это удобно с практической точки зрения, но одновременно формирует у человека ощущение, что его собственные желания возникают спонтанно, тогда как на деле значительная их часть подсказана заранее просчитанной системой, знающей о склонностях покупателя больше, чем он сам готов признать.

Возникает закономерный вопрос: можно ли считать предпочтения, сформированные таким образом, подлинно своими? Философский спор о том, что вообще значит иметь собственный вкус, длится веками и не имеет однозначного ответа даже применительно к более простым временам, когда на человека влияли семья, культура, случайные знакомства. Но есть существенная разница между влиянием, которое исходит от живых людей, книг и случайного опыта, и влиянием, которое исходит от системы, целенаправленно оптимизированной под удержание внимания. Первое влияние многослойно, противоречиво, часто непоследовательно — именно поэтому оно оставляет человеку пространство для внутреннего спора с самим собой. Второе влияние гораздо более последовательно и однонаправленно, потому что у него есть четкая цель, ради которой оно и было создано.

Стоит отметить, что рекомендательные системы не являются злом сами по себе, и было бы ошибкой видеть в них некий тайный заговор против самостоятельного мышления. Их создавали инженеры и исследователи, стремившиеся решить вполне практическую задачу — помочь человеку ориентироваться в океане информации. Проблема не в самом факте существования таких систем, а в том, что их логика работы, изначально нейтральная, при масштабном и постоянном применении начинает менять поведение и мышление людей способом, который не был предусмотрен создателями и который сами пользователи редко осознают в полной мере.

Можно провести аналогию с питанием. Пищевая промышленность научилась создавать продукты, идеально настроенные под особенности человеческого вкуса: определенное сочетание соли, сахара и жира вызывает у мозга сильный отклик удовольствия, из-за чего такие продукты хочется есть снова и снова, даже когда организм в них не нуждается. Рекомендательные системы работают по схожему принципу, только вместо вкусовых рецепторов они настраиваются на особенности внимания и любопытства. Они находят тот тип контента, который вызывает наиболее сильный отклик, и предлагают его в максимальных дозах, не заботясь о том, полезен ли он в долгосрочной перспективе для развития человека.

Важно также понимать, что рекомендательные системы устроены таким образом, чтобы адаптироваться к каждому человеку индивидуально, и в этом их принципиальное отличие от прежних массовых источников влияния, таких как телевидение или газеты. Телевизионная программа была одинаковой для всех зрителей, и это создавало общее информационное пространство, в котором люди, при всех различиях во взглядах, хотя бы видели одни и те же материалы и могли их обсуждать, отталкиваясь от общей основы. Рекомендательная система создает для каждого человека индивидуальную реальность, незаметно отличающуюся от той, что видит сосед, коллега или даже член семьи. Это делает само явление куда менее заметным: трудно распознать сужение собственного кругозора, когда не с чем сравнивать, ведь лента другого человека выглядит совсем иначе, и нет единого ориентира, на фоне которого можно было бы оценить масштаб изменений.