Шошана Зубофф
Надзорный капитализм или демократия

© Издательство Института Гайдара, 2025

* * *

В книге содержатся упоминания организаций и лиц, включенных в:

(1) Перечень иностранных и международных неправительственных организаций, деятельность которых признана нежелательной на территории Российской Федерации: Atlantic council of the United States (Atlantic council) («Атлантический совет»); The German Marshall Fund of the United States (GMF) (Германский фонд Маршалла Соединенных Штатов);

(2) Перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»: Meta Platforms Inc. (Facebook);

(3) Реестр иностранных агентов: Муратов Дмитрий Андреевич.

* * *

Александр Павлов. Сиквел надзорного капитализма

С момента оригинального издания книги Шошаны Зубофф «Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти» прошло шесть долгих лет[1]. Работа стала бестселлером, а идеи, в ней изложенные, получили широкое распространение. Популярность книги, помимо всего прочего, оказалась обусловлена пандемией COVID-19, которую многие проживали в онлайне и которая спровоцировала дебаты о пороках и добродетелях цифрового надзора. Доступность, легковесность (в хорошем смысле слова), интересность и яркость мыслей, содержащихся в «Эпохе надзорного капитализма» и подкрепленных большим количеством эмпирического материала и сносок на научные исследования, привели к тому, что «надзорный капитализм» как концепция стал горячей темой для множества научных дисциплин – начиная от очевидной экономики и заканчивая более экзотическими сферами знаниями. Например, есть исследования, в которых авторы используют концепцию Зубофф для обсуждения современных форм социальной работы (Garrett, 2021). Есть исследования, где авторы сравнивают подходы к праву (и правам) Фомы Аквинского и Рональда Дворкина в ситуации надзорного капитализма (Smith, 2023). Есть даже исследования, в которых авторы изучают надзорный капитализм в контексте научно-фантастического кинематографа (Koutsourakis, 2023). Это лишь малая часть из многих любопытных примеров того, насколько мощно пустила корни в научное сообщество и публичный дискурс концепция надзорного капитализма.

Поскольку книга Зубофф вышла до пандемии COVID-19, конечно, автору нужно было учесть важный мировой опыт, полученный в 2020 году, а также поддержать интерес к концепции, не упуская шанса развить идею в тот момент, когда к ней приковано всеобщее внимание. Так, в 2022 году Шошана Зубофф опубликовала объемную статью – фактически брошюру – «Надзорный капитализм или демократия? Противостояние институциональных порядков и политика знания в нашей информационной цивилизации» (Zuboff, 2022). Мы, к счастью, не сильно отстаем от англоязычного интеллектуального мира. Русский перевод «Эпохи надзорного капитализма» вышел в начале 2022 года, то есть через три года после публикации оригинала. Перевод работы «Надзорный капитализм или демократия?» выходит тоже спустя три года. Российская ученая общественность и прочие заинтересованные лица имеют возможность прочитать долгожданный сиквел бестселлера и узнать, было ли добавлено в концепцию что-то принципиально новое или же новая книга является частью франшизы в плохом смысле этого слова – выпуск продолжения ради прибыли и внимания, но не ради искусства, а в нашем случае – идеи. Спешу обрадовать всех потенциальных читателей. «Надзорный капитализм или демократия?» – из тех сиквелов, в которых не эксплуатируется успех оригинала, и история получает любопытное развитие как в плане эмпирического материала, так в отношении свежих идей. Что Шошана Зубофф сказала нового?

Чуждая марксистской критике капитализма, не так давно Шошана Зубофф приветствовала здоровый капитализм, агенты которого нашли адекватный подход к индивидуальным, а не массовым потребителям. В 2013 году Зубофф забила тревогу по поводу усиления социальной власти технологических компаний (Morozov, 2019; наст. изд., с. 238–311), а в 2015-м начала использовать термин «надзорный капитализм», а вместе с тем другие неологизмы своей концепции («Большой Другой» не в психоаналитическом значении и проч.: Zuboff, 2015), хотя даже не была первой, кто работал с понятием «надзорный капитализм». Итогом ее работы оказалась названная выше книга, ставшая, как уже говорилось, интеллектуальным хитом. Если очень кратко, то суть концепции такова. Дорогу надзорному капитализму проложили неолиберализм и война с террором после 9/11. Надзорный капитализм начинается с открытия «поведенческого излишка». Под последним подразумевается отслеживание пользовательского поведения в Сети. Поведенческий излишек – это знания о пользовательском поведении, которые уже не необходимы для конкретных задач интернет-компании, изучающей поведение пользователей для улучшения работы интерфейса. Открыть излишек было недостаточно. Нужно было найти способ, как его использовать, чтобы получить прибыль. Тогда в дело вступает «новое средство производства» – машинный интеллект, который на основании существующего излишка прогнозирует поведение пользователей. Прогнозы продаются бизнесу, закупающему рекламу. То есть в реальности надзорный капитализм работает B2B и создан не для людей, чье поведение в Сети фактически и стало товаром. По мнению Зубофф, кстати, масштаб накопления поведенческого излишка свидетельствует о том, что популярная концепция «экономики внимания» (суть которой в том, что ввиду роста информации главным дефицитом становится внимание; см., напр.: Williams, 2018) ложная, так как технологические компании интересуются не вниманием. Собственно, в словосочетании «надзорный капитализм» слово «капитализм» немного важнее, чем слово «надзорный». И важно, что «надзор» предполагает не конспирологическую паранойю, но очевидное – все наше поведение в Сети фиксируется, а на его основе делаются какие-то выводы, полезные для коммерческой деятельности.

В 2019 году Шошана Зубофф писала про двух главных агентов цифрового капитализма – Facebook и Google. Можно сказать, что цифровой капитализм – это олигополия, а иногда и дуополия нескольких или двух крупных технологических компаний. В «Эпохе надзорного капитализма» Зубофф хвалила компанию Apple за то, что та стала символом здорового капитализма, ориентированного на индивидуальные особенности потребителей. От себя отмечу, что, в отличие от Facebook и Google, деятельность Apple лишь отчасти связана с платформами, и главным образом компания производит реальные продукты, а не только программные. В 2022 году все изменилось. И это одна из главных инноваций в концепции Зубофф. «Надзорный капитализм или демократия?» начинается с атаки на Apple. Цитируя нынешнего главу компании Тима Кука, Зубофф отмечает, что цифровые гиганты стремятся изъять функции действующих политических и правовых институтов якобы ради каких-то благих целей – мифического расширения прав потребителей. На деле речь идет о том, что функции, относящиеся к публичному праву, переходят в пространство рынка, и в итоге не ограниченные правом институты рынка – а фактически конкретные олигополии – присваивают эти функции. С 2019 по 2022 год изменилось и то, что вслед за Facebook и Google логику надзорного капитализма стала перенимать не только Apple, но и Microsoft, Amazon и другие – не только цифровые – компании.

Еще одна инновация концепции в том, что теперь Шошана Зубофф выделила четыре стадии развития надзорного капитализма и некоторым образом упорядочила прежний и новый эмпирический материал, расписав стадии по конкретной схеме – экономическая операция, характерная для каждой стадии, и два вектора развития капитализма на каждой стадии. Вместо идеи «трех модернов», изложенных в «Эпохе надзорного капитализма» (Зубофф, 2022, с. 46–73), Зубофф сосредотачивается на истории (с 2001 года) и предыстории (с классических либертарианцев) возникшего институционального порядка. Зубофф характеризует свой подход как «единое поле», описывая экономическую логику не как экономист и обращаясь к социальным и политическим последствиям надзорного капитализма. Кроме всевозможных кейсов, разобранных в медиа, Зубофф также провела шесть глубинных интервью с экспертами – специалистами по наукам о данных из Кремниевой долины и высокопоставленными европейскими чиновниками. Она активно цитирует этих экспертов на протяжении всего текста. Итак, каковы четыре стадии надзорного капитализма и особенности каждой из них?

Четыре стадии институционального развития надзорного капитализма суть: 1) превращение поведения человека в товар; 2) концентрация производства и потребления вычислительного знания; 3) дистанционная активация поведения; 4) системное доминирование. Для каждой стадии характерны свои экономические операции, благодаря которым надзорный капитализм получает два вектора развития – «вектор управления» и «вектор социального вреда». Первый относится к новым управленческим функциям, которые становятся возможны благодаря конкретным экономическим операциям. Второй – вред, который приносят обществу агенты надзорного капитализма на каждой стадии. Проблема заключается в том, что вред каждой стадии невозможно исправить без того, чтобы не исправить вред, который был нанесен обществу на предыдущих стадиях. Вред же может быть устранен в цепочке искоренения экономических операций в обратном порядке. Тем самым борьба с надзорным капитализмом должна вестись последовательно и в определенном направлении. Зубофф обеспокоена тем, что демократические государства сами пасуют перед надзорным капитализмом, а иногда даже передают ему управленческие функции. Однако Зубофф также полагает, что демократия не только может, но и должна начать противостояние надзорному капитализму. Итог противостояния будет один – либо демократия, либо надзорный капитализм. Сценарий, при котором существует и то и другое, невозможен.

По самим названиям стадий не вполне ясно, что именно имеется в виду, и потому они требуют краткого пояснения. На первой стадии происходит масштабное извлечение данных (излишков). Это обеспечивает поведенческое прогнозирование. На второй стадии агенты надзорного капитализма начинают аккумулировать и потреблять знание. Например, компании нанимают ученых, переманивают экспертов и проч. То есть секретные и важные знания на второй стадии производятся благодаря извлечению данных. Далее на эти знания распространяются права собственности, поскольку они имеют существенную практическую ценность. Так создается беспрецедентная концентрация нелегитимного (но при этом не нелегального) знания. На третьей стадии нелегитимное знание превращается в нелегитимную власть, а на четвертой мишенью становится сам демократический порядок. Зубофф описывает четвертую стадию через альянс Apple и Google и демократий Европейского союза, когда компании стали диктовать свои условия правительствам западных стран.

Да, надзорный капитализм расцветает не только в США. Широкомасштабным накоплением персональных данных от частного сектора балуются правительства множества стран. Среди них Франция, Германия, Израиль, Италия, Бразилия, Канада, Австралия, Индия, Япония и Южная Корея. Правительство каждой из названных стран, согласно Шошане Зубофф (сама она ссылается на другие исследования), практиковало «массовый сбор» данных. Зубофф пишет, что «Соединенные Штаты и другие западные демократии оказались в противоречивом и двойственном положении, разрываясь между цифровыми соблазнами социального контроля, основанного на надзоре, и принципами либеральной демократии, основанными на правах» (наст. изд., с. 22). Соблазненная надзорным капиталом, демократия добровольно уступила бизнесу свободу от ограничений на вторжение в частную жизнь человека и далее передавала ему все больше и больше всевозможных прав. Из-за этого, по мнению Зубофф, ныне у мирового сообщества теперь нет внятной альтернативы китайскому видению цифрового столетия, что вызывает у нее сильное беспокойство. Но что беспокоит одних, радует других. Например, экономист и социальный мыслитель Янис Варуфакис радостно приветствует китайскую альтернативу технофеодализму, как называет он новый экономический порядок, созданный «Big Tech» (Varoufakis, 2023; Варуфакис, 2025). Не так важно, надзорный капитализм или технофеодализм, но определенно нынешний институциональный социально-экономический порядок нравится далеко не всем. Как и многие, Зубофф предлагает осуществить законную отмену тайного масштабного извлечения данных, что позволит вырваться из гравитационного поля наступающей антиутопии. Это, между прочим, еще одна инновация в концепции Зубофф – она горячо приветствует законодательные инициативы Европейского союза, направленные против надзорного капитализма. Например, в 2022 году Европейский парламент принял Закон о цифровых услугах и Закон о цифровых рынках, которые сильно ограничили права технологических гигантов и их экосистем.

Кроме названных инноваций Зубофф предложила концептуальное уточнение по поводу человеческих прав, ущемляемых надзорным капитализмом. В «Эпохе надзорного капитализма» она почти не упоминала термин «элементарные права» (на знание о собственном опыте или, как она называет это, право на знание о себе: Зубофф, 2022, с. 22). В работе «Надзорный капитализм или демократия?» она развивает термин. Элементарные права на знание о себе относятся к более широкому классу «эпистемических прав», которые обеспечивают неотъемлемые права на различные формы знания. К таким правам относятся следующие права, обсуждаемые исследователями: право на забвение, право на будущее, право на святилище, право на применение человеческого интеллекта, право на свободу мысли, право на истину, право на пересмотр своей идентичности. При упоминании всех этих терминов Зубофф дает ссылки на исследования. Чтобы узнать подробнее о каждом понятии, можно пройти по этим ссылкам, часть из которых ведет к «Эпохе надзорного капитализма». Нас же интересует более общий термин. Слово «элементарные» Зубофф использует для того, чтобы показать отличие неявных прав от юридически закрепленных прав. Ссылаясь на короткий фрагмент из книги Джона Сёрла «Создавая социальный мир» (Searle, 2010), Зубофф утверждает, что неявные права в какой-то момент могут стать явными. Когда тому, что должно стать явными правами, что-то систематически угрожает, тогда-то они и закрепляются как права. Например, пока никто не посягает на элементарные права типа дышать или двигаться, они не требуют юридического закрепления. В общем эти самые элементарные права на знание о себе как часть эпистемических прав были массово экспроприированы и сконцентрированы в возникающем порядке надзорного капитализма, в итоге превратившись в «корпоративные права».

С тех пор как вышла книга Зубофф, надзорный капитализм, как уже говорилось, стал невероятно популярен. Но это не единственный тип цифрового капитализма. У нас есть и другие виды – платформенный, коммуникативный, кликбейтный и прочие капитализмы или упоминаемый выше технофеодализм. Однако, если сравнивать, ученые и публицисты чаще используют концепцию «надзорный капитализм» и как эпоху, и как социальный порядок. Кто-то строит на основе данной концепции свои исследования, кто-то ее дополняет (например, марксистским измерением: Venkatesh, 2021) или, конструктивно критикуя, переосмысливает (как сделал, скажем, писатель и публицист Кори Доктороу: Doctorow, 2020). Есть даже такие авторы, которые, ссылаясь на Зубофф, считают, что недостатки надзорного капитализма преувеличены, а его преимущества игнорируются, и потому предлагают позитивную оценку деятельности таких компаний, как Google, YouTube и Twitter/X (Königs, 2024). И хотя Шошану Зубофф регулярно критикуют, никто не усомнится в том, что она предложила очень влиятельную концепцию, с которой необходимо считаться. Так, популярный ныне философ Бён-Чхоль Хан, который обычно цитирует мыслителей лишь для того, чтобы сказать, что они не правы, сочувственно ссылается на «Эпоху надзорного капитализма» (Han, 2022). Таким образом, Шошана Зубофф, кто бы что ни говорил, заслужила себе статус ведущего современного социального мыслителя. Так, в книге 2022 года «50 ключевых фигур в культуре киберпанка» Зубофф заняла почетное место среди знаменитых писателей, режиссеров и философов типа Маршалла Маклюэна, Жана Бодрийяра и Сэди Плант (Walton, 2022). И то, что сиквел «Эпохи надзорного капитализма» наконец появится на русском, – отличная новость для всех, кто интересуется миром, в котором живем.

И последнее. В издании, которое вы держите в руках, есть два приложения. Первое – это статья «„Пусть они попляшут“: надзорный капитализм, возникновение инструментарной власти и угроза правам человека» Шошаны Зубофф. По большому счету, в этом тексте нет ничего такого, чего не было бы в «Эпохе надзорного капитализма». Работа вышла в тот же год, что и «Эпоха надзорного капитализма», и посвящена тем же темам – правам и инструментарной власти. Однако если, например, вы не осилили «Эпоху надзорного капитализма» (как отмечает один исследователь, «почти 700 страниц „Эпохи надзорного капитализма“ ни в коем случае не являются „быстрым чтением“» [Slaughter, 2021, p. 81]), то, публикуемая вместе с работой «Надзорный капитализм или демократия?», эта статья станет для вас незаменимым авторефератом или авторским конспектом масштабного исследования Зубофф 2019 года. Надо признать, прекрасное подспорье исследователю, обратившемуся к изучению надзорного капитализма. Второе приложение – объемная рецензия публициста Евгения Морозова на «Эпоху надзорного капитализма». В оригинале текст вышел в 2019 году (Morozov, 2019), а в 2020 году его часть была опубликована в приложении к журналу «Логос» – Logos Review of Books (Морозов, 2020). Читатели, не ставшие утруждать себя знакомством с английским текстом, наконец-то могут прочесть рецензию на русском языке в полном виде. Я бы не хотел портить удовольствие от чтения и пересказывать Морозова. Однако отмечу, что и этот текст, во-первых, прекрасно справляется с кратким пересказом «Эпохи надзорного капитализма» и даже реконструкцией его порочной логики, а во-вторых, предлагает аргументированную, довольно едкую и очень жесткую критику концепции Шошаны Зубофф. Возможно, знакомство с данным сборником имеет смысл начать именно с текста Морозова, чтобы понять весьма спорные места рассуждений Зубофф образца 2019 года, а затем узнать, были ли недочеты теории как-то пересмотрены в сиквеле «Эпохи надзорного капитализма».

Александр Павлов, д. филос. н., руководитель Школы философии и культурологии факультета гуманитарных наук НИУ ВШЭ, руководитель сектора социальной философии Института философии РАН

Литература

Варуфакис Я. (2025). Технофеодализм. Москва: Ad Marginem.

Зубофф Ш. (2022). Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. Москва: Издательство Института Гайдара.

Морозов Е. (2020). “Новое платье капитализма”. Logos Review of Books, 1, 23–27.

Doctorow C. (2020). How to Destroy Surveillance Capitalism. New York: Stonesong Digital.

Garrett P. M. (2021). Dissenting Social Work. Critical Theory, Resistance and Pandemic. New York: Routledge.

Han, B.—C. (2022). Infocracy: Digitization and the Crisis of Democracy. Cambridge: Polity Press.

Königs P. (2024). “In Defense of ‘Surveillance Capitalism’”, Philosophy and Technology, 37, 122. https://doi.org/10.1007/s13347-024-00804-1.

Koutsourakis A. (2023). “Cinema and Surveillance Capitalism: Consumer Behaviorism and Labor Alienation in Paranoia 1.0 (2004) and The Circle (2017).” Quarterly Review of Film and Video, 40 (6), 764–787.

Walton J. L. (2022). “Shoshana Zuboff, 1951–,” in A. McFarlane, G. J. Murphy, L. Schmeink (eds.). Fifty Key Figures in Cyberpunk Culture. London: Routledge, 257–262.

Morozov E. (2019). “Capitalism’s New Clothes.” The Baffler, February 4. https://thebaffler.com/latest/capitalisms-new-clothes-morozov.

Searle J. R. (2010). Making the Social World: The Structure of Human Civilization. Oxford: Oxford University Press.

Slaughter R. A. (2021). Deleting Dystopia. Re-Asserting Human Priorities in the Age of Surveillance Capitalism. Toowoomba: University Of Southern Queensland.

Smith K. L. (2023). “Thomas Aquinas, Ronald Dworkin, and the Fourth Revolution: The Foundations of Law in the Age of Surveillance Capitalism.” Laws, 12 (3), 40. https://doi.org/10.3390/laws12030040.

Varoufakis Y. (2023). Techno-Feudalism: What Killed Capitalism. London: Bodley Head.

Venkatesh N. (2021). “Surveillance Capitalism: a Marx-inspired account.” Philosophy, 96 (3), 359–385.

Williams J. (2018). Stand Out of Our Light: Freedom and Resistance in the Attention Economy. Cambridge: Cambridge University Press.

Zuboff S. (2015). “Big Other: Surveillance Capitalism and the Prospects of an Information Civilization.” Journal of Information Technology, 30 (1), 75–89.

Zuboff S. (2022). “Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization.” Organization Theory. 2022, 3 (3). https://doi.org/10.1177/26317877221129290.

Непреднамеренная антиутопия: надзорный капитализм как институциональный порядок

В информационной цивилизации индивидуальное и коллективное существование репрезентируется и опосредуется информацией. Но что можно знать? Кто знает? Кто решает, кто знает? Кто решает, кто решает, кто знает? Эти четыре вопроса описывают политику знания в цифровую эпоху. Какое знание производится? Как это знание распределяется? Кто уполномочен управлять этим распределением? Каков источник власти, стоящей за этими полномочиями? Борьба за ответы на эти вопросы будет формировать «общественное разделение знания» (the division of learning in society) как фундаментальный конструкт социального порядка в информационной цивилизации. Тем не менее в настоящее время именно гиганты надзорного капитализма – Google/Alphabet, Facebook/Meta, Apple, Microsoft, Amazon – контролируют ответы на каждый из этих вопросов, хотя никто не избирал их на роль правителей.

Эта ситуация отражает более широкую тенденцию. С момента появления общедоступного интернета и Всемирной паутины в середине 1990-х годов либеральные демократии не смогли сформировать целостное политическое видение цифрового столетия, которое продвигало бы демократические ценности, принципы и управление. Этот провал создал пустоту там, где должна была быть демократия, – пустоту, которую быстро заполнил и жестко удерживает надзорный капитализм. Горстка компаний эволюционировала из крошечных стартапов в глобальные вертикально интегрированные надзорные империи с капитализацией в триллионы долларов, процветающие на базе экономического конструкта, настолько нового и неправдоподобного, что он долгие годы ускользал от критического анализа: превращение поведения человека в товар (the commodification of human behavior). Эти корпорации и их экосистемы теперь образуют всеобъемлющий политико-экономический институциональный порядок, распространяющийся на различные секторы и экономики. Институциональный порядок надзорного капитализма представляет собой информационную олигополию, от которой зависят как демократические, так и нелиберальные правительства в вопросах масштабного извлечения данных, генерируемых людьми, их обработки и прогнозирования (Cate and Dempsey, 2017).

Последствия этого демократического провала усиливаются в глобальном контексте. Начиная по меньшей мере с 2010 года Китай целенаправленно развивал собственную теорию и практику разработки и внедрения цифровых технологий, которая развивает его внутренние системы авторитарного правления и экспортирует их в десятки стран практически во всех регионах (Hoffman, 2022; Menendez, 2020; Mozur et al., 2019; Murgia and Gross, 2020; Sherman and Morgus, 2018). В то же время Соединенные Штаты и другие западные демократии оказались в противоречивом и двойственном положении, разрываясь между цифровыми соблазнами социального контроля, основанного на надзоре, и принципами либеральной демократии, основанными на правах.

Из-за политического провала, создавшего пустоту, ключевые первые десятилетия цифрового века оказались во власти надзорного капитализма. Из-за него все более взаимосвязанное мировое сообщество осталось без явной альтернативы китайскому видению цифрового столетия. Не имея пути к будущему, которое было бы одновременно демократическим и цифровым, демократии бросили целые общества на произвол новых форм насилия со стороны как государства, так и рыночных игроков – насилия, опосредованного цифровыми технологиями. Особую опасность представляет возможное слияние государственной власти и рыночных сил в надзорном государстве цифровой эпохи, отличающемся беспрецедентным неравенством в знаниях о людях и инструментарной властью поведенческого контроля, которую дают эти знания (Zuboff, 2019; Зубофф, 2022). Без новых общественных институтов, хартий прав и правовых механизмов, созданных специально для демократического цифрового века, граждане остаются беззащитными, становясь легкой добычей для всех, кто охотится за человеческими данными. В результате и либеральные демократии, и все общества, участвующие в борьбе за создание, защиту и укрепление демократических прав и институтов, теперь движутся к будущему, которое их граждане не выбирали и не выбрали бы: к непреднамеренной антиутопии, принадлежащей и управляемой частным надзорным капиталом, но поддерживаемой демократическим попустительством, цинизмом, сговором и зависимостью.

Как экономическая сила, надзорный капитализм обладает олигополистической властью практически над всеми цифровыми пространствами информации и коммуникации (Manns, 2020). Однако тем, кто анализирует ситуацию исключительно через призму концентрации экономической власти и ее регулирования посредством экономического и антимонопольного законодательства, следует учитывать и другие аспекты. Когда экономические операции, приносящие доход, основываются на превращении человеческого в товар, классическое экономическое поле искажается. Концентрация экономической власти создает параллельную концентрацию власти в сфере управления и социального контроля. Институциональное развитие надзорного капитализма сплетает эти три вектора власти в многоголовую силу, которая, действуя через экономические операции, вступает в конкуренцию с демократией за управление и социальный контроль. Олигополия в экономической сфере трансформируется в олигархию в общественной.

Особенности рыночной власти гигантов отражают различие между их различными индивидуальными бизнес-моделями, с одной стороны, и их общим участием в доминирующей экономической логике надзорного капитализма, получаемыми от нее преимуществами и связанными с ней стратегиями институционального воспроизводства – с другой. Эти институциональные элементы распространяются через экосистемы гигантов и охватывают растущее большинство предприятий во всем коммерческом пространстве (Power, 2022). Хотя этот институциональный порядок действует как олигополистическая сила, что уже отражено в термине “Big Tech”, отдельные компании при этом могут обладать монопольной или дуопольной властью в более узких конкурентных сферах своих конкретных бизнес-моделей – например, в массовой розничной торговле, мобильных услугах и таргетированной онлайн-рекламе. В результате надзорный капитализм теперь опосредует практически все взаимодействие человека с цифровыми архитектурами, информационными потоками, продуктами и услугами, и практически все пути к экономическому, политическому и социальному участию пролегают через его институциональные владения.

Эти условия практической и психологической безысходности создают ауру неизбежности, которая является одновременно ключевой опорой риторической структуры надзорного капитализма и критически важным элементом любого институционального воспроизводства (Zuboff, 2019, p. 221–224; Зубофф, 2022, с. 291–295). Джепперсон отмечает, что институционализация противоположна действию. Институциональный порядок считается устойчиво институционализированным, когда его долговечность и развитие не зависят от «периодической коллективной мобилизации», а поддерживаются самовоспроизводящимися внутренними рутинами (Jepperson, 2021, p. 39). «Институты, – пишут Бергер и Лукман, – контролируют человеческое поведение, устанавливая предопределенные его образцы… этот контролирующий характер присущ институционализации как таковой». Они отмечают, что внешние формы человеческого действия требуются только тогда, когда «процессы институционализации не вполне успешны» (Berger and Luckmann, 1966, p. 55; Бергер и Лукман, 1995, с. 91–92).

Тем не менее эти формирующие процессы не означают ни предрешенности пути, ни его обособленности. Институциональные порядки формируются и развиваются, но могут также подвергнуться «деинституционализации» или даже «реинституционализации» в новой форме (Jepperson and Meyer, 2021). Такие радикальные изменения траектории провоцируются противоречиями, которые явно оспаривают или неявно подрывают ауру неизбежности. Например, внешние потрясения могут разрушить неизбежность и ослабить институционализацию. Сдвиги могут быть инициированы коллективным действием, усилением противоречий с конкурирующими институциональными порядками или накоплением внутренних противоречий, порождающих конфликт между институциональными элементами. В каждом случае фундаментальных изменений сила противоречия достаточно значительна, чтобы угрожать механизмам самовоспроизводства. В этих обстоятельствах институциональный порядок вынужден прибегать к активным мерам для защиты территории, некогда считавшейся неизбежной, неприкосновенной и непобедимой. Действие сигнализирует об угрозе, и, поскольку действие слабее институционализации, исход таких противостояний неопределен. Возвращение на путь развития? Деинституционализация и разрушение? Последующая реинституционализация? Возможен любой из этих исходов.

Такая динамика противоречий требует рассмотрения институционального развития надзорного капитализма как части более масштабного противостояния институциональных порядков. В частности, двадцатилетний путь развития надзорного капитализма можно понять только в связи с тем институциональным порядком, который дал ему жизнь и взрастил его до зрелости, – либерально-демократическим государством.

В этой работе рассматриваются способы, посредством которых институционализация надзорного капитализма привела к деинституционализации демократического порядка через эрозию информационных, социетальных, поведенческих и управленческих возможностей, необходимых для поддержания и воспроизводства демократии. При таком рассмотрении направление развития надзорного капитализма предстает как эпистемическая контрреволюция, антидемократический переворот, стремящийся к господству над знанием и наносящий удар по самой сущности жизнеспособности демократии.

Надзорный капитализм – молодой претендент на власть с множеством козырей в рукаве. Рожденный на рубеже цифровой эпохи, наступлению которой он способствовал, он демонстрирует стремительный рост, воплощающий американскую историю с многочисленными новыми способами институционального воспроизводства. Главным среди них стала его способность держать закон на расстоянии вытянутой руки. Отсутствие публичного права, препятствующего его развитию, является краеугольным камнем его существования и необходимым условием его дальнейшего успеха. Поэтому он стремится поддерживать и поощрять провалы демократического руководства (Zuboff, 2019, p. 37–82; Зубофф, 2022, с. 54–111; Chander, 2014).

Несмотря на эту историю, либеральные демократии все же представляют экзистенциальную угрозу для режима надзорного капитализма, поскольку только они сохраняют необходимую институциональную силу и возможности для того, чтобы противодействовать его базовым операциям, прерывать их и упразднять. Действительно, по мере роста надзорного капитализма усиливаются противоречия с его поседевшим, но все еще могущественным антагонистом. Демократия – старый, медленный и неповоротливый действующий игрок, но именно эти качества дают ей преимущества, с которыми трудно соперничать. Главные среди них – способность вдохновлять на действия, а также легитимные полномочия и необходимая власть для создания, введения и обеспечения верховенства закона. Теперь именно демократическому порядку предстоит вернуть утраченные позиции ради всех обществ и народов, отчаянно пытающихся избежать антиутопии.

Итак, столкновение институциональных порядков – это смертельная схватка за политику знания в нашей информационной цивилизации, где главная награда – управление управлением (the governance of governance). Антидемократические экономические императивы, внутренне присущие надзорному капитализму, порождают динамику игры с нулевой суммой, в которой укрепление порядка надзорного капитализма ведет к разрушению демократического порядка и его институтов. Только один из этих конкурирующих порядков выйдет из этого противостояния с властью и полномочиями править, в то время как другой будет дрейфовать к деинституционализации, его функции будут поглощены победителем. Приведут ли эти противоречия к поражению надзорного капитализма или демократия понесет более тяжелые потери? На кону стоит социальный порядок нашей информационной цивилизации: власть большинства или меньшинства? Равенство в знании или подчинение? Можно иметь надзорный капитализм и можно иметь демократию. Но нельзя иметь и то и другое вместе.

В следующих главах мы попробуем по-новому взглянуть на то, что нужно для успешного противодействия демократии надзорному капитализму, и тем самым усилить позиции всех, кто пытается остановить наше сползание в непреднамеренную антиутопию. Для этого я анализирую надзорный капитализм как единое поле институционального развития. Стадии развития этого двадцатилетнего института обнаруживают причинно-следственные связи между ранними инновационными экономическими операциями и последующим антиутопическим вредом для демократического управления и общества. Такой целостный взгляд указывает на то, что эффективные стратегии устранения производных антиутопических последствий, таких как «дезинформация» или незаконное манипулирование коллективным поведением, которое выражается в крайней «поляризации», зависят от того, удастся ли прервать, упразднить и переизобрести те исходные экономические операции, которые порождают этот вред.

Следующая глава посвящена институциональному развитию надзорного капитализма с точки зрения единого поля. Далее будут рассмотрены четыре уже узнаваемые стадии развития надзорного капитализма, каждая из которых отмечена углублением и расширением конфликта с демократическим порядком. В конце будут намечены перспективы дальнейшей работы.

Подход с точки зрения единого поля

Общественность и законодатели теряются под шквалом ежедневных заголовков, кричащих о новейших злодеяниях надзорного капитализма[2]. Понимание этого нескончаемого потока затрудняется категориальными ошибками: различные виды социального вреда помещаются в обособленные сегменты и рассматриваются как несвязанные кризисы. Например, утрата конфиденциальности или рост дезинформации воспринимаются как дискретные феномены, каждый со своей этиологией, специалистами и способами лечения.

Подход с точки зрения единого поля предлагает решение для этой раздробленной Вавилонской башни, показывая органические и временные взаимосвязи между иерархически соединенными стадиями институционального развития. Дискретные виды ущерба предстают как результаты зависимости от пройденного пути, где причины и следствия связаны во времени и через возрастающую сложность развития в рамках общего процесса роста и институционализации.

Мы выделяем четыре стадии институционального развития надзорного капитализма на основе их новых экономических операций. Это: (1) превращение поведения человека в товар; (2) концентрация производства и потребления вычислительного знания; (3) дистанционная активация поведения и (4) системное доминирование. Однако адекватное понимание каждой стадии только начинается с ее экономического действия.

Более 100 лет тому назад молодой Дюркгейм приступил к объяснению «разделения общественного труда» как основы социального порядка в зарождающуюся индустриальную эпоху. Он предостерегал читателей: «наша точка зрения на разделение труда отличается от точки зрения экономистов» (Durkheim, 1964, p. 275; Дюркгейм, 1990, с. 257). Точно так же наша точка зрения на стадии развития институционального порядка надзорного капитализма отличается от точки зрения экономистов. Помимо экономических достижений, каждая новая стадия все больше заполняет пространство, оставленное демократиями, которые не сумели вовремя установить контроль над цифровой сферой информации и коммуникации. В этом процессе новые экономические операции каждой стадии приводят в движение и неразрывно связывают с собой два сопутствующих вектора антиутопических последствий. Я называю их «вектором управления» и «вектором социального вреда».

Вектор управления формируется путем накопления управленческих прерогатив, которые обеспечиваются недавно закрепленными экономическими операциями. Хотя было понятно, что технологические гиганты стремятся к управлению (Balkin, 2017; Goodman and Powles, 2019; Klonick, 2020; Pasquale, 2017b), единое поле институционального развития позволяет увидеть, что вектор управления является ключевым механизмом воспроизводства с постоянно расширяющимся охватом. Такой подход показывает, как со временем расширяются и интегрируются в иерархию конкретные элементы управления, как тесно связаны они с экономическими операциями и как предыдущие достижения создают почву для новых завоеваний в сфере управления.

С точки зрения противостояния институциональных порядков каждая функция управления втягивается в орбиту надзорного капитализма, что ведет к одновременному выхолащиванию демократического порядка. Захват одних функций управления трудно распознать, поскольку сами эти функции еще не кодифицированы формально, как мы увидим ниже на примере эпистемических прав. Другие представляют собой явные вызовы верховенству публичного права. Наибольшую тревогу вызывает то, в какой степени демократический порядок содействует этим атакам или оказывается неспособным им противостоять.

Описывая стремление Apple радикально изменить индустрию здравоохранения, генеральный директор компании Тим Кук раскрывает ту основную логику развития, которая объединяет все этапы установления контроля над управлением. Его слова отражают общее направление, движение и цель вектора управления. «Мы изымаем то, что было у институтов, – говорит Кук, – и расширяем права и возможности (empowering) отдельного человека» (Feiner, 2019, para. 72).

В столь же редком приступе откровенности основатель Uber Трэвис Каланик однажды рассказал группе студентов MIT о великом «изъятии», которое привело Uber к успеху. Он назвал это «регуляторным подрывом» (regulatory disruption) и тут же добавил: «Мы в техе об этом обычно не говорим» (MIT Sloan School of Management, 2013, para. 6; см. также: Fleischer, 2010; Riles, 2014; Terry, 2016, 2017).

Оба руководителя с восторгом говорят о том, как функции управления извлекаются из сферы публичного права и переносятся в свободное рыночное пространство, где возрождаются уже без правовых ограничений и подчиняются логике частных институтов. Когда Кук говорит о «расширении прав и возможностей» отдельного человека, он заявляет о праве Apple заменить собой существующие институты и законы. Apple Inc. преподносит себя так, будто у нее есть полномочия «расширять права и возможности» и, следовательно, соответствующие полномочия так же легко лишать этих прав и возможностей, просто изменив условия обслуживания или операционную систему.

Заявления руководителей – это классические примеры корпоративных стратегий, известных как «подрыв» (disruption), насквозь пропитанные либертарианскими идеями о суверенном индивиде, несправедливо подчиненном обществу и его устаревшим институтам. У Кука Apple предстает Робин Гудом XXI века, который освобождает ценные активы, удерживаемые в заложниках могущественными институтами, и перераспределяет их несправедливо ущемленным индивидам. Под этим фальшивым флагом освобождения Кук стремится отделить человека от общества, чтобы скрыть неудобную для Apple истину: только демократическое общество может установить и защитить те права и законы, которые действительно расширяют возможности людей и обеспечивают им защиту.

В уравнении подрыва демократия не обладает ни внутренней ценностью, ни неприкосновенностью. Рыночная мифология о божественном всеведении, якобы естественным образом оптимизирующем экономические результаты, используется для оправдания возвышения рынка над демократическими институтами и законами. Это иллюстрирует Клей Кристенсен, родоначальник теории подрыва, и его соавторы в статье 2012 года о великом «изъятии» новостной индустрии с садистским названием «Срочные новости». В статье мимоходом упоминается и отметается критически важная роль журналистики в поддержании демократии: «Журналистские институты играют важнейшую роль в демократическом процессе, и мы надеемся на их выживание. Но только сами организации могут внести изменения, необходимые для адаптации…» Этот laissez-faire агностицизм и sang froid интеллектуальная отстраненность предвосхищают амбиции Тима Кука. Кристенсен и его соавторы отвергают демократический проект небрежным жестом императора pollice verso (большой палец вниз) после неравного гладиаторского боя. Четвертая власть, задуманная как ключевая опора демократии и инструмент контроля над властью, отбрасывается как «функция жизни в старом мире». Действующие игроки проигрывают из-за того, что упрямо «держат курс» на «качество» контента. Победителями оказываются новые участники, делающие ставку на «нижний сегмент», «низкую стоимость» и «персонализацию» (Christensen et al., 2012, paras. 14, 15).

Из этой идеологической крепости – крепости Кука – невозможно было признать, а может, даже увидеть, что «нижний сегмент» и «низкая стоимость» создавали условия не для производства новостей, а для производства фейков. Или что «старый мир» олицетворял кодифицированные принципы достоверности информации, правдивости и фактологичности, которые десятилетие спустя будут восприниматься не как затхлая ностальгия, а как оазисы рациональности в искаженном информационном аду. Первыми сдались США, а вслед за ними и другие демократии, несмотря на высокие ставки, и со стороны наблюдали рождение своего ущербного будущего.

Из-за того, что все свелось к «подрыву», новостная индустрия была быстро вынуждена присоединиться к порядку надзорного капитализма и включиться в процесс его самовоспроизводства. К 2017 году исследователи из Принстона обнаружили, что новостные сайты содержали больше кодов отслеживания, чем сайты любой другой изученной ими отрасли, так как издатели гнались за доходами на новых рынках таргетированной рекламы, созданных Google и Facebook. Экономические императивы надзорного капитализма определяли облик как печатных, так и телевизионных новостей: страницы и выпуски новостей специально разрабатывались для оптимизации вовлеченности в социальных сетях с целью максимального извлечения данных о людях (Narayanan and Reisman, 2017; NewsWhip, 2019; Stroud et al., 2014).

Глубина этого поражения отчетливо видна в подробном опросе Pew Research 2020 года, охватившем 979 лидеров технологического бизнеса, политических специалистов, разработчиков, инноваторов, исследователей и активистов. Примерно половина участников опроса предсказали, что «использование технологий людьми приведет к ослаблению демократии… из-за скорости и масштаба искажения реальности, упадка журналистики и влияния надзорного капитализма» (J. Anderson and Rainie, 2020).

Суть в том, что стратегия подрыва Кристенсена и Кука никогда не предполагала развития институтов – она была направлена на их ликвидацию. Они предвидели новые отношения с «отдельными людьми», опосредованные частными компаниями, которые сначала обходят институты, затем уничтожают функции, которые эти институты должны были защищать, и в конечном счете делают сами институты бессмысленными. Поскольку институты выступают хранителями, которые разрабатывают, поддерживают, внедряют и обеспечивают соблюдение стандартов поведения и контента в своих сферах, их ослабление или устранение открывает путь подделкам: не только известным фейковым новостям, но и фейковому здравоохранению, фейковому образованию, фейковым городам, фейковым контрактам, фейковым общественным пространствам, фейковому управлению и т. д.

«В техе об этом обычно не говорят», потому что компаниям удобнее маскировать свои попытки захвата власти под образ Робин Гуда, хотя на самом деле эти захваты готовят почву для прямо противоположного: замены демократического управления частным вычислительным управлением. Этот сдвиг проявляется на четвертой стадии в формах системного доминирования, когда мишенью подрыва становится сам демократический порядок.

На каждой стадии возникает и второй вектор: появляются новые виды социального вреда, которые записываются в счет издержек институционального воспроизводства и рассматриваются как экстерналии. Два вектора дополняют друг друга. Захват управленческих функций способствует институциональному воспроизводству, наращивая мощь надзорного капитализма и усиливая его полномочия и власть за счет демократического порядка. Социальный вред способствует воспроизводству через прямые атаки, которые дезориентируют, отвлекают и фрагментируют демократический порядок. Каждый захват управленческих функций порождает уязвимости, которые открывают путь для новых видов социального вреда, а те, в свою очередь, еще больше ослабляют способность общества противостоять следующим захватам власти.

Причины и следствия каждой стадии создают условия и основу для следующей. Каждая стадия основывается на предыдущей и развивает ее. Каждая стадия развивается за счет инерции уже существующих механизмов институционального самовоспроизводства и создает новые инструменты, которые поддерживают, расширяют и усложняют новый институциональный порядок. Как обычно бывает в стадийных теориях развития, стадии представляют собой идеально-типические абстракции, раскрывающие внутреннюю логику институционального порядка в постоянном движении, вынужденного выживать, расти и развиваться. Стадии формируют единое поле иерархически связанных причин и следствий, где каждый этап зависит от предыдущего развития. Так явления, кажущиеся разрозненными, раскрываются как последствия более поздних стадий, вытекающие из механизмов ранних стадий и их способов воспроизводства. Все три измерения – экономическое, управленческое и социальное – движутся вместе во времени в рамках единой архитектуры институционального роста и усиления (см. рис. 1).

Рис. 1. Четыре стадии институционального порядка надзорного капитализма

Главный урок для эффективного демократического противодействия заключается в том, что справиться с социальными разрушениями на поздних стадиях можно только через прямое противостояние экономическим операциям ранних стадий. Надежные решения должны быть направлены на первоисточник всех этих проблем.

Наконец, в приведенных далее описаниях стадий иногда используются примеры ведущих корпораций, чтобы проиллюстрировать взаимозависимость экономики, управления и социального вреда внутри стадий и между ними. Ключевой момент такого стадийного анализа в том, что описываемая здесь динамика относится не только к корпорациям-протагонистам из этих примеров, но и к более широкому институциональному порядку, в котором они участвуют. Я концентрируюсь на развитии института по мере того, как он накапливает данные, знания, полномочия, власть и амбиции. Каждый из корпоративных гигантов, как и множество компаний во всем коммерческом ландшафте, уже встроенных в порядок надзорного капитализма, демонстрирует уникальную конфигурацию достижений каждой стадии. Одни продвинулись дальше других. У некоторых более специализированные роли и возможности в общем спектре. Каждый из них вносит свой вклад в институциональное развитие и одновременно черпает из него силы.

Основополагающая стадия 1: превращение поведения человека в товар (экономия за счет масштаба)

Экономические операции

На первой стадии происходит превращение поведения человека в товар через скрытное масштабное извлечение данных, генерируемых людьми. Этот определяющий прорыв был совершен Google и заложил основу для всего последующего развития.

В 2000 году, когда только 25 % мировой информации хранилось в цифровом формате (Hilbert and López, 2011), небольшой, но блестящий интернет-стартап из Кремниевой долины под названием Google столкнулся с угрозой выживания во время финансового кризиса, известного как крах доткомов. Основатели Ларри Пейдж и Сергей Брин еще не нашли способ монетизировать свое поисковое чудо. В период с 2000 по 2001 год, когда инвесторы компании угрожали выйти из дела, команда Google случайно сделала ряд открытий, которые указали путь к спасению (Zuboff, 2019, p. 63–97; Зубофф, 2022, с. 87–131). Специалисты по науке о данных научились распознавать поведенческие сигналы, содержащиеся в «выхлопах данных» – остаточной информации от поисковой активности и просмотров пользователей. Эти невостребованные поведенческие следы (Power, 2022) оказались излишком – их было больше, чем требовалось для улучшения продукта. Сигналы, содержавшиеся в этом поведенческом излишке, как выяснилось, можно было объединять и анализировать для предсказания поведения пользователей. Вскоре команда совершила прорыв, научившись предсказывать «коэффициент кликабельности» (click-through rate, CTR) – бесценное вычисление, которое спасло небольшую компанию от банкротства. Это дало начало индустрии таргетированной онлайн-рекламы, которую точнее называть надзорной рекламой – троянским конем, скрывающим сложный механизм скрытного масштабного извлечения данных, генерируемых людьми.

В 2001 году основатель Google Ларри Пейдж определил суть бизнеса Google как поиск и захват. «Если бы нам надо было выбрать категорию, – размышлял он, – это была бы личная информация… Все, что вы когда-либо слышали, видели или испытали, станет доступным для поиска. Вашу жизнь можно будет искать целиком» (Edwards, 2011, p. 291). Бизнес-план Google предусматривал продажу лицензий на поисковую систему корпоративным клиентам. Вместо этого молодая компания нашла быстрый путь к спасению, превратив свою поисковую систему в сложный инструмент надзора, который работал себе в убыток ради масштабного извлечения «всей вашей жизни». Люди думали, что они ищут в Google, но Google искал и захватывал их самих.

В профессиональной среде это называли «вовлечением пользователей» (user engagement) – кодовое обозначение нового социального отношения между субъектом и объектом, где ресурсом для извлечения волею случая оказались мыслящие человеческие существа. Изобретения Google зависели от тайного вторжения в некогда приватный человеческий опыт для осуществления скрытого изъятия без спроса. Такие действия обычно называются кражей, и именно на основе этого первородного греха скрытной кражи частная жизнь пользователей была провозглашена собственностью корпорации. В некоторых из самых ранних патентов Google прослеживается откровенное стремление компании к получению поведенческих излишков по всему интернету, в том числе методами, направленными на использование и создание информации профиля пользователя, или ИПП (user profile information, UPI), в обход воли пользователей, их осведомленности и намерений. Например, в патентной заявке 2003 года говорится, что ИПП можно «получить косвенным путем», «предположить» и «вывести логически» даже в тех случаях, когда пользователи не давали такую информацию осознанно или намеренно предоставляли в неполном виде «из соображений конфиденциальности и т. д.». В ней отмечается: «ИПП… может быть определена (или обновлена, или расширена), даже когда системе не предоставляется явная информация… Начальная ИПП может включать некоторую явно введенную ИПП, хотя это необязательно» (Bharat et al., 2016, sec. 4.2.3).

Изобретение и его антидемократические социальные отношения родились одновременно. Пейдж боялся последствий, если пользователи, законодатели или конкуренты поймут истинную природу его действий. Все, что могло «вызвать шум вокруг конфиденциальности и поставить под угрозу нашу способность собирать данные», тщательно избегалось (Edwards, 2011, p. 240–245). Одного закона, который сорвал бы маску и прямо назвал Google вором, было бы достаточно, чтобы положить конец надеждам на финансовое спасение.

Эта корпоративная «стратегия сокрытия», как ее называли (S. Levy, 2011, p. 69), также служила для сокрытия поразительных финансовых результатов новых возможностей Google. С 2001 года, когда впервые была применена экономика надзора, до выхода на биржу в 2004 году доходы компании выросли на 3590 % (Google Inc., 2004, p. 19). Этот надзорный дивиденд сделал скрытное масштабное извлечение данных, генерируемых людьми, нелегитимной и неприемлемой, но при этом формально законной основой нового экономического порядка. Каждый инвестор захочет этого. Каждый стартап постарается это обеспечить… и никакой закон этому не помешает.

В 2008 году после ряда дорогостоящих промахов, вызвавших протесты пользователей, основатель Facebook Марк Цукерберг обратился за ответами к Google, наняв Шерил Сандберг, руководителя глобальной онлайн-рекламы Google, в качестве своего заместителя (Hempel, 2008). Когда Сандберг начала отвечать за операционную деятельность компании, Facebook быстро научился извлекать поведенческие излишки из каждого поведенческого следа, независимо от того, чем люди делились добровольно. Она поняла, что Facebook имеет места в первом ряду на то, что Пейдж назвал «всей вашей жизнью», поскольку ничего не подозревающие пользователи выливали свою жизнь на страницы Facebook. В результате появилась компания, которая, как отмечала Сандберг, располагала «большим объемом информации, чем кто-либо еще… и это абсолютно точная информация, а не догадки» (Kirkpatrick, 2011, p. 266; Киркпатрик, 2011, с. 197).

Спустя год после прихода Сандберг новый управленческий тандем изменил политику конфиденциальности Facebook, проложив путь к экономике надзора. TechCrunch так описал стратегию корпорации: «Если против социальной сети поднимется серьезная волна протеста, она сможет заявить, что пользователи сами приняли решение поделиться своей информацией со всеми» (Kincaid, 2009, para. 6). Давшееся непростым путем понимание экономики надзора подготовило Цукерберга к realpolitik нового экономического порядка: «Мы решили, – объяснял он, – что социальные нормы теперь будут такими, и просто сделали это» (B. Johnson, 2010, para. 15; см. также: Srinivasan, 2019).

Новые экономические основы надзорного капитализма начинаются с его первородного греха. Человеческий опыт объявляется бесплатным сырьем для рыночных действий, начиная с его скрытного извлечения и преобразования в поведенческие данные. Эти данные становятся входом в новые области высокоточных предсказаний: эмоции, личность, политическая и сексуальная ориентация и многое другое. Излишки данных немедленно переопределяются как корпоративные активы, частная собственность, доступная для проприетарных вычислений индивидуальных и коллективных профилей и предсказаний.

Надзорные капиталисты соревнуются друг с другом за то, чьи предсказания лучше снижают неопределенность. Эта ключевая коммерческая цель требует масштабного извлечения, производства и обработки данных, создаваемых людьми, подобно тоннам пшеницы или баррелям нефти. Продукты-предсказания продаются бизнес-клиентам на новом типе товарно-сырьевого рынка, где торгуют человеческими фьючерсами. Иллюстраций этого может служить документ Facebook 2016 года, описывающий его «ИИ-основу» под названием FBLearner Flow. В отсутствие демократического противодействия его ИИ «ежедневно поглощает триллионы точек данных» для построения тысяч моделей. Эти вычисления поступают в его «сервис предсказаний», производящий «более 6 миллионов предсказаний в секунду» (Dunn, 2016). Это строительные блоки продуктов-предсказаний, которые продаются компаниям, рекламодателям, политическим кампаниям и другим покупателям, заинтересованным в том, чтобы знать, усиливать или подавлять предсказанное поведение индивидов и групп (Biddle, 2018b).

«Коэффициент кликабельности» был лишь первым глобально успешным продуктом-предсказанием, а таргетированная онлайн-реклама стала первым процветающим рынком человеческих фьючерсов. Так появился на свет надзорный капитализм, и все свидетели его рождения были обязаны хранить это в тайне (Searle, 2010, p. 85–86, 13).

Масштаб и охват скрытного накопления поведенческих излишков показывает ложность идеи «экономики внимания», поскольку основная работа здесь выполняется за пределами поля внимания. В действительности эта идея опасным образом исказила общественное восприятие, создав ложную иллюзию, что для защиты от извлечения данных достаточно контролировать свое внимание. Факты говорят об ином. То, что вы не уделяете чему-то внимание, никак не защищает от скрытного извлечения сигналов, которые производятся и захватываются за пределами человеческого осознания и контроля. Можно тешить себя иллюзией выбора (Kim, 2013; Radin, 2012), принимая отдельные решения поделиться какой-то информацией с корпорацией, но эта информация ничтожна по сравнению с объемом поведенческих излишков, которые скрытно захватываются, агрегируются и выводятся на основе анализа. Таким образом, принцип сокрытия, воплощенный в таком надзоре, является необходимым элементом этой фундаментальной стадии экономических операций и становится важнейшим механизмом институционального воспроизводства (Binns, 2022, p. 21).

Во втором десятилетии первоначальные успехи первопроходцев надзорного капитализма, таких как Google и Facebook, привели к проникновению надзорной экономики в «нормальную» экономику, наглядной иллюстрацией чего теперь служит конкуренция Walmart с Amazon за сбор и обработку генерируемых людьми данных, используемых для прогнозирования и таргетирования (Tobin, 2022). Надзорный капитализм дал метастазы в различные секторы: от страхования, розничной торговли и финансов до сельского хозяйства и транспорта, достигнув самых личных и прогностически значимых данных в двух критически важных секторах – образовании и здравоохранении.

Сегодня любой продукт с маркировкой «умный» и любой сервис с пометкой «персонализированный» работают себе в убыток ради потока проходящих через них данных о людях. Большинство «приложений» начинают свой путь с продажи и распространения через магазины приложений Apple и Google. После того как пользователи скачивают их себе на устройства, они при всей своей внешней безвредности выступают каналами передачи данных, пересылая поведенческие сигналы с «умных» устройств на серверы, принадлежащие преимущественно технологическим гигантам и компаниям, специализирующимся на рекламе на основе данных. Как описал мне один дата-сайентист из Кремниевой долины: «Сейчас сбор данных стал базовой нормой практически для всей разработки программного обеспечения и приложений. Любая разработка основывается на том, что все данные должны собираться, и большая часть этого происходит без ведома пользователя» (DS I, см. «Примечание о методе»).

Содержание того, что подразумевается под «всеми данными», постоянно расширяется. Отслеживание местоположения теперь стало системным явлением: оно глобально, вездесуще и неизбежно (Zekavat et al., 2021). В отраслевом анализе прямо отмечается, что отслеживание местоположения «позволяет бизнесу определять поведение клиентов… и снижать рыночную неопределенность» (Grand View Research, 2022). Понятие «всех данных» последовательно развивается в направлении все более точных предсказаний, таких как распознавание речи по сигналам мозга или использование движений глаз для извлечения чувствительной информации, включая личностные черты, эмоции и сексуальные предпочтения (Kröger et al., 2020; Moses et al., 2019). Действительно, уже понятно, что дополненная реальность, или «метавселенная», при всей своей футуристической риторике, задумана как усиление фундаментальных операций извлечения данных первой стадии (H. Murphy, 2022; Heller, 2021; Martin, 2021).

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Сноски

1

На английском книга вышла в 2019 г. На русском см.: Зубофф, 2022.

Вернуться

2

Вы просите рекламу не следить за вами, но она все равно следит – даже на iPhone (Fowler, 2021). Рынок данных о том, где вы находитесь, оценивается в 16 млрд долларов (Location Intelligence Market Size and Share Report, 2022–2030, 2022). Кибернаемники входят в моду; большую часть данных они добывают у технологических гигантов (Bradshaw et al., 2021). Камеры наблюдения вот-вот станут доступными каждому и появятся повсюду, а любой человек с приложением Bosch сможет их установить, использовать и анализировать записи (Campbell and Jones, 2022). «Умная» лампочка следит за вашим пульсом (Tuohy, 2022). Новый телевизор наблюдает за вами (Fowler, 2019c). Alexa и все остальные «помощники» хранят все записи, чтобы кормить ими свой искусственный интеллект (Fowler, 2019a; Suliman, 2022). Facebook разрабатывает технологию чтения мыслей (Samuel, 2019). «Службы слежения за учениками» «защищают детей», отслеживая все подряд – от биометрии до переписки (Haskins, 2019). Автомобили превратились в инструменты слежки (M. Anderson, 2019). General Motors запустила автострахование «на основе поведения» с системами наблюдения, которые следят за движениями глаз, головы и много чем еще (Bellon, 2022). Браузер Google Chrome работает как инструмент слежки (Fowler, 2019b). Дверной звонок Ring видит абсолютно все (Grauer, 2022). Ваше лицо с выпускной фотографии, которую вы выложили с благодарностью и надеждой, используется для обучения китайских систем распознавания лиц, наблюдающих за уйгурскими семьями в концентрационных лагерях (Murgia, 2019b)…

Вернуться