Клаус Шваб
Технологии Четвертой промышленной революции
Глава 3
Внедрение ценностей в технологии
В книге «Четвертая промышленная революция» (2016) утверждается, что для «продвижения вперед» необходим ценностно-ориентированный подход к сложной, неопределенной и переменчивой технологической среде{17}. В этой главе мы подробнее рассмотрим эту идею и определим те принципы и ценности, которые помогут нам двигаться вперед и сохранять роль общества в формировании технологического будущего.
Нельзя отрицать, что технологии повысили качество жизни и общее благосостояние населения планеты. Но они также породили немало проблем и опасных последствий. Например, многие цифровые платформы концентрируют богатство у все более узкого круга людей, делая положение рабочих нестабильным и уязвимым; новые способы добычи природного газа наносят ущерб окружающей среде, обогащая владельцев предприятий за счет всех остальных; с инвестициями в капитальное оборудование связывают до 83 % сокращений производственных рабочих мест в США, начиная с 1990 года, с последующим исчезновением целых сообществ{18}.
В последние 30 лет многие из этих внешних эффектов проявлялись медленно. Но в ходе Четвертой промышленной революции изменения ускорятся, и нам придется иметь дело с более разнообразными, сложными и разрушительными последствиями применения технологий. К чему это приведет, можно только предполагать, но многие эксперты всерьез озабочены возможными опасными эффектами. Как говорилось в конце второй главы, отчет о глобальных рисках (Global Risks Report), представленный на Всемирном экономическом форуме в 2017 году, показал, что особое беспокойство у экспертов вызывают биотехнологии, ИИ, геоинжиниринг и Интернет вещей{19}. Отчет о глобальных рисках на 2018 год показывает, что в прошлом году главным риском стали растущие киберугрозы, которым подвергаются все цифровые сущности, включая информационные массивы, инфраструктуру, персональные и идентификационные данные. Так можем ли мы говорить, что технологии Четвертой промышленной революции действительно улучшат мир и нашу жизнь? Стоят ли экономические и прочие преимущества потенциальных человеческих жертв? Сможем ли мы снизить сопутствующие риски? И чего мы на самом деле хотим от этих технологий?
Любая конкретная технология может дать удобства, развлечения, власть, продуктивность или комбинацию этих четырех элементов, но в итоге мы все хотим от технологий того же, чего от здоровой экономики, – улучшения нашей жизни. В первой главе мы отметили, что технологии должны расширять возможности, а не ограничивать их; что будущее должно формироваться людьми и для людей; что ценности должны быть достоинствами, а не недостатками технологий. На первом месте должно быть повышение уровня жизни. Если Четвертая промышленная революция приведет к усилению неравенства, бедности, дискриминации, нестабильности или вреда для окружающей среды; если произойдет маргинализация, порабощение или обесценивание людей, значит, мы пошли не тем путем.
К сожалению, усиливается ощущение, что весь мир идет на поводу у технического прогресса и экономических императивов, упуская из виду самое важное. Известные экономисты, такие как Эрик Бринолфссон (Erik Brynjolfsson) и Эндрю Макафи (Andrew McAfee), популяризовали идею «великого отделения» человеческого труда от продуктивности экономики в результате внедрения технологий{20}, и, по некоторым прогнозам, уже к 2020 году до 40 % рабочих мест перейдет на модель «гигномики», появившуюся благодаря технологиям{21}. Сокращение доли оплаты труда в национальном доходе стран – членов ОЭСР на 80 % связывают с влиянием технологий. Они способствуют усилению неравенства, и общественность все острее воспринимает политику, стимулирующую экономический рост в ущерб социальному единству и благосостоянию общества{22}. Вместо того чтобы спросить себя, чего мы хотим от технологических изменений, мы по-прежнему вынуждены бороться с их опасными последствиями.
Ценностно-ориентированный подход к технологиям поможет нам восстановить баланс и выйти из этого трудного положения. Во-первых, прямо признав политическую природу технологий, мы сможем сформировать требования к ответственному и эффективному управлению. Во-вторых, сделав приоритетом управления общественные ценности, мы сможем контролировать, как используются технологии и кому они несут выгоду. В-третьих, четко определив, где и как ценности становятся частью технологических систем, мы сможем лучше понять их и найти оптимальные стратегии внедрения ценностей в процесс разработки технологий.
Политика технологий
Связи между технологиями и ценностями нелегко сформулировать. Ценности абстрактны и неосязаемы, к тому же они сильно различаются у разных людей и обществ. А технологии распространились повсюду – от языков до космических ракет. При таких масштабах поиск связей становится сложной задачей. К сожалению, в попытках найти простое решение возникли две всем знакомые, но дезориентирующие позиции. Их можно вкратце изложить так:
Точка зрения № 1: технологии предопределяют будущее
Эта точка зрения предполагает, что технологии влияют на общество, мотивируя, направляя и ограничивая нас разными способами, а технический прогресс – это внешняя, почти неодолимая сила, которую нельзя изменить или остановить. Люди, принимающие эту точку зрения, часто говорят о технологиях так, будто они определяют историю и наши ценности, направляя нас к прогрессу или упадку, и считают, что нет смысла пытаться помешать этому.
Точка зрения № 2: технологии нейтральны по отношению к ценностям
Вторая точка зрения отрицает, что сами по себе технологии имеют какое-либо значимое влияние на общество, и характеризует их как нейтральные инструменты. Сторонники этой точки зрения утверждают, что на общество влияют отдельные личности, которые выбирают, как именно использовать инструменты. При этом обсуждение возможностей технологий и их влияния на людей несправедливо переключается на моральные качества исключительно пользователей, а не создателей и распространителей этих технологий.
Этих точек зрения недостаточно, чтобы задать направление Четвертой промышленной революции. Хотя в каждой из них есть зерно правды, обе они достаточно опасны в эпоху, когда технологии показывают динамику, описанную во второй главе, распространяясь все быстрее, предоставляя пользователям все больше власти, окружая нас со всех сторон и проникая в нас.
Сторонники первой точки зрения считают, что технологии находятся вне контроля общества, тогда как вторые снимают с общества ответственность за влияние, оказываемое технологиями. И те и другие упускают из виду, что технологии и общество формируют друг друга. Ядерные технологии – хороший пример, показывающий, как опасно полностью принять любую из этих точек зрения. Это определенно не «просто инструменты», ведь само существование ядерных технологий, позволяющих получать энергию и создающих угрозу ядерного уничтожения, создает огромную напряженность. Недавние обострения геополитических споров напомнили всем о ядерной опасности, а Нобелевскую премию мира в 2017 году присудили Международной кампании за запрещение ядерного оружия (International Campaign to Abolish Nuclear Weapons, ICAN). В то же время ядерные технологии не обязаны определять судьбу человечества, потому что общество способно решать, какие технологии разрабатывать, как это делать, кто при этом имеет право голоса и каким целям все это служит. И действительно, все больше стран решает отказаться от ядерной энергии, о чем свидетельствует обязательство правительства Германии закрыть к 2022 году последнюю ядерную станцию{23}.
Для продвижения по пути прогресса во время Четвертой промышленной революции требуется более вдумчивое и практичное отношение к технологиям, а также возможность подробно обсуждать их цели, риски и неопределенности. Необходима третья точка зрения: «Все технологии имеют политическую природу». О политике здесь говорится в описательном смысле. Мы не подразумеваем, что технологии олицетворяют правительства, связаны с определенной партией или каким-то образом вытекают из «левой» или «правой» идеологии. Мы имеем в виду, что технологии – это решения, продукты и воплощения идей, полученные в результате социальных процессов, поддерживающие и выражающие стремления людей и организаций, содержащие в себе целый ряд допущений, ценностей и принципов, которые, в свою очередь, могут повлиять (и влияют) на власть, структуру и состояние общества.
В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.
Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой»{24}. Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений»{25}. В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:
Несмотря на большое разнообразие биотехнологий, условия, приводящие к появлению только определенных сочетаний в конкретном социально-историческом контексте, рождают общий ряд проблем. К этим условиям относятся и естественные ограничения, и добровольный выбор (даже если он не всегда осознанный или очевидный). При этом выбор зависит от сложных суждений, включающих ценности, убеждения и ожидания, связанные с технологиями и их применением. То, как совершается этот выбор, как оцениваются, включаются или исключаются разные ценности, убеждения и ожидания, имеет важные этические и политические аспекты, как и сама природа этих соображений.
Любая технология несет в себе отражение ценностей, целей и убеждений ее создателей. И чем мощнее технология, тем важнее понимать то, что в нее заложено.
Чаще всего экономические мотивы диктуют, какие технологии целесообразно развивать, как их реализовывать и применять. Эти мотивы можно распознать по социальным последствиям. Например, недавно обсуждалось, этично ли (и сколько это будет стоить) фильтровать цифровой контент для борьбы с фальшивыми новостями. Это обсуждение непосредственно связано с экономическими императивами технологических компаний, с архитектурой их платформ, с их приемами отслеживания, сегментации и доставки контента группам потребителей. В среде цифровых социальных медиа, как и в традиционной индустрии газет, телевидения и радио, экономическое давление и методы управления продуктами определяют, что и как становится известно миллиардам людей. Открытая природа Интернета позволяет быстро масштабировать технологии социальных медиа, но при этом чрезвычайно усложняет мониторинг сетей в поисках контента, который считается «асоциальным».
Признавая, что технологии олицетворяют определенные социальные установки, интересы и цели, мы получим больше возможностей, чтобы инициировать изменения. Одновременно мы будем обязаны брать на себя ответственность, потому что не сможем ни винить в нежелательных последствиях только технологии, ни игнорировать их влияние на наши решения. Признать это – значит взять на себя три обязанности:
1. Определить ценности, связанные с конкретными технологиями.
2. Понять, как технологии влияют на наш выбор, на принятие решений.
3. Определить наилучшие способы влияния на развитие технологий для всех заинтересованных сторон.
В политических переговорах между представителями общества, технологий и бизнеса именно мы должны определять, какое внимание будет уделено общественным ценностям.
Приоритет общественных ценностей
Поскольку технологии тесно интегрированы в общество, на нас лежит ответственность за определение направления их развития и обязанность объявить приоритет общественных ценностей. Хотя технологии часто воплощают те ценности, которые заложены в их структуру и предназначение, непросто решить, какими должны быть эти ценности. Джон Хэвенс (John Havens) из IEEE сформулировал эту проблему так: «Как машины узна́ют, каковы наши ценности, если мы сами этого не знаем?.. …Мы не сможем улучшить благосостояние человечества, если не уделим время определению наших общих ценностей, чтобы создавать технологии, которые наверняка будут отвечать этим идеалам»{26}.
Разные люди и общества ценят разные вещи, поэтому всегда будут разногласия в социальных и культурных точках зрения на технологии. Тот факт, что разные культуры и типы ценностей ведут к различиям в приоритетах, не должен мешать ценностно-ориентированному подходу к технологиям. Наоборот, чем больше мы об этом думаем, тем лучше поймем, какие приоритеты критически важны для обществ, как технологии повлияют на ценности и как будут их поддерживать. Вполне возможно найти ряд ценностей, общих для большинства культур. В документе «Новое социальное соглашение» (A New Social Covenant) Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей в 2012–2014 годах определил «широкий консенсус между представителями различных культур, религий и философий относительно некоторых общечеловеческих стремлений», которые представляют «мощный объединяющий идеал» для «преданных друг другу личностей, уважающих будущие поколения»{27}.
Определение позитивных объединяющих ценностей – лишь первый шаг. Такое соглашение необходимо реализовать на практике. Один из способов это сделать – организовать ответственное и эффективное управление. Обычно организациям сложно угнаться за скоростью и масштабностью технологических изменений. Многие правовые системы плохо подготовлены для управления новыми рисками; мир только начал осознавать реальность широкого ряда беспрецедентных сценариев развития событий, угрожающих всему – от окружающей среды до прав человека. Кроме того, сложно предвидеть, какие внешние последствия будут иметь новые технологии в зависимости от выбранных способов их создания, применения и управления. Риски могут и будут неожиданно возникать на стыках технологических дисциплин. Стратегии управления должны быть достаточно гибкими и адаптивными, чтобы мы могли адекватно реагировать на риски, не блокируя работу организаций.
Новое социальное соглашение о ценностях
Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей (2012–2014).
Наш призыв таков: после целенаправленных глобальных размышлений мы должны принять важнейшие решения нашего времени. Один из способов помочь этим размышлениям – разработать Новое социальное соглашение.
Многие предыдущие попытки фокусировались на индивидуальных правах, которые, без сомнения, важны. Но мы сконцентрируемся на наших обязанностях по отношению друг к другу, как внутри государств, так и между ними… Когда дело касается ценностей, существует большое культурное разнообразие. Но есть и широкий консенсус – между культурами, религиями и философиями – по некоторым общечеловеческим стремлениям:
• Достоинство человека, независимо от расы, пола, происхождения и убеждений.
• Важность общего блага, превосходящая индивидуальные интересы.
• Необходимость разумного управления и заботы не только о нас самих, но и о наших потомках.
Чтобы привить эти ценности, важны как личные, так и коллективные усилия. Необходимо внедрить эти ценности в общественную жизнь, чтобы преодолеть разрыв между стремлениями и практикой. Обсуждения недостаточно – мы должны принимать решения. Успех зависит от трансформирующего ценностно-ориентированного лидерства во всех областях человеческой деятельности. Мы должны культивировать, поощрять и приветствовать новые модели поведения как на Всемирном экономическом форуме, так и вне его. Необходимо привлекать людей, которые смогут эффективно и продуктивно решать глобальные задачи, людей, которые построят и оставят после себя более справедливый, изобильный и жизнеспособный мир.
Примеры ценностно-ориентированного управления в действии уже существуют. Общий регламент по защите данных (General Data Protection Regulation, GDPR), принятый Евросоюзом, вступит в силу в середине 2018 года. Это постановление изменит правила получения согласия пользователя на обработку персональных данных и потребует предоставления соглашения с понятными условиями. Компании, управляющие данными, должны будут уведомлять пользователей об инцидентах безопасности[3], предоставлять информацию об использовании данных, соблюдать «право на забвение»[4], обеспечивать переносимость данных, при необходимости нанимать специалистов по защите данных и выполнять юридические требования к безопасности данных на этапе проектирования технологий и служб{28}.
Акцент GDPR на обеспечении конфиденциальности на этапе проектирования технологий демонстрирует тщательный подход к практической реализации ценностей: внедрение ценностей в процессы разработки технологий, чтобы их разработка отражала ценности общества, а не только их создателей. Вместо того чтобы пытаться решить проблемы, возникшие из-за принципа невмешательства в технологии и этику, лучше сразу решать вопросы этики, ценностей и социальных последствий на различных этапах технологической разработки. Этим мы окажем важное влияние на то, как технологии интегрируются и поддерживают стремление общества к всеобщему благосостоянию. Блокчейн, Интернет вещей, автономные системы, нейротехнологии и алгоритмы – это примеры технологий, которые создаются специализированными сообществами с узкими интересами, иногда в тех областях, где ценности еще предстоит явно определить.
К сожалению, интегрировать нужные ценности в процессы технологического развития не всегда легко. Это нельзя сделать, просто добавив некий «этический компонент», – для этого может потребоваться принятие новых методологий, формирование организационной культуры и даже изменение рыночного мышления, предполагающего, что двигателем прогресса является экономика. Другая сложность заключается в том, что многие технологии, особенно цифровые, можно использовать разными способами, а риски и потенциальные последствия их применения сложно оценить. Даже если сделать прогноз рисков, не все технологии предусматривают возможность «программирования». Например, неясно, как разрабатывать блокчейн-технологии, чтобы предотвратить их использование преступными организациями или уменьшить их экологический вред из-за чрезмерного потребления энергии. Тем не менее компаниям и организациям следует думать не только о проектировании и внедрении – они должны включаться в социально ответственные процессы с самого начала. На уровне инженерии и разработки продуктов следует учитывать не только экономические стимулы и технические требования к разработке и использованию технологий, но и влияние на общество{29}.
Внедрение ценностей в технологии
Успешно возвести общественные ценности в приоритет невозможно без нисходящего регулирования. Для этого необходимо поднять вопрос о ценностях и дать людям и организациям возможность перейти на новые модели поведения. Кроме того, требуется вдохновение и мотивация от общественных лидеров. Начало может быть положено во многих местах, о чем говорится далее, в разделе, посвященном переломным моментам, но в любом случае, чтобы помочь изменить поведение, повысить уровень осведомленности о широком влиянии технологий и способствовать возведению общественных ценностей в приоритет, можно использовать следующие подходы к технологиям.
Во-первых, критически важно осознавать серьезность и всепроникающее влияние технологий. Технологии вовлечены в каждый аспект человеческой жизни, они помогают нам взаимодействовать друг с другом, поддерживают нашу экономику, влияют на наше здоровье и окружающую среду, позволяют обрабатывать информацию, от которой зависит работа организаций и отдельных людей. В таких сферах, как производство передовых материалов и фармацевтических средств, уже давно сложился ответственный подход к технологиям, и другие технологии, от поисковых и автономных систем до блокчейна, требуют похожего отношения. Если рассматривать не только влияние на уровень смертности, но и совокупное влияние технологий на нашу жизнь, можно по-новому взглянуть на многие технологии, кажущиеся безобидными.
Во-вторых, более четкую перспективу для использования технологий могут дать размышления о персональной или организационной цели. Научные и технологические исследования требуют свободы для выхода за существующие границы, но мы должны также стараться согласовывать новые возможности со стремлением к благосостоянию общества. Например, в знаменитой речи, произнесенной в 1945 году после применения первых атомных бомб, физик Роберт Оппенгеймер сказал, что предназначение ученого – получать знания и делиться ими во благо человечества{30}. Начав с этого, он выступил за создание комиссии по атомной энергии, свободный обмен информацией и прекращение производства бомб, призывая проявлять любознательность, амбициозность и коллективную ответственность.
В-третьих, приоритет ценностей позволяет превратить убеждения в действия. Огромную помощь в этом может оказать укрепление веры в ценности, провозглашенные организацией. Этический кодекс или просто организационная концепция с изложением целенаправленного ценностно-ориентированного подхода к технологиям может способствовать формированию соответствующей культуры в организации или даже в целой профессии или отрасли. В качестве примера можно привести клятву Гиппократа, которая помогает помнить о потенциальном риске исследований, анализа и применения технологий, и может быть одной из причин того, что в индустрии биотехнологий, подверженной влиянию медицинского сектора, наблюдается довольно высокий уровень самоанализа и самоограничения.
Наконец, важно использовать поворотные точки, когда ценности могут стать эффективным средством для формирования технологий и путей их разработки. Опираться на благие намерения и обязательства важно, но граждане и лидеры могут приложить больше усилий для повышения уровня осведомленности в критические моменты разработки технологий. Например, на уроках этики педагоги могут демонстрировать важность рационального принятия решений на примере «проблемы вагонетки»{31}.
Эта этическая головоломка позволяет студентам понять, что сложные для людей решения часто основываются на неосязаемых жизненных принципах, цену которых невозможно точно определить. Если такие решения должны принимать машины, эти неизмеримые критерии необходимо представить в виде кода. Поворотные точки дают лидерам возможность подчеркнуть роль ценностей в формировании технологий.
Почему ценности?
Стюарт Уоллис (Stewart Wallis), независимый мыслитель, спикер и сторонник Новой экономической системы, Великобритания.
Мир сталкивается с проблемами, которых никогда не было. Впервые за всю историю человечества мы достигли критических пределов планетарной экологии или уже вышли за них. В то же время к 2050 году мы должны создать около 1,5 млрд новых рабочих мест или обеспечить людей другими средствами к существованию в условиях роста населения и еще более быстрых технологических изменений (многие из которых ведут к исчезновению существующих профессий). Более того, при текущих темпах расходования углеродных источников топлива и других редких экологических ресурсов мы сталкиваемся с потенциальным конфликтом между направленностью на создание новых рабочих мест и заботой о благополучии планеты. Добавьте сюда растущую геополитическую напряженность и межконтинентальное движение беженцев и экономических мигрантов, постоянное увеличение глобального неравенства в уровне благосостояния и доходов, положительные и отрицательные последствия Четвертой промышленной революции – и станет очевидно, что все это приведет либо к катастрофическому регрессу, либо к позитивному преображению человеческого прогресса. В любом случае, мы увидим ошеломляющее изменение системы. Есть много потенциальных решений, но воспользуемся ли мы ими и будут ли изменения положительными, в значительной степени зависит от ценностей.
Ценности дают нам четкий пункт назначения – «истинный север» на компасе – и средства, чтобы двигаться к нему. За промышленной революцией в Западной Европе стоял сдвиг ценностей в сторону креативности, доверия и предприимчивости. За отменой рабства и возникновением движения за гражданские права также стояло кардинальное переосмысление ценностей. Аналогично этому сдвиги в ценностях стояли и за двумя крупными изменениями в западной экономике XX века: в середине столетия произошел переход к кейнсианству, а в 1980-е, 1990-е и первое десятилетие XXI века – к тому, что грубо назвали неолиберализмом. Во всех этих случаях сдвиг в ценностях предоставил цели и средства их достижения, так как ценности мотивировали людей к действию. Сдвиги в ценностях сопровождались появлением четкой, позитивной и сильной идеологии, которая, в свою очередь, сопровождалась мощными стимулами к преобразованиям. И лишь последующие изменения в нормах и законах привели к более масштабному сдвигу ценностей человечества в целом.
Учитывая беспрецедентную скорость технологических и социальных изменений во время Четвертой промышленной революции, нельзя надеяться, что желаемый исход можно получить исключительно с помощью государственного законодательства и экономических стимулов. К тому времени, когда законодательство вступает в силу, оно часто уже устаревает, становится оторванным от реальности или излишним. Единственный способ гарантировать положительные результаты – дальнейшая революция ценностей.
Признать, что технологии оказывают на нас комплексное влияние, просто. Об этом каждый день говорится в заголовках СМИ. Сложнее найти подходящие способы, чтобы повысить уровень осведомленности о ценностях и культивировать навыки контекстного анализа, необходимые на различных этапах технологического развития. На каком же этапе мы можем внедрить в процесс технологического развития определенные ценности, такие как эффективность и эстетические соображения, и сопоставить их с более широкими общественными ценностями, такими как человеческое достоинство и общее благо?
Начинать следует со следующих девяти поворотных точек. Лидеры – проектировщики, предприниматели, законодатели и общественные деятели – могут совершать изменения в этих точках, используя их для критического анализа ценностей, инициируя обсуждение более широкого контекста применения технологий и предпринимая соответствующие действия.
