Клуб 4CIO
Цифровая этика

Цифровая этика

Почему CDTO должен думать об этике?

Новейшие прорывные технологии, внедрению которых во многом посвящен этот учебник, открывают перед компаниями огромные возможности. Но, применяя эти технологии, руководители, как правило, не имеют навыков и инструментов прогнозирования целого ряда рисков и возможных последствий их использования. ИТ-компании собирают персональные данные пользователей̆ и передают сторонним организациям, социальные сети манипулируют пользователями, даже крупные игроки не способны защитить данные клиентов, а алгоритмы, используя непрозрачные системы метрик, повышают статус одних социальных групп и дискриминируют другие. Также, что более важно, и руководители, и разработчики часто оказываются в ситуации выбора, часто неосознаваемого: между заботой о пользователе и соблюдением его интересов в части приватности и объективного к нему отношения – и интересами бизнеса по массированному сбору данных, управлению пользовательским поведением и т.д. Следует ли упоминать, что побеждают чаще последние?

Все эти вопросы, проблемы и риски сейчас принято относить к области Digital Ethics – цифровой этике (по другой терминологии Ethical Tech – этики технологий)¹. Множатся истории организаций, столкнувшихся с такими проблемами, как нарушение конфиденциальности, утечки данных, алгоритмическая предвзятость, масштабные технологические ошибки, ошибки систем искусственного интеллекта (ИИ) и т. д. Эти ситуации приносят компаниям репутационные и финансовые риски. Распространение новых технологий не только дало новые возможности для бизнеса, но и возложило дополнительную ответственность на людей, которые создают и внедряют технические решения.

Но компании и госорганизации редко разрабатывают общий подход к оценке этических последствий использования технологий, и эти вопросы остаются на «обочине» процесса цифровой трансформации компании. В ряде случаев организация вынуждена соблюдать определенные этические нормы; например, еще недавно компания, продающая свою продукцию в Европе, вынуждена была соответствовать нормам европейского акта GDPR (General Data Protection Regulation²), довольно жестко регулирующего защиту персональных данных в Евросоюзе. Сейчас подобную роль в России выполняют некоторые требования Роскомнадзора. Однако такие случаи – пока лишь исключения, которые только подчеркивают общее правило. В любом случае, в 2022 году руководитель организации не может считать себя высокопрофессиональным, если он не задумывается об этических последствиях использования технологии в его компании, независимо от того, относится ли компания к области ИТ или нет.

Руководители в целом и CDTO в частности должны видеть и понимать потенциальные этические дилеммы и риски, которые могут возникнуть при разработке или использовании цифровых технологий, и закладывать ответственное отношение к этике в свою стратегию и основные принципы создания цифровых продуктов и сервисов. Компании, использующие этически неоднозначные решения при разработке продуктов, ставят под удар репутацию своего бренда. Организаций, имеющих собственный этический подход, пока не так много, но именно их можно назвать наиболее технологически зрелыми.

Рис. 1. 57% лидеров компаний на продвинутой стадии цифровой зрелости уделяют внимание этике технологий.³

Согласно ряду исследований Deloitte⁴, существует связь между цифровым прогрессом компании и ее вниманием к различным этическим вопросам, связанным с технологиями (Рис. 1 и Рис. 2). Более продвинутые в цифровом отношении компании, как правило, больше озабочены этикой, связанной с технологиями, и уделяют ей больше внимания, чем компании, которые еще только начинают свой путь к цифровым технологиям.

Рис. 2. В 47% компаний, уделяющих внимание этике технологий в индустрии 4.0, прозрачный процесс принятия решений.⁵

Кроме того, критически важным как для брендов, так и для госорганизаций и государств в целом является вопрос доверия, который сейчас очень часто напрямую зависит от не только качества, но и от этичности предоставляемых компанией (или госорганизацией) цифровых сервисов. Доверие означает уже не просто хорошую репутацию и общественную поддержку, а возможность в перспективе остаться на рынке, и это актуально не только для компаний, но и для целых стран. Примечательно, что именно технологические компании с началом пандемии COVID-19 теряют доверие быстрее других (Рис. 3).

Рис. 3. Изменение уровня доверия к технологическим компаниям в 2012–2021 годах.⁶

Когда мы рассматриваем вопрос этики, очень важно проводить различие между корпоративной и профессиональной этикой (этикой, относящейся к вопросам бизнеса, профессионального поведения, гуманного обращения с работниками и социальной ответственности) – и этикой технологий. Что же такое этика технологий?

Этика технологий – это разговор о том, как взаимодействуют технологии и ценности, о решениях, которые мы принимаем в связи с появлением новых технологий, и о том, как они могут повлиять на общество. Это комплекс ценностей, определяющих подход организации к использованию технологий в целом, а также принципы, которыми руководствуются работники всех уровней при внедрении этих технологий в бизнес-стратегию и операционную деятельность. Этика технологий охватывает широкий спектр вопросов – от защиты приватности до предвзятости алгоритмов, от замены труда человека на труд робота до запрета на манипуляцию поведением человека⁷.

Когда мы обсуждаем этику технологий, важно также указать, чем она не является: она не ограничивается формальным соблюдением требований законодательства или комплаенсом, она не сводится к набору простых и однозначных регламентов и политик, а предполагает разветвленную структуру решений и ситуаций выбора с целью прийти к наиболее взвешенному и этичному решению в каждой конкретной ситуации.

Отдельный важный разговор – тема этики технологий применительно к государственным цифровым сервисам и ИТ-системе государства в целом. Сложность этичных решений в госсекторе состоит в огромной аудитории этих сервисов (многие из них уже сейчас в ряде стран распространяются на большую часть населения), колоссальной цене ошибки и особой ответственности, лежащей на госсекторе.

Цифровые сервисы постепенно становятся «лицом» государства для пользователей, и то, насколько это «лицо» комфортно и этично при взаимодействии, напрямую влияет на восприятие государства в целом. Однако в последние годы уровень доверия государствам падает во всем мире, а правительства воспринимаются как институт, чаще всего поступающий неэтично и некомпетентно, в отличие от бизнеса⁸.

Доверие – комплексный принцип: если цифровой сервис неудобен для пользователей или, тем более, так или иначе нарушает их права, они распространят свое недовольство на коммерческие или государственные цифровые инициативы в целом. Подробнее тема этики технологий применительно к государству раскрыта в серии публикаций «Этика и “цифра”»⁹.

Стоит отметить, что список проблем, которые мы рассмотрим в этой главе, безусловно, не может исчерпать всего возможного спектра этических вопросов, возникающих в связи с применением цифровых технологий. Для простоты изложения мы остановились на четырех крупных проблемах: дискриминация пользователей, включая вопросы цифрового неравенства, угрозы приватности, цифровая слежка, неэтичное применение искусственного интеллекта. Применительно к каждому риску мы рассмотрим конкретный пример из реальной жизни, воздействие этого риска на пользователей, а также затронем опыт различных организаций и существующие решения. Сами решения могут лежать в различной плоскости, от написания стратегических документов, регламентов и политик до внедрения практических инструментов информационной безопасности, поэтому в данной главе мы ограничиваемся кратким описанием этих решений.

Дискриминация и цифровое неравенство

Если представить весь набор этических рисков и проблем, связанных с цифровой трансформацией, в виде пирамиды, то основанием этой пирамиды станут проблемы дискриминации людей и цифрового неравенства (digital divide). Очевидно, что и в мире, и в каждой отдельно взятой стране доступ к технологиям, устройствам, цифровым продуктам и сервисам неравномерен, и этот разрыв не торопится сокращаться.

Проблемы цифрового неравенства возникают по разным причинам, среди которых географическая удаленность, различная экономическая ситуация, отсутствие необходимой инфраструктуры, ограниченные возможности здоровья людей, их возраст, низкий уровень цифровой грамотности пользователей и пр. Например, кто-то живет в местности, где нет современных средств связи, у кого-то недостаточно денег, чтобы купить устройство, поддерживающее работу современных приложений, кому-то не хватает навыков, чтобы свободно пользоваться преимуществами технологий.

Таким образом, некоторые, иногда довольно многочисленные, группы пользователей имеют ограниченный уровень доступа к технологиям, или находятся в состоянии цифровой эксклюзии. Для этих людей повсеместная цифровизация государственных и коммерческих сервисов означает либо полную утрату доступа к ним, либо существенное снижение их доступности¹⁰.

Примечательно, что доступность сервисов и риски цифровой эксклюзии выше для лиц, уже находящихся в социально неблагополучной ситуации (граждан с самыми низкими доходами, мигрантов, неграмотных и граждан пожилого возраста и др.), поэтому такая тенденция значительно усиливает риски социальной сегрегации. Фактически цифровизация государственных и коммерческих сервисов приводит к дискриминации таких групп людей, если не предпринимаются специальные меры для помощи им.

В Норвегии¹¹ некоторым семьям с детьми-школьниками во время пандемии приходилось искать места вне дома с устойчивым интернет-соединением, чтобы дети продолжали учиться. В России стал широко известен случай деревни Новопетровка Пермского края, где школьники из-за проблем с сетью залезали на старую телевышку для отправки домашних заданий¹².

В отчете Digital Planet¹³ описаны случаи, когда родители везли детей на парковку ближайшего супермаркета с бесплатным Wi-Fi, а в семьях, в которых устройств не хватало, возникал сложный выбор: использовать единственное устройство для работы родителя или для обучения школьника в одно и то же время.

Необходимость учиться перед компьютером или гаджетом негативно влияет¹⁴ на слух, зрение, способность к концентрации, повышает утомляемость и общий уровень стресса у студентов и школьников. Обучению мешают невозможность уединиться в комнатах в общежитиях даже во время экзамена, отсутствие у многих учащихся отдельного пространства дома и другие бытовые причины. 

Отдельная задача – создавать инклюзивные цифровые продукты и сервисы, позволяющие пользоваться ими людям с ограниченными возможностями здоровья (зрение, слух, моторные нарушения и т. д.¹⁵). При разработке дизайна сайтов необходимо заранее предусматривать различные пользовательские сценарии, а также соблюдать рекомендации «Руководства по обеспечению доступности веб-контента» (WCAG) 2.0¹⁶. Например, аудиоконтент для глухих полагается сопровождать субтитрами, а для людей, имеющих проблемы с моторикой, важна возможность управлять сайтом с клавиатуры без мыши. Масштабные инклюзивные проекты также есть у таких крупных технологических корпораций, как Microsoft, Apple и Google.

Компания «Яндекс» адаптировала приложение «Яндекс Go» и сайт taxi.yandex.ru для незрячих пользователей. Теперь незрячие пользователи могут без посторонней помощи заказать такси не только по телефону, но и с компьютера или мобильного устройства. Программы экранного доступа, включая VoiceOver или JAWS, озвучивают отображаемую на экране информацию. Разработчики «Такси» снабдили все элементы интерфейса невидимыми подписями-подсказками, а с помощью незрячих тестировщиков была продумана навигация. Незрячим пользователям приложения и сайта доступны все основные возможности сервиса: можно задать маршрут, выбрать тариф, узнать стоимость поездки, выбрать способ оплаты, заказать машину и оставить комментарий водителю¹⁷.

Компания Google разработала очки Envision для незрячих. С помощью камеры и системы искусственного интеллекта очки собирают информацию об окружающей среде, анализируют ее и озвучивают пользователю. Такими очками очень просто пользоваться: достаточно один раз открыть приложение Envision, подключить очки к устройству по Bluetooth и подключиться к Wi-Fi. Чтобы очки распознавали лица, можно попросить людей сделать селфи в приложении и ввести свое имя, после этого очки будут произносить вслух имя этого человека, если он окажется неподалеку.

Тотальное навязывание «цифры» и отсутствие аналоговых форм получения услуг порождает распространение цифрового «луддизма». На сегодняшний день в вопросах права на отказ от цифровых технологий и возможности пользоваться аналоговым способом получения услуг нет этического консенсуса.

В Индии в 2021 году некоторые жители не могли записаться на вакцинацию, поскольку не имели смартфонов или не умели ими пользоваться¹⁸. Иногда они узнавали о том, что на прием можно попасть только по предварительной онлайн-записи, уже отстояв большую очередь в центр вакцинации.

Однако стоит отметить, что, помимо предоставления людям свободы выбора, аналоговая альтернатива позволяет сохранять доступ пользователей к жизненно важным продуктам и услугам в нестандартных и редких ситуациях, когда воспользоваться цифровой услугой технически невозможно. Поэтому при цифровизации тех или иных процессов и способов взаимодействия с пользователями рекомендуется сохранять аналоговые альтернативы для ряда сервисов: критически важных, массовых, тех, где большой сегмент целевой аудитории составляют люди старшего поколения, и т. д.

Помимо общих соображений этики и справедливости, создание доступных инклюзивных продуктов и сервисов выгодно компании. Группы пользователей, которые по разным причинам не могут полноценно пользоваться всеми возможностями цифрового мира, становятся особо лояльными клиентами тех компаний, которые сохранили «аналоговые» сервисы.

В Сбере можно получить выписку из электронного реестра, внешне оформленную в привычном виде, как в сберегательной книжке. Все сведения о движении средств фиксируются в электронной форме, но в любой момент можно воспользоваться «аналоговой» возможностью и получить выписку на бумаге.

В Индии с 2018 года приложение WhatsApp доступно для некоторых моделей кнопочных телефонов. С помощью него нельзя звонить, однако можно записывать голосовые сообщения.

Нарушение прав и дискриминация отдельных пользователей и групп все чаще происходят из-за применения алгоритмов и искусственного интеллекта (ИИ), имеющих скрытые предубеждения, недостаточно продуманные механизмы принятия решений.

Интеллектуальные системы, лежащие в основе онлайн-сервисов, цифровых услуг и продуктов, работают с огромным количеством данных и чаще всего непрозрачны даже для специалистов. Системы ИИ учатся получать информацию из таких наборов данных, которые раньше не воспринимались как источники информации или вовсе не существовали (например, социальных сетей). Кроме того, многие решения на базе ИИ строятся по принципу «черного ящика», что создает принципиально высокую сложность объяснения решений, которые принимает ИИ-система, а также исправления ошибок.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Авторы главы выражают благодарность всем соавторам серии аналитических докладов «Этика и ”цифра”» (Этика и «цифра»: от проблем к решениям / под ред. Е. Г. Потаповой, М. С. Шклярук. М.: РАНХиГС, 2021; Этика и «цифра»: этические проблемы цифровых технологий – См. на портале ethics.cdto.center) за ценнейшее экспертное мнение и совместное творчество, вдохновившее нас на создание этой главы.

Вернуться

2

What is GDPR, the EU’s new data protection law? // GDPR. – См. На портале gdpr.eu.

Вернуться

3

Источник рисунка: Accelerating Digital Innovation Inside and Out // Deloitte. 2019 – См. на портале www2.deloitte.com

Вернуться

4

How leaders are navigating the Fourth Industrial Revolution // Deloitte См. на портале www2.deloitte.com; Accelerating digital innovation inside and out // Deloitte – См. на портале www2.deloitte.com

Вернуться

5

Источник рисунка: How Leaders Are Navigating the Fourth Industrial Revolution: Out latest survey of Industry 4.0 readiness // Deloitte. 2019.

Вернуться

6

Источник рисунка: 2021 Edelman Trust Barometer Tech Sector Report // Edelman. 2021 – см. на портале edelman.com

Вернуться

7

Bannister C., Sniderman B., and Buckley N. Ethical tech: Making ethics a priority in today's digital organization // Deloitte Review. Issue 26. 2020 – см. на портале edelman.com

Вернуться

8

2021 Edelman Trust Barometer // Edelman – см. на портале edelman.com

Вернуться

9

Этика и «цифра»: от проблем к решениям / под ред. Е. Г. Потаповой, М. С. Шклярук. М.: РАНХиГС, 2021; Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020 – см. на портале ethics.cdto.center

Вернуться

10

Подробнее см.: Дискриминация и цифровое неравенство // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020 – См. на портале ethics.cdto.center

Вернуться

11

Norway’s statistics agency was also the first in the world to calculate the permanent damage inflicted by school closures: every week of classroom education denied to students, it found, stymies life chances and permanently lowers earnings potential. (Nelson F. Norway health chief: lockdown was not needed to tame Covid // The Spectator – См. на портале spectator.co.uk

Вернуться

12

Школьники забирались на телевышку, чтобы отправить «домашку». Власти Прикамья прокомментировали ситуацию – См. на портале Properm.ru.

Вернуться

13

Digital in the time of COVID. Trust in the Digital Economy and Its Evolution Across 90 Economies as the Planet Paused for a Pandemic // Digital Planet – См. на портале sites.tufts.edu

Вернуться

14

Трудности цифровизации: коллективное письмо студентов НИУ ВШЭ руководству и сотрудникам университета // Гражданская инициатива – См. на портале netreforme.org

Вернуться

15

См.: Доступность цифровых технологий и услуг для граждан // Этика и «цифра»: этические проблемы цифровых технологий. В 2 т. М.: РАНХиГС, 2020 – см. на портале ethics.cdto.ranepa.ru

Вернуться

16

Руководство по обеспечению доступности веб-контента (WCAG) 2.0 // W3C – См. на портале w3.org

Вернуться

17

«Яндекс» адаптировал сервис такси для незрячих пользователей // Ведомости – См. на портале vedomosti.ru

Вернуться

18

Wajihudin M. Digital divide: Lack of smartphones deprives many of jabs // The Times of India – См. на портале timesofindia.indiatimes.com

Вернуться