Фрэнк Паскуале
Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта

Освобождение людей, ухаживающих за больными, или автоматическая медицинская помощь?

Медицинская помощь может быть сложной, грязной, монотонной и даже опасной работой. Постепенно складывающаяся армия роботов и ИИ может облегчить это бремя. Роботы уже проникли в больницы и дома престарелых. Немногие сомневаются в том, что их можно использовать в качестве уборщиков, подсказчиков (чтобы вовремя принимать лекарства или, например, не есть соль), подъемников (лежачих пациентов) или в каких-то других вспомогательных ролях. Все они освобождают людей, ухаживающих за больными, – родственников или сиделок, врачей или друзей, которые получают возможность заниматься другой, более осмысленной помощью. Японский Robear может поднимать пациентов из кровати и укладывать их, чем избавляет медсестер и санитаров от травм спины. Автоматические таблетницы способны предупредить ошибки в приеме препаратов, которые являются серьезной проблемой в гериатрическом уходе.

В идеальном случае все эти инновации освобождают людей, ухаживающих за больными, так что они получают возможность заниматься работой, которая может быть только человеческой. Рассмотрим, к примеру, следующее описание хосписного работника и то, как она утешает умирающих.

Хэзер – не энергичная и не эффективная, в отличие от больничных медсестер. На самом деле ее неэффективность намеренна. Большую часть времени, посещая пациентов, она делает не слишком многое: записывает показатели жизненно важных функций, проверяет, достаточно ли медикаментов и других припасов, спрашивает, прошли ли прежние симптомы и появились ли новые… Однако даже когда ей нечего делать, задача в том, чтобы побыть рядом, поговорить, посидеть, погладить пациента рукой во время осмотра. Ее визит для пациента может стать самым насыщенным моментом за весь день… Поэтому Хэзер двигается медленно; она усаживается, задерживается, медлит^[153].

В медицинских организациях, где вечно не хватает времени, уход такого типа встречается довольно редко. Даже когда те, кто симпатизируют медсестрам, учитывают в кадровом составе минимум подобного ухода, они редко закладывают время для подобной целенаправленной «неэффективности». И это ошибка, поскольку неявные моменты работы такой медсестры в хосписе одни из самых важных.

Некоторые ИИ и роботы сегодня проектируются для выполнения задач сопровождения и эмоциональной связи. Журналистка Нелли Боулс описала Билла, пожилого мужчину, который был рад той помощи, которую ему оказал Sox. Sox – это просто анимированный кот на экране планшета, который спрашивал его о том, как он провел день, отвечал на его вопросы и время от времени советовал ему лучше питаться^[154]. Билл знал, что Sox управляется удаленными операторами, которые печатают то, что он должен «сказать», наблюдая за его движениями. Однако он обнаружил, что даже эти поверхностные вопросы о его жизни и здоровье помогали сгладить одиночество, от которого он страдал после смерти жены. Другой клиент Sox заявил в записанном им видео: «Хорошо, когда у тебя есть тот, кто спрашивает, как прошел твой день и не беспокоит ли тебя что-то»^[155].

Ирландская компания – производитель роботов Mylo готова сделать собственным лицом кошачью мордочку^[156]. Mylo – это мобильный объект, очертаниями немного напоминающий робота С-3РО из «Звездных войн». Социальный предприниматель, разработавший Mylo, рекламировал робота как утешителя и напоминателя, способного напомнить пациентам, страдающим деменцией, о ежедневных таблетках или дать сигнал семье, когда клиент, к примеру, нуждается в помощи или когда он слишком долго остается неподвижным. Потребители могут арендовать Mylo всего лишь за девять евро в день, что дешевле часа работы профессиональной сиделки. Такая разница в цене может привести к тому, что роботы перешагнут границы своей роли помощников людей, ухаживающих за больными, и начнут их заменять.

Куклам, мультипликационным и телевизионным персонажам довольно легко приписывать личные качества. Достаточно изолированному человеку (можно привести пример героя Тома Хэнкса в фильме «Изгой») хватит и волейбольного мяча. Теоретики медиа Байрон Ривз и Клиффорд Насс отметили, что многие люди относятся к медиагероям так, словно бы они реально присутствовали в их жизни. Такие «реакции не требуют стратегического мышления, скорее, они бессознательны. Реакции не являются следствием выбора человека, они возникают постоянно и с большой скоростью»^[157]. Роботы могут вызвать похожие аффекты, склоняя к их антропоморфизации или зооморфизации^[158]. Когда они пробуждают подобные чувства доверия или дружественности у представителей уязвимых групп населения, возникают весьма щекотливые этические вопросы^[159].

Рассмотрим, к примеру, потенциальные области применения похожих на животных роботов, выступающих в роли заменителей домашних животных. Терапия с применением животных была популярна в лечебных учреждениях для хронически больных, в частности, в «зеленых домах престарелых»^[160]. К сожалению, персоналу трудно содержать животных, к тому же многие заведения боятся ответственности, которую вынуждены нести в том случае, когда животные кусаются или царапаются. Роботы предлагают более безопасную альтернативу. Японские исследователи разработали Раго – робота в виде плюшевой игрушки. Он выглядит как тюлененок и играет роль компаньона для пациентов, страдающих от деменции. Раго может выступать своего рода домашним любимцем, изображая внешние признаки внимания, нужды и расслабленности. Он хлопает глазами, пищит и мяукает, шевелит усами и хвостом. Не являясь человекоподобным компаньоном, он при этом устраняет риски контакта с животным.

Исследовательница из MIT Шерри Теркл призывала отнестись к тому, что мы все больше опираемся на робототехнику, с крайней осторожностью. Ее близкое знакомство с уязвимыми группами населения показало, насколько сильным может быть воздействие симулякров: «Пожилые люди в домах престарелых играют с роботом Раго и пытаются понять, как охарактеризовать это создание, которое выдает себя за тюлененка. После вопросов: „Умеет ли он плавать?“ или „Ест ли он?“ – они переходят к вопросам: „Он живой?“ и „Может ли он любить?“»^[161]. Теркл обеспокоена обществом, в котором занятые взрослые оставляют своих стареющих родителей с набором сложных игрушек, вместо того чтобы посещать их. Теркл, основатель и директор «Инициативы технологий и субъекта» в MIT, видит в избыточной увлеченности гаджетом замену человека «машинным» компонентом – «дешевое свидание» роботизированного взаимодействия, замещающего более непредсказуемый, но в конечном счете более сложный и радостный контакт любви, дружбы и товарищества. Хотя видеофильмы и исследования фиксируют положительное воздействие робота Раго на настроение хронически одиноких людей, Теркл предполагает, что подобная мотивация может с таким же успехом служить предлогом для небрежения. Некоторые могут рассудить: зачем навещать бабушку, если у нее есть компаньон – робот в виде животного?

Защитники робота Раго указывают на практическую потребность в инновации такого типа, которую можно понять, если учесть одиночество многих пожилых людей. Даже терапевты, использующие в своей работе домашних животных, могут посещать больного лишь на несколько часов за раз. Разве Раго не лучше, чем ничего, если нет никакой альтернативы, то есть ни человека, ни животного, которые могли бы проявить сочувствие и обеспокоенность? В той мере, в какой человек завершает цикл, двигаясь от младенчества к дряхлости, разве Раго не является попросту высокотехнологическим вариантом «Плюшевого кролика», классической детской сказки, в котором плюшевая игрушка для одинокого мальчика становится настоящей? Раго, говорят его защитники, заменяет настоящего компаньона не для всех, а лишь для небольшой группы, чьи потребности в уходе частные и государственные средства удовлетворить не могут.

Апологеты социальных роботов в уходе за пожилыми обычно приводят статистику, указывающую на нехватку качественного ухода в домах престарелых, а также на высокую стоимость подобных услуг и экономическую обусловленность их инноваций^[162]. Во многих развитых экономиках пирамида возраста превращается в прямоугольник, в котором пожилых столько же, сколько и молодых. Неизбежный выход на пенсию миллионов беби-бумеров в США уже несколько десятилетий является настоящей головной болью для планировщиков долгосрочной медицинской помощи. Все это заставляет видеть в технологии, заменяющей людей, правильное решение. Подобная технология, если поместить ее в контекст «строительства стены» ксенофобии и экофашистского национализма, для богатых стран может стать предлогом ограничения иммиграции. Например, стареющее население может решить, что не нужно допускать в страну молодых рабочих из-за рубежа, если будет уверено, что роботы смогут выполнять работу, которую сейчас делают иммигранты. Это движение к самодостаточности может оказаться несостоятельным: поскольку роботы (или их собственники) платят меньше налогов, чем рабочая сила, у них меньше возможности платить пенсии по старости и оплачивать медицинскую помощь, чем у рабочих, которых они заменяют. Политики и стратеги должны четко понимать долгосрочные фискальные последствия, прежде чем требовать ускорения автоматизации медицинской помощи и ухода.

Для верной оценки масштаба и потенциала социальных роботов крайне важна общая картина политической экономии ухода. Нехватка финансирования ухода за пожилыми не является естественным следствием экономической науки. И то же самое относится к трудоголизму, из-за которого частые посещения членами семьи начинают казаться недостижимой роскошью. Они суть производное определенной публичной политики, которое более удачная политика может отменить (или, по крайней мере, сгладить). Если бы в богатых странах действовала более открытая политика иммиграции, рабочие из многих других стран могли бы заняться работой по уходу и медицинской помощи. Как показала Ай-Джен Пу, гуманное устройство труда иммигрантов (и создание траекторий получения гражданства) – путь к глобальной солидарности и взаимопомощи^[163]. Соответственно, фирмы, которые жаловались на нехватку квалифицированных работников, были завалены заявками, 82 когда подняли уровень компенсации^[164].

Конечно, в разных государствах может по-разному оцениваться необходимость роботизированного ухода за престарелыми. Универсального рецепта в этом случае не существует. Японские лидеры проявили особую заинтересованность в применении технологии в медицинских заведениях^[165]. Некоторые комментаторы утверждали, что синтоизм и буддизм склоняют японцев к положительной оценке роботов и связанной с ними технологии. Например, бывший директор MIT Media Lab Джой Ито обнаружил глубинную связь между различными формами анимизма и положительным отношением к роботам^[166].

Однако японская культура – это не монолит, в ее плюрализме можно заметить голоса, призывающие относиться к распространению ИИ с осторожностью^[167]. Так, в ходе одной оживленной дискуссии аниматор Хаяо Миядзаки отверг анимированное с применением ИИ изображение гротескной гуманоидной фигуры:

Мне это крайне неприятно. Если вы на самом деле хотите сделать что-то отвратительное, тогда вперед. Я никогда не стану применять эту технологию в собственной работе… У меня четкое ощущение, что это оскорбление самой жизни… Мне кажется, что близится конец времен. Мы, люди, теряем веру в самих себя^[168].

Подобные гневные высказывания, как у Миядзаки, усложняют любой простой нарратив о единогласном одобрении роботов в Японии. На каждое воодушевленное внедрение тех же роботов-компаньонов можно найти примеры упорной защиты человека, личного контакта, традиционных моделей взаимодействия. К любым «культурным» аргументам следует подходить с осторожностью, поскольку представления о культурном единстве обычно вытесняют или упускают из вида существующие тревоги и возражения^[169]. Точно так же, как Амартия Сен раскритиковал заявление руководителей Сингапура об особых «азиатских ценностях», которые противостоят правам человека, мы сегодня должны сопротивляться упрощенным представлениям об однородности той или иной культуры^[170].

Хотя можно указать на фильмы и мангу как свидетельства преданности японской культуре автоматизации, в них тоже заметны ноты трагедии и сожаления. Пророческий (хотя и довольно прямолинейный) японский фильм 1991 г. «Старик Зет» (Rojin Z) стал выражением страхов, связанных с заменой человеческого ухода машинами. В фильме о больном и немощном старике «заботится» сверх-машинизированная кровать, которая предвосхищает любую его потребность – посмотреть телевизор, подстричь ногти, помыться, даже поесть и испражниться. Гротескна не только представленная в фильме картина тотального механического ухода. Само представление о такой машине, отвлеченной от всякого человеческого участия, от руководства человека и его достоинства, вызывает глубокое беспокойство. Ставки настолько велики, представление о том, что делает жизнь достойной, настолько невыразимо и изменчиво, принятие решений в столь значительной степени распределено между людьми, ухаживающими за больными, и теми, кто является объектом такого ухода, что рутинизация кажется в лучшем случае плохой идеей, а в худшем – настоящим оскорблением.

Конечно, каждый из таких примеров может иллюстрировать «культурные разногласия» в Японии, а не типичные установки. Данит Гал, помощница руководителя проекта и преподаватель в Исследовательском центре киберцивилизации университета Кэйо, построила типологию отношений к ИИ и роботам, распределив их в спектре между «инструментом» (которым следует пользоваться) и «партнером» (определение, которое выводит на комплекс эмпатии, солидарности и даже дружбы и любви)^[171]. Гал приводит несколько подтверждений того, что Япония ближе к «партнерскому» краю спектра. Однако Гал, не делая вывода о доказанности монолитического строения «азиатских ценностей», определяющих положительное отношение к технологии, утверждает, что Южная Корея смогла выработать «четкую иерархию, в которой человек выше машины, причем ИИ и роботы должны поддерживать и укреплять такое господство человека». Она приходит к заключению, что Китай находится где-то посередине между двумя этими парадигмами, поскольку в нем продолжается политический и культурный спор о фундаментальных посылках взаимодействия человека и робота. В развитии этих отличных друг от друга подходов экономисты не должны пытаться склонить чашу весов в пользу заместительной автоматизации. Они могут точно так же рекомендовать уход, выполняемый человеком.

Политическая экономия роботизированного ухода

Более значительные тенденции в занятости рабочей силы и спросе на нее также играют свою роль. Роботизированный уход имеет намного больше смысла в обществе, где взрослые дети постоянно вынуждены все больше работать; перегруженное «сэндвичное поколение» вынуждено чем-то жертвовать. Если бы, наоборот, прибыли от производительности распределялись лучше, спрос на роботов в области ухода за пожилыми, скорее всего, упал бы. Распространение инноваций обусловлено не столько существованием самого устройства как такового, сколько потребностью, которой оно служит в определенной социально-технической системе. Как утверждала Марта Файнман, мы можем перестроить социальные системы так, чтобы реорганизовать мотивы и стимулы, вместо того чтобы пытаться подгонять людей под все более дисфункциональные системы^[172].

Наконец, и это наиболее важная часть моего аргумента в этой главе, выбор между социальными роботами и медицинским персоналом представляет собой ложную дихотомию. Даже ярые сторонники социальных роботов обычно описывают их как помощников, а не заменителей сиделок и медсестер. Научные данные говорят в их пользу. Например, применение робота Раго вместе с интенсивной работой сиделок и других лиц, ухаживающих за больными, дает лучшие результаты, чем исключительно дистанционные методы. За последнее десятилетие ученые провели ряд исследований подобных применений роботов и пришли к некоторым положительным результатам. Исследователи-психиатры на Тайване выяснили, что «терапия с применением роботов может использоваться в стандартных программах, поскольку она обладает способностью повышать социальное благополучие престарелых в учреждениях интернатного типа»^[173]. Норвежские планирующие инстанции выяснили, что «Раго, видимо, выступает медиатором усиливающихся социальных взаимодействий, привлекая к ним» престарелых пациентов с деменцией, которым его предоставляли^[174]. Люди, осуществляющие уход, могут структурировать взаимодействие с социальными роботами, поощряя самовыражение, заботу о близких и беседы. Эта дополнительность помогает и пациенту, и человеку, заботящемуся о нем.

Профессиональные учебные заведения и медицинские системы должны развивать навыки профессиональных медиаторов между уязвимыми людьми и техническими системами. Специалист по этике Эйми ван Винсберге утверждала, что в применении робота отражается определенное представление о той или иной практике – в данном случае практике ухода. Во многих ситуациях «человеческое прикосновение, зрительный контакт, присутствие человека» – вот что играет ключевую роль в уходе. Если робот способен поддерживать подобные контакты, он может стать положительной частью проекта, ориентированного на ценности^[175].

В развитых системах медицинского ухода это уже в полной мере учитывается. В Нидерландах был снят документальный фильм «Алиса заботится» об эксперименте с применением робота-компаньона, который дополняет посещения домашней сиделки. Контакты в итоге были достаточно позитивными. Одна старая женщина показывала роботу фотоальбомы, другая смотрела с ним футбол. Робот может подбадривать, кивать и иногда выражать одобрение или беспокойство. Сиделки дали пожилым людям понять, что робот не будет заменять человеческое общение, что он только подбадривает его. Это и стало условием доверия^[176].

Создание доверия является ключевым фактором, учитывая широко распространенные опасения, связанные с применением автономных машин. Согласно опросу «Евробарометра», бо% стран в ЕС запретят роботизированный «уход за детьми, пожилыми людьми и людьми с инвалидностями»^[177]. И руководствуются они не просто луддизмом. Развитие автономных роботизированных систем, осуществляющих «уход», может усугубить глубокий социальный разрыв между теми, кому доступен человеческий контакт, и теми, кого отправляют к программам и машинам. Сомнения вызывает то, получают ли они, собственно, в таком случае какой-либо уход. Уход, если противопоставлять его системе внешних форм поведения, которыми он просто изображается, может возникать лишь в контексте взаимоотношений, когда лицо, этот уход осуществляющее, может, по крайней мере теоретически, его прекратить. Именно постоянное подтверждение готовности тратить время и силы на другого человека – вот что делает уход настолько ценным и ограниченным лишь сферой людей как существ, обладающих свободой воли. ИИ и роботы могут помочь с улучшением условий ухода, но саму эту работу они выполнить не в состоянии.

Сохранение человеческого контакта в медицине

О будущем роботов и ИИ в медицине мы можем очень многое узнать благодаря удачам и неудачам другой критически важной технологии, а именно фармацевтики. Ни один разумный доктор не захотел бы вернуться к медицине до появления современных лекарств. Антибиотиками сегодня можно вылечить пневмонию, от которой еще сто лет назад умирали. Однако в случае многих заболеваний спорным остается вопрос о том, какие именно лекарства выписывать, в какой дозировке и на какой срок. С роботами и ИИ похожая ситуация. Некоторые врачи готовы рекомендовать их направо и налево; другие проявляют больше осторожности; и все мы надеемся на то, что более качественный сбор данных позволит объективным наблюдателям отделить надежды от простой шумихи.

Как только мы выходим за пределы простых вопросов безопасности и эффективности автоматики, намечаются более сложные проблемы. Если бы решения о скорости и природе применения ИИ сводились к рыночной логике, дешевые роботы и приложения могли бы быстро стать новыми регуляторами доступа к специальной медицинской помощи или попросту узурпировать роль врачей-людей в работе со многими пациентами. От личного доктора можно было бы отказаться как от роскоши, так же как и от личного портного. С другой стороны, если бы государственные агенты взяли на себя слишком большую роль в управлении автоматизацией, политические соображения могли бы закрепить уже сложившиеся формы неэффективности. Рынок и государство лучше всего уравновешивать тем, что социолог Элиот Фрейдсон назвал «третьей логикой», а именно логикой профессионализма. В профессиях работники со специальными знаниями, предоставляющие наиболее значимые услуги, «имеют возможности организовывать и контролировать свою собственную работу»^[178].

Медицина – одна из самых старых профессий, и обоснование ее автономности со временем менялось. Когда медицинское лечение было делом случая, врач считался похожим на прорицателя, которого уважали за некоторое знакомство с неизвестными силами. Благодаря науке медицина стала надежней, тогда как медицинскими комиссиями были разработаны стандарты защиты пациентов от знахарей и шарлатанов. Также были рассмотрены критические вопросы управления рисками медицинских исследований, которые имели гораздо меньшее значение, к примеру, в маркетологических исследованиях. Чтобы решить все эти вопросы, медицине как отдельной профессии приходится использовать свою привилегию (то есть лицензировать или запрещать предоставление ухода и медицинской помощи) ради защиты общества и особенно его наиболее уязвимых слоев.

К несчастью, хитрый маркетинг некоторых приложений психического здоровья способен увести индустрию на совсем другую, не слишком устойчивую траекторию. Потенциальные клиенты могут пользоваться такими приложениями как дешевой и удобной альтернативой посещения терапевта. Это расходится с установкой многих регулирующих ведомств (начиная с бюро лицензирования и заканчивая агентствами по защите прав потребителей), с точки зрения которых приложения – это просто игры, развлечения, информационные сервисы, помощники в здоровом образе жизни, то есть все то, что не затрагивает традиционные обязанности и ответственность терапевтов^[179]. Хотя в случае определенных фирм подобный арбитраж силами регулирующих ведомств может работать в качестве краткосрочной юридической стратегии, он подрывает доверие, необходимое для процветания индустрии в целом. Для пациентов также создается риск того, что они последуют некачественным советам. Например, когда исследователи в Австралии изучили 82 мобильных предложения, предлагавшихся на рынке людям, страдающим биполярным расстройством, они обнаружили, что эти приложения «не соответствовали практическим стандартам и принятым принципам самоуправления»^[180].

Врачи Адам Сайфу и Виньян Прасад начинают недавно вышедшую книгу шокирующим открытием: «Несмотря на поразительное развитие клинической и хирургической науки, а также геномики, врачи по-прежнему, порой десятилетиями, применяют медицинские практики, которые, как позже было показано, не приносят пользы пациентам»^[181]. Прасад сформулировал эту проблему в категориях статистики: «46 % того, что мы [врачи] делаем, неправильно». Конечно, некоторые диагнозы поставить просто, и мы в медицинской системе чаще всего имеем дело именно с ними. Большее количество данных поможет нам находить больше «простых решений» при поиске препаратов и даже автоматизировать его. Но нам еще очень далеко до прочерченной методами ИИ траектории, ведущей к гарантированному снижению смертности и приросту продолжительности жизни.

Собственно, самое важное воздействие ИИ и робототехники на медицину может быть косвенным, то есть определяться развитием за пределами сектора здравоохранения как такового. В последние годы исследователи государственного здравоохранения показали исключительное значение социальных факторов здоровья – питания, режима сна, нагрузки на работе, дохода и богатства. Хотя ИИ может создать больше выгод для всех и потенциально повысить благосостояние за счет своего воздействия во всех этих областях, он с той же легкостью может ускорить нежелательный контроль, социальное разделение и конкуренцию с нулевой суммой. Все эти эффекты могут оказать такое же или даже большее воздействие на продолжительность жизни и благополучие, чем развитие роботов-хирургов или диеты, оптимизированные с применением ИИ.

С точки зрения большинства здоровых людей, врачебное дело представляется простой задачей по распознанию паттернов (диагностики), которое ведет к определенным медицинским процедурам или предписаниям. Идеальный телеврач правильно оценивает все представленные ему данные, настоятельно рекомендует определенный курс, а потом переходит к следующему больному. Если бы все было так просто, роботы со временем и в самом деле могли бы заменить врачей. Но в реальном мире медицинской практики эта картина давно устарела. Во многих обстоятельствах сохраняются неопределенность и сомнения относительно того, какие действия лучше всего предпринять. Современная медицина требует участия – или, по крайней мере, понимания – пациента, который должен соблюдать предложенный план лечения. Такие факторы значительно усложняют и обогащают отношения врача и пациента, в которых существенным оказывается собственно человеческая составляющая. С похожими проблемами, как мы увидим в следующей главе, сталкиваются учителя и учащиеся.