Стивен Хорс Когда AI начинает думать за нас. Как искусственный интеллект меняет наше мышление, память и способность принимать решения

Глава 2. Когнитивная разгрузка: почему мозг рад передать управление

Чтобы понять, почему современный человек так легко и охотно перекладывает часть умственной работы на внешние системы, необходимо для начала разобраться в том, как устроен сам механизм человеческого мышления и какую цену оно всегда платит за собственную работу. Мозг, при всей своей поразительной сложности, устроен экономно. Он не стремится думать больше, чем это необходимо, и при первой возможности ищет способ снизить нагрузку, которую испытывает в процессе решения задач. Это не слабость и не недостаток — это фундаментальное свойство любой сложной системы, которая должна распределять ограниченные ресурсы между множеством одновременных процессов. И именно на этом свойстве строится то явление, которое принято называть когнитивной разгрузкой.

Под когнитивной разгрузкой понимается перенос части умственной работы на внешние носители или инструменты, освобождающий внутренние ресурсы мышления для других задач. Явление это далеко не новое: человек прибегал к нему задолго до появления современных технологий. Когда наш далекий предок делал зарубки на палке, чтобы отметить количество дней или голов скота, он занимался именно когнитивной разгрузкой — переносил функцию подсчета из собственной головы на внешний предмет. Когда человек записывал важные мысли на бумаге, чтобы не держать их постоянно в сознании, он делал то же самое. Вся история письменности, счета, картографии — это, по сути, история постепенного вынесения различных умственных функций вовне, в мир внешних носителей информации.

Если когнитивная разгрузка существовала всегда, почему же именно сейчас она стала предметом особого внимания и тревоги. Ответ заключается в масштабе и скорости происходящих изменений. Прежние формы разгрузки касались отдельных, узких функций: запоминания дат, хранения текста, выполнения арифметических операций. Современные интеллектуальные системы способны взять на себя не отдельные функции, а целые цепочки рассуждений, включающие анализ, сопоставление, формулировку выводов и даже принятие решений. Масштаб делегируемой работы вырос настолько, что количественное изменение начинает переходить в качественное: меняется не просто объем умственной работы, которую человек выполняет самостоятельно, а сама структура его мышления, привычные способы обращения с информацией и задачами.

Чтобы понять, почему мозг с такой готовностью соглашается на подобную разгрузку, полезно обратиться к тому, как устроена система принятия решений внутри самого человека. Психологи давно описали существование двух различных режимов мышления. Первый режим работает быстро, автоматически, почти без усилий — он отвечает за интуитивные реакции, узнавание знакомых образов, привычные действия, не требующие сознательного контроля. Второй режим работает медленно, требует сосредоточенности, сознательных усилий и заметно более высоких энергетических затрат — именно он отвечает за сложный анализ, взвешивание альтернатив, решение новых, нестандартных задач. Переход в этот второй, затратный режим мышления происходит только тогда, когда первый, быстрый режим не в состоянии справиться с задачей самостоятельно. И даже тогда мозг стремится как можно скорее вернуться к экономному, автоматическому режиму работы, поскольку удержание сознательного внимания и напряженного анализа требует значительных внутренних ресурсов.

Именно это фундаментальное свойство человеческого мышления и объясняет, почему обращение к интеллектуальным системам ощущается настолько естественным и приятным. Каждый раз, когда сложная задача, требующая напряженного, затратного мышления, решается за счет обращения к внешнему инструменту, мозг избегает необходимости входить в затратный режим работы. Вместо длительного, требующего усилий процесса анализа он получает готовый результат почти мгновенно, ценой минимального усилия — формулировки запроса. С точки зрения экономии внутренних ресурсов это выглядит как идеальное решение. Мозг получает нужный результат, избегая значительных энергетических затрат, и воспринимает подобный опыт как приятный, эффективный, достойный повторения. Именно поэтому привычка обращаться к готовым решениям закрепляется настолько быстро и настолько прочно: она напрямую соответствует базовому стремлению мышления к минимизации усилий при сохранении результата.

Однако здесь кроется важная тонкость, о которой редко задумываются. Экономия усилий, столь приятная в моменте, имеет долгосрочные последствия, которые не всегда очевидны сразу. Способности, требующие затратного, сознательного режима мышления, развиваются и укрепляются именно через регулярное использование этого режима. Если человек систематически избегает напряженного анализа, передавая его внешним инструментам, соответствующие способности постепенно ослабевают — не потому, что мозг физически теряет какую-то свою часть, а потому, что нейронные механизмы, отвечающие за сложное, самостоятельное мышление, требуют постоянной тренировки, подобно любому другому сложному навыку. Человек, который годами не сталкивался с необходимостью решать сложные задачи самостоятельно, обнаруживает при столкновении с такой необходимостью, что процесс дается ему значительно труднее, чем прежде, и требует куда большего напряжения, чем требовал бы, если бы навык поддерживался в постоянной практике.

Возникает своеобразный замкнутый круг. Чем чаще человек прибегает к когнитивной разгрузке, тем менее развитой становится его способность к самостоятельному сложному мышлению. Чем менее развитой становится эта способность, тем более затратным и неприятным ощущается для него переход в режим напряженного анализа. Чем более затратным ощущается этот переход, тем сильнее становится соблазн вновь прибегнуть к внешней помощи вместо самостоятельного усилия. Круг замыкается, и с каждым новым витком зависимость от внешних инструментов усиливается, а собственная способность обходиться без них слабеет. Важно понимать, что этот процесс происходит совершенно незаметно для самого человека, поскольку каждое отдельное обращение к внешней помощи кажется разумным и оправданным именно в тот конкретный момент, когда оно совершается.

Стоит отдельно рассмотреть вопрос о том, почему подобная разгрузка ощущается не просто приемлемой, а по-настоящему приятной, почти как облегчение после снятия тяжелой ноши. Дело в устройстве системы вознаграждения, которая формировалась в человеческом мозге на протяжении очень долгого времени в условиях, где эффективное распределение ограниченных ресурсов было вопросом выживания. Организм, способный решать задачи с минимальными затратами энергии, получал эволюционное преимущество перед организмом, расходующим ресурсы неэкономно. Именно поэтому мозг устроен таким образом, что нахождение более простого, менее затратного пути к нужному результату сопровождается положительным внутренним откликом, ощущением облегчения и удовлетворения. Когда интеллектуальная система предлагает готовое решение за долю секунды, мозг воспринимает это как невероятно эффективное распределение ресурсов и охотно закрепляет подобный способ действия в качестве предпочтительного.

Проблема в том, что эволюционные механизмы, сформировавшиеся для совершенно иных условий существования, не всегда служат наилучшим ориентиром в условиях современного мира. То, что было эффективным способом экономии ресурсов в обстоятельствах, где каждая единица энергии могла оказаться решающей для выживания, не обязательно остается столь же полезным в обстоятельствах, где физическое выживание давно перестало зависеть от подобной экономии, а на первый план вышли совсем иные задачи — поддержание способности мыслить самостоятельно, глубоко, творчески, критически. Мозг продолжает следовать древним стратегиям экономии, даже когда эти стратегии начинают вступать в противоречие с долгосрочными интересами человека как разумного, самостоятельно мыслящего существа.

Есть и еще одна сторона вопроса, заслуживающая отдельного внимания. Когнитивная разгрузка редко воспринимается как отказ от мышления — гораздо чаще она воспринимается как его усовершенствование, как переход на новый, более эффективный уровень работы. И в определенном смысле это действительно так: человек, использующий внешние инструменты разумно и избирательно, способен решать более сложные, более масштабные задачи, чем человек, полагающийся исключительно на собственные, ограниченные внутренние ресурсы. Проблема возникает не там, где инструмент используется для расширения возможностей, а там, где он начинает полностью замещать собственное участие человека в процессе мышления. Разница между расширением и замещением может показаться незначительной на словах, но на практике она определяет, останется ли человек активным участником собственного мыслительного процесса или превратится в стороннего наблюдателя, лишь утверждающего готовые решения, предложенные кем-то другим.

Как же отличить разумную когнитивную разгрузку от разгрузки чрезмерной, ослабляющей собственные способности. Полезным ориентиром здесь служит вопрос о том, сохраняется ли за человеком понимание того, каким образом было получено то или иное решение, и способен ли он, при необходимости, воспроизвести или объяснить это решение самостоятельно, без обращения к внешнему источнику. Если человек, получивший готовый ответ, способен объяснить логику, лежащую в его основе, оценить его достоверность, заметить возможные ошибки или неточности — можно говорить о разумном использовании внешнего инструмента, при котором собственное мышление остается активно вовлеченным в процесс, пусть и в ином качестве, чем прежде. Если же человек принимает готовый ответ без понимания того, откуда он взялся и почему именно таков, если он не способен ни проверить его, ни воспроизвести самостоятельно — речь идет уже не о разумной разгрузке, а о полной передаче контроля, за которой неизбежно следует постепенное ослабление собственных умственных способностей.

Отдельного разговора заслуживает вопрос о том, какие именно виды умственной работы поддаются разгрузке легче всего и, соответственно, оказываются под наибольшей угрозой ослабления. В первую очередь это касается работы, связанной с запоминанием и хранением информации: зачем удерживать в памяти большой объем сведений, если к ним всегда можно обратиться через внешний источник. Во вторую очередь — работы, связанной с рутинным анализом и сопоставлением данных: зачем тратить время на сравнение множества вариантов, если система способна сделать это значительно быстрее. И, наконец, все чаще под разгрузку попадает работа, связанная с формулировкой собственной позиции, с выработкой личного отношения к тому или иному вопросу: зачем формулировать собственное мнение, если можно получить уже готовую, хорошо структурированную точку зрения, которую останется лишь принять или слегка скорректировать.

Именно последний вид разгрузки представляется наиболее тревожным, поскольку затрагивает саму суть того, что делает человека самостоятельно мыслящей личностью. Память можно частично восполнить внешними носителями без катастрофических последствий для личности в целом. Рутинный анализ данных действительно во многих случаях эффективнее доверить системе, освобождая время для более важных задач. Но собственная позиция, собственное отношение к миру, собственные ценностные суждения — это то, что должно формироваться изнутри, через опыт, через размышление, через столкновение с противоречиями и их самостоятельное разрешение. Когда этот процесс тоже начинает делегироваться внешним системам, под угрозой оказывается не просто отдельный навык, а нечто гораздо более фундаментальное — способность человека оставаться автором собственной внутренней жизни.

Возникает закономерный вопрос: что же делать с этим знанием, если полностью отказаться от когнитивной разгрузки невозможно и, более того, было бы неразумно в условиях современного мира, где объем доступной информации и сложность стоящих перед человеком задач продолжают неуклонно расти. Ответ заключается не в отказе, а в осознанности. Понимание механизма, лежащего в основе стремления к разгрузке, само по себе дает определенную защиту от его бесконтрольного действия. Зная, что мозг устроен таким образом, что всегда будет искать наиболее экономный путь, человек получает возможность сознательно противостоять этому стремлению там, где оно действительно вредно, и, напротив, разумно им пользоваться там, где разгрузка идет на пользу.

Практический смысл этого понимания заключается в необходимости различать задачи, разгрузка которых допустима и даже полезна, и задачи, требующие сохранения собственного, активного участия. Рутинные, механические операции, не требующие творческого или ценностного суждения, вполне могут быть переданы внешним инструментам без существенного ущерба для мышления в целом. Но задачи, связанные с формированием собственного понимания, собственной позиции, собственного суждения о сложных, неоднозначных вопросах, заслуживают того, чтобы хотя бы часть пути к ответу человек проходил самостоятельно, прежде чем обращаться за помощью к внешним системам. Такой подход требует определенной дисциплины и определенного сопротивления естественному стремлению мозга к экономии усилий, но именно эта дисциплина и позволяет сохранить те способности, которые составляют основу самостоятельного, зрелого мышления.

В конечном счете когнитивная разгрузка сама по себе не является ни благом, ни злом — она является инструментом, эффект от которого целиком зависит от того, как именно этим инструментом пользуются. Мозг, стремящийся передать управление внешним системам, следует древней, вполне разумной логике экономии ресурсов. Но человек, в отличие от мозга как чисто биологического механизма, способен на нечто большее: на осознанный выбор того, где эта экономия уместна, а где она обходится слишком дорогой ценой. Именно этот осознанный выбор, повторяемый изо дня в день в множестве маленьких решений, и определяет, останется ли собственное мышление живым, активным, развивающимся или постепенно уступит место пассивному потреблению готовых, чужих решений. Об этом важном балансе, о его конкретных проявлениях в разных сферах жизни, пойдет речь в последующих главах этой книги.

Глава 3. Память как мышца: что происходит, когда ее перестают тренировать

Сравнение памяти с мышцей давно стало общим местом в разговорах о работе разума, и все же это сравнение остается на удивление точным, если разобраться в нем внимательнее, а не использовать как красивую, но пустую метафору. Мышца укрепляется через регулярную нагрузку и слабеет через бездействие. Она не исчезает мгновенно, если ею перестать пользоваться, но постепенно теряет силу, объем, способность выдерживать прежние нагрузки. Возвращение к прежней форме требует времени и усилий, и чем дольше длился период бездействия, тем труднее оказывается восстановление. Практически все из перечисленного справедливо и в отношении человеческой памяти, хотя механизмы, лежащие в основе этого сходства, устроены значительно сложнее, чем работа мышечных волокон.

Чтобы понять, что именно происходит с памятью в условиях постоянного обращения к внешним источникам информации, полезно сначала разобраться, как память устроена и работает в естественных условиях, без постоянной внешней поддержки. Память не является простым хранилищем, куда информация просто складывается в готовом виде и откуда извлекается по мере надобности, подобно файлам в шкафу. Память — это активный, живой процесс, в котором каждое воспоминание не столько извлекается в неизменном виде, сколько заново воссоздается, реконструируется на основе сохранившихся следов и связей с другой информацией. Именно поэтому воспоминания способны меняться со временем, обрастать деталями или, напротив, терять их, искажаться под влиянием более поздних событий. Память — это не пассивное хранилище, а постоянно работающий механизм.

Формирование прочного, устойчивого воспоминания требует определенных условий. Важнейшее из них — это повторное обращение к информации, ее многократное использование в различных контекстах. Когда человек несколько раз вспоминает какой-то факт, применяет его в разных ситуациях, связывает с другими знаниями, соответствующий след в памяти укрепляется, становится более устойчивым и легче извлекаемым в будущем. Этот процесс во многом похож на протаптывание тропинки в лесу: чем чаще по ней ходят, тем более заметной и удобной она становится, тем легче найти ее снова, даже спустя долгое время. Если же тропинкой перестают пользоваться, она постепенно зарастает, и найти дорогу становится все труднее.

Именно здесь кроется корень той проблемы, о которой пойдет речь в этой главе. Когда человек перестает регулярно обращаться к собственной памяти, полагаясь вместо этого на внешние источники — устройство, хранящее контакты, систему, всегда готовую напомнить нужную дату, интеллектуального помощника, способного мгновенно предоставить любой факт, — тропинки, ведущие к соответствующим воспоминаниям, перестают протаптываться. Информация, которая раньше закреплялась в памяти через регулярное использование, теперь остается снаружи, во внешнем хранилище, и внутренние механизмы запоминания, не получая привычной нагрузки, постепенно ослабевают.

Особенно наглядно это проявляется в отношении простых, повседневных видов памяти, которые прежде считались само собой разумеющимися. Многие замечают за собой, что перестали помнить номера телефонов даже самых близких людей, хотя еще не так давно легко удерживали в памяти десятки таких номеров. Многие обнаруживают, что с трудом вспоминают маршрут, по которому проезжали уже десятки раз, если этот маршрут всегда прокладывался за них внешней навигационной системой. Многие с удивлением замечают, что не могут воспроизвести содержание текста, который читали совсем недавно, если знали заранее, что при необходимости всегда смогут обратиться к нему повторно или получить его краткое изложение от системы. Каждый из этих примеров сам по себе кажется незначительным, почти бытовым наблюдением. Но в своей совокупности они указывают на системную перемену в том, как работает человеческая память в условиях постоянной доступности внешней поддержки.

Важно подчеркнуть, что происходящее не следует путать с ухудшением памяти в клиническом смысле этого слова. Речь не идет о заболевании или патологическом процессе. Речь идет о вполне естественной реакции гибкой, экономно устроенной системы на изменившиеся условия использования. Память, как и любая другая способность, подчиняется принципу разумной достаточности: если определенная информация надежно доступна извне и не требует постоянного внутреннего хранения, ресурсы, которые прежде уходили бы на удержание этой информации, освобождаются для других задач. С точки зрения чистой эффективности распределения ресурсов подобная перестройка выглядит логичной и даже разумной. Проблема заключается в другом: способность запоминать — это не узкая, изолированная функция, которую можно выборочно отключить только в отношении неважной информации, сохранив ее в полной силе для всего остального. Это общая способность, которая либо тренируется и развивается, либо ослабевает целиком, затрагивая самые разные сферы жизни, включая те, где надежная собственная память действительно важна.

Рассмотрим это на конкретном примере, знакомом, вероятно, очень многим. Софи, о которой уже шла речь в одной из следующих глав книги, столкнулась именно с таким постепенным ослаблением памяти в самых обыденных, повседневных ситуациях. Она заметила, что стала регулярно забывать, куда положила нужные вещи, хотя раньше подобная забывчивость была ей несвойственна. Она обнаружила, что с трудом вспоминает содержание разговора, состоявшегося буквально накануне, если этот разговор не был для нее чем-то исключительным. Она с удивлением поймала себя на том, что не может с уверенностью назвать, чем занималась в конкретный день неделю назад, хотя прежде подобные вопросы никогда не вызывали у нее затруднений. Разбираясь в причинах происходящего, она пришла к выводу, что дело не в возрастных изменениях и не в переутомлении, а в том, что на протяжении долгого времени она попросту перестала пользоваться собственной памятью в качестве основного инструмента хранения информации, полностью доверив эту функцию внешним устройствам и системам.

История, подобная той, что произошла с Софи, повторяется в жизни огромного количества людей, хотя далеко не все замечают ее в столь явной форме. Дело в том, что процесс ослабления памяти протекает постепенно и без резких, драматических проявлений, которые сразу бросались бы в глаза. Человек не теряет способность запоминать в одночасье — он лишь постепенно перестает пользоваться этой способностью в полную силу, и внешне это выглядит скорее как рассеянность, легкая забывчивость, недостаток внимания, чем как системное изменение работы памяти. Именно поэтому проблема остается незамеченной так долго: ее проявления слишком похожи на обычные, привычные особенности повседневной жизни, чтобы вызвать серьезную тревогу.

Есть и еще один важный аспект, который стоит рассмотреть отдельно. Память связана не только с хранением фактов, но и с более глубокими процессами понимания и осмысления информации. Когда человек запоминает что-либо через активное усилие — через попытку воспроизвести информацию по памяти, через связывание ее с уже имеющимися знаниями, через многократное обращение к ней в разных контекстах, — он не просто сохраняет отдельный факт, он выстраивает вокруг этого факта целую сеть связей и ассоциаций, которая впоследствии помогает ему глубже понимать связанные темы, замечать неочевидные закономерности, применять полученное знание в новых, непредвиденных ситуациях. Информация, полученная извне и не прошедшая через процесс активного запоминания, такой сети связей не формирует. Она остается изолированной, поверхностной, легко забываемой и плохо применимой за пределами того узкого контекста, в котором была получена.

Именно поэтому опора на внешнюю память меняет не только количество удерживаемой в голове информации, но и качество понимания в целом. Человек, привыкший постоянно обращаться к внешним источникам вместо самостоятельного запоминания, накапливает огромное количество разрозненных, поверхностных сведений, но испытывает все большие трудности с выстраиванием из них целостной, глубокой картины. Знание превращается в набор отдельных фрагментов, каждый из которых доступен по отдельному запросу, но не связан прочно с остальными. А ведь именно способность видеть связи между, казалось бы, далекими друг от друга областями знания всегда считалась одним из главных признаков глубокого, зрелого мышления.