Стивен Хорс Когда AI начинает думать за нас. Как искусственный интеллект меняет наше мышление, память и способность принимать решения

Глава 4. Внимание в эпоху мгновенных ответов

Из всех умственных способностей человека внимание, пожалуй, меньше всего поддается прямому наблюдению и потому дольше всего остается незамеченным в своих переменах. Память можно проверить, попросив вспомнить нужный факт. Способность к анализу можно оценить, предложив решить конкретную задачу. Но внимание — это скорее фон, на котором разворачиваются все остальные процессы мышления, и именно поэтому изменения, происходящие с ним, ощущаются не как конкретное, локализованное событие, а как общее, размытое чувство рассеянности, неспособности сосредоточиться, постоянной внутренней спешки. Между тем именно внимание оказывается одной из тех способностей, которые сильнее всего страдают в условиях, когда любой ответ на любой вопрос можно получить практически мгновенно.

Чтобы понять природу этих изменений, полезно сначала разобраться, что вообще представляет собой внимание с точки зрения устройства человеческого разума. Внимание можно сравнить с ограниченным потоком света, который в каждый конкретный момент способен осветить лишь небольшую часть окружающего пространства, оставляя остальное в тени. Мозг постоянно получает огромный объем сенсорной и мыслительной информации, но обрабатывать всю эту информацию одновременно и с одинаковой глубиной попросту невозможно. Именно поэтому существует механизм отбора, который направляет ограниченные ресурсы сознания на то, что представляется наиболее важным в данный момент, оставляя все остальное на периферии восприятия. Этот механизм формировался на протяжении очень долгого времени и был исключительно эффективным в условиях, где важные сигналы поступали относительно редко и требовали сосредоточенной, продолжительной обработки.

Современная информационная среда устроена принципиально иначе. Она построена таким образом, чтобы постоянно предлагать вниманию новые стимулы, каждый из которых претендует на статус важного, срочного, заслуживающего немедленной реакции. Уведомления, короткие сообщения, свежие новости, обновления в соцсетях — все это соревнуется за ограниченный ресурс внимания, причем соревнуется по правилам, изначально не рассчитанным на подобную интенсивность. Мозг, привыкший распределять внимание между относительно редкими и весомыми сигналами, оказывается в условиях, когда таких сигналов поступает бесконечно много, и каждый из них требует хотя бы доли секунды на оценку значимости.

Особую роль в этом процессе играет то, как устроено взаимодействие с интеллектуальными системами, дающими мгновенный ответ на любой вопрос. Когда ответ на вопрос требует времени — нужно вспомнить, поразмышлять, свериться с несколькими источниками, — внимание вынуждено удерживаться на задаче достаточно долго, чтобы довести процесс до конца. Именно в этой продолжительности, в необходимости удерживать фокус на одном предмете достаточно долгое время, и тренируется способность к глубокому, устойчивому вниманию. Когда же ответ появляется практически мгновенно, необходимость в подобном удержании исчезает. Внимание успевает лишь коснуться вопроса, прежде чем переключиться на готовый результат, и сам процесс удержания фокуса, требующий постоянной практики, перестает получать привычную нагрузку.

Здесь прослеживается прямая параллель с тем, что говорилось в предыдущих главах о памяти и о процессе принятия решений. Внимание, подобно этим способностям, устроено таким образом, что развивается через регулярное использование в условиях, требующих усилия, и ослабевает при отсутствии такой практики. Привычка к мгновенному ответу постепенно формирует привычку к мгновенному переключению — состояние, при котором человеку становится все труднее удерживать фокус на одной задаче продолжительное время, если эта задача не предполагает немедленного результата. Работа, требующая длительного, сосредоточенного размышления — чтение сложного текста, обдумывание многогранной проблемы, написание объемного связного текста, — начинает восприниматься как нечто тяжелое, утомительное, вызывающее внутреннее сопротивление, поскольку она противоречит уже сформировавшейся привычке к быстрому, почти мгновенному переключению между короткими эпизодами внимания.

Это явление имеет вполне конкретные, наблюдаемые проявления в повседневной жизни. Многие замечают за собой, что стало значительно труднее читать длинные тексты без постоянного отвлечения на посторонние мысли или желание проверить что-то еще. Многие обнаруживают, что во время просмотра фильма или чтения книги рука сама тянется к устройству, даже если для этого нет никакой конкретной причины, кроме привычки к постоянному переключению внимания. Многие отмечают, что даже в разговоре с близким человеком становится сложнее сохранять полное присутствие, полную сосредоточенность на собеседнике, без внутреннего фонового ожидания следующего уведомления или следующего короткого стимула. Все эти проявления указывают на общую тенденцию: внимание, привыкшее к постоянной смене коротких, быстро вознаграждаемых стимулов, теряет способность к продолжительному, глубокому сосредоточению.

Важно понимать механизм, который лежит в основе этой перемены на более глубоком уровне. Каждый раз, когда человек получает быстрый, приятный результат — интересное короткое сообщение, забавное изображение, мгновенный ответ на вопрос, — в мозге происходит выброс определенных химических веществ, связанных с ощущением удовольствия и вознаграждения. Этот механизм существовал всегда и играл важную роль в закреплении полезного поведения. Проблема современной информационной среды заключается в том, что она научилась вызывать подобное вознаграждение с исключительно высокой частотой и минимальными затратами усилий со стороны человека. В результате мозг постепенно привыкает к определенному ритму получения вознаграждения — быстрому, частому, почти непрерывному, — и любая деятельность, не соответствующая этому ритму, начинает восприниматься как менее привлекательная, даже если объективно она значительно более ценна и полезна.

Именно поэтому чтение книги, требующее продолжительной концентрации без быстрого вознаграждения на каждой странице, начинает ощущаться труднее, чем прежде. Именно поэтому сложная профессиональная задача, результат решения которой становится очевиден только спустя долгое время, ощущается менее привлекательной, чем короткая, быстро решаемая проблема с мгновенно видимым результатом. Мозг, привыкший к частому и быстрому вознаграждению, начинает избегать всего, что требует длительного ожидания, даже если конечный результат этого ожидания несоизмеримо ценнее.

Стоит отдельно остановиться на том, как эта перемена влияет на качество мышления в целом, а не только на субъективное ощущение легкости или трудности при выполнении определенных задач. Глубокое понимание сложных вопросов, способность видеть неочевидные связи между разными областями знания, способность выстраивать длинную, последовательную цепочку рассуждений — все это требует продолжительного, устойчивого внимания. Мышление, привыкшее к постоянному, быстрому переключению между короткими фрагментами информации, оказывается плохо приспособленным для подобной глубокой работы. Оно способно быстро схватывать поверхностный смысл множества разрозненных сведений, но испытывает все большие трудности с построением из них целостной, продуманной картины. Возникает своеобразный парадокс: чем больше информации становится доступно человеку в каждый момент времени, тем труднее ему оказывается по-настоящему глубоко разобраться хотя бы в одном отдельном вопросе.

Есть и еще одна важная сторона этого явления, касающаяся эмоционального состояния человека. Постоянное переключение внимания между множеством коротких стимулов сопровождается определенным внутренним напряжением, даже если каждый отдельный стимул сам по себе кажется незначительным. Сознание, вынужденное постоянно оценивать новые сигналы, определять их значимость и решать, стоит ли на них реагировать, расходует на этот процесс значительные ресурсы, даже когда внешне человек кажется себе просто расслабленно листающим ленту новостей или проверяющим сообщения. Накопленная за день подобная нагрузка нередко приводит к ощущению общей усталости и внутренней рассеянности, происхождение которых не всегда легко определить, поскольку ни одно отдельное действие, приведшее к такому состоянию, само по себе не выглядело утомительным.

Можно ли восстановить способность к глубокому, устойчивому вниманию в условиях, когда информационная среда продолжает предлагать бесконечный поток быстрых, привлекательных стимулов. Ответ на этот вопрос, к счастью, положительный, хотя и требует определенной последовательности и терпения. Внимание, подобно памяти, о которой шла речь в предыдущей главе, поддается тренировке. Первым и, вероятно, самым действенным способом такой тренировки является намеренное, регулярное выполнение задач, требующих продолжительной сосредоточенности без частого переключения. Чтение объемного текста от начала до конца без отвлечения, обдумывание сложного вопроса без немедленного обращения за готовым ответом, продолжительная работа над одной задачей без постоянного переключения на другие дела — все это постепенно восстанавливает способность к устойчивому, глубокому вниманию, подобно тому, как регулярные физические упражнения восстанавливают силу ослабевшей мышцы.

Полезной оказывается и намеренная организация внешней среды таким образом, чтобы она реже провоцировала непроизвольное переключение внимания. Речь идет не о категорическом отказе от современных средств связи и информации, а о создании определенных периодов и пространств, свободных от постоянного потока коротких стимулов, — периодов, в течение которых внимание может спокойно и глубоко сосредоточиться на одной задаче, не отвлекаясь на посторонние сигналы. Подобные периоды не обязательно должны быть продолжительными: даже относительно короткие промежутки времени, посвященные полностью одному делу, оказывают заметное восстанавливающее действие на способность к сосредоточению, если практикуются регулярно.

Отдельного внимания заслуживает вопрос о том, как взаимодействие с интеллектуальными системами, дающими мгновенный ответ, может быть выстроено таким образом, чтобы не разрушать, а, напротив, поддерживать способность к устойчивому вниманию. Здесь действует тот же принцип, о котором говорилось в предыдущих главах применительно к когнитивной разгрузке и памяти: важно не полностью избегать использования подобных систем, а сохранять за собой определенную долю самостоятельной, продолжительной умственной работы. Прежде чем обратиться к системе за быстрым ответом, полезно дать себе время на собственное размышление, даже если это размышление окажется медленнее и менее эффективным в моменте. Именно это добровольное замедление, эта готовность потерпеть некоторую неопределенность и незавершенность в течение нескольких минут или часов, прежде чем прибегнуть к внешней помощи, и является тем упражнением, которое постепенно восстанавливает способность к глубокому, устойчивому сосредоточению.

Важно понимать, что внимание — это не просто техническая способность, определяющая продуктивность в работе или учебе. Это то качество разума, от которого зависит глубина всего человеческого опыта: способность по-настоящему услышать собеседника, по-настоящему погрузиться в интересную задачу, по-настоящему насладиться моментом без постоянного внутреннего ожидания следующего стимула. Эпоха мгновенных ответов подарила человеку небывалую скорость доступа к информации, но вместе с этой скоростью пришло и незаметное испытание для той способности, без которой любая информация остается поверхностной, — способности удерживать взгляд, мысль и внимание достаточно долго, чтобы увидеть за отдельными фактами нечто большее, чем просто набор разрозненных сведений. Сохранение этой способности требует сознательных усилий, но, как показывает опыт многих людей, подобные усилия вполне посильны и приносят результат, заметно улучшающий и качество мышления, и общее ощущение внутреннего спокойствия и присутствия в собственной жизни.

Глава 5. Иллюзия знания: разница между «знать» и «иметь доступ к информации»

Есть особый вид уверенности, который знаком, вероятно, каждому, кто хоть раз готовился выступить перед аудиторией на тему, которая казалась хорошо изученной, а на деле обернулась чередой запинок и неуверенных формулировок. Пока информация лежит перед глазами, воспринимается мгновенно и легко, кажется, что она полностью усвоена, понята, встроена в общую картину знаний. Но стоит убрать этот внешний источник, попросить объяснить тот же самый вопрос без опоры на текст перед глазами, как обнаруживается, что за ощущением уверенного понимания скрывалась лишь способность узнавать знакомую информацию, а не способность воспроизвести ее самостоятельно, применить в новом контексте, объяснить простыми словами. Этот разрыв между ощущением знания и реальным владением знанием и есть то явление, которое в этой главе будет названо иллюзией знания.

Иллюзия знания не является новым феноменом, порожденным современными технологиями. Психологи описывали ее задолго до появления интеллектуальных систем и повсеместного доступа к сети источников информации. Классические эксперименты показывали, что люди систематически переоценивают собственное понимание устройства даже самых обычных, повседневных предметов — например, будучи уверенными, что прекрасно понимают, как работает застежка-молния или велосипед, они оказывались не в состоянии дать связное объяснение, когда их просили описать устройство подробно, шаг за шагом. Причина этого разрыва кроется в особенностях устройства человеческого сознания: узнавание информации — процесс значительно более легкий и быстрый, чем ее воспроизведение или объяснение, и мозг нередко путает легкость узнавания с глубиной реального понимания.

Однако если иллюзия знания существовала всегда, почему именно сейчас она заслуживает отдельного, пристального разговора. Дело в том, что современная информационная среда создает для этой иллюзии исключительно благоприятные условия, многократно усиливая ее естественную склонность возникать. Никогда прежде человек не имел настолько быстрого, настолько удобного доступа к готовым, хорошо структурированным ответам на практически любой вопрос. Это обстоятельство порождает особый вид ложной уверенности, который можно назвать иллюзией доступа: человек начинает путать сам факт наличия доступа к информации с фактом обладания этой информацией в собственной голове.

Рассмотрим эту разницу подробнее на примере одного человека, чья история хорошо иллюстрирует суть происходящего. Назовем его Ричард. Он занимает должность руководителя отдела в достаточно крупной организации и по роду своей деятельности вынужден постоянно находиться в курсе множества различных тем — от специфики собственной отрасли до более широких вопросов экономики, управления, современных технологий. Ричард привык считать себя человеком осведомленным, способным поддержать разговор практически на любую тему и высказать по ней взвешенное, аргументированное суждение. Эта уверенность в собственной осведомленности во многом опиралась на привычку регулярно обращаться к различным источникам информации, включая интеллектуальные системы, способные мгновенно предоставить развернутый ответ на любой заданный вопрос.

Однажды, готовясь к важному выступлению перед коллегами, Ричард столкнулся с неожиданным затруднением. Тема выступления касалась вопроса, который он считал хорошо знакомым, поскольку неоднократно обращался к нему за последние месяцы, каждый раз получая исчерпывающие, убедительные ответы от системы, к которой привык обращаться за информацией. Но когда пришло время выступать без опоры на заранее подготовленный текст, отвечая на неожиданные вопросы аудитории, Ричард с растерянностью обнаружил, что не в состоянии связно и уверенно объяснить многие из тех положений, которые еще недавно казались ему абсолютно ясными. Ответы, которые прежде выглядели убедительными на экране устройства, оказались не встроенными в его собственное понимание — они оставались, по сути, чужими словами, которые он лишь читал и воспринимал, но никогда не проговаривал, не пересказывал, не подвергал самостоятельному анализу.

Этот эпизод заставил Ричарда всерьез задуматься о разнице между двумя состояниями, которые прежде казались ему практически тождественными: состоянием, при котором он знает, где найти нужную информацию, и состоянием, при котором эта информация действительно является частью его собственного понимания. Первое состояние можно назвать доступом к знанию, второе — собственно знанием в подлинном смысле этого слова. Разница между ними принципиальна и заслуживает подробного разбора.

Доступ к знанию — это способность быстро найти нужную информацию через внешний источник в момент, когда она требуется. Это ценная, важная способность, значительно расширяющая возможности человека по сравнению с эпохой, когда доступ к информации был ограничен и затруднен. Но доступ к информации сам по себе не предполагает ни глубокого понимания этой информации, ни способности применить ее в новых, непредвиденных обстоятельствах, ни, что особенно важно, способности объяснить ее другому человеку простыми словами. Знание в подлинном смысле — это нечто иное: это информация, которая прошла через процесс осмысления, связывания с уже имеющимся опытом, многократного применения, и в результате этого процесса стала частью внутренней структуры мышления человека, доступной ему в любой момент, без необходимости обращения к внешнему источнику.

Различие между этими двумя состояниями хорошо иллюстрируется на примере разных способов подготовки к экзамену, знакомых, вероятно, многим еще со студенческих лет. Один способ заключается в многократном перечитывании материала, при котором информация становится все более узнаваемой, все более знакомой при повторном взгляде — возникает ощущение уверенного владения материалом, хотя на деле это ощущение основано лишь на легкости узнавания, а не на способности самостоятельно воспроизвести материал без опоры на текст. Другой способ заключается в активном воспроизведении материала по памяти, в попытке объяснить его своими словами, ответить на вопросы без подсказки перед глазами — и этот способ, хотя и требует значительно больших усилий, формирует настоящее, устойчивое понимание, которое не исчезает при отсутствии внешней опоры.

Современные интеллектуальные системы, при всей своей несомненной пользе, создают условия, которые незаметно смещают привычки человека в сторону первого, более легкого, но менее надежного способа усвоения информации. Получив быстрый, готовый, убедительно сформулированный ответ на свой вопрос, человек нередко переживает субъективное ощущение понимания, очень похожее на то, что возникает при действительно глубоком усвоении материала. Мозгу свойственно принимать легкость восприятия информации за признак ее глубокого усвоения, и это смешение особенно сильно проявляется именно тогда, когда информация подается в исключительно понятной, гладкой, хорошо структурированной форме, к чему интеллектуальные системы стремятся практически всегда.

Ситуация усугубляется еще и тем, что человек, регулярно получающий готовые ответы на самые разные вопросы, накапливает огромное количество подобных поверхностных знакомств с различными темами, и это создает общее, разлитое ощущение широкой осведомленности, которое трудно подвергнуть сомнению именно в силу его масштаба. Кажется, что раз ты способен рассуждать на десятки различных тем, значит, ты действительно хорошо в них разбираешься. Но способность рассуждать на определенном уровне, опираясь на недавно прочитанный или услышанный материал, и способность глубоко понимать предмет, разбираться в его нюансах, видеть его противоречия и ограничения — это далеко не одно и то же. Первое достигается относительно легко и быстро, второе требует значительно более длительного и глубокого погружения.

Стоит отдельно рассмотреть, к каким последствиям приводит подобная иллюзия знания в реальной жизни, а не только в теоретическом рассуждении о работе памяти и понимания. Прежде всего, она порождает избыточную уверенность в собственных суждениях, которая не подкреплена реальной глубиной понимания. Человек, полагающий, что хорошо разбирается в определенном вопросе, склонен высказывать более категоричные суждения, менее охотно допускает возможность собственной ошибки, реже проявляет готовность выслушать альтернативную точку зрения. Подобная избыточная уверенность способна приводить к серьезным ошибкам в самых разных сферах — от профессиональных решений до личных выборов, — поскольку решения, принятые на основе иллюзорно уверенного, но на деле поверхностного понимания, оказываются значительно менее надежными, чем решения, принятые с ясным осознанием границ собственных знаний.