Полная версия:
Стивен Хорс Когда AI начинает думать за нас. Как искусственный интеллект меняет наше мышление, память и способность принимать решения
- + Увеличить шрифт
- - Уменьшить шрифт
Когда AI начинает думать за нас
Как искусственный интеллект меняет наше мышление, память и способность принимать решения
Стивен Хорс
© Стивен Хорс, 2026
ISBN 978-5-0070-8778-0
Создано в интеллектуальной издательской системе Ridero
Введение. Зачем эта книга
Эта книга родилась не из отвлеченного любопытства и не из желания порассуждать на модную тему. Она выросла из простого, почти бытового наблюдения за собственной жизнью, которое однажды показалось мне тревожным. Я заметил, что перестал помнить телефонные номера близких людей, хотя когда-то помнил их десятками. Заметил, что при возникновении любого вопроса, даже самого пустякового, рука сама тянется к устройству, прежде чем мозг успевает хотя бы попытаться вспомнить ответ самостоятельно. Заметил, что принятие решений, которые раньше требовали внутреннего усилия, взвешивания, иногда и мучительных колебаний, теперь все чаще происходит через обращение к системе, которая мгновенно предлагает готовый вариант. И самое любопытное — я не мог с уверенностью сказать, в какой момент это произошло. Не было какого-то одного дня, когда я решил передать часть своего мышления машине. Изменение накапливалось постепенно, шаг за шагом, настолько плавно, что его почти невозможно было заметить изнутри.
Именно эта незаметность и стала для меня отправной точкой размышлений, которые впоследствии сложились в книгу. Мы привыкли думать об искусственном интеллекте как о чем-то внешнем по отношению к нам — как об инструменте, который лежит рядом и которым мы пользуемся по мере надобности, подобно тому, как пользуемся калькулятором или записной книжкой. Но чем внимательнее я наблюдал за собственным поведением и за поведением окружающих меня людей, тем яснее становилось, что граница между инструментом и пользователем размывается. Инструмент, к которому мы обращаемся десятки раз в день, постепенно перестает быть просто инструментом. Он становится частью того, как мы думаем, как мы принимаем решения, как мы формируем свое отношение к миру. И если раньше внешние приспособления помогали нам выполнять физическую работу, экономя силы тела, то сегодня они все чаще берут на себя работу ума, экономя силы разума. А это уже совсем другая история, с совсем другими последствиями.
Я хочу сразу оговориться: эта книга написана не для того, чтобы напугать читателя или убедить его отказаться от современных технологий. Я сам ежедневно пользуюсь интеллектуальными помощниками, поисковыми алгоритмами и рекомендательными системами, и не считаю это чем-то постыдным или разрушительным по своей сути. Более того, я убежден, что многие из этих инструментов принесли человеку огромную пользу, освободив время и силы для того, что действительно важно. Проблема не в самих технологиях, а в том, как мы с ними обращаемся и, что важнее, как незаметно они меняют нас самих в процессе этого обращения. Задача этой книги — не осудить и не восхвалить, а показать сложную, многослойную картину происходящего, чтобы читатель мог сам, взвешенно и осознанно, решить, каким образом выстраивать отношения с окружающими его технологиями.
Масштаб явления, о котором пойдет речь, трудно переоценить. Еще одно поколение назад мышление человека было устроено принципиально иначе. Если требовалось найти какую-то информацию, приходилось идти в библиотеку, искать нужную книгу, читать несколько источников, сопоставлять их между собой, делать собственные выводы. Этот процесс был медленным, но именно в его медлительности рождалось нечто важное — привычка к самостоятельному анализу, способность держать в голове противоречивые сведения и разбираться в них без посторонней помощи. Сегодня ответ на любой вопрос можно получить за секунды, причем ответ уже готовый, отформатированный, поданный в удобном виде. Это огромное удобство, и было бы лицемерием делать вид, что мы хотим от него отказаться. Но вместе с удобством пришла и цена, о которой редко говорят вслух: способность самостоятельно добывать знание, а не просто получать его, постепенно слабеет, если ею не пользоваться.
То же самое происходит и с памятью. Человеческая память никогда не была устроена как хранилище, в которое можно бесконечно складывать факты. Она устроена как живая система, которая укрепляется через использование и ослабевает через бездействие, подобно любой другой способности организма. Когда мы перестаем запоминать номера телефонов, потому что они хранятся в устройстве, когда мы перестаем запоминать дороги, потому что за нас их прокладывает навигационная система, когда мы перестаем удерживать в голове сложные тексты, потому что в любой момент можем обратиться к системе за пересказом, — мы не просто экономим усилия. Мы постепенно разучиваемся выполнять эту работу самостоятельно. И здесь возникает вопрос, который проходит через всю эту книгу красной нитью: где заканчивается разумное освобождение от лишней нагрузки и начинается незаметная утрата собственных способностей.
Особого внимания заслуживает и то, как технологии влияют на принятие решений. Раньше человек, стоящий перед выбором, опирался на собственный опыт, интуицию, советы близких, иногда на долгие внутренние колебания. Этот процесс был неидеальным, он допускал ошибки, но эти ошибки были нашими собственными, и именно через них формировалась личность, способная в дальнейшем принимать более взвешенные решения. Сегодня во многих ситуациях достаточно сформулировать вопрос интеллектуальному помощнику, чтобы получить готовый вариант действия. Удобно, быстро, часто действительно полезно. Но что происходит с нашей внутренней способностью взвешивать, сомневаться, выбирать, если мы все реже пользуемся ею на практике? Мышцу, которую не тренируют, со временем невозможно заставить работать в полную силу, даже если очень захотеть. Есть основания полагать, что нечто похожее происходит и со способностью принимать самостоятельные решения.
Не менее важна и тема формирования мнений и вкусов. Рекомендательные системы, которые окружают нас практически повсюду, устроены так, чтобы предугадывать наши предпочтения и предлагать нам то, что с наибольшей вероятностью нам понравится. На первый взгляд это выглядит как забота о нашем удобстве. Но если присмотреться внимательнее, становится заметно, что подобная забота имеет и обратную сторону: нас все реже сталкивают с тем, что нам незнакомо, что заставляет думать иначе, что не вписывается в уже сложившуюся картину мира. Мы оказываемся в своеобразном пространстве, где большая часть информации подобрана так, чтобы соответствовать нашим уже существующим взглядам. Это удобно для восприятия, но опасно для развития мышления, потому что настоящее развитие часто начинается именно там, где мы встречаем несогласие, противоречие, нечто, требующее пересмотра прежних убеждений.
Когда я начинал собирать материал для этой книги, я специально наблюдал за людьми разных возрастов и разных профессий, чтобы увидеть, насколько по-разному проявляется описанное явление. Оказалось, что оно затрагивает практически всех, хотя и в разной степени. Молодые люди, которые с ранних лет привыкли к постоянному наличию интеллектуального помощника под рукой, зачастую вообще не представляют, что можно решать задачи иначе. Люди среднего возраста, заставшие иной способ мышления, чаще замечают перемену в себе, потому что у них есть с чем сравнивать. Люди старшего возраста нередко относятся к новым инструментам настороженно, но, осваивая их, порой демонстрируют неожиданную гибкость и извлекают из них немалую пользу, если подходят к делу осознанно. Профессионалы, чья работа связана с постоянной оценкой и принятием решений — врачи, юристы, аналитики, — оказываются в особенно интересном положении, ведь именно на них ложится наибольшая ответственность за баланс между использованием подсказок системы и сохранением собственного профессионального суждения.
Отдельно стоит сказать о том, что подтолкнуло меня к написанию этой книги на личном уровне. В какой-то момент я поймал себя на том, что перестал доверять собственной памяти и собственному суждению настолько, насколько доверял им раньше. Простая, привычная задача, с которой прежде я справлялся без затруднений, начинала вызывать неуверенность, если под рукой не было устройства для проверки. Эта неуверенность была неприятной сама по себе, но еще более неприятным оказалось осознание того, что я, взрослый и вполне самостоятельный человек, начал воспринимать собственный ум как нечто второстепенное по сравнению с внешним источником ответов. Именно тогда я решил разобраться в происходящем не поверхностно, а основательно: изучить, что говорит об этом психология, что известно о механизмах памяти и внимания, как устроены системы, влияющие на наше мышление, и, самое главное, что можно сделать для того, чтобы пользоваться удобствами новых инструментов, не теряя при этом собственной внутренней опоры.
Эта книга не претендует на то, чтобы дать окончательные ответы на все вопросы, которые она поднимает. Явление, о котором пойдет речь, слишком новое и слишком быстро меняющееся, чтобы кто-либо мог с полной уверенностью утверждать, каким будет его итог. Но она предлагает нечто важное: внимательный, спокойный, лишенный крайностей взгляд на то, что происходит с нашим мышлением, памятью и способностью принимать решения в условиях, когда рядом с нами постоянно находится нечто, готовое подумать за нас. Мы рассмотрим, как устроена когнитивная разгрузка и почему мозг охотно соглашается передать управление внешним системам. Мы разберемся, что происходит с памятью, когда ее перестают тренировать, и можно ли обратить этот процесс вспять. Мы поговорим о внимании, о том, как меняется его природа в эпоху мгновенных ответов, и о том, что означает иллюзия знания, когда доступ к информации подменяет собой настоящее понимание.
Мы также рассмотрим механизмы влияния, через которые технологии формируют наши предпочтения, вкусы и даже убеждения, зачастую без нашего осознанного согласия. Поговорим о том, как формулировка вопроса меняет получаемый ответ, и почему это касается не только общения с системой, но и общения между людьми. Обсудим эмоциональную привязанность, которая порой возникает по отношению к цифровым помощникам, и что она говорит о наших собственных потребностях в общении и поддержке. Отдельные главы будут посвящены памяти как таковой: смартфону как своеобразному продолжению мозга, забыванию как навыку, который человек постепенно теряет, а также тому, как новые условия влияют на формирование мышления у детей и на возможности людей старшего возраста.
Значительное место в книге отведено принятию решений — тому, как меняется путь от интуиции к алгоритму, кто несет ответственность за решение, если оно было подсказано системой, и как складывается положение специалистов, чья профессия требует постоянной оценки и суждения. Мы поговорим о творчестве и о том, какие границы оно приобретает в новых условиях, а также о критическом мышлении — способности, которая, по всем признакам, становится все более редкой и все более ценной одновременно. Завершается книга разговором об обществе и будущем: об информационной гигиене как новой форме грамотности, о манипуляции и защите от нее, о том, что остается неизменным в человеке при любых технологических переменах, и, наконец, о практических способах сохранить ясность мышления, не отказываясь от удобств современного мира.
Что же получит читатель, дойдя до последней страницы этой книги. Прежде всего, более ясное понимание того, что именно происходит с его собственным мышлением, памятью и способностью принимать решения под влиянием окружающих его технологий. Это понимание само по себе является значительным шагом, потому что осознанность всегда предшествует изменению: невозможно управлять процессом, о существовании которого даже не подозреваешь. Кроме того, читатель получит набор практических инструментов и привычек, которые помогают сохранять внутреннюю самостоятельность, не отказываясь при этом от реальной пользы, которую приносят современные системы. Речь не идет о категорическом отказе от удобных решений — речь идет о том, чтобы оставаться хозяином собственного ума, а не превращаться в пассивного получателя готовых ответов.
Я не считаю себя противником прогресса и не намерен убеждать читателя в обратном. Скорее, я вижу свою задачу в том, чтобы быть внимательным свидетелем происходящих перемен и честным собеседником для тех, кто, подобно мне, чувствует смутную тревогу, наблюдая за собственными изменившимися привычками. Эта книга написана как разговор на равных — без назидательности, без готовых рецептов на все случаи жизни, но с искренним желанием разобраться в сложном явлении вместе с читателем, шаг за шагом, глава за главой. Если после прочтения вы начнете чуть внимательнее относиться к тому, как формируются ваши собственные мысли, суждения и решения, если вы научитесь замечать момент, когда удобство начинает подменять собой самостоятельность, — значит, эта книга выполнила свою задачу.
Технологии, о которых пойдет речь, продолжают развиваться стремительно, и то, что сегодня кажется новым и непривычным, завтра станет обыденной частью повседневной жизни. Именно поэтому важно разобраться в сути происходящего сейчас, пока процесс еще можно наблюдать, анализировать и, при желании, направлять в нужную сторону. Мышление, память и способность принимать решения — это не просто абстрактные функции разума. Это то, что делает человека самим собой, что отличает осознанную жизнь от механического следования готовым подсказкам. Сохранить эти способности в новых условиях — задача не из простых, но вполне выполнимая, если подходить к ней с пониманием и вниманием. Именно к такому пониманию и вниманию приглашает читателя эта книга.
Часть I. Что происходит с нашим мышлением
Глава 1. Тихая революция: как технологии незаметно взяли на себя часть работы мозга
Революции, которые меняют жизнь человека сильнее всего, редко начинаются с шума. Они не сопровождаются громкими заявлениями и не оставляют в памяти конкретной даты, после которой все стало иначе. Настоящие перемены в устройстве человеческого мышления происходят тихо, постепенно, почти незаметно для того, кто им подвергается. Именно такая революция происходит сейчас с миллионами людей, которые каждый день пользуются интеллектуальными системами, даже не задумываясь о том, насколько глубоко эти инструменты проникли в саму структуру их мыслительного процесса.
Чтобы разобраться в этом явлении, полезно рассмотреть историю одного человека, в котором многие узнают частицу себя. Назовем его Томас. Обычный служащий, работающий в офисе крупной компании, занимающийся аналитикой и составлением отчетов. Ничем не примечательная профессия, ничем не примечательная жизнь — если смотреть со стороны. Но именно на примере таких обычных, ничем не выдающихся будней проще всего увидеть, как незаметно меняется распорядок мышления современного человека.
Десять лет назад рабочий день Томаса выглядел совсем иначе, чем сегодня. Получив задание, он сначала обдумывал его самостоятельно, набрасывал план действий на бумаге или в текстовом документе, затем собирал нужные данные, сопоставлял их, анализировал, делал выводы и только после этого формулировал итоговый отчет. Каждый этап требовал усилия, каждый этап оставлял в его сознании определенный след — опыт, который потом использовался при решении следующих задач. Ошибки случались часто, но именно через них Томас учился видеть закономерности, замечать нюансы, интуитивно чувствовать, где данные могут быть неточными, а выводы — поспешными.
Сегодня рабочий день Томаса устроен по-другому. Получив задание, он первым делом формулирует запрос интеллектуальному помощнику, который за считаные секунды выдает структурированный черновик анализа. Томас читает этот черновик, вносит правки, при необходимости уточняет запрос, получает новую версию — и так до тех пор, пока результат не покажется ему удовлетворительным. Формально задача решена быстрее и, возможно, даже качественнее, чем прежде. Но если присмотреться внимательнее к тому, что происходит внутри самого процесса мышления, картина окажется куда сложнее, чем простое «стало удобнее».
Дело в том, что в прежней модели работы Томас проходил через определенную последовательность внутренних действий: формулировка проблемы, поиск данных, их сопоставление, построение гипотезы, проверка гипотезы, формулировка вывода. Каждое из этих действий тренировало определенный навык, подобно тому, как разные упражнения тренируют разные группы мышц. В новой модели значительная часть этой последовательности выполняется не самим Томасом, а системой, которой он лишь задает направление. Он по-прежнему участвует в процессе, но его участие смещается от построения решения к оценке уже готового решения. А оценка чужого вывода и самостоятельное построение вывода — это принципиально разные умственные операции, требующие разных навыков и по-разному влияющие на развитие мышления.
Томас не заметил момента, когда его роль изменилась настолько существенно. Переход происходил постепенно: сначала он использовал систему только для проверки собственных расчетов, затем — для ускорения рутинных частей работы, затем — для генерации первых черновиков, и наконец обнаружил, что уже довольно давно не помнит, когда в последний раз строил анализ полностью самостоятельно, с чистого листа, без опоры на готовую подсказку. Каждый отдельный шаг этого перехода казался разумным и оправданным. Действительно, зачем тратить время на рутинные вычисления, если система справляется с ними быстрее и без ошибок. Действительно, зачем формулировать структуру отчета заново, если можно взять готовый шаблон и адаптировать его под конкретную ситуацию. Каждое отдельное решение было маленьким и логичным. Но сумма этих маленьких решений привела к результату, который сам по себе Томас, вероятно, никогда бы не выбрал сознательно, если бы ему предложили его сразу и целиком: практически полную передачу процесса построения анализа внешней системе, при сохранении за собой лишь функции контроля и утверждения.
Именно в этом и заключается природа тихой революции, о которой идет речь в этой книге. Она не спрашивает разрешения и не предлагает выбор в явном виде. Она складывается из огромного количества мелких, по отдельности вполне оправданных решений, каждое из которых экономит немного времени или немного усилий. И только оглянувшись назад, спустя месяцы или годы, человек вдруг обнаруживает, что структура его повседневного мышления изменилась настолько, что вернуться к прежнему способу работы уже не так просто, как кажется. Мышцы, которые долго не использовались, ослабевают, и Томас, столкнувшись однажды с необходимостью построить анализ полностью самостоятельно, без привычной опоры, с удивлением обнаружил, что это дается ему заметно труднее, чем несколько лет назад.
Важно понимать, что подобные изменения касаются далеко не только профессиональной сферы. Похожие процессы происходят и в повседневной жизни, там, где, казалось бы, ставки гораздо ниже, а последствия менее заметны. Планирование маршрута, выбор фильма для вечернего просмотра, подбор рецепта для ужина, формулировка сообщения близкому человеку — все эти небольшие, привычные действия, которые раньше требовали хотя бы минимального собственного размышления, сегодня все чаще перекладываются на плечи внешних систем. И здесь тоже действует тот же принцип: каждое отдельное обращение к системе выглядит мелким и безобидным, но их совокупность формирует новую привычку мышления, при которой первым движением становится не размышление, а обращение за готовым ответом.
Стоит отметить, что сама по себе передача части умственной работы внешним инструментам не является чем-то новым или разрушительным по своей сути. Человечество всегда пользовалось внешними приспособлениями для расширения собственных возможностей. Письменность когда-то освободила память от необходимости удерживать в голове огромные объемы устной традиции. Калькулятор освободил ум от рутинных арифметических вычислений, позволив сосредоточиться на более сложных задачах. Карта и компас избавили путешественника от необходимости держать в голове мельчайшие детали местности. В каждом из этих случаев инструмент забирал на себя часть механической работы, оставляя человеку простор для более творческих, более сложных умственных задач.
Разница между этими историческими примерами и тем, что происходит сегодня, заключается не столько в самом факте делегирования, сколько в его масштабе, скорости и, что особенно важно, в характере той работы, которая делегируется. Калькулятор освобождал от арифметики, но не отменял необходимости понимать, какую именно операцию нужно выполнить и зачем. Карта освобождала от запоминания маршрута, но не отменяла необходимости ориентироваться в пространстве и принимать решения в непредвиденных ситуациях. Современные интеллектуальные системы устроены иначе: они способны выполнять не только механическую, но и значительную часть содержательной, творческой, аналитической работы, которая раньше считалась исключительно прерогативой человеческого разума. И именно поэтому масштаб их влияния на мышление оказывается качественно иным, чем влияние прежних инструментов.
Вернемся к истории Томаса, чтобы увидеть еще один важный аспект происходящей перемены. Спустя некоторое время после того, как он начал активно пользоваться интеллектуальным помощником в работе, Томас заметил у себя странное чувство, которое сначала не мог точно определить. Ему стало труднее удерживать в голове целостную картину проекта, над которым он работал. Раньше, проходя через все этапы анализа самостоятельно, он невольно запоминал детали, связи между данными, логику принятых решений — просто потому, что сам через все это прошел. Теперь же, получая уже готовые фрагменты анализа от системы и лишь редактируя их, он обнаружил, что детали проекта удерживаются в памяти значительно хуже. Информация словно проходила через него, не оставляя такого же глубокого следа, какой оставался прежде.
Это наблюдение указывает на важную закономерность, о которой стоит сказать отдельно. Память и мышление тесно связаны с процессом активного построения знания. Когда человек самостоятельно проходит через все этапы решения задачи, он не просто получает результат — он выстраивает в своем сознании целую сеть связей, ассоциаций, промежуточных выводов, которая впоследствии помогает ему и запоминать информацию, и применять ее в новых обстоятельствах. Когда же готовый результат поступает извне, минуя этот процесс построения, он усваивается значительно поверхностнее. Человек как будто держит в руках красивое, уже готовое здание, но не знает, из чего оно сложено и почему устроено именно так, а не иначе. При первой же необходимости внести изменения в это здание собственными силами обнаруживается, что понимание его внутренней структуры сильно уступает пониманию того, кто строил здание своими руками с самого начала.
Осознав эту закономерность, Томас не стал полностью отказываться от использования интеллектуального помощника — да это, вероятно, было бы и неразумно в условиях современной профессиональной среды, где скорость и эффективность ценятся крайне высоко. Вместо этого он начал сознательно менять сам характер своего взаимодействия с системой. Прежде чем обратиться за готовым решением, он стал уделять несколько минут собственному размышлению над задачей, формулируя для себя хотя бы приблизительный план действий и предполагаемый результат. Только после этого он обращался к системе, используя ее не как источник готового мышления, а как инструмент проверки, уточнения и ускорения уже начатого им самим процесса. Такой подход требовал немного больше времени на первых порах, но постепенно Томас заметил, что его понимание собственных проектов стало глубже, а способность удерживать в памяти важные детали — заметно лучше.
История Томаса показательна еще и потому, что она демонстрирует одну важную особенность тихой революции, о которой идет речь. Изменение мышления, вызванное активным использованием новых технологий, не является фатальным и необратимым. Оно поддается осознанию и коррекции, если человек готов уделить внимание тому, как именно он взаимодействует с окружающими его инструментами. Проблема заключается не в самом факте использования технологий, а в бездумности этого использования, в готовности передать процесс мышления целиком, не оставляя себе даже минимальной доли самостоятельного участия. И напротив, осознанное, избирательное делегирование, при котором человек сохраняет за собой ключевые этапы размышления, позволяет пользоваться всеми преимуществами современных инструментов, не теряя при этом собственных умственных способностей.