Евгений Махина
Лабиринты будущего. Как увидеть завтра уже сегодня

Полная версия

Нарративы и парадигмы

Специалисты по футурологии часто говорят не столько о нарративах, сколько о парадигмах. Это понятие тоже играет важную роль в нашем рассуждении. Термин достаточно широкий. В разных областях человеческой деятельности он может интерпретироваться по-разному. Парадигмы – одна из ключевых концепций в работе Томаса Куна «Структура научных революций³³». Он определяет парадигмы как некие модели, из которых возникают конкретные традиции научного исследования. Автор пишет: «Мы уже видели, однако, что, овладевая парадигмой, научное сообщество получает по крайней мере критерий для выбора проблем, которые могут считаться в принципе разрешимыми, пока эта парадигма принимается без доказательства. В значительной степени это только те проблемы, которые сообщество признает научными или заслуживающими внимания членов данного сообщества».

Иными словами, парадигма – это инструмент отделения возможного от невозможного в контексте доминирующей в конкретный момент модели объяснения мира. Нашему ученому-современнику тяжело будет получить грант на разработку устройства для путешествий в загробный мир. Причина проста: само существование загробного мира не вписывается в современную научную парадигму. Следовательно, проблема путешествий в загробный мир не считается ни важной, ни в принципе разрешимой.

Важно помнить, что доминирующая в конкретный момент парадигма обычно принимается безоговорочно. Нам кажется, что раз что-то говорят важные люди в белых халатах, то они по умолчанию правы. Чаще всего так и есть (и я всячески поддерживаю развивающих научную картину мира), но мы заметим на полях, что любая актуальная на момент написания этой книги парадигма не возникла из ниоткуда. У нее есть предшественницы, которые были вынуждены уйти со сцены, и когда-то они тоже безоговорочно принимались. Так, Джейсон Фанг в своей книге «Код ожирения³⁴» отмечает, что до начала XX века Американская кардиологическая ассоциация считала насыщенные жиры виновными в ожирении населения и распространении сердечных болезней. Углеводы оставались вне подозрений. Сегодня все наоборот. Желающим похудеть в первую очередь советуют уменьшить количество потребляемых углеводов, а не жиров. Предложенная в 1972 году Робертом Аткинсом низкоуглеводная диета попросту не укладывалась в доминирующую парадигму, в связи с чем подвергалась критике и осуждению. Прозвучит странно, но Ассоциацию словно бы не волновал тот факт, что диета Аткинса имела подтвержденные показатели эффективности, в то время как пропагандируемая Американской кардиологической ассоциацией низкожировая диета – нет. Вот она – сила парадигмы.

Я считаю парадигмы своего рода секатором, которым садовник укорачивает ветви декоративного дерева, чтобы придать кроне нужную форму. Парадигмы обрезают определенные ветви нашего рассуждения, когда мы думаем о будущем. Парадигма – это не столько инструмент прогнозирования, сколько инструмент, с помощью которого современники могут определить реалистичность задаваемых нарративами образов грядущего.

Оглянитесь вокруг. Многие из привычных для нас вещей в определенный период истории человечества в принципе считались фантастическими, то есть не соответствующими парадигмам эпохи. Перечень таких заблуждений приводит уже упомянутый мною Митио Каку в своей книге «Физика невозможного³⁵»:

– Лорд Кельвин утверждал, что летательные аппараты тяжелее воздуха никогда не смогут взлететь. Рентгеновские лучи он тоже считал фикцией.

– Лорд Резерфорд открыл атомное ядро, но возможность создания атомной бомбы отрицал.

– Альберт Эйнштейн не верил в способность черных дыр возникать в естественных условиях.

Парадигма может относиться не только к физическим законам. Я довольно часто пользуюсь кассами самообслуживания в супермаркетах. Если бы мне рассказали о концепции касс самообслуживания в 90-х, то я бы назвал ее бредовой. Я бы тогда подумал, что на один честно пробиваемый на такой кассе товар будет приходиться три товара, которые покупатель просто сложит себе в пакет без сканирования штрих-кода. Эта технология не укладывалась в мою парадигму человеческой природы. Я не верил, что люди достаточно честны, чтобы самостоятельно сканировать и оплачивать товары на автоматических кассах. Как видите, моя тогдашняя парадигма была ошибочной. Кто-нибудь, конечно, пользуется данной ему свободой для воровства, но в целом люди ведут себя ответственно и сканируют все товары из корзины.

Ранее мы с вами уже прибегали к метафоре плывущего по морю парусника. Чтобы механика взаимодействия нарративов и парадигм была понятнее, вновь используем ее. Нарратив – это новости о том, что наш парусник был замечен сначала у берега Нидерландов, затем его видели в Бельгии, а еще позже – во Франции. На основе этих данных можно сделать вывод, что корабль плывет на запад. Велика вероятность, что получатель новостей воскликнет: «Ну, ждем его в Испании!» Некий набор данных (новости об обнаружении парусника) складываются в единую систему («Он плывет на запад»), на основе чего делается предсказание («Его вскоре увидят в Испании»). Парадигма – это ответ на вопрос: «Земля плоская или круглая?» Как вам известно, в разные периоды истории мы отвечали на него по-разному. Исходя из доминирующей парадигмы, предполагаемые перспективы парусника, продолжающего плыть на запад, меняются. В одном случае ему будут пророчить кругосветное путешествие, в другом – гибель из-за падения с края Земли.

В 1939 году математик Джордж Бернард Данциг опоздал на занятия. На доске были написаны уравнения, которые он ошибочно принял за домашнее задание. Задание оказалось трудным, но Данциг все-таки смог его выполнить. Позже от своего преподавателя, профессора Ежи Неймана, он узнал, что решил две «нерешаемые» проблемы математической статистики³⁶. Время немного исказило эту историю, приукрасив ее, но это не меняет сути: категории «возможно» и «невозможно» зачастую отражают не объективную действительность, а наше представление о ней.

До 6 мая 1954 года считалось, что человек физически не способен пробежать милю меньше чем за четыре минуты. В этот день 25-летний студент Роджер Баннистер пробежал³⁷ милю за 3 минуты 59 целых и 4 сотых секунды. И знаете что? Через месяц австралиец Джон Лэнди побил этот рекорд. Он пробежал милю на четыре сотых секунды быстрее. В течение следующих трех лет это смогли повторить еще пятнадцать спортсменов. Баннистер изменил парадигму. То, что раньше считалось невозможным, таковым считаться перестало. Текущий мировой рекорд – 3 минуты 43 целых 13 сотых секунды³⁸.

Развитие нашей цивилизации идет в плотной связке с изменением наших парадигм. Трилогия известного китайского фантаста Лю Цысиня «Память о прошлом Земли» повествует о попытке инопланетян захватить нашу планету. Даже с их развитыми технологиями флоту трисоларианцев предстояло провести в пути до нас около 400 лет. Пришельцы быстро поняли проблему: люди знали об их приближении. За 400 лет они успеют настолько хорошо подготовиться, что шансов у захватчиков попросту не будет. Единственным способом обеспечить себе победу было значительное замедление прогресса человеческой науки. Нужно было в первую очередь помешать работе ученых-теоретиков. Почему? Потому что именно они создают новые парадигмы. Определяют границы возможного. Пришельцы рассудили: если позволить человеческим ученым и дальше работать над новыми парадигмами, то через 400 лет, то есть в момент прибытия флота, человечество будет настолько развито, что уничтожит его щелчком пальцев. Мы говорим о действиях вымышленных существ в рамках художественного произведения, но их логику прекрасно можно понять и нам, живущим в мире реальном.

Позволю себе предположить, что у каждой эпохи есть свой «ПиН-код». «ПиН» в данном случае означает сочетание «Парадигм и Нарративов», определяющих мировоззрение живущих в конкретный период людей. Когда-то мы считали, что Земля находится в центре Вселенной, а поместил ее туда творец, собирающийся в будущем судить нас за наши грехи. Сейчас мы пытаемся постичь, что происходит внутри черных дыр, а понятие «грех» у каждого свое.

Людям бывает тяжело прислушаться к «фантастическим» прогнозам футурологов, так как кажется, что последние витают в облаках, рассуждая о нереальном. При этом люди могут всерьез верить во что-нибудь настолько маловероятное, как выигрыш в лотерею. В 2022 году житель Москвы устроился продавцом в точку продажи лотерейных билетов. За время работы он украл³⁹ почти 12 тысяч лотерейных билетов на общую сумму 1,39 миллиона рублей. В список Forbes он так и не вошел. Вошел разве что в список фигурантов уголовного дела. Пожалуй, это была лучшая антиреклама лотерей. Так почему же люди продолжают покупать лотерейные билеты? Потому что на слуху всегда какая-нибудь история о счастливчике, чья жизнь за один день преобразилась благодаря тому самому «счастливому» билету. Удача меняла жизнь не только частных лиц, но и компаний. Вы, возможно, слышали историю⁴⁰ о том, как компания FedEx была спасена от банкротства благодаря тому, что Фред Смит (основатель) взял последние пять тысяч долларов из кассы и отправился с ними в Лас-Вегас. Оттуда он вернулся с выигрышем в 27 тысяч долларов. Это позволило закрыть краткосрочные обязательства компании. Она продолжила работать. Она преуспела. Каждая подобная история напоминает людям, что выигрыш в лотерею пусть и маловероятен, но все же возможен.

Нарративы и парадигмы обрамляют наше мышление. Без рамок было бы тяжело осмыслить всю бесконечную сложность окружающего мира. Во второй части книги вам будет предложен ряд упражнений, позволяющих развить навык выхода за пределы существующих установок. Зачем? Проблема в том, что задаваемые рамки легко могут стать тюрьмой для разума.

Как нарративы ограничивают нас

Предвзятость подтверждения – одно из распространенных когнитивных искажений, жертвой которого очень легко стать. Его суть сводится к тому, что люди с большей охотой отдают предпочтение информации, которая согласуется с их точкой зрения, убеждением или гипотезой. Марк Снайдер и Уильям Б. Суонн из университета Остина провели эксперимент⁴¹. Испытуемым дали гипотезы об экстраверсии или интроверсии ряда людей. После этого им предложили составить список вопросов для интервью, чтобы эти гипотезы проверить. Оказалось, что испытуемые были склонны выбирать именно те вопросы, которые помогали подтвердить озвученную гипотезу. Например, возьмем такой вопрос: «Если вы хотите познакомиться с новыми людьми, то какие способы/возможности сделать это вы обычно ищете?» В сам вопрос уже зашито предположение о наличии у субъекта необходимости регулярно расширять свой круг знакомств. Предположите, в каком случае он попадал в опросник чаще: когда испытуемым предварительно озвучивали гипотезу об экстравертированности опрашиваемого или его интровертированности? Да, вы угадали. О таком с большей вероятностью спросят именно экстраверта.

Предвзятость подтверждения – это наручники, которыми нас сковывает укоренившийся в сознании нарратив. Если я поверил в грядущее порабощение человечества машинами, то я из всего окружающего дискурса буду в первую очередь выхватывать именно ту информацию, которая позволит подтвердить мои мрачные опасения. Противоречащие идее данные будут отвергаться или игнорироваться.

Эвристика доступности – вторая ловушка. Она заставляет нас оценивать как наиболее вероятные или частые те события, информацию о которых проще вспомнить. Представьте, что вас спросили: каких слов в английском языке больше: тех, в которых буква R является третьей по счету, или тех, которые с нее начинаются? Чаще всего люди голосуют за слова, начинающиеся на R. Они ошибаются⁴². Эвристика доступности заставляет голосовать за слова, которые начинаются на букву R, так как их проще вспомнить. Куда сложнее перебирать в памяти все слова, чтобы подсчитать, в каком количестве из них R будет на третьем месте.

Эвристика доступности – это топливо, на котором работает реклама и масс-медиа. Огромное количество денег вливается в медийную рекламу не для того, чтобы вы запомнили свойства рекламируемых продуктов. Эти инвестиции нужны, чтобы искомый бренд был первым, о котором вы подумаете при упоминании слов: смартфон, мыло, статусный автомобиль.

Эвристика доступности влияет и на наше представление о будущем. Если человека собьет беспилотный автомобиль, этот факт будет куда больше освещаться в СМИ, чем любой подобный случай, в котором за рулем был человек. Если телезрителя впоследствии спросят о безопасности беспилотных автомобилей, то он с большей вероятностью вспомнит о громком ДТП, чем о скучной статистике. Это заставит его воскликнуть: «Вы с ума сошли?! Ну какие беспилотные автомобили?»

Когнитивных искажений великое множество. Два из них – предвзятость подтверждения и эвристика доступности – имеют, на мой взгляд, ключевое значение в контексте нашего рассуждения.

Информационные пузыри – оборотная сторона развития информационных технологий. Рекомендательные алгоритмы знают, контент какого рода нам нравится. В этой связи они стараются подбирать для нас похожие по направленности материалы. Это увеличивает риск пасть жертвой предвзятости подтверждения или эвристики доступности. Кликнув на заголовок один раз, мы говорим системе: «Возможно, мне это интересно». Алгоритм реагирует, стараясь в ближайшем будущем показать еще что-то похожее. Если мы кликаем вновь, то говорим системе: «Да, похоже, что мне это интересно». Так вокруг нас формируется информационный пузырь, подкармливающий сам себя. Чем больше контента определенной направленности мы смотрим, тем ниже шансы у контента с «противоположным зарядом» пробиться к нам на экраны. Раньше говорили: «Скажи мне, кто твой друг, и я скажу, кто ты». Сейчас я люблю шутить: «Покажи мне главную страницу сайта YouTube.com в своем браузере, и я скажу, кто ты».

Далее мы разберем три актуальных на момент написания данной книги нарратива о будущем, чтобы «заземлить» изученный материал.

3 примера современных нарративов о будущем

1. Глобальное потепление замедлится, когда мы пересядем на электромобили

Поговорим о глобальном потеплении. Представьте, что утром вы наливаете себе чашечку кофе и садитесь листать ленту новостей. Сначала вы видите такой материал⁴³: «Ученые предрекают исчезновение императорских пингвинов. В прошлом году из-за таяния морского льда в Антарктиде утонули тысячи птенцов императорских пингвинов». Затем поисковый алгоритм предлагает вам посмотреть еще одну статью⁴⁴: «Температура на Земле третий раз за неделю обновила исторический максимум».

Ок, понятно. Глобальное потепление – это серьезная проблема. Еще в школе мы узнаем, что она возникает из-за парниковых газов. Чтобы исправить ситуацию, нужно как-то сократить их выбросы. Умные люди давно занимаются этим вопросом. Например, в Департаменте природопользования и охраны окружающей среды города Москвы подсчитали⁴⁵, что сокращение парниковых газов при внедрении одного электроавто сократит выбросы парниковых газов на 2,5 тонны в год. Отлично. Выходит, что электромобили – это хорошая штука.

Давайте вместе предположим, какое видение будущего складывается, если собрать все эти новости в единый нарратив? Готов поспорить, что в голову приходит панорама города, по улицам которого ездят исключительно электромобили. Люди дышат чистым воздухом. Повсюду деревья. И пингвины.

А теперь посмотрите на график, на котором представлен вклад разных секторов в общий объем выбросов парниковых газов.

Hannah Ritchie, Pablo Rosado, Max Roser. Распространяется по лицензии CC BY. Источник: https://ourworldindata.org/emissions-by-sector. Дата обращения: 1 cентября 2023 г.

Топ-5 в этом списке:

1. Промышленность.

2. Авиация и перевозки морским транспортом.

3. Выработка электроэнергии. Отопление.

4. Транспорт.

5. Производство и строительство.

Какие выводы мы можем сделать из этого графика?

1. Темпы роста объема выбросов у промышленного сектора заметно выше, чем у других.

2. Автотранспорт дает меньше выбросов, чем электрогенерация, авиация, грузоперевозки на кораблях.

Предположим, что завтра все автомобили с ДВС будут заменены на электромобили. Что произойдет с потребностью человечества в электроэнергии? Правильно, она вырастет. Что в таком случае произойдет с объемом выбросов? Он вырастет. При этом переход на электромобили не повлияет на рост объемов выбросов промышленного сектора, который может нивелировать весь полезный эффект. Переход на электромобили не сделает будущее экологически чистым, если энергия для них будет добываться теми же способами, что и сейчас.

Проблема здесь в эвристике доступности. Мало кто так же часто летает на самолете, как ездит на автомобиле. Автомобиль – зачастую самый «близкий к нам» источник загрязнения. Самый знакомый. Самый понятный. В этой связи не стоит удивляться, что автомобили кажутся нам куда более серьезным фактором воздействия на среду, чем авиа или морской транспорт.

2. Нейросети и искусственный интеллект совсем скоро лишат работы огромное количество людей

Человечеству уже известны случаи, когда технологии уничтожали целые профессии. Лифтеры, вычислители (люди, которые проводили расчеты до появления калькуляторов), телефонисты, фонарщики. Уверен, что вы сами можете продолжить этот список.

У нас сформировался нарратив под названием «появление новой технологии = исчезновение профессии». Бум нейросетей серьезно его подкормил. В публичном пространстве сейчас очень много говорят о том, что нейросети оставят огромное количество людей без работы. Откройте поисковую строку и введите «Какие профессии заменит ИИ в ближайшее время». Перспективу остаться без работы предрекают многим: бухгалтерам, переводчикам, юристам, журналистам и т. д. Да, и обычно такие списки заканчиваются предложением пройти курс по нейросетям. Совпадение?

Словарь английского языка Collins назвал ИИ словом 2023 года⁴⁶. Интереса ради зашел в раздел «Будущее» на новостном портале Lenta.ru. Сделал скриншот главной страницы. Из 11 материалов семь были посвящены ИИ и нейросетям. Это 63 процента.

Источник: lenta.ru. Дата обращения: 2 ноября 2023 г.

Вновь передаем привет эвристике доступности. Новостей о нейросетях сейчас настолько много, что не стоит удивляться формированию соответствующего нарратива вокруг темы.

Поймите меня правильно: я тоже считаю, что многие профессии перестанут существовать в привычном нам виде. Я, например, сам когда-то зарабатывал переводами с/на английский язык, но сейчас ничего не перевожу сам. Если такая необходимость возникает, я просто открываю ChatGPT и прошу его сделать мне перевод. Это в разы быстрее. Или возьмем, к примеру, юристов. Юристы большую часть времени работают с текстами. ChatGPT работает с текстами. Нетрудно поддаться влиянию нарратива и заявить, что скоро юристы массово будут лишаться работы. Так ли это? Давайте разбираться.

Поговорим о контурах управления в кибернетике. Человек и автоматизированная система могут быть в разных взаимоотношениях. Допустим, у нас есть система для проверки домашних заданий обучающихся на онлайн-курсе. В таком случае возможны несколько комбинаций:

1) Человек в системе: нейросеть дает какие-то подсказки, но человек проверяет все ДЗ сам. Система в данном случае выступает в роли ассистента.

2) Человек над системой: нейросеть сама пишет обратную связь на ДЗ учеников. Человек пробегается по ней глазами, что-то корректирует, а потом отправляет обучаемым.

3) Человек вне системы: нейросеть проверяет ДЗ, пишет обратную связь и сама автоматически высылает результаты проверки ученикам.

Выбор конкретной комбинации зависит от нескольких факторов. Например, от вероятности ошибки и предполагаемых последствий.

Представьте себе ситуацию. Вы летите в самолете. Вдруг оба пилота выходят в салон. Вы интересуетесь, почему это в кабине никого нет. Командир экипажа говорит: «Да там автопилот включен же! Зачем нам там сидеть на приборы пялиться? Вот тут в бизнес-классе кино посмотрим лучше». Вы бы впоследствии стали пользоваться услугами этой авиакомпании? Сомневаюсь. Мы знаем, что в самолетах очень надежная и точная автоматика. Системы дублируются, чтобы можно было продолжить полет даже в случае отказа чего-либо. Тем не менее мы не доверяемся автоматике на сто процентов. Есть пилот, который примет управление на себя, если что-то пойдет не так. Пилот тоже «задвоен» – если с одним что-то случится, за штурвал возьмется его коллега. Даже при наличии настолько развитых систем автоматизации мы все равно сохраняем человека над контуром управления. И это правильно.

Говоря об автоматизации чего-то, мы и вовсе часто не договариваемся об определениях. Национальное управление по безопасности дорожного движения США, например, решило навести порядок⁴⁷ в терминологии, касающейся беспилотных автомобилей. Управление выделило несколько уровней автоматизации, где 0 – это полноценное управление водителем (автоматизированные системы только информируют человека), 5 – водитель становится пассажиром (управление полностью передано автоматике). На каком уровне находятся существующие автомобили с тем, что мы называем «автопилотом»? Между 2 и 3. Описание уровня 3 гласит: «Система активно участвует в управлении автомобилем, но водитель должен быть готов в любой момент принять управление на себя». В ноябре 2023 года суд округа Риверсайд (Калифорния) постановил⁴⁸, что система автопилота на автомобиле Tesla не виновна в смертельном ДТП, произошедшем в 2019 году. По версии истцов, автопилот заставил машину съехать с дороги и врезаться в дерево. Водитель погиб. Пассажиры получили травмы. В ходе процесса были озвучены два тезиса, важных для нашего рассуждения:

1) Автопилот Tesla – это «лишь продвинутый круиз-контроль».

2) Система Full Self-Driving предупреждала водителя о необходимости следить за дорогой.

Резюме: говоря об автомобилях, которые сами себя водят, мы на самом деле имеем в виду контур типа «Человек над системой», или третий уровень автоматизации (ответственным за управление остается человек). Ни о каком полноценном автопилоте речь, по сути, пока не идет, но не все об этом задумываются, когда читают новости.

Вернемся к кураторам на нашем онлайн-курсе. Да, автоматическая проверка ДЗ – привлекательная опция. Какую форму взаимоотношений человека и системы вы бы выбрали? Человек внутри системы / над системой / вне системы? Что будет, если наш «нейрокуратор» в своем ответе выдаст ученику какую-нибудь ерунду? Человек либо усвоит неправильную норму, либо потеряет доверие к онлайн-школе. В этой связи я бы выбрал конструкцию «человек над системой»: пусть машина проверяет ДЗ и автоматически генерирует основную часть комментария, а человек смотрит его перед отправкой, при необходимости корректируя или добавляя что-то от себя. Другой вариант устранения проблемы – обязать онлайн-школы маркировать обратную связь от «нейрокураторов». Собственники онлайн-школ должны быть готовы к тому, что рекламируемый ими разбор домашних заданий будет меньше цениться в случае его автоматизации. Если сейчас во многих онлайн-школах проверка ДЗ входит в более премиальные пакеты, то в будущем, возможно, проверка ДЗ с включением человека станет тем, за что люди захотят дополнительно заплатить.

Когда мы попадаем во власть нарратива о скорой смерти многих профессий, связанных с умственной работой, мы забываем о штуке под названием «ответственность».

• Да, нейросеть может сгенерировать кучу вариантов логотипов для клиента, но кто возьмет на себя ответственность за выбор того, который будет использоваться в рекламной кампании стоимостью в несколько миллионов рублей?

• Да, нейросеть можно попросить перевести текст, но кто возьмется сразу этот текст копипастить какую-нибудь резолюцию ООН или иной важный документ? Вы бы подписали договор о поставках с иностранным партнером, зная, что после автоматического перевода он никак не проверялся? Выше я писал о том, что сам использую нейросети для перевода. Я позволяю себе это благодаря тому, что сам знаю английский. Я все равно смотрю оригинальный текст и сверяю его с переводом, внося необходимые мне правки.

• Да, нейросеть можно использовать для подготовки документов за юриста, но кто будет отвечать за правовые последствия их использования?

Это не то же самое, что заменить телефонистку автоматом. Кстати, вы знаете, откуда вообще появилась эта идея? Элмон Строуджер был владельцем похоронного бюро в Канзас-Сити. Его бизнес терпел убытки из-за недобросовестной конкуренции. Причиной проблемы были телефонистки, которые соединяли клиентов не с его компанией, а с конкурирующей⁴⁹. Это и натолкнуло Строуджера на идею исключить человека из процесса соединения, чтобы никто не мог совершать подобных манипуляций. Так он создал систему прямого соединения абонентов. Как видите, Строуджером двигало не альтруистическое желание избавить людей от этого труда. Эта профессия не считалась бременем. Даже наоборот – именно возможность устроиться телефонисткой позволяла многим женщинам в ХХ веке хорошо зарабатывать. Кто знает, как бы эта индустрия развивалась дальше, если бы не перешла дорогу предприимчивому и изобретательному владельцу похоронного бюро.

Когда мы слышим, что нейросети заменят всех так же, как в свое время автоматизация заменила телефонисток, мы попадаем в ловушку, потому что не сравниваем подобное с подобным. Мы сравниваем работу в условиях низкого уровня неопределенности и невысокой цены ошибки (Строуджер бы с этим поспорил) с прямо противоположным набором условий.

В публичное поле легко просачиваются и быстро распространяются новости об успехах нейросетей. Мне все больше кажется, что самый простой способ стать спикером на какой-нибудь модной московской конференции в 2023 году – это заявить тему в стиле «Я уволил своего эсэмэмщика и заменил его на нейросеть». Такое привлекает внимание. Люди не публикуют статьи в стиле «Я попросил нейросеть написать за меня экспертную статью, она сделала какую-то ерунду, в итоге я отказался от идеи и написал сам».

Вернемся к теме юристов. Уже есть случаи проникновения нейросетей в их работу. И не все так гладко, как хотелось бы. В США прецедентное право: суды во многом опираются на вынесенные ранее решения по аналогичным делам. В этой связи важной задачей в рамках подготовки правовой позиции является поиск прецедентов.

Питер ЛоДука, юрист из Нью-Йорка, был пойман на использовании фальшивых ссылок на решения других судов по аналогичным делам⁵⁰. Когда стали разбираться, выяснили, что исследованием вопроса занимался его коллега – Стивен Шварц. Когда его допросили, выяснилось, что тот… прибегнул к помощи ChatGPT. Эта нейросеть широко известна своей способностью «выдумывать» ссылки на несуществующие источники. В этом случае она и предоставила юристу ссылки на дела, которых никогда не было. Информацию не перепроверили, юридическая фирма нажила себе проблемы. При этом мы говорим о ситуации, в которой человек все еще находился над контуром управления, то есть сгенерированные нейросетью материалы автоматически не направлялись в суд. В Техасе судья по имени Брэнтли Старр и вовсе обязал всех выступающих в суде открыто заявлять, если в процессе подготовки они использовали нейросети⁵¹.

Давайте я попробую предложить другой нарратив для осмысления тех же происходящих сейчас процессов, а вы наблюдайте, как меняется ваше отношение к перспективам человечества.

Один из самых видных философов ХХ века Маршалл Маклюэн в своей работе «Понимание медиа: внешние расширения человека⁵²» предлагает воспринимать прогресс как процесс расширения границ наших тел. Он пишет: «Расширение наших телесных поз и движений посредством вынесения их наружу постоянно вытекает из нашего стремления к увеличению власти и могущества. Вся суть утвари и инструмента состоит в капитуляции между этим телесным напряжением посредством расширения тела вовне».

Проиллюстрирую эту мысль примерами:

• Скорость наших ног ограничена, но у нас есть потребность к быстрому перемещению. Мы выносим ее вовне, создавая колесо. Человек не может бежать со скоростью 200 км/час. «Феррари» до такой скорости разогнаться может. В понимании Маклюэна не стоит разграничивать водителя и «Феррари». «Феррари» в данном случае выступает в роли продолжения тела ее водителя.

• Мы не можем крикнуть так, чтобы нас услышали на соседнем континенте. Но потребность в передаче указаний есть. Так человечество изобрело письменность и носители, на которые можно что-то записать и отправить с гонцом.

• У нас есть потребность в обогреве, но способность наших тел сохранять тепло ограничена. Мы «выносим эту потребность вовне», создавая одежду.

Этот процесс «расширения тела вовне» продолжается до сих пор. Получившие в ХХ веке распространение новые способы коммуникации и передачи информации Маклюэн считал инструментами расширения нашей центральной нервной системы.

Если хотите более современный пример, то давайте поговорим о памяти человека. Она ведь тоже выносится вовне. Ваша память в сегодняшнем мире – это ваша голова + память вашего компьютера + память вашего телефона + облачное хранилище и т. д. Эти элементы образуют целостную систему. Память наших дальних предков в этом смысле была в разы меньше.

Для понимания тезиса предложу простой мысленный эксперимент: представьте, что вы полностью очистили память телефона и домашнего компьютера. Как ощущения? Некоторые люди говорят, что это бы воспринималось как ампутация, и логика в их словах есть. Ощущение действительно может быть такое, будто бы человека лишили важной части тела. Кстати, ровно из-за этого Илон Маск уже называет людей киборгами. Он считает, что ими нас делает тот самый факт передачи части нашей памяти компьютерам⁵³.

Создание нейросетей – это, по сути, акт еще одного расширения нашего тела. Мы нашли способ вынести вовне черновую мыслительную работу. Вот и все. Поэтому нужно думать не о битве ИИ и человека за одно и то же рабочее место. Нужно думать о том, что:

• Дизайнеры теперь могут работать не только с теми концептами, что вышли из-под их пера, теперь они вольны передать нейросетям черновую работу, порождая сотни концептов в час. В итоге клиенту из большего количества вариантов проще выбрать оптимальный. А дизайнер, освобожденный от нетворческой рутины, может успешнее воплотить выбранную идею в жизнь.

• Переводчики теперь могут не тратить кучу времени на банальную перепечатку слов на другом языке, а, например, концентрировать свое внимание на сложных местах в художественных текстах, думая о том, какая метафора в родном языке точнее передаст замысел иностранного автора.