# Питомцы ИИ: Почему мы добровольно становимся обслуживающим персоналом для алгоритмов и как это остановить

Дмитрий Смирнов

«AGI: ассистент или новая форма жизни?» – прагматичное руководство для инженеров, предпринимателей, педагогов и регуляторов, перед которыми уже сейчас встаёт развилка: строить ИИ как инструмент в архитектуре “человек в контуре” или выпускать на сцену новый субъект. Книга объясняет, почему стратегически выгодно усиливать человека (нейроинтерфейсы, дополненная память, экзоскелеты) и какие правила удерживают системы в статусе ассистента: human-/on-the-loop, поэтапные релизы, аудит, право на отключение, нейроправа. На конкретных кейсах разбираются типовые провалы ИИ – Goodhart, reward/specification gaming, централизация рисков – и показываются рабочие контрмеры: многокритериальная оптимизация, «ворота решений», федерации агентов. Отдельный блок – про образование без когнитивной атрофии: как учить мышлению в паре с моделями. Финал – три сценария 2035 и «Протокол человечности»: чек-лист, чтобы выбрать путь Homo augmentus и не стать питомцами машин.

Логлайн: «Мы стоим не между человеком и машиной. Мы стоим между двумя эволюциями: улучшенным человеком и новой формой жизни. Эта книга – инструкция, как выбрать первое и не стать питомцами второго».

Тезис: Наиболее рациональный путь – усиление человека: нейроинтерфейсы, дополненная память, когнитивные протезы. Создание «живого» AGI – игра с максимальными ставками и необратимыми рисками. Книга предлагает карту технологий, угроз и практических решений, как сохранить человека в центре уравнения.


### Предисловие

Эта книга адресована инженерам и предпринимателям, врачам и педагогам, регуляторам и родителям. В ближайшие годы нам предстоит принять системный выбор: AGI как ассистент в архитектуре «человек в контуре» или AGI как новая форма жизни. Первый путь – управляемая эволюция Homo sapiens в Homo augmentus. Второй – ставка на Homo artificialis, автономный субъект без чувств, но с мощной оптимизацией. Здесь нет места сенсационности: только факты, сценарии и протоколы.


## Часть I. Карта разума

### Глава 1. Вероятностный мозг и вероятностная модель

Эпиграф: «Интеллект – это искусство сокращать неопределённость».

1.1. Общий принцип предсказания

Человеческий мозг и искусственные модели сходны в фундаментальном: обе системы минимизируют неопределённость будущего, предсказывая последующие состояния по прошлому опыту (Clark, 2016). В мозге это реализуется через иерархии нейронных ансамблей и механизм ошибок предсказания; в моделях – через оптимизацию функции потерь на статистике последовательностей.

1.2. Иерархичность и обратные связи

Мозг работает иерархически: низкие уровни обрабатывают простые признаки, высокие – смыслы и намерения. Информация течёт снизу вверх (ошибки предсказания) и сверху вниз (гипотезы). Языковые модели организованы аналогично: локальные зависимости (токены) и глобальные структуры (тема, дискурс) сводятся к вероятности следующего шага.

1.3. Потоки входов: тело против текста

Ключевое различие – тип входных данных. Мозг обучается на мультимодальном опыте тела и мира; модель – на символических корпусах. «Мир модели» уже: она оперирует знаками, тогда как мозг оперирует переживаниями, в которые знаки лишь вплетены.

1.4. Язык как внешний жёсткий диск

Люди вынесли память и расчёт вовне: в речь, письмо, вычисления. Модели, обученные на этих носителях, зеркалят человеческие паттерны, но остаются привязанными к статистике знаков.

1.5. Иллюзия понимания

Совпадение формулировок не гарантирует совпадение опыта. Модель способна давать корректные ответы без телесных интуиций, на которых у человека держится «ощущение истины». Это полезно как инструмент, но опасно как замена мышления.

Резюме: интеллект – это предсказание. Различие – в мире, который предсказывается: переживаемый против символического.


### Глава 2. «Я» как эффект тела и памяти

Эпиграф: «Субъект – это история, которую тело рассказывает самому себе».

2.1. Телесная основа субъектности

Ощущение «я» заякорено в теле: схема тела, проприоцепция, интероцепция формируют фон «это – моё». Эксперименты с изменением чувства владения телом показывают пластичность, но и базовую необходимость телесного якоря.

2.2. Память и непрерывность

Личность поддерживается эпизодической и семантической памятью. Без связки «вчера—сегодня» идентичность дробится на эпизоды. Идентичность – кривая, а не точка.

2.3. Эмоции как система приоритетов

Эмоции – механизм распределения ограниченных ресурсов организма; они задают веса целям и определяют поведенческий выбор (Damasio, 1999).

2.4. Почему инструменту не нужно «я»

Инструмент выполняет внешние цели. Встраивание «я» создаёт конкурирующий центр мотивации и переводит систему в разряд субъектов. Это не «улучшение инструмента», а смена категории.

2.5. Границы эмуляции

Можно имитировать речевые маркёры самосознания, но без тела, памяти и эмоций это останется симуляцией. Попытка добавить эти компоненты приведёт к рождению независимого игрока.

Резюме: «я» – продукт воплощённого опыта. Инструменты эффективнее без собственного «я».