Е. И. Галяшина, К. М. Богатырев

Речевые технологии в системе технико-криминалистического обеспечения правоохранительной деятельности и судопроизводства

Монография

ebooks@prospekt.org

Информация о книге

УДК 343.98

ББК 67.521

Г17

Авторы:

Галяшина Е. И., доктор юридических наук, доктор филологических наук, профессор, заведующий кафедрой криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА);

Богатырев К. М., кандидат юридических наук, доцент кафедры криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА).

Рецензенты:

Першин А. Н., доктор юридических наук, профессор, профессор кафедры криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), генеральный директор Научно-исследовательского центра «МоиЭксперты»;

Кокурин А. В., кандидат психологических наук, доцент, магистр права, доцент кафедры криминологии и уголовно-исполнительного права имени В. Е. Эминова Московского государственного юридического университета имени О. Е. Кутафина (МГЮА).

В монографии рассмотрены речевые технологии в системе технико-криминалистического и, шире, научно-технического обеспечения юрисдикционной деятельности. Изучены основные тенденции и условия развития основанных на речевых технологиях криминалистических средств, предложена их авторская классификация. На основе анализа применения речевых компьютерных и нейросетевых технологий во всем их многообразии описаны их функциональные возможности, преимущества и ограничения, а также потенциальные риски.

Законодательство приведено по состоянию на 31 октября 2025 г.

Предназначена для студентов, аспирантов и преподавателей вузов, практических работников органов государственной власти и иных лиц, интересующихся проблематикой речевых технологий в системе технико-криминалистического обеспечения правоохранительной деятельности и судопроизводства.

УДК 343.98

ББК 67.521

© Галяшина Е. И., Богатырев К. М., 2026

© ООО «Проспект», 2026

ВВЕДЕНИЕ

В современном мире речевые компьютерные технологии становятся неотъемлемой частью технико-криминалистического обеспечения (ТКО) правоохранительной деятельности и судопроизводства, способствуя более эффективной борьбе с преступностью.

Одна из основных задач ТКО состоит в получении криминалистически значимой информации, позволяющей в результате ретроспективного изучения имеющейся на месте происшествия следовой картины установить юридически значимые обстоятельства произошедшего события. В широком смысле слова следы — это любые изменения, связанные с событием преступления, отражающие его сущность и специфику. Единый источник происхождения обусловливает информационное единство следов: каждый след несет часть, а совокупность следов — всю информацию о преступлении и лицах, его совершивших¹.

С речевыми следами (относящимися к категории знаковых следов) криминалисты чаще всего сталкиваются при изучении письменной речи, любого рода звуков, а также сведений, передаваемых с использованием информационно-телекоммуникационных сетей, в том числе в сети Интернет. При цифровой записи речевой информации на материальном носителе вместо реального объекта с многообразием индивидуализирующих признаков фиксируется последовательность чисел, характеризующая параметры абстрактной модели объекта (формирующейся в результате аналогово-цифрового преобразования).

Речевые следы криминогенных информационно-коммуникативных событий становятся важным источником криминалистически значимой информации, необходимой для выявления, раскрытия, расследования и предупреждения соответствующих преступлений. Речь охватывает все сферы деятельности человека, связанные с его творческой, профессиональной, деловой, социальной и бытовой коммуникативной активностью. Информация, отображаемая посредством речевых следов, может быть получена, декодирована и использована в доказывании независимо от волеизъявления участников уголовного процесса, хотя установление ее смыслового содержания в некоторых случаях является нетривиальной задачей.

Современные компьютерные речевые технологии могут рассматриваться в том числе как одна из разновидностей информационно-коммуникационных технологий, которые представляют собой совокупность приемов и способов передачи, получения, хранения и обработки электронных сообщений с использованием вычислительных средств. Включение в этот процесс нейросетевых решений позволяет извлекать значимую информацию как из семантики (смысловой стороны) продукта речевой деятельности, так и из его языковой формы, детерминированной функционально-стилистической и индивидуально-речевой характеристикой речевого продукта (текста/высказывания), и тем самым достичь качественно новых результатов всестороннего познания свойств изучаемого информационного объекта как следа преступления, совершаемого посредством речевого действия.

Такие технологии могут использоваться при диагностировании по голосу и речи антропологических и социально-демографических свойств лица (пола, возраста, языка, национальности, эмоционального состояния и т.д.), транскрибировании устной речи (переформатировании звучащей речи в письменный текст), установлении аутентичности фонограмм, выявлении признаков их монтажа, редактирования, детектировании синтезированной устной или генерированной с помощью искусственного интеллекта письменной речи.

Сфера компьютерно-опосредованной коммуникации предоставляет возможности для реализации не только речевых, но и поликодовых способов передачи информации (знаков естественного языка и знаков других языков, формул, графических символов и т.д.), обогащая содержание и смысл вербального сообщения за счет дополнительной информации, представленной в виде графического и акустического компонентов, выделения фона и фигуры; ассоциативных связей с прецедентной информацией, интертекстуальных акцентов, гипертекста и т.п. Во многом перечисленные дополнения речевого продукта призваны компенсировать отсутствие прямого контакта, позволяющего однозначно установить контекст и смысловую направленность коммуникации (например, именно по этой причине активно используются эмотиконы — смайлики, стикеры и т.д.).

Устная и письменная речь в силу многих объективных причин остается основным средством коммуникации на всех этапах человеческой деятельности, а передаваемая с ее помощью информация может иметь исключительную ценность для раскрытия и расследования, предупреждения преступлений правоохранительными органами, а также рассмотрения в суде дел различных категорий, в том числе в рамках цивилистических процессов (в сфере гражданского и арбитражного судопроизводства).

Продукты речевой деятельности человека, зафиксированные на материальном носителе в разнообразной форме (рукописной, машинописной, электронной, звучащей), активно вовлекаются в сферу правоохранительной деятельности и судопроизводства. Это и традиционные тексты, и новые поликодовые объекты криминалистического изучения; в процессе они фигурируют как документы, вещественные доказательства и иные материалы дела. Поэтому вполне объяснимо расширение областей применения различных технических средств для трансляции, получения, фиксации, хранения информации, передаваемой с помощью языковых средств.

Автоматическое распознавание устной спонтанной полилогической речи и мультилингвальный перевод открывают перед правоохранительными органами и судебной системой новые перспективы и возможности. Благодаря речевым и иным нейросетевым технологиям удается повысить эффективность расследования и судебного рассмотрения дел, сократить время на анализ и обработку криминалистически значимой информации, а также значительно улучшить качество проводимых исследований продуктов речевой деятельности.

В то же время технологии искусственного интеллекта становятся новым вызовом для криминалистов и следователей. Злоумышленники внедряют такие технологии в свою преступную практику: осуществляют генерацию поддельного голосового, речевого, визуального контента в режиме реального времени, в дальнейшем используемого при общении через цифровые платформы для проведения видеоконференций, отправлении видео и звуковых сообщений в социальных сетях или мессенджерах. Пользователям предлагают компьютерные программы, которые позволяют синхронизировать видимую артикуляцию на видео с любым звучащим текстом (даже на иностранных языках), инструменты для «клонирования» голоса, изменения тона и тембра в соответствии с желаемой эмоцией².

В предлагаемой читателям монографии авторы постарались охватить все сферы юридической деятельности (в первую очередь — правоохранительную деятельность и судопроизводство), где могут быть использованы или уже используются речевые компьютерные и нейросетевые технологии, обратить внимание на их функциональные возможности, преимущества и ограничения, потенциальные риски.

Глава 1. РЕЧЕВЫЕ И НЕЙРОСЕТЕВЫЕ ТЕХНОЛОГИИ В СИСТЕМЕ ЮРИДИЧЕСКОГО ИНСТРУМЕНТАРИЯ

§ 1.1. Большие языковые модели как инструменты работы с юридическими текстами

Современные лингвистические и речевые технологии многогранны. Еще в советский период они активно развивались в рамках традиционно сильных отечественных научных школ прикладной и математической лингвистики³. В настоящее время такие технологии интегрированы во многие инструменты обработки текстов, функционирующие на базе получивших широкое распространение за последние пять лет нейронных компьютерных сетей.

К их числу относятся так называемые большие языковые модели (БЯМ) — тип программы искусственного интеллекта, нейронная лингвистическая сеть, которая обучена работать с письменным текстом как продуктом речевой деятельности человека: понимать, пересказывать, редактировать, дополнять, переводить и анализировать его, а также генерировать новые речевые продукты по образу и подобию уже известных. С помощью БЯМ возможно изготавливать рефераты, аннотации, дайджесты из докладов, научных работ, отчетов; поддерживать диалог и отвечать на вопросы пользователя. БЯМ обучается на огромных массивах ранее созданных человеком текстов — книгах, статьях, диалогах, документации и других источниках, в том числе размещенных в сети Интернет.

Использование БЯМ для оптимизации работы в юридической сфере сегодня имеет большой потенциал. БЯМ эффективно решают рутинные задачи, связанные с обработкой естественного языка, — могут анализировать договоры, юридические ситуации, соглашения и нормативные документы.

Ключевой элемент БЯМ — архитектура трансформеров, благодаря которой модель выделяет важные связи между словами в контексте. Основной элемент — механизм внимания, который помогает акцентировать значимость одних элементов текста по сравнению с другими.

БЯМ в процессе глубокого машинного обучения изучают огромные объемы текстовых данных, используя статистику и корреляции, определяют, каким должно быть следующее слово или фраза в любом заданном ответе. Каждая БЯМ вместе со всеми изученными ею текстами и закономерностями хранится в мощных компьютерах в крупных центрах обработки данных, известных как нейронные сети. БЯМ могут рассуждать, используя процесс, называемый цепочкой высказываний. Они генерируют сложные (многошаговые последовательные) ответы, имитируя логику людей, основываясь на закономерностях, наблюдаемых в обучающих данных. При этом разработчики БЯМ успешно заменили проблему семантики (сочетания слов для создания смысла) статистикой, соединяя слова на основе частоты их предыдущего использования «без понимания»⁴.

С момента появления в ноябре 2022 г. в открытом доступе ChatGPT — первой из числа больших языковых моделей, как совершенно нового класса архитектур искусственных нейронных сетей, произошел экспоненциальный рост их использования в различных цифровых решениях, отразившихся на всех сферах жизни современного человека⁵. К концу 2023 г. БЯМ стали мейнстримом в области технологий искусственного интеллекта (ИИ). С ростом количества таких моделей, появлением версий, способных работать с мультимодальными данными, все более предпочтительным выглядит построение гибридных интеллектуальных систем с их использованием.

С появлением предпоследней версии большой языковой модели (Large Language Model, LLM) ChatGPT — GPT-4, прошедшей⁶ тест Тьюринга (основной метод исследования искусственного интеллекта на его способность мыслить как человек, заключающийся в слепом собеседовании испытующего с человеком и компьютером в формате вопрос-ответ⁷), исследователи и практики уже задаются вопросом не о том, возможен ли ИИ как таковой, а о том, какой ИИ возможен. В результате суммирования различных подходов к искусственному интеллекту сообщество его разработчиков пришло к выводу о возможности его дифференциации по уровню когнитивных способностей: появилось деление на Narrow AI (Узкий Искусственный Интеллект) или Weak AI (Слабый Искусственный Интеллект), способный решать одну конкретную задачу и не обладающий общими когнитивными способностями, и на AGI (Artificial General Intelligence, или Общий Искусственный Интеллект) или Strong AI (Сильный Искусственный Интеллект), а также являющийся их частным случаем HLAI (Human-Level Artificial Intelligence, или Искусственный Интеллект Человеческого Уровня), соответствующий или превосходящий человеческие способности в широком спектре когнитивных задач⁸. Сущность сильного ИИ выражена в следующем определении: искусственный интеллект — это способность системы к самостоятельному формированию навыков (алгоритмов) выполнения задач, к которым она не была подготовлена заранее, на основе имеющихся у нее ранее сформированных навыков, знаний и накопленного опыта⁹.

Создание таких технологий в настоящее время подразумевает использование для обучения компьютерных систем множества данных с целью найти в них закономерности. Данный метод позволяет получать программные комплексы, не являющиеся явно запрограммированными, а их обучение для решения конкретных задач может давать побочные эффекты в виде новых, не запланированных ранее функций. Его разновидностью является глубокое обучение по более сложным алгоритмам и на большем наборе данных, что позволяет давать более точные и обоснованные прогнозы, получать информационные продукты высокого качества.

Яркий пример — упомянутая выше большая языковая модель ChatGPT компании OpenAI, основанная на архитектуре генеративного предварительно обученного преобразователя (Generative Pretrained Transformer — GPT)¹⁰. Будучи обучена на внушительном массиве текстовых данных (десятках терабайтах), она справляется с широким спектром задач обработки естественного языка, включая поиск информации и ответы на вопросы, машинный перевод, генерацию и суммирование (обобщение) текста. Глубокое обучение ChatGPT в числе прочего сформировало у нее способность определения контекста ведущегося диалога. Кроме того, она может быть настроена для решения конкретных задач, отвечающих уникальным потребностям пользователей в различных сферах деятельности (можно получить в ответ литературное произведение, статью или реферат на заданную тему, базовый программный код, сформировать резюме статьи, составить алгоритм оптимальных действий для достижения обозначенной цели и т.п.)¹¹.

Помимо GPT от OpenAI (GPT-3.5 и GPT-5), сегодня к числу наиболее известных языковых моделей относятся Grok от xAI, PaLM и Gemini от Google (Bard), Copilot от Microsoft, китайская DeepSeek, отечественные YandexGPT и GigaChat.

Внедрение архитектуры трансформеров, особенно таких моделей, как BERT (англ. Bidirectional Encoder Representations from Transformers; фокусируется на классификации и глубоком понимании контекста) и GPT (англ. Generative Pre-trained Transformer; фокусируется на генерации текста)¹², расширило границы обработки естественного языка. Например, GPT-5 строит логические цепочки, выявляет противоречия и предлагает решения, взаимодействует с Gmail, Google Calendar, VS Code, GitHub Copilot, CRM-системами.

GPT являются передовыми языковыми моделями, использующими глубокое обучение для генерации текстовых ответов, похожих на созданные человеком речевые продукты. Модели обучены на больших объемах данных для понимания семантики языка и генерации связных и контекстуально значимых текстов. Важно подчеркнуть, что семантика может быть рассмотрена не только как изучение языкового значения, но также как анализ актуализированного значения и смысловых отношений в системах коммуникации, интерпретации символов и обработки информации. Она охватывает целостное понимание того, как значение конструируется, передается и интерпретируется в различных контекстах помимо языка, затрагивая области символики и когнитивистики.

Здесь нужно отметить, что семантическая динамика — это область лингвистики, изучающая значения слов и выражений в контексте изменяющихся условий, содержания семантических ядер и полей, ситуаций во времени и пространстве, то есть как значения слов и фраз могут меняться в зависимости от контекста или времени, а также как эти изменения влияют на понимание сообщений и сигналов¹³.

Новым развивающимся направлением выступает квантовая семантика¹⁴ — концепция, которая объединяет идеи квантовой физики с теорией семантики. Эта концепция предполагает, что смысл слов может быть описан и объяснен с использованием квантовых понятий, таких как суперпозиция, интерференция и измерение.

Большие языковые модели сталкиваются с присущими им ограничениями именно потому, что они работают в рамках естественного языка, что делает их подверженными интерпретационным ограничениям, которые накладывает семантическое вырождение. Оно представляет собой фундаментальное свойство естественного языка, которое выходит за рамки простой многозначности и охватывает комбинаторный набор потенциальных интерпретаций, возникающий по мере усложнения семантических выражений.

Квантовая семантика позволяет моделировать присущие человеку аспекты познания и поведения, такие как индивидуальная непредсказуемость, ассоциативная и иррациональная логика, композиционные и многомерные значения языка и др.¹⁵ Этот подход может применяться для анализа семантических связей между единицами текста на естественном языке. Одним из ключевых аспектов квантовой семантики является понятие суперпозиции, которое говорит о том, что слова и понятия могут существовать одновременно в нескольких состояниях или значениях. Когда мы измеряем или задаем вопрос о значении, происходит «коллапс» суперпозиции, и мы получаем конкретное значение или интерпретацию¹⁶.

Приведем ниже некоторые ключевые положения квантовой семантики¹⁷.

Контекстуальность — объяснение контекстуальной сензитивности концептов и феномена эмерджентных качеств при возникновении новых концептов. Контекст, который формируется когнитивными ландшафтами, окружающими концепт, влияет на изменение состояний концептов.

Понятия квантовой запутанности и интерференции применяются для моделирования некомпозиционной семантики сочетаний концептов. Например, слияние концептов в одном концептуальном бленде приводит к возникновению квантовой запутанности.

Квантовая семантика также привносит идею интерференции, где различные значения или интерпретации могут взаимодействовать и влиять друг на друга, создавая сложные комбинации смыслов. В целом квантово-семантический подход предлагает новый взгляд на проблемы, связанные с пониманием, природой смысла, сочетанием значений слов в языке и речи.

Для реализации квантовой семантики используется, например, модель когнитивного представления текста в векторном пространстве, сформированном субъективными семантическими различиями. Запутанность подпространств, вовлеченных в это векторное когнитивное состояние, количественно определяет субъективную оценку семантической связи между соответствующими различиями.

Несмотря на обучение на простых задачах, таких как предсказание следующего слова в предложении, нейронные языковые модели, обученные на большом объеме текстового материала, используют в своем представлении большую часть синтаксиса и семантики естественного языка¹⁸. Процесс обучения GPT, который включает в себя технику машинного обучения, называемую тонкой настройкой, адаптирует предварительно обученную модель к решению конкретной задачи, тем самым повышая ее производительность.

Из рассмотрения функциональности системы можно заметить, что ChatGPT производит синтез текста, используя заложенную в ней модель языка, включая допустимую попарную сочетаемость слов в тексте (комбинаторику сочетаемости событий и объектов в мире), то есть семантику текста. В то же время формирование семантики текста не входит в функциональность системы. Из этого можно сделать вывод, что модель реализует функцию синтеза текста по некоторой содержательной заготовке (которая в модель вносится извне), причем синтез оказывается тем лучше, чем более подробна эта содержательная заготовка. Это хорошо можно объяснить на примере перевода с одного языка на другой: чем лучше представлено содержание в тексте на входном языке, тем лучше получается качество текста на языке перевода. Качество же синтезированного текста (форма, а не содержание этого текста) определяется мощностью выборки, использованной при обучении ChatGPT. Причем обучение системы происходит не в один этап — уже предобученная модель языка дообучается на конкретную предметную область.

В качестве еще одного примера можно рассмотреть отечественную БЯМ TextAnalyst: это технология для автоматической смысловой обработки текстовой информации, основанная на использовании структурных свойств текста, которые могут быть выявлены с помощью статистического анализа, реализованного на основе иерархических структур из динамических ассоциативных запоминающих устройств — искусственных нейронных сетей на основе нейроподобных элементов с временной суммацией сигналов. В технологии реализованы: автоматическое выявление семантики текста в виде семантической сети, организация текстовой базы в гипертекстовую структуру, автоматическое реферирование, кластеризация и классификация текстов, а также функция смыслового поиска.

Статистический анализ выявляет наиболее часто встречающиеся элементы текста: слова или устойчивые словосочетания. При выявлении связей учитывается статистика попарного появления слов в предложениях текста. Далее статистические показатели пересчитываются в семантические с помощью алгоритма, подобного алгоритму перерасчета весов в сетях Хопфилда¹⁹. Идея подобных алгоритмов заключается в том, что при расчете какой-то характеристики элемента сети учитываются подобные характеристики связанных с ним элементов в сети, а также численные показатели связей. После пересчета статистических характеристик в семантические понятия, которые мало соответствуют анализируемой предметной области, получают малый вес, а наиболее представительные наделяются высокими показателями. Семантические веса элементов сети используются при расчете близости (релевантности) фрагментов текста к запросу со стороны пользователя системы. На их основе возможно выделение наиболее информативных участков текста. Использование ассоциативных связей элементов сети позволяет расширять поле поиска информации. Ответ на запрос пользователя в этом случае может содержать информацию, не указанную в запросе явно, но связанную с ней по смыслу (по ассоциации).

TextAnalyst реализует семантический анализ текста как временной срез содержания текста и опирается на математическое описание языка, которое представлено несколько иначе, чем в ChatGPT.

Существуют также иные сервисы, обеспечивающие доступ ко множеству различных нейросетей по принципу одного окна: «НейроТекстер»²⁰ (отечественный нейросетевой сервис, специально оптимизированный для работы с русскоязычными текстами; система использует продвинутые алгоритмы обработки естественного языка, что позволяет ей понимать контекст и формировать релевантные выводы), «Нейро.Онлайн»²¹ (российский сервис с широкими возможностями анализа текста, генерации текста и контента всех форматов), StudyAi²² (нейросетевой «комбайн», который закрывает 90% задач: от текста и иллюстраций до идей, презентаций и даже Excel-таблиц).

Можно отметить, что нейросетевые решения продемонстрировали впечатляющие возможности в обработке естественного языка. Однако их внутренние механизмы до сих пор плохо интерпретируются и недостаточно прозрачны (внутренние процессы принятия решений скрыты от пользователя), что на практике создает нежелательные риски. БЯМ характеризуются общими для всех технологий искусственного интеллекта проблемами доверия — ввиду сложности своего устройства вкупе с общностью описания принципов и механизма их работы они в своем функциональном аспекте остаются непрозрачными для большинства потребителей («черным ящиком»). Попытки решить эту проблему предпринимаются на уровне технического (соответствующий ГОСТ Р), а также социального (этического и правового) регулирования, однако пока их нельзя считать в полной мере успешными, в связи с чем основным условием противодействия злоупотреблениям такими системами является внимательное отношение к ним пользователей. Во-многом именно поэтому в Регламенте Европейского Союза об искусственном интеллекте (Artifcial Intelligence Act)²³ были закреплены нормы о прозрачности алгоритмов в некоторых системах ИИ и о самом факте взаимодействия с системой ИИ²⁴.

Важным качеством модели является ее способность объяснить пользователю на понятном ему языке, почему и как она пришла к тому или иному ответу. Только в этом случае пользователь сможет оценить результат, полученный моделью, и обоснованно принять свое решение. Отсутствие прозрачности создает серьезные проблемы, особенно в таких критически важных секторах, как юриспруденция, в которой объяснимость важна для доверия и контроля. Данные характеристики применительно к БЯМ имеют решающее значение для выяснения их ограничений и возможных социальных последствий. Потребность объяснимости в таких моделях обусловлена растущей сложностью и внедрением систем на основе ИИ.

Объяснимость — это не просто техническая характеристика; она позволяет понять логику, лежащую в основе нейросетевых решений, а потому имеет основополагающее значение для создания ответственных и доверительных приложений ИИ, которые соответствуют человеческим ценностям и потребностям общества. Это может включать в себя создание алгоритмов, способных объяснять свои решения на понятном человеку языке, а также разработку методов проверки и верификации работы алгоритмов.

Еще одним важным аспектом является предвзятость в системах ИИ. Большие языковые модели могут непреднамеренно унаследовать предвзятость от обучающих данных, что приводит к нежелательным и ошибочным результатам. Многие ученые считают именно алгоритмическую предвзятость главной причиной существующих рисков применения интеллектуальных систем²⁵. Согласно действующему ГОСТ Р 59276-2020²⁶, предвзятость (от англ. bias — необъективность) определяется как «свойство системы искусственного интеллекта, заключающееся в принятии ошибочных решений, связанных со статистической смещенностью обучающей выборки исходных данных». Характеризующаяся таким образом система искусственного интеллекта будет скомпрометирована (считаться не заслуживающей доверия).

Проблема эта может возникать как вследствие объективных причин (естественная предвзятость; пример — малый объем и низкая репрезентативность корпуса информации, используемого для обучения алгоритма ИИ; отсутствие анонимности используемых данных и т.д.), так и в результате действий разработчиков, преследующих собственные или сторонние интересы и намеренно закладывающих дискриминационные критерии функционирования системы (искусственная предвзятость; в том числе устанавливаемая в целях обеспечения «позитивной дискриминации»).

В упомянутом выше ГОСТ Р указаны следующие способы обеспечения доверия к системам ИИ, направленные на устранение предвзятости на этапе создания системы:

— очистка набора данных различными способами;

— статистический анализ наборов исходных данных и оценка их представительности и качества;

— кросс-валидация выборки, полученной при разметке данных людьми;

— непосредственная корректировка модели;

— наложение ограничений на допустимую область применения системы ИИ.

Последствия алгоритмической предвзятости лучше всего наблюдаемы в контексте функционирования рекомендательных технологий и систем поддержки принятия решений, однако применительно к функционированию БЯМ данная характеристика тоже может иметь место и проявляться при подборе и определении приоритета информации и ее источников.

К неоднозначным аспектам, связанным с БЯМ, относятся конфабуляции (также называемые галлюцинациями) БЯМ — недостоверная информация, «выдуманная» нейросетью, не входящая в корпус обучения, не подтверждающаяся реальностью и иными источниками. Ложная информация, сгенерированная ИИ, может ввести в заблуждение, дезинформировать или опорочить, что создает риски ограничения и нарушения законных прав, свобод и законных интересов, проблемы при их реализации и восстановлении.

Можно привести множество примеров. Так, The Washington Post сообщило о профессоре права, который обнаружил, что ChatGPT включил его в список ученых-юристов, совершавших домогательства²⁷, хотя данная информация не соответствовала действительности. В тот же день издание Ars сообщило об австралийском мэре, который обнаружил сгенерированную ChatGPT недостоверную информацию о том, будто этот мэр был осужден за взяточничество и приговорен к тюремному заключению²⁸.

В марте 2023 г. Б. Эдвардс предложил заменить термин «галлюцинации» на «конфабуляции» в качестве более точной альтернативы номинации для описания фактических ошибок, порождаемых большими языковыми моделями, подобными ChatGPT²⁹. По его мнению, понятие «конфабуляция» лучше отражает принцип фантазийного заполнения пробелов, когда модели генерируют кажущуюся правдоподобной, но фактически неверную информацию без намерения сознательного введения в заблуждение пользователя.

В отличие от термина «галлюцинация», который семантически связан с понятием восприятие, «конфабуляция» описывает то, как большие языковые модели заполняют недостающую информацию генерированным контентом, который выглядит связным и убедительным. Как отметил Эдвардс, в психологии человека конфабуляция происходит, когда в памяти есть пробел, и мозг непреднамеренно заполняет образовавшуюся неполноту воспринимающейся убедительно, но не соответствующей действительности информацией. Хотя БЯМ функционирует не так, как человеческий мозг, эта метафора помогает объяснить, как подобные модели производят ложную информацию, которая содержится в сгенерированном ими тексте и воспринимается как достоверная³⁰. Следует помнить, что ChatGPT и аналоги не устанавливают истинность найденной и скомпилированной информации, а лишь предсказывают следующий токен (слово) на основе использованного в их обучении комплекса данных.

Термин получил распространение в технической литературе³¹; по мнению исследователей, он более точно описывает то, как большие языковые модели генерируют правдоподобную, но неверную информацию, не подразумевая сенсорное восприятие или сознание. Если сейчас еще можно установить искусственный источник происхождения на глаз, по возникающим конфабуляциям нейросети, то возможно ли это будет в дальнейшем в свете продолжающегося совершенствования ИИ путем глубокого обучения — большой вопрос: уже сейчас выпускаются большие языковые модели, решающие проблему галлюцинаций и повышающие точность ответов методом самокоррекции ошибок³².

Еще одна опасность — это возможная недобросовестность при использовании БЯМ. Модели типа ChatGPT могут быть использованы, например, студентами для создания учебных текстов, письменных работ, курсовых, дипломных проектов в гуманитарной сфере, особенно в юридической. Опасность такой академической недобросовестности заключается в том, что студент получает удовлетворительную (и выше) оценку, при этом не приобретает навык составления документов и, выходя на рынок труда, может потенциально создать опасные ситуации при осуществлении трудовой функции в юридической профессии. В связи с этим в настоящее время существует социальный запрос на создание технологий обнаружения признаков текстов, генерированных искусственным интеллектом³³, хотя реальная возможность установления искусственного источника происхождения текста после многократной подготовки и переработки письменного материала с использованием нескольких БЯМ вызывает обоснованные сомнения.

Также серьезной проблемой является определение авторства произведений, созданных с помощью ИИ. Применение ИИ в творческих процессах поднимает вопросы о защите прав интеллектуальной собственности: как обеспечить защиту оригинальных произведений, если они были созданы или модифицированы с помощью ИИ? Кто является автором: разработчик алгоритма, пользователь, который инициировал создание, или сам ИИ, который пока не признается в качестве самостоятельного субъекта? На данный момент большинство законодательств мира не предоставляют четких ответов на этот вопрос, что может привести к юридической неопределенности и спорам (хотя в некоторых юрисдикциях судебная практика уже выработала подход к решению таких вопросов; к примеру, в Китае автором, если не оговорено иное, является пользователь³⁴).

Также стоит учитывать, что ИИ обучается на массивах прецедентных текстов, включая защищенные авторским правом (к слову, без заключения лицензионного договора на использование таких информационных продуктов будет нарушено требование о применении наборов данных, соответствующих требованиям законодательства Российской Федерации³⁵). В условиях, когда с помощью ИИ можно эффективно воспроизводить и компилировать ранее созданные произведения, это чревато рисками нарушений прав на результаты интеллектуальной деятельности как получаемой с помощью БЯМ, так и используемых для обучения модели.

Таким образом, к ограничениям использования БЯМ в юридической деятельности можно отнести следующие:

— «конфабуляции», так как модели опираются на статистические закономерности и ассоциации, которые получают во время обучения (могут выдавать ответы, которые соответствуют этим шаблонам, но являются неправильными или несуществующими);

— недостаточную объяснимость (сложная архитектура и огромное количество параметров в БЯМ не позволяют отследить процесс принятия решения, неясно, на что опиралась языковая модель при выборе ответа);

— вычислительную сложность (БЯМ проводит множество сложных вычислений на нескольких уровнях, что требует использования компьютеров с большими вычислительными мощностями);

— чувствительность к обновлениям (изменения в параметрах БЯМ могут приводить к непредвиденным результатам);

— несогласованность выходных данных (результаты БЯМ не всегда соответствуют намерениям пользователя или желаемой задаче, даже если в запросе указывается требуемый результат);

— проблемы с контекстом (модели сталкиваются с трудностями при удержании контекста на протяжении всего текста, что особенно актуально для текстов большого объема, где модели могут утрачивать логику повествования);

— предвзятость и ограниченность данных (БЯМ обучаются на данных, которые могут содержать предвзятости или ошибки; воспроизводить стереотипы или использовать язык, который отражает культурные или социальные предвзятости, присутствующие в исходных данных)³⁶;

— отсутствие эмоциональной чувствительности (генерированные БЯМ тексты имитируют определенные эмоциональные состояния, но не чувствуют их);

— проблемы с защитой прав на результаты интеллектуальной деятельности (обучение на данных, защищенных авторским правом; защита РИД, созданного с использованием БЯМ).

Указанные проблемы побудили законодателей Европейского Союза к принятию упомянутого выше специального Регламента об искусственном интеллекте (Artifcial Intelligence Act). Этот нормативный акт был принят Европейским парламентом 13.03.2024 и одобрен Советом Европейского Союза 21.05.2024, вступил в силу 01.08.2024 и будет полностью применяться через два года (со 02.08.2026), за некоторыми исключениями: запреты и требования к грамотности в сфере ИИ вступили в силу 02.02.2025; правила управления и обязательства для моделей GPAI вступили в силу 02.08.2025. Закон направлен на создание общей нормативной базы для использования искусственного интеллекта и регулирование деятельности поставщиков систем искусственного интеллекта и организаций, использующих их в профессиональной деятельности. Для систем искусственного интеллекта с высоким уровнем риска, встроенных в регулируемые продукты, предусмотрен расширенный переходный период до 02.08.2027.

Объясняется это тем, что в указанном акте продукты ИИ классифицированы в зависимости от рисков, которые они несут: запрещены системы с недопустимым риском (например, с использованием подсознательных техник, уязвимостей человека); подвергнуты усиленному регулированию и контролю системы с высоким риском (которые могут представлять серьезную угрозу для здоровья, безопасности или основных прав человека, в том числе оказывающие влияние на возможность людей получать средства к существованию, связанные с биометрическими данными или объектами критической инфраструктуры); на системы с ограниченным риском распространяются упрощенные обязательства по прозрачности (конечные пользователи должны быть осведомлены о том, что они взаимодействуют с искусственным интеллектом); высокорисковые системы ИИ должны контролироваться человеком и иметь возможность их немедленного отключения.

Помимо множества полезных применений ИИ, его также можно использовать не по назначению, создавая новые и мощные инструменты для манипулирования, эксплуатации и социального контроля. Такие практики должны быть запрещены, поскольку они противоречат базовым принципам уважения человеческого достоинства, свободы, равенства, верховенства права, защиты данных и неприкосновенности частной жизни и др.

Согласно рассматриваемому закону, системы с высокой степенью риска — это системы, представляющие значительную угрозу здоровью, безопасности или основным правам человека. Они требуют обязательной оценки соответствия, проводимой поставщиком, перед выпуском на рынок. К таким высокорисковым сценариям относятся: компоненты системы безопасности ИИ в критически важных инфраструктурах (например, на транспорте), выход из строя которых может поставить под угрозу жизнь и здоровье граждан; решения на основе ИИ, используемые в образовательных учреждениях, которые могут определять доступ к образованию и ход профессиональной деятельности человека (например, при выставлении оценок за экзамены); компоненты продуктов, обеспечивающие безопасность на основе ИИ (например, применение ИИ в роботизированной хирургии); инструменты на базе ИИ для трудоустройства, управления персоналом и доступа к самозанятости (например, программное обеспечение для сортировки резюме при подборе персонала); некоторые сценарии использования ИИ для предоставления доступа к основным частным и государственным ресурсам.

Манипулятивные методы с использованием ИИ могут применяться для того, чтобы убедить людей совершить нежелательный для них поступок или ввести их в заблуждение, подтолкнув к принятию решений, которые подрывают и ослабляют их самостоятельность, способность принимать решения и делать свободный выбор. Размещение на рынке, ввод в эксплуатацию или использование определенных систем искусственного интеллекта с целью или результатом существенного искажения человеческого поведения, которое может привести к значительному ущербу, в частности к достаточно серьезным негативным последствиям для физического, психологического здоровья или финансовых интересов, является особенно опасным и поэтому должно быть запрещено.

Названные системы ИИ используют подсознательные компоненты, такие как аудио-, графические и видеостимулы, которые люди не могут воспринять, поскольку эти стимулы находятся за пределами человеческого восприятия, а также другие манипулятивные или вводящие в заблуждение методы, подрывающие или ослабляющие самостоятельность человека, его способность принимать решения или делать свободный выбор таким образом, что люди не осознают эти методы или, даже если они их осознают, все равно возможен обман, т.к. люди не способны контролировать или противостоять воздействующим компонентам. К их числу относятся, например, интерфейсы «мозг — машина» или виртуальная реальность, поскольку они позволяют в большей степени контролировать стимулы, предъявляемые людям, искажая их поведение и нанося значительный вред.

Кроме того, системы ИИ могут использовать уязвимость человека или определенной группы лиц, обусловленную их возрастом, инвалидностью, особым социальным или экономическим положением, которое делает таких лиц более уязвимыми для эксплуатации, например, если они живут в крайней нищете, принадлежат к этническим или религиозным меньшинствам. Такие системы ИИ будучи выпущены на рынок, введены в эксплуатацию или использованы с целью существенного влияния на поведение человека тем представляют собой потенциальную угрозу, способную причинить вред этому или другому человеку или группе лиц, который накапливается со временем.

Все системы ИИ, представляющие явную угрозу безопасности, средствам к существованию и правам людей, должны быть запрещены. В связи с этим указанный закон об искусственном интеллекте запрещает восемь видов деятельности, а именно: пагубные последствия манипуляций и обмана с использованием ИИ; вредоносное использование уязвимостей на основе ИИ; социальный скоринг (систему оценки человека на основе его социальных и поведенческих данных, которая позволяет предсказывать поведение посредством анализа социальных характеристик по множеству параметров: возрасту, полу, месту жительства, профессии, опыту работы и другим, чтобы создать детальный профиль личности); индивидуальную оценку или прогнозирование риска совершения преступления; нецелевой сбор данных из Интернета или с камер видеонаблюдения для создания или расширения баз данных распознавания лиц; эмоций на рабочих местах и в образовательных учреждениях; биометрическую категоризацию для выявления определенных признаков, подлежащих защите; удаленную биометрическую идентификацию в режиме реального времени для правоохранительных органов в местах общего пользования).

Под биометрической идентификацией в рассматриваемом законе понимается автоматическое распознавание физических, физиологических и поведенческих особенностей человека, таких как черты лица, движения глаз, форма тела, голос, интонация, походка, осанка, частота сердечных сокращений, артериальное давление, запах, особенности нажатия клавиш, с целью установления личности человека путем сравнения его биометрических данных с сохраненными биометрическими данными других людей в справочной базе данных, независимо от того, дал ли человек на это согласие. Это не относится к системам искусственного интеллекта, предназначенным для биометрической верификации, которая включает в себя аутентификацию и служит исключительно для подтверждения того, что конкретное физическое лицо является тем, за кого себя выдает, а также для подтверждения личности физического лица с единственной целью — получить доступ к услуге, разблокировать устройство или получить доступ в помещение.

Система распознавания эмоций определена в рассматриваемом законе ЕС как система искусственного интеллекта, предназначенная для выявления (определения) эмоций или намерений физических лиц на основе их биометрических данных. Это понятие относится к таким эмоциям или намерениям, как радость, грусть, гнев, удивление, отвращение, смущение, возбуждение, стыд, презрение, удовлетворение и веселье. Оно не включает в себя физические состояния, такие как боль или усталость, в том числе, например, системы, используемые для определения степени усталости профессиональных пилотов или водителей с целью предотвращения несчастных случаев. Сюда также не относится простое распознавание очевидных выражений лица, жестов или движений, если только они не используются для идентификации или определения эмоций. Такими выражениями могут быть базовые мимические выражения, например хмурый взгляд или улыбка, жесты, движения рук, плеч или головы, особенности голоса человека, например повышенный тон или шепот.

По мнению законодателей ЕС, должно быть запрещено использование систем биометрической категоризации, основанных на биометрических данных физических лиц, таких как изображение лица или отпечаток пальца, для определения политических взглядов, членства в профсоюзах, религиозных или философских убеждений, расы, сексуальной жизни или ориентации. Этот запрет не должен распространяться на законную маркировку, фильтрацию или категоризацию наборов биометрических данных, полученных в соответствии с законодательством ЕС или национальным законодательством, на основе таких биометрических данных как сортировка изображений по цвету волос или глаз, которая может использоваться, например, в правоохранительной сфере.

В то же время системы ИИ, предоставляющие государственным или частным организациям данные о социальном рейтинге физических лиц, могут приводить к дискриминационным результатам и исключению определенных групп. Они могут нарушать право на достоинство и недискриминацию, а также ценности равенства и справедливости. Такие системы ИИ оценивают или классифицируют физических лиц или их группы на основе множества данных, связанных с их социальным поведением в различных контекстах, а также известных, предполагаемых или прогнозируемых личных характеристик за определенные периоды времени. Социальная оценка, полученная с помощью таких систем искусственного интеллекта, может привести к негативным последствиям.

Также важно отметить, что понятие «система искусственного интеллекта» получило в названном законе четкую дефиницию, которая основана на ключевых характеристиках систем ИИ, отличающих их от более простых традиционных программных систем или подходов к программированию, и не охватывает системы, основанные на правилах, установленных исключительно физическими лицами для автоматического выполнения операций.

Таким образом, ключевой характеристикой систем искусственного интеллекта является их способность делать выводы, которая относится к процессу получения таких результатов, как прогнозы, контент, рекомендации или решения, а также создавать модели или алгоритмы или и то и другое на основе входных данных. Методы, позволяющие делать выводы при создании системы ИИ, включают в себя машинное обучение, что дает определенное представление о том, как достичь поставленных целей, а также логико-ориентированные подходы, с помощью которых формулируются выводы на основе закодированных знаний или символического представления решаемой задачи. Способность системы ИИ делать выводы выходит за рамки базовой обработки данных и позволяет обучаться, рассуждать или моделировать.

Системы ИИ предназначены для работы с различными уровнями автономии, что означает, что они обладают определенной степенью независимости действий от участия человека и способностью работать без вмешательства человека. Они могут использоваться автономно или как компонент продукта, независимо от того, интегрирована ли физически система ИИ в продукт (встроенная) или обслуживает функциональность продукта, не будучи интегрированной в него (не встроенная). Адаптивность, которую система ИИ может проявить после развертывания, относится к возможностям самообучения, позволяющим системе меняться в процессе использования.

Здесь надо остановиться еще на одной проблеме. Хотя ИИ уже довольно давно используется в социальных сетях для рекомендации соответствующих постов, статей, видео и рекламы, но в юридической сфере практика применения ИИ для формирования выводов, решений и рекомендаций еще не сформировалась.

Первый опыт такого использования показывает наличие у БЯМ слабых мест; некоторые из них удается нивелировать, а другие, напротив, при смене поколений БЯМ усугубляются. В юридической деятельности важно не только знание, но и корректное системное толкование норм, а также навыки сбора доказательственной информации, сопоставления условий, выявления причинно-следственных связей и т.п., в то время как для БЯМ основным критерием работы является статистическая вероятность следования определенных слов в тексте друг за другом. БЯМ могут находить определенные корреляции, однако пока не способны узнать о причинах и следствиях только из данных, на которых они проходили обучение³⁷.

Вместе с тем практика различных юридических компаний показывает, что БЯМ довольно быстро учатся объяснять сложную юридическую информацию на простом разговорном языке, что и требуется обычным пользователям (гражданам), не обладающим профессиональными юридическими компетенциями. Они даже стали побеждать в судах, используя БЯМ в качестве полной замены профессиональным юристам, однако практика такого рода носит неоднозначный характер: параллельно единичным случаям успешного применения ИИ³⁸ в юридической сфере выявляются множественные злоупотребления его технологиями, подтверждаемые задокументированными фактами галлюцинирования БЯМ (на сентябрь 2025 г. выявлено более 400 случаев)³⁹.

Таким образом, ответы систем БЯМ по юридической проблематике далеко не всегда точны, надежны и достоверны. Хотя они убедительно воспринимаются со стороны, выглядят для непрофессионала как написанные грамотным литературным языком, с корректным использованием юридической терминологии, на деле получаемый материал зачастую оказывается ошибочным. Пользователям, не обладающим юридическими знаниями, сложно не только определить, является ли полученный ответ правильным и применимым в их обстоятельствах, но даже корректно сформулировать вопрос (в логике взаимодействия с ИИ выполняющий функцию промта). БЯМ обучаются на больших объемах данных, которые могут не включать в себя самые последние правовые события и актуальные нормативные источники; ответ может основываться на устаревшей норме. Некоторые оказываются слишком общими: предоставляется лишенная необходимых деталей информация по теме, а не конкретное решение сформулированной юридической проблемы, упускаются важные аспекты закона или даются его неверные толкования.

К примеру, GPT-5 может показаться более точной в ответах, однако на самом деле она просто значительно увереннее предоставляет правдоподобные, но неверные ответы. Казалось бы, зачем выдавать неправильный ответ вместо того, чтобы просто ответить: «Боюсь, я не могу этого сделать»? Такое поведение стимулировано разработчиками, создающими модели, которые «никогда не уклоняются от ответа» и стараются в первую очередь угодить клиенту. Полученные результаты подчеркивают необходимость фундаментальных изменений в проектировании и разработке БЯМ, особенно в сфере права, где ошибки имеют далеко идущие негативные последствия для всех участников процесса⁴⁰.

Когда БЯМ не знают ответа, они его выдумывают, как это произошло у одного адвоката из Нью-Йорка (США), готовившего с помощью БЯМ речь защитника в суде. ИИ придумал судебные прецеденты, которые судья распознал как фейки⁴¹. Такое происходит, когда БЯМ поручено генерировать текст по теме, с которой они нечасто сталкивались, либо когда они ошибочно смешивают информацию из разных источников.

Также стоит отметить, что человеческие ценности, такие как правда и справедливость, принципиально важные для права, не встроены в БЯМ на фундаментальном уровне — программисты пока не знают, как это сделать⁴². При ответах зачастую не указывается юридический источник, а также не учитываются различия нормативных правовых актов Российской Федерации федерального и субъектового уровня.

Для понимания дальнейших перспектив развития рассмотренной технологии следует обратиться к двум различным течениям научной мысли, объясняющим, как знания представляются и моделируются человеческим мозгом. Следует отметить, что сосуществование таких подходов обусловлено набором взаимных преимуществ и недостатков⁴³.

Первый подход рассматривает познавательную функцию человека как представление знаний в виде символов, которые затем обрабатываются и при необходимости разбиваются на более мелкие составляющие или объединяются в другие символы⁴⁴.

Второй подход основан на том, что человеческий мозг рассматривается как естественная нейронная сеть огромного масштаба, которая работает с распределенным представлением знаний и умеет осуществлять осмысленные операции над таким представлением⁴⁵, именуемым субсимволическим, или коннективистским. Субсимволические системы строятся из базовых строительных блоков — нейронов, которые работают параллельно и состояние которых в каждый момент времени хранит лишь частичное представление входного импульса.

В современных научных работах, посвященных изучению и развитию идей по построению сильного или общего ИИ, констатируется необходимость создания интегрированных решений, которые основывались бы и на глубоком обучении, и на символических рассуждениях. Это связано с тем, что система, включающая элементы общего ИИ, должна быть семантически обоснована, интерпретируема и надежна, а ее решения — вызывать полное доверие у всех заинтересованных сторон.

Внедрение только коннективистских подходов осложняется тем, что объяснить причины формирования нейронной сетью предлагаемого решения зачастую не представляется возможным. Следовательно, даже внедрение систем с элементами слабого ИИ требует использования символических методов в дополнение к нейросетевым, что делает задачу создания и развития интегрированных нейросимволических методов актуальной и востребованной.

Возникающая область нейросимволического ИИ (англ. neuro-symbolic AI) может решить рассмотренные выше проблемы объяснимости принимаемых ИИ решений, а также сократить огромные объемы данных, необходимых для обучения БЯМ. ИИ можно заставить следовать уже существующим правилам, принятым в законодательстве, таким как недопустимость дискриминации человека по полу, возрасту, расе и т.д.

Нейросимволический ИИ сочетает прогнозирующее обучение (англ. рredictive learning) нейронных сетей — метод машинного обучения, при котором модель получает новые данные для распознавания среды, своих возможностей и ограничений — с обучением ИИ ряду формальных логических правил (например, «если a, то b»), математических правил («если a = b и b = c, то a = c») и согласованным значениям слов, символов, диаграмм. Некоторые из них вводятся непосредственно в ИИ, в то время как другие он будет выводить сам на основе обучающих данных («извлечение знаний»). Такой ИИ не будет галлюцинировать и будет обучаться быстрее, структурируя знания. Нейросимволический ИИ⁴⁶ синтезирует обучение и формальные рассуждения, используя процесс, известный как «нейросимволический цикл»: частично обученный ИИ извлекает правила из обучающих данных, а затем внедряет сводные знания обратно в сеть для дальнейшего обучения на новых данных⁴⁷.

Вместе символьный и нейросетевой подходы к ИИ могут привести к значительным достижениям. Нейросимволический искусственный интеллект не только сочетает в себе признанные подходы к ИИ и машинному обучению, но и позволяет обойти большинство слабых мест и недостатков, которые возникают при использовании каждой системы в отдельности. Таким образом, чтобы ответить на вопрос, нейросимволическая система использует и логику, и обработку языка, что похоже на то, как ответил бы человек. Нейросимволический ИИ поможет снизить предвзятость машин, сделав процесс принятия решений обучающейся моделью более прозрачным и объяснимым, а также, по всей видимости, сможет преуспеть в юридической сфере, где иные технологии потерпели неудачу или оказались неэффективны.

Пока же основными факторами успешного применения БЯМ (в том числе в юридической сфере) являются правильная постановка задачи (эффективный промпт; например, построенный по модели ACDQ⁴⁸), с одной стороны, и проверка полученного результата перед его дальнейшем использованием — с другой.

В завершение параграфа надо отметить, что попытки применения БЯМ в реалиях российских законов сталкиваются со значительным количеством продуцирования моделями информационных выдумок и искажений. Это актуализирует задачу адаптации БЯМ в соответствии с требованиями российского законодательства для практики применения их возможностей с целью семантической обработки данных в юридически значимых ситуациях.

§ 1.2. Нейросетевые и речевые технологии как инструменты генерации и поиска юридических документов

Понятие «юридические документы» охватывает широкий спектр специализированных информационных продуктов, включая контракты, соглашения, завещания и многое другое. Каждый тип документа имеет свой уникальный набор требований и языковых тонкостей. создание таких документов предполагает соблюдение формальной схемы и точных формулировок, тщательного анализа юридической практики и понимания специфических нюансов, связанных с различными типами документов⁴⁹. Системы ИИ могут использоваться при работе над их конструированием как в качестве сугубо поисковых систем (одна из основных ролей современных технологий искусственного интеллекта), так и для генерации таких документов частично или целиком (с учетом допущенных ранее оговорок о качестве входного запроса и обязательной детальной проверке полученного результата перед дальнейшим его применением).

Генераторы юридических документов с нейросетевыми решениями (Legal AI), являющиеся одной из разновидностей Legal Tech, активно используются в юридической деятельности для автоматизации рутинной работы с большими объемами документов: для анализа договоров с целью выявления противоречий, определения потенциальных рисков, генерации типовых договоров, исковых заявлений и других документов, для поиска релевантных судебных актов, для структурирования больших баз данных по заданным критериям, например Legium.ioX и др. В числе передовых российских разработок PravoTech⁵⁰, Doczilla⁵¹, Jay Copilot⁵² и Noroots⁵³.

Нейросетевые технологии могут использоваться в юридической практике по различным направлениям, перечисленным ниже.

Анализ и составление типовых договоров. ИИ помогает автоматизировать процесс проверки, сравнения и доработки контрактов, что позволяет быстрее выявлять ошибки и неточности в документах.

Поиск судебной практики. Нейросети быстро обрабатывают огромные массивы правовой информации и находят релевантные судебные решения.

Реферирование и структурирование документов. ИИ может в сжатой форме передать содержание объемных документов.

Извлечение релевантных данных. Автоматизированные системы распознают ключевые параметры документов, выделяют важные условия договоров, даты и суммы, что ускоряет due diligence (комплексную проверку юридической чистоты компании, ее активов, обязательств, договоров, корпоративной структуры) и снижает риск ошибок.

Анализ юридических рисков. ИИ помогает обнаруживать потенциальные риски в документах и операциях.

Создание стандартных документов. ИИ помогает конструировать типовые справки, налоговые декларации, судебные приказы, уведомления, а также осуществлять проверку соответствия формы и содержания документов установленным правилам.

Приведем примеры цифровых сервисов, которые используют нейросетевые решения в юридической сфере:

LawGeex⁵⁴ — система автоматически проверяет контракты на соответствие нормативным требованиям и внутренним политиками компании.

DoNotPay⁵⁵ — автоматизированный сервис для составления юридических документов, таких как жалобы и апелляции.

ROSS Intelligence⁵⁶ — платформа использует ИИ для поиска правовых прецедентов в базах данных. Юристы могут вводить запросы на естественном языке, а нейросеть находит и предлагает релевантные судебные решения и правовые акты.

DeepSeek Chat⁵⁷ — сервис позволяет осуществлять поиск норм права, анализ документов, генерацию исков; поддерживает анализ ГК РФ, УК РФ, ГПК РФ, может готовить типовые процессуальные документы.

Plevako.ai⁵⁸ — система осуществляет поиск и анализ судебной практики, помогает сформулировать правовую позицию по уголовному делу. Проводит анализ доказательств и мотивировку судов при вынесении приговоров.

Humata.ai⁵⁹ — система осуществляет извлечение данных из судебных решений, договоров и исков, составленных на русском языке.

RuGPT.io⁶⁰ — большая языковая модель с акцентом на русскоязычный контент. Подходит для анализа законодательства, подготовки правовых заключений и автоматизации рутинных задач.

ChadGPT⁶¹ — можно использовать как инструмент для быстрого поиска юридической информации и ответов на сложные вопросы. Подходит для консультаций, анализа прецедентов и работы с нормативными актами.

Davinchi.org⁶² — платформа для анализа данных и прогнозирования исхода судебных дел. Используется для стратегического планирования и минимизации рисков в юридической практике.

CoCounsel⁶³ — помощник корпоративного юриста и in-house команд. Автоматизирует рутинные юридические задачи, включая проверку контрактов, составление ответов на типовые запросы, обзор судебных документов, подготовка к допросам, анализ контрактов, создание таймлайна (визуального отображения последовательности задач, событий или этапов работы, расположенных на временной оси).

Wondershare PDFelement⁶⁴ — универсальная платформа, использующая искусственный интеллект для создания любого типа документа; имеется функция Rewrite для переработки текста, перефразирования или редактирования (можно изменять шрифт, размер страницы и другие параметры документа), перевода на другой язык; также можно вставлять в юридический документ аннотации, комментарии и места для подписей.

Amto.ai⁶⁵ — англоязычный генератор юридических документов, основанный на технологии ИИ, который используется для создания и редактирования юридических документов (в основном в налоговой сфере).

HyperWrite⁶⁶ — ИИ генератор юридических документов, использующий современные модели искусственного интеллекта GPT-4 и ChatGPT для создания контента, адаптированного к конкретной юридической задаче.

Genie AI⁶⁷ — инструмент, который создает, форматирует юридический документ в соответствии с заданным типом; выделяет существенные ошибки и недочеты, присутствующие в документе; имеет шаблоны для различных типов юридических задач.

Law ChatGPT⁶⁸ — универсальная платформа для создания юридических документов, которая содержит более 100 шаблонов. Имеет встроенный редактор для настройки содержания и стиля юридического документа. Другие функции включают преобразование устной речи в текст с помощью ИИ-транскрайбера для расшифровки аудиофайлов, а также перевод текста на другие языки.

Texta AI⁶⁹ — англоязычный сервис, который позволяет создавать юридические документы по выбранному типу или конкретному шаблону с учетом правил конкретной юрисдикции.

ЮрДок ИИ⁷⁰ — бесплатный инструмент, который обучен на обширной базе российского законодательства. ИИ анализирует ситуацию и создает документ, соответствующий требованиям российского законодательства и судебной практики.

Правовая нейросеть ИСКРА⁷¹ — инструмент, который отвечает на бухгалтерские и юридические вопросы, разбирает ситуации, выдает готовые решения, алгоритмы действий, готовит шаблоны документов.

Аналитическая система «Сутяжник»⁷² — автоматизированный сервис по интеллектуальному подбору судебной практики, соответствующей содержанию загружаемых в систему пользователем текстовых документов.

Конструктор договоров⁷³ — инструмент для создания проектов договоров и других документов организации, для проверки документов контрагента. Он поможет составить документ для конкретной ситуации с юридически корректными формулировками и с учетом действующего законодательства. При изменениях законодательства сервис предупредит об этом и предложит обновить ранее сохраненный шаблон.

Perplexity AI⁷⁴ — поисковая система на базе искусственного интеллекта, которая обрабатывает пользовательские запросы и синтезирует ответы, мгновенно находит нормы и аналитику. Представляет собой сочетание поисковой системы и языковой модели; способна находить, анализировать и представлять актуальную информацию из проверенных источников, подкрепляя ответы реальными данными и ссылками.

При всем многообразии вариантов возможного использования нейросетей в юридической сфере существует ряд следующих ограничений.

Сложность обновления данных. В юриспруденции идет постоянный процесс принятия новых и корректировки существующих нормативных правовых актов, а также актов официального толкования. Актуализация данных, лежащих в основе модели, требует нового обучения; хотя некоторые сервисы БЯМ находятся в процессе постоянного дообучения, многие ресурсы актуальны лишь на определенную дату, которые могут значительно отстоять от настоящего момента.

Невозможность давать объективные ответы. В юридических данных много скрытых зависимостей, которые не позволяют ИИ давать объективные ответы. Кроме того, сам подбор данных для обучения (напрямую влияющих на получаемые ответы) зависит от усмотрения создателей ресурса.

Проблема конфиденциальности и иные риски, связанные с использованием публичных нейросетей. Они могут создавать риски, обусловленные предвзятостью моделей. Следует также помнить, что загрузка конфиденциальных данных (охраняемых личной, семейной, государственной, коммерческой и иной тайной) в подобные сети недопустима, так как приводит к их утечке (что особенно критично в случае использования иностранных ИИ-решений).

Невозможность полностью заменить юриста. Нейросети хорошо справляются с типовыми (рутинными) задачами и аналитической работой, но их возможности в области правильной юридической квалификации, анализа сложных дел и понимания причинно-следственных связей ограничены.

Невозможность учитывать уникальные обстоятельства каждого дела. Алгоритмы ИИ не всегда являются в достаточной степени гибкими, что может приводить к ошибкам в правоприменении, особенно в неоднозначных случаях.

Некорректное толкование юридических терминов и формулировок. Они часто имеют контекстуальные или специфичные значения, что может привести к ошибкам в анализе и принятии решений.

Отсутствие нравственных ценностей. Искусственному интеллекту не присущи справедливость и внутреннее убеждение, поэтому он не может по-человечески решать юридические задачи с использованием оценочных категорий.

Невозможность проанализировать межличностные отношения сторон. Нейросеть не способна урегулировать ситуацию с помощью коммуникативных технологий в случае конфликтного поведения участников.

Сложность в выборе оптимальных параметров запроса. Искусственный интеллект, работающий по определенным алгоритмам подбора информации, не всегда способен понять запрос и в полной мере удовлетворить потребителя. В то же время не каждый пользователь способен сформулировать запрос, по которому ИИ мог бы дать желаемый результат.

Невозможность оказывать услуги по юридическому представительству. Коммуникации — более сложное явление, чем просто обмен словами, с такой задачей справляется пока только человек.

Тем не менее, надо признать, что ИИ все активнее внедряется в сферу юридической деятельности. По данным Mordor Intelligence, объем рынка искусственного интеллекта для юридических услуг в 2024 г. составил 2,19 миллиарда долларов, а к 2030 г. ожидается рост до 3,64 миллиарда долларов при среднегодовом темпе роста около 10,7%. Наиболее динамично развиваются рынки США, Великобритании и Китая. На эти страны приходится более 60% глобальных инвестиций в LegalTech и ИИ⁷⁵.

По данным исследования Wolters Kluwer, 74% юридических компаний в Европе и Северной Америке уже применяют технологии ИИ для анализа документов, автоматизации процессов комплексной юридической проверки и управления договорными отношениями. Более 60% респондентов сообщили, что в 2024—2025 гг. они инвестировали в LegalTech больше, чем за предыдущие пять лет⁷⁶.

Внедрение ИИ в юридическую сферу открывает массу перспектив, однако, как уже было отмечено, требует взвешенного и критического подхода. В отличие от программ, действующих по жестко заданным алгоритмам, нейросети основываются на вероятностном анализе данных и за счет этого способны не просто заполнять шаблоны, но и осуществлять анализ вводимой информации (пусть и не всегда точно с юридических позиций)⁷⁷.

Они генерируют логично выглядящие тексты, не обязательно опираясь на корректные правовые нормы. Это особенно важно в профессии, в которой каждая формулировка имеет значение и влечет юридические последствия. Не все модели обучены на качественных юридических корпусах (наборах данных) — многие работают на базе общеязыковом материале. В результате система может предложить формально грамотную, но юридически ошибочную формулировку, которая не выдержит критики в суде.

Кроме того, остается открытым вопрос конфиденциальности. Юристу важно быть уверенным, что при загрузке договоров, судебных решений или личных данных клиента в нейросеть информация не будет передана третьим лицам или использована для обучения модели без согласия. Особенно это критично в тех случаях, когда юрист работает с персональными данными или корпоративной тайной.

Другой важный аспект — необходимость точной формулировки запроса. ИИ не понимает контекст так глубоко, как человек, поэтому результат зависит от того, насколько точно сформулирован промт. Это требует определенных навыков, которые уже становятся частью профессиональной подготовки в сфере промт-инжиниринга — компетенций, необходимых для формулирования текстовых запросов (промптов) чтобы эффективно взаимодействовать с ИИ⁷⁸.

Кроме того, нейросети не несут юридической ответственности. ИИ в юриспруденции — это всего лишь инструмент, нуждающийся в постоянном контроле и проверке со стороны человека. Заменить юридическое мышление, контекстуальное понимание и ответственность за выводы ИИ не может⁷⁹.

Надо признать, что в настоящее время в России не существует единого нормативного регулирования Legal AI (в основном действуют общие этические правила); использование же общедоступных нейронных сетей для подготовки документов может привести к ошибкам или предвзятости моделей.

Таким образом, ИИ — это инструмент, который уже сегодня трансформирует юридическую профессию, позволяя автоматизировать решение рутинных задач, но не обладающий юридической субъектностью. Поэтому ответственность за ошибки в юридических документах, составленных, подготовленных с помощью ИИ, несет пользователь (в том числе юрист — адвокат, прокурор, следователь, дознаватель, судья, эксперт, специалист).

В литературе представлен ряд примеров практики применения БЯМ в качестве помощников и ассистентов для решения юридических задач⁸⁰. Обобщая этот обзор, можно констатировать, что авторы в своем большинстве акцентируют внимание на потенциале моделей с точки зрения вычислительного и аналитического инструмента для юриспруденции, подчеркивают, что БЯМ не уступают человеку по точности, скорости и экономической эффективности