НейроФемида: судей обязали подчиняться ИИ

Уже через год во всех российских судах должны будут применяться системы искусственного интеллекта (ИИ). Новая концепция презюмирует достоверность сгенерированных нейросетью решений. Эксперты указывают на риски превращения состязательного процесса в «войну роботов», а юридической профессии — в судебный инжиниринг.

О необходимости ускоренного внедрения ИИ-технологий в судебную деятельность Игорь Краснов впервые заявил почти год назад — сразу после назначения на должность председателя Верховного суда России. Еще тогда он подчеркнул, что «нейронные сети никогда не заменят судью, потому что решение, особенно касающееся людских судеб, всегда должно оставаться за человеком».

Концепцию внедрения технологий искусственного интеллекта в судопроизводство РФ Игорь Краснов подписал 6 сентября. Её целью признается «повышение потенциала судебной системы и эффективности работы судов на основе лучших мировых практик с учетом отечественной специфики и при безусловном сохранении ключевой роли судьи в принятии решений». Реализация программы, по убеждению авторов, упростит доступ к правосудию, повысит его прозрачность, за счет автоматизации рутинных процессов снизит нагрузку на служителей Фемиды, а также уменьшит количество связанных с человеческим фактором ошибок.

В первую очередь ИИ делегируют вспомогательные технические функции — автоматическую регистрацию входящей корреспонденции, проверку комплектности, подсудности, расчет госпошлины, выявление видимых процессуальных нарушений. Но уже на этом этапе ИИ-сервис должен предварительно оценивать необходимость возврата иска и риски его отклонения по типовым делам. Также нейросети обеспечат «умное» распределение дел между судьями, расшифровку аудиопротоколов и синхронный перевод в реальном времени.

Главный принцип концепции: «ИИ является инструментом помощи судье, а не его заменой — окончательное решение всегда остается за человеком». Участникам споров гарантируется право знать о применении ИИ и оспаривать его выводы.

Вместе с тем, на искусственный интеллект возлагается анализ исков, иных процессуальных документов сторон и доказательств. В том числе выявление основных доводов и правовых оснований, составление краткого резюме иска, жалобы, возражений, подготовка справки для судьи перед заседанием и пересказ позиции каждой стороны. Сервис будет анализировать практику и готовить проект решения.

Уже к 1 июля 2027 года доступ к ИИ-сервисам должны получить все суды. Ожидается, что к 2030 году на постоянной основе нейросети будут использовать 95% служителей Фемиды. Ожидается, что искусственно будет генерироваться до половины проектов решений, причем не менее половины судьи должны принимать без существенных правок. Реализация концепции, по оценке её разработчиков, позволит сократить сроки рассмотрения типовых дел на 20-30%, а долю отмененных из-за ошибок решений — на 15-20%.

При этом очень высокими признаются риски «галлюцинаций» (выводы на основе несуществующих норм и вымышленные цитаты). Поэтому служителям Фемиды предписывается самостоятельно (вручную) верифицировать проекты решений.

В то же время, риск «снижения независимости и инициативности судьи» разработчики концепции оценивают как средний. Хотя все механизмы, как раз наоборот, стимулируют служителей Фемиды принимать предложенное системой решение «по умолчанию». В частности, судьи должны будут мотивировать отклонение ИИ-рекомендаций.

Эксперты критически оценивают такой подход. По мнению советника Федеральной палаты адвокатов Елены Авакян, возглавляющей рабочую группу Альянса в сфере искусственного интеллекта по этике в сфере ИИ в правосудии, показатель «утверждено без правок» измеряет не качество правосудия, а степень согласия судьи с машиной.

«Несогласие становится процессуально дорогим, требующим письменного оправдания. То есть автоматизационная предвзятость — уже не гипотеза, а измеренный эффект. Таким образом, концепция правильно отвечает на вопрос „как встроить ИИ в суд“, но пока не отвечает на вопрос „как сохранить судью субъектом“», — полагает Елена Авакян.

Схожего мнения придерживается и генеральный директор юридической компании «Орион» Дмитрий Пушкарский: «Спорить с машиной для судьи будет дороже, чем согласиться. Добавьте десятки дел в день — и по „простым“ спорам утверждение станет почти автоматическим. С другой стороны, если ИИ возьмёт на себя черновую работу, то хотя бы по бесспорным делам решения будут появляться без задержек».

Критически настроен и председатель Коллегии адвокатов «Лапинский и партнеры» Владислав Лапинский: «Уже сейчас молодёжь использует ИИ для написания судебных документов. Большинство проектов решений готовят помощники судей — та самая молодёжь. Такая тенденция как привычка сохранится и в последующем. Потом эти помощники придут на смену нынешним судьям. Это ненормально: оценивать обстоятельства и доказательства должны как раз люди, а не бездушные роботы! Поэтому, если не будет жёсткого контроля и, соответственно, санкций к судьям-нарушителям, риск подмены мнения ИИ-шными судебными актами станет объективной реальностью», — убежден Владислав Лапинский.

С другой стороны, сегодня менее 30% гражданских, административных и арбитражных дел рассматривается «очно» — в судебных заседаниях. Подавляющее большинство — в приказном или упрощенном порядке, когда судьи читают бумаги в кабинете, чаще всего — только от истца (при вынесении приказа).

Участников споров также планируется обязать декларировать использование ИИ при подаче документов. Для пресечения «галлюцинаций» или намеренного искажения данных, судебная нейросеть будет проводить автоматическую проверку ссылок, а при выявлении нарушений судьи вправе применять процессуальные санкции (штрафы).

Эксперты не исключают появления новой «науки» — судебного инжиниринга. Когда иски, возражения, жалобы и иные процессуальные документы будут готовиться не для восприятия судьей (человеком), а для обработки нейросетью. То есть, по сути, состязаться будут роботы.

Елена Авакян убеждена, что «наука» воздействия на ИИ суда появится быстрее, чем регулятор успеет отреагировать.

«Но это не наука, а состязательная инженерия, разновидность промт-инъекции в процессуальной форме. Главное противоядие — равный доступ всех участников споров (судей, науки, адвокатуры, прокуратуры) к процессу отбора эталонов и машинного обучения судебного ИИ», — отмечает адвокат.

Руководитель проекта LawGPT Илья Семухин также полагает, что утверждённая концепция сама создаёт условия для появления судебного инжиниринга.

«Технологически задача решаемая: ИИ может собирать его поблочно и каждый блок проверять на соответствие аргументам сторон, выводам судьи и решениям высших инстанций. Подобный алгоритм подготовки документов реализован и в нашем сервисе. Но трудность не в модели, а в материале. Потребуется кропотливая работа по подготовке технических блоков с привязкой каждого к норме и категории спора. Это ручная работа юристов, а не вопрос вычислительных мощностей», — поясняет Илья Семухин.

По мнению технического директора ИИ-ассистента для юристов «Стриж» Григория Старых, методы работы с ИИ и воздействия на него развиваются не медленнее самих систем. «Первым иск прочитает не судья, а система: она разберет документ и соберет из него доводы. Значит, юристов будут учить писать под такого читателя — как выстроить структуру и подобрать формулировки из позиций высших инстанций. Чтобы ИИ-ассистент ничего не упустил и передал позицию в нужном свете», — полагает эксперт.

Частнопрактикующий юрист Владимир Попов указывает на риски бездумной автоматизации юридической деятельности.

«Раньше немало клиентов оказывалось под воздействием примитивных судебных ток-шоу. Приходили с установкой: „Мы посмотрели ‚Час суда‘ и знаем, как должно рассматриваться наше дело“. Переубеждение отнимало очень много времени и сил. Теперь многие приходят с готовым иском, написанным бесплатной нейросетью. И утверждения профессиональных юристов о грубых ошибках нередко воспринимают в штыки. Завтра они будут рассматриваться тоже нейросетью, уже суда. Исправление ошибок, созданных некомпетентным использованием в целом нужных инструментов, потребует еще больше времени и сил», — резюмирует юрист.

Также непонятно, что считать «ИИ‑документом». «На мой взгляд, важно оценивать не инструмент, а содержание. Документ подписывается человеком, который должен проверить каждую ссылку. И за ошибки ответственность тоже будет нести человек. Декларирование „сделано ИИ“ не спасет», — уверен Дмитрий Пушкарский.

Он напоминает, что уже сейчас суды применяют штрафы к участникам процессов, включающих в иски и другие документы вымышленные ссылки на нормы права или практику. Такие действия квалифицируются как «неуважение к суду». Чистосердечное раскаяние в использовании ИИ не смягчает ответственность.

Кроме того, еще в мае этого года Пленум Верховного суда России обязал участников споров предупреждать суд в случае представления «сведений о фактах, полученных с использованием технологий искусственного интеллекта». Практика применения этой нормы пока не сложилась.

Также авторы Концепции признают высокими риски кибератак, утечки персональных данных и сведений ограниченного доступа. Для их предупреждения судам предписывается применять преимущественно отечественные IT-решения, размещенные в защищенном закрытом контуре судебной системы.

На форуме БРИКС в Нью-Дели Игорь Краснов заявил, что «российские суды уже начали в пилотном режиме использовать четыре большие языковые модели». Но конкретные названия не упоминаются. В рамках пилотного проекта, который реализуется в некоторых регионах (включая Петербург), для расшифровки аудиопротоколов судебных заседаний применяется отечественная платформа «Unica AI» от ООО «Хоппер ИТ».

Российский рынок ИИ-решений для юристов активно развивается. Некоторые сервисы готовы работать только за «гонорар успеха»: процент от успешно завершенных дел. Правда, положительный результат создатели этих систем честно не гарантируют, равно как и компенсацию причиненных ошибками убытков.

«Концепция — достаточно зрелый документ, лучший из отечественных ведомственных актов об ИИ. Вот только принципы написаны языком человека, а цели — языком производительности», — резюмирует Елена Авакян.