50 000 рублей — не самая крупная сумма для арбитражного спора. Но именно в такие деньги обошлась одна непроверенная ссылка, сгенерированная нейросетью и попавшая в официальный процессуальный документ. Всё чаще нейросеть в суде оказывается не помощником, а источником риска: история дела № А27-7831/2025 интересна не размером штрафа, а тем, что этот документ никто не остановил, хотя выглядел он вполне надёжно.
Что произошло
Кемеровская компания «Центральный Спец Сервис» подала кассационную жалобу в Арбитражный суд Западно-Сибирского округа, сославшись на решения Верховного и Высшего арбитражного судов. При проверке выяснилось: часть этих актов вообще не существует, а другие вынесены по совсем другим спорам, которые к делу не относились. Определением от 14 мая 2026 года суд расценил произошедшее как неуважение к правосудию и наложил на компанию штраф по ч. 5 ст. 119 АПК РФ.
Мы не знаем, кто готовил жалобу и как именно нейросеть оказалась в цепочке подготовки документа. Но то, что явно фиктивные ссылки дошли до суда и никто их не отсеял раньше, — обычная ситуация. Она случается везде, где решение «доверять черновику ИИ» не проверяется отдельным шагом, а просто остаётся на совести автора документа.
Где именно должна была сработать проверка
Любой юридический документ, в подготовке которого участвует ИИ, проходит несколько точек, где его можно остановить: черновик → внутренняя проверка → подача. Штраф в деле «ЦСС» — не ошибка одного человека. Дело в том, что в процессе просто не было обязательной проверки.
Разница между «ИИ помог написать жалобу» и «ИИ подвёл компанию под штраф» — не в модели и не в промпте. Всё решает, есть ли в продукте отдельная проверка, встроенная в процесс и работающая автоматически, — или она существует только как чья-то добрая воля.
Как выглядит Red Flag на этом месте
В терминах юридической архитектуры правило звучит просто: нашлась в документе ссылка на судебный акт — сверьте её с открытой базой, например картотекой арбитражных дел. Нет такого дела в базе — документ дальше не идёт, пока юрист не проверит ссылку вручную. Это и есть Red Flags — жёсткое условие-предохранитель, которое останавливает автоматику именно там, где цена ошибки высока. На практике: система сама сверяет номер дела с этой базой, и если он не находится — экспорт блокируется до проверки человеком.
Сложность не в самой идее проверки. Без архитектуры такой шаг легко пропустить: он не встроен в процесс, а держится только на том, что кто-то не забудет проверить вручную.
Это не только про суды
Кассационная жалоба — не единственное место, где галлюцинация ИИ может дорого обойтись бизнесу. Та же ошибка может случиться где угодно:
- в договоре — если ИИ сошлётся на условие, которого в тексте на самом деле нет;
- при проверке контрагента — если ИИ скажет, что проверка пройдена, хотя на самом деле её не было;
- в отчёте для инвестора — если выводы построены на фактах, которые никто не подтвердил.
Везде, где ИИ формулирует уверенный ответ, а не признаёт «не знаю», есть риск, что результат окажется таким же выдуманным, как несуществующие судебные акты в деле «ЦСС».
Для бизнеса, который строит продукт на базе ИИ, важен не сам факт использования нейросети. Важно, есть ли в его архитектуре Triage Logic — система, которая заранее решает: какие ответы ИИ можно выдавать сразу, а какие — только после проверки человеком. Например: простой пересказ сути дела ИИ может выдать сразу, а вот любая ссылка на конкретный реквизит — номер дела, дату, статью закона — автоматически помечается как «требует сверки» и не идёт дальше без подтверждения человеком.
Чек-лист: 3 проверки перед тем как черновик ИИ станет документом
- Все реквизиты извлечены и сверены с реестрами до ручной вычитки. Каждый номер дела, дата и ссылка на статью закона сопоставлены с первоисточником в открытой базе — не с пересказом в другом черновике ИИ.
- Определены границы автономии ИИ. Есть явный список типов утверждений — любая цитата судебной практики, ссылка на статью закона, данные о статусе контрагента, — которые не получают финальный вид без пометки «проверено юристом».
- Ответственный за финальную проверку — конкретный человек, а не размытое «кто-нибудь посмотрит». Пока эта роль не названа явно, она с высокой вероятностью не выполняется вообще.
Часто задаваемые вопросы
Законно ли вообще использовать ИИ при подготовке процессуальных документов? Да, законодательство не запрещает применять нейросети или автоматизацию при подготовке документов. Суд оценивает не инструмент подготовки, а само содержание и достоверность сведений в документе. Ответственность за это несёт тот, кто его подписывает и подаёт, — это прямо следует из ч. 2 ст. 9 АПК РФ: «лица, участвующие в деле, несут риск наступления последствий совершения или несовершения ими процессуальных действий». Проще говоря: отвечает тот, кто подал документ в суд, а не инструмент, которым он пользовался.
Чем это отличается от общей статьи о регулировании ИИ в LegalTech? Статья про закон об ИИ — о том, что уже сегодня регулирует использование ИИ в LegalTech и FinTech в целом: какие законы и регуляторы касаются таких продуктов. Эта статья — про другое: что именно пошло не так внутри процесса подготовки документа в деле «ЦСС», и как устроить процесс так, чтобы это не повторилось.
Может ли такая ошибка произойти не в суде, а в обычном B2B-сервисе? Да. Если сервис генерирует ответы, резюмирует договоры или готовит отчёты без встроенных Red Flags и Triage Logic, риск галлюцинаций остаётся высоким — от неверных сроков в договоре до вымышленных условий сделки. В суде фиктивную ссылку хотя бы теоретически может поймать оппонент; в закрытом B2B-продукте, если клиент не перепроверяет ответ вручную, ошибка может остаться незамеченной значительно дольше.
С чего начать, если в компании уже используют ИИ в юридических процессах, а Red Flags и Triage Logic не описаны? С аудита существующей логики — формат Audit & Second Opinion: экспресс-проверка того, что уже работает, с указанием на конкретные точки, где нужен стоп-кран.
Хотите проверить, есть ли в вашем процессе такие незакрытые точки риска? Посмотрите, как устроена юридическая архитектура — форматы работы, включая независимый аудит.