Приказом Председателя Верховного Суда Российской Федерации утверждена Концепция внедрения технологий искусственного интеллекта в судопроизводство Российской Федерации.

Концепцией определяются цель, основные принципы, задачи и направления внедрения технологий искусственного интеллекта (далее - ИИ) в судопроизводство Российской Федерации.

Применять соответствующие технологические решения предполагается на всем жизненном цикле судебного дела - от подачи документов до исполнения судебного акта и проверки вышестоящими инстанциями.

Внедрение технологий ИИ будет осуществляться поэтапно. Сроки реализации конкретных мероприятий и контрольные точки закреплены в календарном плане. Ожидается, что к 2030 г. более 95% судей будет использовать судебные ИИ-сервисы на постоянной основе.

Отдельно приводится матрица рисков, которые могут возникнуть при внедрении технологий ИИ в судопроизводство. Среди них - галлюцинации модели (несуществующие нормы, акты, цитаты), утечка персональных данных и сведений ограниченного доступа, кибератаки на ИИ-инфраструктуру, снижение независимости и инициативности судьи, подача участниками процесса сгенерированных ИИ-материалов с недостоверными ссылками, нарушение прав сторон на справедливое судебное разбирательство и др. В качестве мер для минимизации соответствующих рисков Концепцией предусмотрены обязательная RAG-архитектура со ссылками на источник, верификация результата судьей, запрет на использование публичных ИИ-сервисов, стресс-тестирование моделей, изолированный контур, запрет на передачу данных в публичные облака, резервирование. Также среди мер - позиционирование ИИ-систем исключительно как помощника, обязательная мотивировка отклонения ИИ-рекомендации и др.