Вопросы про правовой аудит ИИ-систем

Обычный юридический аудит проверяет договоры, корпоративные документы и соблюдение отдельных норм. Правовой аудит ИИ-системы идёт по жизненному циклу технологии данные, обучение, развертывание, роли участников, автоматизированные решения, права на результат, договоры с поставщиками решений, отраслевые ограничения и ответственность за вред.

Без реестра невозможно понять, какие сценарии реально используются в компании. Часто значимые риски находятся не в основном продукте, а в «теневом ИИ» с внешними языковыми моделями у сотрудников, автоматической оценке персонала, аналитике звонков, генерации юридических документов или пилоте с подрядчиком.

Обычно запрашиваются пять блоков документов, включая техническую документацию, договоры и лицензии, материалы по персональным данным, внутренние политики и операционная история. Если документа нет, это не просто «пробел в папке», а ограничение аудита и потенциальный риск в отчёте.

Для каждого риска фиксируются факт, нарушенная или применимая норма, источник свидетельства, вероятность, тяжесть последствий, уровень риска, рекомендация, срок, ответственный и критерий проверки. Рекомендация без срока и критерия проверки не является рабочей рекомендацией.

ГОСТ 42001 и профессиональная логика аудита требуют проверять результативность корректирующих действий. После отчёта нужно убедиться, что договоры изменены, согласия обновлены, регламенты внедрены, журналы работы ведутся, а процедура оспаривания алгоритмического решения реально работает.

Формально национальные стандарты применяются на добровольной основе. На практике они становятся фактически обязательными при участии в государственных закупках (заказчик вправе включить их в требования ТЗ), при прохождении ведомственных экспертиз и при рассмотрении споров о деликтной ответственности. Если автономная система причинила вред, а её разработчик не проводил оценку устойчивости по ГОСТ Р ИСО/МЭК 24029-2-2024, суд квалифицирует это как грубую неосторожность — что ограничивает возможность ссылаться на форс-мажор.

С 1 января 2025 года действуют четыре ключевых стандарта ГОСТ Р 71476-2024 (терминология, аннотирование, разведочный анализ, подготовка данных — используется в договорах и при распределении ответственности за дефекты набора данных), ГОСТ Р 71539-2024 (жизненный цикл системы ИИ — обязательная ссылка при госзакупках), ГОСТ Р ИСО/МЭК 42001-2024 (система менеджмента ИИ — аналог ISO 9001, доказательство добросовестности) и ГОСТ Р ИСО/МЭК 24029-2-2024 (устойчивость нейросетей — основа судебной технической экспертизы). С 1 февраля 2026 года добавился ГОСТ Р 72484-2025 для медицинского ИИ.

Это российский аналог ISO 9001, адаптированный для ИИ-отрасли. Стандарт описывает, как выстроить систему управления алгоритмическими рисками внутри компании, включая политики, матрицы ролей, реестры рисков, процедуры инцидентов. Сертификация по ГОСТ 42001 или внутреннее внедрение его требований — ключевое доказательство добросовестной проверки при запросах надзорных органов и корпоративных заказчиков. Именно это документирует, что компания управляла рисками ИИ, а не игнорировала их.

Стандарт, действующий с 1 февраля 2026 года, вводит унифицированную терминологию и классификацию программного обеспечения как медицинского изделия. Ключевое разграничение — между системой поддержки врачебного решения (СППР) и автономным диагностическим инструментом первая лишь рекомендует, вторая принимает клинически значимые решения. От этого зависит класс риска и объём регистрационного досье в Росздравнадзоре. Медицинский ИИ без корректной классификации не допускается к клинической практике — даже если технически он уже работает в больнице.

«Открытые данные» не равно «данные без правовых ограничений». Нужно проверить лицензию (Creative Commons с условием SA или NC может запрещать коммерческое использование), наличие персональных данных (даже обезличенные на первый взгляд данные могут содержать ПДн при кросс-корреляции) и авторские права на исходный контент в обучающей выборке. После Приказа РКН № 140 простая псевдонимизация ФИО больше не легализует набор данных, требуются k-анонимность и дифференциальная приватность.

По ст. 1079 ГК РФ владелец источника повышенной опасности несёт ответственность без вины — достаточно самого факта вреда. Суды квалифицируют автономные ИИ-системы (роботы, беспилотники, медицинский диагностический ИИ) как такие источники. Субъектный состав зависит от договорной цепочки может отвечать разработчик, арендатор, оператор или конечный пользователь. Отсутствие документации по ГОСТам при аварии суд трактует как грубую неосторожность, что лишает разработчика возможности ссылаться на форс-мажор.

История решений и протоколов работы — это задокументированная история работы ИИ-системы, включая входные данные, версию модели, применённые пороги, результат и временная метка. В судебных спорах по ст. 1079 ГК РФ она служит доказательством должной осмотрительности разработчика. Без неё невозможно установить, было ли поведение системы штатным или аномальным — суд интерпретирует это против разработчика. ГОСТ Р ИСО/МЭК 42001-2024 прямо предписывает ведение такой документации.

По российскому праву автором может быть только человек. ИИ-сгенерированный контент без «существенного творческого вклада» составителя запросов не охраняется авторским правом. Доктрина СИП № С01-724/2025 признала возможность охраны, если составитель запросов доказывает конкретный творческий вклад детализированный запрос, итеративную доработку, авторский выбор из вариантов. Чтобы защитить корпоративный ИИ-контент, нужно сохранять журналы запросов как доказательную базу и закрепить права в договоре с сотрудниками.

Законопроект № 757734-8 обязывает маркировать синтетический контент. ФАС уже расценивает незамаркированный ИИ-контент в рекламе как введение потребителей в заблуждение относительно природы материала. Практически это означает любое видео, изображение или аудио с явными признаками генерации должно содержать чёткое указание «сгенерировано ИИ». Платформы, размещающие такой контент без маркировки, несут солидарную ответственность с рекламодателем.