ИИ принимает решение о человеке: когда нужны письменное согласие и пересмотр человеком

Банк отклоняет заявку за несколько секунд. Маркетплейс автоматически блокирует продавца как подозрительного. HR-система ранжирует кандидатов и отсеивает часть резюме. Сервис меняет пользователю лимит после оценки его поведения. Во всех четырёх случаях бизнес обычно обсуждает качество модели и стоимость ошибки. Российское право задаёт ещё один вопрос: кто принял решение, человек или алгоритм?

Этот вопрос появился задолго до генеративного ИИ. Статья 16 Федерального закона № 152-ФЗ «О персональных данных» много лет устанавливает специальный режим для решений, принятых на основании исключительно автоматизированной обработки. С распространением скоринговых моделей, языковых моделей и систем принятия решений норма стала гораздо практичнее, чем кажется.¹

Что запрещает статья 16

Базовое правило жёсткое: нельзя на основании исключительно автоматизированной обработки персональных данных принимать решение, которое порождает юридические последствия для человека или иным образом затрагивает его права и законные интересы.

Выхода два. Такое решение допускается при согласии субъекта в письменной форме либо в случаях, прямо предусмотренных федеральным законом, который одновременно устанавливает меры защиты прав человека. Оператор обязан разъяснить порядок принятия решения и возможные последствия, предоставить возможность заявить возражение и разъяснить порядок защиты прав. Возражение рассматривается в срок, установленный частью 4 статьи 16.

Это действующее право. При этом статья 16 не требует письменного согласия на любое использование машинного обучения. Для её применения должны одновременно сложиться три условия.

Первое условие: персональные данные

Если модель обрабатывает обезличенную промышленную телеметрию и прогнозирует отказ оборудования, статья 16 здесь не главный вопрос. Иначе обстоит дело, когда решение строится на данных конкретного клиента, работника, кандидата, водителя или продавца.

В ИИ‑продуктах эта граница часто скрыта архитектурой. В модель передаются не паспорт и ФИО, а история заказов, отпечаток устройства, переписка, поведение в интерфейсе и внутренние признаки риска. Если эти сведения относятся к прямо или косвенно определяемому человеку, анализировать нужно режим персональных данных, а не название поля в базе.

Второе условие: решение без участия человека

Самый трудный вопрос для продуктовой команды: что считать участием человека. Если модель формирует оценку, а сотрудник видит исходные данные, оценивает основания и вправе изменить результат, есть довод, что окончательное решение не является исключительно автоматизированным. Кнопка «подтвердить», которую оператор нажимает, не проверяя вывод модели, даёт гораздо более слабую позицию.

Закон не содержит технического критерия достаточного участия человека. Поэтому компании важно не только добавить сотрудника в схему процесса, но и доказать его роль: какие данные он видит, какие у него полномочия, сколько времени отводится на проверку, как часто он отменяет решение модели и что остаётся в журнале.

Третье условие: влияние на права

Очевидный пример: автоматический отказ в услуге или изменение условий договора. Но формулировка закона шире: она охватывает решения, которые иным образом затрагивают права и законные интересы. В зону внимания попадают блокировка аккаунта, прекращение доступа к сервису, задержка операции антифродом, отсев кандидатов, индивидуальные условия и ограничения для исполнителя на платформе.

Рекомендация фильма, сортировка каталога или подсказка оператору сами по себе статью 16 не включают. Значение имеет реальный эффект решения. Не имеет значения и технология: одинаковая проверка нужна для классической скоринговой карты, модели машинного обучения, языковой модели и набора жёстких правил, если система без содержательного участия человека выносит решение о конкретном лице.

Письменное согласие и уведомление

Часть 2 статьи 16 говорит о согласии в письменной форме. Поэтому опасно считать, что стандартная фраза «нажимая кнопку, вы соглашаетесь с политикой» закрывает вопрос исключительно автоматизированного решения. Нужно отдельно определить основание обработки, форму согласия, способ доказать его получение и содержание информации для пользователя.

Политики конфиденциальности на двадцать пять страниц для этого мало. В процессах с высоким влиянием нужны понятное уведомление и работающий канал возражения. Если решение неправомерно, субъект вправе обжаловать действия оператора в Роскомнадзор или в суд и требовать возмещения убытков и компенсации морального вреда.²

ИИ‑агенты и действия в продакшене

Языковую модель часто внедряют как помощника: она классифицирует обращение, готовит проект ответа, извлекает признаки. Затем модель получает доступ к инструментам и сама блокирует аккаунт, меняет лимит или отменяет операцию. В этот момент меняется юридическая квалификация процесса: вчера ИИ давал рекомендацию сотруднику, сегодня он сам совершает действие.

Поэтому полномочия ИИ‑агента нужно оценивать и по правовому эффекту каждого вызова. Получить историю клиента или составить сводку по делу означает один уровень риска. Отклонить заявку, заморозить счёт или прекратить доступ означает совсем другой. Инструкция в промпте «не блокируй без достаточных оснований» не заменяет технического ограничения.

Как построить контрольную точку

Начинать стоит не с большой политики, а с перечня решений. Для каждого сценария нужно ответить на несколько вопросов.

Если на первые три вопроса ответ положительный, сценарий проходит углублённую правовую проверку: письменное согласие или норма закона, информирование пользователя, канал возражения, срок его рассмотрения и доказательства участия человека. Технически полезно вынести это в отдельный слой правил: модель не определяет сама, достаточно ли у неё полномочий, а система перед значимым действием проверяет тип решения, основание и необходимость подтверждения.

Журнал тоже важен. Нужно уметь восстановить версию модели, существенные входные признаки, полученный результат, кто и когда его проверил и какое действие было выполнено. Журналирование при этом само должно соответствовать требованиям к обработке персональных данных.

Практический вывод

Российскому бизнесу не нужно ждать отдельного закона об алгоритмических решениях. Статья 16 152-ФЗ уже содержит специальный режим для исключительно автоматизированных решений о человеке. Это не запрет на ИИ‑скоринг и не требование ставить сотрудника после каждой модели. Это требование правильно квалифицировать конкретный процесс.

Для части сценариев достаточно документально подтвердить, что ИИ только помогает сотруднику. Для автоматизации с высоким влиянием понадобятся отдельное правовое основание, информирование пользователя, механизм возражения и доказуемая процедура пересмотра. Начать проверку стоит со скоринга, антифрода, HR, модерации, блокировок, лимитов, ценообразования и ИИ‑агентов с правом записи, а затем проверить договоры с внешними поставщиками моделей: кто определяет логику решения и что произойдёт, если поставщик заменит модель без предупреждения.