Кто отвечает за вред, причинённый искусственным интеллектом

Отдельного закона, который определял бы ответственность за действия искусственного интеллекта, в России нет. ИИ не признаётся субъектом права — у алгоритма нет ни правоспособности, ни имущества, ни возможности отвечать за вред. Поэтому вопрос «кто виноват, если ошибся ИИ» решается через действующие нормы о возмещении вреда: за последствия работы системы отвечает человек или компания, которые её создали, эксплуатируют или применяют.

На практике это означает, что один и тот же инцидент — ошибочный диагноз медицинской системы, ДТП с участием беспилотника, неверное автоматическое решение скоринговой модели — может квалифицироваться по разным основаниям. От выбранного основания зависит, нужно ли доказывать вину, кто из участников цепочки платит и какие документы становятся решающими в споре. Разберём три ключевых режима ответственности и логику распределения рисков.

Общее основание — вина и генеральный деликт

Базовое правило установлено статьёй 1064 ГК РФ: вред, причинённый личности или имуществу, подлежит возмещению в полном объёме лицом, причинившим вред. Важная особенность — вина причинителя презюмируется. Это значит, что не потерпевший доказывает чужую вину, а сам причинитель вреда обязан доказать, что вред возник не по его вине. Не доказал — отвечает.

Для ИИ-систем это основание работает в большинстве «обычных» сценариев: ошибка чат-бота поддержки, некорректная рекомендация аналитической модели, сбой в офисном сервисе. Здесь у компании есть шанс освободиться от ответственности, показав, что она действовала добросовестно — тестировала систему, контролировала её работу и приняла разумные меры предосторожности. Но именно поэтому отсутствие документации о таких мерах превращается из формальности в проигранный спор.

Источник повышенной опасности (ст. 1079 ГК РФ)

Самый строгий режим — статья 1079 ГК РФ. Владелец источника повышенной опасности обязан возместить причинённый вред независимо от вины. Освободиться можно лишь в двух случаях: если вред возник вследствие непреодолимой силы или умысла самого потерпевшего. Добросовестность, аккуратность и отсутствие ошибок здесь не спасают — ответственность наступает по самому факту причинения вреда.

Перечень источников повышенной опасности в законе открытый. Пленум Верховного Суда РФ в Постановлении от 26.01.2010 № 1 (п. 18) прямо указал: источником повышенной опасности следует признавать любую деятельность, осуществление которой создаёт повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека. Суд вправе отнести к таким источникам и деятельность, прямо не названную в статье.

Конституционный Суд РФ в Постановлении от 10.03.2017 № 6-П подчёркивал: деятельность, создающая повышенную опасность, обязывает к особой осторожности и осмотрительности и возлагает на владельца повышенное бремя ответственности, в основе которого лежит риск случайного причинения вреда. Для бизнеса, эксплуатирующего автономные ИИ-решения, это означает, что суд может потребовать возмещения даже там, где компания всё сделала «правильно».

Ответственность за недостатки товара, работы и услуги

Если ИИ встроен в продукт или сервис, который компания поставляет клиентам, подключается ещё одно основание — статьи 1095–1098 ГК РФ и Закон «О защите прав потребителей». Вред, причинённый вследствие конструктивных, рецептурных или иных недостатков товара, работы или услуги, а также из-за недостоверной или недостаточной информации о них, возмещается продавцом, изготовителем или исполнителем независимо от вины и независимо от наличия договорных отношений с потерпевшим.

Освобождение по статье 1098 ГК РФ возможно, если доказать, что вред возник вследствие непреодолимой силы или нарушения потребителем установленных правил пользования. Отсюда практический вывод: понятная пользовательская документация, корректные предупреждения об ограничениях модели и зафиксированные правила эксплуатации — это не маркетинг, а элемент правовой защиты. Недостоверная или неполная информация о возможностях ИИ-сервиса сама по себе становится основанием для ответственности.

Как ответственность распределяется между участниками

В разработке и эксплуатации ИИ обычно участвует несколько сторон: разработчик модели, поставщик внешнего сервиса или API, оператор системы, конечный пользователь. Закон даёт несколько механизмов распределения этой ответственности.

Ключевой нюанс по статье 1079 ГК РФ: работник, управляющий источником повышенной опасности в силу трудовых обязанностей, сам владельцем не признаётся — отвечает работодатель (с правом последующего регресса по ст. 1081). А вот распределить ответственность между разработчиком, поставщиком модели и оператором заранее можно договором: гарантии, заверения об обстоятельствах, возмещение потерь (индемнити), пределы ответственности и страхование. Если этого не сделать, суд распределит риски по общим правилам — и нередко не в пользу того, кто ближе к потерпевшему.

Что становится доказательством в споре

Во всех трёх режимах исход дела часто определяется не позицией сторон, а наличием доказательств. Чтобы подтвердить добросовестность и штатность работы системы, нужны документы, которые фиксируются заранее, а не собираются после инцидента.

• Журналы решений и протоколы работы. Входные данные, версия модели, применённые пороги, результат и временная метка. Без них невозможно установить, было ли поведение системы штатным или аномальным, и суд толкует это против разработчика.
• Оценка устойчивости по ГОСТ Р ИСО/МЭК 24029. Отсутствие проверки робастности при инциденте с автономной системой может трактоваться как грубая неосторожность разработчика.
• Система менеджмента ИИ по ГОСТ Р ИСО/МЭК 42001. Документированные процедуры контроля рисков — аргумент в пользу должной осмотрительности компании.
• Договорная база. Распределение ответственности, SLA, индемнити и условия по данным между разработчиком, оператором и поставщиком модели.

Логика проста: должная осмотрительность, которую нечем подтвердить, юридически не существует. Доказательная база работает только тогда, когда она формируется в процессе эксплуатации, а не реконструируется задним числом.

Как снизить риск ответственности заранее

Полностью исключить ответственность за вред от ИИ нельзя — но её можно сделать предсказуемой и управляемой. Концепция развития регулирования в сфере ИИ и робототехники (распоряжение Правительства РФ от 19.08.2020 № 2129-р) прямо указывает на страхование ответственности как один из инструментов; добровольный Кодекс этики в сфере ИИ (26.10.2021) закрепляет принцип ответственности человека за последствия применения систем. На этой основе выстраивается практический набор мер.

1. Постройте карту ролей. Зафиксируйте, кто разработчик, кто оператор, кто поставщик модели и кто конечный пользователь — от этого зависит применимое основание ответственности.
2. Квалифицируйте систему по уровню автономности. Чем меньше человек контролирует решения в реальном времени, тем выше риск применения статьи 1079 ГК РФ и тем строже требования к контролю.
3. Распределите ответственность в договорах. Внесите гарантии, индемнити, пределы ответственности и условия по данным; предусмотрите регресс к подрядчикам.
4. Ведите журналы и документируйте версии модели. Это основной доказательственный актив в любом споре.
5. Рассмотрите страхование ответственности для автономных и высокорисковых сценариев.
6. Внедрите контроль рисков по ГОСТ. Оценка устойчивости (24029) и система менеджмента ИИ (42001) подтверждают добросовестность компании.

Ответственность за вред от ИИ в России наступает по понятным, хотя и строгим правилам. Преимущество получает не та компания, которая надеется на отсутствие специального закона, а та, которая заранее определила роли, закрепила их в договорах и собрала доказательства того, что управляла рисками, а не игнорировала их.