ИИ в подборе персонала. Как работодателю снизить риск необоснованного отказа

На вакансию приходит восемьсот откликов. Система ранжирует кандидатов и оставляет рекрутеру сорок резюме. Экономия времени очевидна. Проблема начинается, когда один из остальных кандидатов просит объяснить отказ, а компания видит только итоговый балл модели.

За кадровое решение отвечает работодатель

Трудовой кодекс не знает отказа, за который отвечает нейросеть. Статьи 3 и 64 ТК РФ запрещают необоснованное ограничение трудовых прав и преимущества, которые не связаны с деловыми качествами кандидата. К таким качествам относятся знания, образование, квалификация, опыт и способность выполнять определенную работу.

Верховный Суд подтверждает право работодателя самостоятельно подбирать персонал. Вместе с этим кадровое решение работодатель принимает под свою ответственность. Отказ считается обоснованным, когда требования вакансии и деловые качества кандидата можно сопоставить.

У кандидата есть простой способ проверить это сопоставление. По письменному требованию работодатель обязан сообщить причину отказа в письменной форме в течение семи рабочих дней. Ответ вроде «низкий рейтинг системы» не объясняет, какое требование вакансии не выполнено. Он лишь показывает, что работодатель передал оценку поставщику и не сохранил собственное основание решения.

Нейтральный показатель может давать необоснованный результат

Модель редко получает прямую команду отсеивать людей по возрасту или семейному положению. Риск возникает через косвенные признаки. Район проживания, длительный перерыв в работе, особенности речи и история активности в сети могут статистически совпадать с характеристиками, которые не определяют профессиональную пригодность.

Само различие в результатах еще не доказывает дискриминацию. Оно требует проверки. Работодателю нужно установить, почему признак влияет на рейтинг, как он связан с работой и не исключает ли он определенную группу кандидатов без делового основания.

Начинать стоит не с модели, а с вакансии. Для каждого критерия нужно записать, какое рабочее требование он отражает. Опыт с конкретным оборудованием можно проверить. Формулировку «не подходит по профилю» проверить нельзя. Чем расплывчатее исходные требования, тем труднее отличить деловую оценку от статистического совпадения.

Ранжирование и автоматический отказ требуют разной оценки

Резюме содержит персональные данные. Их разбор, сопоставление и оценка моделью являются автоматизированной обработкой. Однако не всякая автоматизация означает, что решение принято исключительно автоматически.

Если система сортирует резюме, а рекрутер читает материалы, оценивает кандидата и самостоятельно выбирает дальнейшее действие, окончательное решение может оставаться человеческим. Фактический процесс здесь важнее названия функции в интерфейсе.

Другая ситуация возникает, когда балл ниже установленного порога сразу закрывает кандидату доступ к следующему этапу. Статья 16 Закона № 152-ФЗ запрещает принимать только на основании автоматизированной обработки решения, которые порождают юридические последствия или иным образом затрагивают права и законные интересы человека. Исключения возможны при письменном согласии кандидата либо в случаях, предусмотренных федеральным законом.

Оператор должен разъяснить порядок такого решения и его возможные последствия. Кандидату нужно дать возможность возразить. Возражение рассматривается в течение тридцати дней. Эти обязанности нельзя исполнить, если компания не знает логику процесса и не может получить сведения от поставщика системы.

Участие рекрутера должно влиять на результат

Формальное подтверждение не превращает автоматическое решение в человеческое. Если сотрудник видит только балл и всегда нажимает одну кнопку, контроль существует на схеме процесса, но не в работе.

Содержательный пересмотр можно проверить по четырем признакам.

• Рекрутер видит исходное резюме и существенные факторы оценки.
• У него есть полномочие изменить предложенный системой результат.
• Система сохраняет решение сотрудника и краткое основание изменения.
• Компания анализирует случаи, когда человек не согласился с моделью.

Если таких случаев никогда не бывает, это повод проверить процесс. Причиной может быть высокая точность системы. Причиной также может быть интерфейс, который не оставляет сотруднику времени, информации или реального выбора.

Открытый профиль не отменяет правила обработки данных

Проверка резюме обычно не ограничивается файлом, который прислал кандидат. Сервисы могут собирать сведения из профессиональных сетей, социальных сетей, портфолио и открытых баз. Доступность информации в интернете не освобождает работодателя от требований Закона № 152-ФЗ.

Для каждого источника нужны конкретная цель и правовое основание. Состав данных должен соответствовать цели и не быть избыточным. Информация должна быть точной и актуальной. Сбор цифрового следа на всякий случай этим требованиям не соответствует.

Фото, голос и видеозапись требуют отдельной проверки. Они не становятся биометрическими данными автоматически. Такой режим возникает, когда физиологические или биологические особенности используются для установления личности. Сведения о здоровье, национальности, политических взглядах и другие специальные категории подчиняются более строгим правилам. Если система делает подобные выводы из изображения или речи, обычного согласия на рассмотрение резюме может оказаться недостаточно.

Что запросить у поставщика системы

Работодатель может купить готовый сервис, но не может передать ему собственную ответственность перед кандидатом. До запуска нужно получить ответы, которые позволят разобрать спорный случай.

1. Какие данные получает система и из каких источников.
2. Какие факторы влияют на рейтинг и как они связаны с требованиями вакансии.
3. Привлекаются ли другие поставщики и где обрабатываются данные.
4. Используются ли резюме и переписка для обучения моделей.
5. Сколько хранятся входные данные, результаты и журналы решений.
6. Можно ли восстановить версию модели и настройки для конкретной оценки.
7. Как поставщик помогает при возражении кандидата или инциденте.

Ссылка на коммерческую тайну не решает задачу работодателя. Поставщик вправе не раскрывать код и полный состав модели. При этом заказчику нужны категории входных данных, значимые факторы, версия системы и сведения, достаточные для проверки результата.

Эти обязанности следует закрепить в договоре. Поручение на обработку персональных данных должно определять цели, перечень данных, операции с ними, конфиденциальность, меры безопасности, порядок подтверждения соблюдения требований и уведомление об инцидентах. Отдельно нужны сроки удаления, запрет собственных целей поставщика без согласования и помощь при рассмотрении спорного решения.

Рабочая схема отбора

Безопасный процесс не требует полного отказа от автоматизации. Он требует понятного разделения ролей.

После запуска нужно выборочно проверять отказы и распределение результатов. Модель, данные и требования вакансий меняются. Проверка только перед первым запуском быстро устаревает.

Проверка одной вакансии покажет слабое место

Для первого аудита не нужен большой проект. Возьмите одну вакансию и восстановите путь кандидата от отклика до решения. На каждом автоматическом шаге ответьте на следующие вопросы.

• Какие данные использовала система.
• Зачем нужен каждый существенный признак.
• Как признак связан с деловыми качествами.
• Кто мог изменить рекомендацию модели.
• Что увидит компания при письменном запросе кандидата.
• Можно ли повторно проверить результат на той же версии системы.

Отсутствие документированного ответа хотя бы на один вопрос показывает конкретную задачу. Иногда нужно изменить интерфейс. Иногда достаточно уточнить регламент. В других случаях придется пересмотреть договор или прекратить сбор лишних данных.

Какие документы действительно нужны

Компании не требуется набор формальных политик ради самого набора. Для управляемого процесса достаточно нескольких рабочих документов.

• Карточка сценария использования ИИ в подборе персонала.
• Перечень критериев вакансии и допустимых данных.
• Инструкция рекрутеру по проверке и изменению рекомендации.
• Порядок ответа кандидату и рассмотрения возражения.
• Требования к поставщику и поручение на обработку данных.
• Журнал спорных решений, изменений модели и инцидентов.

Команда «ИИ Право» проверяет системы подбора персонала со стороны трудового права, персональных данных, договоров и фактической работы продукта. Клиент получает не общий вывод о соответствии, а перечень точечных изменений в критериях, интерфейсе, регламенте и договоре с поставщиком.