Автоматизация процессов найма с помощью искусственного интеллекта помогает сэкономить время и повысить эффективность рекрутинга. Однако, использование ИИ в HR может привести к непреднамеренной дискриминации кандидатов. ИИ может быть предвзятым и отсекать женщин, людей старше 40 лет или кандидатов, чьи имена или районы проживания считаются неподобающими. В этой статье мы расскажем, как избежать предвзятости в ИИ, применяемом в рекрутинге, и как сделать процесс более этичным.
Проблема: ИИ в рекрутинге может быть предвзятым
Использование ИИ в рекрутинге позволяет автоматизировать такие процессы, как первичный скрининг резюме, анализ соискателей и даже проведение интервью. Однако ИИ может быть предвзятым, что приводит к нежелательным последствиям для кандидатов. Это может проявляться в различных формах дискриминации, например:
- Отсев женщин.
ИИ может отсекать женщин, если алгоритм обучен на данных, где ранее работали преимущественно мужчины. - Отсев людей старшего возраста.
Некоторые алгоритмы могут отсеивать людей старше 40 лет, если в истории найма предпочитались более молодые кандидаты. - Предвзятость по имени или району.
ИИ может оценивать кандидатов по именам, связанным с определёнными этническими или социальными группами, или по району проживания, что приводит к несправедливому отбору.
Откуда берётся предвзятость в ИИ?
Основная причина предвзятости ИИ в рекрутинге заключается в том, что искусственный интеллект обучается на исторических данных, которые могут быть искажены человеческими предвзятостями. Например:
- Если в прошлом компании нанимали в основном мужчин или молодых специалистов, ИИ будет основывать свои решения на этих данных и с большей вероятностью откажет женщинам или старшим кандидатам.
- Если данные о кандидатах из определённых районов или с определёнными именами присутствуют в меньшинстве, алгоритм может несправедливо исключить такие кандидатуры.
Таким образом, ИИ учится на ошибках прошлого и может бессознательно повторять их.
Примеры дискриминации: случай с Amazon
Один из известных случаев дискриминации ИИ произошёл с компанией Amazon, которая разработала автоматизированную систему рекрутинга. ИИ был обучен на данных о предыдущих кандидатах, и в результате система начала отсеивать женщин, так как исторически в компании работали преимущественно мужчины. В итоге Amazon пришлось отключить этот ИИ-рекрутер, так как его алгоритмы были предвзятыми и несправедливыми по отношению к женщинам.
Как избежать предвзятости: методы и решения
- Аудит данных для обучения.
Чтобы избежать дискриминации, важно проводить аудит исторических данных, на которых обучается ИИ. Это поможет выявить скрытые предвзятости, такие как предпочтение к определённым полам, возрастам или районам. - Слепой скрининг.
Для минимизации предвзятости можно использовать слепой скрининг. Это значит, что в процессе отбора кандидатов будут скрыты данные о поле, возрасте и фотографии кандидатов. Таким образом, ИИ будет оценивать только релевантные для вакансии характеристики. - Тестирование на разных группах.
Для того чтобы убедиться в отсутствии предвзятости, необходимо тестировать алгоритмы на разных группах кандидатов. Это позволяет выявить проблемы в процессе отбора и скорректировать алгоритм, чтобы обеспечить справедливость.
Законодательство: регулирование ИИ в найме
- В ЕС.
В Европейском Союзе существуют строгие правила, регулирующие использование ИИ в различных сферах, включая HR. Законодательство запрещает использование ИИ с высоким риском дискриминации. Все алгоритмы, применяемые в рекрутинге, должны быть прозрачными и не нарушать принципы равенства и недискриминации. - В России.
В России пока нет конкретного законодательства, регулирующего использование ИИ в рекрутинге. Однако в будущем можно ожидать принятие нормативных актов, которые будут учитывать этические и правовые аспекты использования ИИ в области найма.
Решения для этичного использования ИИ
- Использование прозрачных алгоритмов.
Прозрачность — ключевой элемент этичного ИИ. Применение таких алгоритмов, которые позволяют понять, почему тот или иной кандидат был отклонён, важно для обеспечения справедливости в процессе рекрутинга. Работодатели и кандидаты должны иметь возможность просматривать, на каких данных и алгоритмах основываются решения ИИ. - Комбинирование ИИ с человеком.
Идеальное решение — это комбинированный подход, где ИИ помогает на начальных этапах, таких как первичный скрининг резюме и анкет, а финальное решение принимает человек. Это снижает риски предвзятости и даёт возможность учитывать более широкий контекст, который ИИ может не учесть.
Метрики этичности: diversity hiring и равное распределение
- Diversity hiring (процент разнообразия в нанятых).
Одна из метрик, которую можно использовать для оценки этичности ИИ, — это процент разнообразия в нанятых кандидатах. Это показатель того, насколько равномерно распределяются вакансии среди разных групп (по полу, возрасту, этнической принадлежности). - Равное распределение по полу и возрасту.
Важно следить за тем, чтобы распределение нанятых кандидатов было равномерным и не отклонялось от реальной картины. Например, компания должна стремиться к равному числу нанятых мужчин и женщин, а также учитываться разные возрастные группы.
Рекомендации для бизнеса
- Не полагаться 100% на ИИ.
ИИ — это инструмент, который помогает ускорить процессы, но окончательное решение должно оставаться за человеком. ИИ можно использовать для первичного скрининга кандидатов, однако все нестандартные случаи должны обрабатываться специалистами. - Использовать ИИ для поддержки, а не замены.
ИИ должен служить помощником в процессе найма, а не полностью заменять человека. Важно комбинировать человеческий фактор с возможностями ИИ для оптимизации и улучшения процесса.
Тренд: появление «этичных ИИ», мониторящих предвзятость
В последние годы появляется всё больше решений, которые фокусируются на этичности ИИ. Эти ИИ-ассистенты мониторят предвзятость в реальном времени, выявляют скрытые дисбалансы и помогают HR-отделам настраивать более справедливые процессы отбора. Это позволяет компаниям не только улучшить свою репутацию, но и сократить риски юридических и этических проблем.