Риски использования искусственного интеллекта в рекрутинге

Что вам следует учитывать при выборе ИИ-софта

Рекрутерам, руководителям рекрутинговых команд, HR-директорам и всем лицам, принимающим решения о найме и о том, каким будет рекрутинговый процесс в организации, важно понимать особенности, не только выгоды, но также и риски, от любых автоматизированных инструментов подбора персонала, которые они планируют внедрить в свою практику.

Инструменты на основе искусственного интеллекта в ближайшие годы будут хитом в области автоматизации подбора и найма, и заслуженно – как мы рассказывали в статье “Искусственный интеллект в рекрутинге” технологии ИИ обладают значительным потенциалом для оптимизации или даже полной автоматизации многих рутинных и объемных рекрутинговых задач и уже демонстрируют впечатляющие результаты. В то же время они имеют некоторые ограничения и несут в себе определенные риски, которые могут повлиять на качество вашего подбора, работу организации и кандидатов.

Риски применения ИИ-инструментов

Предвзятость

Мы считаем машины по умолчанию беспристрастными и ориентированными на факты, а не личные суждения, и теоретически так оно и есть. Проблема в том, что “факты”, на основе которых они генерируют свои решения, машинам поставляют люди. Как это происходит?

Важным аспектом искусственного интеллекта является то, что он способен учиться. “Машинное обучение” позволяет ИИ принять набор данных, например, ряд решений, сделанных человеком, и на их основе создать алгоритм, как принимать аналогичные решения для будущих фрагментов информации.

И здесь кроется главный риск: если прошлые решения, которые изучил ИИ, содержали человеческие предубеждения, когнитивные искажения и предвзятость, ИИ включит в свои решения и их.

Это значит, что искусственный интеллект критически зависит от поставляемой ему для обучения информации, не только ее объема (а для ИИ необходимы большие объемы данных, например, от нескольких сотен до нескольких тысяч резюме для определенной позиции), но и качества, так как это напрямую скажется на качестве последующих решений.

ИИ не заменяет человека

Предыдущая проблема имеет еще один важный аспект. Мы можем обучить ИИ фокусироваться на действительно прогностических (имеющих предсказательную силу) индикаторах потенциала, игнорируя бесполезные или ложные сигналы и факторы. И в таком случае ИИ будет действовать гораздо быстрее и эффективнее рекрутеров-людей.

Но более быстрое или более дешевое прогнозирование не решает фундаментальной проблемы при наборе персонала: необходимости иметь надежные критерии или индикаторы успешности сотрудника на его позиции или в компании. Только когда у вас есть надежные показатели эффективности сотрудников, вы можете создавать значимые модели для прогнозирования будущей эффективности и количественной оценки пригодности человека к роли или работе.

То есть искусственный интеллект не заменяет, а видоизменяет работу рекрутеров; успех применения ИИ-алгоритмов в вашей компании будет прежде всего зависеть от вашей способности определить значимые для вас показатели и обучить им ИИ. Это требует человеческих способностей (кроме того, рекрутеры по-прежнему нужны, когда речь идет о построении отношений, улучшении бренда работодателя, переговорах, и всех остальных видах деятельности, где необходимо “человеческое прикосновение”). А значит, если ваш рекрутинг сейчас основан на интуитивных решениях, хаотичен, зависит от личных предпочтений, не использует подтвержденные критерии и показатели, то инструменты на основе ИИ его не улучшат (скорее даже ухудшат).

Не все ИИ действительно ИИ

Хотя многие инструменты, предлагаемые рекрутерам, рекламируются как ИИ, программы с поддержкой ИИ или “AI assisted” это не всегда соответствует действительности.

Часть технологических компаний, которые продвигают свои ИИ-инструменты, даже не используют машинное обучение, а полагаются на сложные деревья решений, чтобы двигаться в зависимости от ответов и предвидеть вопросы кандидата. Эти типы технологий не являются искусственным интеллектом. Они перебирают варианты (большое количество вариантов), но не обучаются. Они могут быть полезны, но они не гибкие и не “умные”.

В настоящий момент это маркетинговый шум, который может потенциально отвлечь от более важных проблем: у компании куча данных, с которыми она ничего не делает, потому что не знает, что они могут дать или что с ними делать. Или компания еще даже не собирает данные о людях, которые у нее на самом деле есть. Или у компании нет четкого понимания того, как из существующих данных выделить действительно значимые для найма показатели. Машины не решат эти проблемы за нас.

Этические проблемы

Как и любое технологическое новшество, ИИ-технологии поднимают целый ряд этических вопросов, ответы на которые только предстоит найти.

Искусственный интеллект может улучшить нашу способность сопоставлять людей с нужными рабочими местами, и это несомненное преимущество. Однако, применение ИИ может снизить этические стандарты научно обоснованных методов отбора (например, хорошо продуманные структурированные интервью, валидные психометрические оценки и моделирование работы).

Важно понимать этические последствия использования ИИ для привлечения и отбора сотрудников. Среди них:

• сбор данных о кандидатах (есть разница между тем, что мы можем и должны знать о людях, и эта разница – вопрос этики) и защита этих данных;
• предоставление равных и справедливых возможностей всем кандидатам;
• предоставление обратной связи по результатам отбора с помощью ИИ и потенциальное влияние, которое она может иметь на кандидата; 

и так далее.

Рекомендации при выборе технологический решений, использующих искусственный интеллект

Поймите, как работает ПО, которое вы собираетесь купить: на основании каких принципов и моделей искусственный интеллект анализирует данные, обучается, определяет значимые шаблоны, принимает решения.

Будьте очень осторожны с данными, которые вы передаете программному обеспечению: помните, что их качество и объем критически важны для будущих результатов.

Убедитесь, что компания-разработчик знает о проблемах предвзятости и работает над этим: удаление человеческих когнитивных искажений одно из важнейших преимуществ внедрения ИИ-алгоритмов.

Оцените потенциальные этические риски: определите основные проблемы в области сбора персональных данных, защиты персональных данных, потенциального влияния на репутацию и бренд работодателя, с которыми ваша компания может столкнуться в будущем при использовании новых решений.

И, конечно, настройте свой рекрутинг, чтобы хорошо понимать, как именно новые инструменты должны дополнить и улучшить работу ваших рекрутеров.

Источник: www.talentscan.pro