Уменьшится ли уровень гендерной предвзятости при приеме на работу благодаря применению искусственного интеллекта (Al)?

Tomas Chamorro-Premuzic — талантливый ученый в ManpowerGroup, профессор психологии бизнеса в Университетском колледже Лондона и Колумбийском университете, а также сотрудник лаборатории предпринимательских финансов Гарварда; автор книги » Почему так много некомпетентных людей становятся лидерами?» (И как это исправить). 

Искусственный интеллект (Al) затрагивает все сферы жизни, включая ту, где разные организации находят таланты. Компании, как правило, знают о ROI (Return On Investment) — коэффициенте окупаемости, который образуется от поиска подходящего человека для соответствующей работы. По оценкам McKinsey, для нахождения очень сложных рабочих ролей, звезды будут иметь на 800% больше производительности, чем средние исполнители. Недавнее исследование Гарвардской бизнес-школы показало, это даст большие преимущества для предотвращения найма “токсичных” работников.
Несмотря решающую роль «рабочих талантов», организации все еще не могут привлечь нужных людей, поскольку полагаются больше на интуитивные, а не основанные на фактических данных методы идентификации талантов. Особенно это касается ТОП-должности, где ставка на самом деле самая высокая. Действительно, большинство лидеров нанимаются на основе их технической экспертизы, политического влияния или результатов интервью. Как я иллюстрирую в моей последней книге – «Почему так много некомпетентных людей становятся лидерами»? (И как это исправить). Большинство компаний фокусируются на «неправильных» чертах, отбирая людей за счет их уверенности, а не компетентности; харизмы, а не человечности; нарциссических тенденций, а не целостности, что объясняет переизбыток некомпетентных лидеров в мужской роли. В результате возникает патологическое несоответствие между теми качествами, которые привлекают нас в потенциальном лидере, и теми, которые необходимы, чтобы быть эффективным лидером.
В последнее время появились новости, указывающие на то, что ИИ может, на самом деле, способствовать еще большей предвзятости и неблагоприятному воздействию на женщин: когда алгоритмы обучаются подражать рекрутерам, они могут не только воспроизводить человеческие предубеждения, но и усугублять их, участвуя в гораздо более эффективной форме дискриминации.
Людей легче шокировать ошибками найма, совершенными ИИ, чем полученными благодаря влиянию человеческого фактора или предубеждениями. Это немного похоже на самоуправляемые автомобили: требуется одна автономная автокатастрофа, чтобы убедить нас в том, что технология несовершенна. Однако, мы намного снисходительнее, если аварии/травмы случаются по причине человека: 1,2 млн несчастных случаев со смертельным исходом и 50 миллионами травм в год. Итак, давайте начнем с важного осознания того, что большинство методов найма являются: (а) интуитивными и (Б) неэффективными. Для каждой организации, которая назначает большинство своих руководителей на основе объективных и меритократических критериев, есть много других, где такие назначения являются настоящей редкостью — это может происходить случайно, иногда и независимо от их намерений. Также ясно, что ИИ не может быть предвзятым, как люди: для этого ИИ должен иметь эмоции, чувства или мнение. Искусственному интеллекту не нужно «самоутверждаться» за счет женщин или других обездоленных групп, для того, чтобы повысить самооценку, например, назначая им санкции (штрафы). Конечно, если ИИ будет обучаться на основе необъективных данных — например, если мы научим его предсказывать, какие кандидаты будут положительно оценены интервьюерами — людьми, то он не только будет подражать, но и усугублять человеческую предвзятость: увеличивая ее.  Но проблему можно решить, путем обучения системы ИИ предсказывать релевантные и объективные результаты, а не имитировать человеческую интуицию.
Помимо этого, можно выделить причины, которые позволят ожидать более точных и предсказуемых результатов, благодаря применению инструмента- AI-talent, по сравнению с деятельностью человека (не только потому, что люди, как правило, плохи в этом):

• Наш любимый метод отбора и проверки кандидатов, включая лидеров — это интервью, и крупномасштабные научные исследования показали, что интервью наиболее предсказуемы, когда они имеют четкую структуру. В то время как индивидуальные/аналоговые интервью трудно стандартизировать. 
• Если говорить о разновидностях интервью, то видеоинтервью позволяют провести людей через определенный опыт, захватить миллионы точек данных о проявлении их поведения (например, вербальное поведение (что/как они говорят, использование определенного типа языка); невербальное поведение(изучение языка тела и микровыражений), что позволит удалить предвзятость и субъективность у наблюдателей в процессе отбора кандидатов. Можно с уверенностью предположить, что автоматизация всех неструктурированных интервью с человеческим фактором снизит влияние субъективности, предвзятости, протеже при одновременном повышении меритократии и точности прогнозирования. Такой результат должен быть положительным для женщин (и отрицательным для мужчин).
• Конечно, также существуют невероятно умные интервьюеры, которые, как правило, превосходят алгоритмы (хотя, посмотрите документальный фильм Netflix о том, как ИИ побеждает лучших интервьюеров, так же, как они побеждают величайших шахматистов или игроков AlphaGo). Главная проблема, заключается в том, что большинство людей не так интуитивны, как они думают. И на каждого блестящего интервьюера есть сотни или тысячи, которые думают, что они лучше, но на самом деле это не так. Мы все высоко ценим свою интуицию, особенно когда мы ей не обладаем. Как отметил один из основателей движения поведенческой экономики и нобелевский лауреат — Даниэль Канеман: «Мы, как правило, слишком уверены в своих мнениях, впечатлениях и суждениях». Независимо от способности системы ИИ обнаруживать таланты, люди ожидают, что искусственный интеллект будет гораздо больше знать о своих преимуществах, чем люди о своих способностях. Отмечено, что среднестатистический интервьюер никогда даже не признается в том, что допустил ошибку при приеме на работу, поскольку он потворствует предвзятости и субъективности, для того, чтобы кандидаты, которых он нанял, смогли оценить его работу в положительном ключе. У людей есть суждение: принятие собственных ошибок может привести к тому, что они будут выглядеть глупо в глазах окружающих, в то время как систему ИИ «не волнует» мнение других людей относительно его существования (выглядеть глупо). 
• Одним из больших преимуществ ИИ является то, что он лучше обнаруживает объективную составляющую вещей (т. е. миллионы объективных данных), «игнорирую» субъективность (предвзятость). Представьте себе этичного, благонамеренного и непредубежденного человека, который имеет цель быть справедливым в своей практике найма и, поэтому полон решимости избежать гендерных предубеждений  — давайте предположим, что он мужчина, который занимается наймом персонала. Как бы он ни старался, ему будет очень трудно игнорировать пол кандидатов. Представьте себе, что он сидит перед кандидатом-женщиной, повторяя про себя: «Я не должен думать о том, что этот человек-женщина» или «Я не должен позволять полу человека вмешиваться в мою «объективную» оценку». На самом деле, чем больше он пытается подавить эту мысль, тем более активно она будет проявляться в его сознании, что приведет к отвлечению внимания или чрезмерной компенсации. Если говорить о системе ИИ, то ее можно научить «игнорировать» пол людей и фокусироваться только на соответствующих качествах, компетенциях, потенциале кандидатов. Например, алгоритмы могут быть прописаны таким образом, чтобы улавливать соответствующие сигналы проявления эмоционального интеллекте (EQ), компетентности или коммуникативных навыков, будучи действительно “слепыми” к полу человека. Такой способ отбора кандидатов определенно окажется полезным для претендентов-женщин.
• Критическим моментом для применения ИИ является то, что организации определяют реальные данные о производительности для обучения алгоритмов. Если ИИ «научат» предсказывать или предвосхищать человеческие предпочтения — например, понравится ли кандидат своему реальному руководителю, когда он будет нанят, — мы можем ожидать, что предвзятость останется и, возможно, будет увеличена. Тем не менее, если ИИ обучен определять фактические движущие силы производительности, определяемые в широком смысле, как вклад человека в организацию — тогда мы можем ожидать гораздо более справедливой, точной и воспроизводимой оценки потенциала/компетенций людей, по сравнению с отбором персонала, производимым специалистом (влияние человеческого фактора). Такой способ, опять же, должен положительно сказаться при оценке кандидатов-женщин (лидеров).

Таким образом, для тех, кто заинтересован не только в том, чтобы помочь женщинам иметь возможность представать в руководящих позициях, но и в улучшении качества отбора лидеров, есть реальные причины надеяться на ИИ (искусственный интеллект). Многие из инноваций в стремительно развивающемся информационном мире, усовершенствованных и основанных на данных идентификации талантов, все еще находятся на стадии разработки, и мы должны убедиться, что они не только точны, но и являются подкрепленными этическими и юридическими аспектами, как   альтернативы существующим методам. Большинство существующих способов далеки от эффективности, они во многом определяются понятиями «несправедливость», «предвзятость. Необходимо обрести самосознание, чтобы наконец-то начать совершенствоваться.

Источник : edwvb.blogspot.com