Amazon отказался от ИИ-алгоритма для найма сотрудников. Он дискриминировал женщин
Онлайн-ретейлер Amazon создал алгоритм на основе искусственного интеллекта для автоматического подбора кандидатов. Компания отказалась использовать систему, поскольку ее признали дискриминирующей, пишет Reuters.
По данным агентства, в 2014 году Amazon собрала команду разработчиков в Шотландии и поставила перед ним задачу разработать ИИ-алгоритм для подбора сотрудников. Инженеры создали 500 моделей, которые анализировали опубликованные в открытом доступе резюме и отбирали подходящих кандидатов на основе 50 тыс. ключевых терминов. «Они хотели, чтобы это был инструмент, который покажет 5 идеальных резюме из 100, а потом найдет этих людей», — рассказал источник агентства.
Спустя год разработчики заметили, что алгоритм подбирает непропорционально много мужчин. Они объяснили это тем, что в базе, на которой обучался алгоритм — а в нее вошли резюме сотрудников Amazon за последние 10 лет, — оказалось намного больше мужчин, чем женщин.
Искусственный интеллект пришел к выводу, что мужчины предпочтительнее, и чаще предлагал нанимать их. В частности, алгоритм отбирал резюме только выпускниц двух женских колледжей.
В начале 2017 года от алгоритма решили отказаться. По словам источников, все это время его использовали, но HR-специалисты не полагались на систему полностью и отбирали кандидатов вручную.
В Amazon не стали комментировать информацию о неудачном опыте использования алгоритма. В ответ на запрос комментария в компании сообщили, что при найме сотрудников руководствуются принципами равенства и разнообразия.
Подписывайтесь на наш канал в Telegram 
: @incnews
