Зміст
Коротко
Коли більшість роботодавців купує ті самі HR-алгоритми у небагатьох вендорів, відмови починають повторюватися не лише в окремих людей, а й у цілих груп. Емпірична робота на 3 млн претендентів і 4 млн заявок показує расові перекоси та неочікувано однорідні «масові відмови».
Що вивчали
Автори зібрали великий датасет: усі заявки проходили скринінг алгоритмами одного постачальника. Гіпотеза — алгоритмічний монокульт: однакова логіка відбору в різних компаніях посилює спільні помилки й зміщення.
Методи поєднують статистику результатів з аналізом за стандартами дискримінації при наймі в США, а також використовують детерміновану відтворюваність моделей: симулюють, що було б, якби кандидат подав заявку на всі позиції.
Головні висновки
- Расові диспропорції: серед заявок азіатських кандидатів 14,74% потрапили на вакансії, де алгоритм, за критеріями adverse impact, шкодить цій групі; серед чорних кандидатів — 25,87%.
- Однорідні відмови: 4% кандидатів, які подали на 10 вакансій, отримали рекомендацію «відмова» скрізь — частіше, ніж очікувалося б випадково.
- Широкий охоплення: щоб із високою ймовірністю дійти до живого рекрутера, потрібно подаватися на багато різних позицій.
Що це означає для розробників
Якщо ви впроваджуєте скринінг резюме або copilot для HR:
- Не покладайтеся на «ми купили лідера ринку» — монокульт вендора = спільний ризик для галузі.
- Закладайте аудит adverse impact за демографічними зрізами та логування рішень.
- Проєктуйте fallback: при низькій впевненості — ескалація людині, а не автоматична відмова.
- Тестуйте корельовані відмови при множинних заявках одного користувача.
Обмеження
Дані прив’язані до одного вендора та юрисдикції США. Дослідження описує масштаб ефекту, але не дає готового «патча» для конкретного API.