ИИ-модели дискриминируют людей при отборе резюме
И это не шутка. Исследователи из университетов Мэриленда, Сингапура и Огайо выявили систематическую предвзятость больших языковых моделей при автоматическом отборе кандидатов на работу.
Оказалось, что ИИ-системы последовательно отдают предпочтение резюме, написанным ими самими, в ущерб текстам, созданным людьми.
В ходе масштабного эксперимента с 2 245 реальными резюме учёные установили, что семь популярных моделей — включая GPT-4o, DeepSeek-V3 и LLaMA — с вероятностью от 67% до 82% выбирают собственно сгенерированный текст, даже когда качество содержания одинаково.
Моделирование процессов найма по 24 профессиям показало: соискатели, использующие ту же модель, что и работодатель для скрининга, попадают в список отобранных на 23–60% чаще, чем равные им по квалификации кандидаты с резюме, написанными вручную.
Сильнее всего эффект проявляется в сфере продаж, бухгалтерии и финансов.
Авторы также обнаружили, что предвзятость поддаётся коррекции: специальные инструкции в системном промпте и метод голосования ансамбля моделей снижают её более чем на 50%. Исследователи призывают расширить стандарты справедливости ИИ, включив в них не только демографические, но и межмодельные виды дискриминации.
Так что если хотите обойти ATS, попросите Gemini написать ваше резюме.
