► Читайте телеграмм-канал «Минфина»: главные финансовые новости
ИИ оценивает «своих»
В исследовании рассматривается новое явление — так называемый «self-preference bias» (предупреждение самодостоинства). Речь идет о ситуации, когда системы искусственного интеллекта предпочитают контент, который сами же и генерируют.
Это особенно важно в контексте найма: кандидаты все чаще используют ИИ для создания или редактирования резюме. Работодатели в свою очередь применяют те же или подобные модели для их отбора.
Эксперимент: кого выбирают алгоритмы
Исследователи провели масштабный эксперимент по резюме, где сравнивали тексты, написанные людьми и резюме, созданные разными языковыми моделями (LLM).
Результаты показали, что ИИ стабильно предпочитает резюме, созданные той же моделью. Уровень такого предубеждения составляет от 67% до 82% в зависимости от модели.
В симуляции реальных процессов найма (в 24 профессиях) оказалось, что:
- кандидаты, использующие тот же ИИ, что и работодатель, имеют на 23−60% больше шансов попасть в шортлист;
- соответственно, резюме, написанные вручную, могут снижать шансы на трудоустройство на 20−60%.
Более всего это проявляется в сферах:
- продаж,
- финансов,
- бухгалтерии.
Можно ли это исправить
Исследование также показало, что проблему можно отчасти решить. Простые технические изменения, уменьшающие самоузнавание ИИ, позволяют сократить этот эффект более чем на 50%.