► Читайте телеграм-канал «Мінфіну»: головні фінансові новини
ШІ оцінює «своїх»
У дослідженні розглядається нове явище — так званий «self-preference bias» (упередження самопереваги). Йдеться про ситуацію, коли системи штучного інтелекту надають перевагу контенту, який самі ж і генерують.
Це особливо важливо в контексті найму: кандидати дедалі частіше використовують ШІ для створення або редагування резюме. Роботодавці у свою чергу, застосовують ті самі або подібні моделі для їхнього відбору.
Експеримент: кого обирають алгоритми
Дослідники провели масштабний експеримент із резюме, де порівнювали тексти, написані людьми та резюме, створені різними мовними моделями (LLM).
Результати показали, що ШІ стабільно віддає перевагу резюме, які створені тією ж моделлю. Рівень такого упередження становить від 67% до 82% залежно від моделі.
У симуляції реальних процесів найму (у 24 професіях) виявилося, що:
- кандидати, які використовують той самий ШІ, що й роботодавець, мають на 23−60% більше шансів потрапити до шортлиста;
- відповідно, резюме, написані вручну, можуть знижувати шанси на працевлаштування на 20−60%.
Найбільше це проявляється у сферах:
- продажів,
- фінансів,
- бухгалтерії.
Чи можна це виправити
Дослідження також показало, що проблему можна частково вирішити. Прості технічні зміни, які зменшують «самовпізнавання» ШІ, дозволяють скоротити цей ефект більш ніж на 50%.