Перші у світі правила для штучного інтелекту: Європарламент ухвалив AI Act

Нові правила

Правила встановлюють ризик-орієнтований підхід до ШІ та формулюють зобов’язання для розробників і користувачів ШІ залежно від рівня ризику, який він може створювати.

Системи ШІ з неприйнятним рівнем ризику для безпеки людей будуть суворо заборонені. До цієї групи увійдуть, наприклад, системи, що використовують підсвідомі або цілеспрямовані маніпулятивні методи, експлуатують вразливості людей або використовуються для соціальної оцінки (класифікація людей на основі їхньої поведінки, соціально-економічного статусу, особистих характеристик).

Парламент також уточнив список практик, заборонених для штучного інтелекту. До нього увійшли:

• віддалена біометрична ідентифікація, зокрема в громадських місцях у реальному часі, з виключенням для правоохоронних органів і тільки після судового дозволу;
• біометрична категоризація з використанням чутливих характеристик (наприклад, стать, раса, етнічна приналежність, громадянство, релігія, політична позиція);
• прогностичні поліцейські системи (засновані на профілюванні, місцезнаходженні або минулій кримінальній поведінці);
• розпізнавання емоцій у правоохоронних органах, прикордонних службах, на робочих місцях і в навчальних закладах;
• невибіркове вилучення біометричних даних із соціальних мереж або відеозаписів із камер відеоспостереження для створення баз даних розпізнавання осіб (порушення прав людини і права на недоторканність приватного життя).

Читайте: Як вкластися в штучний інтелект: три стратегії інвестування

Закон уточнює список АІ-систем «високого ризику». Відповідно до документа, це системи, які можуть потенційно завдати шкоди здоров’ю людей або навколишньому середовищу. Сюди також входять системи штучного інтелекту, які використовуються для впливу на виборців у політичних кампаніях і алгоритми рекомендацій соцмереж.

Постачальники і розробники «високоризикового» ШІ зобов’язані, відповідно до закону, провести оцінку ризику і відповідності, зареєструвати свої системи в європейській базі даних ШІ, забезпечити високу якість даних, які використовуються для навчання ШІ, забезпечити прозорість системи та інформованість користувачів, а також обов’язковий нагляд із боку людини і можливість втручання в роботу системи.

Читайте: Уоррен Баффет порівняв штучний інтелект з атомною бомбою

Що стосується «низькоризикового» ШІ, такого як чат-боти, то його постачальники зобов’язані інформувати користувачів про те, що вони взаємодіють з ШІ, а не з людиною. Для генеративних моделей додається ще одна вимога — повідомляти користувачам, що контент створено нейромережею.

Конференція «Invest Talk Summit» Дізнайтеся, як заробити на інвестиціях у 2023−2024 роках! Подробиці на сайті.

Промокод на знижку 10%: minfin10.