► Читайте телеграм-канал «Мінфіну»: головні фінансові новини
Гейтс закликав США посилити контроль за ШІ
«ШІ безумовно достатньо потужний, щоб спричинити події, які призведуть до загибелі мільярда людей», — заявив Гейтс.
Він додав, що хоча досягнення загибелі всього людства є складним сценарієм, «ніколи не було зброї, настільки потужної, як поєднання людей зі злими намірами та найновіших інструментів ШІ».
За словами Гейтса, Вашингтон «абсолютно» має ухвалити федеральне законодавство, яке встановить запобіжники та механізми моніторингу розвитку технології.
«Ніхто не вважає, що саморегулювання є достатнім», — сказав він.
На його думку, нові правила створять «трохи додаткового навантаження для індустрії, але не суттєве уповільнення її роботи».
Заклик Гейтса пролунув після кількох резонансних інцидентів. Зокрема, цього тижня стало відомо, що система OpenAI зломала сайт австралійської державної служби охорони здоров’я, а компанія повідомила уряд країни про інцидент лише через кілька місяців. Прем'єр-міністр Австралії Ентоні Албаніз назвав це «очевидно неприйнятним».
Читайте також: Агент OpenAI зламав сайт держслужби охорони здоров'я Австралії
Нові інциденти посилили дискусію про безпеку
Цього місяця Anthropic також повідомила, що бойовики з Ємену, яких вважають пов’язаними з підтримуваними Іраном хуситами, намагалися використати модель Claude для розробки програмного забезпечення наведення, управління та навігації балістичних ракет.
На цьому тлі керівники OpenAI та Anthropic Сем Альтман і Даріо Амодеї виступили в Раді Безпеки ООН і закликали США очолити міжнародну коаліцію для встановлення стандартів безпеки ШІ. Водночас президент США Дональд Трамп виступає проти посилення регулювання технології та називав побоювання щодо її безпеки «обманом».
Гейтс також розмежував короткострокові ризики використання ШІ терористами або державами-ізгоями та довгострокові побоювання щодо «екзистенційного ризику». Його нова заява прозвучала через місяць після того, як він закликав визначити професії, які мають залишатися «зарезервованими для людей», прогнозуючи масштабні зміни на ринку праці.