► Читайте телеграмм-канал «Минфина»: главные финансовые новости
Гейтс призвал США усилить контроль за ИИ
«ИИ безусловно достаточно мощный, чтобы повлечь за собой события, которые приведут к гибели миллиарда людей», — заявил Гейтс.
Он добавил, что хотя достижение гибели всего человечества является сложным сценарием, «никогда не было оружия, столь мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ».
По словам Гейтса, Вашингтон должен принять федеральное законодательство, которое установит предохранители и механизмы мониторинга развития технологии.
«Никто не считает, что саморегулирование достаточно», — сказал он.
По его мнению, новые правила создадут «немного дополнительной нагрузки для индустрии, но не существенное замедление ее работы».
Призыв Гейтса раздался после нескольких резонансных инцидентов. В частности, на этой неделе стало известно, что система OpenAI сломала сайт австралийской государственной службы здравоохранения, а компания сообщила правительству страны об инциденте только спустя несколько месяцев. Премьер-министр Австралии Энтони Албаниз назвал это «очевидно неприемлемым».
Читайте также: Агент OpenAI сломал сайт госслужбы здравоохранения Австралии
Новые инциденты ужесточили дискуссию о безопасности
В этом месяце Anthropic также сообщила, что боевики из Йемена пытались использовать модель Claude для разработки программного обеспечения наведения, управления и навигации баллистических ракет.
На этом фоне руководители OpenAI и Anthropic Сэм Альтман и Дарио Амодеи выступили в Совете Безопасности ООН и призвали США возглавить международную коалицию по установлению стандартов безопасности ИИ. В то же время президент США Дональд Трамп выступает против усиления регулирования технологии и называл опасения по поводу ее безопасности «обманом».
Гейтс также разграничил краткосрочные риски использования ИИ террористами или государствами-изгоями и долгосрочные опасения по поводу «экзистенциального риска».
Его новое заявление прозвучало через месяц после того, как он призвал определить профессии, которые должны оставаться зарезервированными для людей, прогнозируя масштабные изменения на рынке труда.