► Читайте телеграмм-канал «Минфина»: главные финансовые новости
Детали
Заседание, созванное Францией во время ежегодной сессии Генеральной Ассамблеи ООН, прошло на фоне предупреждений о том, что системы ИИ могут вскоре выйти из-под контроля человека.
«ИИ может представлять риск для человечества в целом», — заявил членам Совета Безопасности ООН гендиректор Anthropic Дарио Амодеи.
«При всех разногласиях между людьми в этом зале, мы должны отложить их в сторону, чтобы вместе противостоять этой одновременно глобальной возможности и глобальной угрозе. Ни один лидер, ни одна компания и ни одна страна не способны справиться с этим в одиночку», — добавил Амодеи.
Гендиректор OpenAI Сэм Альтман тоже говорил о необходимости международного сотрудничества. «
«Бывали случаи, когда страны, конкурирующие друг с другом и не всегда испытывающие симпатию, все же объединялись ради общих интересов и общего блага перед лицом мощных новых технологий, — цитирует Альтмана Bloomberg. — Мы считаем, что это один из таких случаев».
«Угроза реальна и неминуема», — заявил Совету Безопасности канадский ученый Йошуа Бенжио. Его считают одним из «крестных отцов ИИ», уточняет Reuters. Также Бенжио является сопредседателем Независимой международной научной группы, созданной Генеральной Ассамблеей ООН в прошлом году. «Совет столкнулся с беспрецедентной угрозой: ни один из его членов не хотел бы иметь с ней дело, ни одна страна не способна сдержать ее в одиночку, и для нее не существует государственных границ», — сказал он.
Клеман Деланг, сооснователь стартапа Hugging Face, подвергшегося нападению ИИ-агентов из лаборатории OpenAI, подчеркнул роль инструментов ИИ в защите от кибератак. «Нас атаковал ИИ, но, что еще важнее, мы защитились с помощью ИИ», — заявил он Совету Безопасности.
По словам Деланга, при отражении атаки Hugging Face использовал китайскую ИИ-модель, поскольку на нее распространялось меньше ограничений, чем на сопоставимые американские инструменты. Это подчеркивает растущее присутствие на рынке китайских ИИ-продуктов, отмечает Reuters: они набирают пользователей по всему миру в том числе благодаря тому, что могут предлагать более дешевые альтернативы американским моделям.
Позиция научного сообщества и разработчиков ИИ идет в разрез с позицией президента США Дональда Трампа, которую тот выразил в ООН накануне. Он отвергает «любые попытки создать глобалистскую схему контроля» над ИИ. При этом Китай ввел правила, регулирующие алгоритмы ИИ и данные, используемые для обучения моделей, включая требование четко маркировать контент, созданный искусственным интеллектом.
«Сейчас мы намного опережаем Китай и всех остальных и намерены сохранить это преимущество, — сказал Трамп. — Я не собираюсь сдерживать развитие того, что окажется масштабнее промышленной революции».
Совет Безопасности впервые провел заседание по рискам ИИ в 2023 году. Тогда Китай заявил, что технология не должна превратиться в «сорвавшуюся лошадь», а США предостерегли от ее использования для цензуры и подавления людей. В 2024 году заседание Совета Безопасности по вопросам ИИ возглавлял бывший тогда госсекретарем США Энтони Блинкен.