► Читайте телеграм-канал «Мінфіну»: головні фінансові новини
Деталі
Засідання, скликане Францією під час щорічної сесії Генеральної Асамблеї ООН, пройшло на тлі попереджень про те, що системи ШІ можуть незабаром вийти з-під контролю людини.
«ШІ може становити ризик для людства в цілому», — заявив членам Ради Безпеки ООН гендиректор Anthropic Даріо Амодеї.
«При всіх розбіжностях між людьми в цій залі ми повинні відкласти їх убік, щоб разом протистояти цій одночасно глобальній можливості та глобальній загрозі. Жоден лідер, жодна компанія і жодна країна не здатні впоратися з цим наодинці», — додав Амодеї.
Гендиректор OpenAI Сем Альтман також говорив про необхідність міжнародного співробітництва. «Якщо ШІ має бути демократичним, найважливіші рішення не можуть ухвалюватися лише лабораторіями в Сан-Франциско. Вони мають формуватися в рамках демократичних процесів та урядів, які підзвітні людям, яким вони служать», — заявив Альтман.
«Бували випадки, коли країни, які конкурують одна з одною і не завжди відчувають симпатію, все ж таки об'єднувалися заради спільних інтересів і загального блага перед потужними новими технологіями, — цитує Альтмана Bloomberg. — Ми вважаємо, що це один із таких випадків».
«Загроза реальна і неминуча», — заявив Раді Безпеки канадський вчений Йошуа Бенжіо. Його вважають одним із «хрещених батьків ШІ», уточнює Reuters. Також Бенжіо є співголовою Незалежної міжнародної наукової групи, створеної Генеральною Асамблеєю ООН минулого року.
«Рада зіткнулася з безпрецедентною загрозою: жоден із її членів не хотів би мати з нею справу, жодна країна не здатна стримати її поодинці, і для неї не існує державних кордонів», — сказав він.
Клеман Деланг, співзасновник стартапу Hugging Face, який зазнав нападу ШІ-агентів з лабораторії OpenAI, наголосив на ролі інструментів ШІ у захисті від кібератак. «Нас атакував ШІ, але, що ще важливіше, ми захистилися за допомогою ШІ», — заявив він Раді Безпеки.
За словами Деланга, при відбитті атаки Hugging Face використав китайську ШІ-модель, оскільки на неї поширювалося менше обмежень, ніж на американські інструменти, які можна порівняти. Це підкреслює зростаючу присутність на ринку китайських ШІ-продуктів, зазначає Reuters: вони набирають користувачів по всьому світу, у тому числі завдяки тому, що можуть пропонувати дешевші альтернативи американським моделям.
Позиція наукової спільноти та розробників ШІ йде в розріз із позицією президента США Дональда Трампа, яку той висловив в ООН напередодні. Він відкидає «будь-які спроби створити глобалістську схему контролю» над ШІ. При цьому Китай запровадив правила, що регулюють алгоритми ШІ та дані, що використовуються для навчання моделей, включаючи вимогу чітко маркувати контент, створений штучним інтелектом.
«Зараз ми набагато випереджаємо Китай та всіх інших і маємо намір зберегти цю перевагу, — сказав Трамп. — Я не збираюся стримувати розвиток того, що виявиться масштабнішим за промислову революцію».
Рада Безпеки вперше провела засідання з ризиків ШІ у 2023 році. Тоді Китай заявив, що технологія не повинна перетворитися на «коня, що зірвався», а США застерегли від його використання для цензури і придушення людей. У 2024 році засідання Ради Безпеки з питань ШІ очолював колишній тоді держсекретарем США Ентоні Блінкен.