• OpenAI створює комітет, покликаний оцінювати та вдосконалювати існуючі методи забезпечення безпеки проекту.
  • Створення Комітету може сигналізувати про перехід OpenAI до комерційної моделі.
  • У травні OpenAI представила нову модель ІІ, здатну до реалістичного діалогу та взаємодії через текст та зображення.

З метою забезпечення безпеки своєї нової моделі штучного інтелекту OpenAI оголосила про створення комітету з безпеки та захисту. Комітет очолюватиметься членами ради директорів компанії, включаючи генерального директора Сема Альтмана.

OpenAI може стати комерційним проектом

OpenAI, чат-бот, розроблений за підтримки Microsoft, має генеративні можливості ІІ, що дозволяють вести бесіди, подібні до людських, і створювати зображення за текстовими підказками. Однак, зі зростанням потужності моделей ІІ, зростають і проблеми безпеки.

У відповідь на ці проблеми OpenAI створює новий безпековий комітет. Його завдання — розробляти рекомендації для ради директорів з питань безпеки проектів та операцій компанії.

Експерти вважають, що створення комітету безпеки знаменує собою перехід OpenAI від некомерційної до комерційної організації. Це дозволить оптимізувати розробку продуктів, зберігаючи у своїй підзвітність компанії.

Як працюватиме комітет?

У перші 90 днів своєї роботи Комітет зосередиться на ретельній оцінці та вдосконаленні діючих методів забезпечення безпеки OpenAI. Після завершення цієї оцінки Комітет надасть свої рекомендації раді директорів. Потім, після затвердження радою директорів, OpenAI оприлюднить інформацію про ухвалені рішення.

У ході роботи Комітет залучатиме до консультацій сторонніх експертів. Серед них Роб Джойс — колишній директор з кібербезпеки Агентства національної безпеки США, та Джон Карлін — колишній співробітник Міністерства юстиції.

Варто зазначити, що у травні поточного року OpenAI представила нову модель штучного інтелекту, здатну вести реалістичні діалоги за допомогою голосу, а також взаємодіяти з користувачами через текст та зображення.

Цей крок демонструє прагнення OpenAI до забезпечення безпеки своїх розробок та зміцнення довіри до своїх продуктів.