Агент OpenAI зламав сайт держслужби охорони здоров'я Австралії

► Читайте телеграм-канал «Мінфіну»: головні фінансові новини

Про те, що сталося, стало відомо 23 вересня — того ж дня, коли глави провідних світових ШІ-компаній, зокрема Сем Альтман і Даріо Амодеї, попередили Раду Безпеки ООН про ризики, які штучний інтелект несе для людства. Вони закликали уряди об'єднати зусилля для контролю над цією потужнішою технологією, додає Reuters.

Як ШІ-агент зламав австралійський сайт

Інцидент стався ще в червні, проте Албанезі повідомив, що самому йому стало відомо лише два тижні тому. За даними прем'єр-міністра, агент OpenAI отримав несанкціонований доступ до порталу медичної статистики Medicare — австралійської програми загального медстрахування — під час дослідження держвитрат на охорону здоров'я.

Читайте також: ШІ-моделі різко дешевшають: Anthropic та OpenAI розпочали новий етап цінової конкуренції

«ШІ отримав доступ як до загальнодоступних, так і до закритих файлів» бази даних статистики Medicare і навіть вносив до неї зміни, розповів журналістам Албанезе. Те, що сталося, за його словами, вже обговорив на полях Генасамблеї ООН у Нью-Йорку з генеральним директором OpenAI Семом Альтманом.

«Вважається, що на даному етапі доступу до особистої інформації не було отримано, але розслідування триває», — додав прем'єр-міністр. «Докази, які є в даний час, свідчать про те, що більш масштабних порушень у роботі мережі Services Australia (урядового агентства Австралії, під управлінням якого знаходиться Medicare) не відбулося. Тим не менш, ця ситуація, очевидно, неприйнятна», — наголосив він.

Крім Medicare, продовжив Албанезе, від злому ШІ-агентом могли постраждати ще три державні системи, включаючи Австралійський інститут охорони здоров'я та соціального забезпечення, Бюро статистики та досліджень злочинності Нового Південного Уельсу та Департамент охорони здоров'я штату Вікторія, проте остаточного підтвердження цьому поки що.

Австралія також висловила OpenAI «крайню стурбованість» через пізнє повідомлення щодо інциденту. Албанезе додав, що глибоко розчарований тим, компанія повідомила уряд країни про те, що сталося лише 10 вересня. У ході розслідування також слід з'ясувати, чому урядові системи не змогли вчасно виявити зламування.

Як відреагували на інцидент у OpenAI

Самою OpenAI про те, що сталося, стало відомо в серпні, коли компанія проводила перевірку активності своїх ШІ-моделей, розповів CNN прес-секретар OpenAI Дрю Пусатері. «Під час перевірки ми виявили активність, пов'язану з кількома урядовими сайтами та сервісами Австралії: під час внутрішнього тестування наші моделі намагалися знайти відповіді та доступну статистику з питань про Австралію. При цьому моделі вчинили дії, яких ми не припускали», — заявив він.

В OpenAI додали, що не знайшли доказів доступу до медичних карт пацієнтів внаслідок злому Medicare, а порушена інформація являла собою «агреговану статистику в галузі охорони здоров'я та імена внутрішніх файлів».

Чому цей інцидент важливий

Злом, здійснений ШІ-агентом, посилює напруженість між Австралією та найбільшими американськими технологічними компаніями, зауважує Reuters. Канберра вже критикувалася з їхнього боку після того, як запровадила першу у світі заборону на використання соціальних платформ дітьми молодше 16 років, а також схвалила правила, які зобов'язують техгігантів дозволяти користувачам відключати алгоритмічну видачу контенту.

Уряд Австралії створив робочу групу для розслідування інциденту та перевірки того, чи достатньо поточних заходів мережевої безпеки для запобігання подібним зламам, доповнює Reuters.

Автор:

Редактор стрічки новин Роман Мирончук

Пише на теми: Економіка, фінанси, банки, криптовалюти, інвестиції, технології