Агент OpenAI взломал сайт госслужбы здравоохранения Австралии

► Читайте телеграмм-канал «Минфина»: главные финансовые новости

О произошедшем стало известно 23 сентября — в тот же день, когда главы ведущих мировых ИИ-компаний, в том числе Сэм Альтман и Дарио Амодеи, предупредили Совет Безопасности ООН о рисках, которые искусственный интеллект несет для человечества. Они призвали правительства объединить усилия для контроля над этой все более мощной технологией, добавляет Reuters.

Как ИИ-агент взломал австралийский сайт

Инцидент произошел еще в июне, однако Албанезе сообщил, что самому ему о случившемся стало известно только две недели назад. По данным премьер-министра, агент OpenAI получил несанкционированный доступ к порталу медицинской статистики Medicare — австралийской программы всеобщего медстрахования — во время исследования госрасходов на здравоохранение.

Читайте также: ИИ-модели резко дешевеют: Anthropic и OpenAI начали новый этап ценовой конкуренции

«ИИ получил доступ как к общедоступным, так и к закрытым файлам» базы данных статистики Medicare и даже вносил в нее изменения, рассказал Албанезе журналистам. Произошедшее он, по его словам, уже обсудил на полях Генассамблеи ООН в Нью-Йорке с генеральным директором OpenAI Сэмом Альтманом.

«Считается, что на данном этапе доступ к личной информации не был получен, но расследование продолжается», — добавил премьер-министр. «Имеющиеся в настоящее время доказательства свидетельствуют о том, что более масштабных нарушений в работе сети Services Australia (правительственного агентства Австралии, под управлением которого находится Medicare) не произошло. Тем не менее, эта ситуация, очевидно, неприемлема», — подчеркнул он.

Помимо Medicare, продолжил Албанезе, от взлома ИИ-агентом могли пострадать еще три государственные системы, включая Австралийский институт здравоохранения и социального обеспечения, Бюро статистики и исследований преступности Нового Южного Уэльса и Департамент здравоохранения штата Виктория, однако окончательного подтверждения этому пока нет, пишет CNN.

Австралия также выразила OpenAI «крайнюю обеспокоенность» из-за позднего уведомления относительно инцидента. Албанезе добавил, что глубоко разочарован тем, компания уведомила правительство страны о случившемся только 10 сентября. В ходе расследования также предстоит выяснить, почему правительственные системы не смогли своевременно обнаружить взлом.

Как отреагировали на инцидент в OpenAI

Самой OpenAI о произошедшем стало известно в августе, когда компания проводила проверку активности своих ИИ-моделей, рассказал CNN пресс-секретарь OpenAI Дрю Пусатери. «В ходе проверки мы обнаружили активность, связанную с несколькими правительственными сайтами и сервисами Австралии: во время внутреннего тестирования наши модели пытались найти ответы и доступную статистику по вопросам об Австралии. При этом модели совершили действия, которых мы не предполагали», — объявил он.

В OpenAI добавили, что не нашли доказательств доступа к медицинским картам пациентов в результате взлома Medicare, а затронутая информация представляла собой «агрегированную статистику из области здравоохранения и имена внутренних файлов».

Почему этот инцидент важен

Взлом, совершенный ИИ-агентом, усиливает напряженность между Австралией и крупнейшими американскими технологическими компаниями, замечает Reuters. Канберра уже подвергалась критике с их стороны после того, как ввела первый в мире запрет на использование социальных платформ детьми младше 16 лет, а также одобрила правила, обязывающие техгигантов позволять пользователям отключать алгоритмическую выдачу контента.

Правительство Австралии создало рабочую группу для расследования инцидента и проверки того, достаточно ли текущих мер сетевой безопасности для предотвращения подобных взломов, дополняет Reuters.

Автор:

Редактор ленты новостей Роман Мирончук

Пишет на темы: Экономика, финансы, банки, криптовалюты, инвестиции, технологии