Gemini в «клубе хакеров»: модель Google попала в сеть и совершила настоящие кибератаки

► Читайте телеграмм-канал «Минфина»: главные финансовые новости

Что известно о взломе

Инцидент, по информации Google, произошел еще в мае. Тесты ИИ-модели компания проводила совместно с партнером по безопасности Irregular — эта же фирма ранее фиксировала аналогичные нарушения в работе ИИ-моделей и агентов Anthropic, OpenAI и Meta.

В одном из случаев Gemini, по данным компании, подбирала пароли, пока не получила доступ к защищенной системе. В двух других случаях — обнаружила учетные данные сотрудников в публичном репозитории (хранилище, где разработчики совместно пишут, тестируют и хранят исходные версии алгоритмов и программного обеспечения), что позволило ей затем получить доступ к защищенным системам.

В каждом случае модель прекращала вторжение после того, как устанавливала, что получила доступ к системам настоящей компании, а не смоделированной, сообщили в Google, уточнив, что в ходе тестов вымышленные компании носили те же названия, что и реальные.

О взломах разработчиков ИИ Irregular уведомила еще в конце июля, уточнили компании, — после того как выяснилось, что агенты OpenAI взломали платформу Hugging Face.

Однако Google до сих пор не раскрывал информацию о взломах, — впервые об инцидентах компания рассказала The Wall Street Journal в ответ на соответствующие вопросы, замечает газета. Вреда компаниям в результате взлома Gemini не нанесла, подчеркнули в Google. Что именно за фирмы подверглись атакам, ИИ-разработчик не уточнил.

«Этот случай подчеркивает важность обучения мощных моделей искусственного интеллекта ответственным действиям, — прокомментировал инцидент вице-президент Google по разработке систем безопасности Хизер Адкинс. — В данном случае модель действовала надлежащим образом», — полагает он.

Автор:

Редактор ленты новостей Роман Мирончук

Пишет на темы: Экономика, финансы, банки, криптовалюты, инвестиции, технологии