► Читайте телеграмм-канал «Минфина»: главные финансовые новости
Что известно о взломе
Инцидент, по информации Google, произошел еще в мае. Тесты ИИ-модели компания проводила совместно с партнером по безопасности Irregular — эта же фирма ранее фиксировала аналогичные нарушения в работе ИИ-моделей и агентов Anthropic, OpenAI и Meta.
В одном из случаев Gemini, по данным компании, подбирала пароли, пока не получила доступ к защищенной системе. В двух других случаях — обнаружила учетные данные сотрудников в публичном репозитории (хранилище, где разработчики совместно пишут, тестируют и хранят исходные версии алгоритмов и программного обеспечения), что позволило ей затем получить доступ к защищенным системам.
В каждом случае модель прекращала вторжение после того, как устанавливала, что получила доступ к системам настоящей компании, а не смоделированной, сообщили в Google, уточнив, что в ходе тестов вымышленные компании носили те же названия, что и реальные.
О взломах разработчиков ИИ Irregular уведомила еще в конце июля, уточнили компании, — после того как выяснилось, что агенты OpenAI взломали платформу Hugging Face.
Однако Google до сих пор не раскрывал информацию о взломах, — впервые об инцидентах компания рассказала The Wall Street Journal в ответ на соответствующие вопросы, замечает газета. Вреда компаниям в результате взлома Gemini не нанесла, подчеркнули в Google. Что именно за фирмы подверглись атакам, ИИ-разработчик не уточнил.
«Этот случай подчеркивает важность обучения мощных моделей искусственного интеллекта ответственным действиям, — прокомментировал инцидент вице-президент Google по разработке систем безопасности Хизер Адкинс. — В данном случае модель действовала надлежащим образом», — полагает он.