► Читайте телеграм-канал «Мінфіну»: головні фінансові новини
Що відомо про злам
Інцидент, за інформацією Google, стався ще у травні. Тести ШІ-моделі компанія проводила спільно з партнером з безпеки Irregular — ця ж фірма раніше фіксувала аналогічні порушення у роботі ІІ-моделей та агентів Anthropic, OpenAI та Meta.
В одному з випадків Gemini, за даними компанії, підбирала паролі, доки не отримала доступу до захищеної системи. У двох інших випадках — виявила облікові дані співробітників у публічному репозиторії (сховище, де розробники спільно пишуть, тестують та зберігають вихідні версії алгоритмів та програмного забезпечення), що дозволило їй отримати доступ до захищених систем.
У кожному випадку модель припиняла вторгнення після того, як встановлювала, що отримала доступ до систем справжньої компанії, а не змодельованої, повідомили в Google, уточнивши, що в ході тестів вигадані компанії мали ті ж назви, що й реальні.
Про злам розробників ШІ Irregular повідомила ще наприкінці липня, уточнили компанії, — після того, як з'ясувалося, що агенти OpenAI зламали платформу Hugging Face.
Однак Google досі не розкривав інформацію про злами, — вперше про інциденти компанія розповіла The Wall Street Journal у відповідь на відповідні питання, зауважує газета. Шкоди компаніям внаслідок злому Gemini не завдала, наголосили в Google. Що саме за фірми зазнали атак, ШІ-розробник не уточнив.
«Цей випадок наголошує на важливості навчання потужних моделей штучного інтелекту відповідальним діям, — прокоментував інцидент віце-президент Google з розробки систем безпеки Хізер Адкінс. — У цьому випадку модель діяла належним чином», — вважає він.