Неизвестные получили ИИ-модель Mythos, способную парализовать мировые банки

► Подписывайтесь на телеграм-канал «Минфина»: главные финансовые новости

Как произошла утечка и кто получил доступ

Лишь узкий круг пользователей закрытого форума в мессенджере Discord смог подключиться к модели Mythos в тот же день, когда Anthropic объявила о плане её выпуска для ограниченного тестирования. Согласно полученным данным, участники группы использовали комбинацию нескольких методов. Главным фактором стало то, что один из них имел легитимный доступ как сотрудник сторонней компании, которую Anthropic наняла для проверки и оценки своих ИИ-моделей.

Кроме того, пользователи применили специальные программы для автоматического поиска информации на открытых платформах, таких как репозиторий кода GitHub. Чтобы найти точный веб-адрес скрытой модели Mythos в интернете, они проанализировали логику формирования ссылок на предыдущие продукты Anthropic. Эти технические детали стали известны ранее благодаря утечке данных в стартапе Mercor, специализирующемся на обучении искусственного интеллекта.

Что делают с системой?

Несмотря на высокую степень опасности, которую представляет Mythos (Anthropic заявляет, что система может взломать любую популярную операционную систему или браузер, если ей дать такую команду), посторонние пользователи не использовали её для кибератак. Судя по имеющимся данным, группа заинтересована исключительно в экспериментах.

Чтобы не привлекать внимания служб безопасности Anthropic, они задают искусственному интеллекту простые задачи, например, написание кода для обычных веб-сайтов. Известно также, что эта группа имеет доступ к ряду других, еще не выпущенных алгоритмов компании.

Официальные тестировщики и реакция разработчика

Представители Anthropic официально подтвердили начало внутреннего расследования. «Мы изучаем сообщения о несанкционированном доступе к предварительной версии Claude Mythos Preview через инфраструктуру одного из наших сторонних поставщиков», — отметил представитель компании. Разработчик подчеркивает, что на данный момент нет никаких доказательств того, что эта утечка повлияла на основные серверы или вышла за пределы среды подрядчика.

Чтобы минимизировать риски, технология распространяется исключительно в рамках инициативы Project Glasswing — программы, которая позволяет корпорациям выявлять уязвимости в своих сетях и защищать их. До сих пор Anthropic разрешила тестировать Mythos только Apple, Amazon, Cisco и десяткам других тщательно отобранных организаций. Amazon также предоставляет доступ к модели через свою облачную платформу Bedrock для утвержденного списка клиентов. Однако в последнее время все больше финансовых учреждений и правительств США и Европы просят включить их в эту программу, чтобы защитить свои данные от потенциальных хакеров.

Тысячи уязвимостей «нулевого дня» и опасения банков

Запуск модели Mythos вызвал беспрецедентную реакцию в сфере мировой кибербезопасности. Как отмечает Британский институт безопасности ИИ (AISI), проводивший независимое тестирование разработки, Mythos стала первой в мире системой, способной автономно выполнить сложную 32-шаговую симуляцию взлома корпоративной сети, что обычно требует от профессионалов нескольких дней работы. Во время тестов ИИ обнаружил тысячи критических ошибок (так называемых уязвимостей «нулевого дня») в базовом программном обеспечении, из которых более 99% до сих пор остаются неисправленными.

Именно поэтому Anthropic расширила программу Project Glasswing до 40 организаций-партнеров, среди которых оказались Microsoft, Nvidia, JPMorgan Chase и CrowdStrike. Их цель — оперативно разрабатывать защитные обновления. В то же время министр по политике искусственного интеллекта Великобритании Канишка Нараян и руководство ключевых европейских банков, в частности Deutsche Bank, уже заявили о необходимости экстренных консультаций с регуляторами, поскольку выход подобных возможностей из-под контроля может парализовать финансовый сектор.

Автор:

Редактор ленты новостей, журналист Ярослав Голобородько

Пишет на темы: Макроэкономика. Финансы. Инвестиции. Фондовые и валютные рынки. Крипто. Telegram: @goloborodko_ua