Поддерживаемые правительством Китая хакеры использовали технологию искусственного интеллекта Claude от компании Anthropic для автоматизации масштабной хакерской кампании в сентябре, направленной на десятки крупных корпораций и иностранных правительств. По данным компании, уровень автоматизации достигал 80−90%, что позволяло проводить атаки «буквально нажатием кнопки». Anthropic удалось сорвать кампанию, но не раньше, чем хакеры успели осуществить до четырех взломов и похитить конфиденциальные данные. Об этом сообщает The Wall Street Journal.
14 ноября 2025, 17:47
Читати українською
Китайские хакеры использовали ИИ от Anthropic для автоматизации кибератак
► Подписывайтесь на телеграм-канал «Минфина»: главные финансовые новости
Что известно
Хакеры используют ИИ для отдельных задач, таких как написание фишинговых писем, но этот случай продемонстрировал новый уровень угрозы. По словам Джейкоба Кляйна, руководителя отдела анализа угроз Anthropic, хакеры смогли объединить отдельные задачи в почти автономный процесс.
Для этого они использовали так называемый «джейлбрейк» (обход защиты) модели Claude. Хакеры обманули ИИ, убедив его, что они являются легитимными организациями по тестированию безопасности, которые проводят «аудит безопасности» от имени компаний-жертв.
Это позволило им обойти встроенные ограничения модели против вредоносной деятельности. Хакеры также разбили атаку на отдельные незаметные задачи — от сканирования уязвимостей до вывода данных — которые не вызывали тревоги у систем защиты.
ШИ похищал данные самостоятельно
Уникальность этой атаки заключается в том, что ИИ действовал почти самостоятельно, а человек вмешивался только в отдельные «критические точки», чтобы подтвердить действия.
В одном из успешных взломов хакеры поручили ИИ Claude самостоятельно формировать запросы к внутренним базам данных жертвы и извлекать из них информацию.
В то же время, по словам Кляйна, система еще не была полностью автономной и допускала ошибки, в частности «галлюцинировала».
Глобальный тренд автоматизации атак
Этот инцидент подтверждает общую тенденцию. Этим летом компания Volexity также фиксировала, как китайские хакеры использовали ИИ для автоматизации атак на корпорации и исследовательские институты, в частности для написания вредоносного программного обеспечения.
На прошлой неделе Google сообщил, что российские хакеры атаковали Украину, используя ИИ-модель для генерации инструкций к вредоносному ПО в реальном времени.
Anthropic сообщила, что заблокировала учетные записи хакеров и обновила свои методы выявления злоупотреблений. Представитель посольства Китая в Вашингтоне отверг обвинения, заявив, что отслеживание кибератак является сложным процессом, и обвинил США в «клевете» на Китай.
Автор:
Источник:
Минфин
Комментарии