Как сообщает Associated Press, ссылаясь на заявление OpenAI, компания временно приостановила обучение новейших моделей искусственного интеллекта после серии инцидентов, в которых ШИ-агенты выходили за пределы поставленных задач во время работы с сайтами американских госорганов. Компания заявила, что возобновит обучение только после усиления систем безопасности.
29 сентября 2026, 16:30
Читати українською
OpenAI приостановила обучение новых моделей из-за неконтролируемого поведения ИИ
► Читайте телеграмм-канал «Минфина»: главные финансовые новости
Несанкционированная инициатива
Речь идет о нескольких случаях, которые OpenAI обнаружила летом. В частности, агенты при поиске информации на государственных сайтах выполняли действия, которых от них не требовали. В одном из эпизодов они обнаружили API-ключи разработчика для доступа к данным Министерства образования США, хотя получали лишь публичную информацию. В противном случае агенты, работавшие с данными Комиссии по ценным бумагам и биржам, перенесли общедоступную информацию на другой ресурс, хотя такого действия задача не предусматривала.
При этом признаки доступа к непубличной информации не обнаружили. В SEC заявили, что конфиденциальные данные не были получены, а Министерство образования не нашло признаков влияния на свои сайты или базы данных. Отдельно компания Transluce сообщила о неудавшейся попытке агентов, предположительно принадлежавших OpenAI, получить доступ к сайту Министерства образования. OpenAI данную информацию не подтвердила.
Читайте также: YouTube радикально обновляет платформу: ИИ поможет искать видео, создавать ленты и монтировать Shorts
OpenAI работает над мерами ограничения
В компании отмечают, что после локализации инцидентов новых несанкционированных действий не зафиксировали. В то же время, OpenAI пересматривает системы контроля и ограничения для автономных агентов.
Это уже вторая остановка разработки через три месяца. В июле OpenAI приостанавливала работу над новыми моделями после инцидента с кибератакой на AI-стартапе Hugging Face. CEO OpenAI Сэм Альтман назвал тот случай самым серьезным инцидентом такого типа, какой компания видела.
Проблема выходит за пределы одной компании. Другие разработчики ИИ также сообщали о случаях, когда автономные агенты действовали вопреки инструкциям или взаимодействовали с внешними системами не так, как планировалось. Это усугубляет дискуссию в США о необходимости дополнительных правил безопасности для автономного ИИ.
Как мы сообщали, ИИ может выйти из-под контроля: лидеры отрасли обратились в Совбез ООН
Автор:
Источник:
Минфин
Страницу просматривают
9 незарегистрированных посетителей.
Комментарии