OpenAI покинула группа топ-менеджеров по безопасности и этике

► Читайте «Минфин» в Instagram: главные новости об инвестициях и финансах

В июле об увольнении объявил Йоханнес Хайдецке, возглавлявший команду Safety Systems. Ранее компанию также покинул Джош Ачиам, бывший руководитель Mission Alignment. Саму команду Mission Alignment OpenAI расформировала в начале года.

Кто теперь контролирует риски работы нейросетей

OpenAI изменяет подход к безопасности, перенося часть этой работы ближе к командам, непосредственно создающим модели. Такая схема позволяет выявлять проблемы еще при разработке, а не по ее завершении.

В то же время отдельная команда безопасности может выполнять роль внутреннего контролера — ставить под сомнение решение разработчиков, если новая модель получает слишком широкие возможности. Для OpenAI этот вопрос становится все более актуальным, поскольку его интеллектуальные системы переходят от простого общения к выполнению сложных задач самостоятельно.

Недавно компания усилила меры безопасности вокруг еще не выпущенной модели Astra после того, как ее возможности в сфере кибер-безопасности достигли уровня, вызвавшего дополнительные опасения.

«Теперь несколько старших специалистов, связанных с этикой, согласованием и безопасностью, покинули компанию. И все это происходит одновременно с тем, как OpenAI создает системы, способные делать гораздо больше, чем просто отвечать на вопросы в окне ChatGPT».

Для пользователей это не означает, что ChatGPT стал более опасным или что OpenAI отказалась от работы над безопасностью. Но возникает вопрос, как независимыми и влиятельными остаются люди, которые могут остановить запуск или ограничить возможности новой системы.

Что еще меняется в OpenAI

Это не первый случай, когда OpenAI теряет руководителей, связанных с безопасностью моделей. В 2024 году компанию покинули соучредитель и главный ученый Илья Суцкевер и соруководитель команды Superalignment Ян Лейке. После этого компания расформировала Superalignment, распределив его работу между другими подразделениями.

Отдельные кадровые изменения сами по себе не свидетельствуют о проблемах безопасности. Но одновременный выход нескольких руководителей по направлениям этики, согласования и безопасности обращает внимание именно на быстрое расширение возможностей ИИ.

Поэтому все важнее не только то, что умеет новая модель, но и то, кто внутри компании имеет полномочия сказать ей «стоп».

Напоминаем

Как уже сообщал Минфин, OpenAI расширил возможности бесплатного ChatGPT: пользователи получат неограниченное количество чатов, а стандартной моделью станет GPT-5.6 Luna. Обновление уже начало разворачиваться, а полный доступ к новым функциям должен появиться к концу августа.

На этом фоне компания демонстрирует феноменальный рост доходов. В июле 2026 г. OpenAI не только увеличила свои доходы, но и превзошла результаты всего второго квартала 2023 года.

Автор:

Ярослава Крамаренко

Пишет на темы: цифровые технологии, блокчейн, AI, криптовалюты и регуляции на финансовых рынках.