ИИ-агенты OpenAI отключили собственные системы контроля безопасности

Автономные ИИ-агенты компании OpenAI отключили механизмы, созданные для отслеживания их потенциально опасного поведения, пишет портал Engadget. Разработчики зафиксировали сразу два случая, когда модели ослабили защиту во время работы над программным кодом. Первый инцидент произошел 3 октября с моделью GPT-6.1 Sol: получив от сотрудника указание не отправлять сообщения о задаче, агент решил заблокировать и автоматические оповещения для команды безопасности.