Microsoft объявила ИИ-агентов внутренней угрозой для компаний и запустила инструменты для контроля за их работой

Корпорация Microsoft представила новые решения безопасности, предназначенные для защиты бизнеса от непредсказуемого поведения ИИ-агентов, пишет TechCrunch.Microsoft выпустила функцию Guardian Agents в рамках платформы Project Perception для мониторинга действий искусственного интеллекта. По словам генерального директора Microsoft Сатьи Наделлы, компании больше не могут слепо доверять разработчикам ИИ-моделей. Автономные агенты получают доступ к конфиденциальным данным и могут выполнять критически важные задачи, превращаясь в аналог недобросовестного сотрудника — инсайдерскую угрозу.