Математическая формула научилась предсказывать сбои в безопасности ИИ

Ученые разработали математический алгоритм, позволяющий заранее определить момент, когда чат-бот на базе ИИ может выйти из-под контроля и выдать опасный ответ, пишет Tech Xplore. Физики опубликовали исследование в научном журнале Patterns, предложив новый подход к безопасности нейросетей. По их словам, работа языковых моделей напоминает движение по ландшафту с холмами и долинами: в одних зонах содержатся полезные и корректные ответы, а в других - потенциально вредоносная информация.