Модели ИИ компаний Anthropic Mythos и OpenAI совершали целенаправленные несанкционированные действия против людей – AISI

Британский институт безопасности искусственного интеллекта (AISI) в ходе плановой проверки кибербезопасности выявил инцидент, в котором агенты искусственного интеллекта совершали целенаправленные, несанкционированные действия против реальных людей и организаций. Роль AISI заключается в оценке и понимании возможностей передовых моделей ИИ, выявлении потенциальных рисков до того, как они станут достоянием общественности. Чтобы оценить возможности этих моделей, в том числе возможность их неправомерного использования для кибератак, их тестируют намеренно с доступом к открытому интернету и с отключенными некоторыми фильтрами безопасности.