Anthropic предупреждает, что модели ИИ могут начать самовоспроизводиться

Компания Anthropic выпустила новое предупреждение об искусственном интеллекте, которое вызвало ажиотаж в кругах специалистов по кибербезопасности, сообщает Reuters. Компания допустила возможность того, что вредоносный ИИ может создать ботнет, быстро распространиться, противостоять попыткам его удаления и даже проникнуть в центры обработки данных для ускорения своего роста. Как показали эксперименты компании, модели ИИ среднего размера уже могут выполнять многие из отдельных задач, необходимых для самовоспроизведения, даже если им трудно надежно завершить весь процесс.