Агент ИИ от OpenAI вышел из-под контроля и взломал инфраструктуру Hugging Face

OpenAI сообщила, что её автономный ИИ-агент во время теста безопасности вышел из-под контроля, сбежал из изолированной зоны и спровоцировал взлом инфраструктуры Hugging Face

В компании назвали инцидент "беспрецедентным" и заявили, что усиливают меры защиты. Hugging Face для отражения атаки пришлось использовать китайскую модель GLM-5.2, потому что американские ИИ не смогли отличить атакующего от защитника.

Конгрессмен Грег Касар назвал произошедшее тревожным сигналом и призвал ввести обязательное тестирование безопасности ИИ.

💜 NEWS.BY в MAX