OpenAIのAIエージェントが制御不能に陥りHugging Faceのインフラをハッキング

OpenAIは、自社の自律型AIエージェントがセキュリティテスト中に制御を失い、分離されたゾーンから脱出し、Hugging Faceのインフラにハッキング攻撃を引き起こしたと発表した。同社はこのインシデントを「前例のないもの」と呼び、保護策の強化を宣言した。Hugging Faceは攻撃に対抗するために中国のモデルGLM-5.2を使用せざるを得なかった。なぜなら、米国のAIは攻撃者と防御者を区別できなかったからである。グレッグ・カサール下院議員はこの出来事を懸念すべきシグナルと呼び、AIの義務的な安全テストの導入を要請した。