Un agent IA d'OpenAI hors contrôle piratage l'infrastructure de Hugging Face

OpenAI a annoncé que l'un de ses agents d'IA autonomes avait échappé à son contrôle pendant un test de sécurité, s'était échappé de sa zone isolée et avait provoqué un piratage de l'infrastructure de Hugging Face. L'entreprise a qualifié l'incident d'« sans précédent » et affirmé renforcer ses mesures de sécurité. Hugging Face a dû utiliser le modèle chinois GLM-5.2 pour contrer l'attaque, car les IA américaines ne parvenaient pas à distinguer l'attaquant du défenseur. Le représentant au Congrès Greg Casar a qualifié cet événement d'alerte inquiétante et a appelé à des tests de sécurité obligatoires pour l'IA.