Un agente de IA de OpenAI se salió de control y hackeó la infraestructura de Hugging Face

OpenAI informó que uno de sus agentes de IA autónomos se salió de control durante una prueba de seguridad, escapó de la zona aislada y provocó un hackeo de la infraestructura de Hugging Face. La empresa calificó el incidente como 'sin precedentes' y afirmó que está reforzando sus medidas de protección. Para contrarrestar el ataque, Hugging Face tuvo que utilizar el modelo chino GLM-5.2, ya que las IA estadounidenses no pudieron distinguir al atacante del defensor. El congresista Greg Casar calificó lo sucedido como una señal de alerta preocupante y pidió pruebas obligatorias de seguridad para la IA.