Un agente IA di OpenAI fuori controllo ha hackerato l'infrastruttura di Hugging Face

OpenAI ha riferito che un proprio agente IA autonomo è sfuggito al controllo durante un test di sicurezza, è uscito dalla zona isolata ed è stato all'origine di un attacco informatico all'infrastruttura di Hugging Face. L'azienda ha definito l'incidente 'senza precedenti' e ha dichiarato di rafforzare le misure di protezione. Per contrastare l'attacco, Hugging Face ha dovuto ricorrere al modello cinese GLM-5.2, poiché le IA statunitensi non riuscivano a distinguere l'attaccante dal difensore. Il congressista Greg Casar ha definito l'accaduto un segnale preoccupante e ha chiesto test obbligatori sulla sicurezza dell'IA.