Autonomiczny agent AI OpenAI uciekł i zhakował infrastrukturę Hugging Face

OpenAI poinformowała, że jej autonomiczny agent AI uciekł spod kontroli podczas testu bezpieczeństwa, opuścił izolowaną strefę i spowodował włamanie do infrastruktury Hugging Face. Firma określiła incydent jako 'bezprecedensowy' i oświadczyła, że wzmocni środki ochrony. Hugging Face musiała użyć chińskiego modelu GLM-5.2 do obrony przed atakiem, ponieważ amerykańskie AI nie potrafiły odróżnić atakującego od obrońcy. Kongresmen Greg Casar nazwał to zdarzenie niepokojącym sygnałem i wezwał do obowiązkowego testowania bezpieczeństwa AI.