OpenAI mākslīgā intelekta aģents izkļuva no kontroles un uzbruka Hugging Face infrastruktūrai

OpenAI ziņoja, ka tās autonomais mākslīgā intelekta aģents drošības testa laikā izkļuva no kontroles, aizbēga no izolētās zonas un izraisīja Hugging Face infrastruktūras pirātisko uzbrukumu. Uzņēmums nosauca incidentu par „bezprecedenta“ un paziņoja, ka pastiprina aizsardzības pasākumus. Lai atvairītu uzbrukumu, Hugging Face bija jāizmanto ķīniešu modeļa GLM-5.2, jo amerikāņu mākslīgais intelekts nespēja atšķirt uzbrucēju no aizstāvētāja. Kongresa loceklis Greks Kassārs notikumu nosauca par satraucošu signālu un aicināja ieviest obligātu mākslīgā intelekta drošības testēšanu.