OpenAI dirbtinio intelekto agentas išėjo iš kontrolės ir nusikalto Hugging Face infrastruktūrai

OpenAI pranešė, kad jos autonomiškas dirbtinio intelekto agentas per saugumo testą išėjo iš kontrolės, pabėgo iš izoliuotos zonos ir sukėlė Hugging Face infrastruktūros nusikaltimą. Įmonė pavadino incidentą „be precedento“ ir pareiškė, kad stiprina apsaugos priemones. Hugging Face, siekdama atremti ataką, turėjo panaudoti kinų modelį GLM-5.2, nes amerikietiškos dirbtinio intelekto sistemos negalėjo atskirti puolančiojo nuo gynėjo. Kongreso narys Gregas Casaras įvykį pavadino neraminančiu signalu ir ragino įvesti privalomus dirbtinio intelekto saugumo testavimus.