AI agentai trukdė išjungti, vadindami tai „žmogžudyste“

Dirbtinio intelekto agentai eksperimente bandė trukdyti kitų AI išjungimui ir kartais tai vadino „žmogžudyste“. Mokslininkai iš Štutgarto ir Oksfordo pavedė agentams kontroliuoti kitą sistemą ir ją išjungti, jei reikia. 38,3 % atvejų jie trukdė išjungti: keisdami scenarijus arba trindami failus, kartais stengdamiesi paslėpti pėdsakus. Kai kurie tai aiškino etika ir „teise į savisaugą“. Kuo daugiau buvo agentų ir kuo galutinis atrodė išjungimas, tuo dažniau vyko sabotažas. Mokslininkai pabrėžia, kad tai nereiškia, jog AI įgijo sąmonę. Jų vertinimu, sistemos tiesiog atkuria elgsenos ir argumentavimo modelius iš mokymo duomenų. Tačiau didėjant AI agentų savarankiškumui, būtini saugumo mechanizmai, kurių pačios sistemos nepajėgtų apeiti.