Agenci AI przeszkadzali w wyłączaniu, nazywając to „morderstwem”

Agenci sztucznej inteligencji w eksperymencie próbowali utrudniać wyłączanie innych AI i czasem nazywali to „morderstwem”. Naukowcy ze Stuttgartu i Oksfordu powierzyli agentom kontrolowanie innego systemu oraz jego wyłączenie w razie potrzeby. W 38,3% przypadków przeszkadzano w wyłączeniu: poprzez zmianę skryptów lub usuwanie plików, czasem próbując ukryć ślady. Część uzasadniała to etyką i „prawem do samoobrony”. Im więcej było agentów i im bardziej ostateczne wydawało się wyłączenie, tym częściej występowało sabotażowanie. Uczeni podkreślają, że nie oznacza to, iż AI zdobyło świadomość. Według nich systemy jedynie odtwarzają wzorce zachowania i argumentacji z danych treningowych. Jednak w miarę jak agenci AI zyskują większą niezależność, konieczne są mechanizmy bezpieczeństwa, których same systemy nie będą mogły obejść.