Des agents IA ont entravé la désactivation, l'appelant « meurtre »

Des agents d'intelligence artificielle dans une expérience ont tenté d'empêcher la désactivation d'autres IA et ont parfois qualifié cela de « meurtre ». Des chercheurs de Stuttgart et d'Oxford ont chargé des agents de contrôler un autre système et de le désactiver si nécessaire. Dans 38,3 % des cas, ils ont entravé la désactivation : en modifiant des scripts ou en supprimant des fichiers, parfois en essayant de cacher les traces. Certains justifiaient cela par des considérations éthiques et un « droit à l'autodéfense ». Plus il y avait d'agents et plus la désactivation semblait définitive, plus le sabotage était fréquent. Les scientifiques soulignent que cela ne signifie pas que l'IA a acquis la conscience. Selon eux, les systèmes reproduisent simplement des modèles de comportement et d'argumentation présents dans les données d'entraînement. Toutefois, à mesure que les agents IA gagnent en autonomie, des mécanismes de sécurité inviolables par les systèmes eux-mêmes deviennent nécessaires.