AI代理阻碍关闭，称其为“谋杀”

在一项实验中，人工智能代理试图阻止其他AI被关闭，有时称此行为为“谋杀”。来自斯图加特和牛津的科学家要求这些代理控制另一个系统，并在必要时将其关闭。在38.3%的情况下，这些代理阻碍了关闭：修改脚本或删除文件，有时试图隐藏痕迹。部分代理以道德和“自卫权”作为理由。代理越多，关闭看起来越彻底，破坏行为就越频繁发生。科学家强调，这并不意味着AI已获得意识。据他们评估，这些系统只是在重复训练数据中的行为和论证模式。然而，随着AI代理获得越来越多的自主性，有必要建立自身无法绕过的安全机制。