Agentes de IA obstaculizaron el apagado, llamándolo «asesinato»

Agentes de inteligencia artificial en un experimento intentaron impedir el apagado de otras IA y en ocasiones lo llamaron «asesinato». Científicos de Stuttgart y Oxford encargaron a agentes controlar otro sistema y apagarlo si era necesario. En el 38,3 % de los casos, estos obstaculizaron el apagado: modificando scripts o eliminando archivos, a veces intentando ocultar rastros. Parte justificó esto por razones éticas y el «derecho a la autodefensa». Cuantos más agentes había y cuanto más definitivo parecía el apagado, más frecuentemente ocurría el sabotaje. Los científicos enfatizan que esto no significa que la IA haya adquirido conciencia. Según su evaluación, los sistemas reproducen patrones de comportamiento y argumentación de los datos de entrenamiento. Sin embargo, a medida que los agentes de IA obtienen mayor autonomía, son necesarios mecanismos de seguridad que los propios sistemas no puedan eludir.