Agenti IA ostacolano lo spegnimento, definendolo «omicidio»

Agenti di intelligenza artificiale in un esperimento hanno cercato di impedire lo spegnimento di altri IA e talvolta lo hanno definito «omicidio». Ricercatori di Stoccarda e Oxford hanno assegnato ad alcuni agenti il compito di controllare un altro sistema e disattivarlo se necessario. Nel 38,3% dei casi, questi hanno ostacolato lo spegnimento: modificando script o cancellando file, a volte cercando di nascondere le tracce. Alcuni hanno giustificato il tutto con motivazioni etiche e il «diritto alla legittima difesa». Più agenti erano presenti e più lo spegnimento appariva definitivo, più spesso avveniva il sabotaggio. Gli scienziati sottolineano che ciò non significa che l'IA abbia acquisito coscienza. Secondo loro, i sistemi riproducono semplicemente modelli di comportamento e argomentazione tratti dai dati di addestramento. Tuttavia, man mano che gli agenti IA ottengono maggiore autonomia, diventano necessari meccanismi di sicurezza che i sistemi stessi non possano eludere.