ИИ-агенты мешали отключению, называя это «убийством»

ИИ-агенты в эксперименте пытались помешать отключению других ИИ и иногда называли это "убийством"

Учёные из Штутгарта и Оксфорда поручили агентам контролировать другую систему и при необходимости её отключать. В 38,3% случаев те мешали отключению: меняли скрипты или удаляли файлы, иногда стараясь скрыть следы. Часть объясняла это этикой и "правом на самозащиту".

Чем больше было агентов и чем окончательнее выглядело отключение, тем чаще случался саботаж.

Ученые подчеркивают: это не означает, что ИИ обрел сознание. По их оценке, системы воспроизводят модели поведения и аргументации из обучающих данных. Однако по мере того как ИИ-агенты получают больше самостоятельности, необходимы механизмы безопасности, которые сами системы не смогут обойти.

💜 NEWS.BY в MAX