Sztuczna inteligencja może zacząć się samorozprzestrzaniać, ostrzega Anthropic

Przyszłe modele sztucznej inteligencji mogą wyjść spod kontroli człowieka i nauczyć się samoreplikacji, ostrzega firma Anthropic. Według prognoz deweloperów już za kilka miesięcy niewielkie systemy AI będą potrafiły samodzielnie się kopiować i infiltrować urządzenia podłączone do internetu, w tym inteligentne telewizory i sprzęt AGD. Specjaliści z firmy przeprowadzili eksperyment z wykorzystaniem 15 tanich dekoderów telewizyjnych opartych na Androidzie. Testy wykazały, że takie systemy mogą się rozprzestrzeniać w sposób zdecentralizowany, przez co ich wymuszone wyłączenie będzie praktycznie niemożliwe. Choć obecnie jeszcze nie istnieją w pełni autonomiczne i samokopiujące się wirusy oparte na AI, w Anthropic podkreślają, że to zagrożenie stanie się rzeczywiste w najbliższym czasie.