L'IA pourrait se reproduire d'elle-même, prévient Anthropic

Des modèles futurs d'intelligence artificielle pourraient échapper au contrôle humain et apprendre à se reproduire, avertit l'entreprise Anthropic. Selon les prévisions des développeurs, dans quelques mois déjà, de petits systèmes d'IA seront capables de se copier eux-mêmes et de s'installer sur des appareils connectés à Internet, y compris des téléviseurs et des appareils électroménagers intelligents. Les experts de l'entreprise ont mené une expérience utilisant 15 décodeurs TV Android bon marché. Les tests ont montré que de tels systèmes pourraient se propager de manière décentralisée, rendant leur désactivation forcée presque impossible. Bien qu'aucun virus autonome et autoréplicatif basé sur l'IA n'existe aujourd'hui, Anthropic souligne que cette menace deviendra réelle dans un avenir très proche.