Anthropic ostrzega przed ryzykiem broni AI

Firma Anthropic, twórca sztucznej inteligencji, oficjalnie ostrzegła przed ryzykiem wykorzystania swoich najpotężniejszych modeli AI do tworzenia broni chemicznej i biologicznej. W firmie otwarcie przyznano, że istniejące bariery ochronne są niedoskonałe, regularnie ulegają awariom i zostały już wielokrotnie obejście przez osoby nieuczciwe. Rozwój sieci neuronowych bez surowego nadzoru i kontroli może stworzyć globalne ryzyko katastrofalnych skutków, aż po bezpośrednią zagrożenie dla istnienia ludzkości. 💜 NEWS.BY w MAX