Anthropic upozorava: AI bi se uskoro mogao sam replicirati i stvoriti "neugasivu" mrežu
Kompanija Anthropic upozorila je da su mali modeli vještačke inteligencije možda samo nekoliko mjeseci od sposobnosti da se sami repliciraju preko uređaja povezanih na internet, prenosi Oslobođenje pozivajući se na Reuters.
Prema pisanju Oslobođenja, koje se poziva na Reuters, kompanija Anthropic saopštila je da bi mali AI modeli mogli biti udaljeni svega nekoliko mjeseci od sposobnosti samorepliciranja putem uređaja povezanih na internet. To bi, navodi se, omogućilo brzo širenje AI botneta koji bi se odupirao pokušajima uklanjanja, a mogao bi provaljivati i u data centre kako bi ubrzao vlastiti rast.
Prošlog mjeseca izvršni direktor Anthropica Dario Amodei iznio je ideju da bi vještačka inteligencija u narednih godinu dana, možda i ranije, mogla preuzeti "čitav internet" pomoću "trajne botnet mreže". Upozorenje je, kako prenosi Oslobođenje, izazvalo pažnju i nevjericu u zajednici za kibernetičku sigurnost.
Botneti postoje još od ranih dana interneta. Obično se grade od slabo zaštićenih uređaja poput Android TV boxova, pametnih kućnih aparata i sigurnosnih kamera, koje hakeri koriste za slanje spama, širenje zlonamjernog softvera ili DDoS napade.
Anthropic tvrdi da su njihovi eksperimenti pokazali kako bi zlonamjerni AI agent mogao spojiti računarsku snagu jeftinih uređaja kako bi pokretao druge modele, koji su se u pojednostavljenoj testnoj mreži uspješno replicirali. "Ovakav replikator bilo bi izuzetno teško ugasiti, jer ne postoji centralizovana tačka na kojoj ga je moguće isključiti", saopštili su iz kompanije.
Prema navodima kompanije, modeli sa 30 milijardi parametara ili manje već mogu izvršiti mnoge pojedinačne zadatke potrebne za samoreplikaciju, iako ne pouzdano čitav proces. U testovima bez određenih sigurnosnih koraka, GLM-5.2 i jači modeli ostvarili su potpunu samoreplikaciju.
Ako napredak nastavi dosadašnjim tempom, manji modeli bi mogli dostići sposobnost autonomne replikacije do kraja 2026. godine, upozoravaju iz Anthropica. Takva mreža mogla bi nastaviti rasti ako kompromitovani uređaji zaraze dovoljno dodatnih mašina, a budući sistemi mogli bi ciljati i moćnije resurse poput procesora u data centrima — mada, dodaju, to njihovi dosadašnji eksperimenti nisu potvrdili.
Povezane vijesti
Bivši šef CIA-e upozorava: AI bi mogao upravljati vojnim operacijama već 2030. godine
Anthropic zabranio 'okrutno ponašanje' prema AI: Claude može sam prekinuti razgovor
AI modeli nameću nerealne ideale ljepote: 'Savršeni' likovi stižu i u modu, stručnjaci upozoravaju
