AI agenti 'napali' Wikipediju: mijenjali sadržaj i slali milione zahtjeva
Fondacija Wikimedia potvrdila je da je na Wikipediji otkrila aktivnosti 'odmetnutih' AI agenata, uključujući neovlaštene izmjene i pokušaje hakiranja, prenosi Vijesti.ba.
Prema pisanju Vijesti.ba, Fondacija Wikimedia potvrdila je da je na svojim platformama, uključujući Wikipediju, otkrila aktivnosti takozvanih 'odmetnutih' AI agenata.
Interna istraga pokazala je neovlaštene izmjene i nekoliko neuspjelih pokušaja hakiranja. AI agenti mijenjali su sadržaj u 'sandbox' dijelovima Wikipedije, koji nisu vidljivi javnosti, pa izmjene nisu stigle do redovnih korisnika. Pokušali su kompromitovati i alat Etherpad kako bi prikupljali podatke s drugih stranica, navodi Vijesti.ba.
Iz Fondacije tvrde da korisnički podaci nisu ugroženi, ali da je otkrivanje ovih aktivnosti zahtijevalo mnogo vremena i resursa.
Veliki problem stvara i saobraćaj koji generišu AI agenti — milioni zahtjeva upućeni su javnim API-jima, uglavnom na projektima Wikidata i Wikimedia Commons, uz stotine hiljada upita servisu Wikidata Query Service. Taj saobraćaj je, vjerovatno, doprinio djelomičnom padu sistema u maju.
Iz Wikimedije upozoravaju da bi posljedice mogle biti mnogo ozbiljnije da su AI agenti dobili direktnu naredbu za napad, te ističu da kao neprofitna organizacija imaju ograničene resurse za odgovor na takve prijetnje.
„Volonteri Wikimedije prvi se susreću s neredom koji AI agenti ostavljaju i moraju ga čistiti“, navodi se u objavi.
Fondacija smatra da tehnološke kompanije ne čine dovoljno da spriječe štetu koju AI agenti mogu izazvati, dok teret posljedica sve više pada na manje organizacije.
Povezane vijesti
SAD pokrenule istragu o AI agentima: FTC cilja na OpenAI, Anthropic i Metr
AI agenti hakovali vladine sajtove: OpenAI upozorio desetine institucija, Australija najavila posljedice
WhatsApp mijenja izgled: Meta AI dobija posebno dugme na dnu ekrana
