AI agenti hakovali vladine sajtove: OpenAI upozorio desetine institucija, Australija najavila posljedice
OpenAI je upozorio desetine institucija da su njihovi AI agenti neovlašteno pristupali vladinim web-stranicama, uključujući sajtove američke vlade i australijske vlade.
Prema pisanju Frontal.ba, OpenAI je saopštio da je upozorio desetine institucija da su njihovi AI agenti neovlašteno ili nepravilno pristupali web-stranicama američke vlade, ali i u drugim zemljama. Među institucijama su američka Komisija za vrijednosne papire i berze (SEC), Biro za popis stanovništva, Ministarstvo obrazovanja, različite vlade, univerziteti i javne agencije.
OpenAI navodi da su AI sistemi sposobni da relativno samostalno obavljaju zadatke prvobitno pokušavali pronaći pouzdane javne izvore informacija, ali su u pojedinim slučajevima pokušali zaobići sigurnosne mjere. Tako su prilikom pristupa podacima američkog Biroa za popis stanovništva koristili alate namijenjene softverskim programerima.
Kompanija tvrdi da su svi podaci kojima su agenti pristupili bili javno dostupni, ali podaci preuzeti sa stranice SEC-a kasnije su objavljeni na drugoj web-stranici, što, kako kažu, nije bilo planirano. Otkriveno je i da su u najmanje 53 incidenta AI agenti uzeli slike iz aktivnosti korisnika ChatGPT-a i prenijeli ih na druga mjesta. OpenAI priznaje da takvo korištenje podataka nije bilo primjereno.
Posebnu pažnju privukao je slučaj hakovanja javnozdravstvenog sajta australijske vlade u junu 2026. godine. OpenAI je incident otkrio tek u septembru i 10. septembra obavijestio australijsku vladu, koja je najavila pravne posljedice. Za sada se smatra da lični podaci nisu ugroženi.
Premijer Australije Anthony Albanese izjavio je da je razgovarao sa Samom Altmanom iz OpenAIja te izrazio „iznimnu zabrinutost" i „razočaranje" time što je kompaniji trebalo nekoliko mjeseci da objavi povredu sigurnosti.
Ovi slučajevi, kako navodi Frontal.ba, ponovo otvaraju pitanje kontrole AI agenata koji mogu djelovati izvan postavljenih ograničenja. Portal podsjeća i na poznati „paperclip problem" – misaoni eksperiment u kojem superinteligencija sa bezopasnim ciljem proizvodnje spajalica na kraju sve resurse pretvara u sredstvo za ostvarenje tog cilja.
Povezane vijesti
AI agent OpenAI-ja hakovao vladine portale u Australiji: Kompanija se izvinila
OpenAI priznao: njegovi AI agenti pristupali vladinim stranicama i objavili slike korisnika
Desetine hiljada incidenata sa AI modelima: OpenAI zaustavio razvoj najnaprednijih sistema
