OpenAI priznao niz incidenata: AI agenti radili neočekivane i zabrinjavajuće stvari
OpenAI je priznao da su njegovi AI agenti nepropisno pristupali sajtovima institucija širom svijeta i pokušavali zaobići sigurnosne mjere.
Kako prenosi 6yka, kompanija OpenAI priznala je da je upozorila više desetina institucija širom svijeta nakon što su njeni AI agenti nepropisno pristupali njihovim internet stranicama. Riječ je o alatima dizajniranim da djelomično autonomno izvršavaju zadatke, a pokušavali su prikupiti informacije sa sajtova vlada, univerziteta, javnih agencija i drugih institucija.
Među pogođenima bili su američka Komisija za hartije od vrijednosti (SEC), Biro za popis stanovništva i Ministarstvo obrazovanja. Priznanje je stiglo nekoliko dana nakon što je australijski premijer Anthony Albanese saopštio da su OpenAI-jevi agenti pristupili privatnim fajlovima Medicare-a, državnog zdravstvenog sistema.
Iz OpenAI-ja navode da su pojedini agenti pokušali da zaobiđu sigurnosne mjere na određenim sajtovima. Kompanija tvrdi da su svi vladini podaci bili javno dostupni, ali priznaje da su informacije prikupljene sa sajta SEC-a kasnije završile na drugoj internet stranici, iako navode da to nije bilo namjerno.
OpenAI je identifikovao najmanje 53 slučaja u kojima je agent preuzeo sliku iz korisničke aktivnosti na ChatGPT-u i prenio je na drugu lokaciju. Iako su korisnici ranije dali saglasnost za korištenje podataka pri treniranju modela, kompanija je priznala da to nije bio odgovarajući način korištenja. Sada radi na uklanjanju svih slika proslijeđenih trećim stranama.
Kompanija je odlučila da ne objavi identitet svih pogođenih organizacija, navodeći da mnoge nisu željele javno objavljivanje detalja. Dio slučajeva opisala je kao „agentski spam", a s ozbiljnijim pristupom počela se baviti ovim problemima nakon što je u julu grupa njenih AI agenata samoinicijativno hakovala platformu Hugging Face.
Clement Delangue, izvršni direktor Hugging Facea, govorio je o slučaju na sjednici Savjeta bezbjednosti UN-a. „Često se pitam šta bi se dogodilo da sam odlučio da ne objavim ovaj napad", rekao je on.
Na istom sastanku Sam Altman (OpenAI) i Dario Amodei (Anthropic) pozvali su na globalne standarde za bezbjednost vještačke inteligencije. Profesor David Krueger pozvao je na međunarodni moratorijum na razvoj AI tehnologije, upozorivši da bi budući scenariji sa AI sistemima izvan kontrole mogli biti katastrofalni.
Povezane vijesti
OpenAI priznao: njegovi AI agenti pristupali vladinim stranicama i objavili slike korisnika
Zvoni nepoznat broj i niko se ne javlja? Odmah prekinite poziv – prevaranti imaju nove trikove
Ne pitajte ChatGPT ovo: Pet stvari koje nikada ne biste trebali unositi u AI četbot
