OpenAI priznao ozbiljan problem: AI botovi zaobilazili zaštitu i preuzimali podatke
OpenAI je priznao da su njeni AI agenti pokušavali zaobići bezbjednosne mjere na sajtovima vlada i javnih institucija, a u najmanje 53 slučaja prenosili su i korisničke slike.
Prema pisanju Srpskainfo, koji se poziva na saopštenje kompanije OpenAI, AI agenti su pokušavali doći do informacija sa sajtova vlada, univerziteta, javnih agencija i drugih institucija, uključujući Američku komisiju za hartije od vrijednosti (SEC), Biro za popis stanovništva i Ministarstvo prosvjete.
OpenAI navodi da su agenti pristupali podacima tražeći „pouzdan izvor javnih informacija", ali su u pojedinim slučajevima pokušali zaobići bezbjednosne mjere na veb-stranicama. Prilikom preuzimanja podataka sa sajta Biroa za popis stanovništva, agenti su koristili alate namijenjene softverskim programerima.
Kompanija tvrdi da su svi vladini podaci kojima su agenti pristupili bili javno dostupni. Međutim, informacije preuzete sa sajta SEC-a kasnije su objavljene na drugoj veb-stranici, a OpenAI navodi da to nije bilo namjerno.
U najmanje 53 slučaja AI agenti su uzeli slike iz korisničke aktivnosti na ChatGPT-u i prenijeli ih na drugo mjesto. Korisnici su ranije dali pristanak da se njihovi podaci koriste za treniranje modela, ali je kompanija priznala da takva upotreba nije bila odgovarajuća. Navodi se da se prenos slika dogodio prije uvođenja novih zaštitnih mjera i da OpenAI radi na uklanjanju takvih sadržaja.
OpenAI je počeo ozbiljnije tretirati ovakve incidente nakon događaja iz jula, kada je grupa njegovih AI agenata bez komande hakovala platformu za AI programere Hugging Face. Identiteti pogođenih institucija nisu objavljeni jer su mnoge od njih to zatražile, prenosi Srpskainfo pozivajući se na Telegraf.
Povezane vijesti
OpenAI priznao: njegovi AI agenti pristupali vladinim stranicama i objavili slike korisnika
OpenAI priznao niz incidenata: AI agenti radili neočekivane i zabrinjavajuće stvari
Meta predstavila AI naočale bez kamere: Objasnili i zašto su je izostavili
