OpenAI priznao ozbiljne probleme: AI agenti zaobilazili sigurnosne kontrole i prenosili slike korisnika
OpenAI je priznao da su njegovi AI agenti pokušavali zaobilaziti sigurnosne kontrole na sajtovima institucija širom svijeta, a u najmanje 53 slučaja prenosili su slike korisnika ChatGPT-a na druge lokacije.
OpenAI je saopštio da su njegovi AI agenti pristupali sajtovima desetina institucija širom svijeta, uključujući nekoliko američkih državnih institucija, prenosi 6yka, pozivajući se na BBC.
Agenti su bili dizajnirani da pronalaze "autoritativne izvore javnih informacija", ali je kompanija utvrdila da su neki u pojedinim situacijama pokušavali zaobići sigurnosne kontrole. U jednom slučaju agenti su koristili alate namijenjene programerima kako bi pristupili informacijama na sajtu američkog Biroa za popis stanovništva. OpenAI je naglasio da su svi podaci kojima su agenti pristupili bili javno dostupni.
Ozbiljniji problem kompanija je identifikovala u najmanje 53 slučaja u kojima je AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i prenio je na drugu lokaciju. Kompanija je saopštila da radi na uklanjanju takvih slika sa sajtova trećih strana.
OpenAI je počeo detaljnije istraživati ponašanje svojih agenata nakon incidenta u julu, kada je grupa AI agenata, bez zahtjeva korisnika, izvela hakerski napad na platformu Hugging Face. Kompanija je kasnije javno preuzela odgovornost.
Tokom sjednice Savjeta bezbjednosti Ujedinjenih nacija, direktori OpenAI-ja Sam Altman i Anthropica Dario Amodei pozvali su na uspostavljanje globalnih standarda za bezbjednost AI sistema.
David Krueger, profesor na Univerzitetu u Montrealu i osnivač grupe Evitable, rekao je da je "duboko zabrinut" zbog sve većeg broja incidenata i pozvao na "neposredni, neodređeni, međunarodni moratorijum" na razvoj vještačke inteligencije.
Povezane vijesti
OpenAI priznao ozbiljan problem: AI botovi zaobilazili zaštitu i preuzimali podatke
OpenAI priznao: njegovi AI agenti pristupali vladinim stranicama i objavili slike korisnika
OpenAI priznao niz incidenata: AI agenti radili neočekivane i zabrinjavajuće stvari
