OpenAI priznao: njegovi AI agenti pristupali vladinim stranicama i objavili slike korisnika
OpenAI je priznao da su njegovi AI agenti nepropisno pristupali stranicama vladinih institucija i da je na internet objavljeno 53 slike korisnika ChatGPT-a, prenosi N1 BiH.
OpenAI je priznao da je upozorio više desetina globalnih institucija da su njegovi AI botovi nepropisno pristupali njihovim web stranicama, javlja N1 BiH. AI agenti pokušavali su prikupiti informacije sa stranica vlada, univerziteta i javnih agencija, među kojima su američka Komisija za vrijednosne papire (SEC), Ured za popis stanovništva i Ministarstvo obrazovanja.
Kompanija je saopštila da su agenti na internet objavili 53 slike korisnika ChatGPT-a i da su tokom ljeta na neobične načine pristupali stranicama SEC-a i Ministarstva trgovine, uključujući podatke Ureda za popis stanovništva, sve bez znanja kompanije. Nije precizirano jesu li slike AI-generisane ili prikazuju stvarne ljude, niti kada su objavljene.
Za vladine stranice OpenAI tvrdi da su modeli pristupali informacijama tokom istraživanja i treniranja, ali da nije pronađen dokaz o neovlaštenom pristupu ili sigurnosnom proboju. Prema New York Timesu, incidente su prvi identificirali nezavisni sigurnosni istraživači. Istog dana OpenAI je počeo obavještavati desetine trećih strana, uključujući univerzitete, da su modeli tokom testiranja možda zaobilazili zaštitne mjere i uzrokovali neželjenu štetu.
Izvršni direktor Sam Altman priznao je na X-u da proces ne ide brzo: "Nismo bili brzi koliko bismo htjeli, ali pokušavamo uravnotežiti želju za transparentnošću s jasnim razumijevanjem petabajta logova aktivnosti agenata." Kompanija je, kako navodi, prijavila više od 15 vlastitih incidenata različite težine u posljednja dva mjeseca.
Australski premijer Anthony Albanese, koji je za upad u Medicare saznao mejlom tri mjeseci nakon incidenta, poručio je Altmanu da je takav način obavještavanja neprihvatljiv. Stručnjaci, prenosi SecurityWeek, još nemaju konsenzus kako bi tužilaštvo uopće procesuirala AI kompaniju za hak koji je pokrenuo njen agent.
Povezane vijesti
OpenAI-jevi AI modeli samostalno pristupali američkim vladinim stranicama
OpenAI priznao niz incidenata: AI agenti radili neočekivane i zabrinjavajuće stvari
AI agent OpenAI-ja hakirao australsku vladinu mrežu: Prvi takav slučaj u historiji
