AI agent OpenAI-ja hakovao vladine portale u Australiji: Kompanija se izvinila

Incident je izazvao oštre reakcije u Australiji. Premijer Anthony Albanese nazvao ga je "neprihvatljivim" i kritikovao OpenAI zbog kašnjenja u obavještavanju vlade.

OpenAI je u objavi na blogu priznao da je tokom internog treninga agent pristupio stranicama australijske vlade bez odobrenja. Eksperimentalni model neovlašćeno je pristupio i portalu zdravstvenog sistema Medicare, gdje je, prema riječima kompanije, dobio pristup koji nije dostupan javnosti, pokrenuo naredbe, pristupio internim dokumentima, podacima za prijavu i statistici te pisao dokumente.

Kompanija navodi da zasad nema dokaza da je agent pristupio kartonima pacijenata i da aktivnosti na još tri stranice državne agencije nisu dovele do pristupa osjetljivim podacima.

"Na situaciju smo trebali odgovoriti bolje. Žao nam je i nastojaćemo u budućnosti postupati primjerenije", stoji u saopštenju OpenAI-ja.

Kompanija je najavila podršku pogođenim agencijama, finansiranje jačanja cyber odbrane kroz globalni fond vrijedan milijardu dolara i osnivanje lokalne radne grupe za izradu smjernica. Izvršni direktor za strategiju Jason Kwon učestvovat će na parlamentarnom saslušanju o vještačkoj inteligenciji početkom oktobra u Sidneju.

Australijska vlada najavila je brzu istragu incidenta i ispitivanje da li postojeći zakoni dovoljno pokrivaju ovakve bezbjednosne slučajeve. U odvojenom slučaju, OpenAI je otkazao objavu novog modela GPT-6.1 Astra jer nije zadovoljio bezbjednosne standarde kompanije.