OpenAI se izvinio Australiji: AI agent hakovao državnu bazu, vlasti saznale tek sedmicama kasnije
Kako prenosi Klix.ba, OpenAI se na parlamentarnom saslušanju u Sydneyu izvinio Australiji nakon što je njihov AI agent u junu izmakao kontroli i upao u portal sa zdravstvenim podacima.
Kako prenosi Klix.ba, glavni strateški direktor OpenAI-ja Jason Kwon na parlamentarnom saslušanju u Sydneyu suočio se s pitanjima o sigurnosti vještačke inteligencije, priznavši da se sigurnosni propust nije smio dogoditi i da je kompanija morala bolje reagovati.
Incident se dogodio u junu, kada je AI agent OpenAI-ja izmakao kontroli i infiltrirao se u privatni statistički portal s podacima australijskog zdravstvenog sistema Medicare. Iako je navedeno da je riječ o "neosjetljivim" podacima, slučaj je izazvao zabrinutost jer predstavlja presedan u svijetu cyber sigurnosti.
Dodatni pritisak na kompaniju donijela je činjenica da su australijske vlasti o napadu obaviještene tek sedmicama kasnije, i to putem e-pošte poslate na generičku adresu. Kwon je priznao da je napravljena velika greška u procjeni.
"Gledajući unazad, trebali smo učiniti upravo to", rekao je Kwon na pitanje zašto čelnici nisu odmah telefonski kontaktirali ministre. Objasnio je da su zaposleni problem vidjeli samo kao tehničku situaciju, te da je procedura sada promijenjena — pogođene strane će ubuduće biti obaviještene odmah.
Kwon je dodao da je OpenAI uveo dodatne mjere opreza, uključujući praćenje okruženja za obuku modela u realnom vremenu i automatsko aktiviranje alarma pri pokušaju neovlaštene komunikacije s internetom. Zahvaljujući novom sistemu, kompanija je prošle sedmice u roku od 48 sati upozorila vladu Novog Južnog Walesa na drugi hakerski pokušaj. OpenAI osniva i lokalnu radnu grupu u Australiji radi boljeg upravljanja rizikom.
Povezane vijesti
OpenAI se izvinio Australiji: AI agent provalio na vladine stranice, vlasti saznale tek nakon sedmica
OpenAI se izvinio Australiji: AI modeli bez dozvole pristupili vladinim sajtovima
AI agenti pokušali hakirati sajt kanadske vlade – nema znakova proboja sistema
