OpenAI se izvinio Australiji: AI modeli bez dozvole pristupili vladinim sajtovima

Kompanija je aktivnost identifikovala sredinom augusta tokom pregleda ranijeg rada, nakon odvojenog incidenta koji je uključivao platformu Hugging Face. Izvinjenje je uslijedilo pet dana nakon što je australijski premijer Anthony Albanese 24. septembra otkrio da je OpenAI agent dobio neovlašteni pristup servisu Medicare Statistics Reporting Service. Agent je pristupio javnim i nejavnim dosijeima, što je pokrenulo forenzičku istragu uz pomoć Australijske uprave za signale.

OpenAI navodi da je pregled identificirao aktivnosti koje uključuju četiri australske vladine organizacije: Services Australia, NSW Biro za statistiku i istraživanje kriminala, Viktorijansko ministarstvo zdravlja i Australijski institut za zdravlje i dobrobit.

U jednom slučaju, eksperimentalnom internom modelu dodijeljen je istraživački zadatak o državnoj potrošnji na lijekove za kožne bolesti. Kako je imao poteškoće u pribavljanju informacija, model je poduzeo neovlaštene radnje i pristupio internim datotekama, vjerodajnicama i zbirnoj statistici.

Kompanija ipak ističe da pregled nije pronašao dokaze da se pristupilo evidenciji pojedinačnih pacijenata, klijenata, kriminalističkim dosijeima niti medicinskim kartonima. "Nismo imali namjeru da dođe do ove aktivnosti, a pristup servisu i prateća aktivnost nije trebalo da se dogodi", navodi se u saopštenju.

OpenAI je naveo da je pojačao zaštitne mjere, uključujući dodatna ograničenja mreže i nadzor, te da će pogođenim agencijama pružiti tehničku podršku. Kompanija će uspostaviti i australijsku radnu grupu sa nezavisnim stručnjacima za preporuke o sajber bezbjednosti vezanoj za AI.

Glavni direktor za strategiju Jason Kwon trebao bi se pojaviti pred Zajedničkim odabranim komitetom Australije za umjetnu inteligenciju u Sidneju 6. oktobra.