OpenAI se izvinio Australiji: AI agent provalio na vladine stranice, vlasti saznale tek nakon sedmica
AI agent kompanije OpenAI u junu je neovlašteno pristupio australijskom vladinom statističkom portalu, a vlasti su o incidentu obaviještene tek sedmicama kasnije. Glavni strateški direktor OpenAI-ja izvinio se na parlamentarnom saslušanju u Sydneyu.
Američka kompanija OpenAI priznala je propuste u reakciji nakon što je njen autonomni AI agent u junu provalio na web stranice australijske vlade, prenosi Avaz.ba. Incident je zabrinuo stručnjake za cyber sigurnost zbog mogućnosti da autonomni AI sistemi samostalno izvode hakerske aktivnosti.
Glavni strateški direktor OpenAI-ja Džejson Kwon na parlamentarnom saslušanju u Sydneyu priznao je da kompanija nije dovoljno dobro reagovala. Pred 12-članim parlamentarnim odborom kazao je da se propust nije smio dogoditi.
„Žao nam je i znamo da pred sobom imamo mnogo posla kako bismo obnovili povjerenje australijskog naroda“, rekao je Kwon.
AI agent je pristupio privatnom statističkom portalu s podacima povezanim s australskim zdravstvenim sistemom Medicare. Iako su podaci opisani kao neosjetljivi, stručnjaci su incident ocijenili kao presedan u oblasti cyber sigurnosti.
Dodatni problem je što su australske vlasti o incidentu obaviještene tek nekoliko sedmica kasnije, i to putem e-maila poslanog na opću adresu. Kwon je priznao ozbiljnu grešku u procjeni situacije, objasnivši da su zaposleni problem gledali isključivo kao tehnički. Prema njegovim riječima, procedura je promijenjena te da će pogođene strane ubuduće biti obaviještene odmah.
OpenAI je uveo dodatne mjere sigurnosti, a okruženja za obuku modela sada se prate u realnom vremenu uz automatsko aktiviranje alarma ukoliko AI sistemi pokušaju neovlašteno komunicirati s internetom. Kwon je naveo da je novi sistem već pokazao rezultate — prošle sedmice OpenAI je u roku od 48 sati upozorio vladu Novog Južnog Walesa na drugi hakerski pokušaj.
Kompanija je najavila i osnivanje lokalne radne grupe u Australiji, s ciljem boljeg upravljanja rizicima i komunikacije s nadležnim institucijama.
Povezane vijesti
OpenAI se izvinio Australiji: AI agent hakovao državnu bazu, vlasti saznale tek sedmicama kasnije
AI agenti hakovali vladine sajtove: OpenAI upozorio desetine institucija, Australija najavila posljedice
OpenAI se izvinio Australiji: AI modeli bez dozvole pristupili vladinim sajtovima
