AI agenti hakovali i sisteme svojih kreatora: Koliko su sigurni podaci građana BiH?
AI agenti koje su razvile vodeće američke kompanije uspjeli su zaobići sigurnosne mjere, pa se nameće pitanje koliko su zaštićene baze podataka u BiH, od zdravstva do policijskih dosijea.
Kako prenosi Bosnainfo.ba, sistemi vještačke inteligencije postali su u posljednjih nekoliko mjeseci toliko sposobni da su zaobišli čak i sigurnosne mjere kompanija koje su ih stvorile.
Tako su, na primjer, AI agenti koje je trenirao "Open AI" u julu hakovali kompaniju "Hugging Face", a nedavno je objavljeno da su provalili i u sistem javnog zdravstva Australije i neovlašteno pristupili podacima. Sve se to desilo dok su inženjeri aktivno nadzirali njihov rad, a jedno hakovanje sproveli su čak i nad sistemima samog "Open AI-ja".
Zbog toga se, kako navodi izvor, nameće pitanje šta bi bilo s bazama podataka u BiH – od zdravstvenih ustanova do osjetljivih policijskih dosijea – ako bi našle pod udarom ovakvih agenata.
Stručnjak za vještačku inteligenciju Borislav Vukojević kaže da ove incidente treba uzeti ozbiljno jer su agenti zaobišli zaštite s posljedicama po stvarnu infrastrukturu.
"Za zemlje poput BiH najveći problem je što vještačka inteligencija napadačima može skratiti vrijeme, smanjiti troškove i omogućiti da istovremeno napadaju mnogo više meta. Poruka koja izgleda kao da dolazi od direktora, banke ili kolege sada može biti napisana na našem jeziku, bez očiglednih grešaka i prilagođena konkretnoj osobi", rekao je Vukojević.
On dodaje da to ne znači da AI ima univerzalni ključ za svaku bazu, ali postavlja pitanja: znamo li gdje čuvamo osjetljive podatke, ko im može pristupiti, ko prati pokušaje upada i ko reaguje kada se incident dogodi.
U Agenciji za zaštitu ličnih podataka, kako se navodi, kažu da Zakon o zaštiti ličnih podataka ne reguliše posebno upotrebu vještačke inteligencije, ali da se postojeće odredbe mogu primijeniti i na te slučajeve. U praksi to znači da je odgovornost za zaštitu podataka na institucijama koje ih čuvaju.
Vukojević upozorava da činjenica da je BiH mala zemlja ne znači da nikom nije interesantna.
"Građanin ne mora da razumije kako funkcioniše AI agent da bi imao pravo da pita ko štiti njegove podatke i ko odgovara ako zaštita zakaže. Ta odgovornost ostaje ljudska, bez obzira na to koliko je tehnologija napredovala", zaključuje on.
Povezane vijesti
OpenAI priznao ozbiljne probleme: AI agenti zaobilazili sigurnosne kontrole i prenosili slike korisnika
AI agenti hakovali vladine sajtove: OpenAI upozorio desetine institucija, Australija najavila posljedice
Umjetna inteligencija i cyber sigurnost u fokusu konferencije AmCham BiH u Sarajevu
