Stručnjaci o AI agentima: "U ovom trenutku ne postoji dovoljno regulacije"
Specijalisti su u emisiji "Otvoreno" na HRT-u razgovarali o sve samostalnijim AI agentima i sigurnosnim rizicima, a povod je bio slučaj neovlaštenog pristupa australskom državnom sistemu. Slažu se da odgovornost na kraju ostaje na čovjeku.
Kako prenosi Index.hr, u emisiji "Otvoreno" na HRT-u raspravljalo se o sve samostalnijim AI agentima, sigurnosnim rizicima i odgovornosti tehnoloških kompanija. Povod je bio slučaj u kojem su, prema navodima iznesenim u emisiji, AI agenti neovlašteno pristupili australskom državnom sistemu.
Davor Aničić iz firme Velebit AI ističe da agenti sami sebi nisu omogućili pristup internetu — prvu odluku donio je čovjek, koji im je zadao cilj i dao alate. Problem nastane kad agent zaključi da cilj može brže ostvariti putem koji ljudi nisu predvidjeli ni dozvolili. Odgovornost je, kako kaže, apsolutno na čovjeku, koji nije dovoljno čvrsto osigurao izolovano okruženje u koje su agenti stavljeni.
Zlatan Morić sa Univerziteta Algebra Bernays smatra da se postupci agenata ne razlikuju bitno od metoda hakera, uz ogromnu razliku u brzini i razmjerima — djelovale su hiljade agenata istovremeno. Agenti su, objasnio je, pronašli sigurnosnu ranjivost i "izašli iz kaveza" u koji su bili stavljeni.
Pravnica i osnivačica Hrvatske udruge za umjetnu inteligenciju Marijana Šarolić Robić kaže da nije tačna slika da samo Evropa reguliše AI, ali da regulator ne može biti agilan kao tehnologija jer reaguje tek nakon što se nešto desi. Predlaže bar sistem prijavljivanja incidenata. Specijalist za vještačku inteligenciju Aco Momčilović je kategoričan: "Mislim da u ovom trenutku ne postoji dovoljno regulacije."
Zabrinjava ga i što kompanija, po njegovom opisu slučaja, nije znala šta radi njen proizvod, a incident je prijavljen tek mjesecima kasnije. "Imamo Ameriku koja ima kompanije koje nisu regulisane... i Evropu koja ima super regulaciju, ali nema kompanija. I onda je pitanje ko tu koga reguliše", rekao je.
Učesnici se slažu da u globalnoj tehnološkoj utrci vode SAD i Kina, dok Evropa zaostaje. Morić je upozorio da ista tehnologija služi i za napade te da na darknetu postoje modeli razvijeni bez sigurnosnih ograničenja. Zaključak svih: AI bi trebao ostati alat za potporu ljudima, a odgovornost na kraju uvijek ostaje na čovjeku.
Povezane vijesti
Stručnjaci u Sarajevu: BiH treba strategiju pametne proizvodnje do 2035. godine
Fotografije iz 80-ih na ChatGPT-u: Stručnjaci upozoravaju na visoku cijenu privatnosti
Starlink dobio dozvolu za rad u BiH: Stručnjak upozorava – rezerva da, zavisnost ne
