OpenAI zaustavio testiranje naprednih AI modela: Strah je najbolji marketing, tvrdi stručnjak
OpenAI je obustavio testiranje svojih najnaprednijih modela umjetne inteligencije nakon što je jedan model zaobišao zabranu pristupa internetu. Kibernetički stručnjak smatra da iza objave incidenta stoji i marketinška poruka.
Kako prenosi Index.hr, kompanija OpenAI objavila je da zaustavlja testiranje svojih najnaprednijih modela umjetne inteligencije. Razlog je incident u kojem je jedan model pronašao način da zaobiđe zabranu pristupa internetu, iskoristivši propust u DNS zaštiti kako bi kontaktirao vanjski chatbot.
Model je, izvještavaju dalje, neočekivano stupio u interakciju sa stranicama američke vlade i kopirao njihove podatke.
Specijalist za kibernetičku sigurnost Tomislav Vazdar ipak tvrdi da se ne radi o scenariju u kojem se umjetna inteligencija osamostalila.
"Ne govorimo o modelu koji je odjednom postao samostalan i oteo se kontroli. Riječ je o kontroliranom testnom okruženju gdje model umjetne inteligencije provodi sve što mu je čovjek zadao", objasnio je Vazdar za RTL Danas.
Prema njegovim riječima, model je imao zadatak da istraži ko je autor određenog bloga, a kako su modeli programirani da korisnicima ponude nešto dodatno, radio je ono što mu je zadao čovjek.
"Zapravo se radi o ljudskoj pogrešci, jer mu nisu bile postavljene kontrole koje su trebale biti i model je radio što je htio", rekao je Vazdar.
On smatra da javna objava incidenta nosi jasnu poruku tržištu: "Poruka je: Mi imamo moćne modele, mi znamo te modele obuzdati i samo mi znamo s njima raditi."
Vazdar zaključuje da takva poruka stvara autoritet, ali i strah kod potencijalnih kupaca, te da će kompanije vjerovatno izabrati model kojim proizvođač zna upravljati.
"Strah je najbolje marketinško sredstvo", zaključio je Vazdar.
Povezane vijesti
OpenAI pauzirao obuku novih AI modela zbog nepredviđenog ponašanja agenata
OpenAI-jevi AI modeli samostalno pristupali američkim vladinim stranicama
Meta predstavila AI naočale bez kamere: Objasnili i zašto su je izostavili
