Čelnici OpenAI-ja i Anthropica pred UN-om: Niko ne bi trebao kontrolisati umjetnu inteligenciju

Altman je naglasio da umjetnu inteligenciju treba razvijati za ljude, a ne samo ubrzavati rad mašina radi njih samih, dodajući da neke izjave ljudi koji rade na toj tehnologiji zvuče poput radnje loših naučnofantastičnih filmova. Upozorio je i da odluke o umjetnoj inteligenciji ne mogu donositi samo laboratoriji u San Franciscu, već kroz demokratske procese i vlade odgovorne ljudima.

Izvršni direktor Anthropica Dario Amodei izdvojio je dva ključna rizika: zloupotrebu modela, uključujući upotrebu od strane bioterorista za izradu biološkog oružja, te opasnost da se sposobnosti modela razviju brže nego što ih njihovi tvorci mogu kontrolisati. Rekao je da će njegova kompanija usporiti koliko bude potrebno kako bi novi sistemi bili sigurni, ali je naglasio da je upravljanje rizicima veće od bilo koje pojedinačne kompanije.

Amodei je pozvao na zajedničke globalne standarde za testiranje modela, opisujući to pitanje kao najvažnije globalno sigurnosno pitanje današnjice.

Yoshua Bengio, supredsjedatelj Međunarodnog nezavisnog panela UN-a za umjetnu inteligenciju, usprotivio se prikazu razvoja te tehnologije kao neizbježnog takmičenja. "Utrka nije zakon prirode; ona je posljedica izbora, izbora koje donose same kompanije", rekao je Bengio, dodajući da "utrka ugrožava svaku državu".