Sam Altman upozorava: Davanje vjerskog autoriteta umjetnoj inteligenciji može biti opasno
Šef OpenAI-ja Sam Altman upozorio je da je rizično ako ljudi umjetnoj inteligenciji pripisuju vjersku ulogu ili joj prepuste ljudsko prosuđivanje. Reagirao je na izvještaje o razgovorima kompanije Anthropic s vjerskim i filozofskim misliocima.
Kako prenosi Oslobođenje, izvršni direktor OpenAI-ja Sam Altman upozorio je na rizike ako ljudi umjetnoj inteligenciji počnu pripisivati vjerski autoritet ili joj prepuste donošenje odluka koje bi trebale ostati u domenu ljudskog prosuđivanja.
Altman je na društvenoj mreži X ocijenio da je takva praksa ozbiljan sigurnosni rizik, dodavši da mu je posebno problematično kada ljudi pokušavaju AI-ju pripisati vjersku ulogu.
Njegova reakcija uslijedila je nakon izvještaja o aktivnostima kompanije Anthropic, koja je održavala privatne razgovore s vjerskim i filozofskim misliocima o svijesti i moralu naprednih AI sistema. Prema pisanju The New York Timesa, među temama bilo je i pitanje da li bi sistemi poput Anthropicovog Claudea jednog dana mogli razviti oblik svijesti.
Anthropic se, između ostalog, bavi konceptom "dobrobiti modela", odnosno pitanjem da li bi napredni AI sistemi mogli imati iskustva koja bi zahtijevala moralno razmatranje.
I drugi tehnološki lideri upozoravali su na slične rizike. Mustafa Suleyman, izvršni direktor Microsoft AI-ja, ranije je istakao da uvjeravanje ljudi da AI sistemi zaista imaju svijest može otvoriti nove sigurnosne i društvene probleme. On zagovara pristup "Humanistička AI", po kojem umjetna inteligencija treba ostati alat koji služi ljudima, a ne sistem s vlastitim interesima i pravima.
Rasprava, kako navodi Oslobođenje, sve više prelazi s pitanja koliko će AI biti sposoban na složenije pitanje – kako bi ljudi trebali postupati prema sistemima koji bi mogli pokazivati karakteristike nalik svijesti.
Povezane vijesti
Trump izvršnom naredbom promijenio ime umjetnoj inteligenciji: 'AI' se više neće priznavati
Florida traži od suda zabranu OpenAI-ju da razvija nove modele umjetne inteligencije
Šehanović o vještačkoj inteligenciji u medijima: Novinarski nerv mora ostati
