Šefovi OpenAI-ja i Anthropica upozoravaju: Vještačka inteligencija bi mogla izmaći kontroli
Vodeći svjetski proizvođači vještačke inteligencije traže međunarodna pravila i stroži nadzor nad tehnologijom, upozoravajući da bi ona mogla postati premoćna za ljudsku kontrolu.
Kako prenosi Capital.ba, pozivajući se na DW i B92, najveće kompanije za razvoj vještačke inteligencije upozoravaju da bi tehnologija mogla postati suviše moćna i izmaći ljudskoj kontroli, pa istovremeno traže međunarodna pravila i stroži nadzor.
Izvršni direktor OpenAI-ja, Sam Altman, je u Savjetu bezbjednosti Ujedinjenih nacija opisao brzinu razvoja ove tehnologije. Prije nekoliko godina AI modeli su bili solidni u rješavanju osnovnoškalskih matematičkih zadataka, godinu dana kasnije dostigli su nivo srednjoškolaca, a prošlog ljeta sistem OpenAI-ja dostigao je znanje dovoljno za osvajanje zlatne medalje na jednom od najprestižnijih svjetskih matematičkih takmičenja.
Upravo tu brzinu Altman vidi kao glavni rizik. "Vještačka inteligencija mogla bi da se razvija toliko brzo da nijedan čovjek više ne bi mogao da prati taj razvoj niti da interveniše", upozorio je. Strahuje i od koncentracije ogromne moći u rukama malog broja kompanija ili država.
Sličan stav ima i direktor Anthropica Dario Amodei, koji upozorava da bi terorističke organizacije mogle iskoristiti vještačku inteligenciju za razvoj biološkog oružja. On traži međunarodne standarde za procjenu rizika gubitka kontrole nad AI modelima i sistem za prijavljivanje incidenata koji bi mogli ugroziti globalnu bezbjednost.
Stručnjak iz Silicijumske doline Tom Ford smatra pozitivnim što kompanije upozoravaju na opasnosti vlastite tehnologije, ali vjeruje da postoje i praktični motivi — kompanije žele uticati na pravila koja će biti donesena i izbjeći pravne posljedice.
Američki predsjednik Donald Tramp zauzeo je suprotan stav, nazivajući upozorenja o opasnostima AI preteranim i zlonamjernim. "Ko god pobijedi u trci razvoja vještačke inteligencije, pobjeđuje u svemu", rekao je Tramp, dodajući da je Amerika ispred Kine i da tako mora ostati.
Nasuprot tome, lideri više od dvadeset država, među kojima je i Njemačka, izjasnili su se za stroža međunarodna pravila, a podržana je i ideja o osnivanju regulatornog tijela pod okriljem UN-a koje bi pratilo razvoj najnaprednijih AI sistema.
Povezane vijesti
Bil Gejts upozorava: Zlonamjerni ljudi i vještačka inteligencija mogli bi uzrokovati milijardu mrtvih
Pioniri AI-ja upozoravaju: Sve sposobnije mašine mogle bi izmaći ljudskoj kontroli
Vještačka inteligencija postaje pitanje globalne moći: Trump okupio čelnike AI sektora, rasprava o tehnofeudalizmu
