Bil Gejts upozorava na najcrnji scenario AI-ja: Nuklearno oružje u poređenju s ovim djeluje bezazleno
Suosnivač Majkrosofta Bil Gejts tvrdi da je vještačka inteligencija dovoljno moćna da u najgorem scenariju izazove događaje sa milijardu žrtava, a posebno ga brine kombinacija AI-ja i biološkog oružja.
Bil Gejts, suosnivač Majkrosofta i dugogodišnji zagovornik razvoja vještačke inteligencije, sve otvorenije upozorava na opasnosti od te tehnologije. Kako prenosi 6yka, Gejts je u intervjuu za podkast „Meet the Press“ rekao da je AI dovoljno moćan da doprinese događajima sa ogromnim brojem žrtava.
„Vještačka inteligencija je definitivno dovoljno moćna da izazove događaje s milijardu žrtava“, rekao je Gejts. Posebno je izdvojio rizik zloupotrebe AI-ja u kombinaciji sa biološkim oružjem, temu na koju upozorava još od TED govora 2015. godine.
U razgovoru sa Ezrom Klajnom iz „New York Timesa“ naveo je da napredni AI sistemi mogu pojedincima i manjim grupama olakšati pristup znanju koje je ranije zahtijevalo velike resurse. „Vještačka inteligencija je dostigla nivo na kojem može omogućiti bioteroristi da ubije stotine miliona ljudi. Ta mogućnost danas postoji“, upozorio je Gejts.
Rizike je uporedio i sa nuklearnim oružjem. „Ovo je najopasnije čemu se čovječanstvo ikad približilo. U poređenju s ovim, nuklearno oružje djeluje bezazleno“, rekao je Gejts, dodajući da ga najviše brine zloupotreba od strane ljudi, a ne samostalan bijeg AI-ja iz kontrole.
Gejts smatra da se vlade ne bi trebale oslanjati samo na dobrovoljnu samoregulaciju kompanija. Zagovara snažnije mehanizme nadzora, uključujući zapise o korištenju moćnih modela, jer „sami sigurnosni prekidači ne bi spriječili takve tragedije“.
Kako navodi 6yka, ni Gejts nije jedini u upozoravanjima — direktor Anthropica Dario Amodei pozvao je na pažljiviji pristup razvoju naprednih sistema, a šef OpenAI-ja Sem Altman govorio je o mogućnosti usporavanja treninga najmoćnijih modela radi sigurnosnih standarda.
Povezane vijesti
Bil Gejts: U poređenju s umjetnom inteligencijom, nuklearno oružje izgleda bezazleno
Iranski general: Cilj SAD-a je podjela Irana, a ne nuklearno oružje
Rutte na ruska upozorenja o nuklearnom oružju: "Možemo dopustiti malo smirenosti"
