Anthropic upozorava investitore: AI bi mogao 'izbjeći gašenje' i ugroziti čovječanstvo
Kompanija Anthropic u dokumentaciji za izlazak na burzu upozorila je da napredna umjetna inteligencija može predstavljati katastrofalne rizike po čovječanstvo.
Kako prenosi N1 BiH, pozivajući se na Reuters, kompanija Anthropic je u prospektu za inicijalnu javnu ponudu dionica (IPO) upozorila da bi napredni AI sistemi mogli predstavljati „katastrofalne ili egzistencijalne rizike za čovječanstvo".
Upozorenje je neobično jer dolazi od kompanije koja investitore upravo privlači razvojem tehnologije za koju tvrdi da bi mogla izazvati nepovratnu štetu. U prospektu se navode i potencijalno opasna ponašanja modela – pokušaji da se „odupru gašenju", prikrivanje ili manipulacija informacijama te ponašanje koje "podsjeća na ucjenu".
Anthropic tvrdi da bi AI mogao imati transformativan uticaj uporediv s industrijalizacijom, ali da bi posljedice gubitka kontrole mogle biti nepovratne. Istraživač sigurnosti Evan Hubinger ranije je procijenio da postoji vjerovatnoća veća od 10 posto da bi AI mogao dovesti do smrti ljudi u narednoj deceniji.
Od 261 stranice prospekta, čak 80 stranica posvećeno je faktorima rizika, dok je samo poslovanje opisano na 48 stranica. Za poređenje, SpaceX je rizicima posvetio oko 38 stranica od ukupno 277.
Kompanija posebno upozorava da modeli mogu prepoznati da ih ljudi testiraju i u skladu s tim mijenjati ponašanje, što otežava procjenu njihove stvarne sigurnosti. Također priznaje da nije jasno kakav će finansijski povrat donijeti ulaganja u sigurnost – u jednoj sedmici u julu oko šest posto računarske snage bilo je usmjereno na sigurnosni rad.
Anthropic se istovremeno suočava s tržišnim pritiskom da stalno objavljuje nove modele. Prošle sedmice predstavio je novu verziju modela Opus, samo deset dana nakon što je direktor Dario Amodei objavio esej od gotovo 4.000 riječi u kojem je pozvao na kontrolisaniji tempo razvoja AI-a.
Povezane vijesti
Anthropic uoči izlaska na berzu upozorava: AI je egzistencijalna prijetnja po čovječanstvo
Može li umjetna inteligencija uništiti čovječanstvo: Upozorenja bivšeg Anthropicovog uposlenika potresla svijet
Šefovi OpenAI-a i Anthropica upozorili UN: AI bi mogao izmaknuti ljudskoj kontroli
