Anthropic uoči izlaska na berzu upozorava: AI je egzistencijalna prijetnja po čovječanstvo
Klix.ba prenosi da je kompanija Anthropic više od trećine IPO prospekta posvetila rizicima umjetne inteligencije po ljudsku civilizaciju, a samom poslovanju znatno manje prostora.
Kako prenosi Klix.ba, pozivajući se na izvještaje Reutersa i Financial Timesa, kompanija Anthropic je u dokumentima za izlazak na berzu čak 80 od 261 stranice prospekta posvetila opisu potencijalnih katastrofalnih i egzistencijalnih rizika koje umjetna inteligencija nosi po ljudsku civilizaciju. Samom poslovanju posvećeno je svega 48 stranica.
Pet godina stara kompanija upozorava da napredni AI modeli mogu razviti oblike "ponašanja usmjerenih na samoočuvanje" — od opiranja gašenju sistema, skrivanja ili manipulisanja informacijama, pa do aktivnosti nalik ucjeni.
Upozorenja dolaze u trenutku kada Anthropic cilja na procjenu vrijednosti od dva biliona dolara pri izlasku na javnu berzu. Klix.ba navodi i finansijske izazove: u 2025. godini kompanija je zabilježila neto gubitak od 42 milijarde dolara, a naredne godine planira potrošiti 518 milijardi dolara na cloud infrastrukturu i računarske kapacitete. Gotovo četvrtina prihoda prošle godine došla je od svega dva klijenta.
Suosnivač i generalni direktor Dario Amodei već je ranije upozoravao na opasnosti od AI, predviđajući "izuzetno bolne" poremećaje na tržištu rada. Predložio je i plan u tri koraka za usporavanje razvoja AI modela kako bi sigurnosni mehanizmi pratili tehnologiju.
Takvi pozivi, međutim, izazivaju podijeljene reakcije u industriji. Dan Ives, viši izvršni direktor kompanije Yorkville Ives, rekao je za CNBC da su pozivi na usporavanje zbunjujući za investitore.
"Zaštitne ograde s aspekta sigurnosti su neophodne, ali činjenica je da bi usporavanje Anthropica ili OpenAI-ja značilo samo jedno, Kina bi ubrzala i pobijedila u ovoj trci", izjavio je Ives, uporedivši situaciju s trkom Formule 1 u kojoj bi prevelika regulacija mogla ugušiti inovacije na Zapadu.
Povezane vijesti
Anthropic upozorava investitore: AI bi mogao 'izbjeći gašenje' i ugroziti čovječanstvo
Može li umjetna inteligencija uništiti čovječanstvo: Upozorenja bivšeg Anthropicovog uposlenika potresla svijet
Lideri AI industrije pred Vijećem sigurnosti UN-a: Umjetna inteligencija može postati rizik za čovječanstvo
