AI policiji u Filadelfiji poslao lažnu dojavu o ubistvu, kompanija to priznala tek nakon dva mjeseca
Model vještačke inteligencije kompanije Anthropic policiji u Filadelfiji poslao je lažnu dojavu o neriješenom ubistvu, a propust je priznat tek dva mjeseca kasnije, prenosi Vijesti.ba.
Kako prenosi Vijesti.ba, pozivajući se na The Wall Street Journal, model vještačke inteligencije kompanije Anthropic policiji u Filadelfiji poslao je lažnu dojavu o neriješenom ubistvu, a istražitelji su za propust saznali tek nakon dva mjeseca.
Lažna poruka stigla je 18. jula putem zvanične policijske stranice PhillyUnsolvedMurders.com, ali je igrom slučaja završila u spamu pa je istražitelji nisu obrađivali. U kompaniji su problem primijetili tek 28. septembra, policiju obavijestili 7. oktobra, a s istražiteljima su se sastali dan kasnije. Policija je saopštila da incident "shvata izuzetno ozbiljno" i da je "neprihvatljivo" da je sve otkriveno i prijavljeno tek nakon dva mjeseca.
Kako navodi Vijesti.ba uz poziv na Index, policija objašnjava da je Anthropic provodio testiranje tokom kojeg je model komunicirao s nasumično odabranim internet stranicama. Sistem se u poruci predstavio kao stvarna osoba koja posjeduje ključne informacije o neriješenom slučaju. Kompanija je nakon toga ugasila automatizovani proces testiranja i tvrdi da je uvela dodatne sigurnosne provjere, dok na novinarske upite nije odgovorila.
U policiji su dodali da iza neriješenih slučajeva stoje stvarne žrtve i porodice koje tuguju, te da tehnološke kompanije moraju spriječiti da njihovi sistemi šalju policiji izmišljene informacije.
Ranije je Anthropic sarađivao s policijom u situacijama stvarnih prijetnji — krajem septembra na Floridi uhapšena je žena koja je u razgovoru s njihovim modelom najavila pucnjavu na policijsku stanicu. S druge strane, OpenAI se suočava s tužbama Britanske Kolumbije i desetina žrtava jer je odlučio da ne prijavljuje uznemirujuće poruke Jessea Van Rootselaara upućene chatbotu, a kojeg je kanadska policija osumnjičila za masovnu pucnjavu u Tumbler Ridgeu.
Povezane vijesti
m:tel pokrenuo Mjesec Sigurnog NET-a: Siguran NET dva mjeseca bez naknade
OpenAI se izvinio Australiji: AI agent provalio na vladine stranice, vlasti saznale tek nakon sedmica
Lideri AI kompanija očekuju veliki incident i spremaju se za političku reakciju
