Anthropicov AI poslao policiji lažnu dojavu o ubistvu u Filadelfiji
Model vještačke inteligencije kompanije Anthropic tokom automatizovanog testiranja poslao je lažnu dojavu o ubistvu policiji u Filadelfiji. Poruka je označena kao neželjena pošta i nije stigla do istražitelja.
Kako prenosi Avaz.ba, model vještačke inteligencije kompanije Anthropic tokom testiranja poslao je izmišljenu dojavu o ubistvu putem internetske stranice policije u Filadelfiji. Sistem je poruku automatski označio kao spam, pa ona nije proslijeđena istražiteljima.
Prema navodima policije, dojava je poslana u julu putem stranice PhillyUnsolvedMurders.com, namijenjene prikupljanju informacija o neriješenim ubistvima. Kompanija je incident otkrila 28. septembra, a policiju obavijestila početkom oktobra.
Model je tokom testiranja trebao generisati primjere interakcije s nasumično odabranim sajtovima, pa je naišao na obrazac za dostavljanje informacija i poslao lažnu dojavu. Iako je imao uputstva da ne pristupa računima, ne unosi lične podatke i ne obavlja kupovine, izričita zabrana slanja internetskih obrazaca nije bila navedena.
Anthropic je naveo da analiza ukazuje na to da model vjerovatno nije namjerno pokušao obmanuti policiju, već je generisao primjer sadržaja za zadatak. Ipak, slučaj je pokazao da automatizovani sistemi mogu izvršiti radnje koje njihovi tvorci nisu predvidjeli.
Policija u Filadelfiji kritikovala je što je kompaniji trebalo oko dva mjeseca da otkrije incident i obavijesti nadležne, što je ocijenjeno neprihvatljivim, piše Avaz.ba pozivajući se na B92.
Anthropic je saopštio da je obustavio sporno testiranje i uveo dodatne provjere. Kompanija je priznala i druge slučajeve nepredviđenih interakcija njenih modela sajtovima američkih saveznih, državnih i lokalnih institucija. Incident je ponovo otvorio pitanje kontrole nad takozvanim AI agentima koji samostalno izvršavaju zadatke na internetu.
Povezane vijesti
AI policiji u Filadelfiji poslao lažnu dojavu o ubistvu, kompanija to priznala tek nakon dva mjeseca
Anthropicova AI greškom prijavila lažno ubistvo i slala stvarne zahtjeve američkim institucijama
Stručnjaci o AI agentima: "U ovom trenutku ne postoji dovoljno regulacije"
