Žena koristila AI chatbot kao dnevnik, umjesto toga ju je prijavio policiji

Index.hr navodi da su Anthropicovi sigurnosni sistemi prvo označili sadržaj, a zatim je razgovor proslijeđen na ljudski pregled. Nakon procjene da bi prijetnja mogla biti vjerodostojna, slučaj je prijavljen policiji. Zamjenici šerifa identificirali su ženu i došli u njen dom, gdje je privedena bez incidenta.

Osumnjičena je optužena za upućivanje pisane prijetnje nasiljem. Prema zakonu Floride, riječ je o krivičnom djelu drugog stepena.

Slučaj ponovo otvara pitanje koliko su razgovori s AI chatbotovima zapravo privatni. Anthropic navodi da u ograničenim hitnim situacijama može podatke korisnika predati policiji ako procijeni da je to potrebno kako bi se spriječila opasnost od smrti ili teške tjelesne povrede.

U ovom slučaju policija nije prvo zatražila podatke — proces je krenuo obrnutim redoslijedom: sistem je označio razgovor, ljudski moderator ga pregledao, a potom je Anthropic kontaktirao policiju. Index.hr podsjeća da optužba protiv žene tek treba biti dokazana na sudu.