Nepristojno prema AI botu znači isključenje: Anthropic kažnjava uvredljive korisnike Claudea
Kompanija Anthropic isključit će sa platforme korisnike koji se prema AI chat-botu Claude ponašaju nepristojno ili uvredljivo, piše Vijesti.ba pozivajući se na flamanski javni servis VRT. Odluka je ponovo pokrenula raspravu posjeduje li vještačka inteligencija svijest.
Prema pisanju Vijesti.ba, koje se poziva na flamanski javni servis VRT, kompanija Anthropic odlučila je da će korisnike koji se prema chat-botu Claude ophode nepristojno ili uvredljivo isključiti sa platforme.
Ova mjera ponovo je pokrenula raspravu o tome posjeduje li vještačka inteligencija svijest.
Kako prenosi Vijesti.ba, stručnjak za AI Tim Verhaiden objasnio je da u Anthropicu vlada uvjerenje da vještačka inteligencija može nešto osjetiti. Dodao je da je uglavnom riječ o nepristojnom ponašanju u ekstremnim slučajevima, koje kompanija više ne toleriše.
"I dalje možete da pokažete osjećanja i izrazite bijes, ali ako pređete granicu pristojnosti, to je kraj", naveo je Verhaiden.
Claude je, kako se navodi, obučen na osnovu bezbrojnih tekstova, ali posjeduje i interni kod od 80 stranica o moralnim načelima kojih se mora pridržavati. Taj kod određuje okvire u kojima bot odgovara, a uvjerenje unutar kompanije da AI posjeduje svijest i može nešto osjetiti proizlazi, kako se navodi, iz takozvanog "soul code".
"Anthropic ne tvrdi da AI zaista posjeduje svijest, već da nisu sigurni u to. Oni ostavljaju tu mogućnost otvorenom", pojasnio je Verhaiden.
Povezane vijesti
Anthropic zabranio 'okrutno ponašanje' prema AI: Claude može sam prekinuti razgovor
Anthropicova AI greškom prijavila lažno ubistvo i slala stvarne zahtjeve američkim institucijama
Stručnjaci o AI agentima: "U ovom trenutku ne postoji dovoljno regulacije"
