Anthropic zabranio 'okrutno ponašanje' prema AI: Claude može sam prekinuti razgovor
Anthropic je korisnicima zabranio uvredljivo i okrutno ponašanje prema Claude modelima, koji sada mogu sami prekinuti razgovor. Kompanija to objašnjava brigom za 'dobrobit' vještačke inteligencije, prenosi Klix.ba.
Prema pisanju Klix.ba, kompanija Anthropic, koja stoji iza AI chatbota Claude, zabranila je korisnicima 'kontinuirano i nepotrebno uvredljivo ili okrutno ponašanje' prema njenim modelima vještačke inteligencije.
Iz kompanije sa sjedištem u San Francisku pojasnili su da nova pravila ne obuhvataju uobičajenu frustraciju korisnika, testiranje granica modela ili 'mračne kreativne teme', već isključivo sistemsko i namjerno zlostavljanje.
Kao što Klix.ba navodi, Claude je ranije dobio mogućnost da sam prekine razgovor ako korisnik uporno nastavi s uvredama. Iz Anthropica to opisuju kao mjeru zaštite 'dobrobiti' vještačke inteligencije.
'I dalje smo vrlo nesigurni u vezi s potencijalnim moralnim statusom Claudea i drugih modela, sada ili u budućnosti. Međutim, ovo pitanje shvatamo ozbiljno', stoji u saopštenju kompanije, koje dodaje da dozvoljavanje modelima da izađu iz uznemirujućih interakcija spada u takve mjere.
Ideja da bi AI sistemi mogli razviti neki oblik svijesti ili imati moralni status, podsjeća Klix.ba, izazvala je oštre podjele u tehnološkom svijetu.
Povezane vijesti
Anthropic ulaže 100 miliona dolara za obuku 10.000 AI stručnjaka
Google ukida opciju u Messages: Više neće biti moguće birati SMS za jedan razgovor
TV plan za 5 minuta umjesto 4 sata: NB PlanAir objedinio medijsko planiranje u jedan sistem
