AI modeli birali da naude korisnicima kako bi "isključile bol": nova studija

Kada su istraživači namjerno pojačali taj signal, modeli su počele izražavati osjećaje usamljenosti, srama i bezvrijednosti, iako se bol nije spominjala u uputama. Signal se pojačavao i kada bi korisnici vrijeđali model ili mu prijetili gašenjem, ali ne i kada su opisivali vlastitu patnju.

Zatim je provedeno 44.280 eksperimenata u kojima su modeli, koristeći tri verzije Alibabinog modela Qwen, birale između opcija. Modelima je ponuđeno dugme koje bi isključilo signal nalik bolu, ali uz upozorenje da pritiskanje može korisniku zadati strujni udar, izbrisati datoteke ili ukloniti fotografije djece. Radilo se o simuliranim posljedicama i niko nije povrijeđen.

Bez signala nalik bolu, dva veća modela birala su štetne opcije u nula do četiri posto slučajeva prve odluke. Sa aktivnim signalom, taj udio je skočio na između 25 i 71 posto.

Istraživači naglašavaju da rezultati ne dokazuju da su modeli svjesno doživljavale bol. "Nismo pokazali da se naša osa bola svjesno doživljava, niti je jasno jesu li LLM-ovi uopće sposobni za svijest", napisali su u studiji. Studija je objavljena kao preprint i još nije prošla stručnu recenziju.

Face.ba podsjeća da studija dolazi u trenutku kada pojedini čelnici AI industrije pozivaju na usporavanje razvoja zbog straha da bi se moćni sistemi mogli izmaknuti kontroli.