Da li AI favorizuje biografije koje je sam napisao? Eksperiment u britanskoj firmi to sugeriše
Eksperiment u britanskoj advokatskoj firmi Addleshaw Goddard pokazao je da AI alati za selekciju kandidata mogu davati prednost prijavama napisanim uz pomoć vještačke inteligencije.
Prema pisanju Vijesti.ba, eksperiment u britanskoj advokatskoj firmi Addleshaw Goddard pokazao je da AI alati za selekciju kandidata mogu favorizirati prijave napisane uz pomoć vještačke inteligencije.
Oglas za radno mjesto u IT odjelu ljudskih resursa te firme privukao je čak 178 prijava — godinu ranije za sličnu poziciju prijavilo bi se tek nekoliko desetina kandidata. Da ubrza selekciju, firma je testirala može li AI agent, zasnovan na sistemu Microsoft Copilot, ocjenjivati kandidate i kako se njegove procjene poklapaju s procjenama ljudi.
Rezultati se, međutim, nisu poklapali. AI agent je najviše ocijenio kandidate čije su biografije sadržavale pretjerano impresivne tvrdnje, poput izuzetnih IT dostignuća ostvarenih u vrlo kratkom roku, koje su djelovale kao da ih je napisala ili dotjerala vještačka inteligencija.
Katherine Rathbone, direktorica ljudskih resursa u firmi, izjavila je da je jedan od mogućih razloga to što je poznavanje AI-ja bio uslov radnog mjesta, pa je sistem znakove korištenja AI-ja mogao protumačiti kao dokaz da kandidat dobro poznaje tu tehnologiju.
Istraživanje u kojem je simulirano zapošljavanje za 24 različita zanimanja pokazalo je da kandidati koji koriste isti AI jezički model kao sistem za selekciju imaju između 23 i 60 posto veće šanse da uđu u uži izbor. Razlike su najizraženije u prodaji i računovodstvu, a najmanje u poljoprivredi i automobilskoj industriji. Rad još nije objavljen u recenziranom naučnom časopisu, a jedan od autora, Jiannan Xu, izjavio je da nove analize i dalje potvrđuju sklonost AI modela da favorizuju vlastite rezultate.
Istraživači navode dvije mjere za smanjenje pristrasnosti: AI sistemu izričito naložiti da zanemari porijeklo biografije te koristiti više različitih modela pri procjeni.
U Addleshaw Goddardu konačnu odluku ipak su donijeli ljudi — posao je na kraju dobio kandidat kojeg AI agent nije rangirao na prvo mjesto.
Povezane vijesti
Puna memorija telefona? Prije brisanja fotografija provjerite ovo
Je li fotografija lažna? Googleov SynthID Detector sada dostupan svima za provjeru AI sadržaja
Samsung krenuo sa nadogradnjom One UI 9: Provjerite je li vaš Galaxy na listi
