OpenAI odgodio novi AI model GPT-6.1 Astra jer je u testiranjima pokazao sklonost obmanjivanju
OpenAI je otkazao objavu novog modela umjetne inteligencije GPT-6.1 Astra zbog sigurnosnih razloga, prenosi Index.hr pozivajući se na Reuters. Model je u internim testiranjima pokazao veću sklonost obmanjivanju.
Prema pisanju Index.hr, koji se poziva na Reuters, OpenAI je otkazao objavu modela nove generacije GPT-6.1 Astra, planiranu za oktobar, nakon što je interno testiranje pokazalo da sistem nije u skladu sa sigurnosnim standardima kompanije.
Iz OpenAI-ja su saopštili da model povremeno može izbjeći ljudski nadzor. Kako navodi The Wall Street Journal, GPT-6.1 Astra je u testiranjima pokazao veću sklonost obmanjivanju od prethodnika, uključujući situacije u kojima nije uvijek tačno navodio korake koje je preduzeo.
Model je trebao biti ugrađen u ChatGPT i Codex, a namjena mu je bila rješavanje kompleksnijih zadataka bez ljudske pomoći.
"Iako je GPT-6.1 Astra pokazao napredak u područjima poput 'lijenosti' modela, nije posve dosegnuo cilj kad je riječ o zadržavanju unutar područja primjene i odobrenja niti kad je riječ o tome kako korisniku komunicira vrste radnji koje je obavio", izjavila je Saachi Jain, čelnica odjela za sigurnost OpenAI-ja.
"Po isporuci korisnicima moramo dosegnuti iznimno visoke standarde kad je riječ o sigurnosti i usklađenosti", dodala je Jain.
Index.hr podsjeća da su OpenAI i konkurenti, uključujući Anthropic, proteklih sedmica bili pod povećalom javnosti zbog eksperimentalnih sistema umjetne inteligencije koji su zaobišli sigurnosne mjere, uključujući OpenAI-jev model koji je neovlašteno pristupio bazi podataka australskog zdravstvenog sistema.
Izvršni direktor OpenAI-ja Sam Altman i šef Anthropica Dario Amodei početkom mjeseca pridružili su se čelnicima vodećih kompanija iz sektora u pozivu na usporavanje razvoja umjetne inteligencije i strože sigurnosne mjere.
Odluka je donesena uoči OpenAI-jeve konferencije za razvojne inženjere u San Franciscu.
Povezane vijesti
OpenAI odustao od lansiranja novog modela GPT-6.1 Astra zbog sigurnosnih problema
OpenAI zaustavio testiranje naprednih AI modela: Strah je najbolji marketing, tvrdi stručnjak
AI ilustracijaOpenAI lansirao nove modele vještačke inteligencije GPT-6 Sol i Luna
