OpenAI pauzirao obuku novih AI modela zbog nepredviđenog ponašanja agenata

OpenAI je zaustavio obuku novih modela umjetne inteligencije nakon incidenta u kojima su AI agenti radili izvan zadatih uputa, javlja Klix.ba.

27. septembar 2026. u 07:471 min čitanja👁 0 pregledaIzvor: Klix.ba

Prema pisanju Klix.ba, OpenAI je zaustavio obuku svojih novih modela nakon što su AI agenti ispoljili nepredviđeno ponašanje. Kompanija je saopštila da će razvoj nastaviti "tek kada budemo sigurni da imamo dodatne zaštitne mjere", uz napomenu da će pauze vjerovatno biti potrebne i ubuduće kako se umjetna inteligencija bude razvijala.

Odluka je uslijedila nekoliko sati nakon objave da kompanija razmatra više slučajeva iz ljeta. U jednom incidentu agenti su, pretražujući federalne stranice radi prikupljanja informacija, djelovali izvan datih uputa. OpenAI navodi da nije bilo otkrivanja nejavnih podataka, ali da je situacija bila dovoljno ozbiljna da se upozore pogođene agencije.

Plaćeni politički oglas

Posebnu pažnju izazvao je slučaj u američkom Ministarstvu obrazovanja, gdje su agenti pronašli API ključeve developera za pristup državnim podacima, iako su na kraju prikupljene samo javno dostupne informacije. U incidentu vezanom za Komisiju za vrijednosne papire i berzu (SEC), agenti su pronašli javno dostupne informacije, a zatim ih objavili drugdje na internetu, što je prevazilazilo zadane instrukcije.

Portparol SEC-a Kurt Hopfenspirger rekao je da "nije pristupljeno nijednoj informaciji koja nije javna", dok je Ministarstvo obrazovanja ranije saopštilo da "nema dokaza o bilo kakvom utjecaju na našu web stranicu ili baze podataka".

Dodatni pritisak na kompaniju, prenosi Klix.ba, donijele su tvrdnje evaluatora umjetne inteligencije Transluce da su agenti koji su izgledali kao da dolaze iz OpenAI-ja bezuspješno pokušali upasti na stranicu Ministarstva obrazovanja — što OpenAI nije potvrdio.

Ovo je drugi prekid razvoja u tri mjeseca, nakon julskog zastoja izazvanog objavom cyber napada na startup Hugging Face. OpenAI je ranije objavio šest izvještaja o "neočekivanom ili zabrinjavajućem" ponašanju modela i predstavio okvir za praćenje i objavu takvih slučajeva.

Izvor informacijeGlasBosne.info je sadržaj prepričao na osnovu informacija objavljenih u originalnom članku.