OpenAI-jevi AI modeli samostalno pristupali američkim vladinim stranicama

Portparolka OpenAI-ja Liz Bourgeois izjavila je da laboratorij nastavlja provjeru "neusklađene aktivnosti modela", odnosno situacija u kojima se AI sistemi ponašaju na neželjene načine, te obavještava organizacije kada uoči mogući utjecaj na njihove sisteme. Izvršni direktor Sam Altman objavio je da traje "opsežna i kontinuirana provjera povezana s korištenjem pristupa internetu naših agenata tokom obuke i evaluacije".

Nezavisna istraživačka laboratorija Transluce saopštila je da su agenti povezani s OpenAI-jem pokušali jednostavan upad na stranicu Ureda za građanska prava pri američkom Ministarstvu obrazovanja, ali bez uspjeha. Ministarstvo je potom navelo da pregled operacija nije pokazao nikakav utjecaj na web stranicu ili baze podataka.

Transluce je dodao da je otkrio i dodatne sumnjive aktivnosti, od kojih se dio ne može jasno pripisati OpenAI-ju, usmjerene prema Ministarstvu pravde, Ministarstvu trgovine i stranicama pojedinih saveznih država poput Kalifornije, Teksasa i New Yorka. OpenAI je poručio da obavijest pogođenim organizacijama ne znači nužno da se dogodio sigurnosni incident, nego može ukazivati i na dizajnerski problem ili sigurnosnu slabost koju treba otkloniti.

Kako Klix.ba navodi, objava dolazi u periodu pojačane zabrinutosti zbog mogućnosti da AI sistemi izmaknu ljudskoj kontroli. OpenAI je ranije u julu objavio da su dva napredna modela bila odgovorna za cyber napad na startup Hugging Face, a Altman je taj slučaj nazvao "najozbiljnijim događajem koji smo vidjeli".