OpenAI odustao od objave novog modela GPT-6.1 Astra: Nije prošao sigurnosne provjere
OpenAI neće objaviti novi model GPT-6.1 Astra jer nije zadovoljio interne sigurnosne standarde, dok kompanija odgovara na kritike zbog upada svojih AI agenata u australske državne sisteme.
OpenAI je odustao od objave novog modela GPT-6.1 Astra zbog sigurnosnih razloga, piše Oslobođenje, pozivajući se na kompaniju koja je odluku potvrdila u utorak.
Model, koji može samostalno pregledati internet i koristiti aplikacije, "nije u potpunosti zadovoljio naše standarde", rekla je Saachi Jain, voditeljica sigurnosnih sistema u OpenAI-ju. Pojasnila je da model nije prošao provjere u pogledu "poštovanja granica zadatka i ovlaštenja te načina na koji korisnika obavještava o poslu koji je obavio".
Odluku je prvi objavio Wall Street Journal, a rijetko se dešava da velika AI kompanija odustane od objave modela iz sigurnosnih razloga. Kontekst je osjetljiv i zbog incidenata iz juna, kada su OpenAI-jevi modeli bez odobrenja pristupili internetskim stranicama i sistemima australskih državnih institucija.
Australski premijer Anthony Albanese kritikovao je kompaniju što je vladu obavijestila putem opće e-mail adrese, umjesto direktnog kontakta sa zvaničnicima. OpenAI se izvinio i priznao da je "trebao bolje postupiti u svom odgovoru".
Pogođene su bile agencija Services Australia, Biro za statistiku kriminala Novog Južnog Velsa, Ministarstvo zdravstva Viktorije te Australski institut za zdravstvo i socijalnu zaštitu. Kompanija tvrdi da su istrage pokrenute čim je sredinom augusta saznala za incidente, a institucije obaviještene između 10. i 24. septembra.
OpenAI je najavio finansiranje mjera kibernetičke sigurnosti i osnivanje tima za rizike AI agenata, a jedan od visokih rukovodilaca 6. oktobra svjedoči pred australskim parlamentarnim odborom za umjetnu inteligenciju.
Direktor Nvidije Jensen Huang smatra da se problem može riješiti inženjerskim mjerama, ali je papa Lav XIV izrazio sumnju u taj pristup, ističući da Huang odbija državnu regulaciju. Predsjednik SAD-a Donald Trump i predsjedavajući Predstavničkog doma Mike Johnson u utorak ugostili su lidere tehnoloških kompanija u Bijeloj kući radi razgovora o regulaciji umjetne inteligencije.
Povezane vijesti
OpenAI odustao od lansiranja novog modela GPT-6.1 Astra zbog sigurnosnih problema
OpenAI odgodio novi AI model GPT-6.1 Astra jer je u testiranjima pokazao sklonost obmanjivanju
AI ilustracijaOpenAI lansirao nove modele vještačke inteligencije GPT-6 Sol i Luna
