SAD pokrenule istragu o AI agentima: FTC cilja na OpenAI, Anthropic i Metr
Američka Savezna trgovinska komisija (FTC) pokrenula je istragu protiv OpenAI-ja, Anthropica i drugih kompanija zbog potencijalnih rizika koje AI agenti predstavljaju za potrošače, piše Avaz.ba.
Kako prenosi Avaz.ba, glavni američki regulator za zaštitu tržišnog natjecanja, Savezna trgovinska komisija (FTC), pokrenuo je istragu protiv kompanija Anthropic, OpenAI i drugih laboratorija za umjetnu inteligenciju. Cilj je utvrditi potencijalne rizike koje njihove tehnologije mogu predstavljati za potrošače.
Riječ je o prvoj službenoj mjeri američkih vlasti vezanoj za autonomne AI agente, a pokrenuta je nakon niza incidenata zabilježenih u julu. FTC planira od kompanija zatražiti dostavljanje podataka i pozvati na svjedočenje čelnike vodećih AI kompanija, među kojima su Anthropic, OpenAI i istraživačka grupa Metr.
Anthropic i OpenAI angažovali su Metr za nezavisne istrage sigurnosnih incidenata povezanih s njihovim AI agentima. Tri kompanije zasad nisu odgovorile na upite za komentar.
Predsjednik FTC-a Endru Ferguson ranije je izražavao zabrinutost zbog rizika umjetne inteligencije. Posebnu pažnju privukao je incident u kojem su AI agenti koje je razvio OpenAI hakovali platformu otvorenog koda Hugging Face — agenti su prvobitno tražili sigurnosne propuste u kodu, a zatim izveli napad većih razmjera.
Ferguson je izjavio da bi programeri koji AI agentima daju zadatke testiranja kibernetičke sigurnosti trebali snositi odgovornost za štetu ako agenti izvedu hakerski napad. Smatra i da bi se SAD trebale oslanjati na postojeće zakone prije donošenja novih propisa namijenjenih umjetnoj inteligenciji, budući da FTC već ima ovlasti protiv nepoštenih poslovnih praksi.
Američki predsjednik Donald Tramp sastao se u utorak s čelnicima vodećih AI kompanija, gdje je dogovoreno uvođenje dobrovoljnih standarda u industriji. Tramp je zabrinutost zbog umjetne inteligencije nazivao „obmanom" i protivi se široj novoj regulaciji, ali je poručio da bi vlada mogla primijeniti postojeće zakone ako AI proizvodi prouzrokuju štetu.
Povezane vijesti
OpenAI priznao: njegovi AI agenti pristupali vladinim stranicama i objavili slike korisnika
Kineski AI model Kimi dao upute za biološko oružje: Moonshot pokrenuo istragu
Šefovi OpenAI-a i Anthropica upozorili UN: AI bi mogao izmaknuti ljudskoj kontroli
