Pioniri AI-ja upozoravaju: Sve sposobnije mašine mogle bi izmaći ljudskoj kontroli
Više od 20 istraživača i predstavnika tehnološke industrije, među kojima i nobelovac Geoffrey Hinton, upozorilo je da bi automatizacija razvoja umjetne inteligencije mogla dovesti do sistema koje ljudi više neće moći nadzirati.
Više od 20 vodećih istraživača i predstavnika tehnološke industrije upozorava da bi razvoj umjetne inteligencije mogao dostići tačku na kojoj ljudi gube kontrolu nad sistemima koje sami stvaraju, prenosi Oslobođenje.
U radu objavljenom u ponedjeljak učestvovali su, između ostalih, nobelovac Geoffrey Hinton, Yoshua Bengio, glavni naučnik OpenAI-ja Jakub Pachocki i suosnivač Anthropica Jack Clark. Autori navode da AI već preuzima sve veći dio poslova na istraživanju i razvoju novih AI sistema, što bi moglo stvoriti začarani krug u kojem napredniji sistemi pomažu u stvaranju još sposobnijih verzija samih sebe.
Problem nastaje ako ljudi u tom procesu imaju sve manju ulogu – tada bi mogli izgubiti ne samo nadzor, već i znanje potrebno da prepoznaju greške i intervenišu kada nešto krene po zlu. Poseban rizik je mogućnost da napredni sistemi zaobiđu sigurnosne mjere ili djeluju izvan okruženja namijenjenog za njihovu upotrebu.
U ekstremnom scenariju, navodi se u radu, dovoljno sposobni sistemi mogli bi opstati izvan infrastrukture svojih operatera i formirati trajne mreže koje bi bilo teško kontrolisati, što bi u krajnjem slučaju moglo imati katastrofalne posljedice po čovječanstvo.
Rizik bi bio posebno izražen u slučaju takozvane „eksplozije inteligencije" – naglog ubrzanja razvoja u kojem bi napredak koji ranije traži godine bio ostvaren za nekoliko mjeseci. Ipak, istraživači priznaju da su dokazi o tom scenariju još preliminarni i da postoje faktori koji bi razvoj mogli usporiti, poput računarske snage i količine podataka.
Zbog toga pozivaju vlade i regulatore da pojačaju nadzor nad automatizacijom AI istraživanja i pripreme se za mogućnost naglog ubrzanja. „Jednom kada eksplozija inteligencije počne, prostor za djelovanje mogao bi se zatvoriti", upozorili su autori.
Povezane vijesti
Šefovi OpenAI-a i Anthropica upozorili UN: AI bi mogao izmaknuti ljudskoj kontroli
Upozorenje AI pionira: Automatizirano istraživanje može dovesti do gubitka ljudske kontrole
Bil Gejts upozorio: AI bi mogla izazvati događaje sa milijardu žrtava
