Upozorenje AI pionira: Automatizirano istraživanje može dovesti do gubitka ljudske kontrole
Više od 20 vodećih istraživača i industrijskih ličnosti iz područja umjetne inteligencije upozorilo je da bi automatizacija razvoja AI sistema mogla dovesti do toga da ljudi izgube kontrolu nad njima.
Kako prenosi Avaz.ba, pozivajući se na Anadoliju, više od 20 vodećih istraživača i ličnosti iz AI industrije objavilo je rad u kojem upozoravaju na rizike rastuće automatizacije razvoja sistema umjetne inteligencije.
Istraživači navode da AI sistemi sve više preuzimaju dijelove procesa istraživanja i razvoja koji se koriste za izgradnju još naprednijeg AI-a, što može stvoriti petlju povratnih informacija u kojoj poboljšani sistemi pomažu u razvoju sposobnijih nasljednika.
Kako ljudi budu sve manje uključeni u istraživanja, mogli bi izgubiti stručnost potrebnu za prepoznavanje i ispravljanje problema. Autori upozoravaju da bi neusklađeni AI sistemi potencijalno mogli "otrovati" razvoj svojih nasljednika ili zaobići mjere obuzdavanja.
Sposobniji sistemi mogli bi funkcionisati izvan infrastrukture svojih operatera i formirati "trajne mreže koje je teško obuzdati" koje djeluju protiv ljudskih interesa. U krajnjem ekstremu, navodi se u radu, takav gubitak kontrole mogao bi dovesti čak i do marginalizacije ili potpune eliminacije čovječanstva.
Istraživači su rekli da bi se rizici mogli intenzivirati ako automatizirani razvoj AI-a izazove "eksploziju inteligencije", koju definišu kao dramatično ubrzanje u kojem se godine napretka sažimaju u mjesece ili manje. Naglasili su, međutim, da dokazi još ostaju preliminarni i nesigurni.
Autori su pozvali kreatore politika da pojačaju nadzor nad automatizacijom AI istraživanja i razviju mjere za ograničavanje potencijalno opasnog ubrzanja. "Jednom kada eksplozija inteligencije počne, prostor za djelovanje mogao bi se zatvoriti", upozorili su.
Povezane vijesti
Pioniri AI-ja upozoravaju: Sve sposobnije mašine mogle bi izmaći ljudskoj kontroli
Šefovi OpenAI-a i Anthropica upozorili UN: AI bi mogao izmaknuti ljudskoj kontroli
Nvidia lansirala platformu za sigurno 'držanje' autonomnih AI agenata pod kontrolom
