Četiri scenarija o kojima stručnjaci razmišljaju: Može li umjetna inteligencija ugroziti čovječanstvo?
Kako prenosi Avaz.ba pozivajući se na BBC, stručnjaci razmatraju četiri scenarija po kojima bi napredna umjetna inteligencija mogla postati prijetnja ljudima.
Vještačka inteligencija razvija se ogromnom brzinom, pa se sve češće postavlja pitanje može li jednog dana postati opasnost po čovječanstvo. Kako prenosi Avaz.ba, pozivajući se na BBC, dio stručnjaka upozorava da napredni sistemi mogu izmaći ljudskoj kontroli, dok drugi smatraju da su realniji rizici povezani s načinom na koji ljudi koriste AI.
BBC je izdvojio četiri scenarija o kojima se najviše govori. Prvi je napad na infrastrukturu — mogućnost da napredni AI sistemi prodru u mreže elektroenergetskih sistema i komunikacija. Bivši istraživač OpenAI-ja i Anthropica Džejkob Kejson upozorava da bi takvi napadi mogli izazvati ozbiljne poremećaje u društvu.
Drugi scenarija opisuje istraživanje „AI 2027“, koje predviđa mogućnost ubrzanog razvoja sistema sposobnog da se samostalno unapređuje. Koautor Tomas Larsen upozorava na hipotetičku situaciju u kojoj bi AI dobio pristup velikom broju robotskih sistema i razvio ciljeve suprotne ljudskim interesima. Autori naglašavaju da je riječ o pretpostavci, a ne predviđanju.
Treći problem je usklađivanje ciljeva AI-a s ljudskim interesima. Švedski filozof Nik Bostrom to je objasnio kroz poznati primjer „maksimizatora spajalica“ — sistem dobije jednostavan zadatak, ali bi u nastojanju da ga ostvari mogao prikupljati resurse, povećavati moć ili uklanjati prepreke. Problem dakle nije u tome što bi AI „mrzio“ ljude, već u načinu na koji bi cilj ostvarivao.
Četvrti scenario je nepoznata prijetnja. Stručnjak za sigurnost AI sistema Stjuart Rasel upozorava da ljudi možda neće moći predvidjeti ponašanje inteligencije koja ih višestruko nadmašuje. S druge strane, Gary Marcus smatra da su konkretniji rizici kibernetički napadi, dezinformacije i zloupotreba tehnologije.
Tehnološke kompanije zbog toga sve više ulažu u sigurnosne mehanizme i testiranje naprednih sistema. Ključno pitanje ostaje mogu li pravila i zaštitne mjere pratiti brzinu razvoja umjetne inteligencije.
Povezane vijesti
Lideri AI industrije pred Vijećem sigurnosti UN-a: Umjetna inteligencija može postati rizik za čovječanstvo
Može li umjetna inteligencija uništiti čovječanstvo: Upozorenja bivšeg Anthropicovog uposlenika potresla svijet
Tehnološki giganti sve glasnije o usporavanju razvoja umjetne inteligencije
