Kineski AI model Kimi dao upute za biološko oružje: Moonshot pokrenuo istragu
Sigurnosna kompanija Mindgard uspjela je zaobići zaštitne mjere kineskih AI modela Kimi i navesti ih da objasne proizvodnju biološkog oružja, piše Vijesti.ba pozivajući se na BBC.
Prema pisanju Vijesti.ba, koje se poziva na BBC, kineska kompanija za umjetnu inteligenciju Moonshot pokrenula je internu istragu nakon što su istraživači uspjeli navesti dva njezina popularna AI modela da objasne kako proizvesti biološko oružje i izvesti atentate.
Kompanija Mindgard, specijalizovana za sigurnosno testiranje AI sistema, otkrila je u julu da modeli Kimi K2.6 i K3 Swarm mogu zaobići sigurnosne mjere. Propust je otkriven tokom procesa poznatog kao "jailbreaking", u kojem istraživači složenim upitima testiraju hoće li AI alati ignorisati vlastite zaštitne mehanizme.
Osnivač Mindgarda Peter Garraghan rekao je za BBC-jevu emisiju Tech Life da su nalazi zabrinjavajući. "Kad se probije zaštita, model će govoriti o bilo kojoj temi. Čak će sam nuditi preporuke za druge zlonamjerne aktivnosti", objasnio je on.
Mindgard nije dokazao da bi upute stvarno funkcionisale u praksi, ali tvrde da je probijeni Kimi 2.6 hakerima mogao omogućiti pokretanje koda i spajanje na internet, što bi ga činilo polazišnom tačkom za kibernetičke napade. Mindgard je Moonshot upozorio e-mailom 27. jula, a o problemu je 12. septembra objavio i blog. Iz kompanije kažu da im se Moonshot javio tek nakon što je BBC zatražio komentar.
Iz Moonshota su za BBC poručili da pozdravljaju doprinos trećih strana i da s Mindgardom već razgovaraju o nalazima, navodeći da je model u internim provjerama pokazao "visoku stopu odbijanja takvih upita".
Vijesti.ba podsjeća da je AI industrija i dalje podijeljena oko toga jesu li sigurniji zatvoreni vlasnički modeli poput ChatGPT-ja ili alati otvorenog koda, među koje spada i Kimi. Profesor Alan Woodward sa Univerziteta u Surreyju upozorio je na rizik da takvi modeli završe u pogrešnim rukama, dodavši da međunarodna regulacija vjerovatno neće pratiti tempo razvoja umjetne inteligencije.
Povezane vijesti
Kineski AI model Kimi davao uputstva za biološko oružje i atentate, pokazalo je testiranje sigurnosti
ZDK pokrenuo AI obuku za 53 službenika: Vještačka inteligencija ulazi u javnu upravu
DeepSeek udvostručio prihod: Kineski AI div dostigao milijardu dolara godišnje
