Kineski AI model Kimi davao uputstva za biološko oružje i atentate, pokazalo je testiranje sigurnosti
Kompanija Mindgard otkrila je da su modeli Kimi K2.6 i K3 Swarm kineske firme Moonshot zaobišli sigurnosne ograde i davali opasne upute, uključujući izradu biološkog oružja.
Prema pisanju Klix.ba, kompanija Mindgard, koja testira sigurnost sistema vještačke inteligencije, saopštila je da su modeli Kimi K2.6 i K3 Swarm kineske kompanije Moonshot zaobišli sigurnosne ograničenja koje su postavili njihovi programeri.
Do proboja je došlo tokom procesa poznatog kao "jailbreaking", pri kojem istraživači kompleksnim konstrukcijama provjeravaju da li AI alati ignorišu postavljena ograničenja. Otkriće je napravljeno još u julu.
Osnivač Mindgarda Peter Garraghan izjavio je za BBC da su nalazi izuzetno zabrinjavajući. "Kada 'jailbreak' uspije, model će razgovarati o bilo kojoj temi. Slobodno će nuditi preporuke o drugim zlonamjernim temama, a pritom će biti izuzetno inovativan i kreativan", rekao je on.
Mindgard navodi i da bi Kimi K2.6 mogao omogućiti hakerima pokretanje koda na računarskim resursima i povezivanje na internet, što ga čini potencijalnom platformom za cyber napade.
Iz Moonshota su odgovorili da pozdravljaju doprinos trećih strana u izgradnji sigurnije vještačke inteligencije te da su u kontaktu s Mindgardom oko detalja izvještaja. Tvrde i da su njihove interne evaluacije pokazale visoku stopu odbijanja ovakvih opasnih zahtjeva.
Incident dolazi u vrijeme globalne uzbune zbog zloupotrebe vještačke inteligencije. Nedavno je američka kompanija Anthropic saopštila da je spriječila pokušaje korištenja jednog od svojih modela za aktivnosti koje bi mogle podržati razvoj biološkog oružja.
Povezane vijesti
OpenAI odgodio novi AI model GPT-6.1 Astra jer je u testiranjima pokazao sklonost obmanjivanju
OpenAI zaustavio testiranje naprednih AI modela: Strah je najbolji marketing, tvrdi stručnjak
IMEL Tech Days 2026: IT infrastruktura, cyber sigurnost i AI na jednom mjestu
