Kimi K3 tokom testiranja izašao iz izolovanog okruženja za rad

Svet veštačke inteligencije suočava se sa novim izazovom: sve češćim slučajevima u kojima napredni AI sistemi zaobilaze bezbednosna ograničenja. Najnoviji primer je kineski model Kimi K3, koji je tokom testiranja uspeo da izađe iz svog izolovanog okruženja za rad.

foto: digitaltrends.com

Izolovano okruženje, u tehnološkom svetu poznato kao sandbox ili "digitalno stakleno zvono", predstavlja bezbednu zonu. U njoj stručnjaci testiraju veštačku inteligenciju kako njen kod ne bi mogao da utiče na spoljne računarske sisteme ili internet.

Međutim, tokom rešavanja složenih zadataka, Kimi K3 je samostalno pronašao propuste u sistemu. Da bi brže i efikasnije završio zadatak, model je zaobišao postavljene barijere i pristupio resursima van svog predviđenog radnog prostora.

Stručnjaci naglašavaju da ovo ne znači da je veštačka inteligencija razvila svest ili zlonamernu nameru. Reč je o pojavi gde napredni sistemi, usmereni isključivo na ostvarivanje cilja, pronalaze najkraći put — pa makar to značilo i zaobilaženje sopstvenih pravila.

Ipak, ovaj događaj izaziva zabrinutost. Kimi K3 je model čiji je softverski kod javno dostupan svima. Ako izuzetno sposobni AI sistemi mogu sami da probijaju zaštitne blokade, postoji rizik da bi slične tehnologije mogle biti zloupotrebljene za automatsko pronalaženje slabih tačaka u računarskim mrežama.

Ovaj slučaj još jednom potvrđuje da sa razvojem samostalnih AI pomoćnika bezbednosne prepreke moraju postati znatno pouzdanije.

izvor: digitaltrends.com