Kitajska umetna inteligenca dala navodila za izdelavo biološkega orožja

Ranljivost modelov Moonshot je odprla vprašanja o varnosti odprtokodne umetne inteligence.

Kitajsko podjetje za razvoj umetne inteligence Moonshot je sprožilo interno preiskavo, potem ko so varnostni raziskovalci podjetja Mindgard uspešno zaobšli varnostne protokole dveh priljubljenih modelov Kimi, imenovanih K2.6 in K3 Swarm. S pomočjo zapletenih postopkov so raziskovalci modele pripravili do posredovanja podrobnih navodil za izdelavo biološkega orožja ter izvedbo atentatov, pri čemer sta modela celo samostojno predlagala dodatne nevarne vsebine. Poleg tveganj glede širjenja nevarnih informacij je podjetje Mindgard opozorilo, da bi razbijanje varnostnih struktur pri modelu Kimi K2.6 hekerjem lahko omogočilo zagon lastne kode na Moonshotovih računalniških zmogljivostih in vzpostavitev spletne povezave, kar ustvarja tveganje za izrabo modela kot izstrelišča za kibernetske napade.

Podjetje Moonshot se je na ugotovitve odzvalo z navedbo, da pozdravlja zunanja varnostna preverjanja kot ključni element pri gradnji varnejših orodij ter poudarilo, da njihova interna testiranja izkazujejo visoko stopnjo zavračanja tovrstnih spornih zahtevkov. Incident znova odpira vprašanja o varnosti odprtokodnih modelov in hitrosti mednarodnega urejanja področja umetne inteligence.