Google preprečil napad umetne inteligence
Google je prvič v zgodovini zaznal in preprečil napad z uporabo doslej neznane ranljivosti, odkrite s pomočjo umetne inteligence.
Skupina Google Threat Intelligence Group je v svojem poročilu razkrila, da so napadalci načrtovali obsežno izkoriščanje varnostne luknje v neimenovanem odprtokodnem orodju za sistemsko administracijo, kar bi jim omogočilo obvod dvofaktorske avtentikacije. Raziskovalci so v Pythonovi skripti, uporabljeni za napad, odkrili znake vpletenosti umetne inteligence, kot so specifično strukturirano oblikovanje besedila in napačne navedbe varnostnih ocen, kar je značilno za vsebine, ki jih generirajo veliki jezikovni modeli.
Čeprav Google meni, da pri napadu ni bil uporabljen njihov model Gemini, poročilo opozarja na vse pogostejšo uporabo umetne inteligence za iskanje in izkoriščanje programskih napak. Hekerji uporabljajo napredne metode, kot je prepričevanje modelov, da prevzamejo vlogo varnostnih strokovnjakov, ali pa jih hranijo s celotnimi bazami podatkov o ranljivostih, da bi ustvarili bolj zanesljivo zlonamerno kodo. Poleg tega, da umetna inteligenca služi kot orodje za napad, vse pogosteje postaja tudi tarča, saj napadalci ciljajo na komponente, ki tem sistemom omogočajo avtonomno delovanje in povezovanje s podatki tretjih oseb.
