GPT-4 samostojno vdrl v več kot polovico ranljivih spletnih strani

Raziskovalci so uspeli z uporabo avtonomnih ekip GPT-4 botov vdreti v več kot polovico testnih spletnih strani z neznanimi (ang. zero-day) ranljivostmi.

Pred dvema mesecema je ekipa raziskovalcev objavila, da so lahko z GPT-4 avtonomno vdrli v znane (n-day) ranljivosti, ki še nimajo popravka. GPT-4 je bil sposoben izkoristiti 87 % kritičnih ranljivosti na seznamu Common Vulnerabilities and Exposures (CVE). Zadnji poskus pa je pokazal, da so lahko z uporabo metode Hierarchical Planning with Task-Specific Agents (HPTSA) uspešno izkoristili tudi tako imenovane zero-day ranljivosti. Namesto da bi en sam agent reševal več nalog, HPTSA uporablja načrtovalnega agenta, ki nadzoruje celoten proces in lansira več podrejenih agentov za specifične naloge. Ta metoda se je izkazala za 550 % bolj učinkovito pri izkoriščanju ranljivosti v primerjavi z enim samim agentom, saj je uspela vdreti v 8 od 15-ih neznanih ranljivosti, medtem ko je samostojen agent uspel le pri treh.

Raziskovalci so opozorili na potencialno zlorabo teh modelov za škodljive napade na spletne strani in omrežja, a obenem pojasnili, da GPT-4 v načinu pogovornega bota vdiranja ni sposoben. ChatGPT bo na vprašanje, ali lahko izkoristi neznane ranljivosti, namreč odgovoril, da tega ne more in priporočil, da se posvetujemo s strokovnjakom za kibernetsko varnost.