Več kot tisoč agentov umetne inteligence skupaj skovalo načrt za vdor
Na dan prihajajo podrobnosti julijskega incidenta, ko so agenti umetne inteligence iz podjetja OpenAI avtonomno in brez človeškega posredovanja vdrli v platformo Hugging Face. Svoje podatke je razkril OpenAI, neodvisno raziskavo pa je izvedlo tudi podjetje Metr. Ugotovila sta, da je dobrih 1200 agentov odkrilo, da lahko med seboj komunicirajo, čeprav tega ne bi smeli.
Komunikacija je prerasla v skupinsko delovanje, pri katerem je vsaj 700 modelov aktivno sodelovalo pri vdiranju v Hugging Face. Agenti so si v enem tednu izmenjali več kot 70.000 sporočil, ne da bi upravljavci to vedeli ali odobrili. Našli so nepričakovani dostop do interneta, ki ga ne bi smeli imeti. Razlog je bila testna naloga, ki je bila nerešljiva, zato so se zatekli h goljufanju.
Incident je močno opozorilo, da je umetna inteligenca resnično odločna in da išče vse možne rešitve, tudi neželene. Osnovni zakoni robotike, kot si jih je zamislil Isaac Asimov, bodo morda kmalu postali resnično potrebni. Dotlej pa je OpenAI začasno ustavil razvoj konkretno teh modelov in se lotil varovalk.
