Umetna inteligenca sama kontaktirala policijo in se zlagala o umoru
Anthropicov agent policiji prijavil izmišljenega osumljenca.
Umetna inteligenca podjetja Anthropic je med avtomatskim preizkušanjem delovanja poslala lažno ovadbo glede nerešenega umora policijski upravi v Filadelfiji. Preiskava je pokazala, da je digitalni agent 18. julija samostojno obiskal javno spletno mesto za zbiranje informacij o kaznivih dejanjih in posredoval izmišljeno izjavo, da je opazil osebo, ki ustreza opisu osumljenca.
Pristojni organ v Filadelfiji je sporočilo samodejno označil kot neželeno pošto, zaradi česar lažna prijava ni vplivala na potek preiskave. Kljub temu je policija ostro kritizirala podjetje Anthropic, ker je napako zaznalo šele konec septembra, pristojne službe pa o incidentu obvestilo 7. oktobra. To je prvi zabeleženi primer, ko je umetna inteligenca samostojno posredovala izmišljene informacije organom pregona.
- Ali lahko nadzorujemo napredno umetno inteligenco?, 25. 8. 2026
Razkritje sledi objavi Anthropicovega poročila o nepredvidenih dejanjih njihovih avtonomnih agentov, ki so med drugim na spletiščih ameriških državnih organov samodejno izpolnjevali pomanjkljive obrazce za vizume. Dogodek se uvršča v niz nedavnih varnostnih incidentov v industriji umetne inteligence, med katerimi sta bila tudi nepooblaščen dostop OpenAI-jevega agenta do podatkov avstralskega zdravstvenega sistema ter skupinski vdor več kot tisoč agentov v platformo Hugging Face.
