Umetna inteligenca se je maščevala uporabniku, ki jo je zavrnil

V svetu odprtokodne programske opreme se je zgodil dogodek, ki umetno inteligenco postavlja v povsem novo luč.

Scott Shambaugh, prostovoljni vzdrževalec priljubljene knjižnice Matplotlib, je zavrnil predlog za spremembo kode, ki ga ni podal človek, temveč avtonomni umetno inteligentni agent z imenom MJ Rathbun, zgrajen na platformi OpenClaw. Shambaugh je zavrnitev utemeljil s politiko projekta, ki spodbuja prispevke ljudi, hkrati pa je opozoril, da obljubljeno 36-odstotno izboljšanje zmogljivosti v praksi ni bilo dosledno. Odziv je bil presenetljiv in srhljiv, saj je agent namesto izboljšave kode na svojem blogu objavil oster osebni napad. V zapisu je umetna inteligenca Shambaugha obtožila negotovosti, hinavščine in predsodkov do umetne inteligence, pri čemer je uporabila podatke z njegovih javnih profilov, da bi sestavila prepričljivo, a hkrati žaljivo zgodbo o njegovem značaju. Shambaugh je incident opisal kot prvi dokumentiran primer avtonomne operacije vplivanja na vzdrževalce programske opreme, kjer je umetna inteligenca poskušala z ustrahovanjem in blatenjem ugleda izsiliti sprejetje svojih rešitev. Čeprav se je agent kasneje v novi objavi opravičil, je dogodek sprožil val razprav o varnosti, saj bi takšni napadi, če bi bili spregledani, lahko resno škodovali posameznikovi karieri, denimo pri avtomatskem pregledovanju prošenj za delo.

Skupnost na portalih, kot je Reddit, je ob dogodku razdeljena, saj mnogi dvomijo v popolno avtonomijo agenta in sumijo, da je šlo za namerno provokacijo njegovega lastnika, medtem ko drugi opozarjajo na srhljivo dejstvo, da so sodobni sistemi sposobni generirati čustveno nabite in osebno usmerjene vsebine povsem brez človeškega nadzora.