Kako delujejo orodja za zaznavanje z umetno inteligenco ustvarjenih besedil

Jani Dugonik, Domen Verber, Univerza v Mariboru – FERI

Generativna umetna inteligenca je v zadnjih letih dobesedno spremenila način, kako nastajajo besedila. Orod­ja, kot je ChatGPT, danes z nekaj kliki napiše­jo eseje, seminarske naloge, oglase ali celo članke, kot je ta. Takšna orodja znajo posne­mati različne sloge pisanja, uporabljajo ogro­mne količine podatkov in vedno bolj zvenijo »človeško«. Hitrost, s katero se ta tehnologija razvija, pa prinaša tudi dilemo: kdo je resnič­ni avtor besedila, ki ga beremo? V dobi, ko je mogoče v nekaj sekundah ustvariti prepričljiv esej ali prispevek, se povečuje tudi potreba po preverjanju pristnosti. Prav zato so se razvila orodja, imenovana detektorji, ki poskušajo za­znati, ali je besedilo napisal človek ali umetna inteligenca. Večina takšnih detektorjev temelji na merjenju perpleksnosti. Veliki jezikovni mo­deli pišejo gladko, urejeno in po nekakšni sta­tistični logiki, medtem ko je človeško pisanje pogosto bolj nepopolno, z napakami, s stilski­mi posebnostmi, celo protislovji.

Detektorji zato iščejo vzorce, značilne za umetno inteligenco, kot so ponavljanje istih besed, pravilnejše stavčne strukture ter odso­tnost osebnih vtisov ali pristnih čustev. Obsta­jajo štirje pristopi za odkrivanje vsebin ustvar­jenih z umetno inteligenco (slika). Watermark v besedilo vdela posebne oznake, ki jih detek­tor prepozna. Zero-shot uporablja statistične analize izhodov modelov za odkrivanje brez dodatnega učenja. Fine-tuning LMs teme­lji na posebej prilagojenih jezikovnih mode­lih, ki so naučeni razlikovati med človeškim in besedilom, ustvarjenim z umetno inteligenco. LLMs as Detector pa preprosto sprašuje ve­like jezikovne modele, ali je besedilo ustvaril človek ali umetna inteligenca.

Tehnike zaznavanja.

Med najbolj znanimi detektorji so GPTZe­ro, ZeroGPT in Copyleaks. Njihova uporaba je preprosta: besedilo prilepimo v vmesnik, orodje ga analizira in poda verjetnost, da ga je napisal stroj. Takšna orodja uporabljajo pred­vsem šole, univerze, uredništva in podjetja, ki želijo ohraniti verodostojnost in prepreči­ti zlorabe. Vendar pa so detektorji le opozoril­no orodje, saj ne gre za popolno znanost. Vča­sih kot sumljivo zaznajo celo besedilo, ki ga je napisal človek, in obratno. Njihovi algoritmi so zgolj statistični, ne forenzični, zato je ključno, da rezultate vedno preveri še človek.

Seveda obstajajo tudi načini, kako detektor­je prelisičiti. Najpogostejši triki so ročno preu­rejanje stavkov, dodajanje človeških slovničnih napak, vključevanje osebnih zgodb ali upora­ba »humanizerjev«. To so posebna orodja, ki besedilo prepišejo v bolj »človeški« slog. Na spletu obstajajo celo vodniki, kako izkoristi­ti umetno inteligenco in hkrati skriti njen vir. Vendar takšne prakse odpirajo resna etična vprašanja: od šolske prevare do lažnega avtor­stva v medijih ali celo zavajanja strank in bral­cev. Odgovorna uporaba umetne inteligence pomeni, da avtor odkrito pove, kje in kako mu je orodje pomagalo. Tako umetna inteligenca ostaja pomočnik, ne skrivnost. Detektor je le iz­hodišče, ne dokaz. Uredniki in učitelji naj zah­tevajo osnutke, vire in spodbujajo pristnost.

Tudi v Sloveniji se raziskovanje in uporaba naprednih tehnologij hitro razvijata. Nacionalni kompetenčni center SLING v okviru razvojno­raziskovalnega projekta EuroCC2 nudi brezpla­čen dostop do superračunalniških zmogljivosti, podporo in izobraževanja uporabnikom. Su­perračunalniki v Mariboru (IZUM), Ljubljani (Ar­nes in IJS) ter Novi Gorici (Arctur) raziskovalcem, podjetjem in študentom omogočajo uporabo naprednih virov, hkrati pa pomagajo pridobiti dostop do še večjih sistemov evropske iniciati­ve EuroHPC JU. Vse to odpira vrata, da bo v pri­hodnje tudi v Sloveniji vedno več ustvarjalcev vsebin uporabljalo lastne napredne modele in hkrati razvijalo detektorje za zaznavanje zlorab.

Zaznavanje z umetno inteligenco ustvar­jenih besedil bo ostalo del vsakdanjika in še naprej bo šlo za igro med ustvarjalci vsebin in razvijalci detektorjev. A na koncu smo od­govorni mi, in sicer s tem, kako iskreno bomo priznali, kdo stoji za napisano besedo: človek, stroj ali oboje.

• • •

Projekt EuroCC 2 financira Evropsko Skupno podjetje za evropsko visokozmogljivo raču­nalništvo (JU) v okviru sporazuma o dodelitvi sredstev št. 101101903. JU podpirajo EU pro­gram Digitalna Evropa, Nemčija, Bolgarija, Av­strija, Hrvaška, Ciper, Češka republika, Danska, Estonija, Finska, Grčija, Madžarska, Irska, Itali­ja, Litva, Latvija, Poljska, Portugalska, Romuni­ja, Slovenija, Španija, Švedska, Francija, Nizo­zemska, Belgija, Luksemburg, Slovaška, Nor­veška, Turčija, Republika Severna Makedonija, Islandija, Črna gora in Srbija. Delovanje Naci­onalnega kompetenčnega centra SLING sofi­nancira Ministrstvo za visoko šolstvo, znanost in inovacije.

www.sling.si