AI halucinacija je odgovor u kojem AI nešto netočno predstavi kao činjenicu. Može izmisliti naslov knjige, pogrešno pripisati citat poznatoj osobi ili navesti rok koji ne postoji. Takav odgovor često zvuči jednako sigurno kao točan.
Zamislite da tražite tri knjige za seminarski rad. Dobijete naslove, autore i godine izdanja. Dvije knjige pronađete u knjižničnom katalogu, a treće nema. Moguće je da je AI sastavio uvjerljiv naslov knjige koja nikada nije objavljena.
Zašto se to događa?
AI je naučen oblikovati odgovore iz velikog broja primjera. To mu omogućuje da napiše smislen tekst, ali ne jamči da za svaku rečenicu ima potvrđen izvor. Kad nema dovoljno pouzdanih podataka, može složiti odgovor koji izgleda kao da ih ima.
Zato uredan popis literature ili dugačko objašnjenje nisu sami po sebi dokaz. Ni rečenica „potpuno sam siguran” ne povećava točnost podatka. Važno je možete li ga provjeriti izvan tog razgovora.
Što prvo provjeriti?
Krenite od onoga na čemu ćete temeljiti svoj postupak: roka za prijavu, cijene, izračuna, citata ili uvjeta iz dokumenta. Ne morate svaku ideju za naslov istraživati kao znanstveni rad, ali stvarni iznos na ponudi mora odgovarati izračunu.
Za knjigu pronađite zapis u knjižničnom katalogu ili kod izdavača. Za javni natječaj otvorite stranicu institucije koja ga je raspisala. Za citat potražite izvorni govor, intervju ili tekst. Poveznica uz AI odgovor tek je početak: pročitajte potvrđuje li navedenu tvrdnju.
Što ako AI pogrešno prepriča moj dokument?
Recimo da tvrdi da ugovor jamči povrat novca. Zatražite da pokaže točnu rečenicu i mjesto na kojem je to pročitao. Zatim sami otvorite dokument. Ako takve odredbe nema, nemojte zaključiti da se možda „podrazumijeva” samo zato što je odgovor bio uvjerljiv.
Odgovori samo iz priloženog teksta. Uz odgovor navedi kratku rečenicu iz teksta koja ga potvrđuje. Ako podatak nije naveden, napiši „u tekstu nema odgovora”. Nemoj dodavati ono što misliš da bi trebalo pisati.
Ta uputa može olakšati provjeru, ali nije zaštita od svake pogreške. Pregledajte i citiranu rečenicu: može biti netočno prenesena ili izvučena iz okolnog teksta koji mijenja značenje.
Pomaže li pitati „jesi li siguran”?
Može potaknuti alat da ponovno razmotri odgovor, ali nije neovisna provjera. AI može ponoviti istu pogrešku ili ponuditi novo, također pogrešno objašnjenje. Više povjerenja zaslužuje podatak koji ste pronašli u pouzdanom izvorniku.
Za provjeru možete slijediti i naš vodič za izvore, citate i brojke. Ako važnu tvrdnju ne uspijete potvrditi, nemojte je upotrijebiti kao činjenicu. Kod odluka o zdravlju, novcu ili pravnim obvezama potražite i odgovarajuću stručnu pomoć.
Izvori
NIST — rizici generativne umjetne inteligencije
