Halucinacije umjetne inteligencije: što su i kako ih spriječiti?

Što su halucinacije umjetne inteligencije?

Primjerice, zatražimo li od AI-ja matične brojeve subjekata (MBS) za 20 zagrebačkih tvrtki čiji prihodi rastu, mogli bismo dobiti naizgled logičan i potpun popis. No svi navedeni matični brojevi mogli bi biti izmišljeni.

Posebnost je halucinacija upravo ta prividna logičnost: odgovori djeluju uvjerljivo, a AI ne pokazuje ni tračak sumnje. Zato sučelja jezičnih modela upozoravaju korisnike da provjere navedene brojke i činjenice.

Zašto nastaju halucinacije umjetne inteligencije?

Halucinacije se stoga najčešće javljaju u tri slučaja:

• nedostatak podataka (glavni uzrok: model nagađa);
• neprecizan upit (model sam popunjava praznine);
• previše složen zadatak (model pokušava sve obaviti odjednom).

Problem, dakle, nije samo u jezičnim modelima nego i u njihovu pristupu podacima. Halucinacije nisu posve slučajna ni neobjašnjiva pojava: proizlaze iz okolnosti na koje možemo utjecati.

Kako spriječiti halucinacije umjetne inteligencije?

Halucinacije se mogu spriječiti izravnim, strukturiranim pristupom podacima. U takvu okruženju jezični modeli najbolje tumače informacije, donose odluke i izvode zaključke.

Na tome se temelje sljedeće tri metode, koje možete primijeniti ovisno o svojim potrebama i tehničkom znanju.

Priprema datoteke s podacima

Pripremljeni podaci najjednostavniji su način da se smanji rizik od halucinacija. Tako AI-ju ostavljamo manje prostora da „izmisli svoju priču”.

Početnici često od jezičnog modela očekuju da istodobno bude tražilica, alat za obradu podataka i sustav za prikupljanje podataka s mrežnih stranica. No ako zadatak zahtijeva prikupljanje, čišćenje i standardizaciju podataka, može premašiti kontekstni prozor modela, a rizik od halucinacija naglo raste.

Zato prikupljanje podataka vrijedi podijeliti u nekoliko manjih upita i usput provjeravati točnost odgovora. Premda zvuči zamorno, tako gradimo čvrst temelj na kojem jezični modeli mogu pokazati svoju stvarnu snagu: rad s dostupnim podacima.

Upotreba API-ja

Povezivanje putem API-ja naprednije je rješenje: omogućuje brži pristup podacima u većem opsegu, pri čemu podaci ostaju ažurni. Ako je pripremljena datoteka poput kante vode, API je poput slavine.

Pretraživanje kojim se služe ChatGPT, Claude ili Gemini u mnogočemu nalikuje ljudskom pretraživanju. Jezični modeli pregledavaju sadržaj na vanjskim stranicama, poput Reddita ili Wikipedije, pa na temelju njega sastavljaju odgovor.

No pri takvu pristupu ne možemo biti sigurni da je sadržaj točan i ažuran. Različiti izvori imaju različite standarde i datume objave, a mogu sadržavati i ljudske pogreške ili mišljenja. API taj nedostatak ublažava pružajući stalan, programski dostupan izvor pročišćenih podataka.

Primjerice, Monitly omogućuje pristup statistikama iz cijelog svijeta izravnim povezivanjem s izvorima kao što su Državni zavod za statistiku, Eurostat, Svjetska banka, WHO i IMF. Umjesto da traži informacije na različitim stranicama, AI šalje izravan upit API-ju i dobiva najnoviji rezultat, što olakšava analizu i tumačenje podataka.

Povezivanje putem MCP-a

Povezivanje AI-ja putem MCP-a (Model Context Protocol) jezičnim modelima omogućuje izravan pristup datotekama, proračunskim tablicama, kodu i aplikacijama. Time se znatno smanjuje rizik od halucinacija jer model može raditi s dostupnim podacima.

Primjerice, platforma za podatke o tvrtkama Compabase objavila je vlastiti MCP, putem kojeg AI može brzo provjeravati domaće tvrtke. Zatražimo li sada matične brojeve subjekata (MBS) za 20 zagrebačkih tvrtki čiji prihodi rastu, umjesto izmišljenih podataka možemo dobiti dosljedan, provjeren popis. Razlika nije u tome što je model odjednom postao „pametniji”. Prije nije imao pristup tim podacima, a sada može poslati jednostavan SQL upit bazi i dobiti konkretne rezultate.

Drugim riječima:

Bez MCP-a:

• neke tvrtke ne postoje;
• financijski podaci su proizvoljni;
• matični brojevi subjekata su izmišljeni.

Uz MCP:

• model šalje upit bazi podataka;
• dobiva konkretne zapise;
• rezultat upita je deterministički.

Naravno, halucinacije neće potpuno nestati ako od modela i dalje očekujemo pretjerano složenu obradu i povezivanje podataka. No osiguramo li mu okruženje sa strukturiranim, ažurnim podacima i jasno ograničenim prostorom za tumačenje, AI će manje nagađati, a više analizirati ono što doista postoji.