Miért hallucinál az AI? Egy pillantás a nyelvi modellek kulisszái mögé

A mesterséges intelligencia ma már olyan dolgokra képes, amelyek még nemrégiben tiszta sci-fi-nek tűntek. Szövegeket ír, programkódokat javasol, és segít nekünk egy sor összetett feladatban. Minél folyékonyabban és meggyőzőbben hangzanak azonban a válaszai, annál könnyebben felejtjük el a kockázatot: az AI képes teljesen kitalált válaszokat generálni, amelyek első pillantásra teljesen hihetőnek tűnnek.

Ez a jelenség az „AI hallucináció” nevet kapta. Nem egy egyszerű szoftverhiba vagy szándékosan elfelejtett funkcióról van szó, amit a fejlesztők csak nem kapcsoltak ki. Ez a mai nagy nyelvi modellek (LLM-ek) alapvető tervezési és képzési következménye. Nézzük meg közelebbről, hogyan működnek ezek a rendszerek, hogy megértsük, miért „beszélnek” időnként oly biztosan mellé.

Mik azok az AI hallucinációk?

A generatív mesterséges intelligenciánál hallucinációnak nevezik azt a helyzetet, amikor a modell olyan választ állít elő, amely nyelvtanilag és stilisztikailag tökéletesen néz ki és hihető, de a valóságban semmiféle alátámasztottsága nincs.

A modellek igazán meglepő módon tudnak hallucinálni. Kitalálhatnak nem létező törvénycikkelyeket, hibákat véthetnek matematikai számításokban, vagy akár realisztikusan hangzó tudományos tanulmányokat is generálhatnak konkrét szerzőnevekkel és webcímekkel, amelyek valójában soha nem léteztek. Különös, hogy ez még teljesen banális kérdéseknél is előfordulhat, például amikor egy híresség születési dátumát szeretnénk ellenőrizni, vagy hivatalos történelmi adatokat keresni egy archívumban.

Mi zajlik a nyelvi modell belsejében

Ahhoz, hogy megértsük, honnan származnak ezek a hibák, tisztáznunk kell egy dolgot: az olyan nagy chatrobotok, mint a ChatGPT vagy a Gemini, nem úgy működnek, mint az internetes keresők, és nem is hatalmas adatbázisok. Nincs valódi tudásuk a világunkról, és egyáltalán nem tudják, mi igaz és mi nem.

A nyelvi modell lényegében egy hatalmas neurális hálózat, ami tulajdonképpen egy bonyolult rendszer „kiképzett ösztönökkel”. Ezeket az ösztönöket az internet, könyvek és viták billióit elemzésével szerezte. Az egész költséges és technológiailag rendkívül igényes tréning célja nem a szöveg jelentésének megértése, hanem annak megtanítása a géppel, hogy nagyszerűen és folyékonyan utánozza az emberi beszédet.

Hogyan dolgozik az AI tokenekkel

Amikor beír egy kérdést a chatrobotba, a neurális háló nem közvetlenül a szavakkal dolgozik. A szöveget először úgynevezett tokenekre bontja. A tokenek előre előkészített szavak vagy ezek részei, amelyeket konkrét számoknak felelnek meg. A számítógép belsejében lévő matematikai hálózat ugyanis csak számokkal tud dolgozni.

A modell ezeket a számokat (a kérdését a teljes korábbi beszélgetési kontextussal) a rétegein keresztülveszi. Az eredmény azonban nem az, hogy valamilyen „helyes választ” keresne. A kimenet csupán matematikai előrejelzés: a modell kiszámítja, hogy melyik következő token a legvalószínűbb a már megírt szöveg után.

Miért a predikciót választja a modell az ellenőrzés helyett

A mesterséges intelligencia működésének egész elve az esélyek becslésére épül, nem az igazság ellenőrzésére. A modell szöveget állít össze szó szerinti (token szerinti) módon. Minden újonnan generált szó azonnal hozzáadódik a beállításhoz, és e friss kontextus alapján azonnal kiszámítja a következő szó valószínűségét.

Annak érdekében, hogy a válaszok ne legyenek teljesen unalmasak és szárazak, a generáláskor rejtett paramétert, úgynevezett „hőmérsékletet” (temperature) használnak. Ha a hőmérséklet nulla, a modell mindig a legelőreláthatóbb token-t választja, ami fád és mindig ugyanolyan válaszokhoz vezet. Magasabb hőmérséklet lehetőséget ad a modellnek arra, hogy kevésbé valószínű szavakat válasszon. Bár fokozza a kreativitást és az érdekes történetek írási képességét, de drasztikusan növeli annak esélyét, hogy a modell teljes koholmányokba csússzon.

Hogyan keletkezik egy válasz lépésről lépésre

A kérdés beadásától a végleges hallucinációig a valóságban így néz ki az egész folyamat:

1. A beviteli kérdés elemzése: A kérdés számokra (tokenekre) konvertálódik.
2. Valószínűségek számítása: A modell mérlegeli a kontextust, és a lehetséges jelöltek közül azokat a szavakat választja, amelyek statisztikailag legjobban illenek tovább.
3. A fűszer összerakása: Amikor a modell olyan témával találkozik, ahol nincsenek szilárd adatok, inkább nem vallja be, hogy nem tudja. Folyékony nyelvet használ, és olyan szöveget kezd el összeállítani, amely bár teljesen logikusan hangzik, részleteket statisztikailag kitalál.
4. A kontextus körforgása: Miután a modell félúton egy mondaton belül hibás részletet (például rossz év vagy kitalált név) hoz létre, ez a részlet a kontextus szerves részévé válik. A további lépésekben a modell saját hazugságára épít, és újabb hihető magyarázatokat ad rá.

Néhány kérdés gyakrabban vezet hallucinációkra

A tréning (úgynevezett előképzés) során a modell csak helyes, folyékony szövegeket lát. Az adatokban azonban különböző típusú információk találhatók. A helyesírási szabályok vagy zárójelek helyes bezárása folyamatosan ismétlődnek a szövegekben, így az AI hibátlanul megtanulja őket.

Probléma jelentkezik a specifikus tényeknél, amelyek ritkán jelennek meg az adatokban, és nem követnek semmiféle ismételhető mintát. Tipikus példa a pontos számadatok, évszámok, születési dátumok vagy kevésbé ismert történelmi események. Mivel ezek a tények az adatokban gyakorlatilag véletlenszerűek, a modell nem képes megbízhatóan kikövetkeztetni őket. Ha tehát konkrét számadatokat vagy részleteket kér az AI-tól, amelyeket az ember pontosan emlékezik az archívumból, a hallucináció kockázata rakétasebességgel növekszik.

Hogyan próbálják korlátozni az AI hallucinációkat?

Jelenleg a fejlesztők több fő stratégiát használnak az AI modellek vad fantáziájának megfékezésére:

• Külső eszközök és keresés. Hasonlóan ahhoz, hogy a modellek kaptak kalkulátorokat matematikai számításokhoz, ma lehetőségük van az internet átkutatására a válaszadás előtt. Elolvassák a releváns oldalakat, majd azokat idézik. Ez jelentősen csökkenti annak esélyét, hogy az AI kitalálja a választ, bár még idézetekkel együtt is előfordulhatnak hallucinációk.
• Okoskodó modellek (Reasoning). Fejlett rendszerek (pl. a OpenAI o3 vagy o5 sorozata) belső monológot folytatnak a válasz generálása előtt. Először átgondolják a lépéseket, ellenőrzik a forrásokat, és csak ezután bocsátják ki a szöveget a felhasználónak. Itt lényegesen kevesebb az álomkép, de ha felmerülnek, azok annál inkább kifinomultabbak és nehezebben felfedezhetők.
• RAG architektúra (Retrieval-Augmented Generation). Elsősorban vállalatoknál használják. A modell lekapcsolódik a szabad találgatásról, és arra kényszerítik, hogy kizárólag a biztosított belső dokumentum adatbázisíról dolgozzon. Ezzel a hibázás valószínűségét minimálisra csökkentik.

A fő probléma azonban a modellek tesztelésénél van. A legtöbb rangsor a tiszta sikerességet (pontosságot) méri az 1 (helyes) vagy 0 (hibás) skálán. Az óvatos bevallás „nem tudom” mindig nullával végződik, míg a kockázatos tipp például pontot érhet. Ez a rendszer így az AI-t arra ösztönzi, hogy inkább magabiztosan tippeljen, mintsem bizonytalanságot vallva. Az OpenAI ezért kutatásaiban a minősítési módszertan módosítását támogatja, amely büntetné a modelleken való információkitermelést, és pontokat adna a nyílt bizonytalanság bevallásáért.

Hogyan lehet az AI-tól megbízhatóbb válaszokat kapni

Amíg az értékelési rendszerek nem változnak, nekünk felhasználóknak kritikusan kell hozzáállnunk a chatbotok kimenetéhez. Íme néhány tipp az ingatag kockázatok minimalizálására:

• Adja meg az adatokat közvetlenül a promptban. Ha azt szeretné, hogy az AI elemezze a szöveget vagy törvényt, helyezze közvetlenül a beállításba, és kifejezetten tiltsa meg bármi hozzáadását, ami a szövegben nincs benne. A tévhitek aránya ezzel a minimálisra csökken.
• Változtassa meg a kérdés hangnemét. Ne nyomja sarokba a modellt olyan kérdésekkel, amelyeket nem tud logikusan kikövetkeztetni (pontos statisztikai számadatok, életrajzi részletek).
• Minden fontos információt ellenőrizzen. Különösen érzékeny területeken, mint a jog, az orvostudomány vagy a pénzügyek, csak durva munkadarabként vegye a AI válaszait, amelyeket önállóan kell ellenőriznie független, ellenőrizhető forrásokban.

Gyakran Ismételt Kérdések

Miért ígéri nekem néha az AI, hogy e-mailt küld vagy később teljesít egy feladatot, ha nem képes rá?

A modellnek nincs tudomása a valós technikai lehetőségeiről vagy az aktuális időről. Egyszerűen a statisztikai valószínűség alapján egészíti ki a szöveget. Ha megad neki egy feladatot, a legtermészetesebb folytatásként fogja értékelni a mondat udvarias megerősítését, hogy már dolgozik rajta, még ha a háttérben nem is fut semmilyen folyamat.

Képes-e a chatbot teljesen kitalálni egy könyvet vagy tudományos cikket, amely ténylegesnek tűnik?

Igen, ez nagyon gyakran előfordul. Az AI a szövegekből megtanulta a szakmai idézetek szerkezetét, így képes nagyon valósághűen és szakszerűen hangzó címet generálni. Az ilyen idézetekben szereplő információk azonban teljesen kitaláltak lehetnek, és az egyetlen módja annak megállapítására, hogy léteznek-e, az, hogy megpróbálják függetlenül megkeresni az adott művet.

Segít-e a hallucinációk ellen, ha ugyanazt a dolgot újra megkérdezem egy új csevegésben?

Igen, új csevegés megnyitása nagyon hatékonyan segíthet. Ezzel ugyanis törli az előző beszélgetés teljes kontextusát. Ha az AI hibázott az előző mondatban, az eredeti beszélgetésben ezen az alapon folytatja tovább, míg tiszta ablakban a valószínűségek kiszámítása nulla kezdés lesz.

Ha bekapcsolom az internetes keresést, biztos lehetek benne, hogy a válasz hibátlan lesz?

Sajnos nem lehet biztos benne. A keresőmotor ugyan biztosítja a modellnek a helyes adatokat, de az AI még mindig becsléssel állít össze szöveget a következő szóról. Tesztek azt mutatják, hogy a chatrobotok még webes hozzáféréssel is félreérthetik az információkat, összekeverhetik az összefüggéseket, és olyan hibát követhetnek el, amelyet valós hivatkozásokkal egészítenek ki.

Van értelme a mesterséges intelligencia használatához, ha tudom, hogy így hibázhat?

Biztosan van, csak változtatnia kell az elvárásait. Agyművelethez, e-mailek írásához, kreatív koncepciók kitalálásához vagy nem hagyományos összefüggések kereséséhez ez a modell szabadsága hatalmas előnyt jelent. Magának kell azonban szerkesztőként tevékenykednie, hagyva az AI-t írni, és a tényleges részleteket mindig saját magának kell ellenőriznie.