Az AI hallucination (magyarul AI-hallucináció) az a jelenség, amikor egy nyelvi modell (mint a ChatGPT, Claude, Gemini) magabiztosan, jól megfogalmazva, de ténylegesen helytelenül válaszol. Olyan tényt állít, ami nem igaz; idéz egy könyvet, ami nem létezik; megnevez egy embert, aki sosem mondta azt, amit a modell idéz. A pszichológiai „hallucináció”-hoz csak metaforikus rokonságban áll — itt nem érzékcsalódásról, hanem statisztikai kimenet-generálásról van szó, ami a tréning-adatok mintázataiból „kreatív kombinációt” épít. Üzleti szempontból ez a legnagyobb kockázat AI-rendszerek bevezetésénél: ha az ügyfél hibás információt kap, az a céged hitelét rontja.
Így is ismerheted
Magyarul AI-tévedés, AI-fantázia, vagy szárazabban AI által generált hibás tartalom. Angolul a klasszikus AI hallucination, LLM hallucination, confabulation. A kutatói közösségben „fabrication” (kitalálás) néven is futott, mert a „hallucination” szó kicsit elviszi a fókuszt a tényleges problémától — a modell nem „lát” semmit, csak rossz mintára építve generál.
Miért történik?
A nyelvi modellek nem „tudnak” semmit a klasszikus értelemben — a tréning során azt tanulták meg, hogy egy adott szövegrész után mi a leggyakoribb folytatás. Ha „2026-ban a Magyar Nemzeti Bank elnöke” után a tréningadatokban gyakran „Matolcsy György” szerepelt, akkor a modell ezt fogja válaszolni — még ha azóta változott is. Vagy ha „a CDN” és „Akamai” gyakran szerepelt együtt, de a modell összekeveri, hogy ki alapította, simán kitalálhat egy nem létező nevet.
Három fő ok ami hallucinációhoz vezet:
- Friss adat hiánya — a modell tréning-adata mondjuk 2024-ig tart. 2026-os kérdésre csak találgat.
- Szakmai mélység — egy ritka területen (pl. magyar adójog 2025-ös változások) a modellnek kevés adata van, és kitalál.
- Túl sok kontextus — egy hosszú prompt vagy beszélgetés végén a modell elveszítheti a fonalat, és az elejére visszatérve hibás emlékre épít.
Miért különösen veszélyes üzleti szempontból?
A klasszikus szoftver hiba esetén leáll vagy hibaüzenetet ad. Az AI hibája viszont rejtett: jól megfogalmazott, magabiztos szöveg, ami simán átmegy emberi szemen is. Néhány valós példa, amit hallottunk vagy láttunk:
Egy ügyfélszolgálati AI-asszisztens magabiztosan azt mondta egy webshop-ügyfélnek, hogy „a csomagja másnap megérkezik” — miközben a tracking szerint még feldolgozás alatt volt. Az ügyfél felmondta a megrendelést, panaszt írt, a cég hitele romlott.
Egy jogi AI-asszisztens egy szerződés-elemzésnél hivatkozott egy paragrafusra, ami nem létezik a magyar jogszabályokban. Az ügyvéd-csapat egy hetet pazarolt a forrás keresésével, mire kiderült, hogy a modell kitalálta.
Egy oktatási tartalom-generátor egy cikkben azt írta, hogy „a HTTPS protokoll a Netscape-é volt, 1991-ben” — miközben valójában 1994-ben mutatták be, és az adatok keverednek.
Hogyan szűrhető a hallucination?
Nincs „nulla hallucinációs” megoldás, de van több védvonal, amik kombinálva drasztikusan csökkentik az előfordulást:
RAG-architektúra: a modell csak a saját, ellenőrzött adatbázisodra építsen. Ne általános tudásból válaszoljon, hanem dokumentumokból, amiket a vektoradatbázisban tárolsz. Ez az egyik legerősebb módszer — a RAG cikkben részletesen kifejtve.
Forrás-megjelölés: minden válaszhoz adj forrás-link vagy idézet. „Ez a válasz a [Szabályzat X] 3.2-es szakaszából származik.” Ezzel az ember utólag ellenőrizheti.
Bizonytalanság-érzékelés: a prompt szóljon az AI-nak, hogy ha nem biztos valamiben, mondja meg. „Ha nem találtál releváns információt, ne találgass — válaszold: ‘Erre vonatkozóan nem találtam pontos adatot.'”
Validáció külső forrással: a kritikus számokat, dátumokat, neveket ellenőrizd egy második hívással vagy egy klasszikus adatbázisból. Pl. egy AI-asszisztens szerint a megrendelés státusza „elindult” — ezt erősítsd meg a tényleges rendszerrel.
Emberi felülvizsgálat: a magas tét feladatoknál (külső kommunikáció, jogi tartalom, pénzügyi döntés) mindig legyen humán-átnézés a publikálás előtt. „Human in the loop” — az AI tervez, az ember dönt.
Modell-választás: a frissebb, drágább modellek (GPT-4o, Claude Opus) kevesebbet hallucinálnak, mint a kisebb / olcsóbb változatok. Magas tét feladaton ne spórolj a modellen.
Mire figyelj éles használatban?
Az első tipp: monitorozz. Naponta-hetente nézz át pár AI-választ random módon, és ellenőrizd, mennyire pontosak. A „minőség-romlás” fokozatosan jön, és ha nem nézed, hetek múlva derül ki.
A második: kapj visszajelzést a felhasználóktól. Minden AI-válasz mellett legyen egy „hasznos volt?” gomb. A negatív visszajelzéseket nézd át, és tanulj belőlük.
A harmadik: tarts készenléti emberi csatornát. Ne az AI legyen a végállomás. Ha az ügyfél elégedetlen vagy a kérdés komplex, könnyen elérje egy emberi kollégát. „Egy kollégámmal egyeztetem” mindig korrekt kimenet.
A negyedik: kommunikáld, hogy AI-jal beszél. Ne engedd, hogy az ügyfél azt higgye, emberrel csevegett. Ez bizalmi szempontból is fontos, és jogilag is (GDPR, AI Act egyaránt elvárja).
Az ötödik: verzionálj és visszamenőleg ellenőrizz. A promptjaid, az LLM-modell-verziók, a tudásbázis-frissítések — minden változás indukálhat új hibákat. Tartsd nyomon, mi mikor változott.
Ha AI-rendszert vezetsz be és aggódsz a hallucination miatt, az AI és automatizáció szolgáltatásunkba beépítve segítünk a védvonalak megtervezésében — RAG-architektúra, monitoring, emberi handoff. Egy konkrét weboldali AI-megjelenésre (chatbot) a chatbot fejlesztés az induló pont. További olvasnivaló: en.wikipedia.org/wiki/Hallucination_(artificial_intelligence).
