hallucináció
angolul: hallucination
Hallucinációnak azt nevezzük, amikor a mesterséges intelligencia magabiztosan, hihető formában állít valamit, ami nem igaz, vagy amit egyszerűen kitalált.
Érthetően
Képzelj el egy diákot, aki nem készült a felelésre, de olyan folyékonyan és határozottan beszél, hogy elsőre fel sem tűnik: a felét rögtönzi. A nyelvi modellek néha ugyanígy viselkednek. Nem létező könyvet, téves évszámot vagy kitalált idézetet adnak eléd, ugyanolyan gördülékeny mondatokban, mint a helyes választ.
A hallucináció nem hazugság, mert a gépnek nincs szándéka megtéveszteni. A modell nem tényeket keres ki egy adatbázisból, hanem a legvalószínűbbnek tűnő folytatást írja meg. Ha nincs elég tudása a kérdésről, a hézagot hihetően hangzó szöveggel tölti ki.
A hagyományos szoftverhiba általában látszik: a program lefagy vagy hibaüzenetet ad. A hallucináció viszont jól megfogalmazott, meggyőző válasz, ezért sokkal nehezebb észrevenni.
Hogyan működik
- A nyelvi modell rengeteg szövegből azt tanulja meg, hogy milyen szavak szoktak egymás után következni, és nem azt, hogy mi igaz és mi nem.
- Amikor kérdezel, szóról szóra állítja össze a választ: mindig azt a folytatást választja, amely a tanult minták alapján valószínűnek tűnik.
- Ha a témáról kevés, ellentmondó vagy elavult adatot látott, akkor is ír valamit, mert a válaszadásra van kihegyezve, nem a hallgatásra.
- A válasz formája ilyenkor is hibátlan: van benne név, évszám, hivatkozás, csak éppen egyik sem biztos, hogy létezik.
- A fejlesztők úgy csökkentik a hibát, hogy a modell keresőt vagy megbízható dokumentumokat kap a válaszhoz, és megtanítják kimondani: „ezt nem tudom”.
Példa a mindennapokból
Megkéred a chatbotot, hogy ajánljon szakirodalmat a szakdolgozatodhoz, és kapsz öt szépen formázott hivatkozást szerzővel, évszámmal, folyóirattal. Amikor a könyvtárban rákeresel, kiderül, hogy kettő közülük soha nem jelent meg: a gép rakta össze őket valódinak hangzó elemekből.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Teljesen megszüntetni ma nem lehet: a jobb modellek ritkábban tévednek, de egyik sem hibátlan.
- A neveket, számokat, dátumokat, idézeteket és hivatkozásokat mindig ellenőrizd független forrásból, mert itt a leggyakoribb a tévedés.
- Minél ritkább, frissebb vagy helyibb a téma (például magyar jogszabály vagy kisvárosi adat), annál nagyobb a kitalálás esélye.
- Ha egy agent önállóan cselekszik a hibás információ alapján, a tévedés már nemcsak a szövegben marad, hanem tettekben is megjelenik, például rossz e-mailt küld vagy rossz adatot rögzít.
Hasonló, de nem ugyanaz
- dezinformáció – A dezinformációt valaki szándékosan terjeszti megtévesztés céljából, a hallucináció viszont szándék nélküli gépi tévedés.
- elfogultság (bias) – Az elfogultság a tanítóadatok egyoldalúságából fakadó, rendszeres torzítás. A hallucináció ezzel szemben kitalált vagy téves állítás, amely bármilyen témában előfordulhat.
- deepfake – A deepfake hamis kép, hang vagy videó, amelyet ember hoz létre vagy rendel meg AI segítségével, többnyire megtévesztő céllal. A hallucináció ezzel szemben a modell akaratlan hibája.
Kapcsolódó fogalmak
generatív mesterséges intelligencia, megbízható mesterséges intelligencia, AI-kockázat
kitalált hivatkozás, ténybeli tévedés
nagy nyelvi modell, keresővel támogatott válaszadás (RAG), tényellenőrzés, prompt, tudáshatár
Röviden a története
A gépi tanulásban a „hallucináció” szó először a képfeldolgozásban jelent meg, ott még semleges jelentésben. A nyelvi modellek tévedéseire a kutatók a 2010-es évek végétől használják, kezdetben a gépi fordítás kapcsán. A nagyközönség a ChatGPT 2022. novemberi megjelenése után ismerte meg. 2023-ban a Cambridge Dictionary a „hallucinate” igét választotta az év szavának, éppen az új, mesterséges intelligenciához kötődő jelentése miatt.
Hol tart most
2026 végén a hallucináció a nyelvi modellek közismert, mindennapos gyengesége. A keresővel és forrásmegjelöléssel dolgozó rendszerek ritkábban hibáznak, de a jelenség nem tűnt el. Előfordul, hogy a megjelölt forrás nem is támasztja alá az állítást, ezért az ellenőrzés továbbra is a te dolgod.
A hírekben
- Újabb amerikai szankciók hamis, AI-generált hivatkozások miatt, adatbázisban már 2200 eset2026. nov. 3. · Jog
- Brit bíróságok és a Law Society sürgetik az AI-használat ellenőrzését a jogi szakmában2026. nov. 3. · Jog
- Az AI-hallucinációk a bírósági beadványokban lassulnak, de a bírák továbbra is riasztanak2026. okt. 19. · Jog
- Az adóbíróság nem szankcionálta az AI-hallucinációt, de figyelmeztette a szakembereket2026. okt. 14. · Jog
- Hallucinált hivatkozások miatt elveszett az ügy: az ügyvédnek közel 39 ezer dollárt kell fizetnie2026. okt. 12. · Jog
- Hallucinált hivatkozások a bíróságokon: ügyvéd nélkül eljáró felek, szankciók, védekező ügyvédek2026. okt. 5. · Jog
- Hallucinációkat tartalmazó TRO: a bíróságok saját MI-használati szabályai kerülnek előtérbe2026. okt. 5. · Jog
- Jogi MI-eszközök: LawVu Lens, Harvey–LexisNexis perindítási munkafolyamat, LAB-AA benchmark2026. okt. 5. · Jog
Más nevei
hallucináció · AI-hallucináció · MI-hallucináció · hallucinálás · hallucination · AI hallucination · konfabuláció · confabulation
Források
- Wikipedia: Hallucination (artificial intelligence)
- NIST AI 600-1: Artificial Intelligence Risk Management Framework – Generative AI Profile
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.