kontextusromlás
angolul: context rot
A kontextusromlás az a jelenség, amikor a nyelvi modell egyre pontatlanabbul dolgozik, ahogy egyre több szöveg gyűlik fel a beszélgetésben vagy a feladatban.
Érthetően
Képzeld el, hogy az íróasztalodra egész nap csak pakolják a papírokat, és semmit sem vesznek le róla. Délután ötkor még minden ott van, de a reggel kapott fontos cetlit már alig találod meg, és a régi, elavult jegyzeteket könnyen összekevered a frissekkel. A nyelvi modellel ugyanez történik, ha túl sok szöveg gyűlik fel előtte.
A modell egyszerre csak egy meghatározott mennyiségű szöveget lát: ez a kontextusablak. A legnagyobb mai modelleknél ebbe akár több könyvnyi szöveg is belefér. A kontextusromlás azt jelenti, hogy a teljesítmény nem a határ elérésekor esik le hirtelen, hanem már jóval előtte gyengülni kezd, gyakran nem egyenletesen és nehezen kiszámíthatóan.
A romlás jelei: a modell elfelejti a beszélgetés elején adott utasítást, összekever részleteket, megismétel korábbi hibákat, vagy olyan információra hivatkozik, amelyet azóta már felülírtál. Ezért sokszor jobb eredményt ad egy friss, rövid beszélgetés, mint egy órák óta húzódó, hosszú.
Hogyan működik
- A modell minden válaszánál a teljes addigi anyagot figyelembe veszi: az utasításokat, a kérdéseidet, a saját korábbi válaszait és a csatolt dokumentumokat.
- Leegyszerűsítve: minél hosszabb ez az anyag, annál több szövegrész között oszlik meg a modell figyelme, így egy-egy fontos mondatra kevesebb jut.
- A lényegtelen, ismétlődő vagy egymásnak ellentmondó részek zajként viselkednek: elterelik a modellt, és a hasonló, de nem odaillő részletek különösen könnyen megtévesztik.
- Sok modell a szöveg közepén lévő információt rosszabbul találja meg, mint az elején vagy a végén lévőt.
- A védekezés a kontextus karbantartása: új beszélgetés indítása, a korábbiak tömör összefoglalása, és csak a feladathoz tényleg szükséges anyag betöltése.
Példa a mindennapokból
Két órája dolgozol egy csevegőrobottal egy pályázati anyagon, és az elején megkérted, hogy mindig magázó hangnemben írjon. A huszadik körben egyszer csak tegezni kezd, és visszahoz egy bekezdést, amelyet már rég kihúztatok. Ha új beszélgetést nyitsz, és bemásolod a legfrissebb változatot az utasításokkal, újra pontosan dolgozik.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A romlás nem feltétlenül egyenletes, és a modell nem jelzi: ugyanolyan magabiztosan válaszol akkor is, amikor már elvesztette a fonalat.
- Nincs általános küszöb, ahonnan a romlás kezdődik; modellenként és feladatonként más, ezért hosszú munkánál érdemes időnként ellenőrizni a válaszokat.
- Az automatikus összefoglalás vagy tömörítés segít, de közben fontos részletek is elveszhetnek.
- A nagyobb kontextusablak önmagában nem oldja meg a problémát, legfeljebb későbbre tolja.
Hasonló, de nem ugyanaz
- kontextusablak – A kontextusablak a modell által egyszerre átlátható szöveg mennyiségi határa, a kontextusromlás viszont a határon belül, már jóval előtte jelentkező minőségromlás.
- hallucináció – A hallucináció kitalált, valótlan állítás, amely rövid beszélgetésben is előfordul; a kontextusromlás ennek egyik lehetséges kiváltója, de más hibákat is okoz, például utasítások elfelejtését.
- modellsodródás – A modellsodródásnál a modell teljesítménye hónapok alatt változik, mert megváltozik a világ vagy az adatok; a kontextusromlás egyetlen beszélgetésen vagy feladaton belül történik.
Kapcsolódó fogalmak
középen elvesző információ
kontextusablak, kontextusmérnökség, kontextusmérgezés, token, hallucináció, kontextustömörítés, figyelmi mechanizmus
Röviden a története
Azt, hogy a nyelvi modellek a hosszú szöveg közepén lévő információt rosszabbul használják fel, egy 2023-as tanulmány („Lost in the Middle”) mutatta ki. Maga a „context rot” elnevezés 2025-ben terjedt el, főként a Chroma kutatócsapat azonos című, 18 modellt vizsgáló jelentése nyomán.
Hol tart most
2026 végére a fogalom a fejlesztők és az AI-agenteket építő csapatok mindennapi szókincsének része, a jelenség pedig a legújabb modelleknél is megfigyelhető. Az eszközök egyre gyakrabban kezelik automatikusan, például tömörítéssel, külső memóriával vagy a feladat több, tiszta kontextusú agent közötti szétosztásával.
Más nevei
kontextusromlás · kontextus-romlás · kontextusrothadás · a kontextus romlása · kontextusdegradáció · context rot · context degradation
Források
- Chroma Research: Context Rot – How Increasing Input Tokens Impacts LLM Performance (2025)
- Liu et al.: Lost in the Middle – How Language Models Use Long Contexts (2023)
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.