tokenkeret

angolul: token budget / thinking budget

haladóelterjedt

A tokenkeret előre megszabott felső határ arra, hogy egy AI-modell vagy agent mennyi szöveget dolgozhat fel és mennyit „gondolkodhat” egy feladaton.

Érthetően

Az AI-modellek tokenekben mérik a munkát: egy token nagyjából egy szótöredék. Minden elolvasott, végiggondolt és leírt token időbe és pénzbe kerül. A tokenkeret azt mondja meg, mennyit költhet el ebből a rendszer egy feladatra.

Olyan, mint amikor a szerelőnek azt mondod: legfeljebb két órát dolgozhatsz a kocsin, utána szólj, mire jutottál. Nem azt szabod meg, mit csináljon, hanem azt, mennyi ráfordítás fér bele.

A gondolkodási keret (thinking budget) ennek szűkebb fajtája. Azt korlátozza, mennyit érvelhet magában a modell, mielőtt válaszol. Egyszerű kérdéshez kevés is elég, bonyolult elemzéshez vagy programozáshoz több kell.

Agenteknél a keret különösen fontos, mert az agent sok lépésben, önállóan dolgozik: keres, fájlokat olvas, eszközöket hív. Keret nélkül egy elakadt agent órákig pörgethetné a számlát.

Hogyan működik

A fejlesztő vagy a szolgáltatás beállít egy felső határt: egy számot (például 10 000 token gondolkodásra) vagy egy fokozatot (alacsony, közepes, magas).
A modell munka közben fogyasztja a keretet: tokennek számít, amit elolvas, amit magában végiggondol, és amit végül leír.
Agentnél minden lépés a keretből megy: az eszközök eredményei, a korábbi lépések előzményei és az esetleges segéd-agentek munkája is.
Ha a keret fogy, a jól megépített rendszer rövidít, összefoglal, vagy lezárja a feladatot és jelzi, meddig jutott. A rosszul megépített egyszerűen félbeszakad.
Az újabb modellek egy része maga dönti el, mennyi gondolkodás kell az adott kérdéshez, a megadott kereten belül.

Példa a mindennapokból

Megkérsz egy csevegőrobotot, hogy hasonlítson össze három lakáshitel-ajánlatot, és bekapcsolod a „hosszabb gondolkodás” módot. A válasz lassabban jön, de alaposabb, mert a modell nagyobb gondolkodási keretet kapott. Ha viszont egy hosszú feladat közepén azt látod, hogy elérted a limitet, az többnyire nem a feladat tokenkerete, hanem az előfizetésed időszakos használati korlátja: rokon fogalom, de nem ugyanaz.

Kit érint

fejlesztőŐ állítja be a keretet, és ezzel egyensúlyoz a válasz minősége, a sebesség és a költség között. → Kód

vállalkozó, vezetőA tokenkeret felső határt szab annak, mennyibe kerülhet egy agent üzemeltetése, és védi a céget az elszabaduló számlától.

munkavállalóHa AI-eszközzel dolgozol, a feladatra szánt keret szabja meg, milyen mély munkát bízhatsz rá. Azt viszont, hogy egy nap vagy egy hét alatt összesen mennyit használhatod, az előfizetésed használati korlátja dönti el. → Munka és HR

mindenkiA csevegőrobotok „gyors” és „gondolkodó” módja mögött többnyire ez a beállítás áll, csak gombként jelenik meg. Néha a gomb egy másik modellre vált.

Gyakori félreértés

TévhitMinél nagyobb a tokenkeret, annál jobb és megbízhatóbb a válasz.

ValójábanA több gondolkodás a nehéz, többlépéses feladatoknál segít, egyszerű kérdésnél csak lassít és drágít. Tévedni nagy kerettel is tud a modell.

Korlátok és kockázatok

A keret felső határ, nem ígéret: a modell nem feltétlenül használja ki, és a minőséget sem garantálja. Egyes rendszerekben csak irányszám, amelyet a modell kissé túl is léphet.
A túl szűk keret miatt a válasz vagy az agent munkája félbeszakadhat, és ez nem mindig derül ki egyértelműen.
A gondolkodásra elhasznált tokenekért akkor is fizetsz, ha a gondolatmenetet nem látod, vagy csak kivonatosan.
A szolgáltatók másképp számolnak és másképp nevezik a beállítást, ezért a keretek nem hasonlíthatók össze közvetlenül.

Hasonló, de nem ugyanaz

kontextusablak – A kontextusablak azt mutatja, mennyi szöveget lát egyszerre a modell, a tokenkeret pedig azt, mennyit használhat el a feladatra.
használati korlát (rate limit) – A használati korlátot a szolgáltató szabja meg időegységre (percre, napra, hétre), a túlterhelés ellen vagy az előfizetés részeként. A tokenkeretet viszont te vagy a fejlesztő állítja be egy feladatra.
maximális válaszhossz – Ez azt korlátozza, legfeljebb mennyi szöveget állíthat elő a modell egyetlen válaszban; több szolgáltatónál a gondolkodás tokenjei is beleszámítanak. A tokenkeret ennél tágabb: külön szabályozhatja a gondolkodást, agentnél pedig a teljes, sok lépésből álló munkamenetet.

Kapcsolódó fogalmak

Tágabb

erőforrás-gazdálkodás, költségkontroll, agent-irányítás

Szűkebb

gondolkodási keret, feladatkeret, érvelési erőfeszítés

Rokon

token, kontextusablak, érvelő modell, használati korlát, kontextusmenedzsment

Röviden a története

A tokenalapú korlátok a nagy nyelvi modellek programozói felületeivel együtt jelentek meg. Fokozatokban állítható gondolkodási mélységet (reasoning effort) az OpenAI már 2024 végén kínált az érvelő modelljeihez. A tokenszámban megadható gondolkodási keretet az Anthropic vezette be 2025 februárjában a Claude 3.7 Sonnet modellel, majd a Google még abban az évben hasonló beállítást adott a Gemini 2.5 modellekhez.

Hol tart most

2026 végén a nagy modellszolgáltatók mindegyike kínál valamilyen gondolkodási vagy feladatszintű keretet. A pontos tokenszám megadása helyett egyre gyakoribbak a fokozatok és az a megoldás, hogy a modell maga méri fel, mennyi gondolkodás kell. Néhány újabb modellnél pontos tokenszám már nem is adható meg.

Állapot: 2026. november

A hírekben

1 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Copilot: kreditpanaszok, tokenkeret és új Lite és Balanced csomagok2026. aug. 4. · Kód

Más nevei

tokenkeret · token-keret · tokenköltségvetés · gondolkodási keret · token budget · thinking budget · reasoning budget · budget_tokens

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.