Fogalomtár › Nyelvi modellek

mintavételezés

angolul: sampling

A mintavételezés az a lépés, amikor a nyelvi modell a lehetséges következő szavak közül valószínűségek alapján, részben véletlenszerűen kiválaszt egyet.

Érthetően

A nyelvi modell nem kész mondatokat húz elő egy fiókból. Minden lépésben azt számolja ki, hogy az eddigi szöveg után melyik szó (pontosabban szódarab, azaz token) mekkora eséllyel következhet. A mintavételezés az a pillanat, amikor ebből a listából ténylegesen kiválaszt egyet.

Képzelj el egy szerencsekereket, amelyen a valószínűbb szavak nagyobb szeletet kapnak, a ritkábbak kisebbet. A modell megpörgeti a kereket: többnyire a nagy szeletek valamelyikén áll meg, de néha egy kisebben. Ezért kaphatsz ugyanarra a kérdésre kétszer eltérő választ.

A kerék „szabályozható”. Ha a modell mindig a legnagyobb szeletet választja, a válasz kiszámítható, de gyakran lapos és önismétlő. Ha nagyobb teret kap a véletlen, a szöveg változatosabb és ötletesebb lesz, viszont nő az esélye a zagyvaságnak vagy a tévedésnek.

A mintavételezés tehát nem hiba, hanem tudatos tervezési döntés: ettől hat a gépi szöveg természetesnek, és ezért lehet ugyanazt a modellt precíz és kreatív feladatra is beállítani.

Hogyan működik

1. A modell elolvassa az eddigi szöveget, és a szótára minden tokenjéhez kiszámol egy pontszámot arról, mennyire illik következőnek.
2. A pontszámokat valószínűségekké alakítja. Ezt befolyásolja a hőmérséklet (temperature): alacsony értéknél a legesélyesebb szavak még jobban kiemelkednek, magasnál kiegyenlítődnek az esélyek.
3. A jelöltek listáját általában megszűri: a top-k csak a k legvalószínűbb tokent hagyja meg, a top-p (nucleus) pedig a legvalószínűbbek közül annyit, amennyinek az együttes valószínűsége elér egy megadott hányadot, például 90 százalékot.
4. A megmaradt jelöltek közül a modell a valószínűségek arányában véletlenszerűen húz egyet.
5. A kiválasztott tokent hozzáfűzi a szöveghez, és az egész kezdődik elölről, amíg a válasz el nem készül.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• A véletlen miatt ugyanaz a kérdés egyszer jó, máskor hibás választ adhat, ezért a fontos állításokat mindig ellenőrizd.
• A magasabb hőmérséklet változatosabb szöveget ad, de gyakoribbá teszi a pontatlan, kitalált vagy összefüggéstelen részleteket.
• A túl szigorú beállítás sablonos, önismétlő szöveghez vezethet.
• A legtöbb csevegőalkalmazásban ezeket a beállításokat nem látod és nem módosíthatod, és egyes újabb modelleknél a fejlesztők is csak korlátozottan.

Hasonló, de nem ugyanaz

• statisztikai mintavétel – A statisztikában egy nagy sokaságból választanak ki vizsgálandó elemeket (például egy közvélemény-kutatás válaszadóit), itt viszont a modell a következő szót választja ki.
• hőmérséklet (temperature) – A hőmérséklet a mintavételezés egyik állítható paramétere, nem maga a folyamat.
• hallucináció – A hallucináció a modell magabiztosan közölt téves állítása; a mintavételezés növelheti az esélyét, de nem az egyetlen oka.

Kapcsolódó fogalmak

Röviden a története

Claude Shannon már 1948-ban, az információelméletet megalapozó tanulmányában úgy állított elő angolra hasonlító szöveget, hogy betűket és szavakat húzott a gyakoriságuk alapján. A ma egyik legelterjedtebb eljárást, a top-p (nucleus) mintavételezést Ari Holtzman és szerzőtársai írták le 2019-ben.

Hol tart most

2026 végén gyakorlatilag minden szöveget generáló nyelvi modell mintavételezéssel dolgozik, a hőmérséklet és a top-p a fejlesztői felületek megszokott beállítása. A fejlett, gondolkodó modelleknél a szolgáltatók egyre gyakrabban maguk rögzítik vagy szűkítik ezeket az értékeket.

Állapot: 2026. november

Más nevei

mintavételezés · mintavétel · sampling · token sampling

Források

• Holtzman et al.: The Curious Case of Neural Text Degeneration (arXiv, 2019)
• Wikipedia: Top-p sampling

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.