Fogalomtár › Tanítás és adat

batch méret

angolul: batch size

A batch méret azt mutatja meg, hány tanítópéldát néz meg egyszerre a mesterséges intelligencia modell, mielőtt egyet igazít a saját beállításain.

Érthetően

Képzeld el, hogy egy tanár dolgozatokat javít, és közben azt figyeli, mit kellene másképp tanítania. Ha minden egyes dolgozat után változtat a módszerén, kapkodni fog, mert egyetlen diák hibája is eltérítheti. Ha csak az összes dolgozat átnézése után vált, akkor nagyon ritkán tud javítani. A józan megoldás, hogy például 32 dolgozatonként áll meg, és akkor von le tanulságot. Ez a 32 a batch méret.

Az AI-modellek ugyanígy tanulnak. A tanítóadatot kisebb adagokra, magyarul kötegekre bontják, és a modell minden adag után finomít egy kicsit a belső beállításain. A batch méret tehát nem a modell tudását írja le, hanem a tanulás ritmusát.

Azért fontos, mert ettől függ, mennyi memória kell a tanításhoz, milyen gyorsan halad, és részben az is, mennyire jól teljesít a kész modell új, addig nem látott adatokon. Ez egy úgynevezett hiperparaméter: nem a modell tanulja meg, hanem a fejlesztő állítja be előre.

Hogyan működik

1. A tanítóadatot összekeverik, majd adagokra osztják. Egy adagban annyi példa van, amennyi a batch méret, például 32, 256 vagy több ezer; az utolsó adag kisebb is lehet, ha a példák száma nem osztható maradék nélkül.
2. A modell egyszerre megkapja az adag összes példáját, mindegyikre ad egy választ, és a rendszer kiszámolja, átlagosan mekkorát tévedett.
3. Ebből az átlagos hibából kiderül, merre kell elmozdítani a modell belső számait, vagyis a súlyokat. Ezután megtörténik egy kis igazítás, és jön a következő adag.
4. Amikor az összes adag sorra került, lezárul egy teljes kör, azaz egy epoch. A tanítás általában sok ilyen körből áll.
5. A kis adag zajosabb, szeszélyesebb tanulást ad, de kevés memória kell hozzá. A nagy adag egyenletesebb és jobban kihasználja a hardvert, viszont több memóriát kér, és a tanulási rátát is hozzá kell hangolni.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Nincs mindenhol érvényes, ideális érték: a jó batch méret függ a modelltől, az adattól és a hardvertől, ezért ki kell kísérletezni.
• A batch méretnek a memória szab felső határt, a túl nagy adag egyszerűen nem fér el a videókártyán.
• A batch méret nem állítható önmagában: ha megváltoztatod, általában a tanulási rátát is újra kell hangolni.
• A nagyon kis adag zajos, ingadozó tanulást ad, és rosszul használja ki a drága hardvert.

Hasonló, de nem ugyanaz

• epoch – Az epoch azt jelenti, hogy a modell egyszer végigment a teljes tanítóadaton, a batch méret pedig azt, hogy ezen belül mekkora adagokban haladt.
• tanulási ráta – A tanulási ráta azt szabja meg, mekkorát igazít a modell egy lépésben, a batch méret pedig azt, hogy hány példa alapján dönt az igazításról.
• kötegelt feldolgozás – A kötegelt feldolgozás (batch processing) a kész modellnek egyszerre beküldött, nem sürgős kérések csoportos kiszolgálása, nem a tanítás beállítása.

Kapcsolódó fogalmak

Röviden a története

Az adagonkénti tanulás a sztochasztikus közelítés módszeréből nőtt ki, amelynek alapjait Herbert Robbins és Sutton Monro 1951-ben írta le. A mélytanulás elterjedésével vált mindennapi beállítássá. Egy 2016-os tanulmány (Keskar és társai) azt mutatta meg, hogy a nagyon nagy adagokkal tanított modellek gyengébben teljesíthetnek új, addig nem látott adatokon.

Hol tart most

2026 végén a batch méret a neurális hálók tanításának egyik alapvető beállítása, amelyet minden elterjedt gépi tanulási keretrendszerben meg lehet adni. A nagy nyelvi modelleknél gyakran már nem példák, hanem tokenek számában adják meg. Ha a kívánt adag nem fér el a memóriában, sokszor gradiens-akkumulációval pótolják: több kis adag eredményét összegyűjtik, és csak utána igazítanak a modellen.

Állapot: 2026. november

Más nevei

batch méret · batch size · batch-méret · kötegméret · köteg mérete · mini-batch méret · minibatch size · adagméret

Források

• Wikipedia: Stochastic gradient descent
• Keskar et al. (2016): On Large-Batch Training for Deep Learning: Generalization Gap and Sharp Minima

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.