validációs halmaz
angolul: validation set
A validációs halmaz az adatok félretett része, amelyen a fejlesztők tanítás közben ellenőrzik és hangolják a modellt, de amelyből a modell közvetlenül nem tanul.
Érthetően
Képzeld el, hogy érettségire készülsz. A tankönyvi feladatokból tanulsz, a próbaérettségin pedig kiderül, hogy tényleg érted-e az anyagot, vagy csak bemagoltad a megoldásokat. A validációs halmaz a mesterséges intelligencia próbaérettségije: olyan példák, amelyeket a modell tanulás közben nem kap meg tananyagként, csak számonkérésként.
Arra jó, hogy a fejlesztők menet közben dönteni tudjanak: meddig tartson a tanítás, mekkora legyen a modell, melyik beállítás működik jobban. Ha a modell a tananyagon egyre jobb, a validációs halmazon viszont romlani kezd, az a magolás jele. Ezt hívják túltanulásnak.
Más, mint a tanító halmaz, mert abból a modell ténylegesen tanul. És más, mint a teszthalmaz, mert az az igazi, egyszeri vizsga a legvégén. A próbaérettségit többször megírhatod, és az eredménye alapján igazíthatsz a felkészülésen. Az éles vizsga után viszont már nem tanulhatsz újra, hogy jobb jegyet kapj, különben az eredmény már nem mutatná, mit tudsz valójában.
Hogyan működik
- A fejlesztők a rendelkezésre álló adatot a tanítás előtt részekre osztják: a legnagyobb rész a tanító halmaz, egy kisebb a validációs, egy másik kisebb a teszthalmaz (gyakori arány például 80–10–10 százalék).
- A modell csak a tanító halmaz példáiból tanul, a validációs példákat ekkor nem látja.
- Tanítás közben rendszeresen megmérik, hogyan teljesít a modell a validációs halmazon, és ezt összevetik a tanító halmazon elért eredménnyel.
- A mérés alapján döntenek: módosítják a beállításokat (az úgynevezett hiperparamétereket), több modellváltozat közül kiválasztják a legjobbat, vagy leállítják a tanítást, mielőtt a modell magolni kezdene.
- A végső, kiválasztott modellt egyszer lemérik az addig érintetlen teszthalmazon, és ez adja a legmegbízhatóbb becslést arról, mire számíthatsz éles használatban.
Példa a mindennapokból
Egy bank olyan modellt készít, amely a gyanús kártyás fizetéseket szűri ki. A korábbi tranzakciókból tanítja a modellt, a legutóbbi néhány hónap tranzakcióit pedig félreteszi validációs halmaznak, és ezen dönti el, milyen szigorú legyen a szűrő. Így a te kártyádat kisebb eséllyel tiltják le tévedésből egy külföldi vásárlás miatt, a valódi csalások nagy része pedig mégis fennakad.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Ha a fejlesztők túl sokszor hangolnak ugyanarra a validációs halmazra, a modell közvetve ahhoz is hozzáidomul, és az eredmény szebbnek látszik a valóságnál.
- Csak akkor ér valamit, ha hasonlít a valós helyzetekre: ha a félretett adatok nem tükrözik a későbbi felhasználókat, a jó eredmény félrevezető.
- Adatszivárgásnál, vagyis amikor ugyanaz vagy nagyon hasonló példa a tanító és a validációs halmazba is bekerül, a mérés hamisan jó képet ad.
- Időben változó adatoknál (például árfolyamoknál vagy tranzakcióknál) a véletlenszerű felosztás félrevezető eredményt ad, mert a modell így a „jövőből” is lát példákat. Ilyenkor a validációs halmazba a tanítóadatoknál későbbi időszak adatainak kell kerülniük.
- Kevés adat esetén a félretett rész túl kicsi lehet a megbízható méréshez, ilyenkor keresztvalidációt szokás alkalmazni.
Hasonló, de nem ugyanaz
- tanító halmaz – A tanító halmazból a modell közvetlenül tanul, a validációs halmazon csak ellenőrzik, mennyire boldogul ismeretlen példákkal.
- teszthalmaz – A teszthalmaz a fejlesztés végén, egyszer használt végső vizsga, a validációs halmaz a menet közbeni, többször megírt próbavizsga.
- keresztvalidáció – A keresztvalidáció olyan eljárás, amelyben az adatok különböző szeletei felváltva töltik be a validációs halmaz szerepét, nem pedig egyetlen rögzített rész.
Kapcsolódó fogalmak
gépi tanulás, adathalmaz, modellértékelés, felügyelt tanulás
–
tanító halmaz, teszthalmaz, keresztvalidáció, korai leállítás, túltanulás, hiperparaméter, benchmark
Röviden a története
Az ötlet a statisztikából ered: a keresztvalidáció módszerét Mervyn Stone 1974-es és Seymour Geisser 1975-ös tanulmánya tette széles körben ismertté. A tanító, validációs és teszthalmaz ma használt hármas felosztása az 1990-es években, a neurális hálók és a gépi mintafelismerés kutatásában vált általános gyakorlattá.
Hol tart most
2026 végén a validációs halmaz használata a gépi tanulás alapvető, megkerülhetetlen gyakorlata, a nagy nyelvi modellek finomhangolásánál is. Egyre több figyelmet kap az a kérdés, hogyan lehet a félretett adatokat valóban elkülönítve tartani az óriási, internetről gyűjtött tanítóadatoktól.
Más nevei
validációs halmaz · validációs adathalmaz · validációs készlet · validációs adatok · validation set · validation data · development set · dev set
Források
- Wikipedia: Training, validation, and test data sets
- scikit-learn dokumentáció: Cross-validation – evaluating estimator performance
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.