instrukciós finomhangolás
angolul: instruction tuning
Olyan utótanítás, amelyben a nyelvi modell sok ezer utasítás–válasz páron gyakorolja, hogy a kérést végrehajtsa, ne csak folytassa a szöveget.
Érthetően
Egy nyers nyelvi modell eredetileg egyetlen dolgot tud: megtippelni, mi a következő szó. Ha azt írod neki, „Foglald össze ezt a cikket”, lehet, hogy nem összefoglal, hanem folytatja a mondatodat, mintha egy fórumbejegyzést írna tovább. Az instrukciós finomhangolás tanítja meg arra, hogy a kérésed feladat, amelyet el kell végeznie.
Olyan ez, mint amikor egy rengeteget olvasott, de munkahelyen még sosem dolgozó pályakezdő betanuláson vesz részt. A tudása megvan, de azt gyakorolnia kell, hogy ha a főnök kér valamit, akkor pontosan azt, a kért formában és hosszban adja át.
Ettől lesz a modellből használható asszisztens: ugyanaz a rendszer fordít, összefoglal, táblázatot készít vagy levelet ír, attól függően, mit kérsz. A sokféle gyakorlófeladat miatt olyan utasításokkal is elboldogul, amilyeneket a tanítás során szó szerint sosem látott.
A hagyományos finomhangolás egyetlen szűk feladatra élesít egy modellt, például jogi szövegek osztályozására. Az instrukciós finomhangolás általános készséget tanít: az utasítások megértését és követését.
Hogyan működik
- A fejlesztők fognak egy hatalmas szövegmennyiségen már előtanított alapmodellt, amely jól ismeri a nyelvet, de még nem követ utasításokat.
- Összeállítanak egy gyakorlógyűjteményt: több tízezer vagy több millió példát, amelyek mindegyike egy utasításból, esetleg egy bemeneti szövegből és a hozzá tartozó jó válaszból áll.
- A példák szándékosan sokfélék: fordítás, összefoglalás, kérdés megválaszolása, kódírás, átfogalmazás, és ugyanaz a feladat többféle megfogalmazásban is szerepel.
- A modell ezeken tovább tanul: a belső beállításai (súlyai) apránként úgy módosulnak, hogy az utasításra a mintaválaszhoz hasonló választ adjon.
- A végén olyan utasításokon is tesztelik, amelyek nem voltak a gyakorlóanyagban, mert a cél az általános utasításkövetés, nem a bemagolt válasz.
Példa a mindennapokból
Amikor beírod egy csevegőrobotnak, hogy „Írd át ezt a levelet udvariasabbra, legfeljebb öt mondatban”, és tényleg udvarias, legfeljebb öt mondatos levelet kapsz, az instrukciós finomhangolás eredményét látod. Ha nyílt modelleket böngészel, az „Instruct”, „Chat” vagy „it” jelzés a nevükben általában arra utal, hogy átestek ezen a lépésen.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Az utasításkövetés nem jelent igazmondást: a modell készségesen, a kért formában is adhat téves vagy kitalált választ.
- A modell olyan jó lesz, amilyenek a gyakorlópéldák; a hibás, egyoldalú vagy elfogult mintákat is megtanulja.
- A túl készséges modell rosszindulatú, a szövegbe rejtett utasításokat is végrehajthat, ami különösen az önállóan cselekvő agenteknél jelent kockázatot.
- Szűk vagy rosszul megválasztott hangolóanyag mellett a modell elveszítheti korábbi képességeinek egy részét.
Hasonló, de nem ugyanaz
- finomhangolás – A finomhangolás a tágabb fogalom, bármilyen célú utótanítást jelent; az instrukciós változat kifejezetten az utasítások követését gyakoroltatja.
- promptolás – A promptolás során csak a kérést fogalmazod meg ügyesebben, a modell változatlan marad; az instrukciós finomhangolás magát a modellt alakítja át.
- megerősítéses tanulás emberi visszajelzéssel – Ott a modell emberi értékelések és rangsorok alapján tanulja meg, melyik válasz a jobb, itt pedig kész mintaválaszokat utánoz.
Kapcsolódó fogalmak
csevegésre hangolás, szintetikus instrukciós adathalmaz
előtanítás, alapmodell, nagy nyelvi modell, promptolás, megerősítéses tanulás emberi visszajelzéssel
Röviden a története
A módszert a Google kutatóinak 2021-es FLAN-tanulmánya tette ismertté: megmutatták, hogy a sokféle, utasításként megfogalmazott feladaton hangolt modell addig nem látott feladatokat is jobban megold. 2022-ben az OpenAI InstructGPT-munkája emberi visszajelzéssel egészítette ki a megközelítést, amely azóta a csevegő asszisztensek készítésének alaplépése.
Hol tart most
2026 végén gyakorlatilag minden nyilvánosan használt csevegő- és asszisztensmodell átesik rajta. A nyílt modelleknél a névben gyakran „instruct”, „chat” vagy „it” jelzés utal rá, de egyre több modell eleve csak utasításkövetésre hangolt formában jelenik meg, külön jelzés nélkül. A fejlesztés súlypontja az eszközhasználatra és a többlépéses, agentként végzett munkára felkészítő hangolás felé tolódott.
Más nevei
instruction tuning · instruction fine-tuning · instruction-tuned model · instruct modell · instrukcióhangolás · utasításalapú finomhangolás · utasításkövető finomhangolás · instrukciós hangolás
Források
- Wei et al.: Finetuned Language Models Are Zero-Shot Learners (FLAN, 2021)
- Ouyang et al.: Training language models to follow instructions with human feedback (InstructGPT, 2022)
- Wikipedia: Fine-tuning (deep learning)
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.