finomhangolás
angolul: fine-tuning
A finomhangolás egy már betanított AI-modell továbbtanítása saját, célzott példákon, hogy egy adott feladatot, stílust vagy szakterületet jobban tudjon.
Érthetően
Képzeld el, hogy felveszel egy frissen végzett, széles műveltségű orvost, aki aztán a kórházadban szakvizsgát tesz bőrgyógyászatból. Az egyetemet nem járja újra: a meglévő tudására építve, sok gyakorlati eset alapján tanul bele egy szűkebb területbe. A finomhangolás ugyanezt csinálja egy AI-modellel.
A nagy nyelvi modelleket hatalmas mennyiségű általános szövegen tanítják be, ami rengeteg pénzbe és időbe kerül. A finomhangolásnál ezt a kész modellt tanítják tovább egy sokkal kisebb, gondosan összeválogatott példagyűjteményen. Így megtanulhatja például egy cég hangnemét, egy szakma szókincsét vagy egy sajátos válaszformátumot.
Abban más, mint az egyszerű utasítás (prompt), hogy itt maga a modell változik meg tartósan. Nem kell minden kérdésnél újra elmagyaráznod, mit vársz tőle, mert a tanult viselkedés beépült. Cserébe az elkészítése több munkával, idővel és pénzzel jár, és ha rosszak a példák, a modell a hibákat is megtanulja.
Hogyan működik
- Kiindulásként választanak egy már betanított alapmodellt, amely általánosságban jól bánik a nyelvvel, a képekkel vagy a kóddal.
- Összeállítanak egy példagyűjteményt a célfeladatra, jellemzően néhány száz vagy néhány ezer bemenet–elvárt kimenet párt, például kérdést és a rá adandó mintaválaszt.
- A modell sorra megpróbálja megoldani a példákat, és az eltérések alapján kicsit módosulnak a belső számértékei (súlyai), hogy legközelebb jobban megközelítse az elvárt választ.
- Gyakran nem az egész modellt írják át: az eredeti súlyokat változatlanul hagyják, és csak kevés kiegészítő számértéket tanítanak hozzájuk (ilyen például a LoRA módszer), ami töredék költséggel jár.
- Végül olyan példákon tesztelik, amelyeket a tanítás során nem látott, és ellenőrzik, hogy közben nem romlott-e el az általános tudása.
Példa a mindennapokból
Felhívod a biztosítód ügyfélszolgálatát, és egy chatbot válaszol, amely pontosan a cég szóhasználatával, a megszokott udvarias stílusban és a saját termékneveivel beszél. Elképzelhető, hogy egy általános nyelvi modell áll mögötte, amelyet a cég korábbi, előzetesen anonimizált ügyfélbeszélgetésein finomhangoltak, bár ugyanezt sokszor jó utasítással és a céges dokumentumok bekötésével is el lehet érni.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A modell csak annyira lesz jó, amennyire a példák: a hibás, egyoldalú vagy elfogult tanítóadat hibás és elfogult modellt eredményez.
- A szűk feladatra tanított modell elfelejthet dolgokat abból, amit korábban tudott, ezért az általános képességeit is újra kell tesztelni.
- A tanítóadatokban szereplő személyes vagy üzleti titkok beépülhetnek a modellbe, és később nehéz vagy lehetetlen eltávolítani őket.
- A finomhangolt modell nem frissül magától: ha változik a szabályozás, a termék vagy az alapmodell, újra kell tanítani.
Hasonló, de nem ugyanaz
- promptolás (utasításírás) – A promptnál csak a kérést fogalmazod meg ügyesebben, és a modell változatlan marad, a finomhangolásnál maga a modell alakul át.
- visszakereséssel bővített generálás (RAG) – A RAG válaszadáskor keres ki friss információt külső dokumentumokból, a finomhangolás viszont előre, tartósan építi be a tanultakat a modellbe.
- előtanítás – Az előtanítás a modell első, óriási adatmennyiségen végzett általános tanítása, a finomhangolás az erre épülő, kisebb és célzott második lépés.
Kapcsolódó fogalmak
gépi tanulás, mélytanulás, transzfertanulás, modelltanítás
LoRA, paraméterhatékony finomhangolás, utasításalapú finomhangolás, megerősítéses finomhangolás
alapmodell, nagy nyelvi modell, előtanítás, visszakereséssel bővített generálás, tanítóadat
Röviden a története
A módszer a transzfertanulás gondolatából nőtt ki: a máshol megszerzett tudást érdemes új feladatra átvinni. A képfelismerésben már a 2010-es évek elején bevett volt, hogy egy nagy képgyűjteményen előtanított hálózatot hangolnak rá új feladatra. A nyelvi modelleknél 2018-ban vált általános gyakorlattá: az ULMFiT, az OpenAI első GPT-modellje és különösen a Google BERT modellje megmutatta, hogy egy előtanított modell kevés példával sokféle feladatra ráhangolható. A 2021-ben közzétett LoRA eljárás a nagy modellek finomhangolását is jelentősen olcsóbbá tette, mert csak kevés kiegészítő paramétert kell tanítani.
Hol tart most
2026 végén a finomhangolás bevett eljárás: a nagy szolgáltatók szolgáltatásként kínálják, a nyílt modelleket pedig saját gépen is tovább lehet tanítani. Sok feladatnál a jó utasítás és a dokumentumkeresés is elég, ezért főleg ott használják, ahol egységes stílus, speciális szaktudás vagy kisebb, olcsóbb modell kell.
Más nevei
finomhangolás · fine-tuning · fine tuning · finetuning · finomhangolt modell · modell-finomhangolás · továbbtanítás
Források
- Wikipedia: Fine-tuning (deep learning)
- Devlin et al.: BERT – Pre-training of Deep Bidirectional Transformers for Language Understanding (2018)
- Hu et al.: LoRA – Low-Rank Adaptation of Large Language Models (2021)
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.