transzfertanulás (TL)
angolul: transfer learning
Olyan tanítási módszer, amelyben az MI-modell egy korábbi feladaton megszerzett tudását viszi át egy új, rokon feladatra, így nem kell nulláról tanulnia.
Érthetően
Aki tud biciklizni, hamarabb megtanul motorozni: az egyensúlyérzéket, a kanyarodást és a forgalom figyelését már nem kell újra elsajátítania. A transzfertanulás ugyanezt jelenti a gépeknél: a modell nem tiszta lappal indul, hanem egy korábban megszerzett tudásra épít.
Azért fontos, mert egy modell nulláról való betanítása rengeteg adatot, számítógépes kapacitást és pénzt igényel. Ha viszont egy nagy, általános modellt veszel alapul, néhány száz vagy ezer saját példa is elég lehet ahhoz, hogy egy szűk feladatra megbízhatóan működjön.
Ma szinte minden MI-alkalmazás mögött ez áll. A nagy nyelvi modellek először hatalmas szövegmennyiségen sajátítják el a nyelv általános mintázatait, és ezt a tudást használják fel később ügyfélszolgálati válaszokhoz, fordításhoz vagy programíráshoz. Az AI-agentek is ilyen előre betanított modellekre épülnek.
Hogyan működik
- Először betanítanak egy modellt egy nagy, általános adathalmazon, például képek millióin vagy szövegek milliárdjain. Ez az előtanítás, amely drága és hosszú, de csak egyszer kell elvégezni.
- A modell közben általános mintázatokat tanul meg: képeknél éleket, formákat, textúrákat, szövegnél nyelvtant, jelentést és összefüggéseket.
- Ezután fogják a kész modellt, és az új feladathoz igazítják. Gyakran csak az utolsó, döntést hozó rétegeit cserélik ki vagy tanítják újra, a többit érintetlenül hagyják.
- Az új feladat kisebb, célzott adathalmazán tovább tanítják a modellt. Ezt hívják finomhangolásnak, és töredék annyi időbe és pénzbe kerül, mint az eredeti tanítás.
- Végül külön tesztadatokon ellenőrzik, hogy a modell valóban jól teljesít-e az új területen, és nem hozott-e magával hibás beidegződéseket a régiről.
Példa a mindennapokból
Egy növényfelismerő alkalmazás lefotózott levél alapján megmondja, milyen betegsége van a paradicsomodnak. A fejlesztőknek ehhez nem kellett több millió beteg növényről képet gyűjteniük: egy általános képfelismerő modellt vettek alapul, és néhány ezer növényfotóval tanították tovább.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Ha az eredeti és az új feladat túlságosan különbözik, a modell rosszabbul teljesíthet, mintha nulláról tanították volna; ezt negatív transzfernek hívják.
- Az alapmodell torzításai és hibái öröklődnek: ha az eredeti tanítóadat elfogult volt, a ráépített megoldás is az lehet.
- A túl kevés vagy egyoldalú saját adaton végzett továbbtanítás miatt a modell elfelejtheti korábbi általános tudását, vagy túlságosan rátanulhat a kevés példára.
- Aki más modelljére épít, függ annak készítőjétől: a felhasználási feltételektől, a licenctől és attól, hogy pontosan milyen adatokon tanították.
Hasonló, de nem ugyanaz
- finomhangolás – A finomhangolás a transzfertanulás egyik konkrét technikája, míg a transzfertanulás maga az átfogó elv, hogy a korábbi tudást új feladatra visszük át.
- tudásdesztilláció – A desztilláció során egy nagy modell tudását egy kisebb modellbe sűrítik ugyanarra a feladatra, a transzfertanulásnál viszont a feladat változik, nem a modell mérete.
- előtanítás – Az előtanítás a folyamat első fele, amelyben az általános tudás létrejön; a transzfertanulás ennek a tudásnak a felhasználása egy új feladatban.
Kapcsolódó fogalmak
gépi tanulás, mélytanulás, modelltanítás
finomhangolás, tartományadaptáció, LoRA
előtanítás, alapmodell, tudásdesztilláció, néhány példás tanulás, nagy nyelvi modell
Röviden a története
A neurális hálók tanításában megjelenő tudásátvitelről már 1976-ban megjelent tanulmány (Bozinovski és Fulgosi). A módszer a 2010-es években vált általánossá, amikor a nagy képadatbázisokon betanított hálókat kezdték más feladatokra újrahasznosítani. A nyelvi területen 2018-ban több modell (ULMFiT, GPT), de leginkább a BERT tette alapgyakorlattá.
Hol tart most
2026 végén a transzfertanulás az MI-fejlesztés alapértelmezett módja: a legtöbb alkalmazás előre betanított alapmodellre épül. Ha kell továbbtanítás, jellemzően olcsó, kevés paramétert érintő eljárásokat használnak (például LoRA). A nagy nyelvi modelleket azonban sokszor egyáltalán nem tanítják tovább, hanem utasításokkal, példákkal és a kérdéshez csatolt dokumentumokkal igazítják a feladathoz.
Más nevei
transzfertanulás · transzfer tanulás · átviteli tanulás · tudásátvitel · transfer learning · TL · knowledge transfer · pretrain–finetune
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.