önfelügyelt tanulás (SSL)
angolul: self-supervised learning
Olyan gépi tanulási módszer, amelyben a modell emberi címkék nélkül tanul: a nyers adatból maga készít feladatot, jellemzően úgy, hogy az adat elrejtett részeit próbálja kitalálni.
Érthetően
Képzeld el, hogy egy idegen nyelvet úgy tanulsz, hogy egy könyvben letakarsz egy-egy szót, megpróbálod kitalálni, majd megnézed, eltaláltad-e. Senki nem áll melletted tanárként, a helyes választ maga a könyv adja meg. Az önfelügyelt tanulás pontosan így működik: a gép a nyers adatból készít magának feladatot és megoldókulcsot is.
Ez azért nagy dolog, mert a hagyományos, felügyelt tanuláshoz embereknek kell egyenként felcímkézniük az adatokat: ez a kép macska, ez a levél spam. Ez lassú és drága. Címkézetlen szövegből, képből és hangból viszont szinte korlátlan mennyiség áll rendelkezésre.
A mai nagy nyelvi modellek, köztük a csevegőrobotok mögött állók, alapvetően így tanultak: rengeteg szövegen gyakorolták, mi lehet a következő szó. Közben nemcsak szavakat jegyeztek meg, hanem nyelvtant, tényeket és összefüggéseket is elsajátítottak.
Hogyan működik
- A fejlesztők összegyűjtenek egy hatalmas adag nyers adatot, például szöveget, képet vagy hangfelvételt, címkék nélkül.
- A rendszer az adat egy részét elrejti: kitakar egy szót, levágja a mondat végét, vagy kivág egy darabot a képből.
- A modell megtippeli, mi lehetett az elrejtett rész, a rendszer pedig automatikusan összeveti a tippet az eredetivel, amely ott van az adatban.
- A hiba alapján a modell egy kicsit módosítja a belső beállításait, és ez rengetegszer megismétlődik, míg a tippek egyre pontosabbak lesznek.
- Az így szerzett általános tudást később kevés címkézett példával egy konkrét feladatra lehet igazítani, például fordításra vagy orvosi képek elemzésére.
Példa a mindennapokból
Amikor a telefonod billentyűzete felajánlja a következő szót, vagy egy csevegőrobot folyékonyan válaszol a kérdésedre, önfelügyelt tanulással szerzett tudást látsz működni. A modell korábban rengeteg szövegen gyakorolta, hogyan folytatódik egy mondat, és senki nem címkézte fel neki előre a helyes válaszokat.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A modell azt tanulja meg, ami az adatban van, így a tévedéseket, előítéleteket és elavult információkat is átveszi.
- A jó tipp nem azonos a megértéssel: a modell valószínű folytatást ad, ami néha magabiztosan hangzó, de téves állítás.
- A tanítás óriási számítási kapacitást és energiát igényel, ezért a legnagyobb modelleket csak néhány tőkeerős szervezet tudja előállítani.
- A hatalmas, válogatatlan adathalmazokba szerzői joggal védett és személyes adatok is bekerülhetnek, ami jogi vitákhoz vezet.
Hasonló, de nem ugyanaz
- felügyelt tanulás – Ott emberek által megadott címkékből tanul a modell, itt a helyes választ maga a nyers adat tartalmazza.
- felügyelet nélküli tanulás – Ez a tágabb kategória: minden olyan tanulás, amely nem használ emberi címkéket, például az adatok csoportosítása megoldókulcs nélkül. Az önfelügyelt tanulást sokan ennek egyik fajtájának tekintik, amelyben a modell ellenőrizhető kitalálós feladatokat gyárt magának.
- megerősítéses tanulás – Ott a modell próbálkozik, és jutalmat vagy büntetést kap a tetteiért, itt nincs jutalom, csak az elrejtett adatrész visszaadása a cél.
- félig felügyelt tanulás – Ott kevés címkézett és sok címkézetlen adatot használnak együtt, itt az előtanításhoz egyáltalán nem kell emberi címke. Angol rövidítése szintén SSL, ezért a kettőt könnyű összekeverni.
Kapcsolódó fogalmak
gépi tanulás, mélytanulás, reprezentációtanulás
maszkolt nyelvi modellezés, következő token előrejelzése, kontrasztív tanulás
Röviden a története
Az ötlet előzményei évtizedekre nyúlnak vissza, de a módszer a 2010-es években vált meghatározóvá: a 2013-ban megjelent word2vec szövegkörnyezetből tanult szójelentéseket, a 2018-ban bemutatott BERT és GPT pedig megmutatta, hogy a kitakart vagy következő szó kitalálása általános nyelvi tudást ad. Az elnevezést Yann LeCun népszerűsítette.
Hol tart most
2026 végén ez a nagy nyelvi modellek, valamint sok kép-, hang- és videómodell előtanításának alapértelmezett módszere. A kész rendszerek azonban ritkán épülnek kizárólag erre: az előtanítást általában emberi visszajelzésen alapuló finomhangolás követi, a képgenerálók pedig jellemzően kép–felirat párokból tanulnak. A kutatás egyik fő iránya a hatékonyabb, kevesebb adatot és energiát igénylő változatok fejlesztése, a másik a videóból és a fizikai világból tanuló modellek.
Más nevei
önfelügyelt tanulás · önfelügyelt gépi tanulás · önfelügyelt tanítás · self-supervised learning · self supervised learning · SSL · önfelügyelt előtanítás · self-supervised pretraining
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.