megerősítéses tanulás (RL)
angolul: reinforcement learning
Olyan gépi tanulási módszer, amelyben a program próbálkozások során, jutalmak és büntetések alapján maga jön rá, mi a jó viselkedés.
Érthetően
Gondolj arra, hogyan tanítasz meg egy kutyát ülni: nem magyarázod el neki a mozdulatot, hanem jutalomfalatot adsz, amikor eltalálja. A megerősítéses tanulás ugyanezt csinálja géppel: a program próbálkozik, a jó lépésekért pontot kap, a rosszakért pontot veszít, és idővel kialakul benne, mi vezet sikerhez.
Akkor hasznos, amikor nem egyetlen jó választ keresünk, hanem döntések hosszú sorozatát kell jól meghozni: egy játszmát megnyerni, egy robotkart irányítani, egy épület hűtését takarékosan vezérelni. Ilyenkor senki sem tudja előre megmondani minden egyes lépésről, hogy helyes-e, gyakran csak a végeredmény látszik.
Ebben más, mint a gépi tanulás többi fajtája. A legtöbb modell kész példákból tanul, ahol ember jelölte meg a helyes választ. Itt nincs megoldókulcs: a rendszer a saját tapasztalataiból tanul, és néha olyan megoldást talál, amely az embernek eszébe sem jutott.
Hogyan működik
- Van egy tanuló program, az agent, és van egy környezet, amelyben mozog: egy játék, egy szimuláció vagy a valós világ egy darabja.
- Az agent megfigyeli a helyzetet, és választ egy lépést, eleinte lényegében találomra.
- A környezet visszajelez: megváltozik a helyzet, és az agent jutalmat vagy büntetést kap, vagyis egy számot, amely azt mutatja, mennyire volt jó a lépés.
- Az agent ennek alapján módosítja a szabályait: amit jutalom követett, azt gyakrabban választja, amit büntetés, azt ritkábban. Közben egyensúlyt kell tartania a bevált lépések ismétlése és az új dolgok kipróbálása között.
- Ez a kör több ezerszer vagy milliószor megismétlődik, többnyire szimulációban, amíg ki nem alakul egy olyan stratégia, amely hosszú távon a legtöbb jutalmat hozza.
Példa a mindennapokból
Amikor a DeepMind 2016-ban a Google adatközpontjainak hűtését kezdte optimalizálni, a rendszer a ventilátorok és a hűtőgépek beállításait próbálgatta, és jutalmat kapott, ha kevesebb energiával is elég hűvös maradt a terem. Így jelentősen csökkent a hűtés energiafogyasztása. Hasonló módon, szimulációban tanítják be egyre több robotkar mozgását is.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Rengeteg próbálkozás kell hozzá, ezért többnyire szimulációban tanítják, és ami ott működik, az a valóságban nem mindig válik be.
- A rendszer azt maximalizálja, amit mérsz, nem azt, amit valójában szeretnél: egy rosszul megadott jutalom mellett kiskapukat talál, és a cél helyett a pontszámot hajszolja.
- A valós világban a próbálkozás drága vagy veszélyes lehet, ezért autóknál, gyógyításnál vagy pénzügyekben csak szigorú korlátok között alkalmazható.
- Nehéz megmagyarázni, miért döntött úgy a rendszer, ahogy, és új, a tanítás során nem látott helyzetben kiszámíthatatlanul viselkedhet.
Hasonló, de nem ugyanaz
- felügyelt tanulás – Ott minden példához ember adja meg a helyes választ. Itt nincs megadott helyes válasz, csak egy jutalom jelzi, mennyire volt jó egy lépés vagy a lépések egész sorozata.
- felügyelet nélküli tanulás – Az visszajelzés nélkül keres mintázatokat az adatokban, a megerősítéses tanulás viszont cselekszik, és a tettei következményeiből tanul.
- finomhangolás – A finomhangolás egy kész modell továbbtanítását jelenti, bármilyen módszerrel. A megerősítéses tanulás önálló tanulási módszer, amely a finomhangolás egyik eszköze is lehet.
Kapcsolódó fogalmak
mély megerősítéses tanulás, Q-tanulás, megerősítéses tanulás emberi visszajelzéssel, többkarú rabló
felügyelt tanulás, felügyelet nélküli tanulás, neurális hálózat, AI-agent, jutalomfüggvény
Röviden a története
Az ötlet az állati tanulás pszichológiájából és az irányításelméletből nőtt ki. A terület alapművét, Richard Sutton és Andrew Barto tankönyvét 1998-ban adták ki. A nagyközönség 2016-ban figyelt fel rá, amikor a DeepMind AlphaGo programja legyőzte a koreai Lee Sedolt, a gó egyik legjobb játékosát. 2024-től kezdve a megerősítéses tanulás a gondolkodó nyelvi modellek képzésének központi eszköze lett. Sutton és Barto a 2024-es Turing-díjat kapta a terület megalapozásáért.
Hol tart most
2026 végén bevett módszer a játékokban, az ajánlórendszerekben, a robotikában és a nagy nyelvi modellek képzésében, különösen a gondolkodó modellek és az agentek tanításában. A fizikai világban, például az önvezetésben és az ipari vezérlésben, óvatosabban, főleg szimulációs előtanítással terjed.
Más nevei
megerősítéses tanulás · megerősítő tanulás · megerősítéses gépi tanulás · reinforcement learning · RL
Források
- Wikipédia: Reinforcement learning
- Sutton, R. S. – Barto, A. G.: Reinforcement Learning: An Introduction (2. kiadás)
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.