Fogalomtár › Tanítás és adat

visszaterjesztés

angolul: backpropagation

Az a számítási eljárás, amellyel a neurális háló a hibájából visszafelé haladva kiszámolja, melyik belső beállításán mennyit kell igazítani, hogy legközelebb pontosabb legyen.

Érthetően

Képzeld el, hogy egy étteremben rossz lett a leves, és a séf visszafelé végigmegy a konyhán: ki sózta, ki főzte az alaplét, ki válogatta a zöldséget. Mindenki annyi visszajelzést kap, amennyire a hibához hozzájárult, és másnap egy kicsit másképp dolgozik. A visszaterjesztés ugyanezt csinálja egy neurális hálóban, csak emberek helyett számok millióival vagy milliárdjaival.

A neurális háló rengeteg apró „tekerőgombból” (súlyból) áll, ezek határozzák meg, mit válaszol a rendszer. Tanítás közben a háló tippel, a tippet összevetik a helyes válasszal, és a különbség a hiba. A visszaterjesztés mondja meg, hogy ezért a hibáért melyik gomb mennyire felelős, és merre kell elfordítani.

Ez az eljárás tette lehetővé, hogy sokrétegű, „mély” hálókat hatékonyan lehessen tanítani. Nélküle minden gombot külön kellene próbálgatni, ami ekkora modelleknél reménytelenül lassú volna. A mai képfelismerők, fordítók és nagy nyelvi modellek szinte mind ezzel tanulnak.

Fontos, hogy a visszaterjesztés csak a felelősséget osztja ki. Magát az igazítást egy másik lépés, az optimalizálás végzi el, és a kész modell használat közben már nem alkalmazza.

Hogyan működik

1. Előre irányuló számítás: a háló megkap egy példát (például egy képet vagy egy mondat elejét), és rétegről rétegre kiszámolja a saját válaszát.
2. Hibamérés: egy úgynevezett veszteségfüggvény egyetlen számba sűríti, mennyire tért el a válasz a helyestől.
3. Visszafelé haladás: a hibát az utolsó rétegtől az első felé vezetik vissza, és a matematika láncszabályával minden súlyra kiszámolják, mennyiben járult hozzá. Ezeknek az értékeknek az összessége a gradiens.
4. Igazítás: az optimalizáló algoritmus (például a gradiensereszkedés) minden súlyt egy picit abba az irányba mozdít, amerre a hiba csökken.
5. Ismétlés: ez a kör példák millióin fut le újra és újra, amíg a háló válaszai elég jók nem lesznek.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Rengeteg számítást és adatot igényel: a nagy modellek tanítása hetekig futhat drága célhardveren.
• Nem garantálja a legjobb megoldást, csak lépésről lépésre csökkenti a hibát, így a végeredmény függ a kiinduló beállításoktól és a tanítási recepttől.
• Csak azt javítja, amit a hibamérés lát: ha rossz vagy torz a tanítóadat, a háló pontosan a torzítást tanulja meg.
• Nagyon mély hálókban a visszavezetett jel elhalhat vagy elszállhat (eltűnő, illetve felrobbanó gradiens), amit külön technikákkal kell kezelni.

Hasonló, de nem ugyanaz

• gradiensereszkedés – A visszaterjesztés kiszámolja, merre és mennyit kellene igazítani, a gradiensereszkedés pedig ténylegesen elvégzi az igazítást.
• következtetés (inferencia) – Következtetéskor a kész modell csak előrefelé számol és választ ad, visszafelé haladás és súlymódosítás nincs.
• megerősítéses tanulás – Az egy tanulási helyzet, ahol jutalom alapján tanul a rendszer, a visszaterjesztés pedig számítási eljárás, amelyet többféle tanulási módban is használnak.

Kapcsolódó fogalmak

Röviden a története

A módszer matematikai magját Seppo Linnainmaa írta le 1970-ben, neurális hálókra Paul Werbos javasolta 1974-es doktori értekezésében. Széles körben David Rumelhart, Geoffrey Hinton és Ronald Williams 1986-os Nature-cikke tette ismertté.

Hol tart most

2026 végén is ez a neurális hálók tanításának alapeljárása, a nagy nyelvi modellektől a képgenerátorokig. Kutatják az alternatíváit, de a gyakorlatban egyik sem váltotta le.

Állapot: 2026. november

Más nevei

visszaterjesztés · hibavisszaterjesztés · hiba-visszaterjesztés · visszaterjesztéses tanulás · backpropagation · back-propagation · backprop · backward pass

Források

• Rumelhart, Hinton, Williams: Learning representations by back-propagating errors (Nature, 1986)
• Wikipedia: Backpropagation

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.