Fogalomtár › Tanítás és adat

gépi felejtetés (MU)

angolul: machine unlearning

Olyan eljárás, amellyel egy már betanított MI-modellből utólag eltávolítják bizonyos adatok hatását, anélkül hogy az egész modellt elölről kellene tanítani.

Érthetően

Egy MI-modell nem úgy tárolja a tanítóadatokat, mint egy irattár a dossziékat. Inkább olyan, mint egy kész sütemény: a tojás benne van, de már nem tudod kivenni belőle. A gépi felejtetés mégis erre tesz kísérletet: úgy alakítja át a modellt, mintha egy adott hozzávaló sosem került volna bele.

Erre azért van szükség, mert a modellbe olyasmi is bekerülhet, aminek nem kellene ott lennie: személyes adat, szerzői joggal védett szöveg, hibás vagy veszélyes információ. A legbiztosabb megoldás az lenne, ha a kifogásolt adat nélkül újratanítanák az egész modellt, de ez egy nagy nyelvi modellnél hetekbe és hatalmas összegbe kerül.

A felejtetés ennél olcsóbb, célzott beavatkozás. Abban különbözik az egyszerű tiltástól, hogy nem csak a választ szűri meg kívülről, hanem magát a modellt módosítja, hogy a tudás tényleg ne legyen benne.

Hogyan működik

1. Először kijelölik a felejtendő halmazt: azokat az adatokat, amelyek hatását el kell tüntetni (például egy ember adatait vagy egy könyv szövegét), és azt is, aminek sértetlenül meg kell maradnia.
2. A pontos módszereknél a modellt eleve úgy tanítják, hogy az adatokat részekre bontják, és mindegyik részen külön részmodellt tanítanak. Törléskor így csak az érintett részmodellt kell újratanítani, nem az egészet.
3. A közelítő módszereknél a kész modell belső számértékeit (súlyait) hangolják át, például úgy, hogy a felejtendő adatokon szándékosan rontják a teljesítményét, a többin pedig megőrzik.
4. Végül ellenőrzik az eredményt: a modell valóban nem tudja-e felidézni a törölt tartalmat, ki lehet-e csalni belőle trükkös kérdésekkel, és nem romlott-e közben az általános tudása.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• A legtöbb gyakorlati módszer csak közelítő: a „kitörölt” tudás ügyes kérdezéssel vagy a modell további hangolásával sokszor visszahozható.
• Nehéz hitelesen igazolni a felejtést, mert nincs általánosan elfogadott mérce arra, mikor számít egy adat valóban eltávolítottnak.
• A beavatkozás mellékhatásként ronthatja a modell kapcsolódó, egyébként hasznos tudását is.
• Kívülről nehéz megkülönböztetni a valódi felejtetést a puszta kimenetszűréstől. Ha egy cég azt állítja, hogy a modellje „elfelejtett” valamit, kérdezz rá, hogy a modellt módosították-e, vagy csak a válaszait szűrik.

Hasonló, de nem ugyanaz

• katasztrofális felejtés – Az nem szándékos hiba, amikor a modell új dolgok tanulása közben elveszíti a régi tudását, a gépi felejtetés viszont célzott és akart beavatkozás.
• tartalomszűrés – A szűrő csak a választ tiltja le kívülről, a tudás a modellben marad, a felejtetés viszont magát a modellt változtatja meg.
• modellszerkesztés – A modellszerkesztés egy-egy tényt ír át vagy javít ki a modellben, a felejtetés célja az, hogy adott adatok hatása teljesen eltűnjön.

Kapcsolódó fogalmak

Röviden a története

A kifejezést Yinzhi Cao és Junfeng Yang vezette be egy 2015-ös tanulmányban. A téma az EU 2018 óta alkalmazandó adatvédelmi rendelete (GDPR) és a törléshez való jog miatt kapott lendületet, majd a nagy nyelvi modellek elterjedésével vált igazán égetővé.

Hol tart most

2026 végén élénk kutatási terület saját tesztfeladatokkal és versenyekkel, de megbízható, igazolható felejtetés nagy nyelvi modelleken még nincs. A gyakorlatban a cégek többnyire szűréssel kezelik a törlési igényeket, vagy a következő modellváltozat tanításából hagyják ki az érintett adatot.

Állapot: 2026. november

Más nevei

gépi felejtés · gépi felejtetés · machine unlearning · unlearning · LLM unlearning · modellfelejtetés · MU

Források

• Wikipedia: Machine unlearning
• Bourtoule et al.: Machine Unlearning (arXiv:1912.03817)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.