Fogalomtár › Agentek

önreflexió

angolul: self-reflection (self-critique)

Az AI-agent a saját munkáját átnézi, hibákat keres benne, és a tanulságok alapján javít rajta, mielőtt végleges eredményt adna.

Érthetően

Amikor megírsz egy fontos e-mailt, jó esetben nem küldöd el azonnal: átolvasod, észreveszed, hogy lemaradt a csatolmány vagy félreérthető egy mondat, és kijavítod. Az önreflexió ugyanezt a szokást építi be az AI-agentbe: a rendszer nem áll meg az első változatnál, hanem visszanéz rá, és megkérdezi magától, hogy ez tényleg jó-e.

Azért hasznos, mert a nyelvi modellek első válasza gyakran hiányos vagy hibás, viszont ugyanaz a modell sokszor észreveszi a hibát, ha kifejezetten bírálatra kérik, főleg akkor, ha kézzelfogható visszajelzést is kap, például egy teszt eredményét. Az agentnél ez különösen fontos, mert sok lépésben dolgozik, és egy korai tévedés az egész munkát elviheti rossz irányba.

Abban más, mint egy egyszerű „próbáld újra”, hogy az agent szavakba foglalja, mi ment félre és miért, és ezt a tanulságot viszi tovább a következő próbálkozásba. Nem vakon ismétel, hanem a saját bírálatából dolgozik.

Hogyan működik

1. Az agent elkészíti az első változatot: megírja a szöveget, a programkódot, vagy végrehajt egy lépést a feladatból.
2. Ezután értékelő szerepbe vált: újraolvassa az eredményt, és összeveti a feladattal, vagy külső visszajelzést használ, például egy lefuttatott teszt hibaüzenetét vagy egy keresés találatait.
3. Megfogalmazza a bírálatot hétköznapi nyelven, például így: „a harmadik lépésben rossz dátummal számoltam, ezért nem jött ki az összeg”.
4. A bírálat alapján javított változatot készít, a tanulságot pedig elteszi a memóriájába, hogy a következő körben ne kövesse el ugyanazt a hibát.
5. A kör addig ismétlődik, amíg az eredmény megfelel, vagy amíg el nem éri a beállított próbálkozási, idő- vagy költségkeretet.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Az agent ugyanazzal a tudással bírál, amivel dolgozott, ezért amit elsőre nem tudott, azt másodszorra is könnyen elnézi.
• Külső ellenőrzési pont (teszt, forrás, számítás, emberi visszajelzés) nélkül a bírálat könnyen magabiztos önigazolás lesz, vagy épp egy jó választ ront el.
• Minden reflexiós kör több számítást jelent, vagyis lassabb és drágább a válasz.
• Az agent beragadhat egy végtelen javítgatásba, ezért mindig kell felső korlát a körök számára.

Hasonló, de nem ugyanaz

• érvelő modell – Az érvelő modell a válasz előtt gondolkodik végig lépéseket, az önreflexió viszont egy már elkészült eredményt vizsgál felül utólag.
• emberi felügyelet – Az önreflexiónál az agent saját magát ellenőrzi, az emberi felügyeletnél egy tőle független ember hagyja jóvá vagy állítja meg a munkát.
• finomhangolás – A finomhangolás tartósan átírja a modell belső beállításait, az önreflexió csak az adott feladat közben, szöveges jegyzetekkel javít, a modell maga nem változik.

Kapcsolódó fogalmak

Röviden a története

A módszert két 2023-as kutatás tette ismertté: a Reflexion (Shinn és társai) és a Self-Refine (Madaan és társai) megmutatta, hogy a nyelvi modellek a saját szöveges bírálatukból tanulva jobb eredményt érnek el. 2024-ben Andrew Ng a négy alapvető agentikus tervezési minta egyikeként népszerűsítette.

Hol tart most

2026 végére az önellenőrző kör a kódoló és kutató agentek megszokott része, többnyire automatikus tesztekkel vagy külön ellenőrző agenttel párosítva. A fejlesztők ma főleg azt keresik, hogyan legyen a bírálat megbízható, és hogyan ne emelje túlzottan a költséget.

Állapot: 2026. november

A hírekben

• Az Nvidia kínai részesedése esik, miközben a Reflection AI felvásárlását tárgyalja2026. okt. 5. · Agent Age

Más nevei

önreflexió · reflexió · önkritika · önellenőrzés · self-reflection · self-critique · reflection

Források

• Shinn et al.: Reflexion: Language Agents with Verbal Reinforcement Learning (arXiv, 2023)
• Madaan et al.: Self-Refine: Iterative Refinement with Self-Feedback (arXiv, 2023)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.