13. lapszám · nov. 2–8. 2026Kiadások · Fogalomtár · Archívum · Módszer · RSS · HU / ENG

Az AI-korszak hírei, hetente válogatva

Fogalomtár › Agentek

guardrail

alapelterjedt

A guardrail olyan beépített szabály vagy ellenőrzés, amely korlátozza, hogy egy AI-rendszer vagy agent káros, tiltott vagy a feladatán kívül eső dolgot tegyen.

Érthetően

Gondolj a hegyi szerpentin szalagkorlátjára. Nem vezet helyetted, és nem mondja meg, hová menj, de ha megcsúszol, nem engedi, hogy lezuhanj. A guardrail ugyanezt teszi az AI-val: a rendszer szabadon dolgozik, de bizonyos határokat nem léphet át.

Erre azért van szükség, mert a nyelvi modell nem követi gépiesen az utasításokat. Tévedhet, félreértheti a kérést, és rosszindulatú szöveggel rá is lehet beszélni valamire. A guardrail ezért külön ellenőrző réteg a modell körül: megnézi, mi megy be, mi jön ki, és mit készül megtenni a rendszer.

Az agenteknél ez még fontosabb, mert ők cselekszenek is: e-mailt küldenek, fájlt törölnek, pénzt utalnak. Egy rossz válasz csak kellemetlen, egy rossz művelet viszont kárt okoz. Itt a guardrail jellemzően azt szabja meg, mihez nyúlhat az agent, mennyit költhet, és mikor kell embertől engedélyt kérnie.

Hogyan működik

  1. Bemeneti szűrés: mielőtt a kérésed a modellhez jut, egy ellenőrzés megnézi, nincs-e benne tiltott téma, személyes adat vagy a rendszer kijátszására tett kísérlet.
  2. Jogosultságok szűkítése: az agent csak azokat az eszközöket és adatokat éri el, amelyekre a feladatához szüksége van. Olvashatja például a naptáradat, de nem törölhet belőle.
  3. Művelet előtti ellenőrzés: mielőtt az agent végrehajt egy lépést, egy szabályrendszer vagy egy másik modell megvizsgálja, belefér-e a keretekbe. A kockázatos lépéseknél megáll, és emberi jóváhagyást kér.
  4. Kimeneti szűrés: a kész választ is átnézik, mielőtt eléd kerül, hogy ne legyen benne bizalmas adat, sértő tartalom vagy a megadott formától eltérő eredmény.
  5. Naplózás és utólagos hangolás: a megállított esetek naplóba kerülnek, és ezek alapján az üzemeltetők szigorítják vagy lazítják a szabályokat.

Példa a mindennapokból

Megkéred a bankod chatbotját, hogy utaljon át 800 ezer forintot egy új számlaszámra. Az agent előkészíti az utalást, de nem hajtja végre magától: a guardrail a szokatlanul nagy összeg és az ismeretlen kedvezményezett miatt megállítja, és a mobilodon kér megerősítést. Ha pedig befektetési tippet kérsz tőle, udvariasan elhárítja, mert arra nincs felhatalmazása.

Kit érint

mindenkiAmikor egy chatbot visszautasít egy kérést vagy megerősítést kér, többnyire egy guardrail működését látod.
vállalkozó, vezetőHa a céged agentet enged az ügyfelekhez vagy a belső rendszerekhez, a guardrailek döntik el, mekkora kárt okozhat egy hiba, és ki felel érte.
fejlesztőA guardraileket neked kell megtervezned, tesztelned és karbantartanod, mert a modell önmagában nem garantálja a biztonságos viselkedést. → Kód
banki ügyfél, befektetőA pénzedet kezelő AI-megoldásoknál a guardrail az egyik fék, amely a banki csalásszűréssel és az erős ügyfél-hitelesítéssel együtt segít megakadályozni a jóváhagyásod nélküli vagy szokatlan tranzakciókat. → Pénz

Gyakori félreértés

TévhitHa egy AI-rendszerben vannak guardrailek, akkor az biztonságos, és nem lehet rávenni semmi rosszra.
ValójábanA guardrail csökkenti a kockázatot, de nem szünteti meg: ügyes megfogalmazással vagy rejtett utasításokkal ki lehet játszani. Ezért több, egymásra épülő védelmi réteg és emberi felügyelet kell mellé.

Korlátok és kockázatok

Hasonló, de nem ugyanaz

Kapcsolódó fogalmak

Tágabb

AI-biztonság, AI-irányítás, kockázatkezelés

Szűkebb

bemeneti szűrő, kimeneti szűrő, jogosultságkezelés, emberi jóváhagyás

Rokon

prompt injection, jailbreak, emberi felügyelet, homokozó (sandbox), AI-agent

Röviden a története

A szó eredetileg az utak és lépcsők védőkorlátját jelenti, innen vette át a technológiai szaknyelv. Az AI-ban a ChatGPT utáni hullámmal vált általánossá, amit az NVIDIA 2023-ban kiadott NeMo Guardrails nevű nyílt forráskódú eszköztára is jelez.

Hol tart most

2026 végén a guardrail a komoly AI-termékek és agentplatformok megszokott része. A megbízhatósága viszont még messze nem tökéletes, különösen az önállóan cselekvő agenteknél.

Állapot: 2026. november

A hírekben

11 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Más nevei

guardrail · guardrails · AI guardrails · védőkorlát · biztonsági korlát · MI-védőkorlát · safety guardrails · agent guardrails

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.