védőkorlát
angolul: guardrails
A védőkorlát olyan beépített szabály vagy ellenőrzés, amely megakadályozza, hogy egy MI-rendszer káros, tiltott vagy a feladatán kívül eső dolgot mondjon vagy tegyen.
Érthetően
Gondolj az autópálya szalagkorlátjára: nem vezet helyetted és nem mondja meg, hová menj, de ha lesodródnál, megfog. Az MI védőkorlátja ugyanígy nem a rendszer tudását adja, hanem a határait jelöli ki: mit nem mondhat ki, mit nem adhat ki, mihez nem nyúlhat hozzá.
Azért van rá szükség, mert a nyelvi modell nem szabálykönyvből dolgozik, hanem valószínűségek alapján fogalmaz, így néha téved, kitalál dolgokat, vagy ügyes rábeszélésre olyat is megtesz, amit nem kellene. A védőkorlát a modell köré épített külön ellenőrző réteg, amely ezeket az eseteket próbálja kiszűrni.
Különösen fontos az agenteknél, amelyek nemcsak válaszolnak, hanem cselekszenek is: e-mailt küldenek, fájlt törölnek, pénzt utalnak. Itt a védőkorlát már azt is szabályozza, mit tehet meg az agent önállóan, és mihez kell emberi jóváhagyás.
Hogyan működik
- Bemeneti szűrés: mielőtt a kérésed eljut a modellhez, egy ellenőrző megnézi, nincs-e benne tiltott téma, személyes adat vagy olyan trükkös utasítás, amely a rendszert akarja átverni.
- Viselkedési szabályok: a modell előre megkapja, mi a feladata és miről nem beszélhet, például egy banki asszisztens nem ad orvosi tanácsot.
- Kimeneti ellenőrzés: a kész választ is megvizsgálja egy szűrő vagy egy második modell. Ha káros, tiltott vagy bizalmas tartalmat talál, letiltja vagy átíratja. Egyes rendszerek azt is ellenőrzik, hogy a válasz egyezik-e a megadott forrásokkal.
- Cselekvési korlátok: agenteknél jogosultságok szabják meg, mely eszközöket használhatja, mekkora összegig dönthet, és a kockázatos lépések előtt embertől kér engedélyt.
- Naplózás és finomhangolás: a megfogott és az átcsúszott eseteket rögzítik, és ezek alapján rendszeresen igazítják a szabályokat.
Példa a mindennapokból
Megkérdezed a bankod csevegőrobotját, melyik részvényt vedd meg, mire udvariasan közli, hogy befektetési tanácsot nem adhat, de megmutatja, hol találsz tanácsadót. Ez nem a robot tudatlansága, hanem egy védőkorlát, amelyet a bank állított be.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Egyetlen védőkorlát sem áthatolhatatlan, ezért fontos döntésnél ne hagyatkozz csak arra, hogy a rendszer „úgysem engedne rosszat”.
- A túl szigorú korlát ártalmatlan kéréseket is elutasít, ami bosszantó, és arra csábít, hogy kevésbé biztonságos eszközt keress.
- A védőkorlátot az üzemeltető állítja be a saját szempontjai szerint, így azt is tükrözi, mit tart ő kockázatosnak vagy kínosnak.
- Minden ellenőrzés időbe és pénzbe kerül, ezért a cégek mérlegelnek a gyorsaság, a költség és a biztonság között.
Hasonló, de nem ugyanaz
- összehangolás (alignment) – Az összehangolás a tanítás során magának a modellnek a viselkedését formálja. A védőkorlát jellemzően a modell köré épített szabályok és ellenőrzések rendszere, amely használat közben működik.
- tartalommoderálás – A tartalommoderálás hagyományosan a közzétett tartalmakat szűri, például a közösségi oldalakon. A védőkorlát ennél szélesebb: az MI bemenetét, kimenetét és cselekvéseit is felügyeli, és ehhez moderációs eszközöket is használhat.
- emberi felügyelet – Az emberi felügyeletnél ember dönt a kritikus pontokon, a védőkorlát automatikus, bár előírhatja, hogy embert kell bevonni.
Kapcsolódó fogalmak
MI-biztonság, kockázatkezelés, felelős MI
bemeneti szűrő, kimeneti szűrő, jogosultságkezelés, emberi jóváhagyás
promptinjektálás, jailbreak, rendszerprompt, hallucináció, red teaming
Röviden a története
A szó a közlekedésből és a mérnöki szóhasználatból került át az MI világába, és a ChatGPT 2022 végi megjelenése után vált általánossá. 2023-ban már külön nyílt forráskódú eszközök is megjelentek erre a célra, például az NVIDIA NeMo Guardrails.
Hol tart most
2026 végén gyakorlatilag minden komoly MI-szolgáltatásban van valamilyen védőkorlát, a vállalati bevezetéseknél alapkövetelménynek számít. A figyelem az agentek cselekvéseinek korlátozására helyeződött át, ahol a megoldások még kiforratlanabbak.
A hírekben
- HDFC és Kotak: az AI-agentek biztonsági korlátai nem tartottak lépést a hozzáféréssel2026. nov. 3. · Pénz
- Common Sense: a ChatGPT for Teens „elfogadhatatlan kockázatot” jelent, a védőkorlátok nem működnek2026. okt. 7. · Oktatás és család
- Az AI átalakítja az auditot: AI-natív megoldások, PwC-folyamatok és könyvvizsgálói védőkorlátok2026. okt. 5. · Pénz
- Trump szerint fontos az MI önszabályozása, a Fehér Házban nem született konszenzus2026. szept. 28. · Jog
- Trump élő adásban Huangot hívva „álhírnek” nevezte az AI-biztonsági aggályokat2026. szept. 14. · Agent Age
- A kórházak 93 százaléka használ AI-t, de csak 44 százalék tesztelte megfelelően2026. aug. 17. · Egészség
- Az OpenAI kamaszoknak szóló, szigorúbb védelmű ChatGPT-változatot indított2026. aug. 13. · Agent Age
- Az AI-kód minőségi és karbantarthatósági kockázatot hoz: Info-Tech, GitHub Code Quality2026. aug. 10. · Kód
Más nevei
guardrails · AI guardrails · MI-védőkorlát · védőkorlátok · biztonsági korlát · safety guardrails · LLM guardrails · agent guardrails
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.