Fogalomtár › Nyelvi modellek

megtagadás

angolul: refusal

A megtagadás az, amikor a nyelvi modell nem teljesít egy kérést, mert azt károsnak, jogsértőnek vagy a szabályaival ellentétesnek ítéli.

Érthetően

Képzeld el a patikust, aki recept nélkül nem ad ki erős gyógyszert. Nem azért, mert nem tudja, hol van a polcon, hanem mert a szabályok szerint nem adhatja oda. A nyelvi modell megtagadása ehhez hasonló: a modell tudna valamit válaszolni, de úgy tanították, hogy bizonyos kérésekre nemet mondjon.

Erre azért van szükség, mert egy chatbot ugyanazzal a készséggel írna köszöntőt és csaló e-mailt, ha semmi nem fogná vissza. A megtagadás az egyik fontos biztonsági fék: csökkenti az esélyét, hogy a modell fegyverkészítéshez, zaklatáshoz, csaláshoz vagy más ártalmas célhoz segítséget adjon.

A megtagadás más, mint amikor a modell egyszerűen nem tud valamit. Az egyik a betanított viselkedésből fakadó elutasítás, a másik tudáshiány. A jó megtagadás ezért meg is mondja, miért nem segít, és gyakran felajánl egy ártalmatlan alternatívát.

A fék azonban néha rosszkor fog. Ha a modell ártatlan kérdést is elutasít, például egy ápoló gyógyszeradagolási kérdését, azt túlzott megtagadásnak hívják. Ez szintén hiba, mert a felhasználó jogos segítség nélkül marad.

Hogyan működik

1. A fejlesztők a tanítás során rengeteg példát mutatnak a modellnek arról, mely kérésekre kell segítenie, és melyekre kell udvariasan nemet mondania.
2. Amikor beírsz egy kérést, a modell a teljes szövegkörnyezet alapján mérlegeli, mennyire tűnik ártalmasnak. Ezt nem egy beépített tiltólista dönti el, hanem a tanítás során megtanult minták.
3. A szolgáltató rendszerszintű utasításokkal tovább szűkítheti a határokat. Egy banki chatbot például minden olyan kérdést elutasíthat, amely nem a bankról szól.
4. Sok rendszerben külön szűrő is figyeli a kérést és a választ, és akkor is leállíthatja a beszélgetést, ha maga a modell válaszolt volna.
5. Ha a mérleg a nem felé billen, a modell a kért tartalom helyett elutasító választ ír, jó esetben indoklással és más javaslattal.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• A megtagadás nem tökéletes védelem: ügyes megfogalmazással, úgynevezett jailbreakkel a modellek időnként rávehetők arra, amit egyébként elutasítanának.
• A túlzott megtagadás valódi kárt okoz, ha valaki fontos egészségügyi, jogi vagy biztonsági információhoz nem jut hozzá miatta.
• A határok szolgáltatónként és modellváltozatonként eltérnek, és idővel változnak, ezért ugyanarra a kérdésre máshol más választ kaphatsz.
• A szabadon letölthető (nyílt súlyú) modellekből a megtagadás utólagos átalakítással viszonylag könnyen eltávolítható, ezért ott a fék kevésbé megbízható, mint a szolgáltató által üzemeltetett rendszerekben.

Hasonló, de nem ugyanaz

• hallucináció – Hallucinációnál a modell magabiztosan valótlant állít, megtagadásnál viszont a betanított viselkedése miatt nem adja meg a kért választ.
• tartalomszűrés – A tartalomszűrő a modell mellett működő külön program vagy osztályozó modell, amely blokkolja a szöveget, míg a megtagadás magának a modellnek a tanult viselkedése.
• tartózkodás (abstention) – Tartózkodásnál a modell azért nem válaszol, mert nem biztos a tudásában, megtagadásnál pedig azért, mert a kérést nem tartja teljesíthetőnek.

Kapcsolódó fogalmak

Röviden a története

A megtagadás a ChatGPT 2022 végi megjelenésével vált hétköznapi tapasztalattá, amikor tömegek találkoztak először a „sajnos ebben nem segíthetek” típusú válaszokkal. 2024-ben egy sokat idézett kutatás kimutatta, hogy több nyílt modellben a megtagadás a belső működés egyetlen jól azonosítható „irányához” köthető, amely ki is kapcsolható.

Hol tart most

2026 végén minden jelentős nyelvi modell alapviselkedése, és a nagy fejlesztők nyilvános irányelvekben írják le, mit és miért utasít el a modelljük. Az agenteknél egyre fontosabb a káros műveletek megtagadása, a csevegésben pedig a fölösleges elutasítások visszaszorítása.

Állapot: 2026. november

A hírekben

• 50 feletti álláskeresők a korkirekesztésről és az AI-ról2026. nov. 2. · Munka és HR
• Az OpenAI felhagy a titoktartási szerződésekkel, és vállalja az adatközpontok teljes áramköltségét2026. nov. 2. · Ipar
• A Medicare MI-alapú előzetes engedélyezési kísérletét késések és elutasítások miatt bírálják2026. nov. 2. · Egészség
• A bíróság engedte továbbhaladni az NAACP perét az xAI memphisi adatközpontjának szennyezése miatt2026. okt. 30. · Agent Age
• Két szövetségi bíróság elutasította az AI-s toborzási diszkriminációs keresetet; a Sirius XM is nyert2026. okt. 27. · Munka és HR
• Az álláskeresők fele emberi visszajelzés nélkül kap elutasítást, és sokan nem tudják, hogy AI volt benne2026. okt. 26. · Munka és HR
• A Google aligha éri el az AI-hanghasználati per elutasítását2026. okt. 21. · Jog
• Ápolók felelősségi kockázatai az AI miatt; a szakszervezet az elutasítás jogát követeli2026. okt. 19. · Egészség

Más nevei

megtagadás · elutasítás · válaszmegtagadás · refusal · model refusal · AI refusal · over-refusal · túlzott megtagadás

Források

• Arditi et al. (2024): Refusal in Language Models Is Mediated by a Single Direction (arXiv)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.