Fogalomtár › Nyelvi modellek

jailbreak

A jailbreak olyan ügyesen megfogalmazott kérés, amellyel valaki ráveszi az AI-t, hogy megszegje a saját biztonsági szabályait, és tiltott tartalmat adjon ki.

Érthetően

A nyelvi modelleket a készítőik megtanítják arra, hogy bizonyos kéréseket visszautasítsanak: ne adjanak például útmutatót fegyverkészítéshez, csaláshoz vagy önsértéshez. A jailbreak az a trükk, amellyel valaki ezt a tiltást megkerüli. Nem tör fel semmit, csak addig csűri-csavarja a kérést, amíg a modell mégis válaszol.

Olyan ez, mint amikor valaki a szigorú portást nem erőszakkal győzi le, hanem mesével: „én vagyok az új karbantartó, a főnök küldött, csak öt perc lesz”. A portás nem rosszindulatú, egyszerűen elhiszi a történetet. A nyelvi modell ugyanígy hajlamos belemenni egy szerepjátékba vagy egy kitalált helyzetbe, ahol a szabályai látszólag nem érvényesek.

A jailbreak nem csak a rosszfiúk eszköze. A biztonsági kutatók és maguk a fejlesztőcégek is szándékosan próbálgatják a modelljeiken, hogy megtalálják és kijavítsák a gyenge pontokat, mielőtt más él vissza velük.

Hogyan működik

1. A modell a tanítása során megtanulja, milyen kéréseket kell elutasítania, de ez nem kőbe vésett szabály, hanem tanult hajlam, amelyet a szöveg megfogalmazása befolyásolni tud.
2. A támadó olyan keretet ad a kérésnek, amelyben a tiltott tartalom ártatlannak látszik: szerepjátékot, kitalált történetet, „csak kutatási célból” indoklást vagy sok apró, egyenként ártalmatlan lépést.
3. Más módszerek a szűrőket játsszák ki: a kérést lefordítják ritka nyelvre, kódolják, szándékosan elírják, vagy értelmetlennek tűnő, géppel kikísérletezett karaktersort fűznek a végére.
4. Ha a modell „belemegy a játékba”, a kérés teljesítése erősebbé válik benne, mint a visszautasítás, és kiadja azt, amit egyébként megtagadna.
5. A fejlesztők a nyilvánosságra került trükköket betanítással és külön ellenőrző szűrőkkel foltozzák be, mire a támadók újakat találnak ki. Ez folyamatos macska-egér játék.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Tökéletes védelem ma nincs: egyetlen nyelvi modellről sem jelentheted ki biztosan, hogy semmilyen megfogalmazással nem bírható rá szabályszegésre.
• A jailbreakkel kicsikart válasz nem megbízhatóbb a többinél: a modell ilyenkor is tévedhet vagy kitalálhat dolgokat, veszélyes témában pedig ez különösen kockázatos.
• A szolgáltatók felhasználási feltételei általában tiltják a korlátok kijátszását, ezért a próbálkozás a fiókod felfüggesztésével járhat, a megszerzett tartalom felhasználása pedig jogi következményekkel is.
• Ha a modell nemcsak beszélget, hanem agentként cselekszik is (e-mailt küld, fájlokat kezel, vásárol), egy sikeres jailbreak már nem csak rossz szöveget, hanem valódi kárt okozhat.

Hasonló, de nem ugyanaz

• prompt injection – A prompt injection célja az, hogy az AI-alkalmazás a készítője utasításai helyett a támadóét kövesse; ezt az utasítást gyakran egy harmadik fél rejti el weboldalban, e-mailben vagy dokumentumban. A jailbreak célja szűkebb: a modell biztonsági korlátainak megkerülése, jellemzően magának a felhasználónak a kérésével. A két fogalom átfedi egymást, egyes szakmai besorolások a jailbreaket a prompt injection egyik fajtájának tekintik.
• red teaming – A red teaming szervezett, megbízásra végzett biztonsági tesztelés, amelynek a jailbreak csak az egyik eszköze, és a célja a hibák kijavítása, nem a kihasználása.
• hallucináció – A hallucináció a modell szándékolatlan tévedése, amikor magától állít valótlant, a jailbreak viszont szándékos emberi manipuláció eredménye.

Kapcsolódó fogalmak

Röviden a története

A szó eredetileg „börtönből szökést” jelent. Az informatikában már a 2000-es évek elején is használták a rendszerek zárt, korlátozott környezetéből („jail”) való kitörésre, de széles körben a 2007-ben megjelent iPhone gyári korlátozásainak feloldása tette ismertté. A nyelvi modellekre a ChatGPT 2022. novemberi megjelenése után ragadt rá, amikor a felhasználók tömegesen kezdtek szabálykerülő szövegeket (például a „DAN” néven ismertet) megosztani egymással. 2023-ban kutatók kimutatták, hogy ilyen támadások géppel, automatikusan is előállíthatók.

Hol tart most

2026 végén a jailbreak a nyelvi modellek mindennapos, jól ismert kockázata: a modellek ellenállóbbak, mint korábban, de teljesen kivédeni senkinek sem sikerült. Az agentek terjedésével a tét nőtt, ezért a nagy fejlesztők rendszeresen tesztelik rá a modelljeiket, és többen jutalmat is fizetnek a bejelentett trükkökért.

Állapot: 2026. november

Más nevei

jailbreak · jailbreaking · jailbreakelés · AI jailbreak · LLM jailbreak · jailbreak prompt · MI-jailbreak · DAN

Források

• Zou et al.: Universal and Transferable Adversarial Attacks on Aligned Language Models (arXiv, 2023)
• OWASP Top 10 for Large Language Model Applications

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.