alkotmányos AI (CAI)

angolul: Constitutional AI

haladóterjedő

Olyan tanítási módszer, amelyben a nyelvi modell egy leírt elvgyűjtemény, az „alkotmány” alapján maga bírálja és javítja a válaszait, így tanul meg biztonságosan viselkedni.

Érthetően

Az alkotmányos AI az Anthropic nevű cég módszere arra, hogy egy nyelvi modell ne csak okos legyen, hanem tisztességesen is viselkedjen. A fejlesztők nem több tízezer példán mutatják meg egyenként, mi a jó és mi a rossz válasz. Ehelyett leírnak egy elvgyűjteményt hétköznapi nyelven, és a modell ehhez igazodva tanul.

Olyan ez, mint amikor egy új kollégának nem ezer konkrét esetet magyarázol el, hanem a kezébe adod a cég etikai kódexét, és megkéred, hogy minden munkáját ehhez mérve nézze át és javítsa ki. Egy idő után már nem kell elővennie a kódexet, mert a szemlélete beépült a munkájába.

A hagyományos megoldásnál emberek tömege értékeli a modell válaszait, ami lassú, drága, és az értékelőknek sok bántó tartalmat kell végigolvasniuk. Itt az értékelés nagy részét maga az AI végzi az írott elvek alapján. Az elvek ráadásul nyilvánosak lehetnek, így te is elolvashatod, mihez tartja magát a modell.

Hogyan működik

A fejlesztők megírják az „alkotmányt”: természetes nyelvű elvek listáját arról, hogy a modell legyen segítőkész, őszinte, és ne okozzon kárt.
A modell kényes, provokatív kérdésekre válaszol, majd egy-egy elv alapján megbírálja a saját válaszát, és átírja jobbra.
A javított válaszokon tovább tanítják a modellt, így már elsőre is az elveknek megfelelő választ ad.
A második körben a modell válaszpárokat hasonlít össze, és eldönti, melyik felel meg jobban az alkotmánynak. Ezekből az ítéletekből áll össze a jutalmazás, amely emberi pontozók helyett AI-visszajelzéssel finomítja a viselkedést.
Az eredmény egy olyan modell, amelynek az elvek nem külső szűrőként, hanem a tanult viselkedés részeként működnek. A cég ezután tesztekkel ellenőrzi, hol hibázik még.

Példa a mindennapokból

Megkérsz egy csevegőrobotot, hogy írjon megalázó üzenetet a volt párodnak. Nem száraz hibaüzenetet kapsz, hanem udvarias elutasítást és azt az ajánlatot, hogy segít higgadtan megfogalmazni, ami bánt. Ez a viselkedés nem egy tiltólistából jön, hanem abból, hogy a modellt írott elvek mentén tanították.

Kit érint

mindenkiHa AI-asszisztenst használsz, az ilyen elvek döntik el, miben segít, mit utasít el, és milyen hangon beszél veled.

fejlesztőHa modellre építesz terméket vagy agentet, tudnod kell, milyen beépített elvek szerint viselkedik, mert ezeket az utasításaid sem írják felül teljesen. → Kód

vállalkozó, vezetőA modell kiválasztásakor számít, hogy a gyártó nyilvánosan vállalja-e, milyen értékek szerint működik a rendszere.

jogász, állampolgárA nyilvános elvgyűjtemény számonkérhetőbbé teszi, hogy egy magáncég milyen értékeket épít egy tömegesen használt technológiába. → Jog

Gyakori félreértés

TévhitAz alkotmányos AI azt jelenti, hogy a mesterséges intelligencia betartja az ország alkotmányát és a törvényeket.

ValójábanAz „alkotmány” itt nem jogi szöveg, hanem a fejlesztő cég által írt elvgyűjtemény a modell viselkedéséről. Semmi köze az állami alkotmányokhoz, és jogi megfelelést sem garantál.

Korlátok és kockázatok

Az elveket egy magáncég írja, tehát az ő értékítéletét tükrözik, nem egy demokratikusan elfogadott közmegegyezést.
A módszer nem garancia: a modell így is tévedhet, és ügyes trükkökkel (jailbreak) rá lehet venni az elvek megszegésére.
Az elvek néha ütköznek egymással, például a segítőkészség az óvatossággal, ezért a modell olykor túl szigorú vagy túl engedékeny.
Attól, hogy az elvek nyilvánosak, még nem látsz bele abba, hogyan születik egy konkrét válasz.

Hasonló, de nem ugyanaz

rendszerprompt – A rendszerprompt beszélgetés közben kapott utasítás, amelyet az üzemeltető bármikor átírhat, az alkotmányos AI viszont tanítás közben építi be az elveket a modellbe.
tartalomszűrő (védőkorlát) – A szűrő külső kapuőrként a beérkező kérést vagy a kész választ állítja meg, az alkotmányos AI-nál maga a modell tanul meg másképp válaszolni.
emberi visszajelzésen alapuló megerősítéses tanulás (RLHF) – Az RLHF-nél emberek pontozzák a válaszokat, az alkotmányos AI-nál ezt nagyrészt a modell végzi írott elvek alapján.

Kapcsolódó fogalmak

Tágabb

AI-biztonság, AI-összehangolás, felelős AI, modelltanítás

Szűkebb

kollektív alkotmányos AI

Rokon

alkotmányos osztályozók, megerősítéses tanulás, finomhangolás, rendszerprompt, védőkorlát, jailbreak

Röviden a története

A módszert az Anthropic kutatói írták le 2022 decemberében, a „Constitutional AI: Harmlessness from AI Feedback” című tanulmányban. A cég 2023-ban nyilvánosságra hozta azokat az elveket is, amelyek alapján Claude nevű modelljét tanította. 2026 januárjában ezek helyett egy jóval hosszabb, magyarázó jellegű alkotmányt tett közzé.

Hol tart most

A módszer és továbbfejlesztett változatai ma is részei az Anthropic Claude-modelljei tanításának. A cég 2026 januárjában egy jóval részletesebb, nyilvános alkotmányt tett közzé, amely már nem rövid szabálylista, hanem a modell értékeit és azok indokait kifejtő szöveg. Más fejlesztők is közzétesznek hasonló viselkedési elveket (ilyen például az OpenAI Model Spec nevű dokumentuma), de egységes iparági szabvány nincs.

Állapot: 2026. november

Más nevei

alkotmányos AI · alkotmányos MI · alkotmányos mesterséges intelligencia · Constitutional AI · CAI · AI-alkotmány · Claude alkotmánya · Claude's Constitution

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.