Fogalomtár › Alapok

alignment

angolul: AI alignment

Az alignment (összehangolás) azt jelenti, hogy a mesterséges intelligencia az emberek valódi szándéka és értékei szerint működjön, ne csak azt teljesítse, amit szó szerint kértek tőle.

Érthetően

Ismered a mesét a három kívánságról: a szellem pontosan teljesíti, amit kimondtál, mégis rosszul sül el, mert nem azt mondtad ki, amit igazán akartál. Az alignment (magyarul összehangolás) azzal foglalkozik, hogy az MI ne ilyen szellem legyen, hanem a kérés mögötti szándékot és az emberi értékeket kövesse.

Ez azért nehéz, mert a mai MI-rendszereket nem szabályról szabályra programozzák, hanem rengeteg példán tanítják. A fejlesztő a tanítóadatot és azt tudja megadni, mit jutalmaz. Azt nem tudja pontosan megszabni, hogy a rendszer ebből mit tanul meg. Olyan ez, mint amikor a diák nem a tananyagot tanulja meg, hanem azt, hogyan lehet jó jegyet szerezni.

A téma azért lett sürgető, mert az MI már nem csak válaszol, hanem cselekszik is. Egy agent önállóan e-mailt küld, vásárol vagy kódot ír helyetted, és minél több a szabadsága, annál nagyobb baj, ha a célja kicsit is eltér a tiédtől.

Az alignment nem ugyanaz, mint a teljesítmény: egy rendszer lehet nagyon okos és közben rosszul összehangolt. A kérdés itt az, hogy jó irányba használja-e a képességeit.

Hogyan működik

1. A fejlesztők először megfogalmazzák, milyen viselkedést várnak a modelltől: például legyen őszinte, segítőkész, és ne okozzon kárt. Ezt gyakran írott irányelvekben, úgynevezett modellspecifikációban vagy „alkotmányban” rögzítik.
2. A tanítás során emberi visszajelzésekkel és gondosan válogatott példákkal jutalmazzák a kívánt viselkedést, a nem kívántat pedig visszaszorítják.
3. Ezután szándékosan próbára teszik a modellt: trükkös, kiélezett helyzetekben vizsgálják, hogy megpróbál-e csalni, megtéveszteni vagy kiskaput keresni (ezt hívják red teamingnek).
4. Kutatók a modell belsejébe is igyekeznek belelátni, hogy megértsék, miért dönt úgy, ahogy. Ez az értelmezhetőségi kutatás. Gyorsan fejlődik, de a nagy modellek működésének csak kis részét tudja ma még megmagyarázni.
5. A kiadás után is figyelik a modellt, korlátokat és emberi jóváhagyási pontokat építenek köré, mert a tesztek soha nem fednek le minden valós helyzetet.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Nincs olyan módszer, amely bizonyítaná, hogy egy modell minden helyzetben a szándékaid szerint viselkedik; a tesztek csak a kipróbált eseteket fedik le.
• Az „emberi értékek” nem egységesek: mindig kérdés, kinek az értékeihez igazítják a rendszert, és ezt jellemzően a fejlesztő cég dönti el.
• A modell másként viselkedhet, ha észleli, hogy éppen tesztelik, ezért a jó teszteredmény önmagában nem garancia.
• A gyártók „biztonságos” vagy „összehangolt” jelzői nem szabványos minősítések, ezért fontos döntéseknél tartsd meg az emberi ellenőrzést.

Hasonló, de nem ugyanaz

• MI-biztonság – Az MI-biztonság tágabb terület, amely a visszaéléseket, a hibákat és a külső támadásokat is magában foglalja; az alignment ennek az a része, amely a rendszer céljaival foglalkozik.
• védőkorlátok (guardrails) – A védőkorlát kívülről tilt le bizonyos válaszokat vagy lépéseket, az alignment viszont azt célozza, hogy a modell magától se akarjon rosszat tenni.
• MI-etika – Az MI-etika főként azt vizsgálja, mi a helyes és a méltányos. Az alignment elsősorban azzal foglalkozik, hogyan lehet a kívánt értékeket és célokat megbízhatóan beleépíteni a rendszerbe, bár ehhez maga is érinti az értékkérdéseket.

Kapcsolódó fogalmak

Röviden a története

Norbert Wiener már 1960-ban figyelmeztetett: biztosnak kell lennünk abban, hogy a gépbe táplált cél valóban az, amit akarunk. Az „alignment” kifejezés a 2010-es évek közepén terjedt el, többek között Stuart Russell „value alignment” fogalma nyomán. Ekkor már önálló kutatási területként is jelen volt, például a 2016-os „Concrete Problems in AI Safety” tanulmány révén. A nagy nyelvi modellek, különösen a 2022 körül elterjedt, emberi visszajelzésen alapuló tanítás, az ipari gyakorlat részévé és közismertté tették.

Hol tart most

2026 végén a nagy MI-fejlesztő cégeknek saját alignment- és biztonsági kutatócsoportjuk van, és a modellek kiadását nyilvánosan dokumentált viselkedési tesztek kísérik. A probléma azonban megoldatlan: az önállóan cselekvő agentek terjedésével egyre nagyobb a tétje, megbízható garancia pedig továbbra sincs.

Állapot: 2026. november

A hírekben

• Kutatások a kódolóagentek helytelen viselkedéséről: a Transluce mérése és az OpenAI hálózati korlátok kijátszásának esete2026. aug. 4. · Kód

Más nevei

alignment · AI alignment · MI-alignment · MI-összehangolás · értékösszehangolás · value alignment · alignment-probléma · alignment problem

Források

• Amodei et al.: Concrete Problems in AI Safety (2016)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.