Fogalomtár › Biztonság

emberi felügyelet

angolul: human oversight

Az emberi felügyelet azt jelenti, hogy egy AI-rendszer működését ember követi, ellenőrzi, és szükség esetén felülbírálja vagy leállítja.

Érthetően

Gondolj a tanulóvezetőre és az oktatóra. A tanuló vezet, de az oktató lába ott van a saját fékpedálján: figyel, és ha baj van, közbelép. Az emberi felügyelet ugyanez az AI-nál: a gép dolgozik, de van valaki, aki érti, mit csinál, és meg tudja állítani.

Azért van rá szükség, mert az AI magabiztosan is tud tévedni, és a tévedésért nem ő felel. Ha egy rendszer hitelkérelmekről, leletekről vagy álláspályázatokról dönt, kell egy ember, aki észreveszi a hibát, és vállalja a végső döntést.

Az agenteknél ez még fontosabb, mert ők nemcsak válaszolnak, hanem cselekszenek is: e-mailt küldenek, fájlokat törölnek, pénzt utalnak. Itt a felügyelet többnyire azt jelenti, hogy a kockázatos lépések előtt az agent megáll, és engedélyt kér.

Más ez, mint az utólagos reklamáció. A felügyeletet előre beépítik a rendszerbe és a munkafolyamatba, nem a baj után keresnek hozzá felelőst.

Hogyan működik

1. Először eldöntik, mekkora a tét: egy filmajánlónál elég a laza figyelem, egy orvosi vagy pénzügyi döntésnél szoros ellenőrzés kell.
2. Kijelölik az ellenőrzési pontokat: mely lépéseket teheti meg a rendszer önállóan, és melyekhez kell emberi jóváhagyás (például fizetés, törlés, üzenetküldés előtt).
3. A rendszer láthatóvá teszi, mit csinál: naplót vezet, megmutatja a javaslatát és lehetőleg az indokait is, hogy az ember érdemben tudjon dönteni.
4. A felügyelő ember jóváhagy, módosít vagy elutasít, és mindig van a kezében egy „stop gomb”, amellyel megszakíthatja a folyamatot.
5. Az eseteket utólag is átnézik, és a tapasztalatok alapján szigorítják vagy lazítják a szabályokat.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Az emberek hajlamosak túlzottan megbízni a gépben (automatizálási torzítás), ezért sok jó javaslat után a rosszat is átengedik.
• Ha az agent percenként kér engedélyt, hamar belefáradsz, és olvasás nélkül kattintasz. A túl sok kérdés ugyanúgy gyengíti a felügyeletet, mint a túl kevés.
• A gép sokkal gyorsabban és nagyobb mennyiségben dolgozik, mint ahogy egy ember át tudja nézni, ezért a teljes ellenőrzés gyakran lehetetlen.
• A felügyelő ember könnyen bűnbakká válhat: őt vonják felelősségre akkor is, ha a rendszert úgy tervezték, hogy a hibát ne lehessen észrevenni.

Hasonló, de nem ugyanaz

• ember a folyamatban (human-in-the-loop) – Ez a felügyelet egyik konkrét módja, amikor az ember minden lényeges lépést jóváhagy. Az emberi felügyelet tágabb, a lazább megfigyelés is belefér.
• magyarázhatóság – A magyarázhatóság arról szól, hogy érthető-e, miért döntött így az AI. A felügyelet arról, hogy be tud-e avatkozni valaki.
• védőkorlátok (guardrails) – A védőkorlát automatikus, beépített szabály, amely ember nélkül is tilt. A felügyeletnél élő ember mérlegel és dönt.

Kapcsolódó fogalmak

Röviden a története

Az EU szakértői csoportja 2019-ben a megbízható AI hét alapkövetelménye közé sorolta az emberi cselekvőképességet és felügyeletet. A 2024-ben elfogadott uniós AI-rendelet (AI Act) 14. cikke a magas kockázatú rendszereknél jogi kötelezettséggé tette. Ezeket a szabályokat nem egyszerre, hanem több lépcsőben kell alkalmazni.

Hol tart most

Az elv általánosan elfogadott, és az EU-ban jogszabály is rögzíti, a gyakorlat viszont még formálódik. Az önállóan dolgozó agentek terjedésével a legtöbb eszközben megjelentek a jóváhagyási lépések, de nincs egységes mérce arra, mennyi felügyelet elég.

Állapot: 2026. november

A hírekben

• Amerikai iskolakörzetek AI-szabályzatai: emberi felügyelet, mintaszabályzat, AI-használati skála2026. okt. 26. · Oktatás és család
• Az FSB végleges jelentése 12 jó gyakorlatot rögzít az AI felelős alkalmazásához2026. okt. 15. · Pénz
• Humanoid robotok a gyárban és a raktárban: Atlas tanul felügyelettel, korai raktári tapasztalatok2026. okt. 15. · Ipar
• Szakszervezetek és szabályozók emberi felügyeletet követelnek az algoritmikus munkahelyi döntéseknél2026. okt. 5. · Munka és HR
• Könyvvizsgálat és AI: Modus ex-Grant Thornton auditorokat vesz fel, PwC emberi felügyeletet ír elő2026. szept. 23. · Pénz
• AI-cégvezetők és Bengio az ENSZ-ben figyelmeztettek, 22 ország az emberi kontrollt sürgeti2026. szept. 21. · Agent Age
• Az Uber 825 millió eurós bírsága figyelmeztetés az automatizált elbocsátás miatt2026. szept. 21. · Jog
• Dario Amodei az MI-fejlesztés lassítását sürgeti, és tervet is felvázol2026. szept. 12. · Agent Age

Más nevei

emberi felügyelet · emberi felügyelet az MI felett · emberi kontroll · emberi beavatkozás · human oversight · human-in-the-loop · HITL · human control

Források

• OECD AI Principles
• NIST AI Risk Management Framework

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.