13. lapszám · nov. 2–8. 2026Kiadások · Fogalomtár · Archívum · Módszer · RSS · HU / ENG

Az AI-korszak hírei, hetente válogatva

Fogalomtár › Szabályozás és jog

magas kockázatú AI-rendszer

angolul: high-risk AI system

haladóterjedő

Olyan AI-rendszer, amelyet az EU AI Act a felhasználási területe miatt szigorú követelményekhez köt, mert a hibája emberek egészségét, biztonságát vagy alapvető jogait sértheti.

Érthetően

Az EU mesterségesintelligencia-rendelete (AI Act) nem minden AI-t kezel egyformán. Azt nézi, mekkora bajt okozhat a rendszer, ha hibázik. A magas kockázatú kategóriába azok kerülnek, amelyek tévedése egy ember életét, megélhetését vagy jogait érintheti: például ha egy program dönt arról, kapsz-e hitelt, behívnak-e állásinterjúra, vagy felvesznek-e egy iskolába.

Olyan ez, mint a közlekedés. Biciklire bárki felülhet, autót csak jogosítvánnyal és műszaki vizsgával vezethetsz, a buszsofőrre pedig még szigorúbb szabályok vonatkoznak. A magas kockázatú AI az autó és a busz szintje: nem tilos, de csak ellenőrzötten, dokumentáltan és emberi felügyelettel működhet.

A besorolás nem a technológiától függ, hanem attól, mire használják. Ugyanaz a nyelvi modell ártalmatlan, ha receptet ajánl, de magas kockázatú rendszer része lehet, ha önéletrajzokat rangsorol. Ez igaz az agentekre is: egy önállóan dolgozó AI-agent attól lesz magas kockázatú, hogy érzékeny területen kap feladatot.

Hogyan működik

  1. Besorolás: egy rendszer kétféleképpen lehet magas kockázatú. Az egyik eset, ha uniós termékbiztonsági szabályok alá tartozó termék (például orvostechnikai eszköz, lift, játék vagy gép) biztonsági eleme, vagy maga ilyen termék, és független tanúsítást igényel. A másik eset, ha a rendelet III. mellékletében felsorolt területen működik. Ezek: biometria, kritikus infrastruktúra, oktatás, foglalkoztatás, alapvető magán- és közszolgáltatások (például hitelbírálat, élet- és egészségbiztosítás árazása), bűnüldözés, migráció és határellenőrzés, valamint igazságszolgáltatás és választások.
  2. A szolgáltató kötelezettségei (a szolgáltató az, aki a rendszert fejleszti és a saját neve alatt forgalomba hozza): kockázatkezelési és minőségirányítási rendszert működtet, és gondoskodik a tanító- és tesztadatok megfelelő minőségéről. Részletes műszaki dokumentációt és használati utasítást készít. Úgy alakítja ki a rendszert, hogy a működése automatikusan naplózható és emberi felügyelet alatt tartható legyen. Biztosítja a pontosságot, a megbízható működést és a kiberbiztonságot.
  3. Megfelelőségértékelés: forgalomba hozatal előtt igazolni kell, hogy a rendszer teljesíti az előírásokat. A III. mellékletbe tartozó rendszerek többségénél ezt a szolgáltató maga végzi el. Bizonyos biometrikus rendszereknél és a szabályozott termékeknél független tanúsító szervezet is részt vesz. Ezután a rendszer CE-jelölést kap, a III. mellékletbe tartozó rendszereket pedig általában az uniós adatbázisban is regisztrálni kell.
  4. Az alkalmazó kötelességei (az alkalmazó a rendszert használó cég vagy hivatal): hozzáértő embert jelöl ki a felügyeletére, a rendszert az utasítások szerint használja, és megőrzi a naplókat. Tájékoztatja az érintetteket, például a munkavállalókat vagy azokat, akikről a rendszer segítségével döntenek. A közintézményeknek és a közszolgáltatást nyújtó cégeknek, valamint a hitelbírálatra vagy biztosítási árazásra használó cégeknek használat előtt alapjogi hatásvizsgálatot is kell végezniük.
  5. Utókövetés: a rendszert a bevezetés után is figyelni kell, a súlyos eseményeket pedig jelenteni kell a piacfelügyeleti hatóságnak. A magas kockázatú rendszerekre vonatkozó kötelezettségek megszegéséért akár 15 millió euró vagy az éves világpiaci árbevétel 3 százaléka is lehet a bírság, a kettő közül a magasabb. Kis- és középvállalkozásoknál az alacsonyabb összeg az irányadó.

Példa a mindennapokból

Jelentkezel egy nagyvállalathoz, és az önéletrajzodat először egy AI-rendszer szűri és rangsorolja. Ez a rendszer magas kockázatúnak számít, ezért a cégnek gondoskodnia kell arról, hogy ember felügyelje a működését. Te pedig magyarázatot kérhetsz, ha a rendszer közreműködésével született döntés hátrányosan érint téged.

Kit érint

álláskereső, pályakezdőA toborzásban és a kiválasztásban használt AI magas kockázatú. Ezért jogod van tudni róla, a döntés mögött emberi felügyeletnek kell lennie, és bizonyos esetekben magyarázatot is kérhetsz. → Munka és HR
banki és biztosítási ügyfélA magánszemélyek hitelképességét értékelő, valamint az élet- és egészségbiztosítás kockázatát és árát meghatározó AI ebbe a kategóriába esik. Ezért szigorúbb ellenőrzés és átláthatóság jár neked.
vállalkozó, vezetőHa a céged ilyen rendszert fejleszt vagy használ, dokumentációs, felügyeleti és tájékoztatási kötelezettségeid vannak, a mulasztás pedig súlyos bírsággal járhat.
fejlesztőMár tervezéskor tudnod kell, hogy a terméked vagy agented felhasználási célja magas kockázatúnak minősül-e, mert ez meghatározza a naplózást, a tesztelést és a dokumentációt. → Kód

Gyakori félreértés

TévhitA magas kockázatú AI veszélyes, ezért az EU betiltja.
ValójábanA magas kockázatú rendszerek megengedettek, csak szigorú feltételekkel. A tiltott gyakorlatok (például a társadalmi pontozás) külön, „elfogadhatatlan kockázatú” kategóriát alkotnak.

Korlátok és kockázatok

Hasonló, de nem ugyanaz

Kapcsolódó fogalmak

Tágabb

EU AI Act, kockázatalapú szabályozás, AI-szabályozás

Szűkebb

megfelelőségértékelés, alapjogi hatásvizsgálat, biometrikus azonosítás

Rokon

emberi felügyelet, tiltott AI-gyakorlat, általános célú AI-modell, átláthatósági kötelezettség, algoritmikus torzítás

Röviden a története

A fogalmat az Európai Bizottság 2021. áprilisi rendeletjavaslata vezette be a kockázatalapú megközelítés részeként. A végleges szöveget, az (EU) 2024/1689 rendeletet 2024 júniusában fogadták el, 2024. július 12-én hirdették ki, és 2024. augusztus 1-jén lépett hatályba. A rendelet hivatalos magyar szövege a „nagy kockázatú MI-rendszer” kifejezést használja.

Hol tart most

A fogalom jogilag rögzített. Az eredeti menetrend szerint a III. mellékletbe tartozó rendszerekre 2026. augusztus 2-től, a szabályozott termékekbe épített rendszerekre 2027. augusztus 2-től kellett volna alkalmazni a kötelezettségeket. A Bizottság 2025. novemberi „digitális omnibusz” javaslata ezeket a határidőket a szabványok elkészültéhez kötné, és legkésőbb 2027 decemberére, illetve 2028 augusztusára tolná ki. A pontos dátumokat a módosító rendelet végleges szövege rögzíti. A harmonizált szabványok és a bizottsági iránymutatások egy része még készül, ezért sok szervezet még a felkészülésnél tart.

Állapot: 2026. november

A hírekben

5 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Más nevei

magas kockázatú MI-rendszer · nagy kockázatú MI-rendszer · magas kockázatú mesterségesintelligencia-rendszer · nagy kockázatú AI · high-risk AI system · high-risk AI · HRAIS

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.