AI-incidens

angolul: AI incident

alapterjedő

Olyan eset, amikor egy mesterségesintelligencia-rendszer működése vagy hibája közvetlenül vagy közvetve tényleges kárt okoz embereknek, szervezeteknek vagy a környezetnek, illetve alapvető jogokat sért.

Érthetően

Az AI-incidens a mesterséges intelligencia világának „balesete”. Ahogy a közlekedésben a koccanástól a tömegszerencsétlenségig minden balesetnek számít, itt is széles a skála: a téves banki elutasítástól a hamis videóval elkövetett csaláson át az önvezető autó okozta sérülésig.

A fogalom arra jó, hogy a bajokat ne egyedi pechként kezeljük, hanem összegyűjtsük, és tanuljunk belőlük. A repülés is nagyrészt attól lett biztonságos, hogy a baleseteket és a veszélyes eseményeket módszeresen kivizsgálják és nyilvántartják, az AI-nál ugyanezt a szemléletet próbálják meghonosítani.

Egy sima szoftverhibától abban más, hogy itt a kár gyakran nem „elromlásból” fakad. A rendszer műszakilag hibátlanul fut, csak éppen rosszul dönt, elfogultan ítél, magabiztosan valótlant állít, vagy egy agent olyasmit tesz meg önállóan, amire senki sem kérte.

Hogyan működik

Észlelés: valaki észreveszi, hogy baj történt, például egy ügyfél panaszt tesz, egy újságíró megírja az esetet, vagy a cég saját megfigyelő rendszere riaszt.
Rögzítés: leírják, mi történt, melyik rendszer érintett, kinek milyen kára keletkezett, és megőrzik a naplókat, hogy az eset később visszakövethető legyen.
Besorolás: eldöntik, mennyire súlyos az eset, és hogy tényleges kár történt-e, vagy csak reális veszélye állt fenn (ez utóbbit AI-veszélyhelyzetnek, angolul AI hazardnek hívják).
Kivizsgálás és javítás: megkeresik az okot (rossz tanítóadat, hiányzó emberi ellenőrzés, visszaélés, túl nagy önállóság), majd javítják vagy leállítják a rendszert.
Bejelentés és tanulás: a súlyos eseteket a jogszabályban előírt körben jelenteni kell a hatóságnak, a tanulságok pedig nyilvános adatbázisokba kerülhetnek, hogy mások ne kövessék el ugyanazt.

Példa a mindennapokból

Egy webáruház ügyfélszolgálati chatbotja olyan visszatérítést ígér neked, ami a cég szabályzatában nem is létezik, te pedig ennek alapján vásárolsz. Amikor a cég megtagadja a pénzt, és ebből károd lesz, az már AI-incidens, nem egyszerű félreértés.

Kit érint

mindenkiBárki lehet károsult, ha egy AI-rendszer tévesen dönt róla, félrevezeti, vagy a hangjával és arcával visszaélnek.

vállalkozó, vezetőTöbbnyire a cég felel azért, amit az általa használt AI-rendszer az ügyfeleknek mond vagy tesz, ezért előre tudnia kell, ki mit csinál, ha baj van.

fejlesztőNeki kell naplózást, megfigyelést és leállítási lehetőséget építenie, hogy az incidens kiderüljön és kivizsgálható legyen. → Kód

jogász, állampolgárAz EU AI-rendelete a magas kockázatú AI-rendszerek szolgáltatóinak (és a rendszerszintű kockázatot hordozó általános célú modellek fejlesztőinek) írja elő a súlyos incidensek bejelentését; aki pedig úgy látja, hogy megsértették a rendeletet, panaszt tehet a piacfelügyeleti hatóságnál. → Jog

Gyakori félreértés

TévhitAI-incidens az, amikor a gép „elszabadul”, vagy látványosan összeomlik.

ValójábanA legtöbb incidens csendes és hétköznapi: téves elutasítás, diszkriminatív rangsor, kitalált tény, kiszivárgott adat. A rendszer közben gyakran pontosan úgy működik, ahogy megépítették.

Korlátok és kockázatok

Nincs egyetlen, mindenhol elfogadott meghatározás: az OECD tágan érti, az uniós jog csak a „súlyos incidenst” határozza meg, a cégek belső szabályzatai pedig megint mást értenek alatta.
A nyilvános adatbázisok főleg sajtóhírekből dolgoznak, ezért csak a jéghegy csúcsát mutatják, és az esetszám növekedése részben a nagyobb figyelmet tükrözi.
Sokszor nehéz bizonyítani, hogy a kárt tényleg az AI okozta, és nem az ember, aki rosszul használta vagy vakon megbízott benne.
A cégek nem szívesen beszélnek a saját eseteikről, így sok tanulság soha nem jut el a nyilvánossághoz.

Hasonló, de nem ugyanaz

AI-veszélyhelyzet – Ott a kár még nem következett be, csak reális esély volt rá; az incidensnél már megtörtént.
Kiberbiztonsági incidens – Az bármilyen informatikai rendszer biztonságának sérülése, jellemzően támadás vagy adatszivárgás. Az AI-incidenshez nem kell támadó, elég a rendszer saját rossz döntése. A kettő át is fedhet, például ha egy AI-rendszert törnek fel vagy vesznek rá adatok kiadására.
Hallucináció – A hallucináció a modell téves kimenete, ami önmagában még nem incidens, csak akkor válik azzá, ha valakinek kára lesz belőle.

Kapcsolódó fogalmak

Tágabb

AI-biztonság, AI-kockázatkezelés, AI-irányítás

Szűkebb

Súlyos incidens, Incidensbejelentés

Rokon

AI-veszélyhelyzet, Hallucináció, Algoritmikus torzítás, Emberi felügyelet, Deepfake, Vörös csapatos tesztelés

Röviden a története

A kifejezést a repülés és a kiberbiztonság eseménykezelési gyakorlatából vették át. 2020-ban indult a nyilvános AI Incident Database, 2023-ban az OECD saját incidensfigyelője, a 2024-ben elfogadott uniós AI-rendelet pedig jogi fogalommá tette a „súlyos incidenst”.

Hol tart most

2026 végén a fogalom már benne van a jogszabályokban és a nagyobb cégek belső szabályzataiban, a nyilvános adatbázisok pedig több ezer esetet tartanak nyilván. Az EU-ban a legnagyobb általános célú modellek fejlesztőinek 2025 augusztusa óta jelenteniük kell a súlyos incidenseket, a magas kockázatú rendszerekre vonatkozó bejelentési szabályok viszont csak később válnak alkalmazandóvá. Az egységes bejelentési gyakorlat ezért még alakul, és az önállóan cselekvő agentek új típusú eseteket hoznak.

Állapot: 2026. november

A hírekben

4 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Hassabis: az AI-s hackelés „korai figyelmeztető lövés”, két éven belül nagy incidensek jöhetnek2026. okt. 13. · Agent Age
Brad Smith, Richard Hermer és 400 tudós szigorúbb AI-szabályozást sürget2026. okt. 12. · Jog
Az USA és Kína AI-incidenscsatornáról állapodott meg2026. okt. 8. · Agent Age
Az USA AI-incidensriasztó rendszert javasol Kínával a Trump–Hszi csúcs előtt2026. szept. 14. · Agent Age

Más nevei

AI-incidens · MI-incidens · mesterségesintelligencia-incidens · AI incident · súlyos incidens · serious incident · AI-baleset · AI-esemény

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.