algoritmikus torzítás

angolul: algorithmic bias

alapelterjedt

Az algoritmikus torzítás az, amikor egy számítógépes rendszer következetesen, indokolatlanul hátrányosabban bánik egyes embercsoportokkal, mint másokkal.

Érthetően

Képzeld el, hogy egy szakács csak egyetlen nagymama receptjeiből tanult főzni. Ügyes lesz, de mindent úgy sóz, ahogy ő szokta, és ezt észre sem veszi. A mesterséges intelligencia ugyanígy a kapott példákból tanul: ha a példák egyoldalúak vagy régi igazságtalanságokat őriznek, a rendszer ezeket hűségesen megismétli.

A torzítás nem egy-egy véletlen hiba, hanem rendszeres eltolódás: a gép újra és újra ugyanabba az irányba téved. Például következetesen rosszabb pontszámot ad nőknek, időseknek, egy adott környéken élőknek vagy egy kisebbség tagjainak.

Azért fontos erről tudnod, mert ilyen rendszerek ma már önéletrajzokat szűrnek, hitelkérelmeket pontoznak, és orvosi leleteket rangsorolnak. Az emberi előítélet egy-egy ügyintézőnél jelenik meg, a gépi torzítás viszont egyszerre több ezer vagy millió döntésben, sokszor láthatatlanul.

Hogyan működik

A rendszer múltbeli adatokból tanul, ezért a múlt egyenlőtlenségeit is megtanulja: ha egy cég korábban főleg férfiakat vett fel, a modell ezt a „siker” mintájának látja.
Baj az is, ha egyes csoportok alig szerepelnek az adatokban: róluk a rendszer kevesebbet tud, ezért náluk többet hibázik.
A tervezők döntései is számítanak: mit mérnek, mit tekintenek jó eredménynek, és mit használnak valaminek a közelítő mutatójaként (például az egészségügyi költést a betegség súlyossága helyett).
Hiába hagyják ki az érzékeny adatot (nem, életkor, származás), más adatok elárulhatják: az irányítószám, az iskola neve vagy a vásárlási szokások.
A torzítás önmagát erősítheti: a gép döntései új adatot termelnek, a következő változat pedig már ezekből tanul.

Példa a mindennapokból

Beadod a jelentkezésed egy állásra, és az önéletrajzodat először egy szűrőprogram pontozza. Ha a program a cég korábbi felvételeiből tanult, és ott kevés volt az ötven év feletti vagy a kisgyerekes nő, akkor a tiédet hátrébb sorolhatja. Közben a tudásodat senki nem nézte meg.

Kit érint

álláskereső, pályakezdőAz önéletrajz-szűrő és videóinterjú-elemző programok még azelőtt kirostálhatnak, hogy ember látná a jelentkezésed. → Munka és HR

hitelt kérő banki ügyfélA hitelbírálati pontozás hátrányosan sorolhat be a lakóhelyed vagy más olyan jellemző miatt, amely valójában semmit nem mond a fizetőképességedről.

beteg, orvosA főleg egyféle betegcsoport adatain tanított diagnosztikai rendszer másoknál pontatlanabb lehet. → Egészség

fejlesztőNeked kell a tanítóadatot és az eredményeket csoportonként ellenőrizned. Nagy kockázatú rendszereknél az EU MI-rendelete kifejezetten előírja, hogy a tanítóadatok lehetséges torzításait meg kell vizsgálni és kezelni kell. → Kód

Gyakori félreértés

TévhitA gép csak számol, ezért nem lehet előítéletes, tehát tárgyilagosabb az embernél.

ValójábanA gép emberek által gyűjtött adatokból és emberek által kitűzött célokból dolgozik, így az emberi előítéleteket átveszi. Ráadásul a számok a tárgyilagosság látszatát keltik, ezért nehezebb vitatni őket.

Korlátok és kockázatok

A torzítást nem lehet egyszer s mindenkorra kiirtani, csak mérni, csökkenteni és rendszeresen újraellenőrizni.
A „méltányos” döntésnek többféle matematikai meghatározása van. Ezek a valós helyzetek többségében egyszerre nem teljesíthetők, ezért valakinek értékválasztást kell hoznia.
Kívülről többnyire nem látod, hogy egy döntést torz rendszer hozott-e, ezért fontos, hogy indoklást és emberi felülvizsgálatot kérhess.
A nagy nyelvi modellek és a rájuk épülő agentek is hordoznak torzításokat, ezért a válaszaikat és a döntéseiket se fogadd el automatikusan semlegesnek.

Hasonló, de nem ugyanaz

hallucináció – A hallucináció kitalált, valótlan állítás, a torzítás viszont rendszeres, egy irányba húzó egyenlőtlen bánásmód, amely akár igaz adatokra is épülhet.
statisztikai torzítás – A statisztikában a torzítás semleges szakszó a becslés rendszeres eltérésére, az algoritmikus torzítás viszont az emberekre nézve igazságtalan következményről szól.
diszkrimináció – A diszkrimináció jogi fogalom és emberi vagy intézményi magatartás, az algoritmikus torzítás pedig a rendszer olyan tulajdonsága, amely diszkriminációhoz vezethet.

Kapcsolódó fogalmak

Tágabb

MI-etika, megbízható mesterséges intelligencia, felelős MI

Szűkebb

adattorzítás, mintavételi torzítás, nemi torzítás

Rokon

algoritmikus méltányosság, automatizálási torzítás, magyarázható MI, tanítóadat, átláthatóság, emberi felügyelet

Röviden a története

A jelenséget Batya Friedman és Helen Nissenbaum írta le rendszerezve 1996-ban, a „Bias in Computer Systems” című tanulmányban. Széles körben 2016-ban vált ismertté, amikor a ProPublica „Machine Bias” című cikke kimutatta, hogy az amerikai bíróságokon használt COMPAS kockázatbecslő program a fekete vádlottakat gyakrabban sorolta tévesen magas kockázatúnak.

Hol tart most

2026 végére a torzítás vizsgálata egyre inkább a komoly MI-fejlesztés bevett része. Az EU mesterségesintelligencia-rendelete (2024/1689) a nagy kockázatú rendszereknél előírja a tanítóadatok lehetséges torzításainak vizsgálatát és kezelését. Ezek a kötelezettségek fokozatosan lépnek alkalmazásba. A mérés módszerei a gyakorlatban még nem egységesek, és az agentek önálló döntései új ellenőrzési feladatot jelentenek.

Állapot: 2026. november

A hírekben

1 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Két szövetségi bíróság elutasította az AI-s toborzási diszkriminációs keresetet; a Sirius XM is nyert2026. okt. 27. · Munka és HR

Más nevei

algoritmikus torzítás · algoritmikus elfogultság · algoritmikus előítélet · MI-torzítás · gépi elfogultság · algorithmic bias · AI bias · machine bias

Források

NIST SP 1270: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.