Fogalomtár › Társadalom és etika

méltányosság

angolul: AI fairness

Az a követelmény, hogy a mesterséges intelligencia döntései ne hozzanak indokolatlanul hátrányos helyzetbe embereket nemük, koruk, származásuk vagy más csoporthoz tartozásuk miatt.

Érthetően

Képzeld el a tanárt, aki név nélkül javítja a dolgozatokat, hogy ne befolyásolja, kit kedvel és kit nem. A méltányosság ugyanezt kéri a géptől: a döntés azon múljon, ami tényleg számít, ne azon, hogy valaki nő, idős, roma vagy kistelepülésen él.

A gép nem rosszindulatból részrehajló. Régi adatokból tanul, és ha a múltban egy cég főleg férfiakat vett fel vezetőnek, a rendszer ezt mintának tekinti, és továbbviszi. A méltányosság azt jelenti, hogy ezt a torzítást megmérik, és ha kell, kijavítják.

Azért fontos, mert az AI ma már hitelről, állásról, biztosítási díjról és orvosi vizsgálatról is segít dönteni. Egy elfogult ügyintéző néhány embert érint, egy elfogult program viszont egyszerre akár milliókat, ugyanazzal a hibával.

A méltányosság nem egyetlen képlet. Többféleképpen is meg lehet határozni, mi számít igazságosnak, és ezek részben ellentmondanak egymásnak, ezért végül embereknek kell eldönteniük, melyiket alkalmazzák.

Hogyan működik

1. Először kijelölik, mely csoportokat kell védeni (például nem, életkor, származás, fogyatékosság), és milyen döntésnél, például hitelbírálatnál vagy önéletrajz-szűrésnél.
2. Megvizsgálják a tanítóadatokat: szerepel-e bennük elég ember minden csoportból, és nem rögzítenek-e múltbeli igazságtalanságot.
3. Mérőszámokkal összevetik a csoportok eredményeit: ugyanolyan arányban kapnak-e kedvező döntést, és ugyanolyan gyakran téved-e a rendszer a kárukra.
4. Ha eltérést találnak, beavatkoznak: kiegyensúlyozzák az adatokat, módosítják a tanítást, vagy utólag igazítják a döntési küszöböket.
5. Élesítés után is rendszeresen ellenőrzik a rendszert, mert az adatok és a felhasználók változnak. A vitás eseteket embernek kell felülvizsgálnia.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• A méltányosság különböző matematikai meghatározásai bizonyítottan nem teljesíthetők egyszerre, ha a csoportok között eleve eltér a vizsgált esemény gyakorisága (például a hiteltörlesztési késéseké). Ezért mindig értékválasztás, melyiket alkalmazzák.
• A „méltányos” vagy „elfogulatlan” címke egy terméken semmit sem ér, ha nem derül ki, mit mértek, mely csoportokra és milyen adatokon.
• A torzítás csökkentése gyakran ront valamennyit az átlagos pontosságon, és ezt az átváltást nem mindig mondják ki nyíltan.
• A csoportszintű méltányosság nem garantálja, hogy a te egyéni ügyedben is helyes döntés születik, ezért fontos a jogorvoslat és az emberi felülvizsgálat lehetősége.

Hasonló, de nem ugyanaz

• algoritmikus torzítás – A torzítás maga a hiba, vagyis a rendszeres részrehajlás, a méltányosság pedig a cél és az eszköztár, amellyel ezt megelőzik.
• átláthatóság – Az átláthatóság azt jelenti, hogy tudható, hogyan dönt a rendszer, de egy teljesen átlátható rendszer is lehet igazságtalan.
• egyenlő bánásmód – Az egyenlő bánásmód jogi követelmény, és akkor is kötelező, ha a döntést AI hozza vagy készíti elő; a felelősség ilyenkor a rendszert használó szervezeté. Az AI-méltányosság az a műszaki eszköztár, amely mérőszámokkal és vizsgálatokkal segít ennek megfelelni, de nem helyettesíti a jogi megfelelést.

Kapcsolódó fogalmak

Röviden a története

A téma 2016-ban került a figyelem középpontjába, amikor a ProPublica megírta, hogy az egyes amerikai bíróságokon használt COMPAS kockázatbecslő program a fekete vádlottakat gyakrabban sorolta tévesen magas kockázatúnak. Ugyanebben az évben több kutatócsoport is kimutatta, hogy a méltányosság elterjedt meghatározásai általában nem teljesíthetők egyszerre. Az EU 2024-ben elfogadott AI-rendelete előírja, hogy a magas kockázatú rendszerek tanítóadatait meg kell vizsgálni a lehetséges torzítások szempontjából. Ezek a kötelezettségek fokozatosan lépnek életbe.

Hol tart most

2026 végén a nagyobb fejlesztők és a szabályozott ágazatok (bank, HR, egészségügy) már rutinszerűen végeznek torzításvizsgálatot, de egységes, mindenki által elfogadott mérce nincs. A nyelvi modellek és az önállóan cselekvő agentek méltányosságának mérése még kiforratlan.

Állapot: 2026. november

A hírekben

• Brookings: az MI-alapú iskolai megfigyelés biztonsági és méltányossági aggályokat vet fel2026. aug. 27. · Oktatás és család
• Németország AI migrációs törvénye aggályokat vet fel a biztonság és a jogszerűség terén2026. aug. 27. · Jog

Más nevei

AI-méltányosság · MI-méltányosság · algoritmikus méltányosság · algoritmikus igazságosság · AI fairness · algorithmic fairness · fairness in machine learning · ML fairness

Források

• Wikipedia: Fairness (machine learning)
• ProPublica: Machine Bias (2016)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.