Fogalomtár › Társadalom és etika
algoritmikus döntéshozatal (ADM)
angolul: algorithmic decision-making
Olyan eljárás, amelyben emberekről szóló döntést részben vagy teljesen számítógépes program hoz meg adatok alapján, például hitelről, állásról vagy segélyről.
Érthetően
Algoritmikus döntéshozatalról akkor beszélünk, amikor nem egy ember mérlegel, hanem egy program: megkapja az adataidat, és kiad egy eredményt. Ez lehet igen vagy nem, egy pontszám vagy egy rangsor. A program lehet egyszerű szabálygyűjtemény („ha a jövedelem kisebb, mint X, elutasítás”), de lehet korábbi esetekből tanuló AI-modell is.
Olyan ez, mint egy fáradhatatlan ügyintéző, aki másodpercek alatt több ezer kérelmet bírál el, mindig ugyanazon szempontok szerint. Nincs rossz napja és nem kivételez, de nem is néz fel a papírból, hogy meghallgassa, miért különleges a te eseted.
Az előnye a gyorsaság, az alacsony költség és a következetesség. A hátránya, hogy ha a szabály vagy a tanítóadat hibás vagy elfogult, a hiba minden egyes ügyben megismétlődik, és kívülről gyakran nem látszik, mi alapján született a döntés.
Fontos különbség, hogy a gép csak javaslatot tesz-e, amelyet ember hagy jóvá, vagy emberi közreműködés nélkül dönt. Az utóbbit a jog szigorúbban kezeli.
Hogyan működik
- Adatgyűjtés: a rendszer összeszedi a rólad elérhető adatokat, például a jövedelmedet, a fizetési múltadat, az önéletrajzod tartalmát vagy a korábbi vásárlásaidat.
- Szabály vagy modell: a döntés alapja vagy ember által megírt szabályrendszer, vagy gépi tanulással készült modell, amely korábbi esetek mintázataiból tanulta meg, mi szokott „jó” vagy „rossz” kimenetelhez vezetni.
- Pontozás: a program a te adataidból kiszámol egy értéket, például egy kockázati pontszámot vagy egy valószínűséget.
- Döntés: a pontszámot egy küszöbhöz mérik, és ebből lesz a jóváhagyás, az elutasítás, a rangsor vagy az ár. Ez történhet teljesen automatikusan, vagy úgy, hogy egy ember még ránéz.
- Felülvizsgálat: jó esetben a döntést megindokolják, panaszt tehetsz ellene, a rendszert pedig rendszeresen ellenőrzik, hogy nem hátrányos-e egyes csoportokra.
Példa a mindennapokból
Online személyi kölcsönt igényelsz, és két perc múlva megjön a válasz: elutasítva. Ennyi idő alatt ember nem nézhette át a kérelmedet, egy pontozó program döntött a megadott és a rólad nyilvántartott adatok alapján. Ilyenkor jogod van megkérdezni, mi állt a döntés mögött, és kérni, hogy ember is vizsgálja meg.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A tanítóadatokban rejlő torzítás hátrányos megkülönböztetéshez vezethet, akkor is, ha a rendszer a nemet vagy az életkort közvetlenül nem is használja.
- Sok rendszer „fekete doboz”: még az üzemeltetője sem mindig tudja pontosan megmondani, miért éppen az a döntés született.
- Az emberi jóváhagyás könnyen formálissá válik, mert az ügyintéző hajlamos gondolkodás nélkül elfogadni a gép javaslatát.
- A jogi védelem szűkebb, mint sokan hiszik: a GDPR főszabályként tiltja a kizárólag automatizált, rád nézve jelentős hatású döntést, de vannak kivételek (szerződéskötés, törvényi felhatalmazás, kifejezett hozzájárulás). Ilyenkor az emberi felülvizsgálatot neked kell kérned, és ha a folyamatban érdemben ember is részt vesz, ez a szabály nem alkalmazható.
Hasonló, de nem ugyanaz
- döntéstámogató rendszer – Az csak információt vagy javaslatot ad, a döntést ember mérlegeli és hozza meg. Algoritmikus döntéshozatalnál a kimenetet lényegében a program határozza meg. A határ elmosódik, ha az ember csak formálisan hagyja jóvá a gép javaslatát.
- profilalkotás – A profilalkotás a személyes jellemzőid kiértékelése és előrejelzése, amelyre a döntés épülhet, de önmagában még nem döntés.
- AI-agent – Az agent önállóan, több lépésben hajt végre feladatokat, az algoritmikus döntéshozatal viszont jellemzően egyetlen, jól körülírt kérdésre ad választ.
Kapcsolódó fogalmak
automatizált hitelbírálat, algoritmikus toborzás, prediktív rendészet, dinamikus árazás
algoritmikus torzítás, profilalkotás, magyarázható AI, emberi felügyelet, ajánlórendszer
Röviden a története
A hitelpontozás már a 20. század második felében gépesítette a banki döntéseket. Az EU 2016-ban elfogadott, 2018 óta alkalmazandó adatvédelmi rendelete (GDPR) külön cikkben szabályozza az automatizált döntéshozatalt, a 2024-ben elfogadott AI-rendelet pedig az érzékeny területeken használt rendszereket magas kockázatúnak minősíti.
Hol tart most
2026 végén a bankolásban, a biztosításban, a toborzásban, az online platformokon és egyre inkább a közigazgatásban is mindennapos. Az EU AI-rendeletének előírásai fokozatosan, több lépcsőben válnak kötelezővé. A vita főleg az átláthatóságról és az érdemi emberi felügyeletről szól.
A hírekben
- Az Egyesült Királyság GDPR-ja az adat (felhasználás és hozzáférés) törvény után is vonatkozik az AI-ra2026. okt. 22. · Jog
- AI-felvételi törvények az USA-ban és a diszkriminációs felelősség a szállítói szerződésekben2026. okt. 12. · Munka és HR
- Az EDPB közzétette az Uber 824,99 millió eurós GDPR-bírságát; a Noyb szerint a bírság 2 milliárd eurót tesz ki2026. okt. 12. · Jog
- Colorado automatizált döntéshozatali szabályokat javasol; az ABA szövetségi AI-szabályozást kér2026. aug. 14. · Pénz
Más nevei
automatizált döntéshozatal · algoritmusalapú döntéshozatal · gépi döntéshozatal · ADM · automated decision-making · algorithmic decision-making · automated decision system · ADS
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.