13. lapszám · nov. 2–8. 2026Kiadások · Fogalomtár · Archívum · Módszer · RSS · HU / ENG

Az AI-korszak hírei, hetente válogatva

Fogalomtár › Társadalom és etika

felelős AI (RAI)

angolul: responsible AI

alapterjedő

A felelős AI olyan szemlélet és gyakorlat, amely szerint a mesterséges intelligenciát biztonságosan, tisztességesen, átláthatóan és emberi felelősségvállalás mellett kell fejleszteni és használni.

Érthetően

A felelős AI nem egy termék vagy technológia, hanem elvek, szabályok és munkamódszerek összessége. Azt írja le, hogyan kell egy AI-rendszert megtervezni, kipróbálni és üzemeltetni, hogy ne okozzon kárt, és ha mégis hibázik, legyen, aki felel érte.

Olyan ez, mint az építkezés. Egy házat sem elég felhúzni: kell hozzá statikus, tűzvédelmi előírás, műszaki átadás és valaki, aki aláírja, hogy a ház biztonságos. A felelős AI ugyanezt a gondosságot kéri számon a szoftveren: nem elég, hogy működik, tudni kell azt is, kinek árthat, és ki vállalja érte a felelősséget.

A leggyakrabban emlegetett elvei: tisztességes bánásmód (ne különböztessen meg hátrányosan), átláthatóság (tudd, hogy géppel van dolgod, és miért döntött úgy), biztonság, az adatok védelme, emberi felügyelet és elszámoltathatóság.

Abban más, mint az AI-etika, hogy nem áll meg a kérdésfeltevésnél. Az etika azt kérdezi, mi a helyes, a felelős AI pedig azt, hogy ezt a cég a mindennapokban hogyan tartja be: ki ellenőriz, mit dokumentálnak, mikor állítanak le egy rendszert.

Hogyan működik

  1. Elvek rögzítése: a szervezet leírja, mit tart elfogadhatónak és mit nem, például hogy AI nem dönthet egyedül elbocsátásról vagy hitelről.
  2. Kockázatfelmérés: minden tervezett AI-alkalmazásnál megnézik, kit érint, mi romolhat el, és mekkora a baj, ha elromlik. Egy zeneajánló más elbírálás alá esik, mint egy orvosi diagnózist segítő rendszer.
  3. Tesztelés élesítés előtt: megvizsgálják, hogy a rendszer nem bánik-e rosszabbul egyes csoportokkal, mennyire megbízható, és ki lehet-e játszani. Önállóan cselekvő agenteknél azt is, hogy mihez férhetnek hozzá, és mit tehetnek meg emberi jóváhagyás nélkül.
  4. Emberi felügyelet és tájékoztatás: kijelölik, ki bírálhatja felül a gépet, és jelzik az érintetteknek, hogy AI-val találkoznak, illetve hová fordulhatnak panasszal.
  5. Folyamatos figyelés: élesítés után is mérik a működést, naplózzák a hibákat és az incidenseket, és ha kell, javítják vagy leállítják a rendszert.

Példa a mindennapokból

Hitelt igényelsz a bankod alkalmazásában, és perceken belül elutasító választ kapsz. Felelős működés esetén a bank megmondja, hogy automatizált értékelés született, megnevezi a fő okokat, és kérheted, hogy egy ügyintéző is nézze át a kérelmedet. Az EU-ban ezt nagyrészt jogszabály is előírja.

Kit érint

mindenkiEgyre több rád vonatkozó döntésben vesz részt AI. A tájékoztatáshoz és a kifogáshoz való jogot elsősorban jogszabályok adják (például az adatvédelmi rendelet, a GDPR). A felelős gyakorlat abban segít, hogy ezek a jogok a valóságban is érvényesüljenek.
vállalkozó, vezetőAz AI által okozott kárért és jogsértésért nem a szoftver felel, hanem az, aki fejlesztette, forgalmazza vagy használja, így gyakran a céged. Ezért szabályokra és kijelölt felelősökre van szükséged.
fejlesztőA tesztelés, a dokumentálás és a korlátok beépítése a te munkád része, különösen ha önállóan cselekvő agentet építesz. → Kód
álláskereső, pályakezdőAz önéletrajzokat gyakran AI szűri előre, és a felelős gyakorlat hivatott megakadályozni, hogy tisztességtelen szempontok alapján ess ki. → Munka és HR

Gyakori félreértés

TévhitA felelős AI azt jelenti, hogy maga a gép viselkedik felelősen és erkölcsösen.
ValójábanA felelősség mindig az embereké és a szervezeteké, akik a rendszert építik, bevezetik és használják. A gép nem vonható felelősségre, ezért kell előre tisztázni, ki áll helyt a döntéseiért.

Korlátok és kockázatok

Hasonló, de nem ugyanaz

Kapcsolódó fogalmak

Tágabb

AI-etika, AI-irányítás

Szűkebb

algoritmikus torzítás, magyarázható AI, emberi felügyelet, átláthatóság, elszámoltathatóság

Rokon

megbízható AI, AI-biztonság, EU AI-rendelet, kockázatkezelés, adatvédelem

Röviden a története

A kifejezés a 2010-es évek végén terjedt el, amikor nagy technológiai cégek sorra tették közzé saját AI-elveiket. 2019-ben az OECD elfogadta a mesterséges intelligenciára vonatkozó ajánlását, amelyet 2024-ben frissített. 2023 elején az amerikai NIST kiadta az AI-kockázatkezelési keretrendszerét. 2024 augusztusában hatályba lépett az EU AI-rendelete, amelynek előírásait lépcsőzetesen kell alkalmazni.

Hol tart most

2026 végére a nagyobb cégek közül egyre többnek van felelős AI-szabályzata. Az EU AI-rendeletéből a tiltott gyakorlatokra (2025 februárja óta) és az általános célú modellekre (2025 augusztusa óta) vonatkozó szabályok már kötelezőek. A magas kockázatú rendszerekre vonatkozó előírások egy részének alkalmazása az uniós egyszerűsítési javaslatok nyomán későbbre tolódhat. A gyakorlat egyenetlen, és az önállóan cselekvő agentek felügyeletére még csak most alakulnak ki a bevált módszerek.

Állapot: 2026. november

A hírekben

8 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Más nevei

felelős MI · felelős mesterséges intelligencia · felelősségteljes AI · felelősségteljes mesterséges intelligencia · responsible AI · responsible artificial intelligence · RAI · felelős AI-használat

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.