Fogalomtár › Társadalom és etika

átláthatóság

angolul: transparency

Az átláthatóság azt jelenti, hogy tudhatod, mikor van dolgod mesterséges intelligenciával, ki üzemelteti, mire képes, és nagyjából hogyan születnek a döntései.

Érthetően

Gondolj az élelmiszerek címkéjére. Nem kell élelmiszermérnöknek lenned, mégis látod, mi van a dobozban, ki gyártotta és meddig áll el. Az AI-nál az átláthatóság ugyanezt a címkét jelenti: megtudod, hogy géppel beszélsz-e, mire való a rendszer, és hol vannak a határai.

Azért fontos, mert enélkül nem tudsz jól dönteni. Ha nem tudod, hogy egy képet gép készített, vagy hogy a hitelkérelmedet algoritmus szűrte meg, akkor sem kételkedni, sem panaszt tenni nem tudsz.

Az átláthatóság nem azt jelenti, hogy mindenki belelát a rendszer minden részletébe. Azt jelenti, hogy a lényeges információ eljut ahhoz, akinek szüksége van rá: neked érthető tájékoztatás, a hatóságnak részletes dokumentáció.

Az önállóan cselekvő rendszereknél, vagyis az agenteknél még többről van szó. Ott az is számít, hogy utólag visszanézhető legyen, mit tett az agent a nevedben, milyen lépésekben és milyen eszközökkel.

Hogyan működik

1. Jelzés: a rendszer közli veled, hogy géppel beszélsz, a gép által készített képet, hangot vagy videót pedig megjelölik, például felirattal vagy láthatatlan vízjellel.
2. Dokumentáció: a fejlesztő leírja, mire való a modell, milyen adatokon tanult, hol teljesít gyengén, és mire nem szabad használni. Ennek bevett formája a modellkártya.
3. Naplózás: a rendszer rögzíti, mit csinált és mikor. Egy agentnél ez azt jelenti, hogy lépésről lépésre visszakövethető, milyen eszközt hívott meg és milyen eredménnyel.
4. Tájékoztatás a döntésről: ha egy algoritmus fontos ügyben dönt rólad, az EU-ban általában jogod van megtudni, hogy ez történt és mi volt a fő szempont, továbbá emberi felülvizsgálatot kérhetsz.
5. Külső ellenőrzés: hatóságok, auditorok és kutatók megvizsgálhatják, hogy a leírtak megfelelnek-e annak, amit a rendszer valójában tesz.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• A tájékoztatás lehet formális is: egy hosszú, apró betűs szöveg papíron átlátható, a gyakorlatban mégsem érted meg belőle, mi történik.
• Az átláthatóság nem garancia a jó működésre: egy pontosan dokumentált rendszer is tévedhet vagy lehet elfogult.
• A gép által készített tartalmak jelölése megkerülhető, a vízjel eltávolítható, ezért a jelölés hiánya nem bizonyítja, hogy valamit ember készített.
• A cégek üzleti titokra és biztonsági okokra hivatkozva sok részletet visszatarthatnak, így a teljes kép ritkán nyilvános.

Hasonló, de nem ugyanaz

• magyarázhatóság – A magyarázhatóság arról szól, hogy egy konkrét döntés miért született, az átláthatóság pedig tágabban arról, hogy egyáltalán mit tudhatsz a rendszerről és a használatáról.
• nyílt forráskód – A nyílt forráskód a kód és a modell szabad hozzáférhetőségét jelenti, de ettől még nem lesz érthető, hogyan dönt a rendszer, és zárt rendszer is lehet átlátható.
• elszámoltathatóság – Az elszámoltathatóság azt jelenti, hogy valaki felel a rendszer tetteiért, az átláthatóság ennek csak az előfeltétele: látni kell, mi történt.

Kapcsolódó fogalmak

Röviden a története

Az átláthatóság az OECD 2019-ben elfogadott (2024-ben frissített) AI-alapelveinek egyike. A modellkártyák ötletét bemutató tanulmány 2018 őszén jelent meg előzetes közleményként, és 2019 elején mutatták be konferencián. Az EU 2024-ben elfogadott AI-rendelete külön cikkben (50. cikk) írja elő a felhasználók felé szóló átláthatósági kötelezettségeket, a magas kockázatú rendszerekre pedig további tájékoztatási és dokumentációs szabályokat szab.

Hol tart most

Az EU AI-rendelete 2024-ben hatályba lépett, de a szabályait lépcsőzetesen kell alkalmazni. Az általános célú modellek szolgáltatóinak dokumentációs kötelezettségei 2025 augusztusa óta élnek. A felhasználók felé szóló átláthatósági szabályokat 2026 augusztusától kell alkalmazni: jelezni kell, ha géppel beszélsz, és jelölni kell a gép által készített tartalmat és a deepfake-et. A magas kockázatú rendszerekre vonatkozó részletes előírások később válnak kötelezővé. A nagy szolgáltatók egyre többször jelölik a gép által készített tartalmat, és adnak ki dokumentációt a modelljeikről. A gyakorlat még egyenetlen: a jelölési megoldások nem egységesek, és nem minden esetben megbízhatóak.

Állapot: 2026. november

A hírekben

• Az Anthropic az EU AI Act miatt vízjelezi négy régebbi Claude-modell kimenetét2026. okt. 31. · Agent Age
• Az Epic szövetségi visszalépés ellenére fenntartja az AI-átláthatósági eszközeit2026. okt. 30. · Egészség
• Amerikai állami elemzések: Nevada, Maine és Indiana az AI munkaerőpiaci hatásairól2026. okt. 26. · Munka és HR
• EU AI Act: a Digitális Omnibusz és a magas kockázatú határidők 2027-re tolása2026. okt. 26. · Jog
• 115 új állami AI-törvény 30 államban, a chatbot-biztonság áll a középpontban2026. okt. 26. · Jog
• Colorado AI-szabályozási tervezet és New York-i AI-biztonsági javaslatok2026. okt. 26. · Jog
• A tinik a szülői felügyelet ellenére is hozzáférnek a „nudify” alkalmazásokhoz2026. okt. 19. · Oktatás és család
• AI Act: mi van hatályban, mi csúszott, és az 50. cikk átláthatósági kötelezettségei2026. okt. 19. · Jog

Más nevei

átláthatóság · transzparencia · AI-átláthatóság · MI-átláthatóság · algoritmikus átláthatóság · transparency · AI transparency · algorithmic transparency

Források

• OECD AI Principles
• Mitchell et al.: Model Cards for Model Reporting (arXiv)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.