fekete doboz

angolul: black box

alapelterjedt

Olyan AI-rendszer, amelynél látod, mit adsz be és mit kapsz vissza, de azt nem, hogy belül miért éppen arra az eredményre jutott.

Érthetően

Képzeld el, hogy egy szakács mindig finomat főz, de a konyhába senki sem léphet be, és ő maga sem tudja elmondani a receptet. Megkóstolhatod az ételt, megnézheted, mit vitt be a piacról, de hogy közben mi történt, az rejtve marad. Az AI-ban ezt hívjuk fekete doboznak: a bemenet és a kimenet látható, a kettő közti út nem.

A mai nagy AI-modellek többsége ilyen. Ennek fő oka nem a titkolózás. A működésük több milliárd apró szám együttes hatásából áll össze, és ezt a saját fejlesztőik sem tudják emberi nyelven, lépésről lépésre elmagyarázni.

Ez addig mellékes, amíg filmet ajánl neked a rendszer. Akkor válik fontossá, amikor hitelről, állásról, diagnózisról vagy hatósági ügyről van szó. Az EU-ban ilyenkor sok esetben jogod van érdemi magyarázatot kérni arról, miért született egy döntés. Egy döntést vitatni és kijavítani is sokkal nehezebb, ha nem értjük az okát.

A fekete doboz ellentéte az átlátható, úgynevezett fehér vagy üvegdoboz. Ilyen például egy rövid szabálylista vagy egy egyszerű döntési fa, ahol pontosan követhető, mi vezetett az eredményhez.

Hogyan működik

A modellt nem szabályokkal programozzák be. Rengeteg példán tanítják, és a tanítási eljárás közben fokozatosan beállítja a modell belső számait, a súlyokat.
A tanítás végére több millió vagy milliárd ilyen szám rögzíti a tudását. Egyenként ezek általában nem jelentenek semmi érthetőt, csak együtt adnak ki valamit.
Amikor kérdést vagy adatot kap, ezeken a számokon fut végig a számítás, és a végén megjelenik egy válasz, pontszám vagy döntés.
A számítás minden lépése elvileg megnézhető. Emberi fogalmakra azonban nem fordítható le közvetlenül, például így: „azért utasította el, mert…”.
Ezért utólagos magyarázó módszerekkel próbálják kideríteni, mely bemenetek számítottak leginkább. Ezek hasznos közelítések, de nem feltétlenül tükrözik a modell tényleges belső működését.

Példa a mindennapokból

Online hitelt igényelsz, és két perc múlva megjön az elutasítás, indoklás nélkül. Az ügyintéző is csak annyit lát, hogy a rendszer alacsony pontszámot adott, de azt nem tudja megmondani, hogy a jövedelmed, a lakcímed vagy valami egészen más döntött.

Kit érint

banki ügyfélA hitelbírálatban és a kockázati pontozásban egyre gyakrabban használnak olyan modellt, amelynek a döntését nehéz megindokolni. Az EU-ban az automatizált döntésről mégis jogod van érdemi tájékoztatást kérni.

beteg, orvosEgy diagnózist segítő AI javaslatát az orvosnak gyakran úgy kell mérlegelnie, hogy nem látja, mire alapozta azt a rendszer. → Egészség

álláskereső, pályakezdőAz önéletrajzokat előszűrő rendszerek úgy rostálhatnak ki, hogy sem te, sem a cég nem tudja pontosan, miért. → Munka és HR

jogász, állampolgárHa egy döntés oka nem ismerhető meg, nehéz ellene jogorvoslattal élni, és nehéz megállapítani, ki a felelős a hibáért. → Jog

Gyakori félreértés

TévhitA fekete doboz azt jelenti, hogy a cég szándékosan eltitkolja, hogyan működik a rendszere.

ValójábanAz üzleti titok is okozhat átláthatatlanságot, de a fő ok technikai: a nagy modellek működését a saját készítőik sem tudják teljesen megmagyarázni. A teljes kód és az összes belső szám nyilvánosságra hozatala után is megmaradna a kérdés, hogy miért épp ez lett a válasz.

Korlátok és kockázatok

Ha az AI megindokolja a saját válaszát, az nem biztos, hogy a tényleges belső működését írja le: lehet, hogy csak egy hihetően hangzó magyarázat.
Az átláthatatlan modellben rejtve maradhat a torzítás, például ha nem, életkor vagy lakóhely alapján hátrányosan különböztet meg.
A jó átlagos pontosság nem jelenti azt, hogy a te egyedi esetedben is helyes a döntés, és fekete doboznál a hibát nehezebb észrevenni.
Agenteknél, amelyek önállóan több lépést hajtanak végre, a napló megmutatja, mit csináltak, de azt nem feltétlenül, hogy miért döntöttek úgy.

Hasonló, de nem ugyanaz

magyarázható mesterséges intelligencia – A fekete doboz maga a probléma. A magyarázható AI azoknak a módszereknek a gyűjtőneve, amelyekkel ezt a problémát próbálják enyhíteni.
zárt forráskódú modell – A zárt modellnél a cég nem adja ki a kódot és a súlyokat, ezért kívülről mindenképp fekete doboz. Egy nagy modell azonban akkor is átláthatatlan maradhat, ha a kódja és a súlyai nyilvánosak.
repülőgépes fekete doboz – A repülőgép adatrögzítője éppen arra való, hogy utólag kiderüljön, mi történt. Az AI-ban a kifejezés azt jelenti, hogy ez nem deríthető ki.

Kapcsolódó fogalmak

Tágabb

átláthatóság, megbízható mesterséges intelligencia, AI-etika

Szűkebb

–

Rokon

magyarázható mesterséges intelligencia, értelmezhetőség, utólagos magyarázat, gondolatmenet (chain of thought), algoritmikus torzítás, elszámoltathatóság, neurális háló

Röviden a története

A kifejezés a mérnöki gyakorlatból ered: az 1940-es évektől a villamosmérnöki és hálózatelméleti szakirodalom használta olyan eszközökre, amelyeknek csak a bemenetét és a kimenetét vizsgálták. A kibernetikában W. Ross Ashby 1956-os könyve, az An Introduction to Cybernetics külön fejezetet szentelt neki. Társadalmi jelentését Frank Pasquale 2015-ös könyve, a The Black Box Society tette széles körben ismertté. A könyv a cégek titkos, átláthatatlan algoritmusainak hatalmáról szól, vagyis elsősorban a titkolózásról.

Hol tart most

2026 végén a legtöbb nagy nyelvi modell és az ezekre épülő agent továbbra is fekete doboznak számít. Az értelmezhetőségi kutatás gyorsan fejlődik, de teljes magyarázatot még nem ad. Az EU AI-rendelete fokozatosan vezet be átláthatósági kötelezettségeket. Ezek főként dokumentációt, tájékoztatást és jelölést írnak elő, a modell belső működésének teljes megmagyarázását nem követelik meg.

Állapot: 2026. november

A hírekben

1 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Futárok kérik, hogy a platformok nyissák meg az AI „fekete dobozát”2026. szept. 5. · Munka és HR

Más nevei

fekete doboz · feketedoboz · feketedoboz-modell · feketedoboz-probléma · black box · black-box model · black box AI · black box problem

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.