inferencia
angolul: inference
Az inferencia az a pillanat, amikor a már betanított AI-modell dolgozik: a kérdésedből vagy más bemenetből választ, képet vagy döntést állít elő.
Érthetően
Egy AI-modell életében két nagy szakasz van. Az első a tanítás: ilyenkor rengeteg példából megtanulja a mintákat. A második az inferencia: ilyenkor a megtanultakat használja egy új feladaton. Amikor egy csevegőrobotnak kérdést teszel fel, és az válaszol, inferencia zajlik.
Olyan ez, mint a szakács esete. A tanulóévek hosszúak és drágák, de csak egyszer kell végigcsinálni őket. Utána minden egyes megrendelt ebéd elkészítése külön munka: kicsi, gyors, viszont naponta több százszor ismétlődik. A tanítás a szakácsiskola, az inferencia a főzés.
Ezért beszélnek róla ennyit a hírekben. Minden kérdés, minden generált kép, minden fordítás külön számítás, amely gépidőbe és áramba kerül. Egy népszerű szolgáltatásnál ez naponta sok millió futtatást jelent, és ez határozza meg, mennyibe kerül az AI, és milyen gyorsan válaszol.
Fontos különbség, hogy inferencia közben a modell jellemzően nem tanul. A tudása ugyanaz marad, csak alkalmazza azt, amit korábban elsajátított.
Hogyan működik
- Beírod a kérdésed, vagy feltöltesz egy képet. A rendszer ezt számokká alakítja, a szöveget például kis darabokra, úgynevezett tokenekre bontja.
- A számok végighaladnak a modell rétegein. A modell a tanítás során beállított belső értékei, a paraméterei alapján számol, és ezeket közben nem változtatja meg.
- A végén a modell kiszámolja, mennyire valószínűek a lehetséges eredmények. Nyelvi modellnél ez azt jelenti, hogy melyik szódarab következhet, képfelismerőnél például azt, hogy a képen macska van-e. Szövegnél a rendszer nem mindig a legvalószínűbb szódarabot választja, ezért ugyanarra a kérdésre kicsit eltérő válaszok is születhetnek.
- Szövegnél ez a lépés sokszor megismétlődik: a modell szódarabonként építi fel a választ, ezért látod, ahogy a szöveg fokozatosan megjelenik a képernyőn.
- Mindez többnyire egy távoli adatközpont speciális chipjein fut, de kisebb modelleknél akár a saját telefonodon vagy laptopodon is megtörténhet.
Példa a mindennapokból
Lefotózol egy idegen nyelvű étlapot, és a telefonod pár másodperc alatt magyarul mutatja. Ekkor a fordítómodell inferenciát végez: nem tanul semmi újat, csak a korábban megszerzett tudását alkalmazza a te képedre. Ugyanez történik, amikor a leveleződ kiszűri a spamet, vagy a csevegőrobot megírja helyetted az e-mailt.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A modell csak azt tudja, amit a tanítás lezárásáig megtanult; friss eseményekről csak akkor tud, ha a rendszer keresést vagy más külső forrást kapcsol mellé.
- A válasz valószínűségi becslés, nem ellenőrzött tény, ezért magabiztos hangon is tévedhet.
- Ha az inferencia egy távoli adatközpontban fut, a beírt adataid elhagyják a gépedet, ezért érzékeny információ megadása előtt nézd meg az adatkezelési feltételeket.
- Minden futtatás áramot és gépidőt fogyaszt, ezért a szolgáltatók korlátozhatják a használatot, vagy csúcsidőben lassulhat a válasz.
Hasonló, de nem ugyanaz
- tanítás – A tanítás során a modell tudása kialakul és változik, az inferencia során a kész modell csak használja ezt a tudást.
- finomhangolás – A finomhangolás kiegészítő tanítás, amely módosítja a modellt, az inferencia viszont nem nyúl hozzá.
- statisztikai következtetés – A statisztikában az inferencia azt jelenti, hogy mintából vonunk le következtetést egy teljes sokaságra, az AI-ban pedig a betanított modell futtatását.
Kapcsolódó fogalmak
eszközön futó AI, kötegelt feldolgozás, valós idejű inferencia
tanítás, modell, token, GPU, késleltetés
Röviden a története
A szó a latin „inferre” (bevinni, következtetni) igéből ered, és a logikában, majd a statisztikában régóta a következtetés szakszava. Az AI-ban a korai szakértői rendszerek „inference engine” (következtetőgép) nevű része használta, a gépi tanulás terjedésével pedig a betanított modell futtatását kezdték így hívni. A ChatGPT 2022-es megjelenése után a szó az AI költségeiről, chipjeiről és energiaigényéről szóló hírekben vált szélesebb körben ismertté.
Hol tart most
2026 végén az inferencia mindennapos tömegszolgáltatás: csevegőrobotok, keresők, telefonok és irodai programok végzik folyamatosan. Az úgynevezett gondolkodó modellek válaszadás előtt hosszabban számolnak, ezért egy-egy válasz több számítást igényel. Az iparág figyelme egyre inkább arra irányul, hogyan lehet olcsóbban, gyorsabban és kevesebb energiával futtatni a modelleket.
A hírekben
- Thomson Reuters kontra ROSS: a Third Circuit elismerte az AI-betanítási adatok licencpiacát2026. okt. 27. · Jog
- Kína engedélyezte a DeepSeek és a MiniMax modelljeinek külföldi forgalmazását2026. okt. 19. · Agent Age
- A Lovable EU-s inferenciát kínál az AI-kérések feldolgozási helyének ellenőrzésére2026. okt. 12. · Kód
- A vásárlók utálják a webáruházi keresést, nyitottak az AI-ra; nő az AI-forgalom2026. okt. 2. · Marketing
- Az OpenAI bemutatta a Jalapeño inferenciachipet, gyorsabb válaszokat ígér2026. aug. 25. · Agent Age
- Workiva-felmérés: öt tanulság a pénzügyi szolgáltatók AI-bevezetéséről2026. aug. 12. · Pénz
Más nevei
inferencia · inference · következtetés · AI-inferencia · MI-inferencia · modellfuttatás · model inference · AI inference
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.