transzformer

angolul: transformer

haladóelterjedt

A transzformer az a neurálisháló-felépítés, amely a szöveg minden részét egyszerre, egymáshoz viszonyítva vizsgálja; erre épül a mai csevegőrobotok és nyelvi modellek szinte mindegyike.

Érthetően

A transzformer nem termék és nem program, hanem tervrajz: egy mód arra, hogyan épüljön fel egy mesterséges neurális háló. Olyan, mint a motor a járműveknél: te az autót látod (ChatGPT, Claude, Gemini), de a motorháztető alatt szinte mindegyikben ugyanaz a fajta szerkezet dolgozik.

A korábbi megoldások úgy olvastak, mint aki kulcslyukon át nézi a szöveget: szóról szóra haladtak, és a hosszú mondat végére gyakran elhalványult, mi volt az elején. A transzformer inkább úgy dolgozik, mint egy figyelmes olvasó, aki az egész oldalt látja maga előtt, és minden szónál vissza tud pillantani arra, amihez az kapcsolódik.

Ez a képesség a „figyelem” (attention): a modell minden szónál kiszámolja, mennyire fontosak hozzá a szöveg többi szavai. A „Kati odaadta a könyvet Annának, mert ő kérte” mondatban így tudja összekapcsolni az „ő” szót a valószínű szereplővel, Annával.

Mivel betanításkor a szöveg részeit nem egymás után, hanem párhuzamosan dolgozza fel, a transzformert hatalmas szövegmennyiségen lehet betanítani. Ez tette lehetővé a nagy nyelvi modelleket, és ugyanez a felépítés ma már képekkel, hanggal, videóval és programkóddal is működik.

Hogyan működik

A szöveget a rendszer apró darabokra, úgynevezett tokenekre bontja; egy token lehet egész szó, szótöredék vagy írásjel.
Minden tokenből számsor lesz, amely a jelentését írja le, és a modell azt is megjelöli, hogy a token hányadik helyen áll, hiszen a szórend számít.
A figyelmi mechanizmus minden tokennél kiszámolja, hogy a szöveg többi darabja mennyire fontos a megértéséhez, és ennek alapján pontosítja a jelentését.
Ez a lépés sok egymásra épülő rétegben megismétlődik: nagy vonalakban az alsó rétegek inkább egyszerűbb, nyelvtani kapcsolatokat ragadnak meg, a felsők összetettebb összefüggéseket.
A szöveget író modellek a végén minden lehetséges következő tokenhez valószínűséget rendelnek, ez alapján kiválasztanak egyet, hozzáfűzik a szöveghez, majd a folyamat a következő tokennel folytatódik. Így áll össze a válasz darabonként.

Példa a mindennapokból

Amikor megkérsz egy csevegőrobotot, hogy foglalja össze a bérleti szerződésedet, és az a tizedik oldalon lévő felmondási időt helyesen köti össze a második oldalon szereplő kezdő dátummal, a transzformer figyelmi mechanizmusa dolgozik. Ugyanezt látod a fordítóprogramban is, amikor egy hosszú mondat végén helyesen egyezteti az elején álló alannyal az igét.

Kit érint

mindenkiHa csevegőrobotot, fordítót vagy hangalapú asszisztenst használsz, szinte biztosan transzformerre épülő modellel beszélgetsz.

munkavállalóAz irodai programokba épített szövegíró, összefoglaló és kereső funkciók mögött ez a technológia áll, ezért érdemes ismerned az erősségeit és a gyengéit. → Munka és HR

fejlesztőA kódkiegészítők és a kódoló agentek is transzformerre épülő modelleket használnak, a kontextusablak mérete pedig közvetlenül megszabja, mekkora kódbázist látnak át egyszerre. → Kód

szülő, diák, tanárAki érti, hogy a modell valószínű folytatást számol, és nem tényeket keres ki, az kritikusabban kezeli a házi feladathoz kapott válaszokat. → Oktatás és család

Gyakori félreértés

TévhitA transzformer úgy érti a szöveget, ahogy az ember, és tudja, mi igaz.

ValójábanA transzformer a betanítás során látott mintázatok alapján számolja ki, milyen folytatás valószínű. Ez sokszor meglepően pontos választ ad, de a modell nem ellenőrzi a tényeket, és akkor is magabiztosan fogalmazhat, amikor téved.

Korlátok és kockázatok

A modell meggyőző hangon is állíthat valótlant (ezt hívják hallucinációnak), ezért a fontos adatokat, számokat és hivatkozásokat mindig ellenőrizd.
Egyszerre csak korlátozott mennyiségű szöveget tud figyelembe venni; ami a kontextusablakból kimarad, azt nem látja. Minél hosszabb a szöveg, annál gyorsabban nő a feldolgozás számításigénye.
A betanítás és a működtetés rengeteg számítási kapacitást és áramot igényel, ezért a legnagyobb modelleket csak néhány tőkeerős cég tudja megépíteni.
A tudása a betanítás idejéig ér; friss eseményekről csak akkor tud, ha a szolgáltatás keresőt vagy más külső forrást kapcsol mellé.

Hasonló, de nem ugyanaz

nagy nyelvi modell – A transzformer a felépítés, a nagy nyelvi modell pedig az ilyen felépítéssel, hatalmas szövegmennyiségen betanított kész rendszer.
GPT – A GPT az OpenAI egyik modellcsaládjának neve, amelynek utolsó betűje éppen a transzformerre utal (Generative Pre-trained Transformer).
transzformátor – A transzformátor villamos berendezés, amely a feszültséget alakítja át; a két fogalomnak a hasonló néven kívül nincs köze egymáshoz.

Kapcsolódó fogalmak

Tágabb

mesterséges intelligencia, gépi tanulás, mélytanulás, neurális háló

Szűkebb

figyelmi mechanizmus, GPT, BERT

Rokon

nagy nyelvi modell, token, kontextusablak, generatív MI, alapmodell

Röviden a története

A transzformert a Google kutatói mutatták be 2017-ben az „Attention Is All You Need” című tanulmányban, eredetileg gépi fordításra. A figyelmi mechanizmus már korábban is létezett; az újdonság az volt, hogy a felépítés szinte teljesen erre épült, és elhagyta a szóról szóra haladó feldolgozást. 2018-ban erre épült az OpenAI első GPT modellje és a Google BERT modellje, a ChatGPT 2022 végi megjelenése pedig a nagyközönséggel is megismertette a technológiát.

Hol tart most

2026 végén a vezető nyelvi modellek és a rájuk épülő agentek szinte mind transzformerre épülnek, és a felépítés a kép-, hang- és videófeldolgozásban is meghatározó. Vannak takarékosabb alternatívák is, például az állapottér-modellek (Mamba). Ezeket egyre gyakrabban a transzformerrel kombinálva, vegyes felépítésű modellekben használják, de egyik sem váltotta le a transzformert.

Állapot: 2026. november

A hírekben

1 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Az USA több gázt termel az AI áramigényére, az adatközpontok helyszíni termelést vizsgálnak2026. aug. 31. · Ipar

Más nevei

transzformer · transformer · Transformer · transzformer architektúra · transformer architecture · transzformer modell · transformer model · transzformerháló

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.