beágyazás
angolul: embedding
A beágyazás számsorrá alakítja a szöveget, képet vagy hangot úgy, hogy a hasonló jelentésű dolgok számsorai egymáshoz közel kerüljenek.
Érthetően
A számítógép nem ért a szavakhoz, csak a számokhoz. A beágyazás az a fordítás, amely egy szóból, mondatból vagy akár egy képből hosszú számsort készít, mégpedig úgy, hogy a számok a jelentést őrzik meg, nem a betűket.
Képzeld el úgy, mint egy térképet. Ahogy a térképen minden városnak koordinátái vannak, és Győr közelebb esik Tatabányához, mint Szegedhez, úgy a jelentések térképén a „kutya” közel van a „kölyökkutyához”, távolabb a „macskától”, és nagyon messze a „hitelkamattól”. Csak itt nem két koordináta van, hanem több száz vagy több ezer.
Ettől tud a gép jelentés szerint keresni, nem csak szó szerint. Ha azt írod be, hogy „elromlott a kazán”, megtalálja azt a szöveget is, amelyben „fűtési hiba” szerepel, mert a két kifejezés a térképen szomszédos.
A hagyományos kulcsszavas kereséstől éppen ez különbözteti meg: az a betűsorok egyezését figyeli, a beágyazás a jelentés hasonlóságát.
Hogyan működik
- A beágyazómodell rengeteg szövegen tanul. Megfigyeli, mely szavak és mondatok fordulnak elő hasonló környezetben, a mai modellek pedig összetartozó szövegpárokon is gyakorolnak (például kérdés és rá adott válasz). Ebből tanulja meg, mi mihez áll közel jelentésben.
- Amikor szöveget kap, kisebb egységekre, tokenekre bontja, majd az egészből egy rögzített hosszúságú számsort, szakszóval vektort állít elő.
- Ezeket a vektorokat eltárolják, nagyobb mennyiségnél erre szolgáló vektoradatbázisban, hogy később gyorsan össze lehessen hasonlítani őket.
- Kereséskor a kérdésedből is vektor készül, és a rendszer azokat a tárolt szövegeket adja vissza, amelyeknek a vektora a legközelebb esik hozzá.
- A találatokat gyakran egy nyelvi modell kapja meg, amely ezek alapján fogalmazza meg a választ; ezt hívják visszakereséssel bővített generálásnak.
Példa a mindennapokból
Egy webáruház keresőjébe azt írod: „meleg cipő télre, ami nem csúszik”. A termékek leírásában ez a mondat sehol nem szerepel, mégis bélelt, recés talpú bakancsokat kapsz, mert a kereső a kérésed jelentését hasonlította össze a termékleírások jelentésével.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A hasonlóság nem egyenlő a helyességgel: az „emelkedik a kamat” és a „csökken a kamat” mondat vektora közel eshet egymáshoz, mert ugyanarról szólnak.
- A beágyazás átveszi a tanítóanyag torzításait, így például foglalkozásokhoz nemi vagy etnikai sztereotípiákat társíthat.
- A különböző modellek vektorai nem kompatibilisek egymással, gyakran még ugyanannak a modellnek az új változatáé sem. Ha modellt váltasz, a teljes anyagot újra be kell ágyazni.
- A vektor nem titkosítás: kutatások szerint az eredeti szöveg jelentős része, rövid szövegeknél akár szó szerint is, visszafejthető belőle. Ezért az érzékeny adatok beágyazását ugyanúgy védeni kell, mint magát a szöveget.
Hasonló, de nem ugyanaz
- tokenizálás – A tokenizálás csak darabokra bontja a szöveget és sorszámot ad a daraboknak, a beágyazás viszont jelentést hordozó számsort rendel hozzájuk.
- vektoradatbázis – A beágyazás maga a számsor, a vektoradatbázis pedig az a tároló, amelyben ezeket őrzik és gyorsan keresik.
- nagy nyelvi modell – A nagy nyelvi modell szöveget ír, a beágyazómodell nem fogalmaz semmit, csak számsort ad vissza a kapott tartalomról.
Kapcsolódó fogalmak
gépi tanulás, természetesnyelv-feldolgozás, reprezentációtanulás
szóbeágyazás, mondatbeágyazás, multimodális beágyazás
vektoradatbázis, szemantikus keresés, visszakereséssel bővített generálás, token, ajánlórendszer
Röviden a története
A gondolat a nyelvészetből ered: Zellig Harris 1954-ben, John Rupert Firth 1957-ben fogalmazta meg, hogy egy szó jelentését abból lehet megismerni, milyen szavak társaságában fordul elő. Számítógépes változatai már az 1990-es évek elején megjelentek (látens szemantikus elemzés), 2003-ban pedig Yoshua Bengio és társai neurális hálóval tanítottak szóvektorokat. A módszert a Google kutatóinak 2013-ban közzétett word2vec eljárása tette széles körben ismertté, mert olcsón, hatalmas szövegmennyiségből is jó minőségű szóbeágyazásokat készített. A mai mondat- és dokumentumbeágyazások transzformer alapú nyelvi modellekre épülnek.
Hol tart most
2026 végén a beágyazás a keresők, ajánlórendszerek és céges AI-asszisztensek bevett alapeleme, a nagy szolgáltatók kész beágyazómodelleket kínálnak. A fejlődés iránya a többnyelvű és a szöveget, képet, hangot közös térben kezelő multimodális modellek.
Más nevei
beágyazás · embedding · embeddings · vektoros beágyazás · vektorreprezentáció · szóbeágyazás · word embedding · vector embedding
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.