VRAM
angolul: video RAM (GPU memory)
A VRAM a videokártya saját, gyors memóriája; AI-nál ez dönti el, mekkora modell fér el és fut a gépeden.
Érthetően
A VRAM a videokártya (GPU) saját memóriája. Eredetileg a képernyőre kerülő képet és a játékok grafikáját tárolta. Ma az AI-modellek futtatásának egyik legfontosabb szűk keresztmetszete.
Képzeld el a videokártyát egy nagyon gyors szakácsként, a VRAM-ot pedig a munkapultjaként. Hiába villámgyors a szakács, ha a pult kicsi: amihez nem fér hozzá kéznyújtásnyira, azért a kamrába kell szaladgálnia, és a főzés nagyon lelassul.
Egy nyelvi modell több milliárd számból áll, és ezeknek a válaszadás idejére lehetőleg a VRAM-ban kell lenniük. Ha a modell nem fér be, vagy el sem indul, vagy a program a modell egy részét a lassabb rendszermemóriába teszi, és a válasz kínosan lassan csordogál.
Ezért saját gépen futtatott AI-nál az első kérdés általában nem az, milyen gyors a kártya, hanem az, hogy hány gigabájt VRAM van rajta.
Hogyan működik
- Indításkor a program a modell súlyait (a megtanult számokat) a háttértárról a videokártya memóriájába tölti. Ez adja a helyigény nagyobb részét.
- A helyigény a modell méretétől és a számok pontosságától függ. Egy 7–8 milliárd paraméteres modell a szokásos 16 bites pontossággal nagyjából 14–16 GB-ot kér, tömörítve (kvantálva) 4–6 GB-ba is belefér.
- Munka közben a kontextus is helyet foglal: a modell a beszélgetés eddigi szövegéhez tartozó köztes számítási eredményeket is a memóriában tartja. Minél hosszabb dokumentumot adsz a modellnek, annál több VRAM kell a súlyokon felül.
- A válaszadás sebességét nagyrészt az szabja meg, milyen gyorsan éri el a GPU a súlyokat. A saját memóriájából ezt nagyon nagy sávszélességgel teszi. Ami nem fér be, az a rendszermemóriába kerül, és azt a részt jellemzően a processzor számolja vagy lassú adatátvitellel kell a kártyára juttatni, ezért jóval lassabb.
- Adatközpontokban egy nagy modellt több videokártya memóriáján osztanak szét, így a kártyák memóriája gyakorlatilag összeadódik.
Példa a mindennapokból
Letöltesz egy ingyenes nyelvi modellt, hogy a saját laptopodon, internet nélkül futtasd, de a program azt írja ki: „out of memory”, vagy elindul, de nagyon lassan válaszol. A 8 GB VRAM-os videokártyádra nem fér fel a 12 GB-os modell, ezért kisebb vagy erősebben tömörített változatot kell választanod.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A VRAM utólag nem bővíthető, ezért vásárláskor kell eldöntened, mennyire lesz szükséged; a több memória csak új kártyával jön.
- A sok VRAM nem jelent automatikusan gyors gépet: azt mutatja meg, mi fér el, nem azt, hogy milyen sebességgel fut.
- A tömörítés (kvantálás) csökkenti a helyigényt, de erős tömörítésnél romlik a modell válaszainak minősége.
- A nagy memóriájú kártyák drágák és keresettek, az AI-ipar kereslete időnként a memória és a videokártyák árát is felhajtja.
Hasonló, de nem ugyanaz
- RAM (rendszermemória) – A RAM a processzor általános munkamemóriája. A VRAM a videokártyáé, és arra készült, hogy a GPU közvetlenül és gyorsan elérje.
- Háttértár (SSD, merevlemez) – A háttértár tartósan őrzi a letöltött modellt, a VRAM csak futás közben tartja bent, kikapcsoláskor kiürül.
- Egyesített memória – Egyes gépekben (például az Apple saját chipes Macjeiben vagy a beépített grafikájú gépekben) a processzor és a grafikus egység közös memórián osztozik. Ott nincs külön VRAM, a közös memória nagy részét a modell is használhatja.
Kapcsolódó fogalmak
Számítógép-memória, AI-infrastruktúra, Hardver
HBM (nagy sávszélességű memória), GDDR-memória
GPU (grafikus processzor), Kvantálás, Helyben futtatott modell, Kontextusablak, Következtetés (inference)
Röviden a története
A VRAM név eredetileg egy, az 1980-as években megjelent, kifejezetten képernyőkezelésre tervezett kétkapus memóriachip-típust jelölt. Maga a chiptípus eltűnt, a név viszont megmaradt, és ma általában a videokártya memóriáját értjük rajta.
Hol tart most
2026 végén a VRAM a helyben futtatott AI egyik legfontosabb vásárlási szempontja. Az otthoni kártyák jellemzően 8–32 GB-ot kínálnak, az adatközponti gyorsítók ennek a többszörösét. Az AI-ipar memóriaigénye közben a piac egészén hiányt és drágulást okoz.
Más nevei
VRAM · video RAM · videomemória · videómemória · GPU-memória · GPU memory · grafikus memória · videokártya-memória
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.