HBM-memória

angolul: high-bandwidth memory (HBM)

haladóelterjedt

Egymásra rétegzett memórialapkákból álló, különösen gyors memória, amely az AI-chipek mellett ülve egyszerre óriási adatmennyiséget tud mozgatni.

Érthetően

A hagyományos memória olyan, mint egy földszintes raktár, ahonnan egyetlen keskeny úton hordják az árut a gyárba. A HBM inkább toronyház, amely közvetlenül a gyár fala mellett áll: az emeleteit több ezer lift köti össze, a gyártósorhoz pedig ezernél is több párhuzamos sáv vezet.

Erre azért van szükség, mert a mesterséges intelligenciát futtató chipek rengeteg adatot dolgoznak fel másodpercenként. Ha a memória nem tudja elég gyorsan kiszolgálni őket, a drága processzor tétlenül várakozik.

Az HBM tehát elsősorban nem a tárolható adat mennyiségében különleges, hanem abban, hogy egy másodperc alatt mennyi adatot tud átadni. Ezt hívják sávszélességnek. Emellett kis helyet foglal, és az átvitt adatmennyiséghez képest kevés áramot fogyaszt.

Az ára magas, és a gyártása bonyolult. Ezért nem a laptopodban vagy a telefonodban találod, hanem az adatközpontok AI-gyorsítóiban.

Hogyan működik

A gyártó több vékony memórialapkát készít, és ezeket egymás tetejére rétegezi, mint az emeleteket. Egy toronyban ma jellemzően 8–16 réteg van.
A rétegeket a szilíciumon függőlegesen átfúrt, parányi vezetékek kötik össze. Ezek a TSV-k, és több ezer van belőlük.
A kész memóriatornyot közvetlenül az AI-chip mellé ültetik egy közös hordozólapra, így az adatnak csak néhány millimétert kell megtennie.
A chip és a memória között egyszerre ezernél is több párhuzamos vezetéken áramlik az adat. Ettől lesz az átvitel sokkal gyorsabb, mint a hagyományos memóriamoduloknál.
A szorosan egymásra rakott rétegekből nehezen távozik a hő, ezért a hűtés és a rétegek pontos összeillesztése a gyártás legnehezebb része.

Példa a mindennapokból

Amikor egy AI-agent néhány másodperc alatt összefoglal neked egy hosszú dokumentumot, a válasz egy adatközpontban készül. Ott a nyelvi modell adatai az AI-chipek melletti HBM-memóriában vannak, és a chip onnan olvassa ki őket számolás közben. Közvetve akkor is találkozol vele, amikor azt olvasod a hírekben, hogy drágul a számítógép-memória, mert a gyárak kapacitásuk egyre nagyobb részét HBM-re állítják át.

Kit érint

banki ügyfél, befektetőAz HBM-et lényegében három cég gyártja (SK Hynix, Samsung, Micron), így a kereslet alakulása erősen mozgatja a részvényeiket és az egész chipipar megítélését. → Pénz

vállalkozó, vezetőAz AI-szolgáltatások ára és elérhetősége részben azon múlik, mennyi HBM jut az adatközpontoknak, ezért a hiány a te költségeidben is megjelenhet.

fejlesztőAz AI-gyorsítón elérhető memória mérete és sebessége szabja meg, mekkora modellt és milyen gyorsan tudsz futtatni. → Kód

mindenkiHa a gyártók az HBM-et részesítik előnyben, kevesebb hagyományos memória készül, ami drágíthatja a telefonokat és a számítógépeket.

Gyakori félreértés

TévhitAz HBM egyszerűen egy nagyobb és gyorsabb RAM, amit a saját gépedbe is betehetsz.

ValójábanAz HBM nem cserélhető modul, hanem a gyárban véglegesen egybeépítik az AI-chippel. Külön alkatrészként nem kapható, és utólag nem bővíthető. Ma szinte csak adatközponti AI-gyorsítókban használják.

Korlátok és kockázatok

Drága és nehezen gyártható: a sok réteg miatt egyetlen hibás lapka az egész tornyot tönkreteheti.
A kínálat néhány gyártó kezében van, ezért a hiány vagy egy üzemzavar az egész AI-ipart lassíthatja.
A szorosan egymásra rakott rétegekből nehezen távozik a hő, ezért komoly hűtést igényel.
Geopolitikai kockázatot is hordoz, mert a gyártás Dél-Koreában és néhány más országban összpontosul, a fejlett változatok exportját pedig korlátozások érintik.

Hasonló, de nem ugyanaz

DRAM (hagyományos memória) – Az HBM is DRAM-lapkákból épül. A hagyományos memória lapkái azonban egymás mellett ülnek egy cserélhető modulon vagy az alaplapra forrasztva, és kevesebb vezetéken kapcsolódnak a processzorhoz. Az HBM lapkái egymásra vannak rétegezve, és közvetlenül az AI-chip mellé vannak beépítve.
VRAM (videomemória) – A VRAM a grafikus kártya memóriájának általános neve, bármilyen technológiával készülhet; az HBM egy konkrét, csúcskategóriás megvalósítás.
SSD (háttértár) – Az SSD kikapcsolás után is megőrzi az adatot, viszont jóval lassabb; az HBM csak működés közben tárol, de nagyságrendekkel gyorsabban.

Kapcsolódó fogalmak

Tágabb

memória, AI-infrastruktúra, félvezetőgyártás

Szűkebb

HBM3E, HBM4

Rokon

GPU, AI-gyorsító, adatközpont, DRAM, chiptokozás

Röviden a története

Az HBM-et 2013-ban fogadta el ipari szabványként a JEDEC szabványügyi szervezet, és ugyanebben az évben az SK Hynix elkészítette az első ilyen lapkát. Kereskedelmi termékben 2015-ben jelent meg először, egy AMD grafikus kártyában. Igazán fontossá a generatív AI 2022 utáni robbanása tette.

Hol tart most

2026 végén az AI-adatközpontok csúcskategóriás gyorsítóinak alapvető alkatrésze, a kereslet tartósan meghaladja a kínálatot. Az elterjedt HBM3E mellett az új nemzedék, az HBM4 gyártása fut fel.

Állapot: 2026. november

A hírekben

2 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Kínai félvezetőgyártók bővítenek: a Hua Hong 2 milliárd dollárt fektet, a CXMT HBM3E próbagyártást indított2026. szept. 2. · Ipar
Épül az SK hynix indianai HBM-gyára; megduplázódhat a chipgyártók bevétele2026. aug. 26. · Ipar

Más nevei

HBM · HBM-memória · high-bandwidth memory · High Bandwidth Memory · nagy sávszélességű memória · HBM3E · HBM4 · HBM-chip

Források

Wikipedia: High Bandwidth Memory

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.