Fogalomtár › Szereplők és termékek

H100

angolul: Nvidia H100

Az Nvidia H100 egy adatközpontokba szánt, nagy teljesítményű AI-chip, amelyen a ChatGPT-hez hasonló nagy nyelvi modellek jelentős részét tanították és futtatják.

Érthetően

A H100 az Nvidia gyorsítókártyája, amelyet kifejezetten mesterséges intelligencia tanítására és futtatására terveztek. Nem a gépedbe való videókártya: szervertermekben dolgozik, ezrével összekötve.

Képzeld el úgy, mint egy ipari konyha óriási sütőjét. Otthon egy tepsi süteményt sütsz, itt egyszerre több ezer tepsi megy, éjjel-nappal. A sima processzor egy ügyes szakács, aki mindenhez ért, de egyszerre csak néhány dolgot csinál. A H100 egy egész brigád, amely ugyanazt az egyszerű mozdulatot párhuzamosan, elképesztő tempóban ismétli.

Azért lett híres, mert a generatív AI 2023-as berobbanásakor ez volt a világ egyik legkeresettebb alkatrésze. A cégek erejét sokáig abban mérték, hány H100-at tudtak szerezni, a chip pedig az AI-verseny egyfajta mértékegysége lett.

Hogyan működik

1. Az AI-modell tanítása és használata rengeteg egyszerű szorzásból és összeadásból áll, amelyeket egyszerre, párhuzamosan lehet elvégezni.
2. A H100 sok ezer apró számolóegysége ezeket a műveleteket egy időben hajtja végre, ezért az ilyen feladatokban nagyságrendekkel gyorsabb egy hagyományos processzornál.
3. A kártyán 80 gigabájt nagyon gyors memória van, ebben fér el a modell és az éppen feldolgozott adat.
4. Egy szerverbe jellemzően nyolc ilyen chip kerül, a szervereket pedig gyors hálózat fűzi össze, így több ezer H100 egyetlen óriási számítógépként dolgozik.
5. Egy chip akár 700 wattot is fogyaszt, ezért a nagy telepítésekhez komoly áramellátás és hűtés kell.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Már nem a csúcs: az Nvidia újabb generációi (Blackwell, Rubin) jóval gyorsabbak, és ugyanannyi áramból több számítást végeznek el.
• Rengeteg áramot és hűtést igényel, ezért a nagy telepítések környezeti terhe és villanyszámlája jelentős.
• Drága, és egyes országokba csak amerikai exportengedéllyel szállítható, így nem mindenki juthat hozzá szabadon.
• A chipek száma önmagában keveset mond: az eredmény a szoftveren, az adatokon és a hálózaton is múlik.

Hasonló, de nem ugyanaz

• Processzor (CPU) – A processzor általános célú: sokféle feladatot megold, de egyszerre csak keveset. A H100 főleg egyfajta, egyszerű számítást végez, azt viszont tömegesen, párhuzamosan.
• Játékos videókártya (GeForce RTX) – A játékos kártya otthoni gépbe, képmegjelenítésre készül, a H100 szerverbe, folyamatos AI-számításra.
• Nvidia Blackwell – A Blackwell a H100 utáni, újabb és erősebb chipgeneráció, nem ugyanannak a terméknek egy változata.

Kapcsolódó fogalmak

Röviden a története

Az Nvidia 2022 márciusában mutatta be a H100-at a Hopper nevű chipcsalád első tagjaként; a család Grace Hopper amerikai számítástechnikai úttörőről kapta a nevét. A generatív AI 2023-as fellendülése idején hiánycikk lett, és hónapokat kellett várni rá.

Hol tart most

2026 végén a H100 már nem a legújabb generáció, de adatközpontokban még tömegesen dolgozik. Bérleti díja a csúcshoz képest jelentősen csökkent, és főleg modellek futtatására, kisebb tanításokra használják.

Állapot: 2026. november

Más nevei

H100 · Nvidia H100 · NVIDIA H100 Tensor Core GPU · H100 GPU · H100-as chip · H100 gyorsító · Nvidia H100 AI-chip

Források

• NVIDIA: H100 Tensor Core GPU (hivatalos termékoldal)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.