InfiniBand
Az InfiniBand rendkívül gyors, kis késleltetésű hálózati technológia, amely szuperszámítógépek és AI-adatközpontok gépeit köti össze, hogy egyetlen nagy gépként dolgozhassanak.
Érthetően
Egy nagy AI-modell betanításán nem egy számítógép dolgozik, hanem több ezer, és ezeknek folyamatosan adatot kell cserélniük. Az InfiniBand az a kábelezés és szabályrendszer, amelyen ez a csere zajlik. Ez tehát nem az internet, hanem az adatközpont belső hálózata.
Képzeld el úgy, mint egy gyár belső csőpostáját. A hagyományos hálózat a városi postához hasonlít: a csomag több kézen megy át, néha elvész, és újra kell küldeni. A csőposta viszont közvetlenül a címzett asztalára juttatja a küldeményt, sorban állás és elveszett csomag nélkül.
A legfőbb előnye a nagyon kis és kiszámítható késleltetés. Ha több ezer grafikus processzor (GPU) dolgozik együtt, a leglassabb kapcsolat az egész munkát visszafogja, ezért a hálózat sebessége közvetlenül pénzben mérhető.
A legismertebb alternatívája az Ethernet, amelyet az otthoni és irodai hálózatokból ismerhetsz. Az Ethernet olcsóbb és sokkal több gyártó kínálja, az InfiniBand pedig kifejezetten a csúcsteljesítményre készült.
Hogyan működik
- A szerverekbe külön hálózati kártya kerül, ezeket réz- vagy optikai kábel köti össze az InfiniBand-kapcsolókkal (switchekkel).
- Egy központi vezérlőprogram, az alhálózat-kezelő feltérképezi a teljes hálózatot, és előre kijelöli, melyik adat merre haladjon.
- A küldő gép csak akkor indít adatot, ha a fogadó jelezte, hogy van szabad helye. Így torlódás miatt nem vész el csomag, és ritkán van szükség időrabló újraküldésre.
- Az adat az operációs rendszert megkerülve, közvetlenül az egyik gép memóriájából a másikéba kerül. Ezt a megoldást távoli közvetlen memória-hozzáférésnek (RDMA) hívják.
- Egy kapcsolaton belül több sáv fut párhuzamosan, így a mai rendszerek összeköttetésenként több száz gigabit/másodperces sebességet érnek el.
Példa a mindennapokból
Amikor kérdést írsz egy csevegő AI-nak, könnyen lehet, hogy a mögötte álló modellt olyan adatközpontban tanították be, ahol a GPU-kat InfiniBand kötötte össze, bár ma már sok nagy fürt Ethernetre épül. Te ebből semmit sem látsz. A hírekben akkor találkozol vele, amikor egy új AI-adatközpont vagy szuperszámítógép építéséről írnak.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A piacot gyakorlatilag egyetlen gyártó, az Nvidia uralja, ami drágíthatja a beszerzést és beszállítói függőséget okoz.
- Drágább az Ethernetnél, és az üzemeltetéséhez kevesebb szakember ért.
- Csak adatközponton belüli, viszonylag rövid távolságokra való, a külvilág felé továbbra is Ethernet és internetes hálózat kell.
- A gyors hálózat önmagában nem gyorsít: ha a szoftver nem tudja jól elosztani a munkát a gépek között, az előny elvész.
Hasonló, de nem ugyanaz
- Ethernet – Az Ethernet általános célú, sokgyártós hálózati szabvány az otthontól az adatközpontig, az InfiniBand pedig kifejezetten nagy teljesítményű számítógépfürtök belső hálózata.
- RDMA – Az RDMA egy adatátviteli módszer (közvetlen memóriából memóriába másolás), amelyet az InfiniBand alapból használ, de megfelelő eszközökkel Etherneten is megvalósítható.
- NVLink – Az NVLink az egy szerveren vagy szekrényen belüli GPU-kat köti össze, az InfiniBand a szervereket egymással.
Kapcsolódó fogalmak
Adatközpont, Számítógépes hálózat, Nagy teljesítményű számítástechnika
Alhálózat-kezelő
Ethernet, RDMA, GPU, Szuperszámítógép, GPU-fürt, NVLink
Röviden a története
A szabványt gondozó InfiniBand Trade Association 1999-ben alakult két versengő iparági kezdeményezés egyesülésével, az első specifikáció 2000-ben jelent meg. A technológia fő gyártója a Mellanox lett, amelyet az Nvidia 2020-ban vásárolt meg.
Hol tart most
2026 végén az InfiniBand továbbra is a szuperszámítógépek és a nagy AI-tanítófürtök egyik bevett hálózata. Az új AI-adatközpontokban azonban komoly vetélytársa a kifejezetten AI-ra hangolt Ethernet, és sok új nagy fürt már erre épül.
Más nevei
InfiniBand · Infiniband · IB · InfiniBand-hálózat · IB-hálózat · InfiniBand network · InfiniBand-kapcsoló · Nvidia Quantum InfiniBand
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.