NVLink
angolul: Nvidia NVLink
Az NVLink az Nvidia saját, nagy sebességű összeköttetése, amely több grafikus processzort (és a hozzájuk tartozó központi processzorokat) kapcsol össze úgy, hogy szinte egyetlen óriási gépként dolgozzanak.
Érthetően
A legnagyobb nyelvi modellek nem férnek el egyetlen chipen: futtatásukhoz több, tanításukhoz pedig több ezer vagy akár több tízezer grafikus processzor (GPU) dolgozik együtt. Ezeknek folyamatosan adatot kell cserélniük, és ha a csere lassú, a drága chipek várakoznak.
Az NVLink olyan, mint egy konyhában a szakácsok közé épített átadóablak. Nem kell a folyosón körbevinni a tányért (ez lenne a hagyományos hálózat), hanem közvetlenül adják át egymásnak, ezért a konyha egyetlen összehangolt csapatként működik.
Abban más, mint a megszokott számítógépes csatlakozások, hogy kifejezetten a GPU-k közötti, illetve a GPU és a processzor közötti forgalomra tervezték: sokkal több adatot visz át, sokkal kisebb késéssel. Az Nvidia saját technológiája, ezért sokáig szinte csak a cég chipjeivel működött; kivételt az IBM néhány szerverprocesszora jelentett.
Hogyan működik
- A GPU-kat külön, nagy sebességű adatsávok kötik össze, amelyek megkerülik a számítógép általános, lassabb belső csatlakozóit.
- A chipek így közvetlenül elérik egymás memóriáját, ezért egy nagy modell több GPU között szétosztva is úgy fut, mintha egy helyen lenne.
- Nagyobb rendszerekben külön NVLink-kapcsolóchipek (NVLink Switch) irányítják a forgalmat, így egy teljes szerverszekrény több tucat GPU-ja mind közvetlenül lát mindenkit.
- A szekrények közötti, nagyobb távolságú forgalmat már más hálózat viszi (InfiniBand vagy Ethernet): az NVLink a szekrényen belüli, a hálózat az adatközpont szintű összeköttetés.
Példa a mindennapokból
Amikor egy csevegő AI-nak hosszú kérdést teszel fel, és a válasz másodpercek alatt megérkezik, a háttérben könnyen lehet, hogy több, NVLinkkel összekötött GPU dolgozik rajta egyszerre (nem minden szolgáltató használ Nvidia-chipeket). Te ebből semmit sem látsz, csak azt, hogy a válasz gyors.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Az Nvidia saját technológiája: az NVLink Fusion óta más cégek chipjei is csatlakozhatnak hozzá, de csak Nvidia-termékek mellé, ezért aki erre épít, nehezebben vált más gyártóra.
- Csak rövid távolságon, jellemzően egy szerveren vagy szekrényen belül működik, az adatközpont egészét nem ez köti össze.
- Az NVLinkkel sűrűn összekötött rendszerek nagyon drágák, sok áramot fogyasztanak és többnyire folyadékhűtést igényelnek.
- Otthoni gépen ma már gyakorlatilag nem találkozol vele, így a saját számítógépeden futtatott AI-t nem gyorsítja.
Hasonló, de nem ugyanaz
- InfiniBand – Az InfiniBand szervereket és szekrényeket köt össze az adatközpontban, az NVLink a GPU-kat egy szerveren vagy szekrényen belül.
- PCI Express – A PCI Express általános célú, szabványos belső csatlakozó szinte minden számítógépben. Az NVLink ennél jóval gyorsabb, de csak a GPU-k egymás közötti, illetve a GPU-k és a processzor közötti forgalomra készült.
- UALink – Az UALink több chipgyártó közös, nyílt szabványa ugyanerre a feladatra, az NVLink viszont az Nvidia saját megoldása.
Kapcsolódó fogalmak
AI-infrastruktúra, Adatközpont, Nagy teljesítményű számítástechnika
NVLink Fusion, NVLink Switch
Grafikus processzor, InfiniBand, UALink, AI-gyár, GPU-klaszter
Röviden a története
Az Nvidia 2014-ben jelentette be az NVLinket, az első termékek 2016-ban jelentek meg vele. 2025-ben a cég NVLink Fusion néven részben megnyitotta a technológiát más gyártók processzorai és egyedi chipjei előtt.
Hol tart most
2026 végén az Nvidia-alapú AI-szerverek és szerverszekrények alapeleme, a nagy AI-adatközpontok jelentős része erre épül. Nyílt vetélytársának, az UALinknek a szabványa 2025-ben jelent meg, de a rá épülő rendszerek egyelőre jóval kevésbé elterjedtek.
Más nevei
NVLink · Nvidia NVLink · NVIDIA NVLink · NVLink Fusion · NVLink Switch · NVLink-kapcsolat · NVLink-összeköttetés · NVLink híd
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.