TPU
angolul: tensor processing unit (TPU)
A TPU a Google saját tervezésű csipje, amelyet kifejezetten a mesterséges intelligencia számításaira építettek, ezért ezeket gyorsabban és kevesebb árammal végzi el, mint egy általános célú processzor.
Érthetően
A TPU olyan számítógépes csip, amely egyetlen feladatra készült: az MI-modellek tanításához és futtatásához szükséges, óriási mennyiségű szorzás-összeadás elvégzésére. A Google tervezi, és főleg a saját adatközpontjaiban használja.
Képzeld el úgy, mint egy pizzériát, ahol a kemence csak pizzát tud sütni, de abból óránként több százat. Az általános processzor (CPU) egy otthoni konyha, ahol bármit megfőzhetsz, csak lassabban. A TPU a célgép: kevesebb dologra jó, de abban az egyben nagyon hatékony.
A legismertebb MI-csip a GPU, amelyet eredetileg videójátékok grafikájához találtak ki, és utólag derült ki, hogy az MI-hez is kiváló. A TPU-t ezzel szemben eleve MI-re tervezték, így ugyanarra a munkára sokszor kevesebb áramot fogyaszt.
Adatközponti TPU-t te magad nem veszel a boltban. Úgy találkozol vele, hogy a Google szolgáltatásai, például a Gemini, a kereső vagy a fordító ilyen csipeken futnak a háttérben, a cégek pedig a Google felhőjében bérelhetik.
Hogyan működik
- Az MI-modell belül hatalmas számtáblázatokkal dolgozik; ezeket hívják tenzornak, innen a csip neve.
- A TPU áramkörei arra vannak kihegyezve, hogy ezeket a táblázatokat egyszerre, párhuzamosan szorozzák össze, ne egyesével, sorban.
- Mindent kihagytak belőle, ami az MI-hez nem kell (például a grafikai megjelenítést), így ugyanannyi áramból több hasznos számítás jön ki.
- Egy csip magában kevés: a Google több ezer TPU-t köt össze gyors hálózattal, és ezek együtt, egyetlen óriásgépként tanítják vagy futtatják a modellt.
- A fejlesztő nem a csipet programozza közvetlenül, hanem MI-keretrendszerben (például JAX, TensorFlow vagy PyTorch) ír kódot, amelyet a rendszer lefordít a TPU nyelvére.
Példa a mindennapokból
Lefotózol a telefonoddal egy olasz étlapot, és a Google Fordító másodpercek alatt magyarul mutatja. A válasz jó eséllyel egy adatközpontból érkezik, ahol TPU-k végezték el a szükséges számításokat. Te ebből csak annyit látsz, hogy gyors volt.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- Adatközponti TPU-t egy átlagos cég nem tud megvásárolni és a saját gépterembe tenni: alapvetően a Google felhőjén keresztül érhető el, ami egy szolgáltatóhoz köt. Kivételt csak néhány óriási megrendelő jelent, amelyekkel a Google külön megállapodást köt.
- A legtöbb MI-szoftver és szakember a GPU-kra, azon belül az Nvidia eszközeire rendezkedett be, ezért az átállás TPU-ra plusz munkával járhat.
- A gyorsabb vagy takarékosabb csip nem tesz okosabbá egy modellt: a válaszok minősége a modellen és az adatokon múlik.
- A gyártók saját sebesség- és hatékonysági adatai nehezen vethetők össze, mert mindenki a neki kedvező feladaton mér.
Hasonló, de nem ugyanaz
- GPU (grafikus processzor) – A GPU általánosabb célú, bárki megveheti és sokféle feladatra jó, a TPU viszont csak MI-számításra készült, és főként a Google felhőjében érhető el.
- NPU (neurális feldolgozóegység) – Az NPU a telefonodban vagy laptopodban ülő kis MI-csip, a TPU ezzel szemben elsősorban adatközponti nagyüzemi gyorsító.
- CPU (processzor) – A CPU a számítógép mindenese, amely bármilyen programot futtat, de az MI tömeges számításaiban sokkal lassabb, mint a célra épített TPU.
Kapcsolódó fogalmak
MI-gyorsító, MI-csip, ASIC (célcsip), számítási kapacitás
Cloud TPU, Edge TPU
GPU, NPU, adatközpont, modelltanítás, következtetés (inference)
Röviden a története
A Google 2015-ben kezdte használni a TPU-t a saját adatközpontjaiban, a nyilvánosságnak pedig 2016-ban mutatta be. 2018 óta külső cégek is bérelhetik a Google felhőjében.
Hol tart most
A hetedik generáció (Ironwood) 2025 végétől széles körben bérelhető, 2026-ban pedig a Google már a nyolcadik generációt is bemutatta. A Google saját modelljei TPU-kon futnak, és más nagy MI-fejlesztők, például az Anthropic is nagy mennyiségben használják. A piac nagyobb részét továbbra is a GPU-k adják, de a TPU a legismertebb alternatívájuk.
A hírekben
- Az Amazon AI-chipjei kódot futtatnak, a Google nyílt PyTorch-buildet adott a TPU-hoz2026. okt. 19. · Kód
Más nevei
TPU · tensor processing unit · Tensor Processing Unit · tenzorfeldolgozó egység · tenzorprocesszor · Google TPU · Cloud TPU · TPU-csip
Források
- Wikipedia: Tensor Processing Unit
- Jouppi et al.: In-Datacenter Performance Analysis of a Tensor Processing Unit (2017)
- Google Cloud: Cloud TPU
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.