NPU
angolul: neural processing unit
Az NPU a telefon vagy laptop lapkájának az a része, amelyet kifejezetten a mesterséges intelligencia számításaira terveztek, és amely ezeket helyben, gyorsan és kevés árammal végzi el.
Érthetően
A géped processzora (CPU) olyan, mint egy ügyes ezermester: mindenhez ért, de egyszerre csak néhány dolgot csinál. A mesterséges intelligencia viszont rengeteg apró, egyforma szorzást és összeadást kér egyszerre. Erre az ezermester lassú és sokat fogyaszt.
Az NPU ehhez képest a konyhai robotgép: egyetlen feladatfajtára készült, azt viszont gyorsan és takarékosan végzi. Ilyen feladat a háttér elmosása videóhívásban, a beszéd felismerése, a fotók feljavítása vagy egy kisebb nyelvi modell futtatása.
A legfontosabb haszna, hogy az AI a saját eszközödön futhat, nem egy távoli szerveren. Így internet nélkül is működik, nincs hálózati késés, és ha a funkció valóban teljesen helyben fut, az adataid sem hagyják el a gépet. A processzorhoz vagy a grafikus egységhez képest az NPU ugyanezt a munkát jóval kevesebb árammal végzi, ezért az akkumulátor is tovább bírja.
Az NPU általában nem külön alkatrész: többnyire ugyanabba a lapkába építik, amelyben a processzor és a grafikus egység is van.
Hogyan működik
- Az AI-modell valójában hatalmas számtáblázatok sora; a futtatása annyit jelent, hogy ezeket a táblázatokat kell nagyon sokszor összeszorozni és összeadni.
- Az NPU-ban sok kis számolóegység dolgozik párhuzamosan, amelyeket kifejezetten ezekre a műveletekre terveztek, így egyszerre végzik el azt, amit a processzor nagyrészt egymás után tenne.
- A modellt előtte többnyire „összenyomják”: a nagy pontosságú számokat kisebb, egyszerűbb számokra kerekítik (ez a kvantálás), mert az NPU ezekkel dolgozik a leggyorsabban és a legkevesebb árammal.
- Az operációs rendszer és az alkalmazás dönti el, melyik feladat hová kerül: az általános munka a processzorra, a látványos grafika és gyakran a nagyobb helyi AI-modell a grafikus egységre, a folyamatosan futó, kisebb AI-feladat az NPU-ra.
- A teljesítményét gyakran TOPS-ban adják meg, ami azt mutatja, hány billió (ezermilliárd) műveletet végez el másodpercenként; ez az a szám, amellyel a boltban a dobozon találkozol.
Példa a mindennapokból
Videóhívás közben bekapcsolod a háttér elmosását, és a laptopod ventilátora mégsem pörög fel, az akkumulátor sem merül le egy óra alatt. Ezt a munkát az NPU végzi csendben, miközben a processzor szabadon marad a többi programodnak.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A legnagyobb nyelvi modellekhez kevés: ezekhez sokkal több memória és számítási erő kell, mint ami egy telefonban vagy laptopban elfér.
- Csak akkor ér valamit, ha a szoftver is használja; sok program egyáltalán nem nyúl az NPU-hoz, így a dobozon szereplő szám önmagában nem garancia.
- A TOPS-értékek gyártónként más módszerrel készülnek, ezért két gép nem hasonlítható össze megbízhatóan pusztán ez alapján.
- Az NPU a kész modell futtatására való, új modell betanítására nem alkalmas.
Hasonló, de nem ugyanaz
- GPU (grafikus feldolgozóegység) – A GPU sokoldalúbb és erősebb, modellek betanítására is jó, de jóval többet fogyaszt; az NPU szűkebb feladatra készült, és a takarékosság a fő erénye.
- CPU (processzor) – A CPU bármilyen programot lefuttat, de az AI tömeges, egyforma számításaiban lassú és pazarló, míg az NPU csak ezekhez ért, azokhoz viszont nagyon jól.
- AI-gyorsító – Az AI-gyorsító a tágabb gyűjtőnév minden AI-ra szabott hardverre, az adatközponti chipeket is beleértve; NPU-nak jellemzően a fogyasztói eszközökbe épített változatot hívják.
Kapcsolódó fogalmak
AI-gyorsító, hardver, processzor
–
GPU, eszközön futó AI, peremszámítás, következtetés (inferencia), kvantálás
Röviden a története
Az NPU 2017-ben jelent meg a tömegpiacon, amikor a Huawei a Kirin 970, az Apple pedig az A11 Bionic lapkába épített külön neurális egységet. A személyi számítógépeknél 2024-ben vált kulcsszóvá, amikor a Microsoft a Copilot+ PC kategóriához legalább 40 TOPS teljesítményű NPU-t írt elő.
Hol tart most
2026 végén a közép- és felsőkategóriás új okostelefonok szinte mindegyikében, valamint az új laptopok nagy részében van NPU. A hardver megelőzte a szoftvert: még kevés olyan mindennapi alkalmazás van, amely igazán kihasználja.
A hírekben
- Az AI-chipkereslet lendíti az európai vegyipari és ipargáz-cégek harmadik negyedévét2026. nov. 5. · Ipar
- Az Amazon AI-chipjei kódot futtatnak, a Google nyílt PyTorch-buildet adott a TPU-hoz2026. okt. 19. · Kód
- Kritikus ásványi és AI-chip-szűkületek mélyebb ellátási kockázatot jeleznek2026. okt. 19. · Ipar
- Az Nvidia kínai részesedése esik, miközben a Reflection AI felvásárlását tárgyalja2026. okt. 5. · Agent Age
- Az Alibaba bemutatta Kína „legerősebb” AI-chipjét, részvénye ugrott2026. szept. 21. · Agent Age
- Az amerikai félvezetőgyártásban akár 157 ezer fős munkaerőhiány várható2026. szept. 17. · Ipar
- A Huawei szerint az AI-chip iránti kereslet meghaladja a kínálatot, 2027 elején új chip jön2026. szept. 15. · Agent Age
- Az AI-adatközpontok energiafogyasztásának csökkentése: szuperkondenzátorok, hűtés és saját chipek2026. szept. 15. · Ipar
Más nevei
NPU · neural processing unit · neurális feldolgozóegység · neurális processzor · AI-chip · MI-gyorsító · AI accelerator · Neural Engine
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.