13. lapszám · nov. 2–8. 2026Kiadások · Fogalomtár · Archívum · Módszer · RSS · HU / ENG

Az AI-korszak hírei, hetente válogatva

Fogalomtár › Infrastruktúra

NPU

angolul: neural processing unit

alapelterjedt

Az NPU a telefon vagy laptop lapkájának az a része, amelyet kifejezetten a mesterséges intelligencia számításaira terveztek, és amely ezeket helyben, gyorsan és kevés árammal végzi el.

Érthetően

A géped processzora (CPU) olyan, mint egy ügyes ezermester: mindenhez ért, de egyszerre csak néhány dolgot csinál. A mesterséges intelligencia viszont rengeteg apró, egyforma szorzást és összeadást kér egyszerre. Erre az ezermester lassú és sokat fogyaszt.

Az NPU ehhez képest a konyhai robotgép: egyetlen feladatfajtára készült, azt viszont gyorsan és takarékosan végzi. Ilyen feladat a háttér elmosása videóhívásban, a beszéd felismerése, a fotók feljavítása vagy egy kisebb nyelvi modell futtatása.

A legfontosabb haszna, hogy az AI a saját eszközödön futhat, nem egy távoli szerveren. Így internet nélkül is működik, nincs hálózati késés, és ha a funkció valóban teljesen helyben fut, az adataid sem hagyják el a gépet. A processzorhoz vagy a grafikus egységhez képest az NPU ugyanezt a munkát jóval kevesebb árammal végzi, ezért az akkumulátor is tovább bírja.

Az NPU általában nem külön alkatrész: többnyire ugyanabba a lapkába építik, amelyben a processzor és a grafikus egység is van.

Hogyan működik

  1. Az AI-modell valójában hatalmas számtáblázatok sora; a futtatása annyit jelent, hogy ezeket a táblázatokat kell nagyon sokszor összeszorozni és összeadni.
  2. Az NPU-ban sok kis számolóegység dolgozik párhuzamosan, amelyeket kifejezetten ezekre a műveletekre terveztek, így egyszerre végzik el azt, amit a processzor nagyrészt egymás után tenne.
  3. A modellt előtte többnyire „összenyomják”: a nagy pontosságú számokat kisebb, egyszerűbb számokra kerekítik (ez a kvantálás), mert az NPU ezekkel dolgozik a leggyorsabban és a legkevesebb árammal.
  4. Az operációs rendszer és az alkalmazás dönti el, melyik feladat hová kerül: az általános munka a processzorra, a látványos grafika és gyakran a nagyobb helyi AI-modell a grafikus egységre, a folyamatosan futó, kisebb AI-feladat az NPU-ra.
  5. A teljesítményét gyakran TOPS-ban adják meg, ami azt mutatja, hány billió (ezermilliárd) műveletet végez el másodpercenként; ez az a szám, amellyel a boltban a dobozon találkozol.

Példa a mindennapokból

Videóhívás közben bekapcsolod a háttér elmosását, és a laptopod ventilátora mégsem pörög fel, az akkumulátor sem merül le egy óra alatt. Ezt a munkát az NPU végzi csendben, miközben a processzor szabadon marad a többi programodnak.

Kit érint

mindenkiÚj telefon vagy laptop vásárlásakor nagyrészt az NPU megléte és ereje, valamint a memória mérete dönti el, mely AI-funkciók futnak majd a készüléken helyben, internet nélkül.
munkavállalóA céges gépen az NPU teszi lehetővé, hogy egyes jegyzetelő, fordító vagy összefoglaló funkciók helyben fussanak, így a bizalmas anyag ne kerüljön a felhőbe. Sok ilyen funkció azonban NPU-s gépen is a felhőben dolgozik, ezért ezt érdemes ellenőrizni. → Munka és HR
vállalkozó, vezetőGépbeszerzésnél érdemes mérlegelned, hogy a helyben futó AI csökkentheti a felhős előfizetések költségét és az adatvédelmi kockázatot.
fejlesztőHa az alkalmazásod vagy agented helyben futtat modellt, azt az NPU-ra kell optimalizálnod, és gyártónként eltérő eszközkészlettel kell számolnod. → Kód

Gyakori félreértés

TévhitHa a gépemben van NPU, akkor a nagy csevegőrobotok is a saját gépemen futnak, és minden AI gyorsabb lesz.
ValójábanAz NPU kisebb, helyi feladatokra való; a legnagyobb modellek továbbra is adatközpontokban futnak, és az NPU csak azt a programot gyorsítja, amelyet kifejezetten felkészítettek rá.

Korlátok és kockázatok

Hasonló, de nem ugyanaz

Kapcsolódó fogalmak

Tágabb

AI-gyorsító, hardver, processzor

Szűkebb

–

Rokon

GPU, eszközön futó AI, peremszámítás, következtetés (inferencia), kvantálás

Röviden a története

Az NPU 2017-ben jelent meg a tömegpiacon, amikor a Huawei a Kirin 970, az Apple pedig az A11 Bionic lapkába épített külön neurális egységet. A személyi számítógépeknél 2024-ben vált kulcsszóvá, amikor a Microsoft a Copilot+ PC kategóriához legalább 40 TOPS teljesítményű NPU-t írt elő.

Hol tart most

2026 végén a közép- és felsőkategóriás új okostelefonok szinte mindegyikében, valamint az új laptopok nagy részében van NPU. A hardver megelőzte a szoftvert: még kevés olyan mindennapi alkalmazás van, amely igazán kihasználja.

Állapot: 2026. november

A hírekben

10 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Más nevei

NPU · neural processing unit · neurális feldolgozóegység · neurális processzor · AI-chip · MI-gyorsító · AI accelerator · Neural Engine

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.