Groq

haladóterjedő

A Groq amerikai chipcég, amely saját tervezésű, LPU nevű processzoraival a nyelvi modellek válaszait a megszokottnál jóval gyorsabban szolgálja ki.

Érthetően

Amikor egy AI-csevegőnek kérdést teszel fel, a választ egy adatközpont számítógépei állítják elő. Ezt a munkát hívják következtetésnek (inference), és ezen múlik, hogy a szöveg csordogál-e vagy szinte egyszerre jelenik meg. A Groq erre az egy feladatra épített chipet, és felhőszolgáltatásként adja bérbe.

Képzeld el úgy, mint egy konyhát. A hagyományos grafikus chip (GPU) olyan séf, aki bármit meg tud főzni, a tanítástól a képgenerálásig. A Groq LPU-ja olyan konyhai gépsor, amely csak egyféle ételt készít, azt viszont nagyon gyorsan és kiszámítható ütemben.

A Groq nem készít saját nyelvi modellt. Mások szabadon elérhető (nyílt) modelljeit futtatja, például a Meta Llama-családját vagy az OpenAI nyíltan közzétett modelljeit. Azt kínálja tehát, hogy ugyanaz a modell nála gyorsabban válaszol.

A sebesség ott számít igazán, ahol a várakozás zavaró: hangalapú asszisztenseknél, élő ügyfélszolgálatnál, vagy amikor egy agent sok lépést hajt végre egymás után, és minden lépés késése összeadódik.

Hogyan működik

A nyelvi modell a választ apró szövegdarabokból, tokenekből rakja össze, egyiket a másik után. A sebességet ezért azzal mérik, hány token készül el másodpercenként.
Az LPU (Language Processing Unit, nyelvfeldolgozó egység) kifejezetten erre az egymás utáni, lépésenkénti munkára készült: a memória magán a chipen van, így az adatnak nem kell külső memóriából ide-oda utaznia.
A számítások pontos menetrendjét egy fordítóprogram előre megtervezi. Emiatt a chip nem menet közben dönti el, mi következik, és a válaszidő egyenletes marad.
Egy nagy modellhez sok LPU-t kapcsolnak össze, amelyek futószalagként adják tovább egymásnak a részeredményt.
A fejlesztők mindezt a GroqCloud nevű szolgáltatáson keresztül érik el: interneten elküldik a kérést, és megkapják a kész választ, a chipet nem kell megvenniük.

Példa a mindennapokból

Telefonon hívsz egy ügyfélszolgálatot, ahol AI-hangasszisztens válaszol, és nincs az a kínos, két-három másodperces csend a mondatod után. Könnyen lehet, hogy a háttérben egy Groq-féle gyors kiszolgáló dolgozik. A cég nevével te nem találkozol, csak azt érzed, hogy a beszélgetés természetes tempójú.

Kit érint

fejlesztőHa valós idejű alkalmazást vagy sok lépésben dolgozó agentet építesz, a Groq gyors kiszolgálása érezhetően lerövidítheti a várakozást. → Kód

vállalkozó, vezetőAz AI-szolgáltatás költségét és ügyfélélményét az is befolyásolja, milyen infrastruktúrán fut a modell, nem csak az, hogy melyik modellt választod.

banki ügyfél, befektetőA Groq sokáig az Nvidia egyik legismertebb kihívójaként szerepelt a hírekben; 2025 vége óta inkább az Nvidiával kötött licencmegállapodása miatt emlegetik, amely jól mutatja, mennyire felértékelődött a gyors kiszolgálás az AI-chippiacon. → Pénz

mindenkiA hangos és csevegős AI-szolgáltatások egy része azért válaszol szinte késés nélkül, mert a háttérben gyors kiszolgálásra készült célchipek dolgoznak.

Gyakori félreértés

TévhitA Groq ugyanaz, mint a Grok, Elon Musk csevegőrobotja.

ValójábanA két névnek csak a hangzása hasonló. A Groq (q-val) chipeket és kiszolgáló felhőt építő cég, a Grok (k-val) pedig az xAI nyelvi modellje és csevegője.

Korlátok és kockázatok

Az LPU a kész modellek futtatására való, új modellek tanítására nem, ott továbbra is a GPU-k uralkodnak.
Csak azokat a modelleket éred el, amelyeket a Groq felvett a kínálatába; a zárt csúcsmodellek (például a Claude- vagy a Gemini-család) nem futnak rajta.
A gyors válasz nem okosabb válasz: a modell ugyanúgy tévedhet, csak hamarabb.
Felhőszolgáltatásként az adataid egy külső cég szerverein mennek át, ezért érzékeny adatoknál nézd meg, hol van az adatközpont és mit ír a szerződés.

Hasonló, de nem ugyanaz

Grok – A Grok az xAI csevegőrobotja és nyelvi modellje, a Groq viszont hardvert és kiszolgáló infrastruktúrát ad mások modelljeihez.
GPU – A GPU általános célú gyorsító, amely tanításra és futtatásra egyaránt jó, az LPU pedig célchip, amely kész AI-modellek, elsősorban nyelvi modellek gyors futtatására készült, tanításra nem.
Nvidia – Az Nvidia a piacvezető, szinte minden AI-feladatra chipet kínáló óriás, a Groq egy szűk területre, a gyors következtetésre szakosodott kisebb cég. 2025 vége óta nem pusztán versenytársak: az Nvidia licencbe vette a Groq technológiáját.

Kapcsolódó fogalmak

Tágabb

AI-chip, AI-infrastruktúra, félvezetőipar

Szűkebb

LPU, GroqCloud

Rokon

Nvidia, Cerebras, GPU, következtetés (inference), token

Röviden a története

A Groqot 2016-ban alapította Jonathan Ross néhány társával; Ross korábban a Google saját AI-chipjének, a TPU-nak a fejlesztésén dolgozott. A cég szélesebb körben 2024-ben vált ismertté, amikor nyilvános bemutatóin a nyelvi modellek addig szokatlan sebességgel válaszoltak. 2025 végén az Nvidia licencmegállapodást kötött a Groq technológiájára, és az alapító több vezetővel együtt az Nvidiához került.

Hol tart most

A GroqCloudot sok fejlesztő használja gyors, nyílt modellekre épülő alkalmazásokhoz, de a piac egészéhez mérve továbbra is réstermék a GPU-k mellett. 2025 végén az Nvidia nem kizárólagos licencmegállapodást kötött a Groq technológiájára, és a cég több vezetője, köztük az alapító Jonathan Ross, átment hozzá. A Groq új vezetéssel, önálló cégként működik tovább, és a felhőszolgáltatását megtartotta.

Állapot: 2026. november

Más nevei

Groq · Groq Inc. · GroqCloud · LPU · Language Processing Unit · nyelvfeldolgozó egység · Groq-chip · GroqChip

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.