kis nyelvi modell (SLM)

angolul: small language model

alapterjedő

Olyan szövegértő és szövegíró MI-modell, amely a nagy modelleknél jóval kisebb, ezért telefonon, laptopon vagy céges gépen is olcsón, gyorsan futtatható.

Érthetően

A kis nyelvi modell ugyanazt csinálja, mint a nagy testvérei, például a ChatGPT mögötti modellek: szöveget ért és ír. Csak éppen sokkal kisebb: kevesebb „tudást” tárol, kevesebb memória és áram kell neki, ezért nem szükséges hozzá hatalmas adatközpont.

Képzeld el úgy, mint az egykötetes kislexikont a húszkötetes nagylexikon mellett. A kislexikonban nincs benne minden, de ott van nálad, azonnal fellapozod, és a mindennapi kérdések nagy részére pont elég. A nagylexikon többet tud, de nem viszed magaddal a villamoson.

Arra jó, hogy jól körülhatárolt feladatokat gyorsan és olcsón oldjon meg: e-mailt összefoglal, szöveget javít, űrlapot tölt ki, kérdéseket sorol kategóriákba. Mivel a saját eszközödön is futhat, az adataid nem feltétlenül hagyják el a gépedet, és internet nélkül is működhet.

Nincs éles határ, hogy mi számít „kicsinek”: általában azokat a modelleket hívják így, amelyek egy átlagos telefonon vagy számítógépen is elfutnak. Ami ma kicsi, az néhány éve még nagynak számított.

Hogyan működik

A modell „tudása” számokban, úgynevezett paraméterekben van eltárolva. Egy kis modellben ebből jellemzően néhány száz millió és nagyjából tízmilliárd között van, a legnagyobbakban ennek a sokszorosa, akár több száz milliárd vagy még több.
A kis modellt gyakran egy nagy modell segítségével tanítják: a kicsi a nagy válaszait utánozva tanul, így a nagy modell tudásának egy részét jóval kisebb méretben is megőrzi. Ezt hívják tudásdesztillációnak. Emellett sokat számít a gondosan válogatott, jó minőségű tanítószöveg is.
A méretet további trükkökkel csökkentik, például a számokat kevésbé pontosan, kerekítve tárolják (kvantálás). Ettől a modell kisebb és gyorsabb lesz, mérsékelt kerekítésnél a minősége pedig csak kicsit romlik.
Sokszor egy szűk területre hangolják rá, például ügyfélszolgálati levelekre vagy orvosi szövegekre. Ott megközelítheti a nagy modell teljesítményét, mert nem kell mindenhez értenie.
A kész modell közvetlenül az eszközödön vagy a cég saját szerverén fut. Összetettebb rendszerekben a kis modell viszi a rutinfeladatokat, és csak a nehéz kérdéseket küldik tovább egy nagy modellnek.

Példa a mindennapokból

Egyes újabb telefonok repülő üzemmódban is felajánlják, hogy összefoglalják a hosszú üzenetet, vagy udvariasabbra írják át a válaszodat. Ilyenkor nem egy távoli adatközpont dolgozik, hanem egy kis nyelvi modell, amely magán a készüléken fut.

Kit érint

mindenkiA telefonodba, laptopodba és autódba épített MI-funkciók mögött egyre gyakrabban kis nyelvi modell dolgozik, sokszor úgy, hogy az adataid a készüléken maradnak.

vállalkozó, vezetőKis modellel töredék költségen és saját gépen automatizálhatsz rutinfeladatokat, anélkül hogy érzékeny céges adatokat küldenél külső szolgáltatónak.

fejlesztőNeked kell eldöntened, melyik feladathoz elég egy kis modell, és mikor éri meg a drágább, nagyobb modellt hívni, például egy agent egyes lépéseinél. → Kód

beteg, orvosAz egészségügyi adatok különösen érzékenyek, ezért itt nagy előny, ha a szöveget feldolgozó modell a kórház saját gépein fut. → Egészség

Gyakori félreértés

TévhitA kis nyelvi modell csak a nagy modell gyengébb, olcsó utánzata, amit komoly munkára nem érdemes használni.

ValójábanJól körülhatárolt feladatokon egy ráhangolt kis modell megközelítheti a nagyok teljesítményét, miközben gyorsabb és olcsóbb, és ha helyben fut, jobban védi az adatokat. Általános tudásban és bonyolult, sok lépéses gondolkodásban viszont valóban elmarad tőlük.

Korlátok és kockázatok

Kevesebb általános tudása van, ezért ritka témákban, hosszú szövegeknél és összetett következtetéseknél hamarabb hibázik, mint egy nagy modell.
Ugyanúgy képes magabiztosan valótlant állítani, mint a nagy modellek, ezért a fontos válaszait ellenőrizd.
A kisebb nyelveken, így magyarul is, gyakran érezhetően gyengébb, mint angolul, mert kevesebb ilyen nyelvű szövegen tanult, és a kis méret miatt ezekre a nyelvekre kevesebb „hely” jut benne.
Az, hogy egy modell kicsi, még nem jelenti, hogy az adataid a gépeden maradnak: ez attól függ, hol futtatja a szolgáltató, ennek érdemes utánanézned.

Hasonló, de nem ugyanaz

nagy nyelvi modell – A nagy nyelvi modell sokkal több paraméterrel és szélesebb tudással dolgozik, de jellemzően adatközpontban fut, drágább és lassabb.
eszközön futó MI – Az eszközön futó MI azt mondja meg, hol fut a modell, a kis nyelvi modell pedig azt, mekkora; a kettő gyakran együtt jár, de kis modell felhőben is futhat.
tudásdesztilláció – A tudásdesztilláció egy módszer, amellyel kis modellt lehet készíteni, míg a kis nyelvi modell maga a végeredmény.

Kapcsolódó fogalmak

Tágabb

nyelvi modell, generatív mesterséges intelligencia, alapmodell

Szűkebb

–

Rokon

nagy nyelvi modell, eszközön futó MI, tudásdesztilláció, kvantálás, finomhangolás, desztillált modell, kvantált modell

Röviden a története

A nyelvi modellek zsugorításának korai mérföldköve a 2019-ben bemutatott DistilBERT volt. Maga a „small language model” kifejezés 2023–2024-ben terjedt el, amikor a nagy nyelvi modellek ellenpárjaként sorra jelentek meg a telefonra és laptopra szánt modellek, például a Microsoft Phi-családja.

Hol tart most

2026 végére a legtöbb nagy MI-fejlesztő kínál kis modellt is, és sok újabb telefonban, laptopban már beépítve futnak. A cégek egyre gyakrabban párosítják őket nagy modellekkel, például agentek rutinlépéseihez.

Állapot: 2026. november

Más nevei

kis nyelvi modell · kisméretű nyelvi modell · kicsi nyelvi modell · kompakt nyelvi modell · small language model · SLM · small LLM · SLM-ek

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.