helyi futtatás
angolul: local deployment / on-premises
Helyi futtatásnál az AI-modell a saját gépeden vagy a céged saját szerverén működik, nem egy külső szolgáltató távoli adatközpontjában.
Érthetően
A legtöbb AI-szolgáltatást úgy használod, mint az éttermet: leadod a rendelést (a kérdésedet), a konyha valahol máshol dolgozik, és visszakapod a kész ételt. A helyi futtatás az otthoni főzés: a konyha a tiéd, az alapanyag nem hagyja el a házat, de a tűzhelyet neked kell megvenned, és a mosogatás is rád marad.
A gyakorlatban ez azt jelenti, hogy a modell fájljai a te laptopodon, a céged szervertermében vagy egy saját kezelésű gépen vannak. A kérdésed és a feltöltött dokumentumaid nem utaznak el egy külső céghez, és a rendszer internet nélkül is működhet.
Főleg ott választják, ahol érzékeny adatokkal dolgoznak: kórházban, bankban, ügyvédi irodában, közigazgatásban. Az ára az, hogy a helyben futtatható modellek többnyire kisebbek és gyengébbek, mint a legnagyobb felhős modellek, és az üzemeltetéshez gép, áram és szakértelem kell.
Hogyan működik
- Először választasz egy szabadon letölthető, úgynevezett nyílt súlyú modellt, amelynek a licence megengedi a saját gépen való használatot.
- A modellt letöltöd a saját gépedre vagy szerveredre; ez egy nagy fájl, jellemzően néhány gigabájttól több száz gigabájtig.
- Egy futtatóprogram betölti a modellt a memóriába, lehetőleg egy erős grafikus kártyára (GPU), mert azon sokkal gyorsabban számol.
- A kérdésedet a gép helyben dolgozza fel, a válasz ott készül el, és semmi nem megy ki a hálózatodról, hacsak te magad nem kötöd össze külső szolgáltatással.
- A frissítés, a biztonsági beállítás, a hozzáférések kezelése és a hibaelhárítás a te dolgod, illetve a céged informatikusaié.
Példa a mindennapokból
A háziorvosi rendelő olyan programot használ, amely a beszélgetésből leletvázlatot ír, de a hangfelvétel és a szöveg a rendelő saját gépén marad. Ugyanez történik kicsiben, amikor a telefonod repülő üzemmódban is tud diktált szöveget leírni vagy fotót keresni: a modell a készüléken fut.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A saját gépen futtatható modellek általában kisebbek, ezért bonyolult feladatokban gyengébben teljesíthetnek, mint a legnagyobb felhős modellek.
- Erős hardver kell hozzá: egy komolyabb modellhez drága grafikus kártya vagy szerver szükséges, és ez néhány év alatt elavul.
- A biztonság, a frissítés és a mentés felelőssége teljes egészében rád vagy a cégedre hárul, nincs szolgáltató, aki elvégezné helyetted.
- Ha a helyi modellt vagy a rá épülő agentet internetes kereséssel és külső eszközökkel kötöd össze, az adat ugyanúgy kijuthat, mint a felhős megoldásnál.
Hasonló, de nem ugyanaz
- felhőalapú futtatás – Ott a modell a szolgáltató adatközpontjában fut, te csak interneten keresztül éred el, és használat alapján vagy előfizetéssel fizetsz.
- nyílt forráskódú modell – Ez azt írja le, hogy a modell milyen feltételekkel tölthető le és használható, nem azt, hogy hol fut: nyílt modellt felhőben is lehet futtatni. A köznyelv sokszor a nyílt súlyú modelleket is így hívja, pedig azoknál csak a kész modell érhető el, és a licenc korlátozhatja a felhasználást.
- privát felhő – Ott a gépek csak egy szervezetet szolgálnak ki, de felhőszerűen, rugalmasan osztják el az erőforrásokat. Állhatnak a saját telephelyen is, de gyakran külső cég adatközpontjában vannak, és ő üzemelteti őket.
Kapcsolódó fogalmak
AI-infrastruktúra, telepítés, üzemeltetés
eszközön futó AI, légréses rendszer
felhőalapú futtatás, nyílt súlyú modell, kis nyelvi modell, adatszuverenitás, GPU, peremszámítás
Röviden a története
Az „on-premises” kifejezés a 2000-es években terjedt el, amikor a felhőszolgáltatások megjelenésével meg kellett különböztetni a saját telephelyen futó szoftvert. A nyelvi modellek helyi futtatása 2023-ban vált tömegesen elérhetővé, amikor megjelentek az első igazán jól használható, szabadon letölthető modellek és az átlagos számítógépen is működő futtatóprogramok.
Hol tart most
2026 végén a kisebb modellek már laptopon és telefonon is jól használhatók, és a szabályozott ágazatokban egyre gyakoribb a saját szerveren futó AI. A legnagyobb tudású modelleket viszont a legtöbben továbbra is felhőből érik el.
A hírekben
- A félvezetőgyártó-berendezések piaca 2026-ban 155,13 milliárd dollár lehet, 2032-re 244 milliárd2026. okt. 27. · Ipar
- Helyben futtatott orvosi AI-agent megbízható klinikai döntéstámogatásra2026. szept. 15. · Egészség
- A Coder Agents általánosan elérhető, teljesen saját üzemeltetésű AI-kódolást kínál2026. szept. 9. · Kód
- A GitLab Duo Self-Hosted mostantól saját modellel használható Microsoft Foundryn át2026. szept. 8. · Kód
- A Claude Code már saját szerveren futtatható runnerrel is elérhető2026. aug. 18. · Kód
Más nevei
on-premises · on-prem · on-premise · local deployment · lokális futtatás · helyi telepítés · self-hosted · saját üzemeltetésű AI
Források
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.