streaming
A streaming azt jelenti, hogy az AI válasza nem egyben érkezik meg, hanem kis darabokban, folyamatosan jelenik meg a képernyőn, ahogy a modell előállítja.
Érthetően
Amikor kérdezel egy chatbottól, és a válasz úgy jelenik meg, mintha valaki épp gépelné, streaminget látsz. A modell a szöveget darabonként állítja elő, és a program minden elkészült darabot azonnal megmutat neked, nem várja meg a végét.
Olyan ez, mint a különbség a levél és az élő beszéd között. A levelet csak akkor olvashatod el, ha a másik megírta és elküldte az egészet. Beszélgetés közben viszont már az első szavaknál tudod, merre tart a mondat, és közbe is szólhatsz.
A streaming a várakozás élményét javítja, a választ magát nem. A teljes szöveg ugyanannyi idő alatt készül el, de te jellemzően már a másodperc törtrésze vagy néhány másodperc után olvashatsz, és ha látod, hogy a modell félreértett, azonnal leállíthatod.
Ugyanezt a szót használják a filmek és zenék folyamatos lejátszására is (Netflix, Spotify). Az elv közös: az adat folyamatosan érkezik, nem egyetlen letöltött csomagként. A nyelvi modelleknél azonban szöveg, hang vagy az agent munkájának lépései érkeznek így.
Hogyan működik
- Elküldöd a kérdésedet, a programod pedig jelzi a szolgáltatónak, hogy a választ folyamatosan kéri, nem egyben.
- A nyelvi modell tokenenként (szótöredékenként) írja a választ: mindig a következő darabot számolja ki az addigiak alapján.
- A szerver nyitva tartja a kapcsolatot, és minden elkészült darabot azonnal továbbküld. Szöveges válaszoknál ehhez legtöbbször a szerver által küldött események (SSE) nevű webes megoldást használják.
- A te oldaladon futó alkalmazás a beérkező darabokat sorban hozzáfűzi a képernyőn látható szöveghez. Ettől tűnik úgy, mintha a gép gépelne.
- A végén a szerver jelzi, hogy a válasz kész, és lezárja a kapcsolatot. Ha közben megnyomod a leállítás gombot, az alkalmazás megszakítja a kapcsolatot, és a szolgáltató általában leállítja a válasz írását.
Példa a mindennapokból
Megkéred a chatbotot, hogy írjon egy panaszlevelet a szolgáltatódnak. A szöveg sorról sorra jelenik meg, és már a második mondatnál látod, hogy túl hivatalos lett a hangnem. Leállítod, pontosítod a kérést, és nem kellett fél percet várnod egy olyan levélre, amelyet úgysem használtál volna.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A félig megjelent válasz még nem végleges: a modell a későbbi mondatokban árnyalhatja vagy helyesbítheti, amit az elején írt, ezért ne ítélj az első mondatokból.
- Ha menet közben megszakad az internetkapcsolat, a válasz csonka maradhat, és gyakran újra kell kérned.
- A biztonsági szűrők néha csak utólag lépnek közbe, ezért előfordulhat, hogy a már megjelent szöveg eltűnik vagy lecserélődik.
- Ha a választ egy program dolgozza fel tovább (például táblázatba tölti), a darabokban érkező szöveg csak a végén értelmezhető biztonsággal.
Hasonló, de nem ugyanaz
- médiastreaming – Ott egy már meglévő vagy élőben felvett filmet, zenét kapsz folyamatosan. Itt viszont a tartalmat a modell abban a pillanatban írja meg, amikor megjelenik előtted.
- kötegelt feldolgozás – A kötegelt feldolgozásnál sok kérést adsz le egyszerre, és az eredményt később, egyben kapod meg. Streamingnél azonnal és folyamatosan érkezik a válasz.
- valós idejű hangalapú beszélgetés – A hangalapú beszélgetésnél mindkét irányban folyamatos az adatáramlás, és közbe is vághatsz. A sima streaming csak a válasz kiírását teszi folyamatossá.
Kapcsolódó fogalmak
nyelvi modell, API, szöveggenerálás
szerver által küldött események, első tokenig eltelt idő
token, késleltetés, chatbot, kötegelt feldolgozás, AI-agent
Röviden a története
Az adatok folyamatos továbbítása régi internetes megoldás. A nyelvi modelleknél leggyakrabban használt technikát, a szerver által küldött eseményeket (SSE), a HTML-szabvány rögzíti. A modellszolgáltatók programozói felületei (API-jai) már korábban is kínáltak streamelt választ, de a „gépelő” válasz a ChatGPT 2022. novemberi megjelenésével vált széles körben ismertté.
Hol tart most
2026 végén gyakorlatilag minden csevegőfelület és modellszolgáltató alapból kínálja. Már nemcsak a szöveg érkezik így, hanem a hang és az agentek munkájának köztes lépései is.
A hírekben
- 18 hónap börtön az MI-zenével és botokkal streaming-jogdíjat csaló férfinak2026. okt. 7. · Jog
- Az AI, a streaming és a sport alakítja a növekvő amerikai hirdetési piacot2026. okt. 1. · Marketing
- A Spotify címkével jelöli az emberi előadónak kiadott AI-alkotókat2026. aug. 13. · Marketing
Más nevei
streaming · streamelés · folyamatos válaszküldés · válaszfolyam · token streaming · streamed response · response streaming · SSE
Források
- Wikipedia: Server-sent events
- WHATWG HTML Living Standard: Server-sent events
- MDN Web Docs: Using server-sent events
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.