strukturált kimenet
angolul: structured output
A strukturált kimenet olyan MI-válasz, amely nem szabad szöveg, hanem előre megadott, kötött formájú adat, így egy másik program közvetlenül fel tudja dolgozni.
Érthetően
Ha megkérsz valakit, hogy meséljen a tegnapi vásárlásáról, mindenki másképp fogalmaz. Ha viszont egy űrlapot adsz a kezébe „bolt neve”, „dátum” és „végösszeg” rovatokkal, mindig ugyanolyan formában kapod meg az adatokat. A strukturált kimenet ezt az űrlapot adja a nyelvi modell kezébe.
Erre azért van szükség, mert a nyelvi modell válaszát gyakran nem ember olvassa, hanem egy másik program, például egy számlázó, egy naptár vagy egy adatbázis. A programok nem tudnak mit kezdeni a „Természetesen, íme a kért adatok!” kezdetű mondatokkal. Azt várják, hogy pontosan meghatározott rovatban, meghatározott típusú adat álljon.
A sima válasz tehát embernek szól, a strukturált kimenet gépnek. Ettől lesz a beszélgető MI-ből megbízható alkatrész, amelyet nagyobb rendszerekbe lehet építeni. Az agentek is hasonlóan dolgoznak: amikor egy agent eszközt használ, strukturált formában adja át, mit és milyen adatokkal kér.
Hogyan működik
- A fejlesztő megad egy sémát, vagyis egy üres űrlapot: milyen mezők legyenek, melyik szám, szöveg, dátum vagy lista, és melyik kötelező. Ez legtöbbször JSON formátumú leírás.
- A modell a kérdés mellé megkapja a sémát is, és ehhez igazodva írja a választ.
- A szigorúbb megoldásoknál a rendszer írás közben minden lépésben csak azokat a folytatásokat engedi meg, amelyek beleférnek a sémába. A modell így nem tud kilépni a formából, például nem hagyhat le egy zárójelet.
- A fogadó program a kész választ a séma alapján ellenőrzi, és ha hibás vagy hiányos, újat kérhet.
- Az adat végül emberi beavatkozás nélkül megy tovább a következő lépésbe: táblázatba, adatbázisba vagy egy agent következő műveletébe.
Példa a mindennapokból
Lefényképezed a telefonoddal egy éttermi számládat, és a költségkövető alkalmazás magától kitölti a „hely”, „dátum”, „összeg” és „kategória” mezőket. A háttérben dolgozhat egy képet is értő nyelvi modell, amely kiolvassa az adatokat a fotóról, a kategóriát pedig a tartalom alapján kikövetkezteti, és mindezt strukturált kimenetként adja vissza. Az alkalmazás ezért tudja rögtön a megfelelő rovatba tenni mindet.
Kit érint
Gyakori félreértés
Korlátok és kockázatok
- A forma helyessége nem jelenti a tartalom helyességét: a jól formázott adat is lehet hallucináció.
- Ha a séma kötelezővé tesz egy mezőt, a modell akkor is beír valamit, ha a forrásban nincs ilyen adat, ezért érdemes megengedni a „nincs adat” választ.
- A túl bonyolult vagy rosszul megtervezett séma ronthatja a válasz minőségét, és nem minden szolgáltató támogatja a sémák minden elemét.
- Ha a válasz a hosszkorlát miatt félbeszakad, az adat csonka és használhatatlan lehet, ezért a fogadó programnak ezt az esetet is kezelnie kell.
Hasonló, de nem ugyanaz
- JSON-mód – A JSON-mód csak azt ígéri, hogy a válasz szabályos JSON lesz. A strukturált kimenet azt is, hogy pontosan a megadott mezőket és adattípusokat tartalmazza.
- eszközhívás – Az eszközhívásnál a modell egy külső funkció elindítását kéri strukturált formában, a strukturált kimenetnél maga a végső válasz kötött formájú.
- promptírás – A promptban csak megkéred a modellt, hogy tartson be egy formátumot. A strukturált kimenet szigorú megoldásainál ezt a rendszer technikailag ki is kényszeríti.
Kapcsolódó fogalmak
nagy nyelvi modell, generatív mesterséges intelligencia, alkalmazásprogramozási felület
JSON-séma, kötött dekódolás
JSON-mód, eszközhívás, AI-agent, prompt, hallucináció, adatkinyerés
Röviden a története
A fejlesztők eleinte csak a promptban kérhették a modellt a formátum betartására, ami gyakran hibás kimenetet adott. 2023-ban nyílt forráskódú eszközök (például a llama.cpp nyelvtanai és az Outlines könyvtár) már a szöveg előállítása közben kikényszerítették a formát. Az OpenAI 2023 novemberében vezette be a JSON-módot, 2024 augusztusában pedig a sémát garantáltan követő Structured Outputs funkciót. A többi nagy szolgáltató, például a Google és az Anthropic, is kínál hasonló megoldást.
Hol tart most
2026 végére a nagy modellszolgáltatók és a nyílt forráskódú futtatókörnyezetek többsége alapfunkcióként kínálja. Az agentekre épülő rendszerek és az üzleti automatizálás egyik alapvető építőköve lett.
Más nevei
strukturált kimenet · strukturált válasz · structured output · structured outputs
Források
- OpenAI: Introducing Structured Outputs in the API (2024)
- JSON Schema – hivatalos oldal
- Wikipedia: JSON
A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.