13. lapszám · nov. 2–8. 2026Kiadások · Fogalomtár · Archívum · Módszer · RSS · HU / ENG

Az AI-korszak hírei, hetente válogatva

Fogalomtár › Alapok

AI-biztonság

angolul: AI safety

alapterjedő

Az AI-biztonság azzal foglalkozik, hogy a mesterséges intelligencia azt tegye, amit várunk tőle, és ne okozzon kárt se véletlenül, se rossz kezekben.

Érthetően

Az autóban a fék, a biztonsági öv, a töréspróba és a KRESZ együtt adja a biztonságot. Az AI-biztonság ugyanez a mesterséges intelligenciánál: kutatás, mérnöki munka és szabályok, hogy a rendszer megbízhatóan és kiszámíthatóan működjön.

Három fő kérdésre keres választ. Azt csinálja-e a rendszer, amit valóban szeretnénk, vagy csak azt, amit szó szerint kértünk tőle? Mi történik, ha téved vagy szokatlan helyzetbe kerül? És mi történik, ha valaki szándékosan rosszra akarja használni?

Ez egyre fontosabb, mert az AI ma már cselekszik is. Egy agent e-mailt küld, fájlokat töröl, vásárol a nevedben, így egy hibának valódi következménye lehet.

Nem azonos a hagyományos informatikai védelemmel. Ott elsősorban a támadókat kell kint tartani. Itt az is kérdés, hogyan viselkedik maga a rendszer, akkor is, ha senki sem támadja.

Hogyan működik

  1. Kockázatfelmérés: a fejlesztők végiggondolják, mi romolhat el, a rossz tanácstól a visszaélésen át az önállóan hibázó agentig.
  2. Tanítás és célok összehangolása: a modellt úgy tanítják, hogy kövesse az emberi szándékot és bizonyos kéréseket utasítson el.
  3. Tesztelés: kiadás előtt szakértők szándékosan megpróbálják rávenni a rendszert a rossz viselkedésre, hogy a gyenge pontok még időben kiderüljenek.
  4. Védőkorlátok: szűrők, jogosultsági határok és emberi jóváhagyás kerül a rendszer köré, például az agent fizetés vagy törlés előtt megkérdez.
  5. Megfigyelés és javítás: éles használat közben naplózzák a működést, gyűjtik az incidenseket, és ezek alapján javítják a modellt és a szabályokat.

Példa a mindennapokból

Megkérdezed a chatbotot, hogyan vegyél be egyszerre több gyógyszert, mire az figyelmeztet a veszélyre, és orvoshoz irányít. Vagy megkérsz egy agentet, hogy rendezze a postafiókodat, és az a levelek végleges törlése előtt megerősítést kér tőled. Mindkettő mögött AI-biztonsági munka áll.

Kit érint

mindenkiHa AI-tól kérsz tanácsot egészségről, pénzről vagy jogról, a biztonsági munka nagyban befolyásolja, mennyire bízhatsz a válaszban.
vállalkozó, vezetőHa AI-t vezetsz be a cégedbe, te felelsz azért, hogy ne szivárogtasson adatot, ne tévessze meg az ügyfelet, és megfeleljen az előírásoknak.
fejlesztőNeked kell beépítened a jogosultsági határokat, a teszteket és az emberi jóváhagyást, mielőtt egy agent éles rendszerekhez fér. → Kód
szülő, diák, tanárA gyerekek által használt AI-eszközöknél a biztonsági beállítások határozzák meg, milyen tartalommal találkozhatnak. → Oktatás és család

Gyakori félreértés

TévhitAz AI-biztonság a filmekből ismert, öntudatra ébredő gyilkos robotok elleni védekezésről szól.
ValójábanA munka nagy része ma hétköznapi gondokkal foglalkozik: téves válaszokkal, visszaéléssel, adatszivárgással és a túl nagy önállóságot kapó agentek hibáival. A távolabbi, nagy léptékű kockázatok kutatása is része a területnek, de nem az egésze.

Korlátok és kockázatok

Hasonló, de nem ugyanaz

Kapcsolódó fogalmak

Tágabb

Mesterséges intelligencia, Megbízható AI, AI-irányítás

Szűkebb

Célösszehangolás, Védőkorlátok, Red teaming, Emberi felügyelet, Értelmezhetőség

Rokon

AI-etika, AI-kiberbiztonság, EU AI-rendelet, Hallucináció, Prompt injection

Röviden a története

A terület mérnöki megalapozásának fontos állomása a 2016-ban megjelent „Concrete Problems in AI Safety” című tanulmány, amely gyakorlati kutatási kérdésekre bontotta a témát. A nagyközönség és a politika figyelmét a 2023 novemberében, a brit Bletchley Parkban tartott első nemzetközi AI-biztonsági csúcstalálkozó irányította rá.

Hol tart most

2026 végére a nagy fejlesztők rendszeresen tesztelik és dokumentálják modelljeik kockázatait. Az EU AI-rendelete 2024-ben hatályba lépett, a szabályai pedig lépcsőzetesen válnak kötelezővé. A biztonsági módszerek azonban még nem tartanak lépést a képességek fejlődésével, különösen az önállóan cselekvő agentek terén.

Állapot: 2026. november

A hírekben

44 Agent Age-sztoriban fordul elő; a görbe a hírmagazin heti előfordulása.

Más nevei

AI-biztonság · MI-biztonság · AI safety · a mesterséges intelligencia biztonsága · biztonságos MI · biztonságos AI · AI-biztonsági kutatás · safe AI

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.