rendszerszintű kockázatot jelentő általános célú AI-modell (GPAISR)

angolul: general-purpose AI model with systemic risk

szakmaiterjedő

Olyan nagy teljesítményű, sokféle feladatra használható AI-modell, amely az EU szabályai szerint akkora hatású, hogy hibái az egész társadalmat érinthetik.

Érthetően

Az EU mesterségesintelligencia-rendelete (AI Act) külön kategóriába sorolja a legerősebb AI-modelleket. Ezek azok az alapmodellek, amelyekre a csevegőrobotok, a kódoló agentek és több ezer más szolgáltatás épül. Ha egy ilyen modell hibázik vagy visszaélnek vele, a baj minden rá épülő termékben megjelenhet.

Olyan ez, mint a bankoknál a rendszerszinten jelentős intézmények külön kezelése. A kis bankokra is vonatkoznak szabályok, de a legnagyobbakra szigorúbbak, mert a bukásuk az egész gazdaságot megrengetné. Ugyanígy minden általános célú AI-modellnek vannak alapkötelezettségei, a legnagyobbaknak pedig többletfeladatai.

A besorolás nem azt jelenti, hogy a modell veszélyes vagy tiltott. Azt jelenti, hogy a fejlesztőjének előre fel kell mérnie és kezelnie kell a nagy léptékű kockázatokat, például a kibertámadásokhoz nyújtott segítséget, a veszélyes anyagok előállításához adott tanácsot vagy az irányítás elvesztését.

Hogyan működik

A rendelet először azt nézi, hogy a modell általános célú-e, vagyis sokféle feladatra használható és sokféle termékbe beépíthető-e.
Ha a betanításához felhasznált összes számítási mennyiség meghaladja a 10^25 lebegőpontos műveletet, a rendelet vélelmezi, hogy a modell nagy hatású, tehát rendszerszintű kockázatot jelent.
A fejlesztőnek (a rendelet szóhasználatában: szolgáltatónak) ezt legkésőbb két héten belül be kell jelentenie az Európai Bizottságnak. A Bizottság saját döntéssel is besorolhat egy modellt, például a felhasználók száma vagy a képességei alapján, a fejlesztő pedig érvelhet amellett, hogy a modellje mégsem jelent ilyen kockázatot.
A besorolt modell fejlesztőjének értékelnie és támadó szándékú tesztekkel próbára kell tennie a modellt, fel kell mérnie és csökkentenie kell a rendszerszintű kockázatokat, jelentenie kell a súlyos eseményeket, és gondoskodnia kell a megfelelő kiberbiztonságról.
A szabályok betartását a Bizottságon belül működő AI Hivatal ellenőrzi. A mulasztásért a világszintű éves árbevétel 3 százalékáig vagy 15 millió euróig terjedő bírság járhat; a kettő közül a magasabb összeg a felső határ.

Példa a mindennapokból

Egy hazai cég ügyfélszolgálati agentet épít egy nagy amerikai fejlesztő nyelvi modelljére. A modell rendszerszintű kockázatait a modell fejlesztőjének kell felmérnie és kezelnie, nem a cégnek. A cég a fejlesztő dokumentációjából látja, mire képes a modell és mik a korlátai. A saját termékéért viszont továbbra is a cég felel: például jeleznie kell az ügyfeleknek, hogy AI-val beszélnek.

Kit érint

fejlesztőHa ilyen modellre építesz, a szolgáltatótól kapott dokumentáció és a modell korlátai meghatározzák, mit vállalhatsz felelősen a saját termékedben. → Kód

vállalkozó, vezetőBeszállító választásakor számít, hogy a modell fejlesztője teljesíti-e az uniós kötelezettségeit, mert ettől függ a szolgáltatásod megbízhatósága.

jogász, állampolgárEz a kategória jelöli ki, mely AI-fejlesztőktől várhat el az EU fokozott átláthatóságot és kockázatkezelést. → Jog

mindenkiA naponta használt csevegőrobotok mögött jellemzően ilyen modellek állnak, így a szabályok közvetve a te biztonságodat is védik.

Gyakori félreértés

TévhitA rendszerszintű kockázatú besorolás azt jelenti, hogy a modell veszélyes, és az EU be akarja tiltani.

ValójábanA besorolás nem tiltás, hanem többletkötelezettség: a modell használható marad, de a fejlesztőjének szigorúbban kell tesztelnie, dokumentálnia és védenie. Tiltani az AI Act bizonyos felhasználási gyakorlatokat tilt, nem modelleket.

Korlátok és kockázatok

A számítási küszöb durva mérce: egy kisebb számítási igényű modell is lehet nagy hatású, és a hatékonyabb betanítási módszerek miatt a határ idővel elavulhat.
A kötelezettségek a modell fejlesztőjére vonatkoznak, ezért nem garantálják, hogy a modellre épülő konkrét alkalmazás vagy agent is biztonságos.
A megfelelés nagyrészt a fejlesztők saját értékelésein és jelentésein alapul, amelyeket kívülről nehéz teljeskörűen ellenőrizni.
A szabály csak az uniós piacon elérhető modellekre érvényes, és a gyakorlati érvényesítése még alakulóban van.

Hasonló, de nem ugyanaz

nagy kockázatú AI-rendszer – Ott a felhasználási terület a döntő (például munkaerő-felvétel vagy hitelbírálat), itt maga az alapmodell ereje és elterjedtsége.
általános célú AI-modell – Ez a tágabb kategória minden sokoldalú modellt lefed, a rendszerszintű kockázatú csoport ennek csak a legnagyobb hatású szelete, többletkötelezettségekkel.
alapmodell – Az alapmodell műszaki fogalom, a rendszerszintű kockázatú modell viszont jogi besorolás, amelyhez konkrét kötelezettségek tartoznak.

Kapcsolódó fogalmak

Tágabb

általános célú AI-modell, EU AI Act, AI-szabályozás, kockázatalapú megközelítés

Szűkebb

számítási küszöbérték, red teaming, súlyos esemény bejelentése

Rokon

nagy kockázatú AI-rendszer, alapmodell, AI Hivatal, gyakorlati kódex, AI-biztonság

Röviden a története

A kategóriát az EU mesterségesintelligencia-rendelete, az (EU) 2024/1689 rendelet vezette be, amely 2024. augusztus 1-jén lépett hatályba. Az általános célú modellekre vonatkozó kötelezettségeket 2025. augusztus 2-tól kell alkalmazni, a megfelelést segítő önkéntes gyakorlati kódex 2025 júliusában jelent meg.

Hol tart most

A kötelezettségek 2025 augusztusa óta élnek, a Bizottság pedig 2026. augusztus 2. óta bírságot is kiszabhat. A 2025. augusztus 2. előtt forgalomba hozott modelleknek 2027. augusztus 2-ig kell megfelelniük. A gyakorlat még formálódik: a besorolásról, a küszöbértékről és az ellenőrzés módjáról tovább folyik a szakmai vita.

Állapot: 2026. november

Más nevei

rendszerszintű kockázatot jelentő általános célú MI-modell · rendszerkockázatú általános célú AI-modell · rendszerszintű kockázatú GPAI-modell · GPAI with systemic risk · GPAISR · general-purpose AI model with systemic risk · systemic-risk GPAI model · rendszerszintű kockázatú alapmodell

Források

Artificial Intelligence Act (Wikipedia)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.