Fogalomtár › Biztonság

AI-kockázat

angolul: AI risk

Az AI-kockázat annak az esélye, hogy egy mesterségesintelligencia-rendszer hibája, félrevezető működése vagy rossz célú használata kárt okoz embereknek, cégeknek vagy a társadalomnak.

Érthetően

Az AI-kockázat nem egyetlen veszély, hanem gyűjtőfogalom: mindaz, ami rosszul sülhet el, amikor mesterséges intelligenciát használunk. Ide tartozik a magabiztosan közölt téves válasz, a hátrányos megkülönböztetés, az adatszivárgás, a csalás és az is, ha egy önállóan cselekvő agent olyat tesz, amire senki nem adott engedélyt.

Gondolj az autózásra. Az autó hasznos, de mindenki tudja, hogy baleset is történhet vele, ezért van fék, biztonsági öv, KRESZ és műszaki vizsga. Az AI-kockázatról ugyanígy érdemes gondolkodni: nem azt kérdezzük, hogy használjuk-e, hanem azt, hogy mi romolhat el, mekkora kár lehet belőle, és mivel előzzük meg.

A kockázat két dologból áll össze: mennyire valószínű a baj, és mekkora a kár, ha bekövetkezik. Egy rossz filmajánló bosszantó, egy rossz hitelbírálat vagy orvosi javaslat viszont súlyos következményekkel járhat. Ezért ugyanaz a technológia az egyik helyzetben alig kockázatos, a másikban nagyon.

Ebben más, mint a hagyományos szoftverek kockázata: az AI viselkedését nem lehet sorról sorra előre megírni és ellenőrizni. Ugyanarra a kérdésre másképp is felelhet, és a hibája gyakran meggyőzően hangzik.

Hogyan működik

1. Azonosítás: összeírják, mire használják a rendszert, kiket érint, és mi mehet félre, a téves választól a visszaélésig.
2. Értékelés: minden veszélynél megbecsülik, mennyire valószínű és mekkora kárt okozna, majd ez alapján rangsorolják őket.
3. Besorolás: a felhasználási terület szerint kockázati szintet kap a rendszer. Az EU szabályozása például tiltott, magas, korlátozott és minimális kockázatú alkalmazásokat különböztet meg, a nagy, általános célú AI-modellekre pedig külön szabályokat ír elő.
4. Csökkentés: védőintézkedéseket építenek be, például emberi jóváhagyást a fontos döntéseknél, tesztelést, szűk hozzáférési jogokat az agenteknek és naplózást.
5. Figyelés: a rendszert élesben is követik, mert a kockázat változik, ha új adat, új felhasználási mód vagy új modell érkezik.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• A kockázatot nem lehet nullára csökkenteni, csak elfogadható szintre szorítani, ezért a „biztonságos AI” ígéretét mindig érdemes fenntartással kezelni.
• A becslések bizonytalanok: a szakértők között sincs egyetértés abban, mely veszélyek a legsúlyosabbak és mennyire valószínűek.
• A hosszú távú, látványos veszélyekről szóló vita könnyen eltereli a figyelmet a már ma is mérhető károkról, és fordítva.
• Minél több önállóságot és hozzáférést kap egy agent, annál nagyobb a kockázat, mert a hibája már nem csak rossz szöveg, hanem tényleges cselekvés: utalás, törlés, elküldött levél.

Hasonló, de nem ugyanaz

• AI-biztonság – Az AI-kockázat maga a lehetséges baj, az AI-biztonság pedig az a szakterület és gyakorlat, amely ezt a bajt megelőzni vagy csökkenteni igyekszik.
• Egzisztenciális kockázat – Ez tágabb fogalom: az emberiség fennmaradását fenyegető bármilyen veszélyt jelenti, például atomháborút vagy világjárványt is. Az AI-ból eredő változata az AI-kockázat legszélsőségesebb szelete.
• Kiberbiztonsági kockázat – A kiberbiztonság a rendszerek elleni támadásokra összpontosít, az AI-kockázat viszont azt is lefedi, amikor támadó nélkül, magától hibázik vagy okoz kárt a rendszer.

Kapcsolódó fogalmak

Röviden a története

A gondolkodó gépek veszélyeire már a számítástechnika hőskorában figyelmeztettek, például Alan Turing az 1950-es évek elején, Norbert Wiener 1960-ban és I. J. Good 1965-ben. A téma azonban sokáig szűk kutatói körök ügye maradt. Széles nyilvánosságot Nick Bostrom 2014-es Szuperintelligencia című könyve, majd a generatív AI 2022 végi berobbanása hozott neki. A NIST 2023 januárjában adta ki kockázatkezelési keretrendszerét, az EU kockázatalapú AI-rendelete pedig 2024 augusztusában lépett hatályba.

Hol tart most

2026 végére az AI-kockázat a szakmai vitákból átkerült a mindennapi cégvezetésbe és a jogba. Az EU AI-rendeletének kötelezettségei lépcsőzetesen válnak alkalmazandóvá: a tilalmak 2025 februárja, az általános célú modellekre vonatkozó szabályok 2025 augusztusa óta érvényesek. A magas kockázatú rendszerekre vonatkozó szabályok bevezetése fokozatos, és az EU egyes határidők kitolását is napirendre tűzte. Egyre több szervezet méri fel rendszeresen AI-rendszerei kockázatait. A legtöbb új kérdést az önállóan cselekvő agentek terjedése veti fel.

Állapot: 2026. november

A hírekben

• Az EKB megvizsgálhatja a bankok adatközpont-hitelezését az AI-kockázat miatt2026. nov. 6. · Pénz
• Az AI-kockázat a biztosításban: Crosby AI-ügyvédi iroda felelősségbiztosítást vett, a kockázat a kiberbiztosításba vándorol2026. nov. 4. · Pénz
• Az Anthropic szerint egyetlen biztosító kapacitása sem fedezné egy AI-katasztrófa kárát2026. okt. 26. · Pénz
• A Bank of Japan, a MAS és a kínai jegybank AI-kockázatokra és stratégiára figyel2026. okt. 20. · Pénz
• A generatív AI rendszerszintű kockázat a jogi szektorban, a biztosítók nem tudják árazni2026. okt. 20. · Jog
• Bankfelügyeletek szigorítják az AI-kockázatok vizsgálatát az USA-ban és Európában2026. okt. 13. · Pénz
• Hálózatbiztonsági viták: Trump rendelete és az AI-kockázat körüli figyelem mellett maradnak a kiberproblémák2026. okt. 12. · Ipar
• A bankfelügyeletek fokozzák az AI-felügyeletet a stabilitási aggályok miatt2026. okt. 12. · Jog

Más nevei

AI-kockázat · MI-kockázat · AI-kockázatok · mesterségesintelligencia-kockázat · a mesterséges intelligencia kockázatai · AI risk · AI risks · AI-veszély

Források

• NIST – AI Risk Management Framework

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.