Fogalomtár › Jövőkép

p(doom)

A p(doom) egy személyes becslés arra, mekkora eséllyel okoz a mesterséges intelligencia az emberiség számára végzetes, visszafordíthatatlan katasztrófát.

Érthetően

A p(doom) egy százalékban kimondott megérzés: mennyire tartja valaki valószínűnek, hogy a mesterséges intelligencia fejlődése nagyon rosszul sül el az emberiségnek. A „p” a valószínűség (probability) matematikai jele, a „doom” angolul végzetet, pusztulást jelent.

Olyan ez, mint amikor a barátaid megtippelik, mekkora eséllyel esik szét a szombati kerti parti az eső miatt. Egyikük 10 százalékot mond, a másik 70-et, pedig ugyanazt az eget nézik. A szám nem mérés, inkább azt mutatja meg, ki mennyire aggódik, és miért.

A fogalom arra jó, hogy egy nehezen megfogható félelmet röviden, egyetlen számmal lehessen kimondani. Egy kutató vagy cégvezető p(doom)-ja nagyjából elárulja, hol áll az AI-kockázatokról szóló vitában.

Az időjárás-előrejelzéstől vagy a biztosítási kockázatszámítástól abban különbözik, hogy nincs mögötte múltbeli adatsor. Ilyen esemény még sosem történt, ezért a becslés érvekre és feltevésekre épül, nem statisztikára.

Hogyan működik

1. Először el kell döntened, mit értesz „végzet” alatt: az emberiség kihalását, az irányítás végleges elvesztését vagy bármilyen helyrehozhatatlan, civilizációs léptékű kárt.
2. Utána végiggondolod a láncolatot: megszületik-e az embernél okosabb AI, sikerül-e a céljait az emberekéhez igazítani, és lesz-e idő és eszköz a hibák kijavítására.
3. Van, aki minden lépéshez külön esélyt rendel, és ezekből számol, de a legtöbben egyszerűen érzésre mondanak egyetlen számot, sokszor időtávval együtt, például „2100-ig”.
4. A számot kimondod, mások pedig összevetik a sajátjukkal. A valódi vita arról szól, hogy ki melyik lépést látja másként.
5. A becslés nem végleges: új kutatási eredmények, szabályozás vagy egy váratlan technológiai ugrás hatására sokan módosítják a saját értéküket.

Példa a mindennapokból

Kit érint

Gyakori félreértés

Korlátok és kockázatok

• Mindenki mást ért „végzet” alatt és más időtávra becsül, ezért két szám közvetlenül ritkán hasonlítható össze.
• Egyetlen szám elfedi a mögötte álló érvelést, pedig az a lényeg, hogy valaki miért tartja nagynak vagy kicsinek a kockázatot.
• A becslést torzíthatja az érdek és a figyelemkeresés: egy drámai szám jó szalagcím, egy megnyugtató szám pedig üzleti érdeket szolgálhat.
• A távoli katasztrófáról szóló vita elvonhatja a figyelmet a már ma is létező AI-károkról, például a megtévesztő tartalmakról vagy az elfogult döntésekről.

Hasonló, de nem ugyanaz

• egzisztenciális kockázat – Az egzisztenciális kockázat maga a veszély, amely az emberiség fennmaradását fenyegeti, a p(doom) pedig egy erre adott személyes esélybecslés.
• AI-biztonság – Az AI-biztonság kutatási és mérnöki terület, amely a kockázatok csökkentésén dolgozik, a p(doom) csak egy szám, amely a kockázat vélt nagyságát fejezi ki.
• technológiai szingularitás – A szingularitás egy feltételezett fordulópont, amikor a gépi intelligencia fejlődése követhetetlenül felgyorsul, és ennek a kimenetele nem feltétlenül rossz.

Kapcsolódó fogalmak

Röviden a története

A kifejezés AI-kutatók és internetes fórumok félig tréfás szakzsargonjaként indult. 2023-ban, a nagy nyelvi modellek gyors terjedésével került be a szélesebb sajtóba, amikor ismert kutatók és cégvezetők nyilvánosan is elmondták a saját becslésüket.

Hol tart most

2026 végén a p(doom) bevett szófordulat az AI-kockázatokról szóló interjúkban és vitákban, de egységes definíciója és számítási módszere továbbra sincs. A szakértői becslések között változatlanul óriási a szórás.

Állapot: 2026. november

Más nevei

p(doom) · P(doom) · pdoom · p-doom · probability of doom · a végzet valószínűsége · AI-végzet esélye

Források

• Grace et al.: Thousands of AI Authors on the Future of AI (arXiv, 2024)

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.