differenciális adatvédelem (DP)

angolul: differential privacy

haladóterjedő

Matematikai módszer, amely szándékosan adagolt véletlen zajjal éri el, hogy egy statisztikából vagy AI-modellből ne lehessen visszakövetkeztetni egyetlen ember adataira.

Érthetően

Képzeld el, hogy egy osztályban megkérdezik, ki puskázott már. Mindenki feldob titokban egy érmét: ha fej, őszintén válaszol, ha írás, akkor egy második dobás dönti el, mit mond. Egyetlen válaszból sem derül ki semmi biztosat, hiszen bárki hivatkozhat az érmére, az osztály egészéről mégis elég pontos arányt kapsz. Ez a differenciális adatvédelem alapgondolata.

A módszer azt ígéri, hogy az eredmény szinte ugyanaz lesz, akár benne vannak a te adataid az adatbázisban, akár nincsenek. Ha a jelenléted alig változtat a végeredményen, akkor abból rólad sem lehet érdemben megtudni semmit.

Ez más, mint amikor egyszerűen kitörlik a neveket egy táblázatból. A név nélküli adatokból más adatbázisokkal összevetve sokszor újra azonosíthatók az érintettek, a differenciális adatvédelem viszont számszerű, bizonyítható garanciát ad. Az AI-nál azért fontos, mert a modellek néha szó szerint megjegyzik a tanítóadatok részleteit.

Hogyan működik

Először megnézik, mennyit változtathat egyetlen ember adata a kiszámolt eredményen (például egy átlagon vagy egy darabszámon).
Ehhez igazítva gondosan kimért, véletlenszerű zajt adnak az eredményhez: annyit, hogy egy ember hatása eltűnjön benne, de a nagy összkép megmaradjon.
A védelem erősségét egy szám, az epszilon (ε) fejezi ki. Minél kisebb, annál erősebb a védelem, de annál pontatlanabb az eredmény.
Az egy adathalmazra összesen megengedett epszilont adatvédelmi költségkeretnek hívják, és minden újabb lekérdezés fogyaszt belőle. Ha elfogy, nem lehet több kérdést feltenni ugyanarra az adatra, különben a zaj kiátlagolható lenne.
AI-modell tanításakor a zajt a tanulási lépésekhez adják, és korlátozzák, hogy egy-egy példa mennyire befolyásolhatja a modellt (ennek legismertebb módszere a DP-SGD). Így a modell az általános mintákat tanulja meg, az egyéni részleteket sokkal kevésbé.

Példa a mindennapokból

A telefonod billentyűzete megtanulja, milyen új szavakat és emojikat használnak mostanában az emberek, és ezeket javasolja neked is. A gyártó ehhez úgy gyűjt adatot, hogy a te készüléked már zajjal összekeverve küldi el a jelzéseket. Így a divatos szavak kirajzolódnak, de az nem, hogy te mit írtál.

Kit érint

mindenkiA telefonod, a böngésződ és a népszámlálási statisztikák is használhatják, így a te adataidat is védi anélkül, hogy észrevennéd.

beteg, orvosLehetővé teszi, hogy egészségügyi adatokból kutatás vagy AI-modell készüljön úgy, hogy egyetlen beteg kórtörténete se legyen kikövetkeztethető. → Egészség

fejlesztőHa személyes adatokon tanítasz modellt, ezzel csökkentheted annak esélyét, hogy a modell később kiszivárogtatja a tanítóadatokat. → Kód

jogász, állampolgárSegít eldönteni, mikor tekinthető egy adatkiadás valóban névtelennek, de önmagában nem pótolja a GDPR szerinti megfelelést. → Jog

Gyakori félreértés

TévhitHa egy cég differenciális adatvédelmet használ, az adataim tökéletes biztonságban vannak.

ValójábanA védelem erőssége a beállított epszilon értéktől függ, és laza beállítással a garancia szinte semmit sem ér. Ráadásul csak a visszakövetkeztetés ellen véd, az adatlopás vagy a túlzott adatgyűjtés ellen nem.

Korlátok és kockázatok

A védelemnek ára van: minél erősebb, annál pontatlanabb a statisztika vagy gyengébb a modell, és ezt főleg a kis létszámú csoportok adatai sínylik meg.
A „differenciális adatvédelmet használunk” mondat keveset mond, ha a cég nem közli az epszilon értékét és azt, pontosan mire vonatkozik a védelem.
Nem véd attól, amit a statisztika a csoportodról elárul: ha kiderül, hogy a dohányosok kockázata magasabb, az rád is vonatkozik, akár szerepeltél az adatok között, akár nem.
Helyesen megvalósítani nehéz, mert egy apró programozási vagy beállítási hiba észrevétlenül semmissé teheti a matematikai garanciát.

Hasonló, de nem ugyanaz

anonimizálás – A hagyományos anonimizálás eltávolítja vagy elfedi a neveket és más azonosítókat, de nem ad bizonyítható garanciát az újraazonosítás ellen. A differenciális adatvédelem számszerűen korlátozza, mennyit lehet megtudni egy emberről, ezért az anonimizálás egyik lehetséges eszköze.
titkosítás – A titkosítás azt védi, hogy illetéktelen ne férjen hozzá az adathoz, a differenciális adatvédelem pedig azt, hogy a jogosan közzétett eredményből ne lehessen egyénekre következtetni.
föderált tanulás – A föderált tanulásnál az adat a készülékeden marad és csak a modellfrissítés utazik, de ez önmagában nem garantál névtelenséget, ezért gyakran kombinálják differenciális adatvédelemmel.

Kapcsolódó fogalmak

Tágabb

adatvédelem, adatvédelmet erősítő technológiák, megbízható mesterséges intelligencia

Szűkebb

lokális differenciális adatvédelem, adatvédelmi költségkeret, differenciálisan privát tanítás

Rokon

föderált tanulás, anonimizálás, szintetikus adat, tanítóadat, homomorf titkosítás

Röviden a története

A fogalmat 2006-ban vezette be Cynthia Dwork, Frank McSherry, Kobbi Nissim és Adam Smith egy azóta alapművé vált tanulmányban. A Google és az Apple a 2010-es évek közepe óta használja, és az Egyesült Államok 2020-as népszámlálásának közzétett adatait is ezzel a módszerrel védték.

Hol tart most

2026 végén a nagy technológiai cégek és néhány statisztikai hivatal élesben használja, az amerikai NIST pedig 2025-ben külön útmutatót adott ki az értékeléséhez. A nagy nyelvi modellek tanításában még ritka, mert érezhetően rontja a modell minőségét és drágítja a tanítást. Kisebb, teljesen így tanított nyílt modell már megjelent, például a Google VaultGemma modellje 2025-ben.

Állapot: 2026. november

Más nevei

differenciális adatvédelem · differenciális magánszféra-védelem · differenciális privátság · differential privacy · DP · epszilon-differenciális adatvédelem · ε-differential privacy · DP-SGD

Források

A szócikk gépi szerkesztéssel készült és gépi szakmai lektoráláson ment át; a „hírekben” rész az Agent Age sztorijaiból automatikusan frissül.