A pornótól a Trónok harcáig – a deepfake-el száguldunk az igazság utáni világba

A pornótól a Trónok harcáig – a deepfake-el száguldunk az igazság utáni világba
Egy elég kezdetleges manipulációval folytatjuk deepfake történetünk bemutatását, ami azonban odáig gyűrűzött, hogy Mark Zuckerberg az Instán nézheti magát, ahogyan elmeséli, hogyan tör világuralomra a személyes adatok elszipkázásával.

A deepfake videók evolúciótörténetét valahol ott hagytuk abba legutóbb, hogy Obama volt elnököt is elérte a hullám, bár az ő esetében inkább egy figyelemfelhívó gesztusról volt szó, mint rosszindulatú manipulációról.

Nem is kell a deepfake, hogy az USA elnöke is megosztogasson

Azonban nem túlzás azt állítani, hogy 2019 májusában vírusként söpört végig az amerikai netezők között az a videó, amelyen Nancy Pelosi, a Demokrata Párt frakcióvezetője látható és nagyon úgy tűnik, hogy Ms Pelosi bizony erősen ittas állapotban nyilatkozgat benne dolgokat. Bár technikailag ez sem minősült deepfake-nek, mivel annyi történt csupán, hogy egy kicsit lelassították Pelosi beszédét, amivel azt a hatást érték el, mintha a politikusnak botladozna a nyelve.

Mindezektől függetlenül egy hihetetlenül sikeres manipulációról kell beszélnünk ebben az esetben, mivel ez a videó több mint kétmillió embert ért el, még Trump ügyvédje, Rudy Giuliani, New York egykori polgármestere is megosztotta. Ráadásul ez még nem volt elég, hamarosan érkezett egy újabb videó Pelosiról, amit maga az elnök is közzétett a Twitterén.

A Facebook nem szedte le a manipulált videót

Az indulatokat fokozta valamelyest, hogy a nyilvánvalóan hamis videókat a Facebook nem volt hajlandó eltávolítani és eközben a tőlük független fact checkerekre mutogattak. Pelosi neki is ment a közösségi portálnak és azt állította, hogy hamis információk terjedését segítik elő a Facebookon. Ugyan a videó azóta eltűnt a portálról, ám a Facebook továbbra is azt állítja, hogy nem ő törölte le.

Zuckerberg már deepfake pofont kapott vissza

Nem sokkal később a Facebook tulajdonában lévő Instagramon már egy olyan deepfake videó kezdett terjedni, amelyen maga Mark Zuckerberg „ismeri be”, hogy az egész vállalkozása a személyes adatok lenyúlásáról szól. Ezt a videót sem törölték, vélhetőleg a Pelosival való összecsapás és az arcvesztéstől való félelem következményeként. Ezzel azonban a Facebook veszélyes precedenst teremtett a manipulált videókkal kapcsolatosan.

Még 2018 őszén három amerikai kongresszusi képviselő az Országos Hírszerzési Igazgatóság fejéhez, Dan Coatshoz fordult, hogy készítsen egy jelentést a képviselőház és a nyilvánosság számára azokról az új technológiákról, melyek lehetővé teszik a hanganyagok, videók, illetve állóképek rosszindulatú manipulációját. A képviselők különösen amiatt aggódtak, hogy ezeket zsarolásra és dezinformációra fogják felhasználni és azt kérték, hogy a jelentés készüljön el 2018 decemberére.

Ennek persze volt kormányzati előzménye is, a Pentagon Fejlett Védelmi Kutatási Projektek Ügynöksége (DARPA) már 2016 óta dolgozik olyan eljárások kifejlesztésén, melyek alkalmasak arra, hogy kiszúrják a fotó vagy videómanipulációt.

A politika malmai lassan őrölnek deepfake ügyben is

Ezeknek a folyamatoknak lett a következménye, hogy a kongresszus hírszerzési bizottsága 2019 júniusában végre egy hivatalos meghallgatást is tartott a deepfakek ügyében, melyen elhangzott, hogy elkötelezik magukat annak vizsgálata mellett, hogy milyen nemzetbiztonsági kockázatokat rejtenek magukban a Mesterséges Intelligencia által előállított hamis tartalmak és mit kell tenni ezek kiszűréséhez, illetve hogyan lehet harcolni ellenük. Továbbá vizsgálni fogják azt is, hogy milyen szerepet kell ebben játszania a köz- és a magánszférának, valamint úgy általában a társadalomnak ahhoz, hogy elkerüljék a meglehetősen sötétnek tűnő igazság utáni (post truth) világot. A meghallgatáson Schiff képviselő, aki már az eredeti, 2018 őszi indítványozók között is ott volt, arra szólította fel a techcégeket, hogy még a 2020-as választások előtt hozzanak olyan szabályzatokat, amelyekkel megvédhetik a felhasználóikat a dezinformációktól.

Ugyan a jogalkotói szándék nyilvánvaló, ám a deepfakek eltávolítását, illetve kiszűrését célzó meglehetősen vegyes eredménnyel zárultak. A leginkább fertőzött oldalakon, mint a Gfycat, vagy a Pornhub a mai napig találni manipulált videós tartalmakat és a webfelületek üzemeltetői a fogadkozáson kívül kézzelfogható sikereket nem tudtak eddig felmutatni ezen a téren.

Pislogj csak egyet Zuckerberg!

Az egyetlen eddig eredményes módszert egy DARPA által finanszírozott kutatócsoport tudta előállítani és az sem a tuti megoldás, hanem a deepfakek egy gyermekbetegségére alapoz, ami a pislogás hiánya, ugyanis ezt még nem vették bele az MI tananyagába. Magyarán egyelőre ez alapján per pillanat azonosítani lehet a deepfakeket, de ez is csak addig tart, amíg a Mesterséges Intelligencia meg nem tanul pislogni.

Sajnos ugyanígy járt a DARPA által támogatott többi társaság is. Voltak, akik a furcsa fejmozdulatok alapján tudtak elég jó eredménnyel szűrni, ám a mechanizmus hibáinak kiaknázása hosszú távon nem lesz tartható, hiszen amint kiderül egy ilyen séma, azt azonnal megváltoztatják a hamisítók, így egyelőre elég parttalan küzdelemnek tűnik a deepfakek visszaszorítására indított keresztes hadjárat.

Ráadásul, ahogyan ebből az írásból is kiderült, nem minden ördögtől való, ami deepfake, hiszen amellett, hogy valóban lehet vele rosszindulatú videókat készíteni, maga a technológia ugyanígy képes a szatíra, a komédia, vagy egyéb más művészeti forma, vagy a kritika érvényes eszközének is lenni.

Összetett és rejtélyes jelenség ez, ami még egész biztosan sok vitát fog okozni...

(Borítókép: thinkchristian)

Kövesd az oldalunkat a Facebook-on és a Twitteren is!