A pornótól a Trónok harcáig – mutatjuk a deepfake videók hosszú menetelését

A pornótól a Trónok harcáig – mutatjuk a deepfake videók hosszú menetelését
Barack Obama, Mark Zuckerberg, Gal Gadot és még sokan mások. Egyesek pedig már a választásokat féltik a deepfake videóktól. Nézzük, miről is van szó!

A deepfake az a manipulációs technika, melynek eredményeképpen egy videó szereplői olyan dolgokat mondanak, illetve csinálnak, amiket a valóságban nem tettek. Idén több ilyen munka is átszakította a mainstream korlátait, gondoljunk itt első körben a Nancy Pelosi-ról, az Amerikai Egyesült Államok képviselőházának elnökéről készült videókra, melyekben a politikust először részegnek, később demensnek próbálták beállítani. Pár fokkal kifinomultabbak a Mark Zuckerbergről készített, hasonlóan hamis felvételek, melyekben a Facebook vezére arról beszél, hogy a valódi célja a személyes adataink eltulajdonítása.

A fentiekhez képest inkább már a humor kategóriájába esik az a videó, amikor a Trónok Harca sorozat egyik főszereplő karaktere, Havas Jon kér elnézést a sok rajongó szerint elég gyalázatosra sikerült záróévadért. Na de honnan is indult mindez?

Természetesen a pornó volt ennek is a keltetője, hiszen ebben a szerteágazó műfajban külön zsáner foglalkozik a félreérthetetlen szituációkban képen, illetve videón viszontlátott hírességekkel, melyek nagy része jobb-rosszabb hamisítvány. Nem csoda tehát, hogy azok, akik rajta vannak ezen a vonalon, minél hitelesebb és élethűbb képeket, illetve videókat akartak látni, így csak idő kérdése volt, hogy mikor érünk el a technikai fejlettség azon szintjére, amikor ez lehetővé válik, hiszen a szándék maga nagyjából egyidős a pornográfiával.

Deepfake a Reddittől!

Maga a deepfake kifejezés is a Reddit fórum egyik felhasználójától ered, aki saját állítása szerint egy olyan algoritmust fejlesztett ki, amelyik képes a hírességek arcát élethűen pornójelenetek szereplőire montírozni.

2017-ben jött el ennek az ideje, ez az az időpont, amitől egyre nehezebbé vált megkülönböztetni a hiteles videókat a hamisított verzióktól és nagyjából ekkoriban vált az is nyilvánvalóvá, hogy a kezdeményezés nem marad meg a pornográfia keretein belül, hiszen a deepfake-ből az egyik rokonszakma, a politika is profitálni kívánt. Ettől kezdve indultak terjedésnek azok a videók, ahol már nem az számított, hogy a híresség mit tesz éppen és kivel/mivel, hanem, hogy mit mond.

Deepfake a Google-től

További jelentősége az új jelenségnek, hogy ez volt az első alkalom, amikor bebizonyosodott, hogy nincs többé szükség teamre meg bonyolult gépparkra egy hiteles hamisítvány elkészítéséhez, elég egy kreatív ember és az ő számítógépe hozzá. A Vice újságírója, Samantha Cole több deepfake videó-készítőjével is beszélt, akik azt állították, hogy olyan nyílt forráskódú programokat használnak, melyek egy részét a Google teszi elérhetővé (ilyen pl. a TensorFlow) végzős egyetemi hallgatók, kutatók, illetve bárki más számára, akiket valamennyire is érdekel a gépi tanulás.

Ahogy fentebb is írtuk, az a gyakorlat, hogy celebek fejét montírozták rá pornóvideók szereplőire egyáltalán nem volt nóvum, itt valójában a folyamat sebessége és a végeredmény minősége okozott meglepetést. A Vice-nak nyilatkozó Alex Champandard Mesterséges Intelligencia-kutató úgy foglalta ezt össze, hogy egy deepfake elkészítése egy mezei, fogyasztói szintű videókártyával sem több, mint pár óra.

Deepfake az MI-tól

A legfontosabb része a technológiának a Mesterséges Intelligencia, ugyanis ő felel az élethűségért. Korábban azért voltak könnyen kiszűrhetők a videómanipulációs kísérletek, mert amikor az ember kézzel animálja rá az egyik arcra a másikat, abban előfordulhatnak hibák, egy természetellenesnek ható fejmozdulat, esetleg arcvonás gyorsan lebukáshoz vezethet. Ebben az esetben azonban az MI órákon át tanulmányozza és sajátítja el a célszemély mozgását és mimikáját, így a végeredmény szinte tökéletes lesz.

Az elsődleges problémát az ilyen típusú videók esetében értelemszerűen a beleegyezés hiánya, valamint a potenciális zsarolhatóság kérdése jelentette, arról nem is beszélve, hogy a hatalommal rendelkezők mihez kezdenének egy ilyen fegyverrel a kezükben.

Deepfake Obamáról

Még 2017-ben, hónapokkal a pornós deepfake-ek feltűnése előtt a Washingtoni Egyetem kutatói nyilvánosságra hoztak egy videót, amin egy számítógépekkel generált Obama elnök beszélt. Bár a szándék az ebben rejlő veszélyekre való felhívás volt, azonban maga a tény, hogy tudósok készítették egy laborban mégis segített tompítani valamicskét a veszélyérzeten, hiszen mégsem egy bárki által a sufniban összedobható dologról volt szó. Ezen változtatott a jelenség felhasználói szintű megjelenése.

Olyannyira, hogy 2018-ban már egy kifejezetten deepfake videók gyártására alkalmas applikáció is megjelent, ez volt a FakeApp, ami lényegében elhozta a knowhow-t a tömegeknek.

(via Business Insider)

Kövesd az oldalunkat a Facebook-on és a Twitteren is!