Február elején a WhatsApp alkalmazáson kezdett terjedni Indiában az a videó, amelyen a kormányzó párt (BJP) elnöke, Manoj Tiwari látható, aki a hindi nyelv haryavni dialektusában kritizálja politikai ellenfelét, Arvind Kejriwalt. A videót 5800 csoportban osztották meg, így 15 millió potenciális szavazót ért el.

Csakhogy a videó nem valódi. A saját törvényhozó gyűléssel rendelkező főváros, Delhi éppen választások előtt áll, és a videóval a városban tartózkodó, nagy számú bevándorló munkást igyekeztek megszólítani, akik a haryavni dialektust beszélik – írja a Vice.

Az eredeti videóban Tiwari bhódzspuri nyelven beszél a szavazókhoz, de a BJP és az Ideaz Factory nevű politikai kommunikációs cég közötti partnerség értelmében a párt már több mint 20 indiai nyelvre képes úgy lefordítani a videókat, hogy a képen szereplő személy szájának mozgása illeszkedjen az elhangzottakhoz.

Vagy akár angolra is.

A videók azzal a deepfake technológiával készültek, amelyet először a hírességekkel újragondolt pornójelenetek, majd különböző (valamiért gyakran Nicolas Cage-központú) szerepcserés Youtube-videók készítésére használtak. A technológia politikai, és ezáltal társadalmi veszélyeire többször felhívták már a figyelmet az elmúlt két évben, egy brit szervezet például a 2019-es választásra készített vizuálisan hihető álvideókat, amelyeken Boris Johnson és Jeremy Corbyn egymásnak kampányolnak.

Az MIT Technology Review szerint bár figyelemfelhívó politikai videók már korábban is készültek, az indiai eset az első, amelyben konkrétan szavazatszerzés céljából manipuláltak digitálisan videókat – még akkor is, ha nem is az ellenfelet lejárató deepfake-ek készültek.

Orosz trollok, netes csalók

A Telegraph már 2018 májusában arról írt, hogy az orosz dezinformációs propaganda ellen harcoló EU-s akciócsoport, az East Stratcom hozzájutott a Kreml-közeli trollok által készített deepfake videókhoz, amelyek a következő lépcsőt jelenthetik az álhírek háborújában. A csoport szerint a videók elsősorban a bevándorlás és a kisebbségek jogainak témái köré épülnek, az egyik nekik is bemutatott videóról például azt írta a lap, hogy Barack Obamát ábrázolja, amint egy lövöldözés után a meleg áldozatokkal szimpatizál, ezt a közösségi médiában a konzervatív-keresztény csoportok között terjesztették az oroszok. 

A deepfake nemcsak a politika, hanem az adathalászat és az internetes csalások területén is forradalmi változásokat hozhat, amennyiben a csalók már nem egységes, előre megírt, messziről felismerhető szövegekkel próbálnak személyes információkat, jelszavakat vagy pénzt szerezni az áldozataiktól, hanem például a közösségi oldalakra eresztett algoritmusok segítségével az ismerőseikről gyűjtött adatok alapján írnak személyes hangvételű segítségkérő leveleket, esetleg AI által hamisított képekkel, videókkal illusztrálják a bajba jutott ismerős helyzetét. 

Kapcsolódó cikkek a Qubiten: