Vorige maand trapte DuckDuckGoose co-founder Parya Lotfi de Deepfakes Debunked reeks af met een blog over de Zelensky deepfake. In dit tweede artikel krijgen we tekst en uitleg over een deepfake waarin Mark Zuckerberg de hoofdrol speelt. Lees snel verder!
‘De toekomst beheren’
“Ik hoop dat ik je kon blijven vertellen dat onze missie in het leven het verbinden van mensen is, maar dat is niet zo. Het enige wat we willen is jouw toekomstgedrag kunnen voorspellen”, zegt de deepfake van Mark Zuckerberg in een video die in 2019 verscheen op Instagram. “Stel je eens voor, één man, met totale controle over de gestolen gegevens van miljarden mensen, al hun geheimen, hun leven, hun toekomst. Ik heb het allemaal aan Spectre te danken. Spectre heeft me laten zien dat wie de gegevens beheert, de toekomst beheerst.”
De macht van Meta
Twee artiesten genaamd Bill Posters en Daniel Howe hebben in samenwerking met CannyAI, een reclamebureau uit Israël, een deepfake gecreëerd van Meta-oprichter Mark Zuckerberg. De video toont Mark Zuckerberg die aan een bureau zit en schijnbaar een sinistere toespraak houdt over de macht van Meta. Het beeld is omkaderd met quotes als “We vergroten de transparantie van advertenties”, zodat het lijkt alsof de video deel uitmaakt van een nieuwssegment.
Geen prioriteit
De grote vraag die destijds bij iedereen heerste was hoe Meta zou omgaan met de deepfake van Mark Zuckerberg op Instagram. Na de virale verspreiding van een gemanipuleerde Facebook-video van Nancy Pelosi, de toenmalige leider van de Democraten in de VS die ‘dronken’ leek in de video, werd Meta gedwongen een standpunt in te nemen over de vraag of neppe beelden op de site mogen blijven staan. In plaats van de video te verwijderen, koos het bedrijf ervoor om er geen prioriteit aan te geven, zodat deze minder vaak in de feeds van gebruikers verscheen. Zodoende werd de deepfake video van zowel Nancy Pelosi als Mark Zuckerberg door het platform behandeld als nepnieuws. In een dergelijk geval wordt de desbetreffende content niet verwijderd, maar krijgt het een minder groot bereik. Meta is door deze keuze, onder meer door de Democraten, hevig bekritiseerd.
Zorgwekkend
De razendsnelle ontwikkeling van de deepfake technologie is zorgwekkend. Tegenwoordig kan men met opensource software deepfakes van zeer hoge kwaliteit genereren, die met het blote oog niet te onderscheiden zijn van echte video’s. Experts voorspellen dat in de nabije toekomst ongeveer 90% van de visuele online content tot zekere mate bewerkt zal zijn. Gecombineerd met het enorme bereik van online (social) mediaplatforms bereiken overtuigende deepfakes een groot publiek in een zeer korte tijd. Hierdoor zal er mogelijk wantrouwen ontstaan in visuele content. Gebruikers zullen niet meer weten wat echt is en wat nep.
Liar’s dividend
Een ander probleem dat hieruit voortkomt is de zogenaamde ‘liar’s dividend’. In theorie zijn er twee verschillende fases waarin dit fenomeen zich manifesteert. Ten eerste kan de beschuldiging van deepfake of nepnieuws informatieve onzekerheid veroorzaken. Na het lekken van een politiek schandaal, zal een burger eerder geneigd zijn om de desbetreffende politicus te beschouwen als een ‘slecht type’. Als de politicus vervolgens een verklaring aflegt waarin hij het verhaal ontkent en vals spel van de oppositie beweert in de vorm van deepfake of nepnieuws, dan kunnen sommige leden van het publiek gaan twijfelen over wat ze moeten geloven.
Deepfake debunked
Voor deze blog heeft DuckDuckGoose de deepfake-video van Mark Zuckerberg geanalyseerd met DeepDetector. De afbeelding hieronder toont hoe het analyseresultaat van een frame van de video eruitziet. Deze deepfake is gemaakt aan de hand van een echte video. In feite zijn alleen de lipbewegingen gemanipuleerd zodat deze gesynchroniseerd zijn met de woorden die uitgesproken worden. De highlights rondom de lippen verwijzen naar de artefacten die zijn ontstaan bij de generatie van deze deepfake.
De audio van deze video is niet geanalyseerd door DuckDuckGoose, maar voor zover bekend, gaat het om een ingesproken geluidsfragment door een stemacteur. In de nabije toekomst zal DuckDuckGoose in staat zijn een deepfake-check uit te voeren op geluidsmateriaal. Het R&D-team is bezig met het ontwikkelen van een hiervoor bestemd algoritme.
Hoe wapen je jouw bedrijf tegen deepfakes?
Het is belangrijk om op de hoogte te zijn van de mogelijke gevolgen die deepfakes kunnen hebben voor ons als individuen en bedrijven. Digitale fraude, online oplichting, phishing-aanvallen en cyberpesten maken al deel uit van het leven van veel mensen en bedrijven. Het lijkt erop dat deepfakes het plegen van dergelijke cybercrime-inhoud verbetert. Een voorbeeld van een aanval is de CEO-fraude. Door het nadoen van (de stem van) de CEO van een bedrijf stelen cyber-criminelen geld of informatie van een bedrijf.
Om jezelf te beschermen tegen een deepfake scam, geldt hetzelfde advies dat algemeen bekend is om toe te passen tegen phishing. Controleer eerst de bron- of afzenderinformatie. De kans is veel groter dat je legitieme informatie vindt op vertrouwde nieuwsbronnen dan op sociale-mediasites. Hetzelfde geldt voor video’s die je via e-mail ontvangt. Bel bij twijfel de organisatie of persoon waarvan je denkt dat deze wordt nagemaakt. Als je een opvallende video krijgt van je bankmanager waarin je wordt gevraagd bankgegevens te sturen, bel dan je bank om te controleren of dit echt is.
Ten tweede, wees op je hoede voor dringende verzoeken zonder goede context. Oplichting berust over het algemeen op mensen die niet de tijd nemen om hun legitimiteit te valideren. En de beste manier om mensen dit over te laten slaan, is door ze een gevoel van urgentie op te dringen.
Tot slot, bedrijven zouden hun interne communicatiekanalen moeten beschermen tegen neppe beelden en audiofragmenten door het toepassen van de juiste technologie. Datastromen zouden preventief gecontroleerd moeten worden op de aanwezigheid van deepfakes. Synthetische media van goede kwaliteit die niet te onderscheiden is door de mens kan worden herkend door speciaal hiervoor ontwikkelde algoritmes.
Bedrijfsleven, bereid je voor…
De populariteit van deepfakes neemt aanzienlijk toe. Maar ook de vindingrijkheid van actoren met kwade bedoelingen die traditionele methodes voor cyberaanvallen aanvullen met nieuwe technologie, maken het noodzakelijk dat het bedrijfsleven zich voorbereid op deze ontluikende risico’s. Wil je meer weten over cybercrime voor bedrijven? Lees dan nu ons ebook Cybercrime op de zaak, waarin twee specialisten op het gebied van cybersecurity je meenemen in de wereld van cybercriminaliteit.