Deep-fake video’s maken gebruik van algoritmen voor het leren van apparaten die bestaande beelden en gecreëerde beelden naar gedokterde video’s brengen. Sommige deskundigen zijn bang dat vervalsingen de desinformatie kunnen vergroten en daarmee geweld, oorlog of genocide kunnen veroorzaken.
Desinformatie en wantrouwen op internet zullen een slechte zaak worden. Snelle ontwikkelingen in deep-learning algoritmen om video- en audiocontent te synthetiseren hebben de productie van “deep fakes” mogelijk gemaakt – zeer realistische en moeilijk te detecteren afbeeldingen van echte mensen die dingen doen of zeggen die ze nooit hebben gezegd of gedaan.
Naarmate deze technologie zich verder verspreidt, zal het vermogen om valse maar geloofwaardige video- en audiomateriaal te produceren binnen het bereik vallen van een steeds groter aantal regeringen, niet-gouvernementele actoren en individuen. Dientengevolge staat het vermogen om leugens te maken met hyperrealistisch, nep bewijs klaar voor een grote sprong voorwaarts.
De reeks potentiële schade die diepe vervalsingen met zich mee kunnen brengen, is verbluffend. Een goed getimede en bedachtzaam gescripte diepe neppe of serie van vervalsingen zou een verkiezing kunnen tippen, geweld kunnen oproepen in een stad die is geprepareerd voor burgerlijke onrust, opstandige verhalen over de vermeende gruweldaden van een vijand kan versterken of politieke verdeeldheid in een samenleving kan verergeren.
De kansen voor de sabotage van rivalen zijn legio, bijvoorbeeld door een handelsdeal te laten zakken door naar een buitenlandse leider te gaan met een diepe nep-bewering om de beledigende ware overtuigingen of intenties van Amerikaanse functionarissen te onthullen.
Het vooruitzicht van een alomvattende technische oplossing is voorlopig beperkt, net als de opties voor juridische of regelgevende maatregelen tegen vervalsingen. Een combinatie van technische, wettelijke en persoonlijke oplossingen kan het probleem helpen oplossen.
Achtergrond: Wat maakt diep fakes anders?
Het creëren van valse video- en audio-inhoud is niet nieuw. Degenen met middelen – zoals Hollywood-studio’s of overheidsinstanties – zijn al lang in staat om redelijk overtuigende vervalsingen te maken. Het “uiterlijk” van de jaren 70-vintage Peter Cushing en Carrie Fisher in Rogue One: A Star Wars Story is een recent voorbeeld.
Het dreigende tijdperk van diepe vervalsingen zal echter anders zijn, omdat het vermogen om hyperrealistische, moeilijk te debunken nep video- en audiomateriaal te creëren zich wijd en zijd zal verspreiden. Vooruitgang in machinaal leren drijft deze verandering. Het belangrijkste is dat academische onderzoekers “generative adversarial networks” (GAN’s) hebben ontwikkeld die algoritmes tegen elkaar plaatsen om synthetische gegevens (de nep) te maken die bijna identiek zijn aan de trainingsgegevens (dwz echte audio of video).
Soortgelijk werk vindt waarschijnlijk plaats in verschillende geclassificeerde omgevingen, maar de technologie ontwikkelt zich ten minste gedeeltelijk in volledige openbaarheid met de betrokkenheid van commerciële aanbieders. Een zekere mate van geloofwaardige fakery is al binnen het bereik van toonaangevende inlichtingendiensten, maar in het komende tijdperk van diepe namaak, iedereen zal het spel op een gevaarlijk hoog niveau kunnen spelen. In zo’n omgeving zou het weinig verfijning en middelen vergen om ravage te veroorzaken. Niet lang vanaf nu zullen robuuste tools van deze soort en diensten voor verhuur om ze te implementeren goedkoop voor iedereen beschikbaar zijn.
De omgeving voor het delen van informatie is zeer geschikt voor het verspreiden van onwaarheden. In de Verenigde Staten en veel andere landen worstelt de samenleving al met stijgende desinformatie als gevolg van de afnemende invloed van kwaliteitsgecontroleerde massamedia en de groeiende betekenis van sociale media als een relatief ongefilterde, veel-naar-veel nieuwsbron. (Vanaf augustus 2017 rapporteerde tweederde van de Amerikanen aan Pew dat ze hun nieuws tenminste gedeeltelijk van sociale media zouden ontvangen.)
Dit is een vruchtbare voedingsbodem voor het verspreiden van diep nep-content. Inderdaad, hoe juister, hoe beter.
Implicaties voor buitenlands beleid
De komst van vervalsingen heeft angstaanjagende gevolgen voor buitenlandse zaken en nationale veiligheid. Ze kunnen krachtige instrumenten zijn voor campagnes voor geheime acties en andere vormen van desinformatie die worden gebruikt in internationale betrekkingen en militaire operaties, met mogelijk ernstige schade tot gevolg. De informatieoperatie tegen Qatar in 2017, die pro-Iraanse opvattingen toeschreef aan de emir van Qatar, illustreert hoe belangrijk frauduleuze inhoud kan zijn zonder geloofwaardige audio en video.
Zo zou er bijvoorbeeld een geloofwaardig diep nep-audiobestand kunnen verschijnen dat lijkt op een opname van president Donald J. Trump die privé met de Russische president Vladimir Poetin sprak tijdens hun laatste ontmoeting in Helsinki, waarbij Trump Poetin beloofde dat de Verenigde Staten bepaalde Noord-Atlantische Oceaan niet zouden verdedigen. Verdragsorganisatie (NAVO) bondgenoten in het geval van Russische subversie. Andere voorbeelden kunnen diepe nepvideo’s zijn van een Israëlische soldaat die een gruweldaad begaat tegen een Palestijns kind, een officieel aanbod van de Europese Commissie om landbouwsubsidies te beëindigen aan de vooravond van een belangrijke handelsonderhandeling, of een Rohingya-leider die geweld tegen veiligheidstroepen in Myanmar bepleit.
Democratie zou ook kunnen lijden. De verspreiding van een plausibele videoclip die een kandidaat afschildert die verachtelijke dingen uiten vierentwintig uur vóór een verkiezing, zou de uitkomst kunnen beheersen. Kortom, diepe vervalsingen zouden effectievere desinformatie-operaties mogelijk maken die vergelijkbaar zijn met Rusland’s inspanningen tegen de Amerikaanse presidentsverkiezingen in 2016. Naarmate de technologie diffuus wordt, zou een groeiende cirkel van niet-statelijke actoren en individuen soortgelijke problemen kunnen veroorzaken.
De uitdaging om de schade te beperken
Er is geen oplossing voor dit probleem, en zeker geen optie om de technologische vooruitgang die diepe vervalsingen mogelijk maakt, terug te draaien. Erger nog, sommige van de meest aannemelijke antwoorden brengen aanzienlijke eigen kosten met zich mee.
Idealiter zou dit door technologie aangestuurde probleem adequaat kunnen worden aangepakt door middel van technologische oplossingen. Maar hoewel sterke detectie-algoritmen opduiken (inclusief op GAN gebaseerde methoden), lopen ze achter op de innovatie die wordt gevonden in het creëren van vervalsingen. Zelfs als een effectieve detectiemethode naar voren komt, zal het moeilijk zijn om een brede impact te hebben, tenzij de belangrijkste platformen voor inhoudsdistributie, inclusief traditionele en sociale media, het gebruiken als een screening- of filtermechanisme. Hetzelfde geldt voor mogelijke oplossingen met digitale herkomst: video- of audiomateriaal kan bij het maken van een watermerk worden voorzien, waardoor onveranderlijke metagegevens worden geproduceerd die de locatie, tijd en plaats aangeven en waaruit blijkt dat er niet met het materiaal is geknoeid. Om een breed effect te hebben, zouden digitale provenance-oplossingen moeten worden ingebouwd in alle apparaten die mensen gebruiken om inhoud te creëren, en traditionele en sociale media zouden die oplossingen moeten opnemen in hun screening- en filtersystemen. Er is echter weinig reden om te verwachten dat er overeenstemming is over een gemeenschappelijke norm voor digitale herkomst, laat staan om te verwachten dat dergelijke technologie op die manier zou worden toegepast.
Een andere optie zou zijn dat het Congres zou ingrijpen in regelgeving die het gebruik van dergelijke technologie dwingt, maar die aanpak zou een mate van marktinterventie met zich meebrengen, in tegenstelling tot alles wat eerder met betrekking tot deze platforms en apparaten werd gezien. Deze optie zou ook het risico inhouden dat innovatie wordt verstikt door de noodzaak om winnaars te kiezen, terwijl technologieën en normen blijven evolueren.
Juridische en regelgevende kaders kunnen een rol spelen bij het oplossen van het probleem, maar net als bij de meeste op technologie gebaseerde oplossingen zullen ze moeite hebben om een breed effect te hebben, vooral in het geval van internationale betrekkingen. Bestaande wetten behandelen al enkele van de meest kwaadaardige vervalsingen; een aantal criminele en onrechtmatige statuten verbieden de opzettelijke verspreiding van valse, schadelijke informatie. Maar deze wetten hebben een beperkt bereik. Het is vaak uitdagend of onmogelijk om de maker van een schadelijke, diepe nep te identificeren en deze kunnen zich buiten de Verenigde Staten bevinden. Buitenlandse actoren die diepe vervalsingen creëren, kunnen worden genoemd en beschaamd, maar de voortdurende gevolgen van de Russische verkiezingsinterferentie in 2016 illustreren de grenzen van die aanpak.
Een andere mogelijkheid is om traditionele en sociale mediaplatforms onder druk te zetten om meer te doen om diepe namaakgoederen te identificeren en te onderdrukken, een vertrouwde propositie in het huidige voortdurende debat over desinformatie en sociale media. Bedrijven zoals Facebook bevinden zich in een knelpuntpositie die geschikt is om de brede verspreiding van schadelijke inhoud te voorkomen. Facebook en een aantal andere platforms hebben gereageerd op de recente druk van het congres door serieus geïnteresseerd te zijn in het verbeteren van de kwaliteit van hun filtersystemen. Toch suggereren prestaties uit het verleden de noodzaak van een dosis scepsis ten opzichte van dergelijke inspanningen.
Socialemediaplatformen zijn lang geïsoleerd van de aansprakelijkheid voor het verspreiden van schadelijke inhoud. Sectie 230 van de Communications Decency Act van 1996 immuniseert online serviceproviders in het algemeen met betrekking tot schade veroorzaakt door door gebruikers gegenereerde inhoud, op slechts enkele uitzonderingen na. Het congres zou platformen sterkere prikkels kunnen geven aan zelfpolitie door die immuniteit te beperken. Het zou bijvoorbeeld de immuniteit van sectie 230 afhankelijk kunnen stellen van de vraag of een bedrijf zich redelijkerwijs heeft ingespannen om vervalste, schadelijke inhoud te identificeren en te verwijderen, ofwel bij het uploaden of na het ontvangen van een kennisgeving nadat het is geplaatst. Een dergelijke wetgevende inspanning zou echter zeker stijf worden ontvangen door bedrijven en degenen die vragen stellen of een dergelijke screening kan worden uitgevoerd zonder een politieke of ideologische vooroordeel op te leggen.
Deep Fakes vereisen niet altijd een massaal publiek om een schadelijk effect te bereiken. Vanuit het oogpunt van nationale veiligheid en internationale betrekkingen, zouden de schadelijkste vervalsingen misschien niet via sociale-mediakanalen kunnen stromen. In plaats daarvan konden ze worden geleverd aan doelgroepen als onderdeel van een strategie van reputatiesabotage. Deze aanpak zal vooral aantrekkelijk zijn voor buitenlandse inlichtingendiensten die de besluitvorming door mensen zonder toegang tot geavanceerde detectietechnologie willen beïnvloeden.
aanbevelingen
De uitdagingen om de dreiging van vervalsingen te verminderen zijn reëel, maar dat betekent niet dat de situatie hopeloos is.
Verbetering van de huidige inspanningen van de National Science Foundation, het Defense Advanced Research Projects Agency (DARPA) en het Intelligence Advanced Research Projects Agency (IARPA) kunnen doorbraken stimulerendie hebben geleid tot schaalbare en robuuste detectiecapaciteiten en digitale herkomstoplossingen. Ondertussen heeft de huidige belangstelling voor het verbeteren van de mate waarin sociale mediabedrijven frauduleuze inhoud trachten te voorkomen of te verwijderen, bedrijven ertoe aangezet om gebruik te maken van beschikbare detectietechnologieën, waardoor verdachte inhoud wordt gemarkeerd voor nader onderzoek, duidelijke waarschuwingen aan gebruikers worden gegeven, verwijderen bekende namaakgoederen, en het delen van dergelijke inhoud in een poging te helpen voorkomen dat het elders wordt gepost (volgens een model dat wordt gebruikt om de verspreiding van kinderpornografie te beperken). Hoewel dat geenszins een complete oplossing is, zou dit allemaal een nuttige stap voorwaarts zijn.
De Verenigde Staten moeten ook hun inspanningen opvoeren om vijandige informatieoperaties te bestrijden die gericht zijn op democratie en sociale cohesie in de VS, of ze nu vervalsingen hebben of niet. Een van de krachtigste instrumenten waarover de Amerikaanse regering beschikt, is het vermogen om gerichte economische sancties te geven. Deze capaciteit is in beperkte mate gebruikt als reactie op Russische verkiezingsinterferentie in 2016. De uitvoerende macht moet duidelijk maken dat zij vergelijkbare maatregelen kan en zal nemen wanneer een buitenlandse mogendheid de Amerikaanse verkiezingsprocessen probeert te verstoren, en dat de reactie zal zijn. vooral robuust als de storing betrekking heeft op frauduleus materiaal in de trant van een diepe neppe. Als de provocatie voldoende ernstig is, zou de Amerikaanse regering cyber-middelen kunnen gebruiken om een dergelijke vijandige buitenlandse informatie-operatie te verstoren.
Voor sommige organisaties en individuen is de beste verdediging tegen vervalsingen het vestigen van zeer geloofwaardige alibi’s met betrekking tot waar ze zijn geweest en wat ze hebben gedaan of gezegd. In de praktijk kunnen politici en anderen met een te beschermen reputatie een verhoogde interesse in life-logging-services hebben. Dergelijke diensten zouden individuen en organisaties van sabotage kunnen isoleren door ervoor te zorgen dat ze kunnen bewijzen waar ze waren en wat ze op elk moment zeiden of deden. Serviceproviders zouden apparatuur voor het vastleggen van apparatuur (zoals kleine camera’s) en gewaarmerkte opslagdiensten kunnen verkopen, vergelijkbaar met lichaamscamera’s voor politieagenten, en deze services integreren met de screeningsmechanismen die worden gebruikt door de grote platforms voor sociale media, waardoor snelle alibi-controle mogelijk is.
Ten slotte is er de eenvoudige mogelijkheid om het publiek bewust te maken van het idee van diepe vervalsingen en het scepticisme van video- en audiobewijs aan te moedigen. Toch brengt deze benadering zijn eigen risico met zich mee – hoe meer mensen twijfelen aan hun ogen en oren wanneer ze worden geconfronteerd met duidelijk bewijs, hoe gemakkelijker het wordt voor leugenaars om betwistbaar bewijs van hun wandaden te betwisten, een verschijnsel dat bekend staat als het dividend van de leugenaar. Degenen die de verantwoording voor legitieme video- en audiobewijzen willen vermijden, kunnen dat scepticisme uitbuiten.
De roep van ‘nepnieuws’ zal de schreeuw van ‘diep nepnieuws’ worden. Problemen zoals afnemende ontvankelijkheid voor het idee van objectieve waarheid – of waarheidsverval – en een groeiende neiging om onwelkom bewijs te verwerpen bestaan al, en een campagne om bewustmaken van het gevaar van vervalsingen zou alleen maar brandstof voor dat vuur zijn. Niettegenstaande deze uitdagingen, moet het publiek er bewust van worden gemaakt dat er sprake is van vervalsingen.
Diepe namaak is een zeer ernstig probleem voor democratische regeringen en de wereldorde. De Verenigde Staten moeten beginnen met het nemen van stappen, beginnend met het vergroten van het bewustzijn van het probleem in technische, overheids- en publieke kringen, zodat beleidsmakers, de technische industrie, academici en individuen zich bewust worden van de vernietiging, manipulatie en uitbuiting die diepzinnige scheppers zouden kunnen veroorzaken. toebrengen.
