Deepfake is een combinatie van deep learning en fake (nep). In 2018 maakte de Amerikaanse nieuwssite Buzzfeed een overtuigende deepfake video, waarin de comedian Jordan Peele Barack Obama de wereld liet toespreken:
Deepfake is een ideaal instrument voor oplichting. In de filmindustrie wordt veel gewerkt met kunstmatige intelligentie om special effects te produceren met software. Dergelijke software maakt het maken van een deepfake filmpje steeds toegankelijker.
Jaren geleden werd er reeds voor gewaarschuwd, vorig jaar schreef Trouw er nog een artikel over. Professor Theo Gevers, hoogleraar Computer Vison aan de Universiteit van Amsterdam, bevestigt in dat artikel dat de techniek een bedreiging is. “Als je echt niet meer van nep kunt onderscheiden, kun je niet meer uitgaan van de waarheid. Dan heb je wel een probleem.”
Computable publiceerde in april 2020 over een onderzoek, waarin security-experts aangaven wat volgens hen in de komende periode de grootste bedreigingen zijn. Naast Spear Phishing is Deepfake is daar één van. Mediawijsheid besteed veel aandacht aan nepnieuws, ook deepfake komt aan bod in “Zien is geloven”.
Meer lezen? Trendwatcher Jarno Duursma (Studio Overmorgen) heeft er een rapport over gepubliceerd. Quizje doen? De eerder genoemde Professor Gevers heeft deze samengesteld op de Deepfact-site, waarop je ook nog veel informatie vindt over deepfake.
Geloofwaardig
Computerwetenschappers van het Massachusetts Institute of Technology (MIT) hebben meer dan een half jaar gewerkt aan een deepfake video van voormalig presiedent Richard Nixon. De video maakt deel uit van het project ‘In Event of Moon Disaster’ (https://moondisaster.org). In de video kondigt Richard Nixon aan dat de missie van de Apollo 11 naar de maan uitgelopen is op een ramp. Ze willen met het project aantonen dat deepfakes inmiddels zeer geloofwaardig kunnen zijn en kunnen leiden tot maatschappelijke onrust.
Bij een onderzoek van de Universiteit van Amsterdam bleek dat 132 van de 140 mensen ‘er vol intrapten’, slechts 8 mensen twijfelden aan de echtheid van het filmpje. Terwijl het filmpje niet perfect was, je kon zien dat de lippen soms gek bewogen. Gemanipuleerde filmpjes kunnen er toe leiden dat mensen negatiever gaan denken over een persoon, bijvoorbeeld een politicus.
De techniek wordt door Gartner geschaard onder ‘digital me’, een van de vijf opkomende innovatieve technologieën. In Computable staat een (waarschuwend) pleidooi voor het combineren van technologie met beleid en bewustwording. “Alle nieuwe toepassingen gaan hand in hand met een grote behoefte aan solide wetgeving. Er moeten grenzen zijn aan de mate waarin we technologie gebruiken, en er moeten kaders zijn die ons helpen om nep van echt te onderscheiden.” Niet alleen moeten er tools komen om nepvideo’s te kunnen detecteren, maar ook moet het grote publiek voorgelicht worden over het herkennen van deepfakes en nepnieuws, zoals scholen in Frankrijk dat doen.
