De Nederlandse democratie wordt binnenkort waarschijnlijk bedreigd door nepberichten, deepfakes en desinformatie, aldus het rapport ‘Digitale dreigingen voor de democratie – Over nieuwe technologie en desinformatie’ van het Rathenau Instituut. Het rapport is geschreven op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties en toont hoe technologie steeds gemakkelijker kan worden misbruikt voor het produceren en verspreiden van desinformatie.
Platformbedrijven verantwoordelijk
De mogelijkheden die technologieën als tekstsynthese, voice cloning, deepfakes, micro-targeting en chatbots aan producenten en verspreiders van desinformatie bieden om internetgebruikers te misleiden, zullen in de komende jaren een steeds grotere rol gaan spelen. Het rapport, een literatuurstudie, pleit voor meer maatregelen om de dreigingen voor het publieke debat en het democratisch proces het hoofd te bieden. Ook bevat het rapport casestudies rond deepfakes (niet van echt te onderscheiden nepfilmpjes) en psychographing (gericht inspelen op de psyche van doelgroepen). In bijlage 4 staat een overzicht van de technologieën. De verschillende technieken om desinformatie te verspreiden dan wel groepen mensen te beïnvloeden worden uitgebreid beschreven. Als je denkt dat dit allemaal wel meevalt, léés deze hoofdstukken in het rapport!
Regulering
Betere detectie van deepfakes, monitoring door platformbedrijven van eventueel misbruik door adverteerders van de mogelijkheden van micro-targeting en een betere facilitering van factcheckers. Technische beschermingsmaatregelen alleen zijn niet voldoende om het misbruik tegen te gaan. De verantwoordelijkheid voor veel van de in het rapport geopperde maatregelen ligt bij platformbedrijven als Facebook, Twitter, YouTube en Instagram. Het rapport stelt dat als de platforms tekort schieten, de overheid met het oog op het publieke belang strenger moet gaan reguleren.
Maatregelen
Het moet gaan om maatregelen die geen inbreuk maken op de vrijheid van meningsuiting en de persvrijheid. Zo worden in hoofdstuk 8 genoemd:
- Maatregelen tegen wijdverspreide deepfakes
- Detectie gemanipuleerd beeldmateriaal
- Waarmerken van beeldmateriaal
- Maatregelen tegen beïnvloeding met micro-targeting
- Breder insteken dan politieke advertenties
- Regulering door platformbedrijven
- Transparantie over aanbevelingsalgoritme
- Maatregelen gericht op besloten en versleutelde kanalen
- Factchecken blijft van groot belang
- Investeren in mediawijsheid blijft van groot belang.
Conclusie in het rapport
Voor veel van de hierboven genoemde maatregelen, ligt de verantwoordelijkheid voor de bestrijding van desinformatie primair bij de platformbedrijven. Voor een aantal van de maatregelen geldt dat ook voor de beheerders van chatkanalen. Als aandringen niet helpt, zouden maatregelen kunnen worden afgedwongen. Die maatregelen kunnen ook ten koste gaan van het verdienmodel van platformbedrijven. Om voldoende gewicht in de schaal te leggen, ligt het voor de hand dat als wordt overgegaan tot het nemen van dwingende maatregelen, dit binnen EU-verband gebeurt.
Manifest
Op 22 oktober 2020 heeft het Rathenau Instituut een manifest gepubliceerd waarin het tien ontwerpeisen aan de digitale samenleving van de toekomst stelt, zoals de mogelijkheid om anoniem te blijven en bescherming tegen manipulatie en beïnvloeding.
Die ontwerpeisen zijn:
- We willen de baas blijven over ons digitale lijf.
- We willen anoniem kunnen blijven.
- We willen controle over onze virtuele identiteit.
- We willen duidelijkheid over nieuwe digitale eigendomskwesties.
- We willen leven in een inclusieve digitale wereld.
- We willen kunnen weten dat iets nep is.
- We willen bescherming tegen manipulatie en beïnvloeding.
- We willen dat onze gezondheid niet geschaad wordt.
- We willen een digitale markt met eerlijke machtsverhoudingen.
- We willen dat publieke ruimtes publiek blijven.
Met de doorbraak van ‘immersieve’ technologieën, zoals augmented reality, virtual reality en spraakcomputers, gaat de digitale samenleving een nieuwe fase in. De fysieke en digitale wereld raken meer dan ooit met elkaar verknoopt. Dat roept urgente maatschappelijke en politieke vragen op. In het manifest stelt het Rathenau Instituut tien ontwerpeisen aan de digitale samenleving van morgen. Het manifest is hier te vinden.
