Dit is niet altijd een dilemma. Het is uitermate zinvol om de documentaire ‘The Social Dilemma’ te bekijken. Wel een beetje paradoxaal dat we op Netflix deze documentaire kunnen bekijken. Netflix is immers berucht om de manipulatieve wijze waarop je verleidt wordt om te bingewatchen. Via aanbevelingen, door hoe je de app moet bedienen waardoor je eigenlijk al in de volgende aflevering zit voordat je het zelf beseft…
Geen nieuws onder zon
The Social Dilemma gaat onder andere daar over. De manipulatieve algoritmen waarmee je het medium wordt ingezogen, om je te verleiden om maar steeds die smartphone te pakken en op dingen te klikken. Om eerlijk te zijn heb ik niet veel nieuwe dingen gehoord en gezien. C’t Magazine schreef in november 2016 al over ‘Hoe apps je verslaafd maken‘. In het artikel wordt Tristan Harris, die ook in de documentaire geinterviewd wordt, opgevoerd. Hij is techdesigner en voormalig medewerker van Google. Sinds dat hij in 2016 zijn baan bij Google opzegde, is hij actief voor ‘humane technologie’. Smartphones gedragen zich als gokmachines, volgens hem. Met steeds een (kleine) beloning om je aandacht te blijven trekken. Afleiding die ervoor zorgt dat je niet meer toekomst aan datgene wat je eigenlijk wilde doen. In 2018 gaf Janon Lanier, de ‘computer-filosoof’ die ook in de documentaire zit, een interview over hoe social media je leven kunnen ruïneren. In een TED-talk in hetzelfde jaar gaf hij al aan dat het noodzakelijk is het internet opnieuw in te richten.
In de laatste jaren zijn er vele schandalen bijgekomen rondom privacyschendingen en ongewenste beïnvloeding van gebruikers van de platformen. Wij zijn zelf om die redenen al geruime tijd gestopt met Facebook.
Persuasive technology
Het gebruik maken van beïnvloedingstechnieken is al lang onderwerp van wetenschappelijk onderzoek. In april 2020 werd het 15th International Conference on Persuasive Technology georganiseerd, een conferentie over de inzet van dit soort ‘interactieve’ technieken om gedragsverandering te beïnvloeden. Ook bestaat er speciale wetenschappelijke vereniging, The Society for Persuasion and Technology. De psychologie achter de beïnvloedingstechnieken behoort dus niet tot het exclusieve domein van de social media techbedrijven.
Impact wordt zichtbaar in gezin
Ik ben wel erg onder de indruk over de indringende manier waarop de (kwalijke) rol van de sociale media in beeld wordt gebracht. Emerce spreekt van “Techgiganten manipuleren miljarden mensen“. In de documentaire worden diverse betrokkenen (ex-werknemers, zoals Tristan Harris die als ontwikkelaars, programmeurs en managers aan de wieg hebben gestaan van de ‘persuasive technology’) in een wat cleane setting geïnterviewd. Ter illustratie een tussendoor verweven drama in een gezin met scenes die illustreren wat het in de praktijk betekent voor opgroeiende kinderen, die moeten dealen met onzekerheden rondom niet of te weinig ‘likes’ te krijgen. Met een enigszins surrealistische enscenering van een AI-systeem (‘het algoritme‘) van drie operators achter een computerdesk met knoppen waarmee elk individu gevolgd kan worden en gemanipuleerd wordt om online te blijven. En daarna zoomt het beeld uit naar een ‘Matrix‘-achtige moloch, met een ontelbaar aantal containers met in elk een computerdesk met operators van het AI-systeem. Als je nog geen complotdenker bent, dan wordt je er wel een van deze suggesties…
Het dilemma
Alle betrokkenen benadrukken dat de oorspronkelijke bedoelingen goed waren. Maar dat ze te weinig aandacht hadden voor de andere kant van de medaille. Dit komt integer over, maar dat wil niet zeggen dat degenen die het nu voor het zeggen hebben bij deze sociale media techbedrijven integer zijn. Zij houden willens en wetens het huidige businessmodel in stand, met alle kwalijke gevolgen van dien.
“1984” van George Orwell was in de jaren tachtig een eyeopener voor velen hoe de staat individuele burgers in de greep kon houden. De Orwelliaanse samenleving noemen we nu een surveillancestaat. “Das Leben der Anderen” (2006) – ook nog te zien op Netflix – gaf een indringend beeld hoe Oost-Duitsland een heel systeem opgetuigd had om burgers te bespioneren. Daar kwam in 1989 een einde aan.
Klassieker
“The Social Dilemma” gaat een klassieker worden. Complexe materie wordt begrijpelijk in beeld gebracht. Je raakt doordrongen van de ernst van de ‘persuasive technology’ in de social media. De interviews geven een beeld van slimme techneuten die dachten het beste voor te hebben met de maatschappij. Hun producten zouden alles beter moeten maken, maar het tegendeel bleek al snel. Polarisatie, genereren van kliks (clikbait), consumenten zo lang mogelijk verleiden om online contact te houden met het platform en ze zo gerichte advertenties voor te kunnen schotelen, werd het businessmodel.
In de documentaire wordt een angstaanjagend beeld geschetst van een erg gepolariseerde maatschappij met een vergezicht van een burgeroorlog. Waarin mensen vatbaar worden voor complottheorieën omdat ze in hun eigen sociale mediabubbel leven. Nepnieuws gaat zes keer sneller rond dan de waarheid. De social media fungeren zo als aanjager van rare theorieën, en inmiddels is al gebleken dat mensen hierdoor tot allerlei gewelddadige acties kunnen overgaan.
Regulering en notificaties uit!
De betrokkenen in de documentaire geven aan dat regulering noodzakelijk is. Ook geven ze tips, net zoals Tristan Harris in het artikelen in C’t, om je minder te laten afleiden door alle devices om je heen. Zet notificaties uit, gebruik je devices taakgericht en laat je niet afleiden!
Tandeloze toezichthouder?
Er wordt vaak beweerd dat de privacytoezichthouders machteloos zijn tegenover de bigtech reuzen. Boetes doen geen pijn, want er wordt toch genoeg verdiend. Op AGConnect staat echter een opmerkelijk bericht: Facebook dreigt met EU-Exit. Facebook dreigt zijn digitale diensten, waaronder ook Instagram, terug te trekken uit de Europese Unie als privacytoezichthouders de huidige koers aanhouden. Dit blijkt uit documenten die Facebook heeft ingediend bij de Ierse rechtbank. Het gaat om de rechtszaak van het Amerikaanse bedrijf tegen het (voorlopige) oordeel van de EU-privacywaakhond dat datadoorgifte naar de VS niet meer is toegestaan. Volgens de Amerikaanse technieuwssite Vice gaat Facebook ook in de aanval, omdat het een rechtszaak begint tegen de DPC (de voor de EU opererende Ierse privacytoezichthouder Data Protection Commission). Omdat de Privacy Shield-overeenkomst tussen de EU en de VS ongeldig is verklaard, mag Facebook door een voorlopig bevel geen data meer overhevelen naar de VS. Facebook vindt het oneerlijk dat zij eruit gepikt zijn. Naar schatting heeft Facebook in Europe zo’n 400 miljoen gebruikers, dus het is zeer de vraag of ze zich van deze markt gaan terugtrekken.
Hyperpersonalisatie
Het artikel in Emerce over Hyperpersonalisatie geeft een aardig inkijkje over het beïnvloeden van klanten door o.a. Netflix, Spotify en Stitch Fix (moderetailer), door ‘alles dat pixels gebruikt persoonlijk te maken‘. Met een mooi woord noemt men dit het ‘personaliseren van de user experience’, het inspelen op de wensen van de klant. Critici geven aan dat hyperpersonalisatie de bubbel waarin consumenten zitten verder verkleint.
Even terug naar het ‘social dilemma’, dat steeds meer mensen zich bewust zijn van de gevaren van sociale media maar het ook moeilijk vinden de vele voordelen van social media op te geven. Dit is het dilemma, schrijft HP De Tijd in “Online privacy is straks alleen weggelegd voor de rijken“. In het artikel opperen ze dat veel mensen wel een betaald account zouden willen nemen voor een advertentievrij Facebook of Instagram. “Voor adverteerders is het te voordelig om gepersonaliseerde advertenties te plaatsen. Dat is vele malen goedkoper dan algemene advertenties, omdat de groep die überhaupt geen interesse heeft er automatisch wordt uitgefilterd.”, aldus Universitair hoofddocent Innovatiemanagement Thijs Broekhuizen (Rijksuniversiteit Groningen).