Het geweldloze totalitarisme van het toezichtkapitalisme

In april 2002 stuitten datawetenschappers van Google op iets vreemds. Bij het bestuderen van de zoekopdrachten van de dag ervoor zagen ze dat de meest gegoogelde vraag van de voorgaande 24 uur een obscure wetenswaardigheid betrof: wat is de meisjesnaam van Carol Brady, televisiepersonage uit de jaren zeventig-show The Brady Bunch? Hun verbazing nam toe met de ontdekking dat de search over een periode van vijf uur elke achtenveertig minuten een piek vertoonde. Nader onderzoek wees uit dat de uitschieters samenvielen met een uitzending van de razend populaire quiz Who Wants to Be a Millionaire? Omdat het programma in de Verenigde Staten in vijf tijdzones werd uitgezonden, leidde de quizvraag elk uur opnieuw tot een stortvloed van nieuwe zoekopdrachten. De ontdekking sloeg in als een bom. Oprichters Sergey Brin en Larry Page zagen voor het eerst dat Google niet alleen een search engine, maar ook een potentiële voorspellingsmachine was, en kregen hierdoor een nieuwe roeping: het commercialiseren van de profetische kracht van de zoekopdracht.

Zeventien jaar later is die missie volgens de Amerikaanse sociaal psycholoog Shoshana Zuboff volledig uit de hand gelopen. In haar boek The Age of Surveillance Capitalism beschrijft de emeritus hoogleraar aan Harvard Business School het ontstaan van een beklemmend economisch paradigma dat zonder toestemming te vragen onze online gegevens opslokt voor computermodellen die ons gedrag beter weten in te schatten dan wij dat zelf kunnen. Dit toezichtskapitalisme heeft zich inmiddels verspreid tot in alle hoeken en gaten van het internet en dreigt nu ook de fysieke wereld te overspoelen. ‘Ik heb het verhaal al honderden keren verteld en het maakt me nog steeds woedend,' zegt Zuboff vanuit haar zomerverblijf in de noordoostelijke staat Maine. ‘Wat Google in essentie heeft besloten is dat onze meest intieme ervaringen geoogst kunnen worden als gratis ruwe grondstof voor software-producten die vervolgens voor grof geld worden verkocht. En het ergste is: we zijn het gaan accepteren. Discussies over internetprivacy beginnen steevast met de vraag wie de rechtmatige eigenaar is van onze gebruikersdata. Bijna niemand vraagt zich af waarom ons gedrag überhaupt in data zou moeten worden gevangen.'

Diepste geheim

Sinds het verschijnen van haar boek reist de 67-jarige Zuboff stad en land af om die passiviteit te doorbreken. Door te waarschuwen, maar vooral door te simpelweg uit te leggen waar big tech zich momenteel mee bezig houdt, want het is juist door gebrek aan transparantie dat het toezichtskapitalisme zo'n hoge vlucht heeft kunnen nemen. Google maakte zijn ondernemingsmodel pas wereldkundig in 2004, toen het bedrijf zich opmaakte voor een beursgang. Het eureka-moment van 2002 bleek de doorbraak in een overlevingscrisis die was ingezet door de dotcom-crash van 2001. ‘Er circuleerden destijds nogal wat ideeën om zoekopdrachten te gelde te maken,' zegt Zuboff. ‘Maar de financiële nood was na het knappen van de internetzeepbel zo hoog dat Googles investeerders het niet meer zo nauw namen met de ethiek. Er moest koste wat kost geld binnenkomen.' De oplossing kwam van wat Zuboff omschrijft als behavioral surplus: ‘Elke zoekopdracht produceert een bepaalde hoeveelheid data die iets zegt over de betreffende computergebruiker. De ingenieurs van Google gebruikten een fractie van die gegevens om hun algoritmes te verbeteren, maar het gros werd weggezet als data exhaust die de servers onnodig belastten.'

Dankzij Who Wants to be a Millionaire beseften ingenieurs echter dat ze op een potentiële goudmijn zaten, en dat de surplus data met de juiste analytische technieken konden worden omgezet in gedetailleerde prognoses, bijvoorbeeld over de vraag of mensen op een bepaalde internetreclame klikten. Dit concept van ad targeting moest volgens Zuboff in het diepste geheim worden geperfectioneerd. ‘Al bij het aanvragen van de eerste patenten wisten ingenieurs dat ze door het combineren van datastromen allerlei dingen over de gebruiker te weet konden komen. Gevoelige informatie die mensen nooit vrijwillig zouden prijsgeven als ze er vooraf over waren ingelicht.' Waarmee Zuboff alleen maar wil zeggen dat toezichtskapitalisme niet zomaar een sexy term is om haar betoog kracht bij te zetten. ‘Surveillance zit ingebakken in het DNA van deze bedrijven. Bespieden is het doel.'

Verklikkers

Het voorspellen van het menselijke gedrag heeft zich inmiddels ontwikkeld tot een miljardenbusiness waarin onze beslissingen, net zoals termijncontracten in olie, staal en vee, als futures worden verhandeld. In deze dystopische wereld treden techbedrijven als Google, Facebook, Microsoft en Amazon op als Big Brother, en is de rest van het internet een potentiële verklikker. Zo ontdekten onderzoekers van de Universiteit van Pennsylvania dat maar liefst 78% van de miljoen populairste websites persoonsgevoelige gegevens naar Google doorsluist. Zuboff: ‘En met het internet of things en kunstmatige intelligentie wordt die trend alleen nog maar extremer. Iemand stuurde me vanochtend een foto van een billboard in Londen waarop een KI-tandenborstel werd aangeprezen. Zelfs mondhygiëne is een vorm van data mining geworden.' En omdat de doorsnee consument geen tijd heeft om de kleine lettertjes te bestuderen (onderzoekers aan de universiteit van Londen concludeerden bijvoorbeeld dat voor een geïnformeerd gebruik van de online termostaat Nest minstens duizend privacy policies moeten worden doorgespit) maken we big tech steeds alwetender. ‘Wat deze markten uiteindelijk verkopen is de belofte van zekerheid. En beste voorspellingen zijn diegene waarvan je de uitkomst kunt sturen.'

Geweldloos totalitairisme

Hiermee is Zuboff aanbeland bij de laatste, en meest angstaanjagende, fase van het toezichtskapitalisme: het omzetten van kennis naar macht, en de overgang van observatie naar gedragsverandering. Ze somt de voorbeelden op: Facebook dat inspeelt op de emotionele stemming van teenagers en hen vlak voor het weekend een crème tegen puistjes aansmeert, navigatie-app Waze die automobilisten een digitale kortingsbon voor een McRib-sandwich doorstuurt zodra ze in de buurt van een McDonalds komen, databedrijf Cambridge Analytica, dat met een barrage aan subjectieve internetboodschappen zowel het Brexit-referendum als de Amerikaanse verkiezingen probeerde (en waarschijnlijk ook wist) te beïnvloeden.

Dergelijke pogingen gaan veel dieper dan manipulatie alleen. ‘Online advertenties kun je negeren,' zegt Zuboff, die niet op Facebook zit, maar overigens wel een Twitter-account heeft. ‘Maar toezichtskapitalisten dringen steeds steeds verder door in ons persoonlijke leven, tot het punt dat ze het systeem gaan controleren. Stel je voor dat straks niet alleen je kredietwaardigheid, maar ook een voorspelling over je uitgavengedrag beslist of je een hogere limiet bij je creditcard-maatschappij kan krijgen. Of dat niet jij, maar je navigatieapparatuur bepaalt waar je gaat en staat. Van een billboard op je dashboard naar een opzettelijke routeomleiding langs de dichtsbijzijnde McDonalds is maar een kleine stap.'

Toezichtskapitalisme heeft wat dat betreft niet alleen de potentie, maar ook het streven om onze liberale democratie de nek om te draaien, aldus Zuboff. ‘Het representeert concentraties van kennis en macht die ons in essentie terugvoeren naar een pre-moderne tijd. Het idee dat je een marktgebaseerde economie kunt koppelen aan politieke vrijheid - dat ideaal ligt nu onder vuur.' Net zoals het industriële kapitalisme een existentieel gevaar vormt voor onze natuurlijke omgeving, zo dreigt het toezichtskapitalisme ten koste te gaan van de menselijke natuur, omdat iedere consument zich dient te gedragen zoals de markt dat van hem of haar verwacht. Dit paradigma zal korte metten maken met de individuele autonomie die noodzakelijk is voor een fatsoenlijk functionerende democratie, aldus Zuboff. Maar omdat het, anders dan andere totalitaire systemen, politiek neutraal is en geen geweld gebruikt, is het niet altijd even makkelijk om de dreiging op waarde te schatten. ‘We hebben het hier niet over fascistische soldaten die je om drie ‘s nachts van je bed lichten om je af te voeren naar een concentratiekamp. Het gevaar komt stilletjes, en met een cappuccino in de hand.'

Sociaal contract

Rest de vraag: wat nu? Als we in staat zouden zijn om de verleidingen van big tech te weerstaan hadden we het toch nooit zo ver laten komen? Zuboff kapt de vraag al af voordat ze volledig is gesteld. ‘Nee, nee, nee. We hadden geen idee wat er aan de hand was, want deze systemen zijn ontworpen om onder de radar te opereren. Bovendien viel de opkomst van ad targeting samen met de anti-terreur wetgeving van het post-elf september tijdperk, waarbij privacy tijdelijk ondergeschikt werd gemaakt aan veiligheid.'

Dat bewustzijn is er nu wèl. ‘Het is niet zozeer dat we gefaald hebben om het toezichtskapitalisme een halt toe te roepen, we hebben het nog niet eens geprobeerd,' aldus Zuboff, die pleit voor een nieuw sociaal contract dat onder meer ons begrip van privacyrechten versterkt, de markt in menselijke futures aan banden legt en big tech in hun macht beknot. Een gigantische klus, zo geeft ze onmiddellijk toe, waar we als smartphone-gebruikers ook een persoonlijke verantwoordelijkheid voor dragen. ‘Maar mijn God, we zijn hier al eerder geweest. Monopolies als Standard Oil en US Steel konden begin vorige eeuw óók doen en laten wat ze wilden, en die hebben we eveneens weten te breken.'