Surveillance kapitalisme of hoe je favoriete app je begluurt, manipuleert en vermarkt

Surveillance kapitalisme was één van de onderwerpen op de jaarlijkse CPDP conferentie in Brussel over technologische ontwikkelingen, privacy en gegevensbescherming. Wat is surveillance kapitalisme en hoe werkt het? Keltoum Belorf zocht het uit voor De Wereld Morgen.


Google, Facebook, Amazon, Whatsapp, Netflix, het doel van deze tech-bedrijven is niet meer een product of dienst aanbieden waarvoor de consumenten kan betalen. De nieuwe succesformule is een digitaal platform oprichten dat zoveel mogelijk informatie over de gebruikers kan verzamelen. Deze informatie wordt vervolgens geanalyseerd en verhandeld.

Deze nieuwe logica van accumulatie noemt Harvard-professor Shosana Zuboff ‘surveillance kapitalisme’. Ze waarschuwt dat dit  fenomeen een eigen interne logica heeft. We staan er volgens haar niet bij stil dat technologie alles behalve neutraal is. Deze wil niet enkel ons gedrag begluren maar ook manipuleren en voorspellen. Dit zal volgens haar leiden tot een nieuw soort maatschappij.

Professor Zuboff was zelf niet aanwezig op de conferentie maar haar analyses werden uit de doeken gedaan door de verschillende panelleden.

Haar analyse is opgebouwd rond de uitspraken van Hal Varian, chefeconoom bij Google. Hij zette een aantal toepassingen op een rij voor een maatschappij waar de computer meer en meer de tussenschakel vormt van interacties.

Deze toepassingen zijn volgens Varian: dataverzameling en analyse, de ontwikkeling van nieuwe vormen van contracten door betere controle, een zo gepersonaliseerd mogelijke dienstverlening en het gebruik van de digitale infrastructuur om continu te experimenteren op de gebruiker.

Professor Zuboff noemt deze vier toepassingen de bouwstenen van het surveillance kapitalisme.

Slimme apparaten of ‘the internet of things’

Gegevensverzameling en analyse: door de snelle ontwikkeling van ‘the internet of things’ worden apparaten alsmaar slimmer. Vroeger moest je zelf een apparaat bedienen en je besliste welke info je online wil zetten. Nu zijn jouw apparaten met het internet verbonden en kunnen onderling communiceren. Met je smartphone app kan je de tv bedienen, de verwarming aanzetten, terwijl een andere app je voetstappen en calorieverbruik telt en je slaapritme meet. Het voordeel is dat ze voor een groot gebruiksgemak zorgen maar het nadeel is dat al deze data aan iemand doorgegeven worden. Deze data worden volgens professor Zuboff vervolgens verzilverd door het surveillance kapitalisme.

De relatie tussen de gebruiker en pakweg Facebook, Google, etc is volgens Zuboff asymetrisch.  De data worden verzameld zonder formele toestemming of dialoog met de gebruiker. Sommige bedrijven verzamelen eerst de informatie, laten je ondertussen verslingerd geraken aan het gebruiksgemak en vragen pas later om instemming. Een bedrijf zoals Google verzamelt alle mogelijke informatie en bekijkt later hoe deze kan gecasht worden via adverteerders.

Zuboff vindt dat dit surveillance kapitalisme grondig verschilt van de kapitalistische ondernemingen van de vorige eeuw. Die hadden niet zoveel gedetailleerde informatie over de markt en onderhielden nog een relatie met hun werknemers en klanten. Want ze hadden die broodnodig. Maar de huidige technologiebedrijven creëren immense winsten met een fractie aan werknemers en weten meer over jou dan jij zelf. De gebruikers zijn hier het product en niet de klanten.

Instant controle van de gebruiker 

Nieuwe vormen van contracten: het surveillance kapitalisme zorgt ervoor dat ze met haar infrastructuur contracten voor diensten op een heel andere manier kan doen naleven.

Varian gaf het voorbeeld van de autoverzekering. Met de nieuwe elektronica in je wagen zou de verzekeraar je bijvoorbeeld kunnen controleren. Als je te snel/gevaarlijk rijdt kan hij vervolgens je autoverzekeringspremie optrekken of de auto blokkeren als de verzekering niet betaald is.

Nu is een contract gebaseerd op wederzijds vertrouwen en bij nalatigheid is er de rechtbank. Volgens Hal Varian van Google wordt dat allemaal overbodig. Door de permanente controle via gegevensverzameling wordt bij niet-naleving van een contract de dienst gewoon uitgeschakeld. Bedrijven kunnen hun risico’s beperken.

Zuboff stelt dat deze nieuwe vormen van contracten een grote impact zullen hebben op ons huidig politiek en juridisch systeem. Stel dat je door een bepaalde verzekeringsmaatschappij kan geweigerd worden omdat ze via je app te weten zijn gekomen dat je er een ongezonde levensstijl op nahoudt? Bijvoorbeeld continu slecht slaapt of weinig beweegt, …

Gebruiksgemak versus privacy

Personaliseren en aanpassen van de diensten aan de gebruiker: Google verzamelt zoveel mogelijk informatie over de voorkeuren van haar gebruikers om de zoekresultaten en advertenties aan te passen aan wat volgens die verkregen informatie de voorkeuren zijn van de gebruiker. Amazon doet hetzelfde voor boeken, Netflix voor films en series, Spotify voor muziek etc…

De klant geeft privévoorkeuren in ruil voor aangepaste diensten. Een win win situatie vindt Varian van Google. Maar Zuboff benadrukt dat het hier om meer dan enkel gebruiksgemak gaat.

De relatie tussen de gebruiker en Google zijn niet in de wet vastgelegd zoals bijvoorbeeld tussen pakweg de dokter en de patiënt. De dokter weet veel over de patiënt maar de wet bepaalt hoeveel informatie en aan wie de dokter die mag vrijgeven. De gebruiker weet nu niet welke informatie Google allemaal heeft en waarvoor die zal dienen. Zuboff noemt het zelfs een Faustiaans pact. De gebruikers zijn zich niet bewust van wat ze allemaal prijsgeven. En de gebruiker heeft ook geen controle op de mate van privacy die hij/zij wil behouden bij het gebruik van bepaalde diensten. En juridisch zitten we al helemaal in een vacuüm stelt Zuboff.

Stiekem experimenteren of reality mining

Het continu experimenteren op de gebruikers vindt Zuboff een ander kenmerk van het surveillance kapitalisme. De technologische infrastructuur biedt de mogelijkheid om continu en stiekem te experimenteren met de beleving van de gebruikers. Zo kunnen gemakkelijk controlegroepen opgezet worden op basis van locatie, leeftijd en andere profielgegevens om bepaalde reacties te testen. Onlangs werd het voorbeeld van Facebook bekend, die met bepaalde soorten berichten de stemming van haar gebruikers probeerde  te beïnvloeden.

Varian van Google vindt dat soort continue experimenten noodzakelijk om gepersonaliseerde diensten te kunnen leveren. Want enkel gegevens verzamelen geeft onvoldoende inzicht.

Voor Zuboff daarentegen is dit soort van continue experimenteren met gebruikers gevaarlijk en kan men met die informatie ook het gedrag van de gebruikers in de echte wereld beïnvloeden. Om de gebruiker onder controle te houden of om winst te maken. Ze noemt het realitiy mining. Het onderscheid tussen de virtuele infrastructuur en de echte wereld verdwijnt.

Op lange termijn zal dit alles volgens professor Zuboff leiden tot een Orwelliaanse Big Other. Een ongecontroleerde machine die data  verzamelt, gedrag controleert, beïnvloedt, voorspelt en vermarkt. We staan dus voor enorme uitdagingen voor ons democratisch systeem, klinkt het.

Juridisch vacuüm

De panelleden waren het met Zuboff eens dat er dringend moet opgetreden worden om het juridisch vacuüm te vullen. Het echte debat moet volgens een aantal panelleden daarom niet gaan over neutraliteit of encryptie maar over marktconcentratie van deze nieuwe tech-bedrijven én over privacy. We moeten minder focussen op de riolering maar op de structuren die verbonden zijn met deze riolering. We moeten onderzoeken wie wat in handen heeft. Wat is de grootte van een bepaald bedrijf in termen van servers, datasoftware, etc.

Panellid Birgitta Jónsdóttir zit in het Ijslands parlement voor de Piratenpartij en is gespecialiseerd in dat soort wetgeving. Ze riep op om onze wetgeving dringend aan te passen aan de hedendaagse ontwikkelingen van dit zogenaamde ‘internet of things’ en de gevolgen daarvan. Als de wetgeving op dit tempo vooruitgaat zal er een kloof ontstaan met de razendsnelle technologische ontwikkeling en ziet het er somber uit voor onze privacy en onze democratie, klinkt het.


Shoshana Zuboff: Big Other: Surveillance Capitalism and the Prospects of an Information Civilization

Dit artikel verscheen oorspronkelijk bij De Wereld Morgen en is van de pen van Keltoum Belorf. Surveillance kapitalisme of hoe je favoriete app je begluurt, manipuleert en vermarkt