De Tijd sprak met James Bridle, computerwetenschapper en kunstenaar. Aanleiding is zijn boek ’New Dark Age. Technology and the End of the Future’. Daarin gaat Bridle in tegen het algemene geloof dat we met het massaal verzamelen en verwerken van data de wereld tot een betere plek maken en ziektes en terreur overwinnen. Het is duidelijk dat Bridle niet de grootste optimist is als het over big data en co. Zelf formuleert Bridle het zo:
“We moeten echt het geloof loslaten dat we mits genoeg data en rekenkracht de toekomst kunnen voorspellen en beheersen. Het is een vorm van nederigheid die de mens kan behoeden voor tragische misrekeningen.”
In het interview geeft hij alvast twee voorbeelden.
“Het ontwikkelingsproces van nieuwe geneesmiddelen wordt volledig gestuurd door big data. Maar wat blijkt: we ontdekken er steeds minder. Het aantal nieuwe medicijnen dat wordt goedgekeurd per miljard dollar dat aan onderzoek en ontwikkeling wordt uitgegeven, halveert elke negen jaar. Die trend is al zichtbaar sinds 1950.”
“Ook de terreurbestrijding wordt niet noodzakelijk beter. De alomtegenwoordigheid van bewakingscamera’s maakt onze straten niet veiliger. Op korte termijn lijken ze een gemakkelijke oplossing, maar de aanpak werkt absoluut niet. Bewaking gebeurt omdat het kan, niet omdat het effectief is. Net zoals bij veel andere toepassingen van automatisering schuiven we de verantwoordelijkheid af op de machine: verzamel het allemaal en klaar het maar uit.”
Bridle verwijst ook naar William Binney, voormalig topmedewerker van de NSA en sedert zijn vertrek fel criticaster van de methodes van de Amerikaanse inlichtingendienst. Binney wijst er telkens weer op dat het massaal vergaren van data door de inlichtingendiensten voor 99 procent nutteloos is.
“Het volume van data overstelpt de analisten en maakt het moeilijker de relevante informatie eruit te filteren en zo specifieke dreigingen aan te pakken. In Amerikaanse rapporten wordt ‘mass surveillance’ beschouwd als niet-essentieel voor het voorkomen van aanvallen. De nuttigste informatie komt meestal van informanten en meldingen van verdachte gedragingen. Van mensen dus.”
Bridle hekelt ook het geloof dat computers en smartphones ons kunnen beschermen, bijvoorbeeld omdat ze zouden helpen onrecht en mistoestanden zichtbaar te maken. Voor Bridle kan het ook omgekeerd werken en het geweld net erger maken.
“Het probleem is niet het toestel of de satelliet op zich, maar het naïeve geloof in de neutraliteit of zelfs de intrinsieke goedheid van technologie. Informatie kan tot een invloedrijk en dodelijk wapen worden gemaakt.”
Niet dat er slechte bedoelingen schuil gaan achter de tech-giganten.
“Essentieel is dat het gaat om grote bedrijven die een soort voorgeprogrammeerd eigenbelang hebben. De Googles en Facebooks van deze wereld kunnen zoveel ethici en moderatoren inhuren als ze willen, hun systeem blijft gericht op zo veel mogelijk rendement voor de eigenaars. Hun belangen zullen nooit afgestemd zijn op de gebruikers van die systemen.”
Tot slot is Bridle ook sceptisch over de recente Europese inspanningen om strenger toe te zien op privacy en databeheer.
“Ik denk dat er goede bedoelingen achter zitten. Maar als je ziet hoe het wordt toegepast, met al die pagina’s met waarschuwingen waar mensen snel voorbijklikken en ongevoelig voor worden … Het systeem blijft uiteindelijk gebaseerd op het verkopen van je data. De Europese regelgeving over databescherming GDPR gaat dat volgens mij niet veranderen.”