Het zinloze van algoritmes bij surveillance

Het voornaamste argument waarmee overheden het bestaan van surveillance systemen als PRISM of Indect rechtvaardigen, is het terrorisme. Maar zijn de  algoritmes die hierbij gebruikt worden echt wel zo efficiënt als beweerd wordt? CNET France stelde de vraag aan Thierry Berthier, wiskundige en onderzoeker aan de Université de Limoges. Zijn conclusie ligt eigenlijk voor de hand. Een potentieel terrorist hoeft niet meer te doen dan zijn gedrag aanpassen en zich “normaal” gedragen om aan het oog van de surveillance te ontsnappen.

Zowel Indect, dat gegevens van het internet en van bewakingscamera’s combineert om vermeend verdacht gedrag op te sporen, als PRISM dat de NSA toegang verschaft tot de servers van webgiganten om daar te speuren naar terroristen en criminelen, maken gebruik van algoritmes die in de massa aan verzamelde gegevens naar bruikbare informatie moeten vissen. Die algoritmes kunnen soms bruikbaar zijn, maar enkel tot op een bepaalde hoogte. Als het gaat over een goed voorbereide en geplande daad, schieten ze schromelijk tekort. Terroristen kunnen het systeem makkelijk omzeilen door hun gedrag aan te passen en zich “normaal” en dus niet-detecteerbaar te gedragen. De NSA maakt bijvoorbeeld gebruik van sleutelwoorden om na te gaan wie al dan niet verdacht moet worden van terrorisme. Ook Indect analyseert online gesprekken, onder meer op forums. Maar wie weet dat zijn gesprekken gevolgd worden, kan zijn woordgebruik aanpassen en op die manier makkelijk onder de radar blijven.

De voorbeelden die de NSA vrijgaf van 50 terroristische aanslagen die sedert 9/11 verijdeld zouden zijn, bewijzen eigenlijk net de inefficiëntie van dergelijke grootschalige surveillance. In de bekend gemaakte gevallen ging het telkens over potentiële terroristen die men al op andere manieren op het spoor was gekomen en vervolgens op het internet volgde tot ze hun mond voorbij praatten. De verijdelde aanslagen zijn geen argumenten pro PRISM, maar voorbeelden van klassieker speurwerk gecombineerd met stommiteiten van de kant van de verdachten.

De conclusie van Thierry Berthier is dan ook onverbiddelijk: “Momenteel zijn systemen als PRISM of Indect zo goed als nutteloos. Gezien de de sterke vooruitgang op het gebied van artificiële intelligentie, kan er wellicht een dag komen waarop men de onopspoorbaren beter kan opsporen. Maar vroeger dan binnen tien jaar zal dat zeker niet het geval zijn en ook dan zal het nog steeds perfect mogelijk blijven om gedrag en taal aan te passen aan wat door de computers als normaal gepercipieerd wordt en op die manier door de mazen van het net te glippen.”

Ondertussen worden er miljarden euro’s en dollars verspild in naam van ons aller veiligheid, terwijl dat er niets toe bijdraagt. En ondertussen worden we op straat en op het internet gevolgd en moeten we steeds voorzichtiger zijn met wat we zeggen en wat we doen. Met het risico dat het grootste slachtoffer van de surveillance en de veiligheidswaan onze vrijheden worden. Zodat een toekomst zoals die in een kortfilm als Plurality geschetst wordt, steeds minder science fiction wordt.