Is het ethisch wel verantwoord het gebruik van een controversiële technologie als gezichtsherkenning in publieke plaatsen toe te laten? Rosamunde Van Brakel, onderzoeksprofessor Surveillance Studies aan de VUB, stelt de vraag in een opiniebijdrage voor De Standaard. Haar conclusie is dat er dringend nood is aan een publiek debat en een wettelijk kader dat rekening houdt met fundamentele rechten en democratische waarborgen.
Lees de opiniebijdrage bij De Standaard
Waarom is politie zo nonchalant met gebruik van gezichtsherkenning?
Op zaterdag 6 mei 2023 is prins Charles gekroond als de nieuwe koning van het Verenigd Koninkrijk (VK). Dat was een evenement met veel veiligheidsrisico’s. Om met deze risico’s om te gaan, heeft de London Metropolitan Police automatische gezichtsherkenning ingezet als veiligheidsmaatregel. Het zou, volgens professor Criminologie Pete Fussey van de Universiteit van Essex, de grootste operatie met het gebruik van automatische gezichtsherkenning ooit zijn in het VK en waarschijnlijk ook in Europa.
De controversiële technologie scant gezichten in de menigte en vergelijkt deze met een databank van personen die de politie zoekt voor vermeende misdrijven. Ze kan ook veroordeelde terroristen identificeren die zich in de menigte mengen. Maar ze wordt evengoed ingezet om potentiële ordeverstoorders te herkennen en preventief te arresteren. Beelden gingen dit weekeinde de wereld rond hoe de Britse politie republikeinse actievoerders arresteerde nog voor er iets was gebeurd. De politie kon dat doen omdat de Britse regering nog snel wetgeving erdoor had gejaagd om dat toe te laten
Prof. Fussey voerde enkele jaren geleden al een uitgebreide evaluatie uit van een pilootproject van de Metropolitan Police met automatische gezichtsherkenning. De conclusie was dat deze technologie niet significant effectief is voor criminaliteitspreventie en er significante methodologische problemen waren met de manier waarop de technologie werd ingezet.
In België is er ook steeds meer interesse bij de politie- en veiligheidsdiensten voor het gebruik van automatische gezichtsherkenning. In 2019 werd de federale politie op de vingers getikt door het Controleorgaan op de Politionele Informatie (COC) omdat ze op een onwettige manier gezichtsherkenningssoftware uitprobeerde op Brussels Airport.
In 2021 zou de federale politie zijn ingegaan op het aanbod van Clearview AI om de technologie gratis uit te proberen. Ze zou er tussen 100 en 500 keer gebruik van hebben gemaakt, niettegenstaande dat onwettig was. Ook blijkt uit wetenschappelijk onderzoek dat verschillende lokale politiezones in België al geëxperimenteerd hebben met gezichtsherkenningssoftware op publieke plaatsen. Veel van de camera’s die geïnstalleerd zijn in Belgische steden, hebben bovendien de optie om gezichtsherkenningssoftware te gebruiken.
Nonchalant
Waarom is de politie zo happig op en nonchalant met het gebruik van gezichtsherkenning, terwijl er geen evaluaties bestaan die aantonen dat het preventief werkt, en het wetenschappelijke onderzoek er serieuze vragen bij stelt en de mogelijke schade voor individuen en maatschappij steeds duidelijker wordt? Waarom riskeert de politie het vertrouwen van de bevolking te verliezen zonder daar goede argumenten voor aan te halen?
In de VS zijn al verschillende mensen vals geïdentificeerd door gezichtsherkenningssoftware met dramatische gevolgen: opsluiting in de gevangenis, ontslag op het werk met alle psychologische gevolgen van dien, zoals vernedering en trauma en nog meer marginalisatie. Want het gaat hier vooral om mensen van kleur, kwetsbare mensen die al minder kansen in het leven hebben.
Met vele andere heeft het gerenommeerde National Institute for Standards and Technology (NIST) aangetoond dat de vooringenomenheid in gezichtsherkenningssoftware bijzonder problematisch is en leidt tot discriminatie op basis van huidskleur en geslacht. Onderzoek toont aan dat deze technologie ook een impact kan hebben op het recht op vrijheid van vereniging en vrijheid van meningsuiting door de chilling effects die de technologie teweegbrengt bij betogers en activisten, maar ook bij journalisten. Dat wil zeggen dat door de aanwezigheid van de technologie er een soort druk wordt uitgeoefend om af te zien van bijvoorbeeld de vrijheid van meningsuiting of het recht om een kritische mening te uiten.
Natuurlijk is België niet de VS of het VK, maar dit geeft wel een indicatie over de gevaren van het gebruik van deze nieuwe technologie. Momenteel is het gebruik daarvan in België onwettig en er zit ook een kans in dat de komende wet op artificiële intelligentie het gebruik van dit soort automatische gezichtsherkenning op publieke plaatsen verbiedt, tenminste als het aan het Europees Parlement ligt.
Publiek debat
Voordat deze regulering in werking treedt, zijn we echter alweer een paar jaar verder en het is mogelijk dat de finale tekst veel uitzonderingen bevat. Aangezien er veel vraag naar is vanwege de politie- en veiligheidsdiensten, is er dus nood aan een publiek debat en een wettelijk kader in België. Maar hier wringt het schoentje. Want als het wettelijk kader alleen rekening zou houden met de vertaling van de Europese Politie en Justitie-richtlijn in het Belgisch recht, blijven er veel van de aangehaalde risico’s buiten schot aangezien deze vertaling weinig rekening houdt met fundamentele rechten en weinig democratische waarborgen bevat.
Bovendien, blijkt uit criminologisch onderzoek naar de sociale en ethische gevolgen van surveillancetechnologie, beschermt gegevensbeschermingswetgeving en vooral de manier waarop het geïmplementeerd is, in de praktijk ons niet voor alle risico’s. De vraag is dan ook of het ethisch verantwoord is om het gebruik van gezichtsherkenning in publieke plaatsen toe te laten.
Het wordt hoog tijd dat er een publiek debat in België gevoerd wordt over het gebruik van allerhande surveillancetechnologieën en artificiële intelligentie door de politie- en veiligheidsdiensten en dat er geïnvesteerd wordt in good governance-praktijken bij de implementatie van nieuwe veiligheidstechnologieën. Dat zou onder meer inhouden dat er geïnvesteerd wordt in onderzoek naar innovatief beleid en sociale en ethische consequenties van het gebruik van nieuwe veiligheidstechnologie, en dat het beleid over aanbestedingen van nieuwe technologie en toezicht op de politie- en veiligheidsdiensten grondig herzien wordt.
(pdf)