Lezen op zaterdag (40) – Gezichtsherkenning

Aflevering 40 van onze onregelmatige weekendbijlage, onze eigen kleine bijdrage aan de information overload. Met deze keer een ‘special’ gewijd aan gezichtsherkenning.
Heb je zelf aanvullingen of suggesties? Voeg ze hieronder toe in de comments.

San Francisco wil gewoon goed politiewerk

We beginnen uiteraard met het goede nieuws. San Francisco is de eerste stad in de Verenigde Staten die het gebruik van gezichtsherkenning door politie en andere gemeentediensten heeft verboden. De zogenaamde Stop Secret Surveillance Ordinance zegt letterlijk dat “de neiging van gezichtsherkenningstechnologie om burgerrechten en burgervrijheden in gevaar te brengen vele malen zwaarder weegt dan de vermeende voordelen. (…) We kunnen goed politiewerk hebben zonder een politiestaat te zijn.” Burgerrechtenbeweging ACLU spreekt over historische wetgeving. “We applaud the San Francisco Board of Supervisors for bringing democratic oversight to surveillance technology, and for recognizing that face surveillance is incompatible with a healthy democracy.” De Electronic Frontier Foundation spreekt van “a historic step forward in the fight for privacy”. Ook andere Amerikaanse steden overwegen ondertussen een verbod op het gebruik van gezichtsherkenningstechnologie.

Microsoft weigert te leveren

Ook goed nieuws is dat Microsoft een verzoek heeft afgewezen om gezichtsherkenning te installeren in auto’s en draagbare camera’s van de politie in de Amerikaanse staat Californië. Directeur Brad Smith gaf aan dat die gezichtsherkenning voornamelijk getraind werd op foto’s van blanken en mannen en dat die dus zou kunnen leiden tot een oneerlijke profilering van vrouwen en minderheden. Het plan van de politie was om een gezichtsscan te doen bij verkeerscontroles, om te zien of de chauffeurs ook in een database van verdachten zaten. Door een onevenwicht in de database zouden er echter vaker fouten gebeuren met vrouwen en minderheden, waardoor die ook vaker zouden worden opgepakt ter verhoor.

Privacy? Niet meer in Londen

In Londen gaat het dan jammer genoeg weer de verkeerde weg op. Daar deed de politie een test met camera’s met gezichtsherkenning. Officieel heet het natuurlijk dat “mensen die liever niet gefilmd worden niet méér verdacht zijn dan anderen.” Dat draaide in realiteit wel even anders uit; zoals een cameraploeg van de BBC toevallig kon filmen. Een voorbijganger kreeg tijdens de test meteen een boete van de Londense politie omdat hij zijn gezicht verborg in zijn trui.

Ze vonden het in Londen wellicht niet de moeite om even naar de Welshe collega’s te luisteren. Die haalden bij het gebruik van software voor gezichtsherkenning bij een voetbalmatch een faalpercentage van maar liefst 92%.

Fout, fouter, gezichtsherkenning

Waarom San Francisco het bij het juiste eind heeft en Londen de bal compleet mis slaat, blijkt ook uit verschillende wetenschappelijke onderzoeken. Die wezen uit dat de huidige technieken meer false positives geven bij bepaalde bevolkingsgroepen. Facial Recognition Is Accurate, if You’re a White Guy. Onderzoekers maakten vorig jaar bekend dat de gezichtsherkenningstechnologie die door bedrijven als Amazon en Microsoft ontwikkeld werd, hogere foutenpercentages voor vrouwen met een donkerder huidskleur heeft. Het National Institute of Standards and Technology (pdf) gaf dan weer aan dat er bij sommige software meer valse negatieven waren bij mannen met een lichtere huidskleur.

De permanent gecontroleerde shopper

Jammer genoeg stopt het gebruik niet bij bij politie en andere overheidsdiensten. Alfred Ng klaagde bij CNET de wildgroei aan gezichtsherkenning in winkels en dergelijke aan. “There are hundreds of stores using facial recognition — none that have any rules or standards to prevent abuse.” Zijn verslag klinkt zo’n beetje als het wilde westen van de technologie. “Unless we really rein in this technology, there’s a risk that what we enjoy every day — the ability to walk around anonymous, without fearing that you’re being tracked and identified — could be a thing of the past.”

Er zijn overigens wel meer landen waar winkels gebruik maken van gezichtsherkenning. In Nederland gebruikte een Jumbo-supermarkt gezichtsherkenning om winkeldieven te detecteren. In de winkel hangen 80 camera’s die zijn gekoppeld aan servers met gezichtsherkenningstechnologie. Beelden van mensen die op diefstal zijn betrapt worden bewaard in een database. In Groot-Brittannië willen supermarkten dan weer nagaan of je oud genoeg bent om alcohol te kopen.

En een #fail

Dat het daarbij regelmatig fout loopt, hoeft niet te verwonderen. In de Verenigde Staten bijvoorbeeld heeft de achttienjarige Ousmane Bah een rechtszaak tegen Apple aangespannen waarin hij 1 miljard dollar van de techgigant eist. De man werd door Apples gezichtsherkenningssysteem onterecht gearresteerd voor diefstallen in Apple Stores.

Op de luchthaven

Uiteraard kunnen luchthavens bij dat alles niet achterblijven. De Amerikaanse autoriteiten gaan de komende jaren op bijna alle vliegvelden gezichtsherkenning inzetten om vertrekkende luchtvaartpassagiers te controleren. Eind vorig jaar waren op vijftien locaties al zogenaamde “biometric exit solutions” aanwezig, waarbij meer dan twee miljoen passagiers op 15.000 vluchten werden gecontroleerd. ACLU en andere privacygroepen reageren afwijzend. “These are programs that have such an extreme effect on people’s rights and a process that’s not transparent.” Hetzelfde verhaal speelt zich af in Australië waar je identiteitskaart steeds meer vervangen wordt door je gezicht. Idem voor Schiphol waar verder wordt proefgedraaid met het boarden van reizigers via gezichtsherkenning. En wellicht op zowat alle luchthavens van enige omvang wereldwijd.

Tot slot

Oh ja, in een paar Zweedse scholen experimenteren ze met de technologie om aanwezigheden bij te houden. Wat uiteraard nog klein bier is vergeleken met die Chinese school waar ze de gezichtsuitdrukkingen van leerlingen monitoren om te zien of ze wel opletten. Waarmee we uiteindelijk toch nog bij koploper China aanbeland zijn, waar de provincie Xinjiang omgetoverd is tot een soort openluchtlaboratorium voor verregaande surveillance. Kijk er bijvoorbeeld deze visuele reportage van New York Times maar op na. Huiveringwekkend én een trend die ook in de rest van het land steeds meer doorsijpelt. Maar eigenlijk wilden we het in deze Lezen op Zaterdag helemaal niet over China hebben. Want doorsijpelen doet het ook steeds sneller voor onze eigen ogen.

Hoeft het na al die voorbeelden nog te verwonderen dat het hier om booming business gaat? De markt voor gezichtsherkenning was in 2018 een kleine 4 miljard dollar waard. Volgens schattingen zou dat tegen 2025 kunnen oplopen tot meer dan 10 miljard dollar.