Data en algoritmes zijn niet neutraal (repeat)

De VVSG sprak met de Nederlandse data-expert Mirko Tobias Schäfer. Ze hadden het over de vele mogelijkheden van data en algoritmes. Maar ook over het feit dat deze niet neutraal zijn. Een waarschuwing die niet genoeg kan worden herhaald. Daarom …

“Van data en algoritmes wordt vaak aangenomen dat ze neutraal zijn, maar dat is lang niet altijd zo. Data zouden de nieuwe olie zijn, maar die vergelijking gaat niet op. Data zitten niet in de grond, iemand heeft beslist om bepaalde data te verzamelen en te bewaren en andere niet. Er zit een politieke en ethische component aan vast. Big data raken ons begrip van cultuur, van burgerschap, van democratie.”

Schäfer gaat verder over die politieke en ethische keuze.

“Het bouwen van algoritmes om uitkeringsfraude op te sporen bijvoorbeeld raakt aan fundamentele thema’s, aan de grondbeginselen van ons juridisch systeem en onze maatschappij. Je maakt bij voorbaat alle uitkeringstrekkers verdacht. Dat past naadloos in een lange geschiedenis van overheden die arme mensen in de gaten hielden, hen probeerden te controleren. Als we dat nu vastleggen in algoritmes, komen we er dan later nog wel weer uit?”

“We moeten nu het bewustzijn ontwikkelen dat open standaarden en transparante algoritmes noodzakelijk zijn voor een democratie. Waar staat Europa in dit verhaal? Aan de ene kant zijn er de VS met een libertair begrip van markt, waar bedrijven nu al deze functies overnemen en de algoritmes misschien bedrijfsgeheimen zijn. Aan de andere kant is er China waar de overheid bepaalt wat de bedrijven uit te voeren hebben. Europa moet zelf technologie ontwikkelen waar de checks and balances van democratie gewaarborgd blijven. Als we die technologieën gewoon kopen in de VS of China, kopen we ook het waardesysteem dat erin verankerd is.”

Maar naast dat Europees verhaal is er dus ook het lokaal verhaal. En daar waarschuwt Schäfer dat beleidsmakers dikwijls onvoldoende bewust zijn dat data en algoritmes niet altijd neutraal zijn. Hij pleit daarom voor meer datageletterdheid bij lokale politici. “Ook de wethouder moet weten hoe het algoritme werkt. Hij hoeft het niet te kunnen schrijven, hij moet wel de logica begrijpen, hij moet achter het beslissingsmodel van het algoritme kunnen staan en dat kunnen uitleggen.” Bovendien mogen ze niet in de technocratische valkuil trappen. “Ze mogen niet vergeten dat de data, de processen, de algoritmes moeten passen binnen ons democratisch stelsel, dat datapraktijken verantwoordelijkheid vragen.”