Het gevaar van algoritmes en bots

De voorwerpen waar we gebruik van maken, worden steeds slimmer. Dat is de trend en het lijkt een onvermijdelijke evolutie. Maar Clive Thompson wijst er in Wired op dat dit niet zonder gevaren is.

Our tools increasingly guide and shape our behavior or even make decisions on our behalf. A small but growing chorus of writers and scholars think we’re going too far. By taking human decisionmaking out of the equation, we’re slowly stripping away deliberation—moments where we reflect on the morality of our actions.

Sommige voorbeelden klinken onschuldig, zoals dat van de slimme vork. De vork registreert hoeveel je eet en waarschuwt als je overdrijft. Het is het soort gadget waarmee je kan lachen. Maar tegelijk is het bizar dat iemand de beslissing over zijn of haar eetgewoonten in handen legt van een vork en dat je niet meer zelf moet nadenken over wat je eet. Laat staan over wat de voedingsindustrie produceert. Dixit Evgeny Morozov: “Instead of regulating the food industry to make food healthier, we’re giving people smart forks.”

Heikeler wordt het als we spreken over politiediensten die gebruik maken van een programma als PredPol, datamining software die gebruik maakt van de data over criminaliteit om toekomstige misdrijven te voorspellen. Predpol schiet vooral te hulp waar politiediensten over te weinig geld en te weinig personeel beschikken. Klinkt goed als blijkt dat de misdaadcijfers hier en daar ook effectief dalen. Maar wat betekent het voor een gemeenschap als morele keuzes uitgeschakeld worden en overgelaten aan een algoritme dat de beslissingen stuurt. Thompson: “Efficiency isn’t always a good thing. Tech lets us do things more easily. But this can mean doing them less reflectively too.”

Daarom pleiten Thompson en Morozov voor tools die onze beslissingen niet overnemen maar net het omgekeerde doen: ze kunnen ook voor frictie zorgen. Dergelijke tools maken geen keuzes voor ons, maar dwingen ons net om zelf na te denken, om zelf keuzes te maken. Ze lossen problemen niet op, maar dwingen ons om zelf aan oplossingen te werken op een bijna terloopse manier.  Dat zouden pas slimme voorwerpen zijn, omdat ze de gebruiker slimmer maken en daarmee ook de samenleving.