In een TEDradio uitzending vertelde Cathy O’Neil – wiskundige en auteur van Weapons of math destruction – over algoritmes in een verontrustend en voor iedereen te begrijpen taal, nou ja, Amerikaans. Algoritmes helpen overheden en bedrijven steeds nauwkeuriger over gebaande paden te gaan. Wanneer een racistische wereld, een wereld waarin de armen laag opgeleid zijn en vice versa een manier vindt om met berekeningen te voorspellen hoe de zaken zullen gaan, zullen de zaken gaan zoals ze gingen: op basis van racisme en ongelijkheid.
Een Amerikaanse verzekeringsmaatschappij die met algoritmes vaststelt dat een afro-amerikaanse man een lagere levensverwachting heeft, zal deze man een hoger bedrag laten betalen voor zijn levensverzekering. Hierdoor heeft de man hogere kosten, grotere problemen en daardoor wellicht een lagere levensverwachting. De befaamde self-fulfilling prophecy heeft een heel nieuwe naam: algoritme.
239.942 mensen hebben hier al zeker geen moeite mee. Ze verzekerden zich bij Promovendum, die gewoon hardop adverteert met dit idee: ‘Sinds onze oprichting richten wij ons al op hoger opgeleiden. Op basis van schadestatistieken en jarenlange ervaring blijkt dat zij minder schade maken. Hierdoor kunnen wij onze klanten verzekeringsproducten bieden met een lage premie en uitstekende voorwaarden.’
‘De rijke heerst over de armen; en die ontleent, is des leners knecht,’ meldt Spreuken 22 vers 7.
In mij roert zich een oude behoefte aan rechtvaardigheid die je in de huidige nationale politiek weinig vertegenwoordigd ziet. In de boeken gaat dat wat beter, boedelbakmiljonair en algoritme-enthousiast Wiet de Bruyn liep tegen een hoop bezwaren op. Concernuitgeefster Mizzi van der Pluym heeft zich na dertig jaar bekeerd tot het onafhankelijke uitgeven. Hopen dat dit geen nu noodzakelijke bescheidenheid is die waar zich de kans maar voordoet makkelijk weer terzijde laat leggen.
Cijfermatig voorspellen is vasthouden aan wat is. In elk geval in de literatuur is dat geen goed idee.
—-
Menno Hartman (1971) is uitgever bij Van Oorschot en was redacteur bij Tirade, kookt zich gestaag door kookboeken heen, en droomt altijd over reizen.
