Zou de uitvinder van het wiel krediet hebben gekregen van een algoritme? Die vraag kwam bij me op na het lezen van een artikel in de Volkskrant over de rol die Artificiële Intelligentie (AI) steeds meer gaat spelen bij het nemen van beslissingen. Bij een kredietaanvraag wordt niet alleen gekeken naar de betaalhistorie van iemand, maar ook: “‘niet-financiële data’ over het gedrag van potentiële kredietnemers, zoals startende ondernemers. Dat zijn vragenlijsten, maar ook gegevens die afkomstig zijn van de socialemedia-accounts van klanten of van hun zoekgeschiedenis.” De kredietaanvrager moet daar natuurlijke ‘toestemming’ voor geven. Probleem is alleen dat geen toestemming geven geen krediet betekent.  

Illustratie: Flickr

Wat zegt een database met gegevens over de toekomst? Zelfs als die, als dat al mogelijk is, ‘zuivere gegevens’ bevat? En vooral wat zegt een database over de toekomst van één individu? Wat de AI doet is niets anders dan kans berekenen en daarbij gebruik maken van gemiddelden: mensen die X doen, doen in zes van de tien gevallen ook Y. En dat over heel veel gegevens. Dat zegt niets over één persoon die X doet. Hoe eerlijk en rechtvaardig is het om die persoon te beoordelen op alle eerdere personen die X deden?  

Terug naar mijn vraag met betrekking tot de uitvinder van het wiel. Laten we er even vanuit gaan dat het grote probleem uit het artikel is opgelost. Dat zijn de gegevens waarin de AI zoekt. Want: “kunstmatige intelligentie gedraagt zich wat dat betreft behoorlijk voorspelbaar: als je er rommel instopt, komt er ook rommel uit.”  Nee, de data zijn perfect. De ‘wielenman’ is, net als bijna alle uitvinders een mens die afwijkt van het normale. De ‘wielenman’ kan trouwens ook een vrouw zijn. Een man met ‘wilde ideeën’ en daarover schrijft op zijn sociale media accounts. Reageert op anderen die niet vernieuwend zijn en die anderen reageren ook op zijn ideeën. Dat gaat er soms wild aan toe en ook toen golden: “twee bekende (internet)wetten: Godwin en Sturgeon. De wet van Godwin luidt: ‘Naarmate onlinediscussies langer worden, nadert de waarschijnlijkheid van een vergelijking met de nazi’s of Hitler tot 1.’ Als we daar de wet van sciencefictionauteur Theodore Sturgeon aan toevoegen (‘90 procent van alles is troep’).” En omdat de ‘wielenman’ ook maar mens is, laat hij zich soms laatdunkend en ongelukkig uit over anderen. Hij wijkt af van het gangbare, van de norm in de databases. Vindt een AI iemand die afwijkt van de norm, kredietwaardig?

Zal hij niet ook nul op het rekest krijgen als die database vol zit met alle uitvindingen en pogingen daartoe? Pogingen tot een uitvinding zijn immers veel talrijker dan successen. Zal AI daaruit niet concluderen dat de kans op mislukken te groot is? AI zoekt correlatie en door daar besluiten aan te verbinden wordt het gepresenteerd als causaliteit. De AI zal ijsjes verbieden omdat er veel mensen verdrinken.