Algoritmisch profileren

Etnisch profileren, het staat flink in de belangstelling. Mensen als rapper Typhoon en Feyenoord doelman Vermeer die vaak staande worden gehouden vanwege hun huidskleur. De oude en nieuwe media hebben er dit jaar al flink wat pagina’s of bytes aan besteed en terecht. Etnisch profileren is een vorm van risicoberekening op basis van statististische gegevens. Als een te onderscheiden groep mensen vaker voorkomt in misdaadstatistieken in deze voorbeelden, dan worden ze extra in de gaten gehouden en gecontroleerd.

AlgoritmeIllustratie: arabicollege.com

Deze techniek is de basis van de bedrijfsmodellen van bedrijven als Facebook, Google, Apple, maar ook steeds meer traditionele bedrijven als Albert Heijn en andere grootwinkelbedrijven. Er wordt gewerkt met profielen en alle klanten en gebruikers worden in zo’n profiel gestopt. Die profielen worden steeds verder aangevuld met nieuwe informatie. Informatie die wij hen gratis aanleveren door gebruik te maken van hun producten, door bijvoorbeeld te zoeken via Google, te liken via facebook of waspoeder te kopen bij Appie of een boek bij bol.com. Al die informatie wordt gebruikt om de profielen te verbeteren en aan jou producten op maat aan te bieden (kopers van dit boek kochten ook …). Verschil met de etnisch profilerende politie is dat dit profileren gebeurt door een algoritme genoemd naar de wiskundige Mohammed ibn Moesa Al-Chwarizmi.

In Dordrecht kan het zo gebeuren dat je zoonje van vijftien een rood vlaggetje achter zijn naam heeft. “Het betekent: foute boel. Niet nu, maar in de toekomst. Het betekent ook dat er bij één keer spijbelen direct een leerplicht­ambtenaar op de stoep staat. ‘Dan rijden wij met toeters en bellen de straat in en gaan we in gesprek met de betreffende leerling en de ouders’, zegt Erwin Keuskamp,” in een artikel bij de Groene Amsterdammer. Dit terwijl je zoon nog nooit heeft gespijbeld en een voorbeeldig leerling is. Alleen op basis van het algoritme komt hij er als een risicogeval uit. Volgens het artikel willen overheden veel algoritmisch ‘voorspellend’ gaan werken. Burgers via profielen, die zijn gebaseerd op gedragingen van anderen in het verleden, indelen in risicocategorieën. Alleen bieden, zoals de financiele dienstverleners steevast moeten melden, rendementen uit het verleden geen garantie voor de toekomst.

Daar waar je de reclame van Appie of de ‘aanbevelingen’ van bol.com gewoon naast je neer kunt leggen of er zelfs voor kunt kiezen om je boeken bij boekhandel Koops te kopen, ligt dat bij die leerplichtambtenaar van Keuskamp of die andere overheidsdienaren anders, die zijn niet te negeren. Eén stap verder en Keuskamp staat al aan de deur voordat je zoontje spijbelt.

Om met de Borg te spreken, ‘resistance is futile’. Waarom het vlaggetje er staat is soms niet te achterhalen, laat staan dat het ‘algoritmisch geprofileerd’ vlaggetje verwijderd kan worden. Of moeten we zeggen ‘resist before it is futile’?

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s