Algoritmes: laat de betaler niet de bepaler zijn

Column – “Dit interesseert je waarschijnlijk ook” staat regelmatig onder de nieuwsberichten die ik lees, de reclames die ik voorgeschoteld krijg en de aanbiedingen die ik zie. De maatschappij wordt meer en meer opgedeeld in bubbels en funnels. Je krijgt via je device voorgeschoteld wat je interesseert, volgens alle algoritmes die dat bepalen. Dat heeft voordelen, maar is het in the end de weg die we op moeten? Laten we ons in ieder geval die vraag hardop blijven stellen. Júist als programmeurs en ontwikkelaars.

Wat wil je als concern dat producten verkoopt? Zo relevant mogelijk zijn voor potentiële klanten. Een reclame op een billboard langs de weg kan prima werken, net als een commercial op radio of tv. Maar gepersonaliseerde marketing zet – zeker voor specifieke producten en diensten – pas echt zoden aan de dijk. De ontwikkelingen op dat vlak gaan om die reden razendsnel. Ons programmeurs wordt op grote schaal verzocht algoritmes te bouwen of ermee te werken, om zo veel mogelijk data te combineren. Met als doel zo dicht mogelijk bij mensen te komen.

Een consument, ik ben er zelf ook één, wordt over het algemeen best blij van een aanbieding voor tennisballen als ie net een racket heeft aangeschaft. Of een lidmaatschap bij een club heeft afgesloten. Dat ik na het lezen van tech-nieuws artikelen krijg voorgeschoteld die daar volgens de computer bij aansluiten, is best prettig. Met een vacature voor een baan die me – op basis van mijn werkverleden en opleiding – precies op het lijf geschreven is, kan ik ook best leven. Meestal.

Hokjes bouwen

Het gaat alleen lang niet altijd goed. Stel nou dat ik weliswaar ben opgeleid als programmeur en daarin in de loop der jaren in mijn vak goed werk heb afgeleverd, maar dat ik nu juist zoek naar een nieuwe carrière? Ik wil wel eens wat anders. Iets meer conceptdenken, iets minder maken bijvoorbeeld. Waar ik echt wat aan zou hebben, is een blik op wat er nog meer te halen is, inzicht in welke carrièreswitches ik zou kunnen najagen. Geen algoritme dat daarmee rekening houdt. Overigens: ik houd van mijn werk. Daarover geen misverstand.

Waar het om gaat is: al die algoritmes, al die data, die machine learning en deep learning… ze maken bubbels en funnels. Ze vernauwen mijn blik op de wereld, omdat ik in groepen wordt ingedeeld en van andere groepen weinig meer meekrijg. Wat machine learning volgens de gebruikers ervan zou doen is personaliseren, maar in wezen doen de systemen niets anders dan generaliseren. Ze bouwen hokjes en beslissen welke consument in welk hokje past.

Funnels en bubbels

Hoe erg is dat eigenlijk? Dat hoeft helemaal niet problematisch te zijn. Sterker nog: het kan heel nuttig zijn. Ik krijg dankzij algoritmes antwoorden op vragen die ik nog niet eens gesteld heb. Maar daarin schuilt meteen het gevaar. Namelijk dat we met zijn allen onbewust worden beïnvloed. Algoritmes maken dat we voorkeuren krijgen die niet uit onszelf komen, omdat de computer uit de combinatie van data concludeert dat we het één of ander wel móeten willen. De kans dat we zoiets dan ook echt gaan willen, is reëel. Zie daar de creatie van een funnel.

En bubbels worden net zo makkelijk gecreëerd. Als ik alleen nog maar tech-nieuws op mijn beeldscherm krijg, of andere onderwerpen waar ik ooit interesse in heb getoond, hoe kan ik dan ooit mijn visie op de wereld, mijn mening, nog aanscherpen? Alles wat ik te zien en lezen krijg, is het immers met mij eens. Terwijl het voor de hand ligt dat juist tegengestelde meningen zorgen voor een mooie discussie, ook in mijn hoofd.

Helpt dit de maatschappij?

Als wij, als makers van al deze technologie, rücksichtslos opdrachten van onze commerciële klanten uitvoeren, dan helpen we zelf actief mee aan het maken van funnels en bubbels. Goed voor marketeers, minder goed voor de samenleving waarvan we toch ook zelf deel uitmaken. Ik wil niet in een maatschappij leven waarin technologie bepaalt wat ik wel en niet wil, wat voor mening ik heb en met wie ik zou moeten praten.

De oplossing is net zo simpel als ingewikkeld. Programmeurs en ontwikkelaars zoals ik hebben een verantwoordelijkheid. Wij moeten niet zomaar alles realiseren wat een klant vraagt. We moeten ons continu dingen afvragen: waarvoor dient dit algoritme? Welke antwoorden zoekt mijn klant? Welke data mag hij daarvoor gebruiken? Wat wil hij met de uitkomsten? Hoe fijn vinden zijn klanten de manier waarop ze worden benaderd? Voor mij staat bij al die kwesties één vraag centraal: help ik de maatschappij vooruit met de technologie die ik hier maak?

Programmeurs en ontwikkelaars zoals ik hebben een verantwoordelijkheid. Wij moeten niet zomaar alles realiseren wat een klant vraagt.

Pittige discussies

Ja, deze stellingname zorgt voor discussies met klanten. Best pittige soms. Mijn rol is het de klant ervan te overtuigen dat algoritmes niet meer zijn dan een hulpmiddel. Dat de menselijke afweging uiteindelijk altijd de doorslag moet geven. Daar hoort bij dat ik uitleg wat de technologie doet, dat ik coach in het gebruik ervan, vertel wat de nadelen kunnen zijn, de gevaren van onzorgvuldig gebruik van ingevoerde data. En vooral dat ik erop wijs dat de klanten van mijn klanten het recht hebben te weten op basis waarvan zij benaderd worden. En mijn ervaring is: dit werkt, klanten staan ervoor open.

Ontwikkelaars en programmeurs zijn niet slechts de uitvoerders van besluiten die door anderen binnen een bedrijf genomen worden. Zij zitten aan de basis van de technologie, weten hoe die werkt en welke gevolgen zij kan hebben. En daarom hebben zij, wij, een belangrijke taak: wij moeten onze klanten bewust maken, onze verantwoordelijkheid nemen en op onze strepen staan. Kunnen we er niet mee leven, dan maken we het niet. Punt uit.