Hoe het schrale algoritme de nuance uit de weg ruimt

Column – ”Politie adverteert in ‘treitervlog’ ten koste van agenten.” Mooie onduidelijke kop in de Volkskrant van zaterdag 10 september. Wat was het geval? In de Zaanse wijk Poelenburg is het onrustig. Jongeren hebben niet het buurthuis waarvan ze vinden dat ze er recht op hebben. Of ze hadden een buurthuis, maar het was niet helemaal naar hun zin en ze hebben het wat verbouwd. Kortom, ze zijn niet gelukkig en om hiervoor aandacht te vragen, worden er treitervlogs op YouTube gezet.

Filmpjes waarin politieagenten worden nagedaan, achter hun rug worden boksende bewegingen gemaakt en er wordt gemiddelvingerd. Agenten reageren empathisch meegaand met de uitdagingen (“oh, is het voor het filmpje, doe nog maar een keer dan”). Jeroen Pauw besteedt er aandacht aan, met als gevolg weer meer kijkers op YouTube. En de mediawetten hebben eendimensionale regels: meer kijkers levert meer advertentiegelden op.

Bij de politie (“maak er politiewerk van”, vroeger was dit “zorg dat je er bij komt”) is blijkbaar een Youtube-/ Google-budget vastgesteld om te adverteren in YouTube-fragmenten waarin de politie voorkomt. Een gedeelte van de gelden komt ten goede aan de makers van de filmpjes. En nu krijg je dus het merkwaardige verschijnsel dat een vlogger die de politie voor schut zet hiervoor ook nog eens inkomsten ontvangt van diezelfde politie. Google nam uiteindelijk actie, bestempelde de vlogs als gewelddadig en schakelde de advertenties in het bewuste en veelbekeken filmpje uit. Vlogger boos (“ze hebben mijn inkomsten afgepakt”).

De makke van het stomme algoritme

Het is de makke van het stomme algoritme, laten we het zo noemen. Stom in de betekenis van: niet praten, onnozel, suf. De stomheid die niet gehinderd wordt door enige nuance. Het algoritme kan niets worden verweten, want het werd gemaakt door mensen, en het kost nu eenmaal heel veel tijd om uitzonderingen te definiëren en vervolgens ook goed te programmeren.

Poltie maakt budget vrij. Wil jongeren bereiken. Adverteert op Google/YouTube. En geeft blijkbaar een aantal trefwoorden mee waardoor bovengeschetste situatie kan ontstaan. Ander dom algoritme. Hoop ik.

Het napalmmeisje op Facebook

De beroemde foto van het ‘napalmmeisje’ Kim Phúc werd gepubliceerd in de grootste krant van Noorwegen, Aftenposten. Het was geplaatst in een artikel over historische oorlogsfoto’s. Ook op de Aftenposten-Facebookpagina. Binnen een paar uur ontvangt de krant een mail van Facebook Hamburg met het verzoek om de foto te verwijderen. Uit niets in deze mail blijkt dat Facebook daadwerkelijk weet welke foto dit is en in welke context deze foto werd gebruikt.

De mail is een algemene tekst over het beleid van Facebook met betrekking tot naaktfoto’s. De indruk bestaat dat het bericht automatisch werd gegenereerd. Binnen een dag na ontvangst van deze mail en nog voordat de redactie van Aftenposten had kunnen reageren, was door Facebook de post verwijderd. Facebook is een onwaarschijnlijk grote verzamelingen van ingezonden brieven en dagboeken. Er is maar één manier waarop je fatsoenlijk de redactie kunt voeren over de inhoud van deze miljarden pagina’s en dat is door deze redactie te automatiseren.

En daar komen ze weer, de algoritmes

Ik stel me voor dat er een algoritme is ontwikkeld dat op basis van beeldherkenning concludeert dat er een naakt persoon wordt afgebeeld. In 9 van de 10 gevallen kan de conclusie terecht zijn dat de foto geen publicatie verdient. We hebben het over 300 miljoen foto’s per dag. Maar dan nog zou het raadzaam kunnen zijn om een mens uiteindelijk de beslissing te laten nemen om de post te verwijderen. En alles lijkt erop te wijzen dat er bij de verwijdering van de post van de Noorse krant geen mens te pas is gekomen. Moet je hopen.

Stel dat er wel een mens besloot om in te grijpen, dan is er iets veel ernstigers aan de hand. Dan bepaalt de moraal-politie van Facebook wat wel en wat niet mag blijven. Een algoritme daarentegen kun je snel aanpassen, desnoods voeg je een uitgebreide lijst met toegestane foto’s of details van foto’s toe en vergelijk je iedere ‘verdachte’ foto met deze lijst. Voor computers een fluit van een cent. 

 

De normaal-curve van algoritmes

Het is het bekende verhaal. Algoritmes kunnen goed overweg met het middelste gedeelte van de normaal-curve en krijgen problemen met de uiteinden. Overal waar systemen beslissingen van mensen overnemen, zal de meeste tijd moeten besteed worden aan de twee uitersten van de curve. Daar waar de nuance welig bloeit, zal er veel tijd moeten worden besteed aan het verfijnen van het algoritme.

Het is een duur ding, de nuance. Net zoals ivoor. Je moet je echt zorgen gaan maken als ze er niet meer zijn.

Afbeelding intro van Sterre Steins Bisschop.