Nederland gaat Artificial Intelligence-gevaren aanpakken

Artificial intelligence biedt nieuwe kansen, maar brengt ook gevaren met zich mee. Hoe kun je toetsen of algoritmes wel goed hun werk doen? Het ECP | Platform voor de InformatieSamenleving heeft onlangs een nieuw assessment gepresenteerd om te zorgen dat kunstmatige intelligentie verantwoord wordt ingezet. Met het assessment – ontwikkeld door overheid en bedrijfsleven – worden gevaren als verkeerde voorspellingen, schending van privacy en digitale tweedeling verkleind.

ECP en verantwoorde innovatie

Het Jaarcongres ECP is een samenwerking tussen bedrijfsleven en overheid. Op het congres werd aandacht besteed aan alle aspecten van digitale samenleving. Het ging over nieuwe kansen, die artificial intelligence (AI) en bijvoorbeeld blockchain kunnen bieden. Maar het ging ook over risico’s. Zo werd er op de informatiemarkt aandacht besteed aan cybersecurity. Iedereen kon zijn eigen website checken op veilig internet. En je kunt op faalkaart.nl zien hoe de eigen gemeente het doet. In verschillende sessies was er ook aandacht voor datagebruik in ziekenhuizen: in plaats van elke patiënt volgens dezelfde richtlijn een advies geven, kunnen informatiesystemen gebruikt worden voor behandeling op maat.

Emotion hero

Ook interessant was de aanwezigheid van een aantal digitale kunstenaars. Zij presenteerden tijdens het congres hun installatie. Een interessant voorbeeld was ‘Emotion Hero‘ van Ruben van de Ven. Hij maakt gebruik van software die emoties herkent om voor een variant van Guitar Hero: de speler moet zo snel mogelijk een aantal emoties uitbeelden. Het is een speelse manier om mensen kennis te laten maken met de mogelijkheden en beperkingen van emotie-herkenning.

Beach Umbrella

Het initiatief ‘Beach Umbrella‘ van Sjoerd ter Borg en Mark Jan van Tellingen won uiteindelijk de Icarus award, uitgereikt door voormalig minister Netelenbos. Beach Umbrella is een project waarin Sjoerd en Mark met behulp van Google Streetview de groei en krimp van klein ondernemerschap in kaart brachten. Ze deden dit door het aantal parasollen te tellen dat op streetview zichtbaar is. Uit het juryrapport: “Interessant om groepen in kaart te brengen die we voor die tijd niet in kaart konden brengen, uitgewerkt in een helder en visueel aantrekkelijk verhaal. Als tool voor antropologisch onderzoek zit dit werk op het snijvlak van wetenschap en kunst en loopt het voorop in de trend Art en Science.”

Assessment als antwoord op risico’s artificial intelligence

Het AI Impact assessment – of AIIA, zoals de tool officieel heet – is ontwikkeld als antwoord op de gevaren die het ECP eerder in kaart heeft gebracht. Artificial intelligence biedt veel kansen om de grote problemen van de wereld op te lossen. Maar de technologie moet dan wel verantwoord worden ingezet. Als je dat niet doet, krijg je bijvoorbeeld het probleem dat Amazon onlangs had: slimme software, ontwikkeld om sollicitatiebrieven te beoordelen, leerde uit oudere data dat Amazon vooral mannen aannam. Op basis hiervan ontwikkelde de software een ‘bias’: vrouwen werden te weinig uitgenodigd voor een gesprek. Andere risico’ van de AI zijn werkloosheid en verstoring door de arbeidsmarkt, concentratie van data bij enkele grote bedrijven en schending van privacy door de overheid.

Dit soort risico’s kun je alleen voorkomen door vooraf de inzet van AI goed te onderzoeken: een soort van ‘AI by design‘, net zoals het idee van privacy by design. Met een 10-stappenplan wordt vooraf onderzocht of de voordelen van artificial intelligence wel opwegen tegen de risico’s.

Voordelen voor technologie-bedrijven

Je zou misschien verwachten dat technologie-bedrijven niet op een extra assessment zitten te wachten. Het tegendeel is echter waar, aldus projectleider Daniël Frijters die ik heb geïnterviewd. “Met een lichte check vooraf wordt het risico voorkomen dat je achteraf veel duurdere audits moet gaan doen. We hebben grote bedrijven zoals Facebook en Cap Gemini hier bewust bij betrokken, en ook audit-organisatie NOREA. Ze zijn allemaal enthousiast om deze assessment juist zo vroeg mogelijk te doen.”

Daniël is vorig jaar begonnen met dit onderwerp, vanuit een economische achtergrond: “Voor mij was het echt een kans om bij een organisatie met een missie als ECP te werken, met digitale innovatie.” Daniël heeft de werkgroep geleid, die eerst een whitepaper heeft geschreven, dat ik eerder op Frankwatching heb.

Volgende stappen

Het AI Impact assessment zal getest worden in drie sectoren: zorg, energie en overheid. De resultaten van deze test zullen dat dit voorjaar worden gepresenteerd.

Ook wordt het assessmentboek, dat nu in het Nederlands (en digitaal) beschikbaar is, vertaald naar het Engels voor inzet in andere landen. “Er is al belangstelling vanuit Silicon Valley. Ook hopen we dat andere landen dit initiatief overnemen,” aldus Daniël. Ook aan een link met het onderwijs wordt gedacht: “In het assessment noemen we al de mogelijkheid van extra training als maatregel. Denk hierbij aan artsen die een bepaald systeem gebruiken, voorzien van extra kennis over artificial intelligence. Een aantal leden van de werkgroep gaat het assessment ook delen met hun studenten.” Het impact-assessmentboek is inmiddels ook digitaal verkrijgbaar.

Heb je vragen of opmerkingen? Laat het gerust even weten via de reacties hieronder.