Leer van deze 4 UX-uitdagingen bij AI & personalisatie

Online diensten personaliseren hun suggesties en aanbod steeds doeltreffender met machine learning en artificial intelligence (AI). Ook voor ontwerpers zijn deze vormen van intelligentie niet langer te ontkennen. De relatie tussen gebruiker en intelligent systeem is iets wat vormgegeven moet worden, en dit vereist inlevingsvermogen. Wat zijn de uitdagingen binnen user experience (UX)? En wat kunnen we daar van leren?

Datawetenschappen zijn lang niet altijd bekend terrein voor ontwerpers. Maar niet gevreesd, de empathische blik van de ontwerper is van veel toegevoegde waarde in het tijdperk van algoritmes. De ontwerper van de toekomst slaat een brug tussen algoritme en gebruiker. Wat kunnen we leren van UX-uitdagingen als het gaat om personalisatie?

In een innovatiesprint bij Informaat hebben we een concept ontwikkeld voor een AI-gedreven boodschappenassistent. Hoe zorg je ervoor dat de gebruiker vertrouwt dat een dergelijke app inderdaad goed zorgt voor voorraadbeheer, recepten en producten – die passen bij de gewenste levensstijl – zonder dat de gebruiker er een ongemakkelijk gevoel bij krijgt (big brother is watching you)?

Vier designers en één facilitator stortten zich op de vraag hoe je een digitale boodschappenassistent zo kunt ontwerpen, dat de gebruiker de suggesties van de dienst gaat accepteren. Daarbij gaat het om relevantie, vertrouwen en een optimale user experience. Uit de literatuur zijn vier centrale UX-issues bekend:

• Cold-start
• Transparency
• In control
• Exceptions

We hebben oplossingen hiervoor verwerkt in het concept van de boodschappenassistent. Hier geef ik inzicht in wat we geleerd hebben aan de hand van vier UX-uitdagingen bij personalisatie.

1. Cold-start

Het cold-start probleem houdt in dat de ‘motor’, ofwel het algoritme, nog niet warmgedraaid is voor het geven van optimale resultaten. Dit komt door het feit dat er nog te weinig gegevens bekend zijn over de gebruiker. De uitdaging hier is de meest essentiële informatie vast te stellen om relevante suggesties te kunnen doen en deze informatie vervolgens te verkrijgen (zonder dat de gebruiker dit als storend ervaart). Om de cold-start te verhelpen, hebben ontwerpers ook kennis van het algoritme nodig. Welke input heeft het systeem nodig van de gebruiker?

Het verhelpen van het cold-start probleem kan door impliciete gegevens te interpreteren, zoals het clusteren van gebruikers bij andere gebruikers die soortgelijk gedrag vertonen. Denk hierbij aan: “Anderen die dit kochten, vonden dit ook interessant.” Ook contextuele informatie interpreteren is een optie, denk hierbij aan GEO-locatie, GEO-IP, GPS-coördinaten, de referentiewebsite, het apparaat van de gebruiker, operating system of browser type.

Naast deze impliciete gegevens, kunnen we de gebruiker ook expliciet om feedback vragen. Hierbij staat het wederkerigheidsprincipe voorop. De ‘benefit’ die de gebruiker krijgt uit het geven van de informatie moet hier gelijk duidelijk zijn.

Onze ervaring is dat de gebruiker alleen wil investeren in het verbeteren van de kunstmatige intelligentie (KI), als het iets oplevert. De relatie tussen gebruiker en intelligent systeem is dus vooral een kwestie van geven en nemen.

In het geval van onze persoonlijke boodschappen-app hebben we ervoor gekozen een combinatie van impliciete en expliciete gegevens te verwerken. Impliciete bronnen, zoals online klikgedrag en sociale media, kunnen in eerste instantie helpen bepaalde lifestyle-doelstellingen voor te stellen aan de gebruiker. Daarnaast kan de gebruiker zelf doelstellingen opgeven, zoals ‘minder vlees eten’ of ‘experimenteren met de Vietnamese keuken’.

De cold-start voor het onderdeel ‘doelstellingen’ wordt opgevangen door alleen de meest essentiële verhelderende vragen te stellen. Denk hierbij aan de vraag of de dieetverandering voor het gehele gezin geldt of alleen voor de gebruiker zelf. Dit helpt de assistent bij het doen van relevante suggesties voor een nieuw gepersonaliseerd weekmenu.

2. Transparency

De mate van transparantie die je geeft aan de gebruiker is één van de andere centrale uitdagingen voor ontwerpers die met KI werken. Het risico is namelijk dat gebruikers het gevoel kunnen krijgen te werken met een blackbox-systeem. Bij te weinig grip op de interne werking van het systeem, neemt het vertrouwen af en is de kans groot dat de gebruiker afhaakt.

Als ontwerpers zijn we gewend aan seamless design (naadloos, frictieloos), maar om te voorkomen dat dit de gebruiker afschrikt, kun je seamful design toepassen. In plaats van alle processen naar de achtergrond te verplaatsen, kan een ‘seam’ geplaatst worden. Dit houdt in dat het systeem de gebruiker juist meeneemt in de redenering van het algoritme.

 

Als de persoonlijke boodschappenassistent een nieuw weekmenu heeft gegenereerd, kan de gebruiker de redenering bekijken. De gebruiker kan de voorgestelde recepten omdraaien, zodat hij ziet wáárom deze suggesties passen binnen de opgegeven doelstelling.

Daarnaast kan op hoger niveau transparantie worden ingebouwd door gebruikers toegang te geven in hun ‘smaakprofiel’. Zo kan de gebruiker zien wat er bekend is over hem of haar en eventueel voorkeuren aanpassen.

3. In control

Het is niet wenselijk dat een intelligent systeem de gebruiker continu lastigvalt met verzoeken, maar op momenten van belangrijkere beslissingen is het wel zaak dat het systeem de beslissing checkt bij de gebruiker. De uitdaging zit hem in het afwegen welke vragen van belang zijn om bij de gebruiker te checken, en welke beslissingen op de automatische piloot kunnen worden genomen.

Onze intelligente boodschappen-app zal niet zomaar automatisch alle boodschappen bestellen. De gebruiker ontvangt een notificatie en kan de details van de bestelling eerst checken.­­­ Bepaalde boodschappen, zoals wc-papier en afwasmiddel, zouden op den duur automatisch besteld kunnen worden.

Een grotere vraag zoals: “Wil je 5 euro per 100 gram extra betalen voor de biologische kip?” legt het systeem voor aan de gebruiker. Zo houdt de gebruiker de situatie op belangrijke momenten onder controle en wordt het vertrouwen in de app versterkt.

4. Exceptions

Interaction designer Josh Clark merkte treffend op:

I think part of our new role is designing not just the interface, but anticipating the weirdness and ambiguity that can come back from these systems.

Het is in sommige gevallen lastig voor algoritmes om uitzonderingen en irrelevante informatie te negeren. Een algoritme dat op basis van je Spotify-lijst kroegen aanraadt die bij je passen, kan behoorlijk de mist ingaan als je toevallig vaak slaapliedjes opzet voor je kind. De informatie is voor het aanraden van bars namelijk niet van belang.

De uitdaging is het herkennen van deze context-afhankelijke informatie en de gebruiker de kans te geven hier feedback op te geven.

Hoe kunnen UX in het algemeen en de interface in het bijzonder dit opvangen? Als de persoonlijke boodschappenassistent bijvoorbeeld opmerkt dat je aankopen hebt gedaan die volkomen buiten het vaste patroon vallen of strijdig zijn met de opgegeven doelstellingen, dan kan hij je vragen of hij hier rekening mee moet houden bij vervolgsuggesties. Als je een keer een feestje geeft en een grotere hoeveelheid cola en bier inkoopt, zal het systeem deze bestelling niet elke week herhalen, omdat je hebt aangeven dat het om een uitzondering gaat.

Wat zijn onze inzichten?

Aan het eind van de sprint hebben we het concept op kleine schaal getest met gebruikers. Reacties varieerden van “Oh wat handig dat hij met mijn persoonlijke gezinssituatie rekening houdt” tot “Maar ik wil niet dat hij al die persoonlijke gegevens van me weet.” Eén ding is duidelijk: gepersonaliseerde systemen liggen erg… persoonlijk. Cold-start en het aanpakken hiervan kan door verschillende gebruikers zeer verschillend ervaren worden. Rekening houden met de gevoelens en overtuigingen van de gebruiker en verder gebruiksonderzoek is daarom ook essentieel.

Als designer ontwerp je de relatie tussen het intelligente systeem en de gebruiker. De interface zo gestroomlijnd en naadloos mogelijk maken, wordt vaak als een basisprincipe gezien binnen het ontwerpvakgebied. Maar in het geval van KI is het soms juist essentieel te laten zien wat er aan de achterkant gebeurt. Op deze manier neem je de gebruiker mee in de redeneringen van het systeem en creëer je vertrouwen op de langere termijn.

Het is noodzakelijk voor de ontwerper om niet álle processen die spelen in het systeem naar de achtergrond te verplaatsen. Dat is het kerninzicht dat wij uit de sprint hebben gehaald. Of het nu gaat om controle of het opvangen van uitzonderingen (of transparantie), geef je de gebruiker de mogelijkheid om het systeem bij te sturen via seamful design. Tot slot:

Door met gebruikers in gesprek te blijven (en je als ontwerper in te leven in hun wereld), kunnen KI-diensten zo ontwikkeld worden dat ze échte waarde toevoegen aan het dagelijks leven van gebruikers.

Hoe denk jij hierover?

Heb jij hier ervaringen mee of heb je andere inzichten? Ik ben benieuwd! Deel ze in de reacties onder dit artikel.