De chatnot – waarom blijven chatbots zo slecht?

Column – Vanmorgen nam ik weer eens hap uit mijn bureau. Ik was in gesprek met de chatbot van mijn verzekeringsmaatschappij. Anna heet ze. Toen ze tot twee keer toe niet begreep wat ik vroeg, heb ik mezelf toch maar 12 minuten in de wacht gezet bij de telefonische klantenservice.

Omdat de andere bot in mijn leven – ChatGPT – alles weet en begrijpt, heb ik inmiddels verwachtingen ten aanzien van communicatie met bots. Daarom viel chatbot Anne me vanmorgen ook zo tegen. Ik vroeg haar: “Mijn dochter heeft de laptop van iemand anders laten vallen in Spanje. Is dit verzekerd?” Ze kon er weinig mee en reageerde: “Wilt u een schade melden? Klik hier.” Ik probeerde de vraag anders te formuleren, maar ook dat leidde tot niets. Dan dus maar teleurgesteld bellen en wachten op de echte mevrouw van de klantenservice.

Nu ik erover nadenk: in de vele jaren dat chatbots websites van banken, verzekeringen, webshops, energiemaatschappijen, onderwijsinstellingen en overheden bevolken, ben ik volgens mij nog nooit echt lekker geholpen door zo’n Anne, Robin of Infobot.

Waarom blijven die chatbots zo slecht?

Maar we hebben nu toch AI? Als ChatGPT en Gemini het kunnen, kan een chatbot het toch ook wel? Waarom zijn de chatbots dan nog steeds zo slecht?

De eerste oorzaak is een technische: ChatGPT, Gemini en hun collega’s zijn gebaseerd op Large Language Models (LLM’s). Zo’n LLM heeft duizenden bibliotheken opgegeten, terwijl chatbots draaien op simpele scenario’s of beperkte AI: ze genereren antwoorden met eenvoudige vraag-antwoord-schema’s of keuzemenu’s. De taalvoorraad waarop ze acteren is oneindig veel kleiner. Ze kunnen zelf niet redeneren, samenvatten of nieuwe zinnen maken. Bovendien hebben ze geen idee van de context.

De reden waarom de bot ontwikkeld is, maakt ook uit: ChatGPT is getraind op het voeren van natuurlijke gesprekken terwijl chatbots ontworpen zijn om kosten te besparen. Een chatbot wil zo snel mogelijk van vraag naar webpagina of formulier. Eigenlijk is een chatbot niets meer dan een interactieve FAQ.

Waarom gebruiken chatbots dan geen LLM’s?

Waarom zetten bedrijven die chatbots op hun website aanbieden niet in op meer LLM-achtige oplossingen in plaats suffe vraag-antwoord-scripts?

Het eerste antwoord is: het is veel duurder. Een chatbot die gebruik maakt van een LLM vraagt ingewikkeldere implementatie, custom training en meer rekenkracht. 

Verder kunnen er dingen fout gaan. Zoals bekend hallucineert ChatGPT soms. Dat moet je niet hebben als je een verzekeringsmaatschappij, gemeente, bank of webshop bent. Een jeppende chatbot kan vervelende gevolgen hebben – van verkeerd geholpen klanten tot juridische claims.

Zo moest Air Canada vorig jaar een flinke schadevergoeding aan een passagier betalen omdat deze verkeerd geïnformeerd was door de chatbot op de website. En moest de stad New York in allerijl de chatbot van de gemeentewebsite halen toen deze stelde dat ondernemers juridisch in hun recht staan als ze werknemers ontslaan die weigeren hun dreadlocks af te knippen.

Kan het beter?

Ja. Maar het vraagt wel wat.

Als er LLM’s ingezet worden, vraagt het custom training op organisatie-eigen data en een goede guardrail voor veiligheid en juridische compliance. Zo’n guardrail is een set aan technische en inhoudelijke beperkingen die voorkomen dat de chatbot ongepaste, onveilige of juridisch risicovolle antwoorden geeft.

Maar ook bij beperkte systemen kan het beter. Zo’n bot lijkt me typisch zo’n ding dat op een dag geïmplementeerd is en dat daarna steevast weinig aandacht kreeg. Een verbeterprojectje zou wonderen kunnen doen. Scripts kritisch nalopen. Testjes doen. Een copywriter mee laten kijken. Loops eruit halen. En een script als “Ik snap je vraag niet. Probeer het opnieuw.” vervangen door een warme doorverwijzing naar een echt mens bij de klantenservice.

Want. Het lijkt me goed om te accepteren dat de chatbot een beperkt systeem is en dat het dus nodig kan zijn om door te verwijzen naar de door echte mensen bezette klantenservice. En die stap dan dus ook naadloos in te bouwen.

Van chatnot naar chatbot?

Morgenochtend stuur ik deze column naar mijn verzekeringsmaatschappij. Ik hoop dat ze van chatbot Anna een zomerprojectje maken. Zodat – als ik in september weer aan de slag ga met de laptopkwestie – ik te maken krijg met een Anna die uitgerust en fris reageert. Alsof ze zelf ook met vakantie geweest is en ze me gewoon begrijpt of me zonder omhaal vriendelijk doorverwijst aan haar menselijke collega’s bij de klantenservice.  

De illustratie bij deze column is gemaakt met ChatGPT.

Home < De chatnot – waarom blijven chatbots zo slecht?