Boekrecensies, Strategie

Moeten we bang zijn voor robots?

0

Robots worden omgeven met een zweem van mysterie. In films staan robots te popelen om de macht van ons mensen over te nemen. Economen waarschuwen ervoor dat veel van ons onze baan gaan verliezen aan robots. Ondernemers uit de tech-industrie, zoals Elon Musk, menen dat robots ons de hel op aarde zullen brengen. Maar, als robots zo gevaarlijk zijn, waarom zouden wij mensen robots vertrouwen? Waarom zouden we met robots willen communiceren en hen als stofzuiger ons huis, of als operatierobot zelfs ons lichaam toevertrouwen?

Het boek Hallo robot – de machine als medemens (aff.) van Bennie Mols en Nieske Vergunst zoekt uit waartoe robots in staat zijn. Het is tijd voor een goed gesprek met auteur Bennie Mols.

Communiceren met robots

De indruk die ik kreeg tijdens het lezen van het boek is dat robots vooral nuttig zijn om de mens te ondersteunen, maar dat we nog ver weg zijn van robots die geloofwaardig met ons kunnen communiceren. Robots lijken eerder een beetje autistisch. En toch communiceren mensen graag met robots alsof ze wel goed kunnen communiceren. En mensen projecteren graag hun emoties op robots. Waarom willen mensen zo graag met robots omgaan?

Mols: “Mensen zijn zo al duizenden jaren gefascineerd door machines die mensachtige eigenschappen hebben. Toch zou ik zeggen dat slechts sommige mensen graag met robots communiceren. Laten we niet vergeten dat een heleboel mensen dat helemaal niet graag doen. Praten met Siri of een chatbot van een klantenservice is toch enorm behelpen.

Mensen die prijs stellen op de rijkheid van menselijke communicatie, met al zijn verbale en niet-verbale subtiliteiten, die komen van een koude kermis thuis als ze met huidige robots praten. Mensen die zich minder goed thuisvoelen in het rijke spectrum van de menselijke communicatie, zullen zich eerder op hun gemak voelen bij de voorspelbare en weinig verfijnde communicatie met een robot. Niet voor niets worden robots ingezet om autistische kinderen beter te laten communiceren. En niet voor niets houden Japanners zo van mensachtige robots. Zij hebben een cultuur van vrij formele communicatie, waarin voor het uiten van emoties weinig plek is.

Robot Sophia

Voor ons boek heb ik ook gesproken met robot Sophia. Sophia is het meest geavanceerde robothoofd ter wereld, dat vorig jaar onder andere in het nieuws is geweest omdat Saoedie-Arabië haar het burgerschap toekende, wat natuurlijk in de eerste plaats een promotiestunt was. In het begin is het fascinerend om Sophia vragen te stellen en haar te horen antwoorden, terwijl ze haar hoofd en lippen beweegt. Maar de magie verdwijnt ook snel omdat je merkt dat ze geen idee heeft wat ze zegt en omdat je merkt dat ze geen eigen leven heeft.”

Robot Sophia

Robot Sophia

Het verschil tussen mensen en robots

Jullie beschrijven dat er steeds meer integratie van technologie aan en in het menselijk lichaam komt. Tegelijk stelt cyborg-antropoloog Amber Case: ‘Het feit dat wij een biologisch lichaam hebben dat wordt geboren, groeit, verandert en sterft, zal ons altijd onderscheiden van robots.’ Zijn jullie het daar mee eens?

“Er is één ding dat robots nooit zullen kunnen, en dat is van de apen afstammen. Die uitspraak sluit precies aan bij wat Amber Case vertelt. Maar dat betekent niet dat mensen per definitie beter zijn dan robots. Omdat wij biologische wezens zijn, kunnen we sommige dingen veel beter dan de beste robots: lopen bijvoorbeeld. Looprobots zijn ofwel heel zuinig maar dan vallen ze ook snel om, ofwel ze hebben veel kracht maar dan loopt de accu snel leeg. Wij mensen combineren zuinigheid en kracht op een manier die robots nog steeds niet kunnen.”

Er is één ding dat robots nooit zullen kunnen, en dat is van de apen afstammen.

“Tegelijkertijd kunnen robots sommige dingen veel beter dan mensen, juist omdat ze geen biologische wezens zijn: dagenlang dezelfde handeling uitvoeren in een fabriek bijvoorbeeld of gegevens perfect onthouden. Omdat wij als mensen voortdurend zoeken naar hoe we meer grip kunnen krijgen op onszelf en onze omgeving, ontwikkelen we dus ook robotische technologie die op en in ons lichaam komt te zitten om ons te helpen, te repareren of zelfs te verbeteren. Denk aan exoskeletten om mensen met een dwarslaesie weer te laten lopen of aan nanorobots die kleine reparaties binnen in ons lichaam uitvoeren.

Maar zelfs met al die aanpassingen blijven we biologische wezens die geboren worden, groeien, aftakelen en doodgaan. Wat mij betreft zit het essentiële verschil tussen mensen en robots in het verschil tussen levende materie en niet-levende materie.”

Invloed van robots op mensen

Robots zijn volgens jullie vooral goed in gestructureerde, voorspelbare omgevingen. Ze zijn niet goed in het geven van betekenis aan de werkelijkheid. Dreigt er door deze robot-beperking ook een verschraling van onze manier van naar de werkelijkheid kijken en van onze onderlinge communicatie naarmate we meer met robots omgaan? Zijn jullie het eens met wetenschappers als Sherry Turkle die stellen dat iets dergelijks gaande is?

“Ik ben banger voor mensen die zich meer als robots gaan gedragen, dan voor robots die zich meer als mensen gedragen. Dat kan gebeuren als we efficiëntie tot hoogste doel verheffen. Als je de kassière in de supermarkt alleen maar beschouwt als iemand die zo snel mogelijk je boodschappen moet scannen, dan kun je haar beter vervangen door een zelfscanner. Je kunt haar echter ook als een mens zien waartegen je even glimlacht, waartegen je even iets zegt of waaraan je even iets vraagt. Dat korte menselijke contact geeft haar baan veel meer betekenis dan alleen maar het afrekenen van boodschappen. En het laat zien dat jij behalve een klant ook gewoon een mens bent.

We stellen prijs op uniek menselijk contact

Mensen hebben mensen nodig. Uiteindelijk zal de efficiëntie het echter wel weer winnen en zal ook de kassière verdwijnen. Maar het is goed om ons voortdurend de vraag te stellen wat we wel en niet van robots willen. Misschien kan een robot binnenkort zonder morsen drankjes in een café bezorgen, maar stellen we toch prijs op het unieke menselijke contact met een kelner van vlees en bloed.

Soms is dat contact onbeholpen, maar een andere keer maakt het je dag. We hoeven de kelner niet door een robot te vervangen als we dat niet willen. Dan gaan we naar cafés waar mensen in plaats van robots bedienen. Uitgangspunt zou moeten zijn dat robots er voor mensen zijn en niet andersom.”

Uitgangspunt zou moeten zijn dat robots er voor mensen zijn en niet andersom.

Robotgrenzen

Mensen lijken machines meer te vertrouwen dan andere mensen. Menselijke vaardigheden gaan achteruit als robots ze overnemen. Verantwoordelijkheden verschuiven van mens naar robot. Waar ligt voor jullie zelf een harde grens? Wat mogen mensen nooit uitsluitend over laten aan robots? Het beslissen over leven en dood van mensen? Of ligt de grens eerder?

“Wat we aan robots overdragen en wat we mensen willen blijven laten doen is een continue zoektocht. Ik geloof niet dat we daar regels en wetten voor kunnen opstellen die voor de eeuwigheid geldig zijn. Daarvoor zijn technologische en maatschappelijke ontwikkelingen te onvoorspelbaar. Ethische grenzen zijn ook door de geschiedenis heen veranderd.

Maar zoals de robotica er nu voorstaat, vind ik wel dat we beslissingen over leven en dood in menselijke hand moeten houden. Dat is van groot belang in de huidige discussie over militaire robots. Robots begrijpen de context van een menselijk conflict niet, hebben geen moreel besef van menselijke waarden en ook geen begrip van menselijke drijfveren achter daden. We zouden geen autonome killer robots moeten toestaan.

De achterkant van robot Sophia

Het team van mens en robot

In de luchtvaart hebben we de afgelopen decennia gezien hoe de automatische piloot de luchtvaart veiliger en efficiënter heeft gemaakt. Maar gelukkig stappen we nog steeds niet in een vliegtuig zonder menselijke piloot. Maar weinig mensen weten dat menselijke piloten elke dag moeten ingrijpen omdat de automatisering niet doet wat ze zou moeten doen. Het punt is dat menselijke piloot plus automatische piloot samen veel veiliger en beter zijn dan elk van die twee afzonderlijk. Zo zal het op veel terreinen gaan: voeg een beetje menselijkheid toe aan een robot en het team van mens en robot samen presteert veel beter dan de mens in zijn eentje, maar ook dan de robot in zijn eentje kan.”

Het gevaar van simpele robots

In een stroming binnen de robotica wordt gestreefd naar zo eenvoudig en klein mogelijke robots die in zwermen simpele regels volgen om complexe taken uit te kunnen voeren. Hoe verhoudt zich dit streven naar simpelheid tot de verantwoordelijkheid die wij gedeeltelijk overdragen aan robots? Is dat niet hetzelfde als menselijke verantwoordelijkheid overdragen aan bijen of mieren?

“Zwermen van simpele robots die samen een complexe taak uitvoeren, zoals een zwerm van bijen of mieren, zijn een fascinerend idee. Een zwerm van eenvoudige robotjes is robuust en gemakkelijk uit te breiden. Talloze labs in de wereld werken eraan, maar eerlijk gezegd is de stap van lab naar praktijk nog groot. Talloze technische problemen zijn nog onopgelost. Bovendien zijn zwermrobots momenteel nog een oplossing op zoek naar een probleem.

De mens is verantwoordelijk

Wat betreft verantwoordelijkheid spelen soortgelijke problemen als bij zelflerende computers. De mens ontwerpt een machine en die machine gaat zichzelf aanpassen op een manier die de mens van te voren niet precies kan voorspellen. Maar we kunnen wel eisen dat de ontwerpers van die machine ervoor zorgen dat hun machine in ieder geval bepaalde vooraf gestelde gedragingen absoluut niet gaat vertonen, bijvoorbeeld schade toebrengen aan een mens. Of het nou om zelflerende computers gaat of om zwermrobots, uiteindelijk zijn het mensen die deze systemen ontwerpen en bouwen, repareren en onderhouden. En daarom moeten het ook mensen zijn die verantwoordelijkheid dragen voor het gedrag van robots. Voor valse honden is de eigenaar ook aansprakelijk.”

Het moeten mensen zijn die verantwoordelijkheid dragen voor het gedrag van robots. Voor valse honden is de eigenaar ook aansprakelijk.

Robots en privacy

In het boek staat weinig over de privacy-problemen die robots potentieel met zich meebrengen, bijvoorbeeld over dat de interactie met hen wordt gelogd. Jullie stellen alleen: ‘de morele verantwoordelijkheid voor wat er met de gegevens gebeurt, ligt bij de mens en niet bij de robot.’ Maken jullie je hier niet makkelijk van af? Is er niets robot-eigens aan deze problemen?

“Natuurlijk is de discussie over het belang van privacy in de digitale wereld belangrijk, maar ik denk niet dat de privacy-discussie bij robots wezenlijk anders is dan in de rest van onze ICT-toepassingen. Bovendien is er in de afgelopen jaren al zoveel over gesproken, dat wij er de voorkeur aan gaven om aspecten van robotica te bespreken die veel minder zijn belicht maar die minstens zo belangrijk zijn.

Om toch een voorbeeld uit de robotica te geven: eind 2016 werd de robotische speelgoedpop ‘My Friend Cayla’ uit de schappen gehaald. Wat een kind tegen de pop vertelde, werd opgenomen en doorgestuurd naar de fabrikant, die deze informatie weer aan derden mocht verkopen. Dat schendt de privacy van het kind. Een ouder kocht de pop waarschijnlijk met het naïeve idee dat een kind er leuk mee kan praten en dat alles dat wordt gezegd privé is. Wie zich een beetje verdiept in ICT en robots, weet hoe naïef dat is. Net zo naïef als te denken dat robothoofd Sophia net zo met je kan praten als een mens. De essentie is om mensen onder de huid en in het hoofd van de robot te laten kruipen, waardoor ze betere beslissingen over robotisering kunnen nemen.”

Robots en ethiek

Roboticus Rodney Brooks lijkt het niet zo op te hebben met het van toepassing verklaren van ethische problemen op robotgedrag. Met betrekking tot het befaamde trolley-dilemma waarin een mens in een extreme situatie voor de keuze staat een voertuig zijn baan te laten vervolgen en een groep mensen te laten doodrijden of uit te wijken en veel minder mensen dood te rijden schrijft hij: ‘Hoe vaak heb je als bestuurder moeten besluiten op welke groep mensen je in zou rijden? … Het is pure mentale zelfbevrediging in een jasje van ethiek.’ Hoe staan jullie hier in?

“Rodney Brooks vindt het wel degelijk belangrijk om na te denken over de ethische gevolgen van robots. Alleen vindt hij, en trouwens ook allerlei ethici met hem, het trolley-probleem een te ver gezocht probleem. Het komt in de praktijk namelijk bijna nooit voor. Het is veel relevanter na te denken over principes, dan na te denken over het trolley-probleem.”

Robotdreiging

Als het gaat om de meest voorkomende angst over robots, de dreigende overname van de wereld door robots, laten jullie experts aan het woord die dat gevaar niet erg serieus nemen. Het is opnieuw een voorbeeld van jullie praktische, concrete benadering die abstracte bespiegelingen niet zo belangrijk lijkt te vinden. Is die houding een aanrader voor ons allen als het gaat om robots?

“Het Hollywood-scenario van robots die de wereld overnemen, verkoopt ook in de media heel goed. Dat heeft een zichzelf versterkend effect, want in bijna elk interview krijgen we wel de vraag of robots de wereld gaan overnemen. Kijk naar de stunteligheid van een robotstofzuiger en je ziet meteen hoe onrealistisch dat is.

Het probleem is dat wie te ver vooruit kijkt noch de gevaren noch de kansen vlak voor zich ziet. Ik spreek al tien jaar de beste experts in de wereld over robots en kunstmatige intelligentie en bijna iedereen trekt de conclusie dat er geen enkele reden is om op dit moment de ‘robocalyps’ serieus te nemen. Het is veel belangrijker om na te denken over de sociaal-economische gevolgen van robotisering, zowel de positieve als de negatieve gevolgen. De toekomst is aan mensen die het beste met robots kunnen samenwerken.”

De toekomst is aan mensen die het beste met robots kunnen samenwerken.

Robots: de toekomst

Jullie citeren Leila Takayama, expert op het gebied van interactie tussen mens en robot: ‘Robotica heeft een traditie van te veel beloven en te weinig presteren.’ Is dat ook jullie conclusie?

“Een robot met mensachtige intelligentie is veel verder weg dan de meeste mensen denken. De intelligentie van computers en robots vergelijk ik wel eens met een laserstraal: heel precies en krachtig, maar ook op een heel klein gebiedje. Eind jaren vijftig dacht men dat de huishoudrobot om de hoek lag en dat computers spoedig net zo goed willekeurige complexe beelden zouden begrijpen als mensen. Allebei zijn nu nog steeds nog ver weg.

Maar we hebben wel het internet gekregen, zoekmachines, automatische vertaalmachines, social media, industriële robots en robotische wagentjes die op Mars rondrijden. Het is een illusie om te denken dat we technologische ontwikkelingen precies kunnen voorspellen. Robots hebben de mens veel te bieden, maar dan moeten we wel door de robot-hype en de robot-angst heen willen kijken. We hebben behoefte aan meer realisme en minder SiliconValley-pr-praat. Zoals science-fictionschrijver Arthur C. Clarke ooit zei: ‘mensen overschatten technologie op de korte termijn, maar onderschatten haar op de lange termijn.’”

Inzicht

Zoals blijkt uit het gesprek benaderen Bennie Mols en zijn mede-auteur Nieske Vergunst robots aangenaam ontnuchterend. Zij laten zich niet meevoeren in de waan van alledag en brengen het thema terug tot menselijke proporties. Robots zijn in hun ogen geen opperwezens of mensvervangers. Het zijn apparaten met een menselijke maat. Mols en Vergunst laten zien dat wij mensen verantwoordelijk zijn voor robots en verantwoordelijk blijven. Hoewel wij ons achter de soms imposante machines proberen te verschuilen, moeten wij de verantwoordelijkheid voor deze machines voelen en op ons nemen. Dat is voor mij het belangrijkste inzicht dat ik meeneem uit hun boek.

 

Over het boek

Titel: Hallo robot – de machine als medemens
Auteur: Bennie Mols en Nieske Vergunst
Uitgever: Nieuw Amsterdam
Jaar: 2017
Nummer: 978 90 468 2292 0
Mediatype: Boek, 286 bladzijdes
Prijs: €19,99
Bestellen: via Managementboek (aff.)