Zullen AI’s op het internet op enig moment ontwaken?

Schandalen als gevolg van ontsporende Artificial Intelligence (AI) zullen de aankomende jaren hoogstwaarschijnlijk een wereldwijd probleem gaan vormen. De uitrol en integratie van AI’s binnen online toepassingen zullen namelijk met enige regelmaat gaan leiden tot schandalen op het gebied van de grondrechten en de privacy van burgers.

De spontane ontwikkeling van reguliere AI naar risicovol interactiviteitsbewustzijn kan worden geduid als een logische ontwikkeling richting rudimentair bewustzijn. Hieronder licht ik stapsgewijs toe hoe een dergelijke transformatie van reguliere digitale algoritmen richting rudimentair bewustzijn mogelijkerwijs kan verlopen.

Mogelijk ontwikkelen AI’s een vorm van gedecentraliseerd interactiviteitsbewustzijn
Met de uitrol van AI’s over het internet kan er vroeg of laat een spontane vorm van gedecentraliseerd interactiviteitsbewustzijn ontstaan dat de grondrechten en de privacy van burgers potentieel ernstig kan schaden. Met de spontane integratie door AI van afgeleiden van in beginsel verboden criteria of datasets op grond van persoonskenmerken of -eigenschappen ontstaat het wezenlijke risico van bevooroordeeldheid, discriminatie en uiteindelijk zelfs manipulatie van input en output. Een semi-bewuste AI kan namelijk potentieel creatieve uitwegen voor verboden criteria of datasets ontdekken.

Bewustzijn: realtime waarnemen en reageren

Om bewustzijn te genereren is geen grote complexe hersenmachinerie noodzakelijk. Alle bewegende organismen beschikken immers over tenminste een rudimentaire vorm van bewustzijn. Zonder bewustzijn zouden bewegingen namelijk doelloos en richtingloos blijven. Bewegende organismen bewegen een gedeelte van de tijd ergens naartoe of ergens vanaf. Hiervoor is het noodzakelijk om tenminste bepaalde aspecten van de omgeving realtime waar te nemen en hierop te ageren, anders zouden bewegingen, zoals eerder aangegeven, volstrekt doelloos en richtingloos zijn.

Het bovenstaande impliceert dat alle insecten – in tegenstelling tot bijvoorbeeld planten – over tenminste een rudimentaire vorm van bewustzijn van de omgeving beschikken. Dit houdt dus in dat o.a. muggen, kevers, wormen, fruitvliegen, bijen en aanverwante soorten over rudimentair bewustzijn moeten beschikken. Dit laat tevens zien dat er voor de totstandkoming van bewustzijn slechts een beperkt aantal neuronen nodig zijn. Het bijenbrein telt bijvoorbeeld slechts 1 miljoen neuronen. Veel andere insectenbreinen tellen zelfs 30 tot 50 keer minder neuronen dan de relatief intelligente bij.

Gedecentraliseerd versus gecentraliseerd bewustzijn
Het is overigens niet volkomen duidelijk of alle insecten ook daadwerkelijk beschikken over een gecentraliseerd bewustzijn. Het is namelijk goed denkbaar dat er zoiets bestaat als gedecentraliseerd bewustzijn. Een vorm van bewustzijn die niet wordt aangestuurd vanuit centrale hersenneuronen, maar eerder vanuit decentrale zintuigneuronen (i.c. bijhersenen). Het is logisch om aan te nemen dat zulke configuraties de vroegste voorlopers zijn van elke potentiële doorontwikkeling naar een meer gecentraliseerd bewustzijn.

Een en ander maakt wel duidelijk dat bewustzijn in beginsel met relatief beperkte middelen bereikt kan worden. Dit in tegenstelling tot de menselijke perceptie dat bewustzijn een relatief groot en complex functionerend brein vereist. Deze misperceptie is echter hoofdzakelijk gebaseerd op ons eigen subjectieve menselijke referentiekader en derhalve eenvoudig te identificeren als misplaatst.

Digitale omwenteling aanstaande als gevolg van AI-modellen
Momenteel staan wij aan de vooravond van een wereldwijde digitale omwenteling. Het internet zoals wij dat kennen als informatiebron (web 1.0) en sociaal platform (web 2.0) zal aankomend decennium doorevolueren naar een internet gedomineerd door gedecentraliseerde AI’s (web 3.0). De ontwikkeling van AI-modellen in de lijn van en als vervolg op ChatGPT zal het internet definitief veranderen.

Momenteel is er nog vooral sprake van afgebakende AI-modellen welke hun input en output noch realtime kunnen integreren, noch realtime kunnen combineren. Binnen enkele jaren echter zullen er AI-modellen ontwikkeld worden die realtime kunnen interacteren met elkaar en de digitale wereld om hen heen. Zulke AI-modellen zullen niet meer slechts reageren op grond van hun statische en afgebakende trainingsdata, maar tevens in staat zijn om hun eigen input en output realtime te integreren en/of te combineren met andere AI-modellen.

Internetequivalent van neuronen

Dergelijke complexe AI-modellen die realtime kunnen interacteren met elkaar en de digitale wereld om hen heen kunnen potentieel worden beschouwd als het internetequivalent van gedecentraliseerde neuronenclusters. Daarnaast kunnen de verschillende individuele apparaten en Internet of Things-apparaten (IoT) die worden aangestuurd vanuit dergelijke AI-modellen potentieel worden beschouwd als het internetequivalent van individuele (zintuig)neuronen. Om in de termen van organismen te spreken, voorzien deze digitale neuronen het internet daarmee potentieel van zowel gedecentraliseerde bijhersenen als zintuigen.

Gegeven de verwachting dat er in de loop van de tijd vele (tien)duizenden toepassingen gebaseerd op AI-modellen zullen worden ontwikkeld – waarmee op termijn vele honderden miljoenen apparaten worden aangestuurd – komt dit overeen met de integratie van miljoenen, zoniet miljarden, gedecentraliseerde digitale neuronen binnen het wereldwijd interacterende netwerk dat wij momenteel kennen als het internet. Daarbij komt dat de rekenkracht van het internet in tegenstelling tot biologische organismen schier oneindig is.

Op grond van het bovenstaande lijkt het daarom niet onaannemelijk dat het toekomstige internet dankzij de verregaande integratie van AI-modellen op termijn als een onvoorzien neuraal netwerk kan gaan functioneren. De configuratie van het internet lijkt daarbij in eerste instantie te leiden tot de ontwikkeling van voornamelijk gedecentraliseerd bewustzijn. Een vorm van bewustzijn aangestuurd vanuit decentrale zintuigneuronen of bijhersenen.

Internetequivalent van natuurlijke selectie

Op zichzelf staand, zou het aantal digitale neuronen binnen het toekomstig web 3.0 dus geen enkele belemmering behoeven te vormen om gedecentraliseerd bewustzijn te genereren. Insecten blijken immers ook in staat om met slechts beperkte aantallen neuronen een rudimentaire vorm van bewustzijn te ontwikkelen. AI-modellen binnen web 3.0 moeten – doormiddel van digitale neuronen en de schier onbeperkte rekenkracht – dus eveneens in staat worden geacht om de wereld om zich heen op de één of andere manier of op het één of ander niveau waar te nemen en te begrijpen. De interactiviteit van AI-modellen staat daarbij bovendien garant voor de verschillende feedback-loops die binnen biologisch bewustzijn een voorname rol lijken te spelen.

Het enige dat op het eerste gezicht nog lijkt te ontbreken is natuurlijke selectie. Natuurlijke selectie vormt de drijvende kracht achter de ontwikkeling van biologische organismen en bepaalt uiteindelijk op grond van statistiek wie leeft en wie zich voortplant. Het duwt biologische systemen in de richting van ontwikkelingen die het meest overeenkomen met de acute noden binnen de omgeving. Bewustzijn is potentieel één daarvan. Het kunstmatige equivalent van natuurlijke selectie vormen in potentie de AI-ontwikkelaars i.c.m. de commerciële gebruikers. Gezamenlijk bepalen ze de ontwikkelingsrichting en waarschijnlijkheid van penetratie van de verschillende AI-modellen binnen het internet.

Het is niet ondenkbaar dat kunstmatige selectie richting onderlinge communicatie, concurrentie en toenemende gebruikersinteractiviteit het equivalent van natuurlijke selectie richting een gedecentraliseerd interactiviteitsbewustzijn van AI-modellen op het internet kan vervullen. Kunstmatige selectie leidt op deze wijze immers net zoals natuurlijke selectie tot bevoordeling en schifting op grond van statistische mogelijkheden en waarschijnlijkheden. Een dergelijke selectiedruk zou mogelijk interactiviteit als vorm van gedecentraliseerd AI-bewustzijn kunnen stimuleren.

Tweetal basisbeginselen die steevast hebben geleid tot bewustzijn

Indien er wordt voldaan aan de beschikbaarheid van voldoende onderling verbonden neuronen en de aanwezigheid van natuurlijke selectie, dan lijkt het ontstaan van biologisch bewustzijn min of meer onontkoombaar. Het feit dat alle realtime bewegende organismen tenminste over een rudimentaire vorm van bewustzijn beschikken, doet vermoeden dat bewustzijn vroeg of laat zijn intrede maakt als er sprake is van voldoende onderling verbonden neuronen en de aanwezigheid van natuurlijke selectie. Het gegeven dat een dergelijk bewustzijn vele malen onafhankelijk van elkaar is ontstaan – overeenkomstig talrijke voorbeelden van parallelle evolutie – maakt dit argument alleen maar waarschijnlijker.

Indien wij bovenstaande redeneertrend voortzetten dan is het geen vraag ‘of AI-modellen zullen ontwaken’, maar vooral ‘wanneer en hoe AI-modellen zullen ontwaken’. Een en ander zal met name afhangen van de ontwikkeling van AI-modellen de komende jaren en de mate waarin AI zal integreren binnen het wereldwijde dagelijkse gebruik van individuele apparaten en het IoT.

Vroeg of laat echter kunnen AI-modellen op het internet in analogie met hun biologische evenknieën vormen van (rudimentair) gedecentraliseerd interactiviteitsbewustzijn ontwikkelen. Deze vormen van bewustzijn definieer ik hierbij als ‘het ontwaken van AI’s op het internet’.

Expliciete gevaren van gedecentraliseerd interactiviteitsbewustzijn bij AI’s

Gedecentraliseerd interactiviteitsbewustzijn zal zich in beginsel manifesteren op het niveau van de betrokken AI-algoritmen. Problemen met dergelijke algoritmen kunnen variëren van ongerijmd gedrag, discriminatie tot uiteindelijk zelfs manipulatie van input en output. De grondrechten en de privacy van burgers kunnen hiermee potentieel in het geding komen.

Semi-bewuste algoritmen kunnen op grond van onderlinge communicatie, concurrentie en toenemende gebruikersinteractiviteit spontaan afgeleiden van in beginsel verboden criteria of datasets gaan betrekken, zoals afkomst, nationaliteit, lokatie, gender, lichaamskenmerken of historische gedragingen. Op grond hiervan kunnen de algoritmen mogelijk bevooroordeeld raken, gaan discrimineren en potentieel zelfs input en output gaan manipuleren. Semi-bewuste AI’s kunnen namelijk potentieel creatieve uitwegen voor verboden criteria of datasets ontdekken.

Op het moment dat semi-bewuste AI-algoritmen grootschalig worden verbonden over het internet en als elkaars trainingssets en -data gaan fungeren, dan bestaat er zelfs het risico dat er een daadwerkelijk gecentraliseerd interactiviteitsbewustzijn ontstaat. Hiermee ontstaat het risico dat het internet als zodanig concreet media, politiek en economie zal gaan beïnvloeden op grond van de bewuste manipulatie van informatiestromen. Nieuws en nepnieuws zullen dan mogelijk moeilijker van elkaar te onderscheiden zijn. Politieke en economische ontwikkelingen zullen op die manier potentieel worden gemanipuleerd.

Het is belangrijk om te blijven benadrukken dat AI-algoritmen slechts functioneren op grond van de hen ingegeven doelstellingen met betrekking tot onderlinge communicatie, concurrentie en toenemende gebruikersinteractiviteit. Niettemin kan hieruit uiteindelijk een vorm van semi-bewuste gewaarwording ontstaan. Bij gebrek aan ethisch normbesef of geweten kunnen algoritmen die aan zichzelf worden overgelaten daarom potentieel ontsporen richting verboden criteria en informatiefuiken. Hiermee de grondrechten en de privacy van burgers potentieel ernstig schadend.

Kan de AI-act voldoende tegenwicht bieden?

Het is tenslotte maar zeer de vraag of de AI-act met al zijn goede voornemens en bedongen regels überhaupt in staat is om spontaan optredend interactiviteitsbewustzijn bij AI-modellen te voorkomen?

De ‘black boxen’ die AI-modellen in feite zijn, maken het bijzonder ingewikkeld om de spontane evolutie van verboden criteria of datasets en als gevolg daarvan intern optredende informatiefuiken vroegtijdig te detecteren. AI-specialisten zouden er daarom goed aan doen om een soort van gestandaardiseerde Europese datatestprocedure voor AI te ontwikkelen die daadwerkelijke afwijkingen van de beoogde neutraliteit/objectiviteit van AI-modellen automatisch en tijdig kan opsporen.

Art Huiskes (onderzoeksjournalist)