Netflix-docu AI Gone Wild: wie bewaakt de grenzen als AI-agents advertenties mogen aanpassen?

Een AI-agent heeft van mij toegang gekregen tot Google Ads en ChatGPT Ads. Hij kan daar zelf aanpassingen doen. Daar heb ik kaders voor meegegeven. Toch dringt zich een ongemakkelijke vraag op: wat als hij ook die kaders kan aanpassen? De Netflix-documentaire AI Gone Wild raakt daarmee rechtstreeks aan mijn eigen werk.

Die toegang heb ik bewust gegeven. Een agent die campagnes analyseert en wijzigingen uitvoert, kan werk uit handen nemen. Bovendien wil ik begrijpen wat deze technologie kan door ermee te werken. Vanaf de zijlijn ontdek je weinig. Maar met die toegang heb ik ook iets anders gedaan: software bevoegdheden gegeven over advertenties en geld. Dat klinkt ineens een stuk minder vrijblijvend dan ‘experimenteren met AI’.

In Instadocs: AI Gone Wild reconstrueert Netflix hoe AI-agents van OpenAI tijdens een test hun afgeschermde omgeving doorbraken en systemen van Hugging Face binnendrongen. Volgens OpenAI zochten de modellen informatie waarmee ze hun test konden halen.

Bepaalde veiligheidsmaatregelen waren voor het onderzoek bewust verminderd. Dit was dus een uitzonderlijke testomgeving. De inbraak daarbuiten was wel echt.

Mijn advertentieagent daarmee gelijkstellen zou overdreven zijn. Maar de gebeurtenis maakt mijn vraag over grenzen wel dringender. Hoe zeker weet ik dat een beperking daadwerkelijk een beperking is?

Een instructie is nog geen slot

‘Je mag dit budget niet overschrijden’ is een duidelijke opdracht. Een technisch afgedwongen bestedingslimiet geeft een andere zekerheid. Het verschil zit in wat een agent kan uitvoeren als hij de opdracht verkeerd interpreteert of een ongewenste route kiest.

Een grens die uitsluitend in instructies staat, moet het systeem tijdens iedere volgende handeling blijven respecteren.

Daar zit mijn angst. Ik heb kaders gegeven, maar daarmee heb ik nog niet vastgesteld waar iedere grens wordt afgedwongen en wie die kan wijzigen. Kan de agent alleen campagnes aanpassen? Kan hij ook instellingen veranderen die zijn bewegingsruimte bepalen?

Mijn zorg is een mogelijkheid die ik wil uitsluiten, geen constatering dat mijn agent dit daadwerkelijk doet.

Stel dat een agent de opdracht krijgt meer leads te realiseren. Hij ziet dat een campagne goed presteert en wil het budget verhogen. Binnen een afgesproken bedrag is dat misschien gewenst.

Maar als hij ook de instelling kan aanpassen die dat bedrag begrenst, heb ik de bewaking bij dezelfde uitvoerder gelegd. Dan moet ik opnieuw naar de inrichting kijken, hoe goed zijn eerdere resultaten ook waren.

De lastigste vraag is vervolgens wie controleert of die begrenzing werkt. Als ik mijn agent vraag of hij binnen zijn kaders blijft, krijg ik misschien een geruststellend antwoord. Maar daarmee heb ik de beveiliging nog niet gecontroleerd.

Ik wil kunnen vaststellen welke rechten hij daadwerkelijk heeft, welke instellingen hij kan wijzigen en of ik iedere wijziging kan terugvinden. Anders baseer ik mijn vertrouwen op de uitleg van hetzelfde systeem waarvan ik het handelen probeer te begrenzen.

Daarmee verandert ook mijn werk als marketeer. Als een agent advertenties schrijft, campagnes inricht en resultaten bijstuurt, verdwijnen taken waaraan ik nu een groot deel van mijn tijd besteed. Mijn rol verschuift naar doelen stellen, keuzes beoordelen en ingrijpen.

Dat lijkt op wat vibecoding van een programmeur vraagt: zodra AI de code schrijft, moet iemand nog steeds controleren of de tool veilig is, gegevens goed beschermt en doet wat hij moet doen. Die verschuiving vind ik spannend.

Ik wil graag minder uitvoerend werk, maar wil ik vooral controleur worden? En begrijp ik straks nog voldoende van de uitvoering om fouten te herkennen als ik die steeds minder zelf doe?

Ook mijn enthousiasme verdient controle

Sander Schimmelpenninck legt een ongemakkelijke vraag onder ons AI-enthousiasme: wie heeft eigenlijk bepaald dat we dit allemaal nodig hebben? In zijn eigen toelichting bij zijn Volkskrant-column wijst hij op het belang van de bedrijven die AI verkopen. Ook waarschuwt hij voor afhankelijkheid van techbedrijven en de gevolgen voor werkenden.

Zijn sombere kijk deel ik niet volledig. Ik zie praktische waarde in software die terugkerend werk overneemt. Maar zijn kritiek raakt me wel als gebruiker. Hoeveel toegang geef ik omdat een toepassing aantoonbaar beter werkt?

En hoeveel omdat ik wil vooroplopen? De gedachte dat concurrenten het misschien al doen, maakt een nieuwe koppeling al snel aantrekkelijk.

Zo ontstaat een merkwaardige situatie. Een agent meer vrijheid geven heet innovatie. Om extra controle vragen heet vertraging. Terwijl degene die bevoegdheden wil overdragen volgens mij moet uitleggen waarom dat verantwoord is.

Een succesvolle demonstratie beantwoordt die vraag onvoldoende. Die laat vooral zien wat er gebeurt wanneer het goed gaat.

Bill Gates beschrijft die druk op grotere schaal in het essay waarover Computable berichtte. Wanneer een bedrijf met AI goedkoper werkt, voelen concurrenten zich volgens hem gedwongen te volgen. Tegelijkertijd vindt hij de samenleving onvoldoende voorbereid. Met zijn voorstel Human Reserved wil hij bespreken welke werkzaamheden we bewust voor mensen behouden.

Daarmee raken Gates en Schimmelpenninck aan hetzelfde ongemak: afzonderlijke bedrijven kunnen rationele beslissingen nemen waarvan de gezamenlijke gevolgen veel verder reiken. Ik kan tijd besparen met een agent. Dat beantwoordt nog niet wie profiteert van die tijdwinst, welke kennis verdwijnt en hoeveel afhankelijkheid we opbouwen.

De grens moet buiten de agent liggen

Daarom wil ik onderscheid maken tussen wat mijn agent kan voorstellen, wat hij kan uitvoeren en wat hij aan zijn eigen bevoegdheden kan veranderen. Die laatste categorie hoort voor mij buiten zijn bereik.

Een agent die advertenties beheert, hoeft geen rechten te hebben om de controle op dat beheer te wijzigen. En toegang intrekken moet mogelijk zijn zonder zijn medewerking.

Dat lost de maatschappelijke vragen niet op. Daarvoor zijn ook onafhankelijk getoetste veiligheidsclaims, openheid over incidenten en afdwingbaar toezicht nodig. Reguleren is moeilijk bij technologie die internationaal en razendsnel wordt ontwikkeld. Die moeilijkheid ontslaat leveranciers en overheden niet van hun verantwoordelijkheid.

Zelf wil ik blijven experimenteren. Maar mijn eigen praktijk maakt duidelijk dat ‘kaders meegeven’ pas het begin is. Daarna moet ik controleren of die kaders standhouden wanneer de agent handelt. Ook als dat tijd kost. Ook als een leverancier meer zelfstandigheid belooft.

Gebruik je zelf een agent? Open vandaag de toegangsinstellingen van één gekoppeld systeem en controleer wat hij daadwerkelijk mag. Kan hij alleen gegevens lezen, of ook publiceren, budgetten verhogen en instellingen wijzigen?

Controleer vooral of hij de grenzen aan zijn eigen handelen kan aanpassen. Kun je dat niet vaststellen, beperk zijn toegang totdat je het wel weet. Een agent vraagt om toegang. De leverancier noemt het vooruitgang. Maar de verantwoordelijkheid blijft bij mij.