Amsterdam – Autonome AI-systemen nemen in steeds meer organisaties zelfstandig beslissingen, maar veel bedrijven blijken juridisch nauwelijks voorbereid op de gevolgen als het misgaat. Een kwart (24%) van de bedrijven heeft helemaal niets vastgelegd over waar de verantwoordelijkheid ligt wanneer het misgaat. Ruim driekwart (77%) van de organisaties heeft überhaupt geen idee wie verantwoordelijk is wanneer autonome AI, zoals een ERP-systeem, schade veroorzaakt. Dit blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties in Nederland.
Voorbereid op papier, kwetsbaar in de praktijk
Hoewel de juridische onduidelijkheid groot is, denkt een meerderheid van de organisaties toch goed voorbereid te zijn. Bijna zes op de tien respondenten (59%) zegt dat de eigen organisatie juridisch klaar is voor de inzet van autonome AI-systemen. Toch blijkt dat in de praktijk minder te zijn. Naast de 24 procent die niets heeft vastgelegd over aansprakelijkheid, geeft slechts een derde (36%) aan dit gedeeltelijk te hebben vastgelegd.
Verantwoordelijk voor financiële schade
Bij financiële schade veroorzaakt door een autonoom AI-systeem verwachten organisaties vooral dat de verantwoordelijkheid intern wordt gedragen. Bijna een derde (29%) wijst de IT-afdeling aan als primair verantwoordelijke partij, gevolgd door de organisatie zelf (22%) en de manager die eindverantwoordelijk is voor het proces (21%). De softwareleverancier wordt als laatste genoemd met 19 procent.
Jan-Douwe Jilderda, CEO bij Dynamic People: “Veel organisaties hebben het gevoel dat ze klaar zijn voor autonome AI, maar zodra je vraagt naar wie verantwoordelijk is als het systeem schade veroorzaakt, blijft het opvallend stil. Autonome AI verschuift besluitvorming steeds verder richting software, terwijl governance, aansprakelijkheid en toezicht vaak nog niet zijn ingericht. Organisaties moeten nu duidelijke afspraken maken over verantwoordelijkheid voordat deze systemen op grote schaal zelfstandig gaan handelen. Anders ontstaat er onduidelijkheid op het moment dat er snel gehandeld moet worden.”
Dit bericht is geplaatst op ons open Business channel en valt buiten de verantwoordelijkheid van de redactie.
