Hoe zelfstandig autonome AI-systemen, zoals ERP-systemen, ook worden, er zijn beslissingen die managers niet uit handen willen geven. Zo vindt ruim de helft (53%) dat AI nooit zelfstandig contracten mag sluiten met leveranciers of klanten, wil 51% ontslagbeslissingen bij een mens houden en vindt 45% dat salarissen en arbeidsvoorwaarden niet door AI mogen worden vastgesteld. Dit blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties in Nederland.
Waar ligt de grens?
Ook over financiële beslissingen willen organisaties de controle behouden. Zes op de tien (61%) vinden dat AI nooit zelfstandig mag beslissen over financiële handelingen boven een bepaald bedrag. Waar die grens precies ligt, verschilt echter sterk. De meest genoemde grenzen zijn 10.000 euro (29%) en 50.000 euro (22%), terwijl achttien procent van mening is dat AI überhaupt nooit zelfstandig financiële beslissingen mag nemen.
Wanneer organisaties AI wel zelfstandig laten handelen, zijn er duidelijke momenten waarop zij aangeven handmatig in te grijpen. Bijna twee derde (64%) doen dat zodra een AI-systeem boven een financiële drempel handelt en zes op de tien (60%) doen hetzelfde bij risicovolle beslissingen over klanten, leveranciers en contracten. Bij 36 procent gebeurt ingrijpen pas achteraf, zodra een uitkomst negatief uitpakt.
Volledig vertrouwen blijft ver weg
Toch vindt die menselijke tussenkomst niet altijd op het juiste moment plaats. Bijna acht op de tien (79%) constateert dat menselijke tussenkomst vaak pas komt nadat de schade al is ontstaan. Eerder ingrijpen kan alleen als duidelijk is waarom een systeem iets besluit. Een kwart (26%) grijpt dan ook in zodra AI die uitleg niet kan geven. Diezelfde uitlegbaarheid speelt ook een rol in hoe ver organisaties met autonomie durven gaan: 83% vindt dat volledige autonomie een illusie blijft zolang AI-beslissingen uitlegbaar moeten zijn.
Jan-Douwe Jilderda, CEO van Dynamic People: “We zien dat organisaties ingrijpen als het misgaat. Hoewel dat voelt als controle, is het vooral schade beperken achteraf. Bij onomkeerbare beslissingen, zoals ontslag, contracten of grote financiële stappen, is dat te laat. Wie bevoegdheden, financiële drempels en controlemomenten al vooraf in processen en systemen vastlegt, hoeft niet te wachten tot het misgaat om te weten waar de grens ligt, en kan AI juist meer ruimte geven om veilig zelfstandig te handelen.”
Dit bericht is geplaatst op ons open Business channel en valt buiten de verantwoordelijkheid van de redactie.
