AI als ‘onzichtbare bestuurder’ vraagt om scherper toezicht

Best practice

In hoeverre beïnvloedt artificial intelligence de besluitvorming binnen de boardroom al vooraf en hoe voorkom je dat de rol van toezicht wordt beperkt tot controle achteraf? Manon Borsboom, commercieel directeur bij softwarebedrijf Inpact, schetst de risico’s, aandachtspunten en vragen voor toezichthouders in een AI-gedreven context.

De inzet van kunstmatige intelligentie of artificial intelligence (AI) binnen organisaties is de afgelopen jaren sterk toegenomen. AI wordt toegepast bij risicobeoordelingen, marktanalyses, personeelsselectie, rapportages en strategische besluitvorming. In veel gevallen wordt AI gepresenteerd als een ondersteunend instrument dat besluitvorming efficiënter en objectiever maakt. 

In mijn dagelijkse werk als commercieel directeur bij softwarebedrijf Inpact ervaar ik hoe diepgaand AI inmiddels in de bedrijfsvoering is geïntegreerd. AI wordt door ons niet alleen ingezet ter ondersteuning van processen, maar raakt ook de kern van onze bedrijfsvoering, onder meer bij het schrijven van code. 

Duidelijke kaders nodig

Juist omdat dit zo essentieel is, wordt het belang van duidelijke kaders met de dag relevanter. Vragen als: waarvoor wordt AI ingezet, met welk doel, en met welke tools, zijn niet alleen technisch van aard, maar hebben alles van doen met verantwoordelijkheid en controle. Dat vergroot de urgentie van het onderwerp en maakt zichtbaar dat de inzet van AI niet los kan worden gezien van governance en toezicht. 

Tegelijkertijd roept deze ontwikkeling de vraag op wat dit betekent voor toezicht. AI heeft geen formele positie binnen de governance-structuur van een organisatie. Het is geen bestuurder, geen commissaris en geen functionaris met een wettelijke verantwoordelijkheid. Toch beïnvloedt AI in toenemende mate welke informatie beschikbaar is en welke prioriteiten worden gesteld. Daarmee heeft AI indirect invloed op machtsverhoudingen binnen organisaties. 

Verschuiving in besluitvormingsruimte

In hoeverre beïnvloedt AI de besluitvorming binnen organisaties, en wat betekent dit voor de rol en verantwoordelijkheid van toezichthouders? Mijn hypothese is dat AI, ondanks het ontbreken van een formele en aanspreekbare rol, in de praktijk invloed uitoefent op de voorbereiding van besluiten. Hierdoor kan de feitelijke besluitvormingsruimte verschuiven, zonder dat dit expliciet wordt benoemd. Als toezichthouders hier geen actieve aandacht voor hebben, bestaat het risico dat toezicht zich beperkt tot controle achteraf, terwijl de belangrijkste aannames al eerder in het proces zijn gedaan. 

AI beslist niet, maar beïnvloedt wel

Uit een beknopte literatuurstudie en een interview met een ervaren toezichthouder, blijkt dat AI zowel in theorie als praktijk zelden het formele besluit neemt. Besluiten worden nog steeds door bestuurders genomen en formeel vastgelegd. De invloed van AI manifesteert zich echter eerder in het proces. 

AI-systemen structureren informatie, selecteren relevante data en vatten dit samen. Daarmee bepalen zij mede: 

  • welke risico’s aandacht krijgen; 
  • welke scenario’s worden doorgerekend; 
  • welke alternatieven als realistisch worden beschouwd. 

In het interview werd bevestigd dat AI in de betrokken organisaties wordt ingezet voor onder andere marktanalyses, rapportages en interne besluitondersteuning. 

Hoewel AI niet autonoom beslist, beïnvloedt het wel de informatiebasis waarop bestuurders hun oordeel vormen. Hierin ligt de kern van het vraagstuk: wie invloed heeft op informatie, heeft indirect invloed op besluitvorming. 

De mate van ‘voorsortering’ 

Mijn hypothese veronderstelde dat AI keuzes vooraf kan beïnvloeden. De praktijk laat een genuanceerder beeld zien. In het interview kwam naar voren dat er (nog) geen sprake is van volledig door AI gedreven besluitvorming. De mate van invloed hangt sterk af van: 

  • de formulering van de opdracht; 
  • de gebruikte datasets; 
  • de kritische houding van bestuurders. 

Wel kan AI via selectie- en analysetools impliciet richting geven aan het gesprek. Een concreet risico van AI in besluitvorming is dat de bias in de data kan leiden tot suboptimale uitkomsten. Een bekend voorbeeld hiervan is het gebruik van algoritmes bij recruitment. Wanneer historische data wordt gebruikt om geschikte kandidaten te vinden, kan het systeem onbedoeld bestaande voorkeuren of patronen versterken, bijvoorbeeld door bepaalde profielen systematisch hoger of lager te waarderen. Het gevolg is dat een organisatie mogelijk geschikte kandidaten niet in beeld krijgt. 

Dit soort voorbeelden maakt duidelijk dat bias in AI niet alleen een technisch vraagstuk is, maar direct raakt aan de kwaliteit van besluitvorming en daarmee aan de kern van toezicht. AI fungeert niet als formele beslisser, maar als aanjager in het besluitvormingsproces. 

Ongelijke informatiepositie 

Een cruciale vraag is wat de toezichthouder daadwerkelijk ziet. In het interview kwam naar voren dat toezichthouders met name geconsolideerde analyses en rapportages ontvangen. 

Minder zichtbaar zijn: 

  • de exacte datakeuzes; 
  • onderliggende aannames; 
  • mogelijke biases in het model; 
  • de technische werking van algoritmes. 

Dit versterkt de ongelijke informatiepositie. Waar toezicht traditioneel afhankelijk is van informatie van het bestuur, ontstaat nu een extra laag tussen werkelijkheid en rapportage. Hier krijgt de metafoor van de ‘onzichtbare bestuurder’ meer betekenis. AI heeft geen formele stem, maar beïnvloedt wel wat er besproken wordt. 

Veranderende context voor verantwoordelijkheid 

Een belangrijke conclusie uit zowel literatuur als praktijk is dat de formele verantwoordelijkheid niet verschuift. Bestuurders blijven verantwoordelijk voor besluiten. Toezichthouders blijven verantwoordelijk voor het toezicht daarop. 

Wat wel verandert, is de context waarin deze verantwoordelijkheid wordt ingevuld. De uitspraak uit het interview dat toezichthouders het systeem niet zelf hoeven te kunnen bouwen, maar wel de impact moeten begrijpen, vat dit goed samen. Het gaat niet om technische beheersing, maar om begrip van de werking en de mogelijke consequenties. 

Van uitkomstgericht naar procesgericht toezicht 

De invloed van AI vraagt om een verschuiving in aandacht. Een belangrijk aandachtspunt dat uit zowel literatuur als tijdens het interview naar voren komt, is dat toezichthouders zich vaak richten op de informatie die gepresenteerd wordt en minder op wat mogelijk ontbreekt. Juist bij AI-ondersteunde besluitvorming ligt daar een risico. 

Dit vraagt van toezichthouders dat zij niet alleen vragen stellen over de juistheid van informatie, maar ook onderzoeken en/of controlevragen stellen over wat mogelijk buiten beeld is gebleven. Waar toezicht traditioneel gericht is op uitkomsten, vraagt AI om nadruk op het proces. 

Relevante vragen zijn daarbij: 

  • Worden AI-tools gebruikt? En welke zijn dit? 
  • Welke data worden gebruikt om deze tools te trainen? 
  • Voor welke processen in de organisatie? 
  • Hoe wordt menselijke correctie/ interventie georganiseerd? 
  • Wie heeft toegang? 
  • Waar worden de data opgeslagen? En hoe is beveiliging geregeld? 
  • Welke risico’s zijn expliciet besproken? 

Toezicht verschuift daarmee van uitsluitend controleren naar kritisch doorvragen. 

Schaal en onomkeerbaarheid 

Een aanvullend punt uit het interview betreft de schaalbaarheid van AI-systemen. Wanneer systemen eenmaal breed zijn uitgerold, zijn zij moeilijk terug te draaien. Fouten of biases kunnen dan grote impact hebben. Dit vergroot het belang van vroegtijdige betrokkenheid van toezichthouders bij technologische implementaties. 

Aanscherping rol toezichthouder

Conclusie: de hypothese dat AI de besluitvorming vooraf kan beïnvloeden, wordt in belangrijke mate bevestigd. AI neemt geen autonome besluiten, maar beïnvloedt wel de informatie en framing waarop besluiten zijn of worden gebaseerd. In die zin functioneert AI niet als bestuurder in formele zin, maar wel als een ‘onzichtbare’ kracht binnen het besluitvormingsproces. 

Voor toezichthouders betekent dit geen fundamentele wijziging van hun verantwoordelijkheid, maar wel een aanscherping van hun rol. Effectief toezicht in een AI-context vraagt om: 

  • bewustzijn van algoritmische filtering; 
  • kritische reflectie op informatievoorziening en -positie; 
  • actieve betrokkenheid bij technologische ontwikkelingen; 
  • blijvende nadruk op menselijke verantwoordelijkheid. 

AI is dus geen nieuwe actor in de governance-structuur is, maar wel een factor die bestaande toezichtmechanismen onder druk zet. Juist daarom is het van belang dat AI een expliciete plek krijgt op de agenda van de toezichthouder. 

Kritisch reflecteren

Waar AI aanvankelijk vooral werd gezien als een instrument voor efficiëntie, zijn er duidelijke implicaties voor macht en informatie. Invloed kan op subtiele manieren verschuiven, zonder dat dit formeel zichtbaar is. Dit betekent dat toezicht in een datagedreven omgeving vraagt om grotere alertheid en inhoudelijke betrokkenheid. 

De kern blijft menselijk oordeel. In een context waarin systemen steeds meer analyseren en structureren, wordt het des te belangrijker dat toezichthouders kritisch blijven reflecteren op proportionaliteit, legitimiteit en morele implicaties. AI zit niet formeel aan tafel, maar beïnvloedt wel wat er besproken wordt. Dat vraagt om een toezichthouder die dat niet alleen controleert, maar het ook begrijpt. 

Manon Borsboom schreef dit artikel als eindopdracht voor de Leergang Board Potentials van NR Governance. 

Klik hier voor contact met Manon Borsboom.

Literatuurlijst

Governance & toezicht 

  • Bovens (2007), Analysing and assessing accountability 
  • Jensen & Meckling (1976), Theory of the Firm 
  • Lukes (2005), Power a radical view 
  • OECD (2015), System Innovation 
  • Nederlandse Corporate Governance Code (2022) 

AI 

  • Burrell (2016), How the machine ‘thinks’ 
  • Parasuraman & Riley (1997), Use, misuse, disuse and abuse 
  • Floridi et al. (2018), Artificial Intelligence and the ‘good’society’