Hoe kunnen commissarissen richting geven aan de zorg van morgen?

De invoering van kunstmatige intelligentie in de zorg gaat razendsnel. Het toezicht kan de technologische innovatie vaak niet bijbenen. Hoe kunnen commissarissen proactief de juiste vragen stellen over transparantie, verantwoordelijkheid en morele grenzen en zo bijdragen aan duurzame waardecreatie en maatschappelijk vertrouwen? Sven Woldberg, interim-executive en toezichthouder, presenteert een blauwdruk voor toezicht op AI. ‘Omarm de technologie, zonder de menselijke maat te verliezen.’

In juli 2025 ontving een gezonde Londense man onverwacht een uitnodiging voor een diabetesonderzoek. Volgens zijn digitale medisch dossier had hij niet alleen diabetes, maar ook een beginnende hartziekte. De informatie bleek volledig verzonnen door een AI-systeem dat binnen de Britse National Health Service (NHS) werd gebruikt. Wat begon als een administratieve fout, groeide uit tot een incident dat fundamentele vragen opriep: wie is verantwoordelijk, hoe kon dit gebeuren en vooral: hoe voorkomen we dit in de toekomst?

Dit incident staat niet op zichzelf. De ondergang van Babylon Health in 2023 – ooit hét boegbeeld van AI-gedreven zorg – liet zien hoe overspannen verwachtingen, gebrekkige datakwaliteit en onvoldoende governance konden leiden tot een complete instorting.

Ook in Nederland gaat de invoering van AI razendsnel. Van radiologische beeldherkenning en triage-software tot administratieve automatisering: de belofte van snellere en betere zorg is groot, maar het toezicht blijft achter. Wat deze gevallen gemeen hebben: toezicht loopt achter op technologie. Veel raden van commissarissen (rvc’s) ontvangen nog geen structurele rapportages over de betrouwbaarheid, ethiek en datakwaliteit van deze systemen. Daardoor ontstaat een kloof tussen de snelheid van technologische innovatie en het vermogen van bestuur en toezicht om deze ontwikkeling verantwoord te volgen.

Informatie als sleutel tot goed AI-toezicht

De grootste uitdaging bij AI-toezicht is vaak niet technologisch, maar bestuurlijk. De kern ligt in het organiseren van betrouwbare informatie richting bestuur en rvc: inzicht in waar AI wordt toegepast, welke risico’s dit meebrengt, en wie verantwoordelijk is voor beheer en ethische afwegingen.

Vier structurele zwaktes springen eruit:

1. Informatievoorziening – organisaties hebben beperkt zicht op waar en hoe AI wordt gebruikt; rapportages zijn vaak technisch of onvolledig.

2. Deskundigheid – de rvc beschikt niet altijd over kennis om AI-vraagstukken betekenisvol te bespreken.

3. Fragmentatie van governance – verantwoordelijkheden voor AI-risico’s zijn verspreid over IT, data, kwaliteit en compliance.

4. Lerend toezicht – internationale kaders bieden nog weinig houvast voor consistent toezicht.

Vier principes voor effectief AI-toezicht

Om deze uitdagingen te adresseren, zijn vier toezichtprincipes ontwikkeld die rvc’s kunnen gebruiken om AI structureel te verankeren in hun toezichtcyclus.

1. Transparantie: De organisatie weet waar AI wordt gebruikt, met welk doel en risico

Toezichtvragen:

• Vraag jaarlijks een overzicht van alle AI-toepassingen en hun verantwoordelijke eigenaar.

• Bespreek bij nieuwe AI-projecten hoe risico's (bias, datakwaliteit, privacy) worden beheerst.

• Controleer of incidenten en afwijkingen systematisch worden opgenomen binnen bestaande risicorapportages.

2. Deskundigheid & ethisch bewustzijn: Toezichthouders begrijpen de maatschappelijke en juridische implicaties van AI

Toezichtvragen:

• Volg de ontwikkelingen rond de EU AI Act en relevante beroepsrichtlijnen.

• Organiseer periodiek sessies over ethische dilemma’s bij AI-gebruik in de zorg.

• Overweeg een ‘AI-portefeuillehouder’ binnen de rvc.

• Evalueer jaarlijks of de rvc beschikt over voldoende kennis en diversiteit van perspectieven.

3. Menselijke controle & verantwoordelijkheid: AI ondersteunt besluitvorming, maar blijft onder menselijke verantwoordelijkheid

Toezichtvragen:

• Vraag bij kritieke AI-toepassingen wie beslissingen autoriseert en wie kan ingrijpen.

• Controleer of fouten of afwijkingen worden herkend, gemeld en herzien.

• Borg dat beslissingen herleidbaar blijven tot menselijk handelen (human in the loop).

4. Continue verantwoording & evaluatie: AI verandert voortdurend; toezicht moet cyclisch en datagedreven zijn.

Toezichtvragen:

• Agendeer AI jaarlijks in de audit-, risk- of innovatiecommissie.

• Vraag naar frequentie van model-evaluaties en onafhankelijke audits.

• Bespreek hoe leereffecten uit incidenten worden gedeeld.

• Stimuleer een cultuur van continue verbetering en transparantie.

Van volgen naar vormgeven

Met deze principes kan toezicht verschuiven van reactief naar richtinggevend. Het gaat niet om het begrijpen van algoritmen, maar om het stellen van de juiste vragen over transparantie, verantwoordelijkheid en morele grenzen. 

Goed toezicht op AI betekent niet dat innovatie moet worden afgeremd, maar dat deze binnen duidelijke kaders plaatsvindt. De uitdaging voor commissarissen is om technologie te omarmen, zonder de menselijke maat te verliezen.

Drie eerste stappen voor rvc’s

1. Agendeer AI structureel – maak het een vast onderdeel van de audit-, risk- of innovatiecommissie.

2. Vraag om integrale rapportages – laat jaarlijks een overzicht opnemen van AI-toepassingen, risico’s en incidenten.

3. Investeer in kennis – organiseer leersessies of haal externe expertise binnen de rvc.

Zo kan toezicht bijdragen aan duurzame waardecreatie én maatschappelijk vertrouwen: niet alleen reageren op AI, maar richting geven aan hoe AI de zorg van morgen vormgeeft.

Sven Woldberg is interim-executive bij ANWB en lid van de raad van toezicht bij Perined. Hij werkt op het snijvlak van strategie, transformatie en governance, met een sterke focus op data en AI, en heeft eerdere ervaring als Head of Innovation Performance & Transformation bij Philips. Hij schreef dit artikel als eindopdracht voor de Leergang Board Potentials van NR Governance, die hij voltooide met een onderzoek naar informatievoorziening voor effectief AI-toezicht in de zorg.

Klik hier voor contact met Sven Woldberg.