Boardroom heeft beperkt begrip AI

‘Zorg dat rvc kennis heeft van AI en een standpunt vormt’
Analyse

Streeft uw organisatie naar duurzame waardecreatie? Dan heeft u als commissaris de taak om het vertrouwen in artificial intelligence (AI) op te bouwen en te beschermen. EY zette een aantal zaken op een rij aangaande AI waar toezichthouders rekening mee moeten houden. Inclusief tien vragen om het vertrouwen in AI op te bouwen en te beschermen. ‘Bestuurders moeten AI vanuit de organisatiestrategie begrijpen, maar het ontbreekt hen vaak aan kennis.’

Steeds meer organisaties zetten artificial intelligence (AI) voor allerlei taken in. Van de automatische beantwoording van een klantvraag tot het stroomlijnen van back-officeprocessen. Toch heeft ‘de boardroom’ vaak beperkt begrip van hoe AI werkt. En, belangrijker nog, het gebruik en de naleving van ethische normen staat amper op de toezichtagenda. Dat is begrijpelijk, want als commissaris is het lastig om de constante evolutie van AI bij te houden; de leercurve is steil. Maar wat is precies het verband tussen betrouwbare AI, ethische naleving en langetermijnwaardecreatie? Die vraag legde het EY Center for Board Matters voor aan een aantal experts. Het vormde het startschot van de EY Board Imperative Series. De inzichten die hier uit voortkwamen, helpen bestuurders en commissarissen om de toekomst van hun organisatie opnieuw te beoordelen. 

Beperkt begrip

De kans is groot dat uw organisatie kunstmatige intelligentie gebruikt of actief overweegt toe te passen voor een groot aantal taken. Desondanks hebben senior leiders, inclusief directieleden, vaak slechts een beperkt begrip van hoe AI werkt. En, belangrijker, ze bespreken niet geregeld het gebruik en de toepassing ervan binnen de organisatie om ervoor te zorgen dat ethische normen worden nageleefd. Dit zijn complexe taken die om voorbereiding vragen. Enkele adviezen voor toezichthouders:

  1. Neem liever te vroeg dan te laat deel aan de discussie over AI en andere innovatieve technologieën.
  2. Denk vanuit de algemene AI-strategie na over ethisch gebruik van AI.
  3. Lees uzelf in of raadpleeg experts, zodat u ook vanuit een bestuursrol waardevolle bijdragen aan discussies levert en het managementteam de juiste strategische vragen weet te stellen.
  4. Zorg ervoor dat uw organisatie een stem heeft in discussies over regelgeving voor AI

Een verantwoordelijke organisatie denkt en handelt vanuit de langetermijnbelangen van al haar stakeholders - van werknemers en leveranciers tot regelgevers en lokale gemeenschappen. Daarom moeten bestuursleden contact met hen onderhouden en bij beslissingen hun belangen laten meewegen. Op die manier creëert de organisatie onder stakeholders langetermijnwaarde en blijvend vertrouwen. En dat maakt de organisatie weer aantrekkelijker voor consumenten, investeerders en potentiële werknemers. AI heeft een enorm potentieel om duurzame waarde te helpen creëren. Denk aan eerlijke resultaten, maar ook meer inclusiviteit, duurzaamheid en transparantie. Dit draagt allemaal bij aan vertrouwen. Tenminste, als AI correct wordt ingezet. Alleen de snelle digitalisering – met name de opkomst van customer analytics – roept kritische vragen op, vooral over discriminatie en rechtvaardigheid. De laatste tijd is ongelijkheid evidenter dan ooit en het is slecht nieuws als een nieuwe technologie, zoals AI, bepaalde groepen benadeelt of specifieke uitkomsten verhindert.

Ethische AI

Data vormt de motor van AI, en dus ook van vertrouwen. Alleen gaat ethische AI verder dan het voorkomen van subjectiviteit, het raakt ook privacy. ‘Het levensbloed van de huidige AI-ontwikkelingen bestaat uit data’, zegt Reid Blackman Ph.D., oprichter en ceo van Virtue Consultants, een bureau gespecialiseerd in ethiek en data. ‘Bedrijven moeten een balans vinden tussen het vertrouwen van de consument en de noodzaak om data te verzamelen en te gebruiken, zodat klanten zich comfortabel blijven voelen om gegevens te delen.’ Dit comfort begint al in de boardroom. Bestuurders moeten ervoor zorgen dat hun organisatie duidelijk en transparant is over de datastrategie, zodat klanten weloverwogen ‘ja’ kunnen zeggen om hun gegevens te verwerken. Zo ontstaat een opwaartse spiraal: hoe meer consumenten een organisatie vertrouwen, hoe meer gegevens ze delen. En hoe meer gegevens ze delen, hoe beter de AI-technologie en uiteindelijk de bedrijfsresultaten. Maar behandelt een organisatie gegevens juist onzorgvuldig, dan gebeurt het tegenovergestelde. Er is maar één (mogelijke) fout nodig om het vertrouwen te schaden. En als dit gebeurt delen klanten of gebruikers minder gegevens, of erger: ze verlaten een organisatie, waardoor AI-technologie minder effectief wordt. Om dit te voorkomen spelen bestuurders, maar ook commissarissen, een belangrijke rol. Zoals Reid zegt: ‘Ze hebben de verantwoordelijkheid om ervoor te zorgen dat de reputatie van hun merk wordt beschermd.’ Bedrijven moeten een balans vinden tussen het vertrouwen van de consument en de noodzaak om data te verzamelen en te gebruiken, zodat klanten zich comfortabel voelen om gegevens te delen. Bestuurders en commissarissen moeten een constructieve bijdrage leveren aan de ontwikkeling van AI-strategieën. Vanaf het eerste moment helpt u het managementteam om begrip te creëren. Welke risico’s en kansen brengt AI mee? En hoe beïnvloedt ethiek beide? Op die manier bouwt u aan vertrouwen dat ze nodig hebben om AI in de organisatie te omarmen. Maar daarvoor moet u AI eerst zélf begrijpen en vertrouwen. En op dit moment kan de vertrouwenskloof een van de belemmeringen zijn. Volgens John Thompson, lead independent director en oud-voorzitter bij Microsoft, heerst er vaak een gebrek aan kennis bij de commissarissen. ‘Er zijn niet genoeg mensen die de technologie kennen en de toepasbaarheid begrijpen. Daarom snappen ze ook niet precies hoe u AI zinvol inzet voor de organisatie als geheel’, zegt hij. ‘Zorg dus dat de raad van commissarissen kennis heeft van AI en een standpunt vormt.’ Het is de moeite waard om deze vertrouwenskloof te overbruggen, want zo voorkomt een toezichthouder dat negatieve nieuwsberichten merkschade veroorzaken. Ook helpt het bij de ontwikkeling van AI-technologieën die mensgericht en betrouwbaar zijn en tegelijk de samenleving als geheel dienen. 

==

Tien vragen om het vertrouwen in AI op te bouwen en te beschermen

  1. Hoe zorgen we ervoor dat we in een vroeg stadium betrokken zijn bij de AI-strategie van onze organisatie?
  2. Begrijpen we onze rol bij het vaststellen van doelstellingen en beginselen voor AI, die onze organisatie beschermen tegen onbedoelde gevolgen? En hebben we adequate processen en procedures om snel te kunnen reageren als het toch misgaat?
  3. Beschikken we over de juiste vaardigheden om het management te begeleiden bij de juiste beslissingen over AI, vertrouwen, ethiek en risico's? Kunnen we eventuele skill gaps opvullen met interne training? Of moeten we externe resources overwegen? Wat is ons plan voor continue bijscholing en training?
  4. Hebben we transparantie en de verantwoordingsplicht voor AI topprioriteit gemaakt? Zo ja, waar kunnen anderen die principes inzien? Zo nee, wat is ons plan om dit aan te pakken?
  5. Volstaat de huidige bestuursstructuur om effectief toezicht te houden op het gebruik van AI door onze organisatie – ongeacht of u de technologie intern ontwikkelt of extern inkoopt? Moeten we overwegen om een speciale commissie in te stellen om het bestuur te verbeteren en focus aan te brengen?
  6. Raadplegen we een diverse groep stakeholders, zoals eindgebruikers, om onze AI-doelstellingen te testen? Communiceren we regelmatig met het operationele team, zodat de doelstellingen overeenkomen met de manier waarop zij AI ontwikkelen en inzetten?
  7. Hoe zorgen we ervoor dat onze operationele AI-teams al in de vroegste stadia van de ontwikkeling rekening houden met compliance en risicobeheer?
  8. In welke mate werken we samen met regeringen om inzicht te krijgen in AI-regelgeving en ervoor te zorgen dat wij op één lijn zitten? En moeten we onze betrokkenheid vergroten als er weinig tot geen samenwerking plaatsvindt?
  9. Hoe signaleren we early adopters en pioniers op het gebied van regelgeving, zodat we van hen kunnen leren hoe we het gebruik en de governance van AI het beste binnen onze organisatie kunnen inzetten?
  10. Zetten we AI-technologieën in om op lange termijn waarde creëren, niet alleen om concurrerend te zijn? Zo nee, welke kwesties staan ons dan in de weg?

Lees hier meer over wat EY over AI en commissarissen heeft te bieden.