Cognitief faillissement in slow motion

Vaste columnist van Governance Update Henk ten Voorde voorspelt de meest gevreesde zin in techland, de komende jaren: ‘We zien als raad van toezicht een noodzaak voor het instellen van een ethische AI-commissie.’ Volgens onderzoek zorgt AI voor cognitieve erosie/degeneratie en is AI potentieel ‘het begin van het grote vergeten’. AI zet het brein op cruise control. Ten Voorde: ‘AI en technologie moeten dienaar zijn van de menselijke geest, niet andersom.’ En dus moeten toezichthouders nu al vragen gaan stellen.

In een tijd waarin veel AI-toepassingen als heilige graal worden gepresenteerd, komt het MIT met een koude douche: als we blind vertrouwen op tools als ChatGPT, lopen we het risico een generatie te creëren die vergeet hoe je zelf nadenkt. Alsof er voor een opgroeiende, ontwikkelende generatie een soort cognitief faillissement in slow motion dreigt. Maar autonomie in denken is geen bijzaak, het is essentieel. Ook voor toezichthouders.

Teletijdmachine inzake internet & breinverandering  

Even een stapje (25 jaar) terug in de tijd. Wat waren de effecten van de beschikbaarheid van permanent internet op ons brein? Op welke wijzen heeft deze vorm van schier onuitputtelijke informatie ervoor gezorgd dat de neurale paden in ons brein veranderd zijn? Een paar onderzoeksresultaten ter illustratie: 

1. Vermindering van grijze en witte stof in het brein. 
Het longitudinaal onderzoek van Takeuchi onder kinderen en jongeren (gemiddelde leeftijd elf jaar), toonde aan dat frequente internetgebruikers minder toename in grijze en witte stof in taal-, aandacht- en uitvoeringsgebieden van de hersenen lieten zien én verminderde verbale intelligentie hadden na drie jaar. Grijze stof is verantwoordelijk voor informatieverwerking, beslissingen nemen, zintuiglijke waarneming, geheugen, en motorische functies. Witte stof zorgt voor communicatie tussen verschillende hersengebieden. Tevens werd een verminderde cognitieve ontwikkeling waargenomen.

2. Toegenomen activiteit ventraal striatum, betrokken bij en belangrijk voor beloning, motivatie en plezier. 
Uit studies bij volwassenen (Kühn en Gallinat) bleek dat er bij veel internetgebruik vermindering is van grijze stof in frontale gebieden en toegenomen activatie van het ventraal striatum, een patroon vergelijkbaar met verslavingsmechanismen. Gevolgen? Minder plezier uit trage activiteiten: school, boeken of gesprekken voelen ‘saai’. Tevens een verstoorde zelfregulatie: moeite met stoppen of nauwelijks afleidingen kunnen weerstaan.

Cognitief failliet door AI?   

Hoe zit dat dan met AI? Wat zijn de diepere, minder zichtbare effecten van deze technologie op ons brein? Recent onderzoek van het MIT Media Lab (Kosmyna), getiteld ‘Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task’, fungeert als een indringende wake-up call. De (voorlopige) bevindingen zijn alarmerend: studenten die ChatGPT gebruikten voor het schrijven van essays, vertoonden een significant lagere hersenactiviteit, een zwakker geheugen en een opvallend verminderd gevoel van eigenaarschap over de kennis die ze produceerden. Kort samengevat, de studie splitste deelnemers in drie groepen: ChatGPT-gebruikers, Google-gebruikers en mensen die puur op hun eigen brein aangewezen werden. Wat bleek? De EEG-scans gaven een ontnuchterend beeld. Bij de ChatGPT-groep was gefragmenteerde, vlakke hersenactiviteit te zien, alsof het brein op cruise control stond. Geen diepgang, geen echte connecties. De ‘brain-only’ groep zette het eigen brein aan het werk: hoge, gecoördineerde activiteit in gebieden die staan voor kritisch denken, geheugen en creativiteit. De ‘Google-groep’ uit het onderzoek deed het slechter in termen van hersenactivatie dan de ‘brain-only’-groep, maar was nog steeds actief aan het zoeken, analyseren en beslissen. De bottom line: AI is krachtig, maar als je je brein parkeert, betaal je de prijs in termen van cognitieve achteruitgang.

Cognitieve offloading

Deze resultaten raken een zenuw die steeds zichtbaarder wordt: ‘cognitive offloading’, het uitbesteden van denkwerk aan machines. Waar traditionele zoekmachines je nog dwingen om te zoeken, te vergelijken en te denken, serveert ChatGPT het antwoord op een presenteerblaadje. Gemakkelijk? Tijdwinst? Compleet? Jazeker. Maar tegen welke prijs? Gebruikers die AI vertrouwden, konden zich dagen later nauwelijks herinneren wat ze zelf geschreven hadden. De brein-only groep wist het nog tot in detail. Als je stopt met zelf na te denken, ben je er geen eigenaar van en begint het grote vergeten. Simpel en hard tegelijkertijd. AI belooft het leren te democratiseren, maar dreigt tegelijk het menselijk denken af te vlakken. Vooral jonge breinen, nog in volle ontwikkeling, zijn kwetsbaar. Onderwijspsycholoog Lev Vygotsky wist het al decennia geleden: worsteling is essentieel voor groei. Door de geest te dwingen hiaten in het begrip te overbruggen, wordt veerkracht en een dieper begrip opgebouwd. LLM’s (zoals ChatGPT) maken je vloeiend in prompten en in herhalen, niet in de creatie van cognitieve samenhang. Belangrijke kanttekening: zeker niet alle tech lijkt de vijand te zijn. Zoals beschreven deed de Google-groep uit het onderzoek het slechter dan de ‘brain-only’-groep, maar was nog steeds actief aan het zoeken, analyseren en beslissen. Het verschil is fundamenteel: zoekmachines vereisen interactie. AI-tools? Die nodigen uit tot mentale passiviteit. En daar ligt het echte risico.

Wat betekent dit voor toezichthouders?    

Deze psychologische inzichten werpen een fundamentele vraag op: wat betekenen deze verontrustende resultaten voor de rol en verantwoordelijkheid van toezichthouders? En meer specifiek, welke implicaties heeft dit voor toezichthouders in onderwijssituaties, waar de zorg voor de ontwikkeling van cognitieve vaardigheden en de vorming van jonge geesten centraal staan? De waarschuwing is evident: een onbezonnen omarming van AI, zonder oog voor de diepere cognitieve en psychologische implicaties, kan leiden tot een maatschappij die weliswaar efficiënter is, maar tegelijkertijd cognitief verarmd. Proactief toezicht hierop is noodzakelijk, waarbij we een actieve rol spelen in het vormgeven van een toekomst waarin AI de menselijke capaciteiten versterkt in plaats van uitholt. Niet alleen maar kijken naar de risico's van mis- en gebruik, maar ook kijkend naar de risico's van onbedoelde cognitieve erosie.

Gezamenlijke inspanning

Deze complexe uitdaging vraagt om een gezamenlijke inspanning. Middels multidisciplinaire samenwerking moeten we effectieve strategieën ontwikkelen die de voordelen van AI benutten, terwijl tegelijkertijd de cognitieve integriteit van individuen en de samenleving als geheel wordt beschermd. Het is van cruciaal belang dat beleidsmakers, onderwijsinstellingen, technologiebedrijven en psychologen de dialoog aangaan en de handen ineenslaan. Dit betekent het opstellen van ethische richtlijnen, het ontwerpen van AI-tools die actief leren stimuleren en het implementeren van onderwijsprogramma's die kritisch denken en de kunst van het vragenstellen centraal stellen. Daar moeten toezichthouders op doorvragen. De meest gevreesde zin in tech-land in de komende jaren? ‘We zien als RvT een noodzaak voor het instellen van een ethische AI-commissie.’

Voor de toezichthouders in onderwijssituaties het volgende: ontwikkelingsexperts roepen op tot actie in het onderwijs. Wil je AI gebruiken in het onderwijs zonder de cognitieve motor uit te zetten? Dan moeten deze zaken onderdeel van het nieuwe standaardprotocol worden:

• Stel AI uit bij jonge kinderen. Laat eerst het brein volledig volgroeien (‘bedraden’) voor je het gaat uitbesteden aan machines.
• Maak opdrachten die denken eisen. Geen simpele prompts, maar echte analyse en synthese.
• ‘Brain-first’ leren. Laat studenten eerst worstelen met ideeën, AI mag pas daarna meedoen, als tool, niet als stuurman.
• Stimuleer nieuwsgierigheid en gezonde twijfel. Goed onderwijs daagt je uit om zelf te zoeken en dominante narratieven te bevragen.
• Gebruik AI als accelerator, niet als vervanger, maar op een manier die kritisch denken en het beheersen van de eigen leerervaring stimuleert. Het moet je scherp maken, niet lui.
• Laat AI de simpele taken doen. Zodat je brein zich kan richten op de échte dingen die ertoe doen: creatie, inzicht, visie. 

Borgen van leren en denken

Uiteindelijk gaat het om het borgen van de toekomst van leren en denken. De keuze maken: willen we denkers ontwikkelen en opleiden of alleen maar efficiënte nabootsers van machinelogica? De verantwoordelijkheid rust ook op schouders van toezichthouders om ervoor te zorgen dat de volgende generaties niet alleen digitaal geletterd zijn en bedreven in het navigeren door een AI-gedreven wereld, maar ook cognitief veerkrachtig en autonoom blijven. Dat geldt ook voor de toezichthouders van de toekomst, onze (klein)kinderen. Dat zij de vaardigheden bezitten om diepgaande vragen te stellen, kritisch te analyseren en hun eigen kennis te construeren, ongeacht de technologische hulpmiddelen die voorhanden zijn. Alleen dan kunnen we een bewust AI-tijdperk tegemoet zien, waarin technologie een dienaar is van de menselijke geest, niet andersom. 

==

Henk ten Voorde is een ervaren boardroom-adviseur op het gebied van organisatie-, leiderschaps-, team- en talentontwikkeling & toezichthouden, waarbij de focus op zowel strategisch als operationeel vlak ligt. Hij heeft ruime ervaring op het vlak van strategische leiderschapsontwikkeling, trainingsmanagement, operationele excellence, change- & performance management in nationale en internationale omgevingen. Gedurende zijn werk aan de Universiteit Leiden heeft Henk een uitgebreide bibliotheek met eigen psychologische testen gevalideerd. Henk verzorgt veel boardroom dynamics-sessies op basis van het werk van professor Graves, grondlegger van Spiral Dynamics, drijfveren, intrinsieke motivaties & Big Five persoonlijkheid.