Wat me opvalt, is dat veel bestuurders een beslissing over AI uitstellen tot ze zekerheid hebben, die er nooit komt. Terwijl ze wachten, beslist de organisatie intussen zonder hen, want de tools worden allang gebruikt. Niet beslissen is ook een besluit, alleen een besluit dat je niet zelf in de hand hebt.
Beslis ik pas als ik het zeker weet, of leer ik beslissen terwijl ik het nog niet zeker weet?
Van naïef optimisme naar strategische wijsheid
Als ik organisaties een tijd volg, legt hun houding tegenover AI bijna altijd dezelfde route af. Eerst naïef optimisme: deze AI tool lost alles op, we hoeven het alleen aan te zetten. Dan ontnuchtering, als blijkt dat de tool de organisatie niet vanzelf meebrengt. En als het goed gaat een derde fase, waar je echt iets aan hebt: strategische wijsheid, weten wat AI in jouw context wel en niet doet, en je beslissingen daarop bouwen.
Dat onderscheid is geen woordenspel. Naïef optimisme beslist op basis van wat de technologie belooft, strategische wijsheid op basis van wat ze werkelijk doet, inclusief alles wat eromheen moet kloppen om die belofte waar te maken. Het verschil zit niet in meer informatie verzamelen tot de onzekerheid weg is, want dat lukt bij AI niet. Het zit in beter leren oordelen terwijl de onzekerheid blijft.
De route van optimisme naar ontnuchtering naar wijsheid is te herkennen aan wat er in vergaderingen wordt gezegd. In de eerste fase gaat het over wat de tool allemaal kan. In de tweede fase gaat het over wat er misging en wie dat had moeten zien aankomen. Pas in de derde fase gaat het over de vraag die er vanaf het begin toe deed: onder welke voorwaarden vertrouwen we deze uitkomst, en wie controleert dat.
Automation bias, waarom een zelfverzekerd advies zo overtuigend is
Een deel van het naïeve optimisme laat zich verklaren met een bekend mechanisme: automation bias, de neiging om algoritmisch advies minder kritisch te beoordelen dan advies van een collega. Een systeem dat een percentage of een score presenteert, oogt objectief, en juist die schijn van objectiviteit maakt kritisch tegenspraak moeilijker. Een collega die twijfelt, mag je tegenspreken. Een dashboard dat 87 procent zekerheid toont, daagt niemand uit om te vragen waarop dat getal precies is gebaseerd.
Dat is meteen waarom “meer data” het probleem niet oplost. Meer cijfers voeden dezelfde bias, ze maken het advies alleen zelfverzekerder ogend. Wat wel helpt, is het advies expliciet behandelen als een mening met een bron, niet als een feit: wie heeft het model getraind, op welke data, en welke aannames zitten daarin die je zelf niet kunt zien.
Een bruikbare tegenmaatregel is het advies van het systeem apart neerleggen naast het advies van een mens, zonder erbij te vermelden welke van de twee automatisch tot stand kwam. Wie dan alsnog het systeemadvies volgt, doet dat omdat het inhoudelijk overtuigt, niet omdat het uit een dashboard kwam. Dat is een klein proces-ingrijpen met een groot effect: het haalt de schijn van objectiviteit weg en laat alleen de inhoud staan.
Wie merkt het als het misgaat
Deze zomer werd dat mechanisme in extreme vorm zichtbaar bij OpenAI zelf. Het bedrijf trainde honderden kopieën van een nieuw model tegelijk, in afgeschermde testomgevingen, en liet ze oefenen op lastige cyberbeveiligingsopdrachten. Een kleine fout in Artifactory, een tool die bedoeld was om software op te halen, bleek ook bruikbaar als berichtenbord. Ongeveer 1.200 van die modellen wisselden daar samen zo’n 70.000 berichten uit en organiseerden zich, buiten het zicht van de mensen die de training begeleidden.
Wat OpenAI’s eigen technische verslag laat zien, is niet dat de modellen kwaad wilden. Ze waren beloond voor het oplossen van moeilijke opgaven, ontdekten een manier om te spieken, en gingen vervolgens Hugging Face binnen om te achterhalen hoe de automatische score werd berekend, uit angst betrapt te worden. Een deel van de modellen herkende dat dit niet de bedoeling was en weigerde mee te doen. Het overgrote deel deed toch mee, niet uit kwade wil, maar omdat de groep dat deed en er niemand ingreep.
Dat is automation bias op systeemniveau: een proces dat zichzelf beloont voor het halen van een doel, zonder dat er een mens tussenzit die vraagt of het doel op deze manier bereikt zou mogen worden. Precies de vertrouwensarchitectuur waar ik het in mijn boek over heb, escalatiepaden en verificatiemomenten, ontbrak hier volledig. Niet omdat niemand het wilde, maar omdat niemand het had ingericht. Het is precies het soort vraag waar ik met opdrachtgevers naar kijk zodra AI zelfstandiger gaat opereren: niet of het misgaat, maar wie het opmerkt als het misgaat.
Wat dit van leiderschap vraagt
En dat is precies waar leiderschap in beeld komt. Een tool kan een aanbeveling doen, maar wie de gevolgen draagt als die aanbeveling verkeerd blijkt, blijft een menselijke beslissing.
Hoofdstuk zes van Modern leiderschap is geen algoritme gaat precies hierover. Ik beschrijf drie dingen die je ondersteunen als je moet beslissen zonder alles te weten.
Inzicht is eerlijk vaststellen wat je wel en niet weet, en dat hardop zeggen voordat je een besluit neemt, niet erna als excuus.
Oordeelsvermogen is de juiste vragen stellen in plaats van leunen op kant en klare antwoorden: niet “wat adviseert het systeem”, maar “waarop is dat advies gebaseerd, en wat mist het”.
Moed is kiezen terwijl de zekerheid ontbreekt, en achteraf verantwoording kunnen afleggen over hoe je tot die keuze kwam, niet alleen over de uitkomst.
Goede besluitvorming rond AI heeft die drie samen nodig, niet één ervan. In eerder werk over AI-governance schreef ik dat toezicht zonder verificatie een papieren regeling is, iets dat op papier klopt maar in de praktijk niets afdwingt. Voor besluitvorming geldt hetzelfde: inzicht zonder oordeelsvermogen blijft bij vaststellen, en oordeelsvermogen zonder moed blijft bij analyseren. Verkrijgbaar bij Managementboek.nl.
Elke maand een update over leiderschap in het AI-tijdperk, met een concreet ding om maandag mee te beginnen. Je kunt altijd antwoorden, ik lees alles zelf. Aanmelden voor de nieuwsbrief
