Iedereen roept tegenwoordig “mens moet de regie houden”  ik ook.
Maar laten we eerlijk zijn: dat klinkt veiliger en makkelijker dan het vaak is.

We zetten een mens aan het eind van een AI-proces, laten die een knopje indrukken of een rapport goedkeuren, en zeggen dan trots: zie je wel, de mens houdt controle.

Maar in werkelijkheid is dat vaak schijnveiligheid.
disclaimer van ChatGPT (ChatGPT kan fouten maken. Controleer belangrijke informatie.) 

De man die nee durfde te zeggen tegen de computer

Stanislav Petrov kreeg een computersignaal: inkomende Amerikaanse kernraketten.
Hij vertrouwde zijn verstand meer dan het systeem.
En dat redde mogelijk miljoenen levens.
https://www.primevideo.com/-/nl/detail/The-Man-Who-Saved-The-World/0STC4ZVPO8BCCGSWLWWZTP0CCR

Dat is wat echte menselijke verantwoordelijkheid betekent:
tijd, inzicht en het mandaat om te kunnen zeggen: stop, dit klopt niet.

Wat we vandaag verliezen

Vandaag de dag bouwen we systemen waarin de mens zogenaamd “in control” is,
maar in de praktijk alleen nog mag afvinken wat het systeem al besloten heeft.
Automatisering, checklists, dashboards — allemaal efficiënt,
maar het neemt iets af wat in onderwijs cruciaal is:
nadenken, interpreteren en durven twijfelen.

De piloot die niet luisterde naar het systeem

Toen Chesley “Sully” Sullenberger in 2009 met beide motoren uitviel boven New York,
zei het systeem: “keer terug naar LaGuardia”.
Sully zei: nee, dat redden we niet — we landen op de Hudson.
Alle 155 mensen overleefden het.
De computer deed de berekening, maar de mens deed het oordeel.

ChatGPT en toetsopdrachten (heden)

Docenten vertrouwen op plagiaatdetectie of AI-detectietools, maar die zitten vaak mis.
Sommige tools “zien” AI waar het er niet is.
Alleen een mens kan context, stijl en intentie herkennen.

Of........ toch niet?

De les voor ons onderwijs

We hoeven niet bang te zijn voor AI —
we moeten bang zijn voor het moment dat niemand meer durft na te denken als AI iets zegt.

Of het nu gaat om toetsanalyses, leerlingvoorspellingen of plagiaatdetectie:
geen enkel systeem begrijpt de context zoals een mens dat doet.
AI kan ondersteunen, maar niet vervangen wat wij aanvoelen, doorzien en aanleren.

Daar ligt precies onze taak als docenten:
leer leerlingen kritisch omgaan met technologie.
Niet alleen hoe ze iets gebruiken, maar ook wanneer ze moeten twijfelen.

“Human in the loop” is geen stap, maar een ontwerpkeuze

Echte menselijke betrokkenheid vraagt geen extra knop of stap,
maar systemen waarin oordeel, context en twijfel een vaste plek hebben.

Als we AI willen inzetten in het onderwijs,
moeten we ontwerpen en gebruiken voor menselijkheid — niet voor gemak.

Zoals lang ik mij in de digitale wereld begeef is dit mijn handtekening.
Een computer doet wat je vraagt,
niet wat je DENKT dat je vraagt.

En precies daarom hoort de mens altijd in de lus —
maar dan wel met tijd, inzicht en lef om nee te zeggen.

Eric Redegeld