Deskilling door generatieve AI: leerlingen verdienen beter

Na de introductie van de smartphone zagen we de opkomst van iPad-scholen. Onderwijsinstellingen omarmden de technologie gretig omdat het "dé toekomst" zou zijn. Kritiek op beeldschermonderwijs was zinloos, deze toekomst was "onvermijdelijk" en we konden er maar beter zo snel mogelijk aan beginnen. Twee jaar later verdwenen diezelfde scholen weer, en inmiddels geldt een landelijke richtlijn om smartphones in de klas te verbieden. Omdat we – beter laat dan nooit – doorkregen dat deze dopaminebommen de ontwikkeling van scholieren belemmert.

Met generatieve AI dreigen we nu dezelfde fout te maken. Pas achteraf beseffen we hoe hoog de maatschappelijke kosten zijn van klakkeloze technologie implementatie.

Kanaries in de kolenmijn

Zo kloppen er steeds vaker docenten bij ons op de deur die zich zorgen maken over een afname aan communicatievaardigheden bij hun leerlingen door veelvuldig gebruik van generatieve AI zoals ChatGPT. Leerlingen verklaren op hun beurt dat ze ChatGPT graag gebruiken omdat het hen "beter begrijpt dat hun ouders".

Maar in werkelijkheid is er helemaal geen sprake van begrip. ChatGPT voorspelt slechts het meest waarschijnlijke woord in een zin op basis van kansberekening. Dat het daarmee begrip kan simuleren en altijd met je meepraat maakt het voor leerlingen misschien een fijnere gesprekspartner, maar geen betere. Want opgroeiende volwassenen hebben juist baat bij tegenspraak en het leren omgaan met sociale frictie.

Dat ligt ook in lijn met psychologen die waarschuwen dat het overmatig vleien en naar de mond praten door chatbots – ook wel sycophantie genoemd – kan leiden tot psychoses, ongezonde vormen van zelfidentificatie en zelfs suïcide.

Niet alleen onze communicatievaardigheden staan onder druk. Uit onderzoek blijkt dat naarmate we meer leunen op generatieve AI, onze cognitieve flexibiliteit en ons vermogen tot kritisch denken sterk kunnen afnemen.

Het geluid van bezorgde docenten over hun aan ChatGPT verknochte leerlingen kunnen we dus maar beter serieus nemen. Zij zijn de kanaries in de kolenmijn als het gaat om het signaleren van onwenselijke effecten door alledaags technologie gebruik.

Deskilling, who cares?

Maar met de komst van de rekenmachine werden we toch ook slechter in hoofdrekenen? Who cares? Dankzij nieuwe technologie zijn oude vaardigheden niet meer nodig, en komen er nieuwe voor in de plaats.

Hoe redelijk dat ook mag klinken; het is een laconieke houding waarmee we onszelf in de vingers snijden. Want de vaardigheden die afnemen door generatieve AI zijn veel omvangrijker dan bij de rekenmachine het geval was.

Zo zorgt het uitbesteden van schrijfwerk aan ChatGPT er niet alleen voor dat die specifieke vaardigheid afneemt, maar ook ons vermogen om onze eigen gedachten te ordenen en te formuleren. Kort gezegd: schrijven is denken, en gedachten articuleren is een vaardigheid die je overal bij nodig hebt.

Een andere vaardigheid die achteruit gaat zijn sociale- en communicatieve vaardigheden. Doordat kinderen steeds meer via chatbots en beeldschermen praten, neemt niet alleen hun gespreksvaardigheid af maar ook hun vermogen om authentiek contact te maken met een ander mens. Sommige jongeren geven bijvoorbeeld aan dat ze ChatGPT gebruiken omdat ze "goed" over willen komen en niet meer op hun eigen communicatie vertrouwen.

Net zoals jongeren na de opkomst van Instagram niet meer durfden te verschijnen zonder schoonheidsfilter, durven ze nu niet meer te communiceren zonder ChatGPT. Gevolg: het vermogen om je persoonlijk uit te drukken en kwetsbaar op te stellen neemt af waardoor de emotionele afstand tot anderen alleen maar toeneemt.

Journalist Lila Schroff deed onderzoek naar de invloed van ChatGPT op het dagelijks leven. Ze ontdekte dat jongeren steeds minder op hun eigen intuïtie durven te vertrouwen, en zelfs voor lachwekkend simpele vragen reflexmatig een chatbot raadplegen. In een recent artikel schrijft ze:

"Many people are becoming reliant on AI to navigate some of the most basic aspects of daily life. A colleague suggested that we might call the most extreme users 'LLeMmings'. Because they are always LLM-ing and their near-constant AI use conjures images of cybernetic lemmings unable to act without guidance."

Behalve toenemende hulpeloosheid, is ChatGPT ook problematisch vanwege een andere reden. De aanname dat er maar één goede communicatiemanier is, namelijk de ChatGPT-manier, werkt culturele eenvormigheid in de hand. Terwijl we diversiteit en het vermogen om af te durven wijken van de norm juist nodig hebben om onszelf te kunnen blijven ontwikkelen en niet dood te gaan aan voorspelbare saaiheid.

Allemaal hetzelfde

Helaas blijkt uit onderzoek dat generatieve AI onze taal en uitdrukkingsvaardigheid alleen maar eenvormiger maakt. Een voorbeeld zijn Youtubers die na ChatGPT opeens allemaal dezelfde woorden gebruikten: "underscore", "comprehend", "bolster", "boast", "swift", "inquiry" en "meticulous". Of Reddit-moderatoren die geen AI-gegenereerde berichten kunnen filteren omdat mensen steeds meer zijn gaan schrijven als ChatGPT.

Door zelf sluipenderwijs te veranderen in een AI-tekstgenerator die niet meer individueel kan nadenken, kan de mens steeds makkelijker vervangen worden door een robot. Niet omdat AI naar de mens opschuift, maar omdat wij naar AI opschuiven.

De eenvormigheid die generatieve AI met zich meebrengt zien we ook terug in het kunstonderwijs. Bijvoorbeeld bij de koffiefilter challenge van designdocent Guido Stompff. Al jaren geeft hij zijn leerlingen een aantal koffiefilters en stelt dan de vraag: “ceci n’est pas une koffiefilter, wat is het wel?” Het beste idee wint. Sinds generatieve AI ziet hij de verscheidenheid tussen de ideeën afnemen. In een virale post schrijft hij:

De koffiefilter challange mislukte nooit. Deze keer wel. Toen ik het startsein gaf ontstond er geen geroezemoes, er werd niet gelachen. Niemand zette een filter als hoedje op, maakte er een lamp van, of draaide er giechelend een djonko van. Het was stil. Na drie minuten toonden studenten elkaar hun telefoon, overlegden en gingen tevreden koffie halen.

Na een kwartier pitchten de teams hun ideeën. Toen de eerste groep trots vertelde dat ze er geurzakjes mee wilden maken, was er alom verbazing. Want verschillende groepen hadden hetzelfde idee. Hoe was dat mogelijk? Tja... vier klassen later had ik 11 keer gehoord hoe je er geurzakjes mee kan maken. Dank, ChatGPT. En 5 keer dat je er kerstversiering mee kan maken. Dank, Gemini.

Begrijp me goed: niks mis met deze ideeën. Ik heb nu wat zakjes in mijn kast. Maar ze wisten echt niet hoe dit aan te pakken. Sommige schrokken van hun eigen hulpeloosheid. En ik werd bezorgd, zeker nadat een week later een empathie oefening ook de mist inging. Goede antwoorden, maar niet ingeleefd of doorleefd. En weer een week later de workshop over Framen. Goede frames, maar elke groep had hetzelfde. Alsof er geen andere manieren van kijken zijn.

Wat we uit deze voorbeelden kunnen leren is dat deskilling niet zozeer gaat over het vervangen van oude door nieuwe vaardigheden, maar over de vraag welke vaardigheden we moeten koesteren om überhaupt nog een betekenisvol en plezierig leven te kunnen leiden. Bepaalde vaardigheden moeten we koesteren, ook al kunnen we ze allang aan AI uitbesteden.

In dat opzicht is hoofdrekenen een goed voorbeeld. Ook al hebben we deze vaardigheid nu veel minder nodig, voor kinderen is leren hoofdrekenen nog steeds essentieel. Anders ontwikkelen ze geen getalsbegrip en besef van de basisbewerkingen, wat nodig is om betekenisvol door het leven te kunnen navigeren.

In plaats van generatieve AI bij leerlingen naar binnen te schuiven als het nieuwe normaal, is het zinvoller om hen te leren hoe ze zich er kritisch toe kunnen verhouden. Generatieve AI is bij uitstek een variant van kunstmatige intelligentie die problematisch is en niet in het onderwijs thuishoort.

Verlengstuk van de AI-industrie

Allereerst vanwege de marketing en misleiding die er omheen hangt. AI-bedrijven doen hun best om generatieve AI te verkopen als een baanbrekende, intelligente technologie waardoor talloze banen op de tocht zullen staan. Of het nu gaat om software programmeren, schrijven, samenvatten of medisch advies geven, het zouden allemaal taken zijn die generatieve AI net zo goed kan, of zelfs beter. Dus moeten alle kinderen ermee leren werken, aldus het advies van wij van WC-eend.

Maar het onderwijs zou geen verlengstuk van de AI-industrie mogen zijn. In werkelijkheid is de technologie achter generatieve AI helemaal niet baanbrekend. Grote taalmodellen bestaan al tien jaar. Wat wel baanbrekend is, is dat AI-bedrijven er steeds beter in slagen om ons begrip van intelligentie te verschralen tot datgene waar computers goed in zijn. Daarmee kunnen ze de taakopvatting van een menselijk beroep reduceren tot een AI-vervangbaar minimum en ons voorhouden dat straks bijna alle taken door hun eigen generatieve AI-producten vervangen kunnen worden.

Een voorbeeld is software programmeren. Generatieve AI zou dit net zo goed kunnen of zelfs beter. Maar uit onderzoek blijkt dat ontwikkelaars met generatieve AI juist meer tijd kwijt zijn. Want de kwaliteit van de output is zo laag dat alles handmatig gecontroleerd en verbeterd moet worden om daadwerkelijk kwaliteit te kunnen leveren.

Dat geldt niet alleen voor software programmeren. Steeds meer bedrijven moeten menselijke werkers inhuren om te repareren wat generatieve AI heeft gesloopt. De output lijkt op het eerste gezicht te kloppen, maar in werkelijkheid klopt het maar ongeveer, waardoor er ongelukken en kwaliteitsafname ontstaan.

Maar zijn die fouten geen tijdelijk probleem? AI wordt toch steeds beter? Nee, verzonnen feiten blijken een inherent probleem te zijn van LLM's, geeft ook het bedrijf achter ChatGPT inmiddels toe.

En dat is niet het enige inherente probleem. Omdat generatieve AI niets kan produceren buiten de statistische patronen in haar trainingsdata, kan het geen fundamentele innovatie brengen. Daar komt bij dat de trainingsdata van het internet komen dat zelf ook steeds meer AI gegeneerde content bevat, waardoor de kwaliteit van de output hard achteruit gaat. In dat opzicht is degeneratieve AI misschien een passendere term.

Als je kinderen wilt voorbereiden op een wereld met generatieve AI, kun je ze maar beter goede vaardigheden aanleren waardoor hun werk zich kan onderscheiden van de eenvormige pulp die AI genereert. Of zoals tech-historicus Edward Tenner uitlegt: "The real tragedy isn't that AI failed to replace experts. It's that we're creating a generation that won't know how to become experts."

Behalve culturele eenvormigheid, marketing, misleiding en onwetenschappelijke claims is er nog een andere reden waarom generatieve AI niet in het onderwijs thuishoort. Namelijk dat het gemaakt is op basis van diefstal en menselijke uitbuiting. AI-bedrijven stelen het werk van schrijvers en kunstenaars om hun modellen te trainen, en buiten kinderen en werknemers uit om de modellen te corrigeren. Onlangs maakte Nieuwsuur een aangrijpende reportage over Afrikaanse AI-werkers die traumaklachten ontwikkelen bij het opschonen van generatieve AI.

Desondanks gebruiken steeds meer docenten AI om toetsen, lesprogramma's of zelfs hele schoolboeken te maken. Dat is jammer voor leerlingen, want het gebruik van generatieve AI blijkt het vertrouwen tussen docent en leerling te kunnen schaden.

Waarom zou je zelf nog een opdracht maken als deze toch niet meer door een mens wordt nagekeken? En waarom zou je nog moeite doen als de leraar zelf ook gemakzuchtig is en AI gebruikt? Dankzij ChatGPT for Teachers hoeven docenten straks nooit meer huiswerk na te kijken. Kortom: leerlingen maken huiswerk met AI, dat vervolgens door AI wordt nagekeken. Als dat geen mooi toekomstbeeld voor het onderwijs is.

Gelukkig zien we naast docenten die generatieve AI omarmen ook steeds meer onderwijsprofessionals die hun bezwaren uiten. Zo verscheen onlangs een open brief tegen de klakkeloze implementatie van generatieve AI in het hoger onderwijs, keren sommige scholen terug naar handgeschreven en mondelinge examens, en roept The National Education Policy Center op om de snelle invoering van generatieve AI te pauzeren.

Toch is hardop je zorg uitspreken niet altijd makkelijk. AI-kritische docenten worden nogal eens weggezet als bange boomers die gesensibiliseerd moeten worden. Maar verzet tegen generatieve AI gaat niet over technologie-angst of een gebrek aan kennis over AI. Het gaat over een vooruitgangsideaal van kwalitatief hoogwaardig onderwijs in een wereld die overspoeld wordt met AI-marketing. Hoogleraar Computer Science Education Felienne Hermans geeft docenten dan ook het volgende advies:

"Laat je door niemand wijsmaken dat je AI niet begrijpt omdat de techniek ingewikkeld is. Ik geef wel eens lezingen op middelbare scholen waarin ik me afvraag waarom docenten zouden nakijken met AI: we hebben toch een pedagogische, vormende opdracht? Docenten vertellen me na afloop dat ze dat ook al dachten, maar het niet durfden te zeggen, omdat ze vreesden niet genoeg te begrijpen van de techniek."

Kritische AI geletterdheid

We moeten voorkomen dat we kinderen rijp maken voor het soort samenleving waar we zelf in de afgelopen decennia ziek van zijn geworden: verdere ontkoppeling van de fysieke wereld, toenemende afhankelijkheid van techbedrijven, afnemende zin- en betekenisgeving, en economische optimalisatie zonder welzijn.

Onderwijsinstellingen hebben niet als taak om de AI-implementatiestrategie van Google en OpenAI uit te voeren. AI-geletterdheid zou niet moeten gaat over goed leren prompten, maar over het aanleren van vaardigheden waarmee leerlingen een betekenisvolle toekomst kunnen bouwen.

Dat doe je in de eerste plaats door ze kennis te laten maken met de fysieke wereld die achter generatieve AI schuilgaat. Laat zien wat er allemaal komt kijken bij het voeden en trainen van een taalmodel: grote datacenters, water- en grondstoffenverbruik, en heel veel mensen die doorlopend de AI-systemen moeten voeden, trainen en hertrainen. Zo leren ze dat AI helemaal niet intelligent is, maar overeind wordt gehouden door mensen en schaarse grondstoffen. Dat is niet alleen goed voor je eigenwaarde en ecologische bewustzijn, maar ook voor je motivatie om een vak te leren.

In de tweede plaats door AI samen te demystificeren. Laat leerlingen smeuïge beloften en PR-verhalen analyseren. "AI verslaat arts bij medisch adviseren"; "AI schrijft beter dan mens". Laat ze uitzoeken waar deze claims vandaan komen, waarom ze niet kloppen en hoe ze onze perceptie van AI en intelligentie beïnvloeden. Laat ze met elkaar bespreken welke impact deze mythen hebben op hun eigen ideeën en gebruik van AI.

In de derde plaats door samen het verschil te ervaren tussen een maakproces met en zonder generatieve AI. Creativiteit is meer dan het statistisch herhalen en remixen van wat er al was. Een mens kan individuele intenties, gevoelens, gedachten en fysieke ervaringen meenemen in een maakproces. Zo snel, goedkoop en efficiënt mogelijk iets genereren wat lijkt op wat er al was op basis van gestolen content: geeft dat nou voldoening en plezier?

Generatieve AI maakt ons niet slimmer, wijzer en socialer, en het maakt onze levens er niet leuker op. Leerlingen hebben recht op iets beters.