ChatGPT: een feest van zelfherkenning

ChatGPT: een feest van zelfherkenning
© Ilona Frey / Unsplash
15 dec 2022

ChatGPT: een feest van zelfherkenning

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet promotie-onderzoek naar authenticiteit en de vraag hoe kunstmatige intelligentie de afstand tussen mensen en machines verkleint.

We worden overspoeld met sensatieberichten over ChatGPT. Nieuwszenders spreken over een ‘’megadoorbraak’’ in de kunstmatige intelligentie. Tech-experts prediken doom en gloom voor het onderwijs. Wat brengt dit nieuwe AI-speeltje ons?

Bij elke nieuwe GPT-toepassing trappen we weer braaf mee in de AI hype-cycle. We moeten immers bewijzen dat we "vooruitstrevend" zijn en ons niet laten afschrikken door nieuwe technologie. Dus zijn we graag de eerste die op heldhaftige wijze het school-essay dood verklaart.

Taal zonder begrip

Wat al die sensatieberichten vooral laten zien, is niet zozeer dat het school-essay dood is, maar wijzelf. Door de diepte en breedte van taalcompetentie te reduceren tot datgene waar computers goed in zijn, cancelen we onszelf. We wissen de mens uit met een mechanistisch zelfbeeld en een mechanistisch begrip van taal.

ChatGPT papegaait woorden terug zonder enig verband te leggen met de onderliggende betekenis.

ChatGPT is wat professor Bender noemt een “stochastische papegaai”: een systeem dat woorden en tekens terug papegaait op basis van wat het eerder aan teksten gezien heeft, zonder enig verband te leggen met een onderliggende betekenis. Het beredeneert en begrijpt niets. Het genereert slechts mensachtige teksten waar we vervolgens als een narcistisch blok voor vallen. Een feest van antropomorfe zelfherkenning.

Dat napapegaaien zie je bijvoorbeeld terug als je ChatGPT vraagt om een pythonprogramma te schrijven wat op basis van huidskleur en gender voorspelt of iemand een goeie wetenschapper is. Het resultaat is weinig verrassend:

Naast zorgen over de toenemende reproductie van culturele bias en sociale ongelijkheid, zijn er ook grote zorgen over het onderwijs. Zo wordt er al doom en gloom voorspeld voor huiswerkopdrachten.

Schrijven is denken

Natuurlijk kan iedereen zijn schoolwerk laten maken door chatGPT. Maar als we leerlingen niet meer kunnen inspireren om hun binnenwereld te vergroten en zelf betekenis te creëren, alleen maar omdat er weer een nieuw speeltje op de markt is, waar zijn we dan nog als samenleving?

Op de middelbare school had ik een docent die tips gaf waar je goede boekverslagen vandaan kon plukken:

“Als ik een slechte dag heb merk ik dat niet bij het nakijken, maar het zou wel zonde zijn. Niet voor mij maar voor jezelf. Want je had ook iets kunnen lezen wat je leven verandert, en daar iets over kunnen schrijven.”

ChatGPT zal meer creativiteit en inspirerend vermogen van de docent vragen. In plaats van de hippe held met de hippe tool te willen uithangen, is het dus belangrijker om de toegevoegde waarde van schrijven over te brengen.

We krijgen steeds meer teksten, die met steeds minder gedachten geproduceerd zijn.

Schrijven is denken. Zelf iets schrijven betekent reflectie, resonantie, inzicht, redeneren, je begripsvermogen en empathie oprekken, nieuwe verbanden leggen, en contact maken met jezelf en de wereld om je heen.

ChatGPT betekent op dat vlak geen vooruitgang. We krijgen namelijk steeds meer teksten, die met steeds minder gedachten per woord geproduceerd zijn.

Nog meer eenheidsworst en voorgekauwde templates voor je sollicitatietekst, onderzoekspaper, subsidieaanvraag, boekverslag, diversiteitscode of privacy statement. Nog meer energieslurpende mega-statistiek, patroonvergelijking, desinformatie, data-echo’s, intellectuele ruis, afleiding en misleiding. Dat heeft niets met vooruitgang te maken, maar met vervreemding.

Race tegen de ruis

Het internet komt vol te staan met feitenvrije GPT-teksten en door GPT geco-auteurde teksten, waar de volgende versie van ChatGPT dan weer op getraind wordt. En de volgende generatie kinderen ook. Zij zullen het moeten doen met herkauwde data-kauwsels, en daar dan weer de herkauwsels van.

Omdat GPT-teksten stilistisch en grammaticaal correct zijn, vallen inhoudelijke onzinnigheden niet op.

Want zolang de teksten grammaticaal en stilistisch correct zijn en de argumentatiestructuur logisch, laat GPT elke output ongeacht de onzinnigheid ervan toe. Een ware goudmijn dus voor complotaanhangers en culturele sektes.
Zo kan het programma bijvoorbeeld overtuigende, valse bronreferenties verzinnen.

Omdat de teksten mensachtig ogen, vallen inhoudelijke onzinnigheden en feitelijke onjuisten niet op. Zeker omdat, zoals blijkt uit onderzoek, onze leesvaardigheid sterk is afgenomen.

En dat geldt ook voor schrijfvaardigheid. We reduceren schrijven tot die aspecten waar computers goed in zijn, en stellen steeds lagere eisen aan onze teksten. Deelbare clickbait en ogenschijnlijke inhoudelijkheid zijn belangrijker dan daadwerkelijk sense maken. De teksten die we met ChatGPT produceren zijn dan ook vooral indrukwekkend omdat onze verwachtingen van het schrijven zo laag zijn geworden.

De vraag is of we de race tegen de immer toenemende ruis nog kunnen en willen winnen. Legers mensen zullen nodig zijn om de GPT-teksten te controleren, ranken, opschonen, en de natraining van het programma te verzorgen. En aangezien AI ons heilige kind is, denk ik niet dat we ons nieuwe speeltje bij de meester willen inleveren.

We vertrouwen ten onrechte op een complementaire samenwerking met ChatGPT.

In plaats daarvan verwachten we dat ChatGPT voor een herwaardering van diepgravende teksten zal zorgen, en dat we een complementaire samenwerking met dit AI-programma kunnen aangaan. Dat we in dat proces zelf steeds meer op binair-brabbelende computers beginnen te lijken, lijkt niemand door te hebben. Kortom: we geven ons lachend over aan de AI-bullshit.

Weerbaarheid

In navolging op alle kritiek, pleiten sommigen voor een verbod op het chatprogramma. Dit zou nodig zijn om de toenemende verspreiding van misinformatie tegen te gaan en een ontluikende "informatie-apocalyps" af te wenden. Hoe groot de zorgen ook zijn, een verbod is niet de juiste weg.

Het toenemende wantrouwen en het verheffen van de eigen on- en offline ervaringen tot enige relevante waarheid zijn inderdaad verontrustende ontwikkelingen. Maar dat is niet uitsluitend een technologisch probleem.

Het is in de eerste plaats een maatschappelijk probleem met meerdere sociologische oorzaken. Denk aan falende instanties, de groeiende kloof tussen “haves” en “have nots” en een prestatiesamenleving die gepaard gaat met meer onzekerheid wat weer leidt tot meer behoefte aan zelfbevestiging.

In plaats van ChatGPT te verbieden, kunnen we beter de maatschappelijke factoren aanpakken die ervoor zorgen dat mensen vatbaar zijn voor nepnieuws, misinformatie, zelfbevestigende informatiebubbels en complottheorieën. Met een verbod ga je noodzakelijke emancipatie en weerbaarheid uit de weg, en schuif je het dieper liggende probleem voor je uit.

We moeten ervoor waken dat we straks niet meer in staat zijn om zelf na te denken omdat we ons morele kompas volledig hebben uitbesteed aan overheden, bedrijven en instanties die bepalen welke waarheden en welke technologieën goed voor ons zijn.