Social Media en Open AI

We zitten inmiddels diep in een werkelijkheid waarin Social Media en Kunstmatige Intelligentie een enorme rol spelen in onze maatschappij. De echte impact ervan is nu nog  gissen maar het zal de komende jaren steeds duidelijker worden. Feit is wel dat beide systemen bijdragen aan een leeromgeving met unieke uitdagingen. Is Chat GPT een vloek of een zegen? Heeft het, samen met Youtube en Tik Tok, inmiddels echt alle antwoorden? Deze vragen zijn voor het onderwijs erg belangrijk en ik vind ze als onderwijspsycholoog erg uitdagend.

De leercyclus is, zoals altijd, voor mij de belangrijkste anker bij moeilijke vraagstukken op mijn vakgebied. Ik beschouw het als “… een fascinerende cyclus, aan de ene kant robuust en stabiel en aan de andere kant het gereedschap om eindeloze aanpassingen mee te creëren” (Leren, een betekenisvol bouwproces blz 10.). Die lofzang blijft voor mij gerechtvaardigd maar de vraag is of de leercyclus op dezelfde manier werkt in de uitdijende virtuele werkelijkheid, als in de fysieke wereld. We moeten hierbij meteen opmerken dat de leercyclus niet “werkt” maar dat wij ermee werken (zie mijn essay Dwaalspoor van feiten en methodes). Hoe wij ermee werken is bepalend voor de net gestelde vragen.

Open systemen

De leercyclus is een zogenaamd “open systeem”. Dit betekent dat belangrijke input van buiten het systeem binnenkomt. Onze ervaringen komen voort uit onze interactie met de buitenwereld waar we vervolgens op reflecteren. Deze reflecties leiden tot nieuwe (en hopelijk betere) inzichten (conclusies) en acties die onze ervaringen weer veranderen. We hebben het idee dat op deze manier mooie leercurves kunnen ontstaan van gestage groei in bekwaamheid. Professionals in onderwijs en begeleiding weten dat de Dunning-Kruger curve een realistischere weergave is van een leerproces. Maar zelfs deze curve pretendeert een soort wetmatige groei naar beter die veel te rooskleurig is.

Een grillig verloop

Het werkelijke verloop van ons leren is grilliger. Een fundamenteel probleem is dat wij de leercyclus niet zuiver kunnen gebruiken. Wij laten bijvoorbeeld niet alle relevante input zomaar binnen in onze ervaring maar selecteren aan de poort (zie ook Ik denk dus ik ben gebrekkig). Met selectieve aandacht en vooringenomenheid maken we van de leercyclus, in het ergste geval, een bevestigen-wat-ik-al-denk-cyclus. We hebben dan enkel aandacht voor zaken die onze bestaande ideeën ondersteunen en zijn blind en doof voor andere input. Dit kan het verloop van het leren onvoorspelbaar maken en zelfs leiden tot iets dat we helemaal geen groei noemen. Een eetstoornis komt immers ook voort uit een leercyclus.

Gesloten systeem

Onze selectieve aandacht is niet problematisch mits we aandacht houden voor externe input. Het leerproces functioneert dan als een open en adaptief systeem. Bovendien zouden we gek worden van alle input zonder deze focus. Het wordt anders als we denken geen externe input nodig te hebben om inzichten te genereren. Een typische voorbeeld is het reflecteren op onszelf en hoe wij ons voelen. Als ik mij volledig en alleen richt op mijn innerlijke beleving dan maak ik van de leercyclus een gesloten systeem. Ik gebruik mijzelf om enkel en alleen te reflecteren op mijzelf (zie ook mijn essay Welbevinden, een merkwaardige lus). In werkelijk kan de leercyclus zich niet volledig sluiten omdat er altijd prikkels van buiten komen maar omdat wij onze aandacht naar binnen richten, negeren we veel relevante externe input. Dit heeft invloed op de betrouwbaarheid van de opgedane inzichten.  

Confabulatie

De betrouwbaarheid (eigenlijk de validiteit) van onze geleerde inzichten hangt af van onze bereidheid de verkregen kennis te toetsen aan de fysieke werkelijkheid. Dat lijkt evident maar dat doen wij niet noodzakelijkerwijs. Onze hersenen zijn helemaal geen waarheid zoekers. Ze “vragen” niet om een toetsing en hebben die ook niet per se nodig om te draaien. Ze denken meer in termen van “bruikbaar-onbruikbaar” dan in termen van “waar-onwaar”. Het gevolg is dat onze hersenen het verschil tussen een onwaarheid of leugen en een waarheid niet zelfstandig kunnen bepalen. Een leugen die ik voor waar aanneem, beïnvloedt alles wat ik meemaak in die situatie puur door het feit dat ik denk dat het waar is. Het heeft dezelfde impact op mij als een echte waarheid omdat het voor mij waar is en ik daar dan ook naar zal handelen.

Het verschijnsel van de confabulatie toont aan hoe ver wij ons kunnen verwijderen van de werkelijkheid. Iemand die confabuleert vertelt een fantasieverhaal over zijn ervaringen die hij/zij zelf volledig gelooft. Meestal wordt confabuleren in verband gebracht met hersenbeschadiging waarbij het individu onbewust de “gaten” opvult in zijn geheugen met fantasieën. Zelfs geconfronteerd met bewijslast van het tegendeel zal het individu niet afwijken van zijn verhaal. Ik beschouw dit verschijnsel niet zozeer als een uiting van een hersenbeschadiging maar als een kenmerk van onze hersenen. Wij confabuleren allemaal in min of meerdere mate. Kritische analyses van getuigen verklaringen bij rechtszaken laten dit ondubbelzinnig zien. De meesten van ons worden niet betrapt op onze confabulaties terwijl sommigen (individu met hersenbeschadiging, getuigen in een rechtzaak) er niet mee wegkomen. Conclusie; ik denk dat we allemaal waakzaam moeten zijn voor mogelijke confabulaties!

Verklaringen

Ons leren is gericht op het ontwikkelen van verklaringen voor datgene dat we meemaken. Zodra ik iets verklaar kan ik mijn acties daarop afstemmen en de situatie beter naar mijn hand zetten. Deze verklaringen gaan niet over wat wij meemaken maar waarom wij dat meemaken (zie ook essay Waarom?). Ze beschrijven de verborgen processen die de waarneembare fenomenen begrijpelijk maken. We hebben bijvoorbeeld ontdekt dat planten voedingsstoffen uit de grond halen om te groeien. Begrip van dit verborgen proces heeft ons geholpen om uitputting van de bodem te voorkomen en de landbouwproductie exponentieel te laten stijgen.

Idealiter zijn de ontwikkelde verklaringen “waar” en van een hoge kwaliteit maar dat is geen vanzelfsprekendheid. Zoals gezegd gaat het ons vooral om de bruikbaarheid van een verklaring. Als deze toevallig ook nog waar is dan is dat mooi meegenomen. In onze geschiedenis is de koppeling tussen waar en bruikbaar altijd wel sterk geweest vanwege de open karakter van ons leren. De toetsing aan de werkelijkheid zorgde ervoor dan onze verklaringen steeds beter werden (voor een groot deel met dank aan de Verlichting).  We gaan er onbewust vanuit dat die koppeling altijd geldt maar dat is helaas niet zo. Onwaarheden kunnen erg bruikbaar zijn! Uiteindelijk krijgen we liever gelijk dan dat we daadwerkelijk gelijk hebben.

Kwaliteit

Hoe kunnen we de fragiele correlatie tussen waarheid en bruikbaarheid handhaven om daarmee verklaringen van een hoge kwaliteit te creëren?  Drie criteria helpen om een antwoord op die vraag te geven. Ten eerste dient de leercyclus een open systeem te blijven. We moeten input van buiten toelaten om onze opvattingen en verklaringen mee op te bouwen en we hebben eveneens input van buiten nodig om onze opgebouwde verklaringen aan te toetsen. Dit heb ik in eerdere essays beschreven als een inductief-deductief proces van kennisverwerving (Zie wederom de essays Waarom? en Merkwaardige Lus).

Ten tweede neemt de kwaliteit van een verklaring toe naar mate het meer aspecten van de situatie verklaart, maar ook niet meer dan dat! “God’s wil” is een uitleg die alle aspecten van een situatie verklaart maar het beschikt over een lage kwaliteit omdat tevens alle andere denkbare situaties ermee verklaart kunnen worden. Wanneer iets ALLES verklaart dan hebben we daar niet zoveel aan. Het IS gewoon of het is zodanig algemeen geformuleerd dat de verklaring alle kanten op kan.   

In het verlengde hiervan dient een verklaring, als laatste, zo inflexibel mogelijk te zijn. In principe betekent dit dat wanneer één aspect van de situatie onverenigbaar is met de verklaring, de volledige verklaring weggedaan moet worden. Het willekeurig snoeien aan de verklaring of aan cherry picking doen, is gevaarlijk. Men laat zich leiden door de behoefte aan bruikbaarheid waarbij de waarheid steeds verder uit beeld kan verdwijnen.

De virtuele wereld

Het probleem met de virtuele wereld waar Social Media en KI toe behoren, is dat ze minder extern zijn dan ze lijken. Kunstmatige Intelligentie is bijvoorbeeld, tot op heden, geen intelligentie zoals wij die doorgaans omschrijven. Het systeem zoekt simpelweg correlaties in immens grote datasets die mensen hebben verzameld. Dit is niet echt data van de externe wereld maar onze interpretatie van die externe wereld. Het gevolg is dat open AI programma’s als Chat GPT actief ontdaan moeten worden van bijvoorbeeld seksistische, racistische en gewelddadige uitspraken. Daarnaast confabuleren deze programma’s ook!

In de virtuele, door de mens gemaakte(!) wereld speelt waarheid geen bepalende rol. Het gaat primair om bruikbaarheid en datgene wat het meeste voorkomt (het vaakst correleert) is blijkbaar het meest bruikbaar. Dit is echt anders dan in de fysieke wereld die een corrigerende werking heeft. Ik kan wel denken dat ik kan vliegen, en heel veel mensen met mij (!), maar als ik vervolgens van mijn balkon afspring, breek ik vrijwel zeker mijn been en met een beetje pech mijn nek. Dat zal me aan het denken zetten. De feedback werking in de virtuele wereld is heel anders. Onwaarheid en regelrechte leugens kunnen even gemakkelijk groeien en bloeien als de waarheden, afhankelijk van hun bruikbaarheid. Wat is eigenlijk de waarheid in de virtuele wereld?

One response

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *