Prijs hoogpersoonlijke data onderwijs | Berenschot artikel

In een brugklas van een middelbare school zit Noura achter haar laptop. Terwijl ze een rekenopdracht maakt, kijkt een AI-systeem mee. Dat systeem ziet niet alleen of haar antwoord klopt, maar ook hoe lang ze over elke stap doet, waar ze twijfelt en hoe haar gezichtsuitdrukking verandert als ze vastloopt. Een paar lokalen verder experimenteert een andere klas met XR-brillen die het leerboek vervangen door een virtuele wereld; de docent kan precies volgen waar leerlingen naar kijken, hoeveel seconden een beeld hun aandacht vasthoudt en welke emoties ze daarbij vertonen. In een derde klas dragen enkele leerlingen een neurotechnologische headset die hersenactiviteit meet om te zien hoe goed ze opletten in de les.

Het klinkt als de belofte van gepersonaliseerd onderwijs: technologieën die leerproblemen sneller signaleren, onderwijs afstemmen op het individu en docenten ondersteunen met extra informatie. Maar deze belofte heeft een prijs. Zulke toepassingen zijn afhankelijk van het verzamelen van zeer persoonlijke gegevens en dringen daarmee diep door in de fysieke, emotionele en mentale leefwereld van kinderen. De vraag is dan niet alleen wat technisch mogelijk is, maar vooral: tot waar is dit ethisch en pedagogisch verantwoord?

De gegevens die AI, XR en neurotechnologie verzamelen, zijn niet zomaar cijfers of toetsresultaten. Het betreft hoogpersoonlijke data, informatie die diep ingrijpt in de persoonlijke, fysieke, sociale en mentale ruimte van leerlingen. Denk aan hartslag, oogbewegingen, hersensignalen, emoties, concentratiepatronen en gedragingen die iets zeggen over intenties. 

Het toepassen van technologieën die mentale toestanden van leerlingen proberen te meten, heeft een epistemologische aanname als vertrekpunt: dat innerlijke toestanden zoals aandacht, stress of mentale belasting voldoende kenbaar zijn via data. Dit is echter niet vanzelfsprekend. Een neural headband kan bijvoorbeeld niet letterlijk de aandacht van een leerling meten, maar die alleen afleiden uit fysiologische of neurale signalen. De uitkomst is dus geen directe vaststelling van het aandachtsniveau van een leerling, maar slechts een interpretatie, met een beperkte mate van betrouwbaarheid. 

Wanneer docenten zulke uitkomsten toch als objectieve waarheid behandelen, bestaat het risico dat leerlingen onterecht worden getypeerd of anders worden benaderd. Een leerling die door het systeem herhaaldelijk als ‘onoplettend’ wordt gekarakteriseerd, kan bijvoorbeeld te maken krijgen met lagere verwachtingen of minder passende ondersteuning. Dit terwijl de meting zelf onzeker of contextafhankelijk is. 

Daar komt bij dat technologie vaak uitgaat van generalisaties. Wie afwijkt van de veronderstelde norm, loopt het risico sneller als ‘probleemgeval’ te worden gezien. Juist bij jonge leerlingen is dat zorgelijk. Zij zijn nog volop bezig met het ontwikkelen van hun identiteit en hun verhouding tot leren. Een systeem dat hen vroegtijdig in categorieën plaatst, kan bijdragen aan stigmatisering of een te smalle kijk op hun mogelijkheden.

Verantwoord gebruik van dit soort technologie vraagt daarom allereerst transparantie van wetenschappers en commerciële aanbieders over welke data worden verzameld, hoe daaruit conclusies worden getrokken en waar de grenzen van die conclusies liggen. Daarnaast is een kritische houding van leraren nodig, die technologische uitkomsten niet als een ondiscutabele waarheid zien, maar hooguit als informatiebron naast hun eigen professionele oordeel.

De hoogpersoonlijke data laten niet alleen zien hoe een leerling presteert, maar ook hoe hij of zij is. Daarmee raken deze data aan identiteit en autonomie, en kunnen ze het beeld dat anderen van een leerling hebben blijvend vormen. Dankzij hoogpersoonlijke data kan precies worden vastgesteld op welk niveau een leerling zit, waarna AI-systemen opdrachten op maat aanbieden. Gepersonaliseerd onderwijs klinkt als pure winst voor leerlingen. Maar er is een keerzijde: leerlingen worden zo minder vaak uitgedaagd om boven hun niveau te presteren. Terwijl juist een moeilijke opdracht hen kan laten groeien.

Ook zijn hoogpersoonlijke data te gebruiken om voorspellingen te doen over ‘wie het wel en niet gaat halen’. Dit kan leiden tot selectie en daarmee ook het beperken van kansen voor leerlingen die niet in het perfecte plaatje passen. Het ‘algoritmefiasco’ bij de eindexamens in Engeland in 2020 illustreert dit. Vanwege de Covid-pandemie konden de examens niet fysiek doorgaan en werd in plaats daarvan een algoritme geraadpleegd dat op basis van een aantal gegevens de eindcijfers van leerlingen voorspelde. Dit betrof onder meer de historische data per school. Het maakte voor een leerling dus uit hoe leerlingen op dezelfde school in voorgaande jaren hadden gepresteerd. Dit leidde ertoe dat het algoritme leerlingen met een kansarme achtergrond disproportioneel benadeelde en juist te hoge cijfers gaf aan leerlingen op kleine private scholen. 

Een ander probleem betreft de ervaring van voortdurende monitoring. Wanneer leerlingen weten dat hun aandacht, gedrag, emoties of hersenactiviteit worden geregistreerd, kan dat de klas veranderen in een ruimte van toezicht. 

In 2019 rapporteerde de Wall Street Journal over het gebruik van draagbare technologische producten in een Chinees klaslokaal. Deze school gebruikte verscheidene technologieën om hoogpersoonlijke data te verzamelen: neural headbands, camera’s met AI, locatietrackers en gezichtsherkenning door camera’s. De vergaarde data werden gedeeld met docenten en ouders van leerlingen. 

Volgens docenten waren de effecten op prestaties positief: leerlingen haalden hogere cijfers en hadden meer focus en aandacht tijdens de les. Maar er zat een keerzijde aan deze hogere prestaties: sommige leerlingen voelden zich onder druk gezet. De technologie verhoogt de druk op leerlingen om goede resultaten te behalen; daarnaast kunnen leerlingen gestraft worden op basis van data over hun mentale staat tijdens schooltijden. In een tijd waarin de Onderwijsraad al waarschuwt voor een ‘doorgeschoten toetscultuur’, omdat leerlingen te veel worden afgerekend op resultaten, kunnen hoogpersoonlijke data dit probleem verergeren, door niet alleen te controleren op resultaten maar ook op gedrag en aandacht. 

Het gebruik van zeer persoonlijke gegevens geldt als een ingrijpende inbreuk op de privacy van leerlingen. Technologieën als XR, neurotechnologie en AI verzamelen niet alleen informatie over leerprestaties of concentratie, maar kunnen ook patronen blootleggen die iets zeggen over stress, emoties, voorkeuren en andere aspecten van het innerlijk leven van leerlingen. Die gegevens kunnen terechtkomen bij docenten, maar ook bij de bedrijven die dergelijke producten ontwikkelen of beheren. Met als risico dat zulke data niet alleen voor onderwijsdoeleinden worden gebruikt, maar ook voor commerciële doeleinden, zoals profilering of hypergepersonaliseerde advertenties.

Daarnaast heeft het gebruik van deze technologieën een dubbel effect op de autonomie van leerlingen. Aan de ene kant kunnen XR- of neurotechtoepassingen leerlingen meer inzicht geven in hun eigen leerproces en mentale gesteldheid, waardoor zij meer grip krijgen op hoe zij leren. Aan de andere kant kan die autonomie juist onder druk komen te staan wanneer zulke middelen collectief in de klas worden ingezet. Een leerling die ervoor kiest een apparaat niet te gebruiken, kan immers het gevoel krijgen achter te raken bij klasgenoten of buiten de groep te vallen. De keuze om niet mee te doen, is dan formeel misschien vrij maar in de praktijk niet altijd werkelijk vrijblijvend.

Misschien wel het belangrijkste bezwaar rond privacy is het gebruik van producten die hoogpersoonlijke data verzamelen van leerlingen ofwel minderjarige leerlingen. Juist zij overzien de risico’s van grootschalige dataverzameling doorgaans nog onvoldoende en hebben vaak maar beperkte zeggenschap over wat er met hun gegevens gebeurt. Bovendien worden leerlingen lang niet altijd serieus betrokken bij de vraag of zij dergelijke technologie wel willen gebruiken en hoeveel controle zij willen houden over informatie over hun eigen mentale of emotionele toestand. Dat maakt de inzet van deze systemen niet alleen een kwestie van gegevensbescherming, maar ook van respect voor de autonomie en waardigheid van leerlingen.

Nieuwe technologieën hebben het potentieel om het onderwijs te verrijken, maar zonder duidelijke grenzen kunnen ze de menselijke maat verdringen. Scholen en beleidsmakers moeten vóór invoering van XR of neurotechnologie afwegen wat het oplevert en wat zij bereid zijn aan privacy op te geven. Wetgeving, transparantie en bewuste keuzes zijn noodzakelijk om te zorgen dat digitalisering in de klas niet alleen een win voor bedrijven is, maar vooral voor leerlingen. In de volgende blog gaan we nader in op de wetgeving – of het gebrek daaraan – in de wereld van hoogpersoonlijke data.

In drie blogs gaan we in op technologische vernieuwing in de onderwijscontext. In de eerste blog staan de kansen centraal. De tweede blog verheldert mogelijke risico’s en aandachtspunten. En in de derde blog schetsen we een handelingsperspectief. Hoewel elke blog één invalshoek belicht, betekent dit nadrukkelijk niet dat één afzonderlijke blog het volledige standpunt van de auteurs weergeeft. De blogs moeten dan ook in samenhang worden gelezen.