Niet technologie maar surveillance is het probleem bij Smartschool

Het mogelijke gebruik van artificiële intelligentie (AI) in het digitale leerplatform Smartschool roept vragen op. Maar de vragen en de antwoorden zijn niet die die Jo Pierson, de voorzitter van de onafhankelijke adviesraad van Smartschool, opwerpt in zijn opiniestuk in De Tijd. De bezorgdheid komt niet voort uit een verlangen om ‘technologie uit de klaslokalen te weren’. De kritiek is niet dat ‘AI als vanzelf zou leiden tot misbruik van data’. Het gaat eerder om de vraag of het gebruik van AI voor het profileren en surveilleren van leerlingen onder het mom van leerlingenondersteuning nodig en wenselijk is.

Pierson poneert als waarheid dat AI-algoritmen door patronen te herkennen relevante data kunnen genereren ter ondersteuning van leerbegeleiding. Dat is een speculatieve hypothese, die niet zonder meer als waarheid kan worden aangenomen. Er zijn genoeg voorbeelden van voorgestelde vroege detectiemethodes die een effect hadden dat het omgekeerde was van wat beoogd werd.

Dat AI overijverig leerlingensituaties als problematisch classificeert, zou worden vermeden doordat dat ‘signaal’ alleen gebruikt zal worden ‘als de personen die dicht bij de leerling staan het als betekenisvol zien’. Hier wordt een uitermate zware last op de schouders van de onderwijsprofessionals gelegd door te suggereren dat zij het ‘signaal’ van de AI kunnen negeren. In de praktijk zal de druk om op die signalen te reageren waarschijnlijk groot zijn.

Pierson stelt ook dat het inzetten van AI in het onderwijs een logisch gevolg is van de brede toepassing ervan in andere sectoren, zoals de gezondheidszorg en de financiële dienstverlening. Maar net toepassingen in sectoren waar AI al gebruikt wordt, hebben geleid tot excessen en hebben bijgedragen aan de noodzaak van regelgeving, zoals de Europese AI Act. Het is dan ook zorgwekkend dat we die lessen niet ter harte nemen in het onderwijs. Niet voor niets wordt AI in het onderwijs ook in de AI Act als een speciale en gevaarlijke casus beschouwd.

Dat alles wat wettelijk is toegestaan en door geselecteerde onderwijsexperts als acceptabel wordt beschouwd ook wenselijk is, is een gevaarlijke misvatting. Wetgeving biedt slechts een minimum aan bescherming en is niet per definitie een waarborg voor ethisch handelen.

Zorgwekkende normalisering

Daarnaast zegt Pierson dat Smartschool zich onderscheidt van (internationale) techgiganten door een participatieve aanpak, een gefaseerde invoering en het oprichten van een onafhankelijke adviesraad. Dat is bijna exact wat bijna alle bigtechgiganten ook doen. Bijna allemaal hebben ze een adviesraad en een verantwoord AI-programma en bijna allemaal doen ze onderzoek naar privacyondersteunende technologie. Dat de grote techbedrijven zulke raden en programma’s hebben, heeft hen absoluut niet weerhouden van problematische praktijken.

We moeten uiterst voorzichtig en terughoudend omgaan met AI in het onderwijs. Wat vanuit een beperkt pedagogisch perspectief misschien wenselijk lijkt, is dat niet altijd vanuit een breder maatschappelijk standpunt, en zeker niet voor de leerlingen of hun ouders.

Bovendien is Smartschool op andere manieren problematisch. Veel mensen met kennis van zaken wijzen al jaren op de zorgwekkende normalisering van voortdurende surveillance in het leven van kinderen. Kinderrechtencommissaris Caroline Vrijens verwoordde het zo in De Standaard: ‘Zoals we kinderen monitoren via Smartschool, geen enkele volwassene zou dat verdragen.’

Dit probleem is veel groter dan de discussie over AI alleen. Het is tijd om ons af te vragen waarom we onze kinderen trainen om deze invasieve vormen van toezicht als normaal te beschouwen.