Frederik Anseel | Falende mensen vertrouwen we meer dan feilloze AI

Maakt artificiële intelligentie universiteiten overbodig? De vraag wordt niet alleen in De Tijd gesteld. Universiteiten denken volop na hoe ze zich moeten heruitvinden nu AI zich zo snel ontwikkelt. Voorspellingen onderschatten hoe moeilijk de samenwerking tussen AI en mens wordt. We staren ons blind op de duizelingwekkende technologische mogelijkheden van AI. Maar de beperkingen hebben wellicht niets te maken met technologie, maar alles met het brein. De menselijke psychologie zal grenzen stellen aan wat we kunnen overlaten aan AI.

Eenvoudig samengevat is het motto van het menselijke brein: ‘Wat we zelf doen, doen we beter.’ Een voorbeeld illustreert dat. De achilleshiel van zelfrijdende auto’s, die op de rand van de doorbraak staan, zijn dodelijke ongevallen. Die komen er onvermijdelijk. Maar de lat ligt veel hoger voor technologie dan voor de mens. In België vallen per jaar 500 dodelijke slachtoffers in het verkeer. Toch verbieden we mensen niet met de auto te rijden. Eén dodelijk slachtoffer door een zelfrijdende auto zal wel leiden tot oproepen om AI in de auto te verbieden. Waarom?

Rationeel

In 'How Humans Judge Machines' legt de datawetenschapper César Hidalgo uit dat we machines en mensen anders beoordelen. Als we een machine gebruiken, richten we ons op de prestaties van AI. Elke inschattingsfout van dat programma doet ons vertrouwen erin verliezen.

In de meeste gevallen zal AI betere beslissingen maken dan een mens, maar dat maakt niet uit. Bij mensen houden we rekening met de intenties en emoties van de persoon. Als we een persoon vertrouwen, gaan we ervan uit dat hij niet doelbewust iemand anders van de weg rijdt.

Hoewel menselijk gedrag vaker faalt dan AI, zijn we meer vergevingsgezind voor mensen. Zeker als we een goed verhaal voorgeschoteld krijgen voor dat menselijk falen. We begrijpen dat een ongeluk snel gebeurd is. Zodra we intenties en gevoelens meenemen in onze mentale afweging van beslissingen, zijn we toleranter voor fouten. Kortom, van AI-machines verwachten we dat ze rationeel zijn en van mensen dat ze menselijk zijn.

AI-bot als collega

In ons eigen onderzoek  vinden we dat mensen positief reageren op digitale algoritmes op het werk als ze geloven dat die ingevoerd werden om hen te helpen. Als ze denken dat ze bedoeld zijn om hen te controleren, zien we een toename van burn-outs.

In het onderzoek gingen we ervan uit dat een manager beslist algoritmes te gebruiken en daar goede of slechte intenties bij heeft. Maar wat als er geen menselijke intentie meer is?

In de toekomst werken we met AI-bots samen alsof het menselijke collega’s zijn. Voor veel maaltijdbezorgers is AI-management al een realiteit. Ritschema's en afleverroutes worden door een AI-app opgelegd. Studies tonen aan dat maaltijdbezorgers geen vertrouwen hebben in AI-management omdat dat geen empathie voelt met wat zij zelf op de weg ervaren.

Dat leidt tot paradoxale situaties. Mensen blijken beter te presteren met behulp van AI tot ze ontdekken dat er een AI-systeem achter het advies zit. Dan blijken diezelfde mensen plots alleen beter te presteren door advies van een menselijke collega.

Empathie en expertise

Ik herhaal daarom een boodschap die ik al eerder bracht: hoe digitaler ons werk wordt, hoe menselijker we moeten zijn. Voor onderwijs betekent het dat universiteiten moeten inzetten op de combinatie van sociale vaardigheden en domeinexpertise.

Empathie, luisteren en mensen verbinden zijn essentieel om in een AI-omgeving mensen vertrouwen te geven in goede intenties. Domeinexpertise is essentieel om te begrijpen hoe algoritmes tot betere beslissingen kunnen leiden. Zonder domeinexpertise kunnen consumenten, patiënten of collega’s ook geen vertrouwen hebben in beslissingen. AI-bots zijn snel, nauwkeuriger en rationeel, maar niet empathisch, emotioneel of sociaal gevoelig. Precies die vaardigheden maken mensen effectief.