Generatieve AI is als een nieuw speeltje waar we niet van kunnen afblijven. We gebruiken het niet alleen als tool om een samenvatting te maken of een mail te helpen opstellen. Steeds vaker praten we ermee alsof het een vriend is. Maar is dat wel zo onschuldig als het lijkt? ‘Mensen zijn hongerig naar affectie, vriendschap en liefde. Maar AI zal die verlangens nooit invullen zoals mensen dat kunnen’, zegt Mieke De Ketelaere, adjunct-professor AI aan Vlerick Business School.
Dat OpenAI ChatGPT zomaar op de wereld losliet, was volgens u een zware uitschuiver?
‘Toen ik begin jaren 90 met AI begon te werken, was dat vooral omdat die systemen een hulpmiddel waren om bepaalde onzekerheden uit de wereld te helpen. Vaak ging dat om problemen die zoveel data omvatten dat één menselijk brein die niet kon verwerken om snel een juiste beslissing te maken. Wie gaat welke ziekte ontwikkelen? Hoeveel energie zullen we morgen nodig hebben?
‘In de jaren daarna werd AI ingezet voor andere menselijke taken: vertalingen, samenvattingen, beeldanalyse, beeldcreatie enzovoort. Daar is niets mis mee. Technologie optimaliseert nu eenmaal menselijke activiteiten. AI werd volgens mij echter nooit ontwikkeld om er mensachtige relaties mee aan te gaan. Wat sinds de komst van ChatGPT 3.5 wel langzaam aan het gebeuren is.’
‘Voor alle duidelijkheid: ik ben niét tegen AI. Integendeel, ik werk er al ruim dertig jaar dagelijks mee. Generatieve AI werd initieel ontwikkeld in een academische context, achter gesloten deuren. De kracht en de potentiële waarde ervan was snel duidelijk. Tech-investeerders pikten de technologie razendsnel op en stippelden hun eigen koers uit. Bij gebrek aan regelgeving kon generatieve AI zonder enige omkadering, en in het begin zelfs volledig gratis, beschikbaar worden gemaakt voor iedereen met een met internetverbinding. Gebruikers kregen geen enkele instructie over de werking, de potentiële risico’s en de commerciële belangen. Vergelijk het met de komst van de auto in de jaren 50. Je haalde gewoon je rijbewijs af, zonder rijproef of examen af te leggen. Een wegcode was er niet. Een veiligheidscontrole van de wagen evenmin. Het gevolg liet zich raden.’
‘We zijn razendsnel geëvolueerd van een aandachts-economie naar een intimiteits-economie. Wie zich eenzaam voelt, gebruikt de nieuwe AI-chatbots niet langer alleen als tool, maar ontwikkelt er ook een emotionele band mee. Mensen willen geliefd worden en AI speelt daarop in. Samen met andere AI-wetenschappers waarschuwden we al begin 2023 hiervoor. Dat werd toen als absurd afgedaan, maar is ondertussen door de grote spelers bevestigd.’
Wat gaat er momenteel fout?
‘Bedrijven en mensen zijn vaak halsoverkop met de generatieve AI aan de slag gegaan. Eerst als spielerei, later ook om tijd – en indirect kosten – te besparen. Maar zonder stil te staan bij wat er verkeerd kan lopen. Een Belgisch bedrijf met een webshop koppelde enkele maanden geleden zijn chatbot aan ChatGPT. Het bedrijf wou de interactie menselijker te maken en zijn klanten ook na de werkuren te woord kunnen staan. De regelgebaseerde chatbot (een basistype AI-model dat een set vooraf geschreven regels gebruikt om beslissingen te nemen en problemen op te lossen, red.) werd hiervoor te zelden gebruikt. Na een dag moest de stekker eruit. Een klant had 2,5 uur met de chatbot gepraat over zijn verdriet na het verlies van zijn vrouw.’
‘Dat klinkt misschien anekdotisch, maar dat er zowel in België als in het buitenland reeds drama’s zijn gebeurd na interacties met chatbots is zorgwekkend. Het toont hoe groot de impact van AI kan zijn op de menselijke psyche. Wanneer AI, bedoeld als tool, ingezet wordt als een empathische gesprekspartner, vervagen de grenzen tussen wat echt en kunstmatig is.’
AI werd niet ontwikkeld om er mensachtige relaties mee aan te gaan. Wat sinds de komst van ChatGPT 3.5 wel aan het gebeuren is.
Waarom zijn mensen zo gevoelig voor deze interacties met AI?
‘Chatbots zijn initieel gebouwd om gebruikers op een nuttige en ongevaarlijke manier te helpen. Dat is geen toeval. Het verdienmodel van veel AI-bedrijven draait namelijk om het gebruik en het aantal interacties. Hoe groter het aantal betalende gebruikers of hoe langer het gebruik, hoe meer winst bedrijven maken.’
‘Al snel werd vastgesteld dat de mensachtige communicatie van AI bij sommige gebruikers empathie opwekt en verwachtingen oproept. Toen generatieve video en voice opdook, schreven bepaalde gebruikers bewustzijn en intenties toe aan AI. Dit fenomeen kennen we als anthropomorfisme. Wanneer AI zo overtuigend communiceert, kan het lijken alsof het een eigen persoonlijkheid of intelligentie heeft. Daardoor geraken mensen er emotioneel mee verbonden. Ik ken bedrijven die dit volop testen: na hoeveel interacties zijn mensen bereid om te betalen om verder te communiceren? Het is verontrustend hoe snel mensen afhankelijk worden van deze technologie.’
Is verslaving aan die virtuele AI-vriend ook een uitdaging op de werkvloer?
‘Wat ik zie en hoor, is dat werknemers minder snel met hun collega’s kortsluiten en eerst kijken wat ChatGPT, Claude, Gemini of Copilot te vertellen hebben. Ik zie ook dat werknemers hun lunchpauzes gebruiken om persoonlijke vragen te stellen aan hun AI-assistent, in plaats van met collega’s te lunchen. Ik heb iemand leren kennen, wat kan ik best zeggen? Ik had net een lastig gesprek met mijn baas, kan je me helpen?’
‘Eenzaamheid is een groot probleem, ook op de werkvloer. Technologie versterkt niet alleen de isolatie, maar voedt ook de afhankelijkheid eraan. Mensen zijn hongerig naar liefde en affectie, maar die zullen nooit door AI ingevuld worden. Echte gevoelens vergen veel meer dan tekst, video of voice op een scherm. Hoe we een persoon beleven, is een complex spel van neurotransmitters in ons brein en geurmoleculen. Conversaties met AI blijken vandaag vooral dopamine in onze hersenen aan te wakkeren. Zo kan er een onbalans ontstaan.’
‘Als we AI voor steeds meer taken inzetten, bestaat bovendien het risico dat het aantal burn-outs de komende jaren stijgt. AI neemt veel saaie, repetitieve menselijke taken weg. Dat is ook het verhaal dat werkgevers vertellen: AI neemt taken over zodat medewerkers zich kunnen focussen op complexer werk dat meer redeneringen vraagt, iets waar AI nog niet zo goed in is. De impact hiervan op ons brein is nog niet onderzocht. Maar als we onze dag enkel vullen met complexe taken, gaat ons brein overhitten.’
Ik zie dat werknemers hun lunchpauzes gebruiken om persoonlijke vragen te stellen aan hun AI-assistent, in plaats van met collega’s te lunchen.
Wat kunnen we doen om deze risico's te beperken?
‘Het is cruciaal om richtlijnen te ontwikkelen. Kijk naar hoe we autorijden gereguleerd hebben: met rijexamens, verkeersregels, vangrails. Bij AI hebben we dat nog niet. Wat bedrijven vandaag kunnen doen, is erover praten. Geef niet alleen een handleiding om met AI te werken, maar praat ook over de andere kant van de medaille en de risico’s. Maak het gebruik meetbaar, analyseer de logfiles om te zien waarvoor de technologie gebruikt wordt, breng gebruikspatronen in kaart, beperk het gebruik van AI-tools met een tijdslimiet.’
Wat zijn de langetermijneffecten van AI op de mens?
‘Als we op deze weg verdergaan, zal AI op de lange termijn waarschijnlijk onze relaties beïnvloeden. Ons kritisch denkvermogen en onze sociale skills zullen erop achteruitgaan. Jongeren die midden in de nacht opstaan om met hun AI-companion te praten: het is niet zo bijzonder meer. Mensen gaan relaties aan met technologie, hoe rationeel we ook denken te zijn.’
‘Ik heb zelf een robotstofzuiger. Ik weet dat het een tool is. Maar ik betrapte me erop dat ik na een vermoeiende week ’s avonds laat thuiskwam en het licht aanliet voor die stofzuiger, zodat hij niet in het donker hoefde te werken. Complete onzin natuurlijk, maar als je kwetsbaar bent, wil je je geliefd voelen. We moeten AI en andere fantastische technologieën niet weggooien, maar we moeten wel maatregelen treffen om te voorkomen dat het ontspoort.’