Yuval Noah Harari: ‘Hackers viseren niet langer je Facebook, wel je hersenen'

In zijn boek ‘Sapiens. Een kleine geschiedenis van de mensheid’ (2011) beschrijft Harari de drie grote revoluties in de menselijke geschiedenis: die van de kennis, die van de landbouw en die van de wetenschap. Hij kondigt een vierde aan, waarbij de mensheid haar natuurlijke grenzen overschrijdt. In het verleden waren alle mensen onderworpen aan dezelfde fysische krachten, chemische reacties en natuurlijke selectieprocessen. Zonder twijfel heeft die laatste de homo sapiens een veel groter speelterrein gegeven dan elk ander organisme, maar ook dat heeft zijn grenzen. Met andere woorden: wat de mens ook al heeft gerealiseerd, hij heeft zich niet kunnen bevrijden van zijn biologische beperkingen.

Vandaag is het zover. ‘De homo sapiens overschrijdt zijn grenzen. Hij treedt ongestraft de wetten van de natuurlijke selectie met de voeten en vervangt ze door intelligent design’, aldus Harari. ‘Overal ter wereld manipuleren onderzoekers levende wezens in laboratoria. Niets kan hen nog stoppen, zelfs niet de oorspronkelijke eigenschappen van die organismen. Paradoxaal genoeg kan de toekomst die beweging van intelligent design wel eens gelijk geven.’

In ‘Homo Deus. Een kleine geschiedenis van de toekomst’ (2015) spreekt Harari over de ‘grote loskoppeling’. De liberalen zijn voorstander van vrije handel en democratische verkiezingen omdat ze geloven dat elk mens als individu een unieke waarde heeft. We halen onze autoriteit uit het feit dat we vrije keuzes kunnen maken. Maar in de 21ste eeuw zijn er volgens Harari grote ontwikkelingen die deze overtuiging onderuithalen.

Zo zullen de mensen hun economische en militaire macht verliezen. Ze zullen wel nog waardevol zijn voor het systeem als collectief, maar niet meer als individu. Wel zal het systeem nog waarde vinden in bepaalde unieke individuen, maar die zullen een elite van supermensen vormen, in schril contrast met de grote massa.

Een ander idee van Harari is dat de nieuwe godsdiensten niet ontstaan in de grotten van Afghanistan of in de Koranscholen in het Midden-Oosten, maar in onderzoekslaboratoria. In het verleden heeft het socialisme de wereldgeschiedenis beïnvloed door via stoom en elektriciteit welvaart te beloven. De nieuwe technoreligies zullen volgens de Israëlische denker de komende decennia de wereld veroveren door geluk te beloven via algoritmen en genen.

We ontmoeten de auteur als hij even in Londen is. Een gesprek waarin hij zijn licht laat schijnen over de dualiteit tussen menselijke en artificiële intelligentie, de illusie van vrije wil en het vermogen om menselijk te zijn en te blijven in de 21ste eeuw.

In uw recentste boek, ‘Homo deus’, schrijft u dat de mensen hun gezond verstand bewust hebben ingeruild voor macht. Bestaat de kans dat artificiële intelligentie hun die macht zal ontnemen?

Yuval Noah Harari: ‘Op dit ogenblik kunnen we daar alleen maar naar gissen, maar het is mogelijk dat de meeste burgers hun economische en politieke macht verliezen. Die zal in handen komen van een kleine, niet-menselijke elite: algoritmen.’

‘Vandaag staat er nog altijd een mens aan de top van een bedrijf of een regering. Als de premier een nieuw economisch beleid wil, kan hij rekenen op een team van menselijke specialisten om enkele opties uit te werken. Over een jaar of dertig zijn die misschien vervangen door algoritmen. Meer en meer beslissingen zullen op basis daarvan worden genomen.’

Artificiële intelligentie kan beslissingen nemen die steeds relevanter zijn. Ze dringt steeds dieper door in de menselijke psychologie en in haar beslissingsmechanismen. Toch gelooft de meerderheid nog altijd in de vrije wil.

Harari: ‘Vrije wil bestaat niet. Het is een illusie. Al duizenden jaren filosoferen we over dat begrip. Het grote verschil met vroeger is dat we vandaag niet langer op het terrein van de filosofische discussie zitten, maar op dat van de technologie. Voor het eerst in de geschiedenis hebben we bijna het stadium bereikt dat een extern systeem, gebaseerd op technologie, kan begrijpen wat in realtime in onze hersenen gebeurt. Dat systeem kan mijn emoties en mijn keuzes beter begrijpen dan ikzelf. Het kan ze beïnvloeden zonder dat ik mij daarvan bewust ben.’

‘Dat hebben we kunnen vaststellen bij de jongste Amerikaanse verkiezingen in 2016. De emoties van de kiezers werden gemanipuleerd door hackers en algoritmen zonder dat die eersten zich daarvan bewust waren. Door de sociologische en psychologische profielen van Facebook- en Twitter-gebruikers te bestuderen, werd het mogelijk hun keuze aanzienlijk te beïnvloeden. Dat gebeurde bijvoorbeeld door een video met een duidelijke boodschap te tonen - ‘stem voor Donald Trump’ - en tegelijk te vertellen dat Hillary Clinton geld wil afnemen van de blanken om het aan de zwarten te geven. Ofwel werd het omgekeerde gezegd: dat Clinton zich niet bekommerde om de zwarte gemeenschap.’

‘Het volstaat om op de spreekwoordelijke ‘woedeknop’ te drukken. De geviseerde kiezer voelt deze woede. Hij is ervan overtuigd dat het een reële emotie is. Hij denkt dat het zijn eigen, vrije wil is, terwijl hij eigenlijk door een extern systeem is gemanipuleerd. Vergeet niet dat we hier spreken over een nog primitief analysesysteem, gebaseerd op Facebook en Twitter. Stel je voor wat over twintig jaar kan gebeuren, als dat systeem over jouw biometrische gegevens beschikt, over je brein en je lichaam. Het zal niet langer je Facebook-account hacken, maar wel je hersenen.’

Als de vrije wil slechts een mythe is, hoe zit het dan met begrippen als ‘verdienste’ en ‘schuld’?

Harari: ‘Alles hangt af van het beeld dat men heeft van gerechtigheid. De heersende opvatting gaat uit van rechtvaardigheid en wraak: wie een moord pleegt, doet dat uit eigen beweging. De maatschappij moet de moordenaar straffen, omdat hij des duivels is.’

‘Maar je kunt het ook anders bekijken: de beslissing om iemand te vermoorden is niet vrij en met een heldere geest genomen. Ze is het resultaat van extreem complexe biochemische processen, die onmogelijk te controleren zijn. Vanuit die optiek moet de moordenaar worden opgesloten om de anderen te beschermen, zelfs als zijn genen de echte verantwoordelijke voor de moord zijn. Maar nog veel belangrijker is dat hij door een behandeling of een therapie geneest. Als het biochemische systeem zodanig functioneert dat iemand moordt, is die in feite ziek en moet hij verzorgd worden. In het verleden, toen we niet wisten hoe de hersenen werkten, werd al snel gezegd dat een moordenaar handelde uit vrije wil. Vandaag weten we dat het een fout in de hersenen is, die hersteld moet worden.’

Is het dan een goede zaak om alles vanuit de technologie te benaderen? Met andere woorden: is artificiële intelligentie altijd de oplossing?

Harari:‘Op verschillende terreinen is het verantwoord menselijke intelligentie te vervangen door artificiële. Neem bijvoorbeeld het autoverkeer, waar elk jaar 1,2 miljoen mensen om het leven komen bij ongevallen. Negen keer op de tien zijn die het gevolg van een menselijke fout, zoals te snel of dronken rijden. Maar in andere gevallen stelt het ernstige ethische en politieke problemen. Technologie kan inderdaad niet alles oplossen. De hamvraag is hoever we met die technologie kunnen gaan, zonder dat we ze aan onze greep laten ontsnappen.’

Als algoritmen dan toch beslissingen in onze plaats zullen nemen, welke impact zal dat hebben op de arbeidsmarkt?

Harari: ‘Er zijn al eerdere revoluties geweest op de arbeidsmarkt, maar deze is zonder weerga. De industriële revolutie verliep veel geleidelijker en lang niet zo snel. In 1800 kon een landbouwer plots besluiten om in de stad te gaan wonen en er in een fabriek te werken. Maar daar bleef hij dan voor de rest van zijn leven. Zijn kinderen volgden zijn voorbeeld. Vandaag is er na de revolutie geen periode van stabilisering. Ze wordt gevolgd door een waterval van nieuwe revoluties - laten we zeggen om de tien jaar - naargelang de artificiële intelligentie en de robotica verder ontwikkelen. Zelfs de nieuwe arbeidsvormen die over tien of twintig jaar ontstaan, zullen snel weer achterhaald zijn. We leven in een wereld die continu in verandering is, en het gaat steeds sneller.’