Klokkenluider Frances Haugen: ‘Facebook subsidieert elke dag haat en verdeeldheid’

Frances Haugen (37) zit met een grote bluetooth hoofdtelefoon en een vriendelijke glimlach voor haar laptop in een Airbnb in Puerto Rico, haar vaste verblijfplaats. Voor iemand die het tegen een van de machtigste ondernemingen ter wereld opneemt en die door haar nieuwe sterrenstatus ‘even druk bevraagd lijkt als Beyoncé’ - dixit de pr-medewerkster voor Haugen bij het Zoom-gesprek komt - oogt ze door de webcam bijzonder relaxed. ‘Hi, wat kan ik voor je doen?’, vraagt ze, monter en met een kop thee binnen handbereik.

Zes maanden geleden klapte Haugen voor de laatste keer haar laptop dicht als productmanager bij Facebook. Dat deed ze nadat ze tienduizenden documenten had gedownload die eigenlijk niet bestemd waren om het hoofdkwartier in Menlo Park, Californië te verlaten.

De rode draad in die stapel informatie: Facebook is zich bewust van allerlei problematische effecten van zijn wereldwijd gebruikte diensten, maar groei en winst (9 miljard dollar louter in het derde kwartaal van 2021) primeren op het welzijn van mensen. De boodschap kwam in september naar buiten via een reeks vernietigende artikels in The Wall Street Journal en vervolgens in meerdere andere grote media.

Sinds ze in het Amerikaanse nieuwsprogramma ‘60 Minutes’ naar buiten trad als de bron van de onthullingen is Haugen wereldberoemd. Ze was niet weg te slaan uit het internationale nieuws, sierde magazinecovers en pakte eloquent en geduldig Amerikaanse senatoren en Europese parlementsleden van allerlei strekking in.

Door ook oplossingen aan te reiken gaf ze een apolitiek, menselijk gezicht aan de strijd voor eerlijkere technologie. ‘Haar moedige geschenk aan de wereld was een ijskoude douche van onweerlegbare feiten, gesmokkeld uit het hart van het Facebook-imperium’, schreef Harvard-professor Shoshana Zuboff, de auteur van ‘Surveillance Capitalism’, over Haugen in Financial Times. De Britse zakenkrant nam haar op in een lijst met 25 vrouwen van het jaar.

De documenten die Haugen naar buiten bracht, vormen de basis voor harde beschuldigingen. Facebook weet dat zijn hyperpopulaire fotoapp Instagram de mentale gezondheid van tienermeisjes kan schaden door ze op te zadelen met onrealistische zelfbeelden.

Net zoals het weet dat zijn platform werd misbruikt om geweld aan te stoken, van het Capitool in Washington op 6 januari tot het bloederige etnische conflict in Ethiopië. Het weet ook dat het ondanks beloftes tekortschiet in de bestrijding van valse informatie over vaccins. En het slaagt er amper in inhoud te modereren die niet in het Engels is.

Telkens bleek dat interne onderzoekers die problemen aankaarten maar dat een afdoende remedie uitblijft. De verdienste van Haugen als klokkenluidster is dat ze met documenten bewijzen aanlevert voor wat al in stukjes en beetjes naar buiten kwam. Het resultaat is een beeld van een bedrijf dat de ware impact van zijn invloed niet kan of wil beheersen.

‘Betekenisvolle interactie’

De kern van het probleem is de manier waarop Facebook de informatie rangschikt die gebruikers te zien krijgen, zegt Haugen.

‘In 2018 voerde Facebook een verandering door in het systeem dat prioriteit geeft aan de informatie die u en ik zien, omdat het wilde dat mensen meer content zouden produceren. Uit tests bleek dat het daarvoor meer interactie moest stimuleren. Onder het mom van (vormt aanhalingstekens met haar vingers) betekenisvolle sociale interactie gaven ze in de newsfeed prioriteit aan posts waarop meer reacties kwamen en die het meest werden gedeeld. En welke emotie lokt dat het meest uit? Boosheid. Resultaat: de meest extreme en polariserende inhoud is in het voordeel.’

Haugen vat dat samen als: de kortste weg naar een klik is woede. ‘Wat veel mensen niet beseffen is dat hetzelfde systeem ook bestaat voor advertenties. Boze politieke advertenties worden gezien als kwalitatiever en zijn daardoor goedkoper dan empathische. Zo subsidieert Facebook elke dag haat en verdeeldheid. Zolang we toelaten dat boodschappen die ons uiteenrukken goedkoper zijn dan boodschappen die ons samenbrengen, wordt onze democratie ondermijnd. Dat is onacceptabel.’

Het kantelpunt waarop ze vond dat ze daar iets aan moest doen, kwam in december vorig jaar. Haugen werkte nog maar anderhalf jaar bij Facebook voor een afdeling die civic integrity heette en als doelstelling had misinformatie te temperen. Maar niet lang na de presidentsverkiezingen werd die afdeling opgedoekt, een beslissing die volgens Haugen bijdraagt aan de ‘verpletterende verantwoordelijkheid’ die Facebook draagt voor de gebeurtenissen van 6 januari.

‘Toen verloor ik het geloof dat Facebook dit ooit zelf kan oplossen. Om in een organisatie verandering te bewerkstelligen is een kritieke massa van mensen die aan een probleem werken nodig. Toen ze die afdeling opdoekten, verdampte die verantwoordelijkheid compleet.’

Het was nooit haar plan A om klokkenluider te worden, zegt Haugen. En evenmin haar plan B, C of D. Toch vond ze dat het haar taak was aan de bel te trekken.

‘Ik hoor bij een kleine groep van 200 à 300 mensen die weten hoe systemen werken voor rangschikking van informatie, die dus beïnvloeden hoe wij de realiteit zien. Dat zeg ik niet om op te scheppen, maar omdat dat een probleem is voor de maatschappij. Uiteindelijk bleef voor mij de keuze over: vertrouw ik erop dat een collega gaat doen wat volgens mij nodig is of doe ik het zelf? Ik kwam tot de conclusie dat ik ’s nachts niet zou kunnen slapen als ik er niet genoeg aan had gedaan. En ik dacht vaak aan wat een belangrijk iemand me ooit zei: ‘Je hebt meer macht dan je denkt. Maar als je macht wil claimen, moet je verantwoordelijkheid nemen.’

Had ze enig idee waaraan ze begon toen ze besloot het risico te nemen om een bedrijf van bijna 1.000 miljard dollar marktwaarde uit te dagen? ‘Ik hoopte dat er iets zou gebeuren, maar had geen vermoeden dat het zou leiden tot de storm van de afgelopen maanden. Ja, er is veel druk. En Facebook zou me iets kunnen aandoen. Maar ik voel me niet meer verantwoordelijk voor de levens van zo veel mensen. Omdat ik heb gedaan wat ik kon doen.’

Internationale tournee

Klokkenluider worden doe je niet alleen. Stap één was juridische bescherming aanvragen bij de Amerikaanse beurswaakhond SEC, wat Haugen deed met behulp van de non-profitorganisatie Whistleblower Aid.

Daarna volgde een strak gecoördineerde mediastrategie. Eerst koos ze een journalist van The Wall Street Journal uit, omdat ze een medium wilde dat geloofwaardigheid genoot in conservatieve hoek.

‘Conservatieven zijn vaker het doelwit van misinformatie.’ Vervolgens gaf ze de documenten aan twintig andere grote nieuwsmedia onder voorwaarde dat die zouden samenwerken ‘als een consortium’, wat de onderlinge concurrenten met dichtgeknepen neus deden.

Onmiddellijk rezen vragen over wie haar financiert en welke grote organisatie achter haar schuilt. Die lacht Haugen weg. ‘Ik krijg logistieke steun en leef voor de rest van mijn spaargeld. Ik heb lang in tech gewerkt en op het juiste moment in crypto geïnvesteerd.’

Whistleblower Aid begon wel een crowdfundingcampagne, waarmee voorlopig 66.000 van de beoogde 100.000 dollar is opgehaald. En ze tekende een contract voor een boek.

Daarna deed Haugen wat een band doet die een nieuwe plaat uit heeft: op internationale tournee vertrekken. In oktober en november reisde ze langs Washington, Parijs, Berlijn, Londen, Lissabon en Brussel voor een reeks hoorzittingen, speeches en politieke topontmoetingen die hun impact niet misten.

Eén Democratische senator noemde haar een ‘21ste-eeuwse Amerikaanse heldin’, terwijl leden van het Europees Parlement, bezig met het klaarstomen van wetgeving die Big Tech aan banden legt, haar net niet doodknuffelden. Ze kreeg daarbij onder meer hulp van Reset, een lobbygroep die ijvert voor strengere regels voor grote internetbedrijven, opgericht door een ex- adviseur van Hillary Clinton en op zijn beurt mede gefinancierd door miljardair en eBay-oprichter Pierre Omidyar.

‘Ze voert een terechte strijd voor een veiligere digitale omgeving en tegen onrecht. Daarom vind ik haar een soort moderne Jeanne d’Arc’, zegt premier Alexander De Croo, die in Brussel met Haugen een ‘zeer boeiend’ privégesprek had van een halfuur voor haar optreden voor het Europees Parlement in november.

‘We hebben die strijd ook in Europa nodig. Facebook probeert de verwerpelijkste praat er wel uit te halen, maar voor kleine talen gebeurt dat amper. Met al zijn talen heeft Europa er alle baat bij Facebook onder druk te zetten.’

De eerste minister benadrukt dat hij het belangrijk vindt beide kanten te horen. ‘Als regering gaan we in gesprek met Facebook en met personen die kritiek hebben op Facebook.’

Midwest

Haugen is afkomstig uit Iowa in de Amerikaanse midwest, ver weg van de permanente zonneschijn van Silicon Valley. Haar vader is dokter, haar moeder academica en predikante. Zelf studeerde ze computerwetenschappen en haalde ze een MBA aan Harvard.

Ze maakte snel carrière in de Californische techwereld: van Google ging het via Yelp en Pinterest naar Facebook. Nog voor haar vertrek daar verhuisde ze naar Puerto Rico voor het weer: de warmte verzacht de acute zenuwpijnen die ze overhield aan een levensbedreigende bloedklonter, een gevolg van de auto-immuunziekte coeliakie. Dat ze op het Caribische eiland niet wordt herkend, is vandaag mooi meegenomen.

Haar revalidatie was zwaar, maar ze kreeg steun van een goede vriend. ‘Hij heeft me echt goed geholpen. Hij ging met me wandelen, dwong me te gaan zwemmen, zorgde ervoor dat ik gezond at.’

Rabbithole

Haugen dankt haar leven aan hem. Maar dan raakte ze hem kwijt, omdat hij tijdens de Trump-jaren steeds verder afgleed in de rabbithole van misinformatie en samenzweringen op sociale media, met name Facebook. Toen ze in 2018 werd gecontacteerd door een headhunter van dat bedrijf, waarvan de reputatie toen nochtans al flink was aangetast, wilde ze dat alleen doen als ze kon werken rond de integriteit van het platform. ‘Ze zeiden: ‘Dat treft, daar zoeken we iemand voor.’ En zo ben ik er begonnen.’

Haugen was nog geen twee jaar bij Facebook aan de slag toen ze zich tegen haar werkgever keerde. Dat is ook de kritiek van het bedrijf toen Haugen voor de Amerikaanse Senaat getuigde: ze werkte er maar kort, ze zat nooit in vergaderingen waarin beslissingen werden genomen op topniveau, ze was niet bezig met de onderwerpen waarover ze interne informatie deelt.

‘Het is gebruikelijk in tech om na twee jaar van job te veranderen, omdat je je zo financieel kan verbeteren’, zegt Haugen. ‘Door het enorme verloop was ik bij mijn vertrek meer senior dan 60 of 70 procent van het bedrijf. Ze kunnen daarop blijven hameren als ze willen, het verandert de zaak niet.’

In een reactie bestempelt een woordvoerster van Facebook Haugens bewering dat winst en groei boven alles primeren als onjuist. ‘Ja, we zijn een bedrijf en we maken winst. Maar het idee dat we dat ten koste van de veiligheid of het welzijn van onze gebruikers doen, strookt niet met onze commerciële belangen. De waarheid is dat we 13 miljard dollar hebben geïnvesteerd en 40.000 mensen in dienst hebben om één taak te doen: mensen veilig houden op ons platform.’

De woordvoerster verwijst ook naar een reactie van Mark Zuckerberg: ‘Het argument dat we opzettelijk content pushen die mensen kwaad maakt, is onlogisch. We verdienen geld aan advertenties, en adverteerders vertellen ons consequent dat ze niet willen dat hun advertenties naast schadelijke inhoud komen te staan.’

Zuckerberg vatte Haugens acties samen als ‘een gecoördineerde inspanning om selectief documenten te lekken en zo een vals beeld te scheppen van de partij’. Haugen glimlacht als ik de stichter en CEO citeer.

‘I love it. Niet-representatief? Dat kunnen ze oplossen door al die positieve documenten naar buiten te brengen die ik zou zijn vergeten. Facebook beschikt over zo veel informatie, maar het is bang een precedent te scheppen en de gordijnen te openen, wat het bedrijf zou dwingen meer te investeren in verbetering.’

‘Bijvoorbeeld: in een van de documenten staat beschreven hoe Facebook kan besparen op de controle op haatpraat. Daarin staat een tabel met bedragen die het per taal in die controle investeert. Frans stond er niet eens bij. Hoeveel moderators heeft Facebook voor inhoud in het Frans? Dat wil het niet zeggen.’

De woordvoerster van Facebook zegt: van de 40.000 mensen die bij het bedrijf aan de veiligheid van het platform werken, zijn er 15.000 verspreid over meer dan twintig locaties over de hele wereld om inhoud in meer dan zeventig talen te modereren.

‘Daarnaast maken we gebruik van speciale teams die misbruik een halt toeroepen in landen waar het risico op geweld en conflicten groot is. Maar we weten dat we nog meer werk te doen hebben. Daar zijn we constant mee bezig.’

Geen shaming

Haugen heeft haar leeftijdsgenoot Zuckerberg nooit ontmoet. Ze wilde haar kritiek op het bedrijf ook nooit persoonlijk maken. ‘Ik geloof niet dat je verandering krijgt door mensen publiek te shamen.’

Maar gezien zijn almachtige positie in de aandeelhouderstructuur waardoor hij elke andere stemgerechtigde kan overrulen, vindt ze wel dat hij er goed aan doet een stap opzij te zetten. ‘Leiderschap doet ertoe. Ik zie echt niet in hoe iemand het bedrijf kan genezen voordat iemand de job van Mark overneemt.’

Haugen zegt dat ze ‘in shock’ was toen Zuckerberg eind oktober de grote reconversie aankondigde naar Meta, zoals het bedrijf nu al twee maanden officieel heet als voorschot op een toekomst waarin de metaverse de opvolger wordt van het internet.

‘Dus de oplossing is om op een of andere magische manier 10.000 ingenieurs te vinden en ze te laten werken aan videogames terwijl je de veiligheid van je product niet kan garanderen?’

Zij ziet vooral heil in meer transparantie. Ze hoopt dat wat ze in gang heeft gezet, bijdraagt aan de scherpere regels voor Facebook en andere sociale media die in Washington en Brussel worden gesmeed. In tegenstelling tot wat velen suggereren, wil ze niet dat het bedrijf wordt opgesplitst. Dat verandert in Haugens ogen niets aan de algoritmes die als zwarte dozen informatie voor gebruikers rangschikken en aanbevelen.

Ze pleit eerder voor een orgaan dat data kan opvragen en verandering in de algoritmes kan afdwingen. Ze is ook hoopvol over de Europese digitaledienstenwet die ver gevorderd is in de wetgevende molen. Dat is een pakket dat internetplatformen strikte regels oplegt voor de inhoud die gebruikers plaatsen en dat illegale praktijken moet weren. ‘Als het ver genoeg gaat, kan het de goudstandaard voor de wereld worden.’

‘Voor heel veel taalgebieden in de wereld staat Facebook gelijk aan het internet. Bijna alles wat de gebruikers online doen, gebeurt via Facebook. Dat vraagt een systeem van wederzijds vertrouwen. We hebben veel meer mensen nodig die werken aan de problemen waar Facebook tegenaan kijkt. Mijn wens is helemaal niet om Facebook kapot te krijgen. Ik wil een interventie, zoals bij een vriend die op het slechte pad aan het geraken is en tegen wie je moet zeggen: ‘Hé, ik hou van je en ik ga je helpen, anders loopt dit fout af.’ Dat is waar Facebook nu staat. Het verdient ons vertrouwen niet, en het geraakt er zelf niet uit.’

Het klinkt als een echo van de merkwaardige afscheidsboodschap die Haugen in mei achterliet op het interne netwerk van Facebook: ‘Ik haat Facebook niet. Ik hou van Facebook. Ik wil het redden.’

Daar blijft ze bij, en ze erkent de vele positieve gevolgen van sociale media die er ook zijn, net als de basisfilosofie om mensen te verbinden. Ze hoopt een beweging op gang te brengen die vooral impact heeft op hoe jongeren sociale media beleven.

‘Ik ben niet van plan die beweging te leiden. Ik wil ze van de grond krijgen, zodat vooral jongeren elkaar kunnen helpen om zich niet zo machteloos te voelen als het aankomt op sociale media. We staan op een moment dat technologie ons machteloos doet voelen. De keuze is: willen we bestuurd worden door algoritmes? Of door mensen? De enige manier waarop dat laatste zal lukken, is als mensen het overnemen. We hebben die weerstand nodig.’

‘Ik ben ervan overtuigd dat er miljoenen levens op het spel staan als we het probleem Facebook niet oplossen. Daarvoor zijn meer goede mensen bij het bedrijf nodig.’

En na alles wat is gebeurd, na alle bruggen die hopeloos lijken opgeblazen, sluit ze zichzelf zelfs niet uit. ‘Ik zou er zo weer beginnen.’ Zegt ze dit om te provoceren? ‘Nee, ik meen het. Honderd procent. Misschien kan ik ze er ooit van overtuigen dat het in ons wederzijds belang is. Wie weet. Ik ben een optimist.’