Technologie is ethisch niet neutraal

Afgelopen week traden Facebook en Amazon toe tot de selecte club van bedrijven met meer dan 500 miljard dollar beurswaarde. Samen met Apple, Google en Microsoft worden deze vijf techgiganten ook wel de Frightful Five genoemd. Economisch onnavolgbaar en in de praktijk onmisbaar zoals een nutsbedrijf. Toch is het niet hun dominantie op zich, maar hun morele kijk op technologie die ons alert moet maken.

Technologie is immers niet neutraal. Niet alle techondernemers lijken dat te beseffen. Dat werd onder meer duidelijk in de clash van twee techtitanen over artificiële intelligentie (AI). Tesla-topman Elon Musk herhaalde op een conferentie van Amerikaanse gouverneurs zijn waarschuwing dat AI een gevaar betekent voor de mensheid en meer gereguleerd moet worden. Facebook-CEO Mark Zuckerberg deed die uitspraken af als onverantwoord doemdenken dat een rem zet op de voordelen die AI kan bieden.

Tegenpolen

Het dispuut tussen ‘Musk en Zuck’ weerspiegelt de tegenpolen in het debat over digitalisering en robotisering. Aan de ene kant de techno-optimisten die geloven dat de huidige technologische ontwikkelingen (uiteindelijk) een zegen zijn voor de mens en welvaart en welzijn zullen brengen. De Zuckerianen zeg maar. Aan de andere kant de zogenaamde technopessimisten - een term die vooral wordt gebruikt door de optimisten ten aanzien van wie hun enthousiasme niet deelt - die kritisch staan ten opzichte van een ongebreidelde technologische ontwikkeling. Laat ik ze hier de Muskianen noemen.

Het grote verschil in de visies van Musk en Zuckerberg ligt niet zozeer in de conclusies die ze trekken. Hun beide bedrijven blijven actief in de ontwikkeling van AI, Zuckerberg voor de ontwikkeling van intelligente Facebook-applicaties, Musk voor zelfrijdende wagens. Het verschil ligt in hun vertrekpunt, namelijk hun basisvisie op technologie. Zuckerberg heeft een meer neutrale, amorele visie op technologie waarbij technologie noch goed, noch slecht is. Het hangt er van af wat je er mee doet, stelde Zuckerberg nog in de discussie over AI. Een breed gedeelde opvatting in de technologiewereld. Niet zelden wordt ze aangehaald om de eigen verantwoordelijkheid over innovaties op de gebruiker of anderen af te wentelen. Guns don’t kill people, people do, weet u wel.

Morele lading

Elon Musk geeft met zijn oproep blijk van een meer ethisch bewuste visie op technologie. Een waarin technologie niet neutraal is, maar een inherente morele lading heeft. In tegenstelling tot bijvoorbeeld natuurfenomenen overkomt technologie ons niet. Technologie wordt gemaakt voor en door mensen en weerspiegelt de morele opvattingen van de ontwerpers ervan. Een onweer is neutraal, een spijkerbom is dat niet. Ze is gemaakt om zoveel mogelijk slachtoffers te maken. Dat geldt ook in positieve zin: een elektrische hegschaar is zo ontworpen dat je ze steeds met twee handen moet bedienen. Dit verhindert dat je jezelf zou verwonden. In het ontwerp van het product zit dus al een opvatting over wat het meest wenselijke gedrag is in het gebruik ervan.

Het internet der dingen impliceert dus ook een ethiek der dingen. Dat werd nog eens duidelijk toen de CEO van de robotproducent iRobot onlangs liet weten dat hun stofzuigerrobot in de toekomst niet alleen stof maar ook data over je woning zal opslaan. Het bedrijf zou deze data nu willen doorverkopen aan grote dataspelers zoals Google of Amazon. Hoe meer zij over je weten, hoe beter ze advertenties op jouw maat kunnen bezorgen, bijvoorbeeld over huisdecoratie.

Gebruiker

Het punt is niet dat een robot die data registreert op zich slecht is, wel dat hij zodanig ontworpen is dat hij dat mogelijk ongevraagd doet en dat dat niet in het belang van de gebruiker gebeurt. Na negatieve reacties liet het bedrijf weten de dataopslag enkel als een ‘opt-in’ toepassing te overwegen. De gebruiker zou daarvoor dus expliciet zijn toestemming moeten geven. Of en hoe dat gebeurt, is opnieuw een kwestie van ontwerp. Het toont weer hoe technologie altijd een verlengstuk is van de (verborgen) intenties en opvattingen van de producent over wat kan en niet kan.

Het besef van een ethiek inherent aan de techniek ontbreekt in de Zuckeriaanse visie op technologie, die zoals gezegd wel vaker voorkomt in de technologiewereld. Niet de 500 miljard maar een gebrek aan een morele kijk op technologie is een reden om bezorgd te zijn. Ik twijfel persoonlijk niet aan Zuckerbergs goede bedoelingen met AI. En Musks waarschuwing voor een wereld waarin AI zich plots tegen de mens keert, lijkt me ver vooruit te lopen op de realiteit. Maar het pleit voor Musk dat hij als ondernemer in de ontwerpfase vooruitdenkt over de sociale en ethische consequenties van technologie en daarvoor wil samenwerken met regelgevende instanties. Moreel verantwoorde technologie begint daar en niet bij de gebruiker of in een verre toekomst.

Jochanan Eynikel is businessfilosoof van het werkgeversplatform Etion