EU bereikt voorlopig akkoord over AI-regelgeving

Met de politieke overeenkomst zet de EU stappen om de eerste grote wereldmacht te worden die wetten voor AI invoert. De deal van vrijdag tussen de EU-landen en leden van het Europees Parlement kwam er na een enkele dagen van urenlange onderhandelingen.

Het werk is nog niet gedaan, de komende dagen worden de 'details' uitgewerkt, wat de vorm van de uiteindelijke wetgeving zou kunnen veranderen. De deal moet ook nog worden goedgekeurd door de lidstaten en het Europees Parlement.

De overeenkomst voorziet in waarborgen voor algemene kunstmatige intelligentie, beperkingen op het gebruik van biometrische identificatiesystemen door wetshandhavingsinstanties en verboden op sociale scores en AI die wordt gebruikt om gebruikers te manipuleren of uit te buiten.

De onderhandelaars bereikten een akkoord over een zekere mate van gezichtsscanning, maar met voorwaarden en uitzonderingen. Scanning op basis van gevoelige kenmerken, zoals politieke of religieuze overtuigingen, seksuele geaardheid of etnische achtergrond is verboden. Dit was een bijzonder heikel punt bij de discussies.

Consumenten zouden het recht hebben om klachten in te dienen en uitleg te krijgen, terwijl boetes voor overtredingen zouden variëren van 7,5 miljoen euro of 1,5 procent van de omzet tot 35 miljoen euro of 7 procent van de wereldwijde omzet.

'Historisch! De EU wordt het allereerste continent dat duidelijke regels stelt voor het gebruik van AI', jubelde EU-commissaris Thierry Breton op X, het vroegere Twitter. 'De AI-wet is veel meer dan een regelboek - het is een lanceerplatform voor EU-startups en onderzoekers om de wereldwijde AI-race te leiden.'

Europees Commissievoorzitter Ursula von der Leyen zei dat de AI-regels een uniek juridisch kader zullen bieden om betrouwbare technologie te ontwikkelen die de veiligheid en fundamentele rechten van mensen en bedrijven niet aantast.

AI-modellen

Een van de hoofdonderhandelaars van het Europees Parlement, Dragos Tudorache, zei dat de AI-regels gericht zijn op grote krachtige AI-modellen, om ervoor te zorgen dat ze geen systematische risico's voor de EU vormen.

De onderhandelaars zijn het grotendeels eens om voor grote AI-modellen, zoals diegene die ChatGPT of concurrent Bard aandrijven, basisregels op te leggen voor transparantie.  Dat betekent dat er technische documentatie moet zijn, dat de Europese copyright-wetgeving moet worden nageleefd en dat er gedetailleerde samenvattingen moeten komen over het materiaal dat wordt gebruikt voor de training van AI-modellen.

Modellen die een 'systemisch risico' inhouden, moeten een vrijwillige gedragscode onderschrijven. Dit zou gelijkaardig zijn met de regels over de moderatie van inhoud voorzien in de Europese regelgeving over Digitale Diensten.

Frankrijk en Duitsland gaven eerder al te kennen te vrezen dat er overdreven regulering zou komen voor AI die kan worden gebruikt voor algemene doeleinden. De modellen achter ChatGPT en Bard kunnen namelijk veel verschillende taken aan terwijl vroeger AI telkens enkel voor heel specifieke taken werd ingezet.

Concurrentie

Te zware regulering zou en gevaar zijn voor Franse en Duitse bedrijven zoals Mistral en Aleph Alpha. Frankrijk en Duitsland kregen kritiek te horen dat ze zouden zwichten voor 'lobby's' aangestuurd door de AI-sector. De Spaanse staatssecretaris Carme Artigas zei dat zoals het er nu voorstaat, het Franse Mistral waarschijnlijk niet moet voldoen aan de controles op algemene AI.

'We zullen het compromis zorgvuldig onderzoeken en er de komende weken voor zorgen dat de tekst de Europese capaciteit vrijwaart om eigen AI-technologie te ontwikkelen en om op dat vlak strategisch autonoom te zijn', zei de Franse minister van Digitale Zaken Jean-Noel Barrot. Europa lijkt achter te lopen in de AI-race die vooral wordt gelopen tussen de VS en China. Het nieuws wordt gedomineerd door nieuwe ontwikkelingen bij OpenAI en bondgenoot Microsoft voor wat betreft ChatGPT en door Google dat pas nog het nieuwe model Gemini heeft voorgesteld. Frankrijk en Duitsland zijn als de dood dat de nog jonge nationale AI-kampioenen worden opgezadeld met een concurrentienadeel.

De EU-wetgeving zou het model kunnen worden voor andere regeringen en een alternatief voor de lichte aanpak van de Verenigde Staten en de tussentijdse regels van China.