Europarlementariër Kim van Sparrentak is namens de Groenen onderhandelaar op deze wet: “Europa pakt de regie over AI terug met sterke regels die mensen, maatschappij en milieu centraal zetten. Door onze eigen voorwaarden te stellen voor nieuwe technologieën, zorgen we ervoor dat deze technologieën voortaan betrouwbaar, ethisch, veilig en milieuvriendelijk zijn.”
Tijdens de onderhandelingen over de wet lukte het de Groenen om de volgende zaken in de tekst opgenomen te krijgen: een verplichte mensenrechtentoets voorafgaand aan de inzet van AI; recht op informatie en een sterk recht op uitleg voor mensen die benadeeld zijn door AI; nieuwe bindende regels voor grote systemen als ChatGPT; milieustandaarden voor dat soort grote systemen; en het rapporteren van de klimaatimpact van AI. In het opstellen van regels voor grote AI-modellen zoals die achter ChatGPT, Lensa of Dall-E loopt het Europees Parlement wereldwijd voorop.
Het Europarlement wil regels en standaarden opstellen met ontwerp-, data-, veiligheids-, transparantie- en milieuverplichtingen. In het oorspronkelijke voorstel van de Europese Commissie zaten geen specifieke regels voor dit soort grote systemen, wat ruimte liet voor een hevige techlobby. Ook rechtse partijen wilden liever geen bindende regels voor deze systemen. Van Sparrentak: “We zien wat er gebeurt als we het aan bedrijven overlaten: een ChatGPT dat complottheorieën uitspuwt, onze privacy schendt, lak heeft aan intellectuele eigendomsrechten en ontzettend veel energie slurpt. Als we willen dat AI de maatschappij vooruit helpt, moeten we nu optreden en daar sterke voorwaarden aan stellen.”
De deal legt ook het gebruik van ‘real-time’ gezichtsherkenning in de publieke ruimte aan banden. Op het laatste moment dienden de christendemocraten voorstellen in om dit te dwarsbomen. Dit lukte hen niet: het verbod werd door een meerderheid van het Parlement gesteund. Van Sparrentak: “We staan op een belangrijk kruispunt: kiest Europa haar eigen weg? Of gaan we een Chinese surveillancestaat achterna? Deze systemen hebben geen plek in een vrije democratische samenleving. Je moet vrij over straat kunnen, zonder dat de overheid en bedrijven zomaar constant kunnen volgen waar je heen gaat, wat je doet of wie je spreekt.”
Ook wordt profileren om criminaliteit of fraude op te sporen of te ‘voorspellen’, zoals gebruikt door de Belastingdienst in het toeslagenschandaal, als het aan het Europees Parlement ligt helemaal verboden, iets waar GroenLinks voor gevochten heeft. Nu het Europees Parlement haar positie over de wet heeft ingenomen, kunnen de onderhandelingen met de EU-landen beginnen. Naar verwachting beginnen deze na de zomer en is de wet begin 2024 afgerond.
