De EDPB bestaat uit de privacytoezichthouders van alle EU-landen. Samen met de Europese toezichthouder European Data Protection Supervisor (EDPS) hebben zij gereageerd op het voorstel.

De EDPB en de EDPS vinden dat de risico’s van gezichtsherkenning te groot zijn om deze techniek toe te staan in de openbare ruimte. Dit geldt ook voor vergelijkbare technieken, zoals stemherkenning en bewegingsherkenning.

De huidige tekst van het voorstel maakt het mogelijk dat overheden dit soort technieken mogen inzetten om bijvoorbeeld criminaliteit te voorkomen en bestrijden.

Discriminatie door AI voorkomen

Daarnaast pleiten de EDPB en de EDPS voor een verbod op AI-systemen die mensen indelen in groepen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur. Omdat dit discriminatie in de hand werkt.

Emotieherkenning

De EDPB en de EDPS doen nog een derde oproep: ze pleiten ook voor een verbod op AI die emoties herkent. Aan emotieherkenning kunnen grote risico’s zitten voor de vrijheid van burgers. Denk aan werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten, werknemers die moeten glimlachen om toegang tot de werkplek te krijgen, of politie die uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen.

AI-Verordeningsvoorstel

De toezichthouders doen deze oproepen als reactie op het voorstel voor een Verordening over AI van de Europese Commissie. Dit voorstel gaat over veel verschillende systemen, maar legt vooral extra regels op voor systemen met een hoog risico voor burgers. Zoals algoritmes die gaan over toeslagen of uitkeringen van de overheid voor burgers. Volgens het voorstel moeten dit soort systemen verplicht geregistreerd worden. En moeten ze in de toekomst gecertificeerd worden, om aan te tonen dat ze de nieuwe wet naleven. Bovendien zijn bedrijven verplicht aan te geven hoe de systemen werken. In aanvulling op bovenstaande oproepen, vinden de EDPB en de EDPS dat de Europese Commissie nog meer aan het voorstel moet verbeteren.

Regels onduidelijk

De EDPB en de EDPS constateren dat veel regels nog niet duidelijk genoeg zijn. Welke partij moet de regels gaan handhaven en hoe precies? En wat zijn exact de regels wanneer er met systemen data worden doorgegeven naar landen buiten de EU?

Daarnaast moet de Verordening goed aansluiten op de Algemene verordening gegevensbescherming (AVG), vinden de EDPB en de EDPS. In het huidige voorstel staan andere definities van sommige begrippen dan in de AVG. Daarnaast zijn de procedures die bedrijven moeten doorlopen anders dan in de AVG. Dit zorgt voor verwarring en maakt het erg ingewikkeld voor bedrijven en andere organisaties om eraan te voldoen.