De Staatscommissie tegen Discriminatie en Racisme concludeert dat het gebruik van datagedreven profilering door de overheid bij het opsporen van fraude en criminaliteit onverenigbaar is met de basiswaarden van de democratische rechtsstaat.
In haar rapport Principes voor profilering stelt de commissie dat het selecteren en beoordelen van burgers op grond van datasystemen in de praktijk vaak leidt tot ongelijke behandeling en ernstige maatschappelijke schade, zoals eerder zichtbaar werd in de toeslagenaffaire. Volgens de commissie ontbreekt het bij deze systemen niet alleen aan duidelijke wettelijke kaders en effectieve mogelijkheden voor burgers om zich te verweren, maar versterken ze ook bestaande ongelijkheden doordat ze voortbouwen op historische gegevens waarin eerdere discriminatie al besloten ligt. Profilering wordt daarbij te vaak gepresenteerd als een neutrale, technische oplossing, terwijl het in werkelijkheid een fundamentele politieke en morele keuze is over de wijze waarop de overheid haar inwoners benadert. Tegelijkertijd is er weinig overtuigend bewijs dat deze werkwijze daadwerkelijk effectiever is dan andere vormen van toezicht, terwijl burgers vaak niet weten dat ze worden geprofileerd of op basis waarvan besluiten worden genomen. Ook de transparantie schiet tekort, onder meer doordat het Algoritmeregister geen volledig beeld geeft van het gebruik van dergelijke systemen. De commissie pleit er daarom voor om bestaande profileringspraktijken stil te leggen zolang niet is aangetoond dat ze werken en geen discriminerende effecten hebben, en wijst op eerlijkere alternatieven zoals willekeurige controles. Dat betekent volgens de commissie niet dat datagebruik moet worden vermeden: gegevens kunnen juist helpen om ongelijkheid zichtbaar te maken en aan te pakken, mits dit gebeurt met duidelijke toestemming, openheid en actieve betrokkenheid van burgers bij beleid.
Bron: Staatscommissie tegen Discriminatie en Racisme

Laatste nieuws