De term somnambulisme – afgeleid van Somnus, de god van de slaap – oftewel slaapwandelen, werd door de Amerikaanse wetenschapper Langdon Winner jaren geleden benut voor zijn analyse hoe samenlevingen nieuwe technologieën omarmen. Technologie wordt vaak gezien als niet meer dan een instrument. Iets dat ons in staat stelt sneller of efficiënter te handelen, maar we blijven wel hetzelfde doen. Met de auto zijn we eerder in Den Haag dan met paard en wagen. We gaan echter nog steeds van A naar B.
Waar we ondertussen onvoldoende bij stil staan is dat technologie niet neutraal is. Met het benutten verandert ook de wereld om ons heen. Of die technologie nu een auto of smartphone is. Van een tijdige discussie over deze veranderingen is veelal geen sprake. Tot het moment dat er iets voorvalt, we als het ware wakker worden en vaststellen te zijn beland in een onwenselijke situatie. Bijvoorbeeld omdat bepaalde toepassingen niet stroken met waarden die ten grondslag liggen aan onze democratische rechtsstaat. De rol van sociale media bij verkiezingen is een illustratief voorbeeld van Winner’s technological somnambulism.
Automatische gezichtsherkenning is een andere illustratie. De techniek is populair maar een discussie over de implicaties voeren we niet. Vorig jaar meldde het kabinet in de Agenda Digitale Overheid (p. 41): ‘We starten een onderzoek naar het gebruik van automatische gezichtsherkenning en andere vormen van biometrische identificatie. Onderdeel hiervan is een experiment met het gebruik van identiteitsgegevens op een smartphone voor mensen die vaak internationale vliegreizen maken. Daarnaast gaan we samen met de Vereniging Nederlandse Gemeenten en tien gemeenten diverse nieuwe digitale identiteitstoepassingen testen.’
Verrassend is de stap niet, nu geautomatiseerde gezichtsherkenning steeds ‘gewoner’ wordt. De iPhone werkt ermee (FaceID). Illustratief is ook de provincie Utrecht waar bezoekers van het natuurgebied Henschotermeer toegang kregen via gezichtsherkenning. Hoe wijd verspreid de benutting precies is, blijft onduidelijk. Wereldwijd zijn in ieder geval talloze vliegvelden, ook Schiphol, ermee uitgerust. De bredere verspreiding van de techniek bij grenspassage vormde voor minister Blok een argument om twijfels te uiten bij de noodzaak van het EU-voorstel om de veiligheid van reis- en identiteitsdocumenten te versterken: Nederland plaatste een kanttekening gelet op ‘het feit dat bij grensoverschrijding vooral gebruik wordt gemaakt van gezichtsherkenning’.1
Nu valt er bij grenspassagecontrole nog te discussiëren over de proportionaliteit en subsidiariteit, namelijk vanuit het belang van veiligheid en afgewogen tegen de door de EU voorgestelde bredere invoering van biometrie. Anders is het bij meer reguliere toepassingen. Het is soms handig en vast ook leuk om door anderen herkend te worden. Maar toch zouden we ons zorgen moeten maken. Vijf redenen. Ten eerste: onvoldoende transparantie. Op vliegvelden is de inzet kenbaar. Maar weten we welke van de ontelbare camera’s die onze private en publieke ruimte inmiddels rijk is, wel of niet met de applicatie zijn of zullen worden uitgerust? Ten tweede: de spanning met grondrechten. Zeker niet alleen privacy, maar ook het recht op demonstratie en de vrijheid van meningsuiting. Volautomatische gezichtsherkenning van alle bij een protestmanifestatie aanwezige personen zet druk op het in vrijheid en anonimiteit kunnen demonsteren. Natuurlijk is nu ook vrijwel iedereen achteraf via beeldmateriaal te herkennen. Maar het is toch anders als real-time identificatie de standaard wordt. Ten derde: met het gezicht van persoon X komen volautomatisch ook andere personen in beeld. Wie bekend is met sociale media als Facebook en dus met de faciliteit om aan een persoon diens naam te koppelen, weet hoe eenvoudig het is om vrienden, collega’s of andere relaties per direct ook in beeld te krijgen. En dat kan verrassende inzichten opleveren. Maar problematisch is dat we veelal niet weten waarom met kunstmatige intelligentie ondersteunde gezichtsherkenning bepaalde personen bij elkaar brengt. Dat raakt aan het vierde punt: technologie plaatst informatie niet uit zichzelf in een context. Er valt in beeld te brengen dat iemand ergens was. Niet waarom deze persoon daar was en in welke hoedanigheid. Met andere woorden, de veelal voor beslissingen zo cruciale duiding van ons doen en laten ontbreekt. En ten vijfde: de technologie is nog verre van betrouwbaar. De meest gebruikte systemen blijken beter in staat om gezichten van blanke mannen te herkennen dan die van vrouwen en personen met getinte huidskleur. Zelfs als deze ‘vooroordelen’ technisch worden opgelost, dan nog geldt – zoals bij veel identificatiesystemen – dat wordt gewerkt met een zekere foutmarge. Maar hoe precies die marge wordt ingesteld, blijft veelal onduidelijk. Ondertussen ligt op de schouder van degene die (kennelijk) is herkend de bewijslast om aan te tonen dat hij of zij toch echt een ander is.
Gezichtsherkenning is niet slechts een nieuw instrument, maar heeft verregaande implicaties. Helaas komt, in tegenstelling tot bijvoorbeeld de VS, de maatschappelijke en politieke discussie hier niet van de grond. In San Francisco werden afgelopen maand regels aangenomen die het de politie en andere publieke instanties van deze Amerikaanse stad verbieden om gezichtsherkenning in te zetten. Ook elders in dat land liggen voorstellen om de technologie te beteugelen. Inspiratie voor het vorige week door de Tweede Kamer aangekondigde parlementair onderzoek naar digitalisering?
De term somnambulisme heeft behalve slaapwandelen nog een andere betekenis: helderziendheid tijdens een slaaptoestand. Vanuit het vermogen tot helderziendheid een afsluitende vraag: hebben we spijt als we straks om ons heen kijken, talloze camera’s ons aanstaren en we oncomfortabel vaststellen geen idee te hebben wie allemaal – buiten het gezichtsveld – ons ter plekke herkennen en real time in verband brengen met talloze andere, op dat moment ook weer volautomatisch geïdentificeerde, mensen?
Dit Vooraf wordt gepubliceerd in NJB 2019/1316, afl. 23
