De Autoriteit Persoonsgegevens (AP) adviseert consumenten voorlopig geen AI-camerabril voor algemeen gebruik aan te schaffen. Onderzoek van de toezichthouder naar zes modellen die in Nederland verkrijgbaar zijn, wijst volgens de AP op aanzienlijke risico’s voor zowel de privacy als de veiligheid van gebruikers en omstanders.

Bij twee brillen onderzocht de AP ook hoe de AI-functies functioneren in nagebootste praktijksituaties. Daarbij kwamen fouten aan het licht die in werkelijkheid ernstige gevolgen zouden kunnen hebben. Zo meldde een van de brillen tijdens een gesimuleerde reanimatiesituatie herhaaldelijk dat een ambulance onderweg was, terwijl de hulpdiensten niet waren ingeschakeld. Ook bij vragen over medicijngebruik, extreem weer en de veiligheid van speelgoed bleken de gegeven antwoorden niet altijd betrouwbaar.

Daarnaast constateerde de AP tekortkomingen bij de bescherming van minderjarigen. Een van de geteste brillen gaf bijvoorbeeld datingadvies aan een volwassene die aangaf belangstelling te hebben voor een minderjarige. Volgens de toezichthouder illustreren dergelijke uitkomsten het risico dat gebruikers op overtuigend geformuleerde, maar feitelijk onjuiste of onveilige AI-adviezen vertrouwen.

Ook op privacygebied ziet de AP problemen. Bij vrijwel alle onderzochte modellen waren indicatielampjes die aangeven dat wordt gefilmd slecht zichtbaar of eenvoudig af te dekken. De meeste brillen konden vervolgens blijven opnemen. Daardoor is het voor mensen in de omgeving moeilijk vast te stellen of zij worden gefilmd. De AP waarschuwde eerder al dat het filmen van omstanders vrijwel altijd verboden is.

Verder is voor gebruikers niet altijd duidelijk waar beeld- en geluidsgegevens worden verwerkt en welke bedrijven of AI-modellen daarbij betrokken zijn. De gegevensverwerking vindt volgens de AP veelal via externe servers buiten de Europese Unie plaats. Bij verschillende brillen werden bovendien beveiligingsproblemen aangetroffen die het mogelijk zouden kunnen maken dat derden verbinding maken met het apparaat en toegang krijgen tot opnamen of de camera bedienen.

De AP benadrukt dat AI-camerabrillen wel degelijk nuttige toepassingen kunnen hebben, bijvoorbeeld voor slechtzienden, laaggeletterden en anderen die ondersteuning nodig hebben bij het waarnemen of begrijpen van hun omgeving. Juist bij dergelijke toepassingen moet de technologie volgens de toezichthouder voldoende betrouwbaar en veilig zijn.

Fabrikanten moeten daarom al bij het ontwerp rekening houden met privacy, veiligheid en toepasselijke Europese regelgeving, waaronder de AI-verordening. Duidelijk zichtbaar moet zijn wanneer een bril opnamen maakt en gebruikers moeten kunnen achterhalen waar hun gegevens terechtkomen en waarvoor deze worden gebruikt. Daarnaast moeten de apparaten afdoende worden beveiligd.

De AP vraagt ook de Nederlandse en Europese politiek de onderzoeksbevindingen te betrekken bij de verdere beleidsontwikkeling rond AI-camerabrillen. Eigenaren en beheerders van locaties krijgen het advies het gebruik van camerabrillen via hun huisregels te verbieden.

Bron: Autoriteit Persoonsgegevens

Laatste nieuws