Het rapport beschrijft de belangrijkste risico's van generatieve AI voor consumenten, bijvoorbeeld voor hun veiligheid en privacy. Maar het zet ook uiteen hoe generatieve AI misleiding, manipulatie, discriminatie, fraude en desinformatie kan vergroten. Volgens de Nederlandse Consumentenbond moet transparantie de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI. De geschiedenis heeft aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf voorop stellen, aldus de Consumentenbond. Omdat de Europese AI-Act nog niet van kracht is, moeten de toezichthouders de bestaande EU-wetgeving op het gebied van gegevensbescherming, veiligheid en consumentenbescherming gebruiken om te handhaven.

Over generatieve AI
Generatieve AI zijn toepassingen die getraind worden met grote hoeveelheden gegevens en daarmee nieuwe inhoud kunnen genereren, zoals tekst, beeld, spraak en/of geluid. Bekende generatieve AI-diensten zijn ChatGPT, DALL-E, Midjourney en Stable Diffusion. Bedrijven als Microsoft, Google en Snapchat hebben de technologie al verwerkt in hun diensten, zoals zoekmachines, tekstverwerking en chat.

Ghost in the machine – Addressing the consumer harms of generative AI

Bron: www.consumentenbond.nl