De Nederlandse overheid werkt aan een nieuwe invulling van het toezicht op kunstmatige intelligentie binnen de rechtspraak, in lijn met de Europese AI-verordening die sinds 1 augustus 2024 geldt. Deze wetgeving heeft als doel AI-toepassingen veilig, betrouwbaar en in overeenstemming met fundamentele rechten te maken, waarbij strengere regels gelden naarmate de risico’s groter zijn. In dat kader krijgt de procureur-generaal bij de Hoge Raad een aanvullende verantwoordelijkheid: hij gaat toezicht houden op AI-systemen met een hoog risico die worden ontwikkeld en ingezet door onder meer rechtbanken, gerechtshoven en de hoogste rechtscolleges. Voor de Afdeling bestuursrechtspraak van de Raad van State komt deze taak terecht bij de voorzitter van die afdeling. Door deze keuze blijft het toezicht belegd bij bestaande, vertrouwde autoriteiten binnen het juridische domein.
De Europese regels schrijven voor dat lidstaten zelf bepalen hoe zij toezicht organiseren, maar stellen daarbij specifieke eisen aan onafhankelijkheid, vooral wanneer het gaat om gevoelige terreinen zoals rechtspraak en rechtshandhaving. Naast deze toezichthouders moet Nederland ook duidelijk vastleggen welke instanties optreden als zogenaamde grondrechtenautoriteiten. Dat zijn organisaties die toezien op de naleving van fundamentele rechten in relatie tot AI. In Nederland behoren onder meer het College voor de Rechten van de Mens, de Autoriteit Persoonsgegevens en diverse rechtsprekende instanties tot deze groep. Deze lijst moet openbaar zijn en actueel gehouden worden.
Hoewel de nieuwe toezichttaken een duidelijke uitbreiding van verantwoordelijkheden betekenen, is nog niet vastgesteld hoe deze precies worden gefinancierd. Volgens de staatssecretaris kan het nodig zijn om extra middelen beschikbaar te stellen, maar het is ook mogelijk dat bestaande budgetten anders worden verdeeld. Daarmee is de praktische uitwerking van het toezicht nog niet volledig uitgekristalliseerd, maar de richting is duidelijk: er komt meer structurele controle op het gebruik van AI binnen de rechtspraak, met nadruk op bescherming van grondrechten en het beperken van risico’s.
Bron: Tweede Kamer