Rechters over de hele wereld gebruiken steeds vaker ondersteunende AI-systemen in de rechtspleging. AI kan helpen met het uitvoeren van simpele administratieve taken, het doorzoeken van jurisprudentie, het genereren van recidivescores of zelfs het schrijven van gehele vonnissen. Procespartijen kunnen echter AI-gegenereerde bewijsstukken of juridische argumenten mogelijk niet goed aanvechten wanneer het gebruik en de werking van deze systemen niet worden uitgelegd door de rechter. Het proefschrift van Ljubiša Metikoš bespreekt hoe een recht op een uitleg het mogelijk kan maken voor procespartijen om deze AI-hulpmiddelen aan te vechten. Daartoe worden de reikwijdte, inhoud en beperkingen van het recht op een uitleg van rechterlijke AI besproken. Het analyseert in het bijzonder verschillende procedurele waarborgen, het gegevensbeschermingsrecht en AI regulering in de EU, Brazilië en China. Dit omvat onder andere analyses van artikel 6 EVRM, artikel 15 en 22 AVG en artikel 86 van de AI-verordening. Dit proefschrift bespreekt ook waarom aanvechtbaarheid gewaarborgd zou moeten worden in de AI-geassisteerde rechtspleging door middel van een recht op een uitleg. Dit doet zij aan de hand van vier verschillende theorieën van procedurele rechtvaardigheid. In het bijzonder wordt gekeken naar utilitaristische, op rechten gebaseerde (waaronder een waardigheidsbenadering en een Dworkiniaanse benadering) en relationele theorieën van procedurele rechtvaardigheid. Deze benadrukken verschillende onderliggende waarden van het kunnen aanvechten van rechterlijke AI-systemen: het heeft instrumentele waarde in het corrigeren van fouten en intrinsieke waarde in de erkenning van de waardigheid van procespartijen, hetzij als rationele autonome agenten, hetzij als sociaal-relationele wezens.
Verder beschrijft dit proefschrift ook hoe het recht op een uitleg geoperationaliseerd zou moeten worden in de praktijk. Daartoe worden drie kernvragen afgeleid uit informaticadebatten over uitlegbare AI (‘explainable AI’): moet een uitleg algemeen of specifiek zijn, in welke mate moet een uitleg getrouw zijn aan het interne gedrag van het systeem of volstaat een plausibele benadering en moeten intrinsiek interpreteerbare systemen worden gebruikt, zelfs als dat ten koste gaat van nauwkeurigheid? Verder zijn er nog verschillende technische en organisatorische obstakels die de operationalisering van het recht op een uitleg zouden kunnen belemmeren in de praktijk. Om deze te verhelpen stelt Metikoš verschillende concrete maatregelen voor die de rechtspraak zou moeten uitvoeren om deze obstakels aan te pakken. Hierbij benadrukt hij dat rechterlijke AI-systemen van meet af aan uitlegbaar en aanvechtbaar moeten zijn (‘explainable and contestable by design’). Dit vereist dat al in de ontwerpfase men nadenkt over de aanvechtbaarheid van rechterlijke AI-systemen. Verder formuleert dit proefschrift ook de kritische reflectie dat we niet moeten uitgaan van een ideale procespartij. Een structureel gebrek aan epistemisch, financieel en tijdsgerelateerd kapitaal kan burgers sterk belemmeren in hun toegang tot het recht en in hun vermogen om effectief gebruik te maken van een uitleg om rechterlijke AI aan te vechten. De rechtspraak moet daarom des te meer ook nadenken over hoe en wanneer het AI zal inzetten en op wiens schouders de last komt te liggen om de fouten die dergelijke systemen maken, aan te vechten.
Metikoš promoveerde op 3 juni 2026 aan de Universiteit van Amsterdam. Promotoren: prof. dr. Natali Helberger en prof. mr. dr. Iris van Domselaar.
Ljubiša Metikoš
Enabling Contestation. The Right to an Explanation of Judicial AI
De dissertatie is beschikbaar in de repository van de UvA