Onnozel zijn we niet. Ook wij juristen hebben onze uitvindingen. Een van de meest geslaagde, al was het maar omdat zij de actieradius van de mens enorm heeft uitgebreid is ‘de rechtspersoon’. Zij is fictie en realiteit tegelijk. Zij kan alles wat een natuurlijke persoon kan: rechtshandelingen verrichten en onrechtmatige daden plegen. Het is net een mens.
En we gaan daar ver in: rechtspersonen kunnen strafbare feiten plegen en daarvoor vervolgd en veroordeeld worden, ze kunnen zelfs klagen over schending van mensenrechten. Maar we zijn niet gek: we weten heus wel dat rechtspersonen bestaan bij de gratie van mensen en hun gedragingen. Als het zo uitkomt, grijpen we terug op de mensen ‘achter’ de rechtspersoon en roepen we hen ter verantwoording. Daarvoor hebben we een trukendoos waarin leerstukken zitten als vereenzelviging, doorbraak van aansprakelijkheid, bestuurders- en aandeelhoudersaansprakelijkheid.
Onnozel zijn we dus niet. We weten bijvoorbeeld heus wel dat de mens geen ‘zaak’ is (art. 3:2 BW). Wel een dier maar dan een bijzonder exemplaar. Zo bijzonder dat we in het BW best kunnen doen alsof we eigenlijk geen dier zijn. Nog niet zo lang staat er in art. 3:2a BW dat dieren geen zaken zijn (lid 1), zij het dat de bepalingen met betrekking tot zaken in beginsel wel van toepassing zijn op dieren (lid 2), maar dit staaltje van symboolwetgeving slaat niet op ons. De positie van dieren bezorgt ons nog wel wat kopzorgen. Dat dieren schade kunnen aanrichten, is al sinds de Romeinen opgelost met een kwalitatieve aansprakelijkheid van een verantwoordelijk te achten persoon. Dat dieren geen rechtshandelingen kunnen verrichten, staat niet ter discussie, maar dat ligt anders bij de vraag of zij rechten hebben, grondrechten bijvoorbeeld (om niet gemarteld te worden)1 of auteursrechten (een aap die een selfie maakt). Dieren zijn niet alleen rechts-object, maar mogelijk ook rechtssubject, zij hebben wellicht zelfs mensenrechten, al kunnen zij die enkel met hulp van natuurlijke en rechtspersonen verwezenlijken.
Ook dat hebben we maar weer mooi bedacht. Maar we staan nu voor een grotere uitdaging die alles te maken heeft met een uitvinding van veel knappere koppen dan wij. Een uitvinding die, naar verluidt, net als eerder de stoommachine en electriciteit het leven in onze tijd en in de tijden erna zal domineren: artificial intelligence. Kunstmatige intelligentie die uiteindelijk alles beter, sneller en zorgvuldiger kan dan de mens, die zelflerend zal zijn en die autonoom beslissingen neemt. De voorbeelden sluiten nu nog aan bij onze actuele belevingswereld. Een koelkast die zelf aan voorraadbeheer doet, communiceert met en bestelt bij een counter part bij Albert Heijn en ook tot het verrichten van betalingen in staat is. Een robot die röntgenfoto’s beoordeelt en operaties verricht, een zorgrobot die aan ons bed staat, tot het voeren van een gesprek en zelfs een grapje in staat is. Een op afroep bestelbare zelfrijdende auto die ons, terwijl we de krant op een tablet lezen, op aangename wijze naar de plaats van bestemming brengt. Systemen die autonoom opereren, ‘zelf’ rechtshandelingen verrichten en soms ook schade aanrichten.
Hoe gaan wij juristen hiermee om? We komen een heel eind met het bestaande vermogensrechtelijke systeem: zo vinden we wel een antwoord op de vraag wie aansprakelijk is voor schade als gevolg van disfunctionerende kunstmatige intelligentie (zelfrijdende auto die door falende software een ongeval veroorzaakt). Binnen dat zelfde systeem is het ook nog mogelijk de door de autonoom opererende apparatuur, het voorbeeld van de koelkast blijft hangen, ‘zelf’ verrichte rechtshandelingen toe te rekenen aan een natuurlijk persoon of rechtspersoon, bijvoorbeeld de eigenaar of de gebruiker ervan.
Maar is niet voorstelbaar dat kunstmatige intelligentie de zaak waarin zij is verwerkt, zo beheerst dat het gewrongen wordt om de juridische vragen die de beslissingen van de intelligente zaak oproepen, te beantwoorden door terug te grijpen op een natuurlijke persoon of rechtspersoon die met die zaak verbonden is?2 Niet voor niets zag het Europees Parlement een nieuw systeem voor zich, nieuwe hoofdrolspelers althans. Zij riep de Europese Commissie op niet alleen na te denken over vormen van verzekering en aansprakelijkheid maar ook over een
‘specifieke rechtspersoonlijkheid voor robots’.3
De ondertekenaars van een open brief aan de Europese Commissie, onder wie opvallend veel ‘echte’ geleerden, echt knappe koppen dus, tonen zich bezorgd (www.robotics-openletter.eu). Niet alleen constateren zij een overwaardering van de capaciteiten van ‘even the most advanced robots’ en ‘a robot perception distorted by Science-Fiction and a few recent sensational press announcements’, hun stelling is ook dat het creëren van ‘a legal personality for a robot’ onwenselijk is, welk model men ook kiest. Is dat het natuurlijk persoon-model dan rijst de vraag welke (mensen)rechten robots (zouden moeten) hebben, maar het rechtspersoon-model werkt ook niet: achter een rechtspersoon staan nog altijd mensen die we ter verantwoording kunnen roepen, achter een robot staat niemand.
De boodschap lijkt vooral te zijn dat we niet enkel met de inrichting van het juridisch systeem te maken hebben, maar met fundamentele, filosofische en morele kwesties. Maken wij machines tot mensen? Onthaasting lijkt geboden en reflectie aangewezen. Dat is echter niet de sfeer van de zojuist gepresenteerde strategie van de Europese Commissie op het gebied van AI.4 Zij heeft geen twijfel (AI zal onze wereld transformeren) en toont daadkracht: Europa staat voor een enorme inhaalslag, omdat de VS en China ver voor ons uitlopen. Geen tijd te verliezen dus: aanpakken en investeren, vooruitgang zal onze beloning zijn.
Mij intrigeert dat echt knappe koppen de prijs van een mogelijke nieuwe juridische uitvinding vrezen: rechtspersoonlijkheid voor robots en andere AI. Maken wij machines tot mensen? Dan ontmenselijken we ons zelf.5
Dit Vooraf is verschenen in NJB 2018/878, afl. 18.
- Zie bijvoorbeeld Rijpkema, NJB 2013/2364, p. 2811 e.v.
- Van Schaick, NTBR 2018, p. 48.
- Resolutie 16-2-2017 over ‘Civil Law Rules on Robotics’, par. 59 sub f.
- COM (2018) 237 final.
- Aldus indringend Luuk Middelaar, NRC 20-4-2018.
Afbeelding: Flickr
