Van knappe koppen en hun uitvindingen

Onnozel zijn we niet. Ook wij juristen hebben onze uitvindingen. Een van de meest geslaagde, al was het maar omdat zij de actieradius van de mens enorm heeft uitgebreid is ‘de rechtspersoon’. Zij is fictie en realiteit tegelijk. Zij kan alles wat een natuurlijke persoon kan: rechtshandelingen verrichten en onrechtmatige daden plegen. Het is net een mens.

En we gaan daar ver in: rechtspersonen kunnen strafbare feiten plegen en daarvoor vervolgd en veroordeeld worden, ze kunnen zelfs klagen over schending van mensenrechten. Maar we zijn niet gek: we weten heus wel dat rechtspersonen bestaan bij de gratie van mensen en hun gedragingen. Als het zo uitkomt, grijpen we terug op de mensen ‘achter’ de rechtspersoon en roepen we hen ter verantwoording. Daarvoor hebben we een trukendoos waarin leerstukken zitten als vereenzelviging, doorbraak van aansprakelijkheid, bestuurders- en aandeelhoudersaansprakelijkheid.

Onnozel zijn we dus niet. We weten bijvoorbeeld heus wel dat de mens geen ‘zaak’ is (art. 3:2 BW). Wel een dier maar dan een bijzonder exemplaar. Zo bijzonder dat we in het BW best kunnen doen alsof we eigenlijk geen dier zijn. Nog niet zo lang staat er in art. 3:2a BW dat dieren geen zaken zijn (lid 1), zij het dat de bepalingen met betrekking tot zaken in beginsel wel van toepassing zijn op dieren (lid 2), maar dit staaltje van symboolwetgeving slaat niet op ons. De positie van dieren bezorgt ons nog wel wat kopzorgen. Dat dieren schade kunnen aanrichten, is al sinds de Romeinen opgelost met een kwalitatieve aansprakelijkheid van een verantwoordelijk te achten persoon. Dat dieren geen rechtshandelingen kunnen verrichten, staat niet ter discussie, maar dat ligt anders bij de vraag of zij rechten hebben, grondrechten bijvoorbeeld (om niet gemarteld te worden)1 of auteursrechten (een aap die een selfie maakt). Dieren zijn niet alleen rechts-object, maar mogelijk ook rechtssubject, zij hebben wellicht zelfs mensenrechten, al kunnen zij die enkel met hulp van natuurlijke en rechtspersonen verwezenlijken.

Ook dat hebben we maar weer mooi bedacht. Maar we staan nu voor een grotere uitdaging die alles te maken heeft met een uitvinding van veel knappere koppen dan wij. Een uitvinding die, naar verluidt, net als eerder de stoommachine en electriciteit het leven in onze tijd en in de tijden erna zal domineren: artificial intelligence. Kunstmatige intelligentie die uiteindelijk alles beter, sneller en zorgvuldiger kan dan de mens, die zelflerend zal zijn en die autonoom beslissingen neemt. De voorbeelden sluiten nu nog aan bij onze actuele belevingswereld. Een koelkast die zelf aan voorraadbeheer doet, communiceert met en bestelt bij een counter part bij Albert Heijn en ook tot het verrichten van betalingen in staat is. Een robot die röntgenfoto’s beoordeelt en operaties verricht, een zorgrobot die aan ons bed staat, tot het voeren van een gesprek en zelfs een grapje in staat is. Een op afroep bestelbare zelfrijdende auto die ons, terwijl we de krant op een tablet lezen, op aangename wijze naar de plaats van bestemming brengt. Systemen die autonoom opereren, ‘zelf’ rechtshandelingen verrichten en soms ook schade aanrichten.

Hoe gaan wij juristen hiermee om? We komen een heel eind met het bestaande vermogensrechtelijke systeem: zo vinden we wel een antwoord op de vraag wie aansprakelijk is voor schade als gevolg van disfunctionerende kunstmatige intelligentie (zelfrijdende auto die door falende software een ongeval veroorzaakt). Binnen dat zelfde systeem is het ook nog mogelijk de door de autonoom opererende apparatuur, het voorbeeld van de koelkast blijft hangen, ‘zelf’ verrichte rechtshandelingen toe te rekenen aan een natuurlijk persoon of rechtspersoon, bijvoorbeeld de eigenaar of de gebruiker ervan.

Maar is niet voorstelbaar dat kunstmatige intelligentie de zaak waarin zij is verwerkt, zo beheerst dat het gewrongen wordt om de juridische vragen die de beslissingen van de intelligente zaak oproepen, te beantwoorden door terug te grijpen op een natuurlijke persoon of rechtspersoon die met die zaak verbonden is?2 Niet voor niets zag het Europees Parlement een nieuw systeem voor zich, nieuwe hoofdrolspelers althans. Zij riep de Europese Commissie op niet alleen na te denken over vormen van verzekering en aansprakelijkheid maar ook over een
‘specifieke rechtspersoonlijkheid voor robots’.3

De ondertekenaars van een open brief aan de Europese Commissie, onder wie opvallend veel ‘echte’ geleerden, echt knappe koppen dus, tonen zich bezorgd (www.robotics-openletter.eu). Niet alleen constateren zij een overwaardering van de capaciteiten van ‘even the most advanced robots’ en ‘a robot perception distorted by Science-Fiction and a few recent sensational press announcements’, hun stelling is ook dat het creëren van ‘a legal personality for a robot’ onwenselijk is, welk model men ook kiest. Is dat het natuurlijk persoon-model dan rijst de vraag welke (mensen)rechten robots (zouden moeten) hebben, maar het rechtspersoon-model werkt ook niet: achter een rechtspersoon staan nog altijd mensen die we ter verantwoording kunnen roepen, achter een robot staat niemand.

De boodschap lijkt vooral te zijn dat we niet enkel met de inrichting van het juridisch systeem te maken hebben, maar met fundamentele, filosofische en morele kwesties. Maken wij machines tot mensen? Onthaasting lijkt geboden en reflectie aangewezen. Dat is echter niet de sfeer van de zojuist gepresenteerde strategie van de Europese Commissie op het gebied van AI.4 Zij heeft geen twijfel (AI zal onze wereld transformeren) en toont daadkracht: Europa staat voor een enorme inhaalslag, omdat de VS en China ver voor ons uitlopen. Geen tijd te verliezen dus: aanpakken en investeren, vooruitgang zal onze beloning zijn.

Mij intrigeert dat echt knappe koppen de prijs van een mogelijke nieuwe juridische uitvinding vrezen: rechtspersoonlijkheid voor robots en andere AI. Maken wij machines tot mensen? Dan ontmenselijken we ons zelf.5

Dit Vooraf is verschenen in NJB 2018/878, afl. 18. 

  1. Zie bijvoorbeeld Rijpkema, NJB 2013/2364, p. 2811 e.v. 
  2. Van Schaick, NTBR 2018, p. 48.
  3. Resolutie 16-2-2017 over ‘Civil Law Rules on Robotics’, par. 59 sub f.
  4. COM (2018) 237 final.
  5. Aldus indringend Luuk Middelaar, NRC 20-4-2018.

 

Bron afbeelding: Salford Institute for Dementia

Ton Hartlief

Naam auteur: Ton Hartlief
Geschreven op: 1 mei 2018

Advocaat-generaal bij de Hoge Raad en hoogleraar privaatrecht aan de Universiteit Maastricht

Reageer op dit artikel
















Even geduld a.u.b.

Reacties

Frits Jansen schreef op :
Het is al lang een geliefd onderwerp om over te filosoferen: als er "kunstmatige intelligentie" is, waarom dan geen kunstmatige rechtspersonen?

Het moet vooral bij filosoferen blijven, want computers blijven oliedom, ondanks alle clichés dat "de ontwikkeling van de techniek razendsnel" gaat.

De regel moet ten alle tijde blijven dat de mensen die computers inzetten hoe dan ook aansprakelijk blijven voor hun daden. Als dat sommigen belemmert nieuwe technologie in te zetten is dat terecht. Ook een computer die op eigen houtje aan de gang gaat is een keer ingezet door een mens.

Voor rechtsfilosofen is een computer vooral interessant als "beslisser" die volstrekt gespeend is van alle redelijkheid en billijkheid. Ja, daar kunnen ook regels voor worden geprogrammeerd, maar het wezen van "redelijkheid en billijkheid" is nu juist te voorzien in situaties waarin regels tekort schieten.



Lees en doorzoek het NJB online in Navigator

Inloggen

Agenda

Afbeelding

Ontmoet vakgenoten en bespreek actuele onderwerpen in de LinkedIn-groep van het Nederlands Juristenblad.

 

 

U maakt gebruik van een verouderde browser

Het gebruik van een verouderde browser maakt uw computer onveilig en tevens ongeschikt voor het optimaal raadplegen van deze website.

De website van het NJB - Nederlands Juristenblad is namelijk geoptimaliseerd voor een nieuwere versie van uw browser.
In de meeste gevallen waarin het fout gaat, betreft dit het gebruik van de Internet Explorer browserversie 7 of 8.
Deze website is geoptimaliseerd voor Internet Explorer 9 en hoger, Google Chrome, Safari en Firefox.

Bekijk hier of er een nieuwere versie van uw browser beschikbaar is.