Intelligente systemen en rechtssubjectiviteit

Jaarrede van de voorzitter van de Nederlandse Juristen-Vereniging (Bas Kortmann) uitgesproken tijdens de Jaarvergadering van de NJV op 8 juni 2018 te Amsterdam. In de rede worden vanuit privaatrechtelijk perspectief enkele opmerkingen gemaakt naar aanleiding van de vraag of een ‘specifieke rechtspersoonlijkheid voor robots’ nodig is.

1.        Op YouTube staat een filmpje van een interview met robot Sophia.

 

https://www.youtube.com/watch?v=S5t6K9iwcdw

 

Het is in de afgelopen acht maanden meer dan 6 miljoen keer bekeken. Het is een fascinerend filmpje. Bijna niets menselijks is Sophia vreemd. Zij is een product van kunstmatige intelligentie. Kunstmatige of artificiële intelligentie is een deel van ons leven en van de huidige samenleving. De smartphone herkent muziek en geluiden van vogels. De virtuele persoonlijke assistent richt je agenda in en de zelfrijdende auto staat op het punt het verkeer drastisch te veranderen. Dagelijks gebruiken we kunstmatige intelligentie om spam te blokkeren of teksten te vertalen. Op nationaal en universeel niveau is kunstmatige intelligentie van groot belang. Wij zetten haar in om het verkeer veiliger en efficiënter te maken, om chronische ziekten te bestrijden, bij de strijd tegen klimaatverandering en tegen bedreigingen van de cybersecurity1. Om de woorden van de Europese Commissie te gebruiken:

 

            “Like the steam engine or electricity in the past, AI is transforming our world, our society and our industry”.2

 

De Europese Commissie heeft op 25 april 2018 aangekondigd dat zij tegen het einde van 2018 samen met de lidstaten een alomvattend plan terzake van kunstmatige intelligentie gereed wil hebben.3 Eén van de onderdelen hiervan is “to ensure an appropriate ethical and legal framework”. Ook het Europees Parlement hield zich al bezig met het legal framework. Het deed de aanbeveling na te denken over de vraag of een “speficieke rechtspersoonlijkheid voor robots” nodig is. Hierover wil ik enkele opmerkingen maken vanuit privaatrechtelijk perspectief.

 

2.        De vraag van het Europees Parlement heeft geen betrekking op Science-Fiction. Zolang het opereren van systemen met kunstmatige intelligentie – ik spreek verder over robots – is te herleiden tot een natuurlijke of rechtspersoon lijken wij met het huidige privaatrecht uit de voeten te kunnen. De robot die het beheer van het garagemagazijn regelt, zelf min of meer autonoom bestellingen plaatst voor nieuwe onderdelen en deze ook betaalt, is niet meer dan een instrument van de garagehouder, natuurlijke of rechtspersoon. Rechtens gelden de acties van de robot als acties van de garagehouder. De robot verricht zelf geen rechtshandelingen, ook niet als vertegenwoordiger. Hij is evenmin hulppersoon, ook niet als de wederpartij denkt van doen te hebben met een mens van vlees en bloed. Maar kunnen wij in de toekomst volstaan met de opvatting dat een robot slechts een rechtsobject is dat door natuurlijke of rechtspersonen wordt gebruikt? Er is op z’n minst reden voor twijfel. De intelligentie van de mens verliest het nu al in vele opzichten van de kunstmatige intelligentie. Deze is niet langer geheel afhankelijk van hetgeen de mens in het intelligente systeem heeft gestopt. Een robot kan tegenwoordig zelflerend zijn en doet dat met een onnavolgbare snelheid. Hij weet onvoorstelbaar grote hoeveelheden data te verwerken. Steeds meer robots zijn in staat zelf beslissingen te nemen, er is sprake van toenemende autonomie. Een robot kan een defect bij zichzelf repareren, kan zichzelf verbeteren en zelfs reproduceren of anders gezegd: voortplanten. Van verschillende kanten is erop gewezen dat niet altijd goed is aan te geven wie eigenaar of gebruiker van de robot is.4 Kan zo’n autonome robot rechtshandelingen verrichten, kan hij dwalen of bedrog plegen? Kan hij eigenaar of rechthebbende zijn van goederen? Kan tegen een robot een procedure worden aangespannen en een verbod worden gevorderd nog langer bepaalde handelingen te verrichten? Kan een robot die betaling vordert, maar niet krijgt, beslag leggen? Saoedi-Arabië kende aan Sophia het staatsburgerschap toe. Kan zo’n robot huwen, een geregistreerd partnerschap aangaan of overspel plegen?

 

3.        In het Romeinse recht kende men het begrip rechtspersoon niet. Wel kwamen er corporatieve instellingen voor waarin meer personen als entiteit naar buiten traden. Niet deze entiteit, maar de personen waren de gezamenlijke dragers van rechten en verplichtingen.5 Vanaf de Middeleeuwen ontwikkelt zich de rechtspersoonlijkheid als dogmatisch begrip. In het geval van de rechtspersoon zien we iets anders dan de mens als rechtssubject aangemerkt.6 Omdat hieraan in het maatschappelijk verkeer behoefte bestaat, wordt het privaatrechtelijk persoonsbegrip niet langer alleen aan de mens toebedeeld. Aan deze aanvaarding van de rechtspersoon in ons privaatrechtelijk systeem liggen vooral overwegingen van doelmatigheid ten grondslag. De mens ofwel de natuurlijke persoon en de rechtspersoon zijn beiden rechtssubjecten en als zodanig dragers van rechten en verplichtingen, alsook van bevoegdheden.7

 

4.        Voordat ik inga op de vraag van het Europees Parlement geef ik twee observaties over de rechtspersoon.

 

Vrij algemeen wordt aangenomen dat het systeem van privaatrechtelijke rechtspersonen gesloten is.8 De wettelijke regeling zou een limitatief karakter hebben. Boek 2 BW geeft bepalingen voor privaatrechtelijke rechtspersonen. De Nederlandse en de Europese wetgever kunnen daarnaast andere rechtspersonen in het leven roepen.9 Geheel gesloten is het stelsel echter niet. Meijers schrijft al in zijn Algemene Begrippen:

 

            “Niet valt in te zien, waarom door het in het leven roepen van een    organisatie voor een bepaald doel, niet reeds een rechtspersoon kan ontstaan.”10

 

De rechtspraak nam al geruime tijd voordat de stichting bij wet werd geregeld11 aan dat een stichting rechtspersoonlijkheid bezat. Ook nu is het nog steeds mogelijk dat de rechter aan bepaalde in het maatschappelijk verkeer optredende verbanden of actoren rechtspersoonlijkheid toekent.12

Mijn tweede observatie. Vrij algemeen, althans wat betreft het privaatrecht, lijkt te worden aanvaard dat een rechtssubject een natuurlijke persoon dan wel een rechtspersoon is.13 Andere “dingen” zijn geen rechtssubject, ook dieren niet.14 Deze visie behoeft nuancering. In het Bepro-arrest uit 2015 overweegt de Hoge Raad:

 

            “3.4.1. Een vof heeft geen rechtspersoonlijkheid. Zij is een bij overeenkomst aangegane rechtsverhouding strekkende tot de uitoefening van een bedrijf onder gemeenschappelijke naam in een duurzaam samenwerkingsverband. De vof heeft wel een (van de vermogens van de vennoten) afgescheiden vermogen.

            Ondanks het ontbreken van rechtspersoonlijkheid wordt de vof in het maatschappelijk verkeer gezien en op diverse plaatsen in de wet (art. 51 Rv, art. 4 lid 3 Fw) behandeld als een afzonderlijk rechtssubject dat zelfstandig aan het rechtsverkeer kan deelnemen, wat strookt met het feit dat de vof een afgescheiden vermogen heeft.”15 (curs. S.C.J.J.K.)

 

De Hoge Raad zegt niet dat de vof of het afgescheiden vermogen daadwerkelijk een rechtssubject is en als zodanig net als andere rechtssubjecten zelfstandig aan het rechtsverkeer kan deelnemen. Wel wordt de vof in een aantal opzichten met een rechtssubject gelijk gesteld.16 Je zou ook kunnen zeggen dat de vof in een aantal opzichten als rechtssubject kan worden geduid.17 Rechtssubjectiviteit komt daarmee niet alleen toe aan natuurlijke personen (mensen) en rechtspersonen, maar – afhankelijk van de concrete omstandigheden – in bepaalde mate ook aan andere collectiviteiten/verbanden/actoren.18 Een belangrijk maar mijns inziens niet doorslaggevend element daarbij lijkt te zijn of er sprake is van een afgescheiden vermogen.19 Wellicht komt onder omstandigheden rechtssubjectiviteit niet alleen toe aan de personenvennootschappen, maar ook aan bijvoorbeeld de faillissementsboedel c.q. de curator q.q., de Raad van Commissarissen in een NV of BV en de ondernemingsraad. De informele vereniging is een mooi voorbeeld van de toekenning van rechtspersoonlijkheid en daarmee rechtssubjectiviteit op grond van materiële kenmerken, zonder dat aan enige formaliteit behoeft te zijn voldaan.

 

5.        Moet de wetgever zich thans zetten aan een regeling van “een specifieke rechtspersoonlijkheid voor robots”? De ondertekenaars van een open brief aan de Europese Commissie, onder wie politieke leiders, kunstmatige intelligentie-onderzoekers, industriële leiders, gezondheidsspecialisten en experts op het terrein van recht en ethiek menen dat de capaciteiten van de robots worden overschat en vinden toekenning van rechtspersoonlijkheid aan robots onzinnig en niet pragmatisch.20 En Ton Hartlief sluit een recent Vooraf in het NJB af met de woorden van Luuk Middelaar: “Maken wij machines tot mensen? Dan ontmenselijken wij onszelf.”21

 

6.        Mij lijkt de tijd niet rijp voor een wettelijke regeling van de (specifieke) rechtspersoonlijkheid voor robots.22,23 In het maatschappelijk verkeer lijkt daaraan op dit moment geen behoefte te bestaan. We kunnen ook niet voorbij gaan aan de filosofische en ethische dilemma’s die opkomen.24 Maar de ontwikkelingen gaan razend snel. Mijn routeplanner instrueer ik met mijn stem. Zweedse onderzoekers kunnen een robot met hun gedachten aansturen. Daarbij gaat het niet alleen om een simpele beweging, maar ook om het in elkaar zetten van een complexe automotor, zo kopt het Financieel Dagblad van 2 en 3 juni 2018. De ontwikkelingen gaan zo snel dat we niet kunnen uitsluiten dat we handelingen of beslissingen van de robot in redelijkheid niet tot een bepaalde natuurlijke persoon of rechtspersoon kunnen herleiden.25 Denk bijvoorbeeld aan het geval waarin de natuurlijke persoon of rechtspersoon die de robot in het verkeer heeft gebracht niet meer bestaat of onvindbaar is, terwijl de robot nog wel actief is.26 Tot wie moet ik mij in een dergelijk geval richten, indien ik bijvoorbeeld een beroep wil doen op een wilsgebrek, beslag wil leggen of een verbod wil vorderen? Waarom zou de rechter dan niet kunnen beslissen dat de robot in het maatschappelijk verkeer wordt gezien als een afzonderlijk rechtssubject dat in bepaalde opzichten zelfstandig aan het rechtsverkeer, bijvoorbeeld een juridische procedure, kan deelnemen? Hoe de robot in de procedure kan optreden, laat ik thans in het midden. Ik kan mij voorstellen dat de figuur van de onzijdige persoon of de zaakwaarnemer, die de robot in rechte vertegenwoordigt, behulpzaam kan zijn.

Ik zou niet bij voorbaat willen aannemen dat toekenning van een zekere mate van rechtssubjectiviteit aan een robot onzinnig is. Daarmee ontmenselijken wij onszelf niet, net zo min als door de aanvaarding in ons privaatrecht van de rechtspersoon.

 

Deze rede is ook verschenen in NJB 2018/1363, afl. 27. Prof. mr. S.C.J.J. (Bas) Kortmann  is hoogleraar burgerlijk recht aan de Radboud Universiteit en als onderzoeker verbonden aan het Onderzoekcentrum Onderneming & Recht.

 

Bron afbeelding: Web Summit

 

  1.  Vgl. COM (2018) 237 final, p. 1. Zie ook Marcel Pheijffer, FD 7 juni 2018, die het brein van de accountant wil vervangen door kunstmatige intelligentie.
  2.  COM (2018) 237 final, p. 1.
  3.  COM (2018) 237 final, p. 3. Op 6 juni 2013 maakte de Europese Commissie bekend € 9,2 mrd vrij te maken voor het nieuwe programma “Digitaal Europa”. € 2,5 mrd hiervan is bestemd voor de verspreiding van kunstmatige intelligentie in Europa.
  4.  Vgl. A.C. van Schaick, Robot als rechtsobject, NTBR 2018/7  en de door hem in noot 16 genoemde schrijvers. Als voorbeeld van intelligente systemen waarvan de eigenaar soms niet of niet goed identificeerbaar is, noemt Van Schaick blockchains.
  5.  Zie Asser/Maeijer & Kroeze 2-I* 2015/2 met verdere verwijzingen. Zie ook J.H.A. Lokin en F. Brandsma, Prota (2016) III/19.
  6.  Vgl. Asser/Maeijer & Kroeze 2-I* 2015/14.
  7.  De toevoeging “bevoegdheden” is niet gebruikelijk, maar mijns inziens wel een essentieel kenmerk van rechtssubjectiviteit. Bij bevoegdheden denk ik in het bijzonder aan de positie van de mens en de rechtspersoon in het procesrecht.
  8.  Zie Van Schilfgaarde, Schoonbrood, Winter en Wezeman, Van de BV en de NV, 2017/7.
  9. Asser/Maeijer & Kroeze 2-I* 2015/42.
  10.  E.M. Meijers, Algemene Begrippen, p. 204.
  11.  Wet op de stichtingen 1956.
  12.  Vgl. Parl. Gesch. Boek 2 1962, p. 46 en Parl. Gesch. BW Inv. 3, 5 en 6 Aanpassingen BW, 1991, p. 114. Zie voorts Asser/Maeijer & Kroeze 2-I* 2015/42 en Van Schilfgaarde, Schoonbrood, Winter en Wezeman, Van de BV en de NV, 2017/7.
  13.  In het bestuursrecht is niet de natuurlijke persoon of rechtspersoon rechtssubject, maar het ambt of, in de terminologie van de Algemene wet bestuursrecht, het bestuursorgaan. Vgl. Schlössels & Zijlstra, Bestuursrecht in de sociale rechtsstaat, Onderwijseditie 2017/75.
  14.  Dieren zijn geen zaken, bepaalt art. 3:2a lid 1 BW. Uit het tweede lid van art. 3:2a BW volgt dat dieren wel rechtsobject zijn.
  15.  HR 6 februari 2015, ECLI:NL:HR:2015:251; JOR 2015/181, m.nt. S.C.J.J. Kortmann & N.E.D. Faber. Zie over dit arrest ook J.M. Blanco Fernàndez, De Hoge Raad en de rechtssubjectiviteit van de personenvennootschap, WPNR 2018/7190.
  16.  Vergelijk de JOR-noot van Kortmann & Faber onder het in noot 15 genoemde arrest, nr. 5.
  17.  Als je aanneemt dat ons stelsel van privaatrechtelijke rechtspersonen niet geheel gesloten is, zou je ook kunnen zeggen dat de vof in een aantal opzichten als rechtspersoon kan worden geduid. De vof is dan een beetje rechtspersoon, bijvoorbeeld in procedurele zin. De overweging van de Hoge Raad lijkt uit te gaan van een gesloten stelsel van rechtspersonen.
  18.  In ietwat andere zin Kortmann & Faber in meergenoemde JOR-noot. Zie overigens ook mijn opmerking in noot 14.
  19.  Schoordijk betoogde al in 1983 dat een afgescheiden vermogen kenmerken vertoont van een afzonderlijke rechtspersoon. Zie H.C.F. Schoordijk, Mede-eigendom, gemeenschap, rechtspersoonlijkheid. Een studie naar aanleiding van de Gemeenschapstitel – 3.7 – van het nieuw B.W., Zwolle 1983, p. 19. Vgl. ook A. Steneker, Kwaliteitsrekening en afgescheiden vermogen, diss. 2005, Serie Onderneming en Recht, deel 31, par. 3.7.
  20. Zie www.robotics-openletter.eu. De ondertekenaars verwijzen naar de opvattingen van de European Economic and Social Committee en naar Comest (Word Commission on the Ethics of Scientific Knowledge and Technology from UNESCO).
  21.  Ton Hartlief, Van knappe koppen en hun uitvindingenNJB 2018, p. 1265; Luuk Middelaar, NRC 20-4-2018.
  22.  Het Europees Parlement spreekt over een “specifieke rechtspersoonlijkheid voor robots”. Niet duidelijk is wat met “specifiek” wordt bedoeld.
  23.  Anders A.C. van Schaick, NTBR 2018/7, die denkt dat het BW over enige tijd wellicht een apart boek behoeft waarin kunstmatige intelligentie, naast natuurlijke personen en rechtspersonen een plaats heeft als rechtssubject.
  24.  Vgl. Hartlief, o.c. Zie ook Yuval Noah Harari, Homo Deus (2017), p. 409 die aan het slot van zijn magistrale boek drie grote vragen stelt. Een daarvan is wat er met de maatschappij, de politiek en het dagelijks leven gebeurt als niet-bewuste, maar hyperintelligente algoritmen ons beter kennen dan wij onszelf kennen?
  25.  Vgl. A.C. van Schaick, NTBR 2018/7 en Hartlief, o.c. Als voorbeeld wordt vaak blockchain genoemd. Zie hierover T.F.E. Tjong Tjin Tai, Smart contracts en het recht, NJB 2017, p. 176-182; ibidem, Juridische aspecten van blockchain en smart contracts, TPR 2017, p. 563-608.
  26.  Ook kan men denken aan een reeks van zelfreproducties (“voortplantingen”) waarbij telkens varianten zijn aangebracht.

Naam auteur: Bas Kortmann
Geschreven op: 12 juli 2018

Reageer op dit artikel
















Even geduld a.u.b.

Reacties

Reinier Bakels schreef op :
Machines die een eigen leven gaan leiden - een nachtmerrie die nu juristen gaat inspireren.
Naar mijn idee moeten altijd mensen de eindverantwoordelijkheid hebben voor machines. Het kan toch niet zo zijn dat iemand een machine inzet die op hol slaat maar zich dan verontschuldigt door op een vermeende eigen verantwoordelijkheid van een machine (een robot) te beroepen?
Kunstmatige intelligentie mag een hoge vlucht nemen, maar ik wacht op een bevredigende kunstmatige moraal, een kunstmatige ethiek.
Het lijkt mij allereerst een opgave om te bepalen of die überhaupt zou kunnen bestaan. Zoals een wiskundige eerst apart onderzoekt of een oplossing kan bestaan voor een bepaald vraagstuk voordat hij begint aan een poging die oplossing te vinden (existentiebewijs).
Kan ethiek bestaan zonder compassie, zonder liefde ?
Nu zijn eerst filosofen aan zet..

NJB Vlog

NJB Vlog is onlangs van start gegaan op njb.nl en You Tube. In korte interviews geven auteurs een toelichting op hun artikel en motivatie waarom ze in de pen klommen. 

Afbeelding

Deze week spreken Maurits Barendrecht, Jacques de Waart & Frederique van Zomeren over het artikel Van ‘in gebreke’ naar ‘in verbinding’. Over de kanteling in het denken over conflictbeslechting en waar de wetgever deze ontwikkeling zou moeten ondersteunen, dat zij schreven samen met Peter Ingelse en Fred Schonewille. 



Lees en doorzoek het NJB online in Navigator

Inloggen

Agenda

Afbeelding

Ontmoet vakgenoten en bespreek actuele onderwerpen in de LinkedIn-groep van het Nederlands Juristenblad.

 

 

U maakt gebruik van een verouderde browser

Het gebruik van een verouderde browser maakt uw computer onveilig en tevens ongeschikt voor het optimaal raadplegen van deze website.

De website van het NJB - Nederlands Juristenblad is namelijk geoptimaliseerd voor een nieuwere versie van uw browser.
In de meeste gevallen waarin het fout gaat, betreft dit het gebruik van de Internet Explorer browserversie 7 of 8.
Deze website is geoptimaliseerd voor Internet Explorer 9 en hoger, Google Chrome, Safari en Firefox.

Bekijk hier of er een nieuwere versie van uw browser beschikbaar is.