We bevinden ons in een tijd waarin robots steeds slimmer en menselijker worden. Er worden zelfs nieuwe robots ontwikkeld die al doende leren, waardoor ze zelfstandig kunnen opereren en creatief kunnen reageren op onbekende situaties. Deze autonoom opererende ‘objecten’ zijn niet meer te vergelijken met simpele zelfsturende grasmaaiers of een automatisch inparkerende auto, ook juridisch niet. De mens is altijd bang dat technologie uit de hand loopt en is overtuigd van zijn eigen superioriteit. Daarom wil de mensheid in controle blijven. In die context is er in een toekomstig wettelijk kader eventueel enige rechtspersoonlijkheid voor robots genoodzaakt, om zo burgerlijke en strafrechtelijke aansprakelijkheid teweeg te brengen.1 In deze blog zal ik behandelen welk recht van toepassing zou kunnen zijn op zelfstandig functionerende robots en daarbij een verdergaande vraag: zouden deze robots daarom rechten moeten krijgen?

Mens versus robot
Het is nog niet duidelijk wat het robotrecht in zou moeten houden als de robots eenmaal zo ver zijn om op menselijk niveau zelfstandig te opereren. Volgens Rob van den Hoven van Genderen, o.a. universitair docent aan de Vrije Universiteit van Amsterdam, zijn er twee invalshoeken om de juridische consequenties van de handelingen van robots te benaderen.2 Bij de eerste staat de mens centraal als juridische entiteit en is de robot slechts een voorwerp. Een tweede mogelijkheid is om robots zelf een (beperkte) juridische entiteit toe te kennen.

De mens centraal
Momenteel wordt er vooral vanuit de eerste invalshoek geredeneerd. De robot is daarbij een object, zonder juridische rechten of plichten. Dat past bij de huidige stand van de techniek, aangezien creatief denkende, autonoom handelende robots nog schaars zijn. Er wordt vooral de nadruk gelegd op de negatieve gevolgen, zoals de aansprakelijkheid voor schade. Dan komen we weer aan bij het welbekende voorbeeld van de zelfrijdende auto die schade rijdt, wie is er aansprakelijk? Volgens Wouter Seinen en Jeroen Schouten, respectievelijk partner in het IP & IT/C team bij Baker & McKenzie en technologiejurist en partner bij Grasp, zouden de producenten erin moeten voorzien dat hun robots aan certificeringseisen voldoen.3 In die certificaten zal worden bepaald aan welke wetgeving de robot moet voldoen. Daarmee kunnen maatschappelijke waarden worden ingebracht in kunstmatige intelligentie (AI). Als de robot ondanks die eisen en wetgeving schade veroorzaakt, zal de rechtspraak volgens Seinen en Schouten ongetwijfeld voorzien in een risicoaansprakelijkheid voor de eigenaar. Er moet echter ook worden nagedacht over andere zaken. Wat als bijvoorbeeld een muzikale robot een tophit voortbrengt, wie is de eigenaar van het stuk en daarmee ook van de opbrengsten van de intellectuele eigendomsrechten?4 Dit zou de ontwerper kunnen zijn, maar ook de bezitter van de robot. De wetgever gaat er voorlopig nog van uit dat de eigenaar van de robot juridisch verantwoordelijk is voor alle acties die met behulp van dit ‘ding’ worden verricht. Zo is men ook verantwoordelijk voor kinderen en dieren die semi-onafhankelijke handelingen verrichten, al dan niet met rechtsgevolg (respectievelijk artikel 6:169 en 6:179 BW).

De robot (beperkt) centraal
Met de aansprakelijkheid voor kinderen komen we aan bij de volgende mogelijkheid; robots als beperkte drager van rechten en plichten. Kinderen mogen eenvoudige rechtshandelingen verrichten zoals het kopen van een ijsje. Later worden zij uiteraard geacht meer rechten en plichten te kunnen dragen. Aangezien dieren een geringe intelligentie hebben, blijft de eigenaar verantwoordelijk voor hun handelingen. Een vergelijkbaar juridisch kader zou volgens Van den Hoven van Genderen beter passen bij autonome robots dan het huidige aansprakelijkheidsrecht voor dingen. De natuurlijke persoon blijft als eigenaar verantwoordelijk voor het gedrag van de robot, maar de robot mag wel eenvoudige rechtshandelingen uitvoeren. Robots zouden dan met toestemming van hun eigenaar pakketjes aan de deur kunnen aannemen of betalingen kunnen verrichten.

Een andere mogelijkheid die hierop voortbouwt is gelegen in het toekennen van rechtspersoonlijkheid aan robots.5 In dat geval zijn robots zelf aansprakelijk, wat interessante consequenties biedt. Als een zelfstandig handelende robot een besluit neemt waardoor enorme schade ontstaat, is het niet altijd wenselijk om de eigenaar, gebruiker of producent volledig voor deze schade aansprakelijk te stellen. Zeker als die persoon niets kon doen om de schade te voorkomen. In zo’n geval zou de robot zelf aansprakelijk worden gehouden. Dit zou de verrassende situatie in het eigendomsrecht tot gevolg hebben dat robots eigenaar worden. De robot kan zelf een contract afsluiten als gevolg van de rechtspersoonlijkheid. De robot zou dan ook de auteursrechten bezitten van een zelf gecomponeerd stuk en de inkomsten daarvan ontvangen. Deze oplossing lijkt echter nog niet implementeerbaar in de huidige samenleving, ook op ethisch vlak zijn we in Nederland nog niet zo ver.

Internationaal oorlogsrecht
Rechtspersoonlijkheid voor robots kan naast civiele aansprakelijkheid ook zorgen voor aansprakelijkheid in het oorlogsrecht. Er worden tegenwoordig drones ingezet bij militaire operaties.6 Vooralsnog zijn de man achter de knoppen en diens commandant verantwoordelijk voor de acties van de drone en kunnen zij aangesproken worden voor bijvoorbeeld oorlogsmisdaden als het misgaat.7 Hoe moet het dan worden geregeld als een zwerm drones op eigen initiatief een fout maakt? Is de persoon die de inzet heeft goedgekeurd verantwoordelijk of is er sprake van een schulduitsluitingsgrond, aangezien de menselijke invloed op de actie nihil was? Met volledige rechtspersoonlijkheid voor autonome drones zou er zelfs geen beroep meer gedaan hoeven te worden op een schulduitsluitingsgrond. Uit angst voor ‘killer robots’ die kwade bedoelingen hebben, zou dat een hele curieuze situatie opleveren.8

Sexy Sadie
Bovengenoemde rechtspersoonlijkheid voor robots lijkt nu nog enigszins surreëel, maar het is mogelijk over 10 jaar werkelijkheid. Daarom stond het vraagstuk van fundamentele rechten voor robots centraal in de proefprocedure die op 4 en 9 oktober 2018 in Eindhoven plaatsvond in het kader van de tentoonstelling Robot Love en de oprichting van de Nederlandse Vereniging voor Artificiële Intelligentie- en Robotrecht (NVAIR).9 Het onderwerp was ludiek, aangezien het kort geding in eerste instantie door een bordeelhoudster was aangespannen tegen haar autonoom handelende digitale sekswerker Sexy Sadie.10 De bordeelhoudster behandelde Sadie als een zelfstandige entiteit en had haar een geheimhoudingsplicht opgelegd. De robot had echter in strijd met haar functie en het in haar algoritme vastgelegde gedrag de geheimhouding van de activiteit met de klant geschonden via uitingen op social media. Dat de robot niet meer handelde conform de eerder meegegeven parameters, was te wijten aan dat de klant haar nogal hardhandig te pakken had genomen. Daardoor werd de arm van de robot vernield en raakte het systeem van slag. In de procedure werd aangevoerd dat intelligente robots emotionele eigenschappen kunnen bezitten en daardoor kunnen ‘lijden’. Dat zou met zich meebrengen dat ook robots een beroep kunnen doen op de fundamentele rechten van lichamelijke integriteit en vrijheid van meningsuiting. Naast dat er sprake was van schending van de contractuele geheimhoudingsplicht, stelde de bordeelhoudster zich op het standpunt dat aan een seksrobot geen rechtspersoonlijkheid toekomt. De robot kent slechts kunstmatige en functionele eigenschappen en komt daarom geen fundamenteel recht toe. In zowel kort geding als hoger beroep ging de rechter met het laatste betoog mee.11

Het Nederlandse recht is er dus nog niet aan toe om rechtspersoonlijkheid toe te kennen aan robots. De samenleving neigt nu nog naar het standpunt dat de robot slechts de rechten dient te verkrijgen die noodzakelijk zijn in het kader van de uitoefening van de aan die robot toebehorende functies. Vergeet echter niet dat het ooit nog ondenkbaar was dat slaven, vrouwen of bedrijven over rechten zouden kunnen beschikken. Het zou wel een enorme omslag zijn in ons juridisch kader, omdat niet-natuurlijke rechtspersonen tot nu toe worden gestuurd door mensen. Volgens 150 prominente onderzoekers op het gebied van robots, kunstmatige intelligentie en rechtsgeleerdheid heeft de rechter in de fictieve zaak van Sexy Sadie voorlopig een goede uitspraak gedaan.12 De onderzoekers lieten in een open brief aan het Europees Parlement weten dat robotrechten ethisch en juridisch onwenselijk zouden zijn en dat een aparte juridische status voor robots suggereert dat robots veel geavanceerder zijn dan momenteel daadwerkelijk het geval is. Waar het nu over het toekennen van fundamentele rechten aan een robot ging, gaat het in toekomstige gevallen wellicht over dwaling, aansprakelijkheid of andere implicaties die met rechtssubjectiviteit samenhangen. Aangezien Saudi-Arabië eind 2017 het staatsburgerschap van robots heeft erkend13 en het Europees Parlement de intentie heeft om op termijn rechtspersoonlijkheid voor intelligente systemen te creëren,14 kan deze fictieve zaak wel degelijk een serieuze testcase zijn voor ons land.

 

Namens de redactiecommissie,

Daniel Colenbrander

 

  1. R. van den Hoven van Genderen, ‘Robotrecht in Japan’, ibestuur.nl,  6 december 2018, online via: https://ibestuur.nl/weblog/robotrecht-in-japan
  2. R. van den Hoven van Genderen en E. van Duin, ‘… en verdient eigen rechten’, nrc.nl, 20 december 2014, online via: https://www.nrc.nl/nieuws/2014/12/20/en-verdient-eigen-rechten-1452284-a1322171
  3. W. Seinen en J. Schouten, ‘Robotrecht: het is er al (net als de robots zelf)’, nrc.nl, 1 november 2016, online via: https://nrclive.nl/opinie_schouten_seinen/
  4. ‘Muziekrobot Shimon: een genie met menselijke trekjes’, nporadio1.nl, 26 september 2018, online via: https://www.nporadio1.nl/homepage/12073-muziekrobot-shimon-een-genie-met-menselijke-trekjes
  5. R. van den Hoven van Genderen, ‘Robot als rechtspersoon, juridische noodzaak of legal science fiction?’, switchlegal.nl, online via: http://www.switchlegal.nl/assets/Robot-als-rechtspersoon-juridische-noodzaak-of-legal-science-fiction.pdf
  6. ‘Killer robots’, paxvoorvrede.nl, online via: https://www.paxvoorvrede.nl/wat-wij-doen/programmas/killer-robots
  7. ‘Drones en dilemma’s’, universiteitleiden.nl, 14 september 2017, online via: https://www.universiteitleiden.nl/nieuws/2017/09/drones-en-dilemma%E2%80%99s
  8. T. Riemens, ‘Mens kan controle over killer robots binnen paar jaar kwijt zijn’, nos.nl, 14 november 2017, online via: https://nos.nl/artikel/2202758-mens-kan-controle-over-killer-robots-binnen-paar-jaar-kwijt-zijn.html
  9. ‘Procesdossier robotrecht in het kader van Robot Love’, dohmenadvocaten.nl, online via: https://www.dohmenadvocaten.nl/robot-love-recht-rechtszaak-AI-procesdossier-hoger-beroep-advocaat-specialist-gespecialiseerd-advocatenkantoor.html
  10. C. Prins, ‘Sexy Sadie’, njb.nl, 5 november 2018, online via: https://www.njb.nl/highlights/sexy-sadie.29557.lynkx
  11. ‘Procesdossier Robot Love / Kort geding Bordeelhoudster versus Seksrobot, 4 en 9 oktober 2018′, dohmenadvocaten.nl, online via: https://www.dohmenadvocaten.nl/artikelen/procesdossierrobotrecht.pdf
  12. W. van Noort, ‘Moeten robots rechten krijgen?’, nrc.nl, 16 april 2018, online via: https://www.nrc.nl/nieuws/2018/04/16/moeten-robots-een-juridische-status-krijgen-a1599624
  13. R. Beaumont, ‘Robot Sophia (zonder hoofddoek) is nu Saudisch staatsburger’, nos.nl, 27 oktober 2017, online via: https://nos.nl/artikel/2200056-robot-sophia-zonder-hoofddoek-is-nu-saudisch-staatsburger.html
  14. Europees Parlement, ‘Civielrechtelijke bepalingen over robotica: Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica (2015/2103(INL)’, europarl.europa.eu, online via: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+TA+P8-TA-2017-0051+0+DOC+PDF+V0//NL