Een van mijn straatgenoten informeerde bij de gemeente of de verkeersveiligheid kon worden verbeterd. Racende brommers en spelende kinderen, liever niet wachten tot het een keer mis gaat. Dat komt mooi uit, was de reactie, we gaan uw straat ombouwen tot “fietsstraat”. Ik voegde me bij het clubje bewoners dat graag wilde weten hoe dat zou uitpakken. Het plan bleek onderdeel van een regionale fietsverbinding met grootse ambities. Prima idee, het bevorderen van fietsverkeer, maar aangezien het ons om de verkeersveiligheid ging, vroegen we of daarmee ook minder door de straat jakkerende brommers werden verwacht. Misschien het nieuwe asfalt niet toegankelijk maken voor alle soorten brommers? Zo rees de vraag: zou de gemeente onderscheid kunnen maken tussen diverse types brommers? Toch maar eens in de wet gekeken: daar bleek de omschrijving van “bromfiets” minimaal vier varianten te kennen, met verschillen in motorvermogen, maximum snelheid en, bij het gebruik, wel of geen verplichting om een helm te dragen. Uiteindelijk kwam er – best begrijpelijk – geen inrijverbod voor brommers, maar maakte de gemeente in de nieuwe fietsstraat wel een paar drempels om de snelheid iets te beperken.
De ervaring met de fietsstraat zette mij aan het denken. Hoe worden voorwerpen in de dagelijkse realiteit gedefinieerd in wettelijke regelingen? En hoe pakt de wetgever dat aan als die voorwerpen er nog niet zijn, of als die nog volop in ontwikkeling zijn? Wat is, wettelijk gezien, een robot? Het startpunt is de aanleiding om regelgeving te maken, namelijk de verwachting dat de nieuwe wet een maatschappelijk probleem zal oplossen of verminderen. En dat betekent dat de wetgever een idee heeft welke belangen er moeten worden gediend met de nieuwe regeling. In het geval van robotisering gaat het om heel veel belangen, bijvoorbeeld industriebeleid en de relaties met andere landen, zoals de VS en China, (cyber)veiligheid, maar ook ethische normen en aansprakelijkheid in geval van schade. En ook gaat het om heel veel verschillende types robots, die voor zeer uiteenlopende toepassingen worden ingezet of waarmee dat mogelijk in de toekomst gaat gebeuren. Denk daarbij aan robots in het huishouden, in de zorg, in bedrijven voor productie of dienstverlening, op de weg (autonome voertuigen) en in de lucht (drones). Voor de toepassing van een regeling moet het duidelijk zijn waar het over gaat en wie zich aan de voorschriften moet houden. Er is natuurlijk ook een verband tussen die twee elementen. Een regel die zegt “de ontwerper / producent / eigenaar / gebruiker van een robot moet/mag niet …” kan niet effectief en efficiënt zijn als er geen duidelijke begrippen in voorkomen. Hoe omschrijf je al die aspecten op een duidelijke manier en houd je het toch nog hanteerbaar?
Steeds slimmere machines
Er zijn er al decennia allerlei wettelijke regelingen die voorschriften geven voor apparaten, zoals machines voor bedrijfsmatig gebruik en toestellen voor huishoudelijk gebruik. Door de verdere ontwikkelingen van deze apparaten in de richting van slimme apparaten die getraind worden en zelf beslissingen kunnen nemen, voldoen dergelijke regelingen niet meer. Dit kan zijn omdat het apparaat voor nieuwe toepassingen (die eerder niet mogelijk waren) kan worden gebruikt of op andere plaatsen (bijvoorbeeld buiten een afgeschermde fabriekshal) wordt ingezet. Ook speelt in de bediening software een steeds grotere rol, net als informatie uit de omgeving of via aansluiting op het internet. Daarmee kan het slimme apparaat zelfstandig beslissingen nemen. Met als mogelijk gevolg nieuwe risico’s voor veiligheid en gezondheidwaarmee bij het ontwerp, de fabricage en het op de markt brengen geen rekening is gehouden. Ook kan het zijn dat niet helder is vast te stellen of een apparaat onder een regeling valt. Een ontwikkelaar van software bijvoorbeeld, wil weten of de regeling voor productaansprakelijkheid van toepassing is op software die in een robot wordt gebruikt. Is deze dan ‘producent’ van een ‘onderdeel’ en daarmee aansprakelijk als er sprake is van een ‘gebrek’? Dit zijn behoorlijk ingewikkelde vragen, zeker door de opkomst van artificial intelligence. En ook de gebruiker van een robot moet in staat zijn om de eigen (wettelijke) verantwoordelijkheid te kennen, mocht het misgaan en er schade ontstaan.
Eén gemeenschappelijk markt, één gemeenschappelijke definitie
In de Europese Unie is er sprake van een gemeenschappelijke markt: goederen en diensten kunnen in het gehele gebied van de 27 lidstaten worden verhandeld zonder douane- en veiligheidscontroles aan de landsgrenzen. Dat lukt alleen maar als de regels voor ontwerp, fabricage en toelating overal gelijkluidend zijn. Vanwege de aard van robots gaat het om regelingen voor bijvoorbeeld (industriële) machines, telecommunicatieapparatuur en huishoudelijke apparaten. Dit zijn onderwerpen die vanwege dat vrij verkeer van goederen en diensten op het niveau van de EU moeten worden geregeld. Zo rijst de vraag wat dan de wettelijke omschrijving zou moeten worden voor het verschijnsel robot. Het Europees Parlement heeft een voorzet gedaan na uitgebreid overleg tussen de politieke stromingen en studie vanuit verschillende invalshoeken. Dit is gedaan in een oproep om civielrechtelijke bepalingen over robotica vast te stellen, een resolutie uit 2017. Deze is gericht aan de Europese Commissie, het orgaan van de EU dat het initiatief kan nemen om nieuwe regels voor te stellen. De tekst bevat uitgangspunten voor een definitie van slimme autonomerobots. Dit is de tekst uit de bijlage bij de resolutie:
Definitie en classificatie van “slimme robots”
Er dient een gemeenschappelijke Europese definitie van slimme autonome robots te worden vastgesteld die waar nodig definities van de subcategorieën daarvan omvat en de volgende kenmerken in aanmerking neemt:
– het vermogen om autonomie te verwerven via sensoren en/of het uitwisselen van gegevens met zijn omgeving (interconnectiviteit) en het analyseren van die gegevens;
– het vermogen om van ervaringen en interactie te leren;
– de vorm van de fysieke drager van de robot;
– het vermogen om zijn gedrag en handelen aan zijn omgeving aan te passen.
Let op, dit is niet de ontwerptekst van een definitie, maar een denkrichting welke elementen een rol zouden moeten spelen bij het definiëren van het verschijnsel “robot”. Dat idee uitwerken wordt nog een flinke puzzel, want zoals we zagen zijn er veel soorten robots en de toepassingsmogelijkheden zijn ook heel breed. Daarom noemt deze denkrichting ook de mogelijkheid om het verschijnsel robot op te delen in subcategorieën. De Europese Commissie stelde in een reactie dat de verscheidenheid in artificial intelligence en robotica het moeilijk maakt om onderscheid te maken wat er onder die begrippen valt en wat niet. Dit moest nader worden bestudeerd om te kunnen bepalen of er voor het maken van wetten een definitie en eventuele subcategorieën moeten worden vastgesteld.
Wanneer ga jij je volgende bakkie doen?
Neem een koffiezetapparaat. Dat zet tegenwoordig niet gewoon koffie maar kan allerlei “specialiteiten” maken. Er zit in zo’n apparaat behalve de waterkoker en het zetgedeelte ook veel software om gebruikersvoorkeuren vast te leggen en onderhoud te regelen. Om het apparaat niet onnodig te laten draaien, schakelt het zichzelf uit als het bijvoorbeeld 30 minuten stand-by heeft gestaan. Best slim toch? Stel dat ‘ie in staat is om te onthouden dat je iedere keer na 32 minuten terugkomt en ‘m opnieuw aanzet. Dan zou (als de fabrikant dat zo construeert) het apparaat zelf een aanpassing kunnen doen om de stand-bytijd te verlengen naar, zeg, 35 minuten. Scheelt weer in onnodig opstarten, spoelen en wachttijd. Voldoet deze koffiemachine daarmee aan het tweede kenmerk “het vermogen om van ervaringen en interactie te leren”? Zo ja, dan is het daarmee straks misschien (wettelijk gezien) een robot en zijn de regels die (op basis van de te maken definitie) voor robots zullen gaan gelden van toepassing. Of dat wenselijk is, is een inhoudelijke vraag en daarbij gaat het dan om afweging van de belangen. Waar het me hier om gaat is dat, voor je het doorhebt, je koffiemachine wellicht valt onder de definitie van robot. Dat zou je misschien niet verwachten. Maar ook deze gedachte moeten we kritisch bekijken, want die veronderstelt dus inderdaad dat we zomaar weten wat een robot is. Maar het is natuurlijk een grijs gebied, want als een koffiemachine doordat ‘ie met jou praat via een spraak assistent zoals Siri of Alexa, je naam kent en zich aanpast aan jouw gebruik, wil je misschien dat een aantal belangen wel wettelijk zijn beschermd.
Waar trekken we de streep?
De koffie is klaar en jij bent blij dat de wettelijke definitie van jouw koffiemachine goed in elkaar steekt. Dat de toepassing ervan onverwachte resultaten geeft valt niet uit te sluiten. In wettelijke regelingen wordt dit effect vaak verholpen door, in aansluiting op de definitie, een lijst op te nemen van zaken die niet onder het begrip vallen. Of te zeggen dat de regeling niet op het gedefinieerde begrip van toepassing is. Daarmee wordt overlap met andere voorschriften vermeden. Bij speelgoed bijvoorbeeld. Dat betreft volgens de definitie in de EU-richtlijn over veiligheid van speelgoed “producten die, al dan niet uitsluitend, ontworpen of bestemd zijn om door kinderen jonger dan 14 jaar bij het spelen te worden gebruikt”. Vervolgens is er een lange lijst opgenomen met producten die niet als speelgoed worden beschouwd. Zoals ‘fopspenen’. Ook staat er in de richtlijn een lijstje met speelgoed waarop de regeling niet van toepassing wordt verklaard, bijvoorbeeld ‘speeltoestellen in openbare speeltuinen’. Nu we hebben gezien dat het verschijnsel robot geen volledig duidelijk begrip is, wordt het maken van een wettelijke definitie dus relevant. Hoe die er precies gaat uitzien zal afhangen van de overwegingen en de keuzes in het wetgevingsproces. Voor de definitie van robots kan ik me een vergelijkbare aanpak, als hiervoor met speelgoed geïllustreerd, voorstellen. Het lijkt me namelijk van groot belang om centraal te regelen wat het verschijnsel robot is. Daarbij kan – zoals het Europees Parlement ook heeft genoemd – een aantal subcategorieën worden vastgesteld. Bijvoorbeeld om onderscheid te maken naar de impact die robots hebben op de gebruiker en anderen die ermee te maken krijgen. Dat zou een beperkt aantal rubrieken op Europees niveau moeten opleveren. De aanpassing van bestaande regelingen of het maken van nieuwe regelingen gaat dan steeds uit van hetzelfde begrip. Dit zou een eenduidige behartiging van de maatschappelijke belangen moeten bevorderen, ook als de uitwerking in verschillende regelingen wordt ondergebracht. Het zal voor de wetgever best lastig zijn om tot een goede omschrijving te komen, die ook nog begrijpelijk en werkbaar is. Ik blijf dit proces met belangstelling volgen.