Wie een begin wil maken met zich te verdiepen in de (on)mogelijkheden van regelgeving over robotica, kan het boek “Ik, Robot” als startpunt nemen. Dit is geschreven door Isaac Asimov, een Amerikaanse science fiction schrijver van Russische herkomst. Het boek werd uitgegeven in 1950 in het Engels in de Verenigde Staten en voor eerst in het Nederlands vertaald in 1969. Het betreft een verzameling van negen verhalen, die Asimov schreef in de jaren veertig van de vorige eeuw. De gebeurtenissen spelen zich af in de toekomst gedurende een ruime periode, namelijk tussen 1998 en 2057.
In het kader van de jaarlijkse actie van de openbare bibliotheken “Nederland Leest”, werd in november 2017 gratis een herdruk uitgedeeld van dit boek. Vanwege de toenemende aandacht voor robots en de invloed die toepassing ervan zal hebben op de samenleving een goede keuze om dit boek onder de aandacht te brengen van een groot publiek.
Via de bijbehorende website werd aanvullende informatie gegeven over het boek en het onderwerp robotica. Bezoekers konden in een enquête aan de hand van zes stellingen zich uitspreken over diverse aspecten van robotica (bijvoorbeeld “Het is goed dat een robot op oma past, dan is ze niet alleen”). Veel informatie is te vinden onder Terugblik 2017.
Als bonus voor de lezer bevat het uitgedeelde boek, behalve de negen oorspronkelijke verhalen die Asimov schreef, een nieuw verhaal. Dat werd geschreven door Ronald Giphart met behulp van een computer, schrijfrobot ‘Asibot’.
Asibot is een computerprogramma dat werd gevoed met een enorme hoeveelheid Nederlandse literaire teksten, ongeveer tienduizend. De computer legt verbanden tussen de teksten en ontwikkelt zelf, zonder dat daar door de programmeurs specifieke aanwijzingen voor zijn gegeven, een manier om daar nieuwe teksten mee te maken (dit wordt machine learning genoemd). Op basis hiervan is de schrijfrobot niet in staat een heel boek te schrijven. Korte zinnen lukken wel, zonder al te veel samenhang overigens. Uit de alinea’s die zo beschikbaar kwamen koos Giphart de meeste geschikte, typte er zelf weer wat bij, vroeg een nieuwe alinea aan en zo verder. Een van de onderzoekers die Asibot ontwikkelde, taaltechnoloog Folgert Karsdorp, geeft op de website van het Meertens Instituut van de Universiteit van Amsterdam technische uitleg over de gevolgde aanpak.
Ook het publiek kon zelf aan de slag met de schrijfrobot en meedoen aan een schrijfwedstrijd. Leuk en leerzaam tegelijk.
Over de interactie tussen robots en mensen bestaat vaak de angst dat er iets fout gaat of zelfs dat robots de mensheid zullen gaan overheersen. Asimov wilde in zijn science fiction verhalen een bijdrage leveren aan het beheersbaar maken van het verschijnsel robot. Hij formuleerde drie wetten van de robotica. Deze wetten zijn:
Eerste Wet: Een robot mag een mens geen letsel toebrengen, noch, door passief te blijven, een mens letsel laten overkomen.
Tweede Wet: Een robot moet de door mensen gegeven orders gehoorzamen, behalve wanneer die orders in strijd zijn met de Eerste Wet.
Derde Wet: Een robot moet zichzelf beschermen zolang of voor zover dat niet met de Eerste of Tweede Wet in strijd is.
In de negen verhalen neemt Asimov de lezer mee in een aantal nogal verschillende situaties waar de toepassing van deze wetten door de robots aan de orde is. In alle verhalen is de kern dat het in de praktijk anders loopt dan de mensen die met die robots werken hadden verwacht.
Zo hebben in het tweede verhaal, Dronken Robot, twee mannen grote moeite met een robot die niet goed functioneert. Dit speelt zich af in 2015 op de planeet Mercurius, waar robots worden ingezet in de mijnbouw. Robot Speedy moet een belangrijke grondstof delven maar is van slag geraakt door de aanwezigheid van een bepaalde stof in de atmosfeer. Die omstandigheid interpreteert hij als een gevaarlijke situatie voor hemzelf. Dat is een situatie die hij op basis van de Derde Wet niet zo moet laten.
Om dat gevaar te ontlopen gaat hij een andere kant op dan waar hij moet zijn voor het vinden van de grondstof. Die moest hij gaan zoeken omdat de technicus hem een opdracht had gegeven. Op basis van de Tweede Wet zou hij die opdracht moeten opvolgen.
Blijkbaar kan Speedy geen keuze maken welke van die twee wetten voor gaat. De robot geeft net zoveel belang aan de Tweede Wet (voer opdracht uit) als aan de Derde Wet (bescherm jezelf). En dat realiseren de twee technici zich als ze de robot zien lopen in rondjes, zonder enig nut, alsof Speedy dronken is. Voor Speedy is dit de logische uitkomst van het conflict tussen de Tweede en de Derde Wet. Speedy loopt rondjes op de lijn waar de omstandigheden tegen elkaar op wegen en de plicht om beide wetten op te volgen in evenwicht blijft.
Door de opdracht niet uit te voeren (de grondstof niet op te halen en naar de basis te brengen) komen de mannen in de problemen. Het station van waaruit ze werken kan niet tegen de gevaarlijke straling van de zon beschermd worden als die grondstof niet beschikbaar is.
Uiteindelijk zullen de mannen dus in groot gevaar komen als de situatie niet verandert. Helaas zijn de omstandigheden op Mercurius zo ongezond voor de mens dat werken aan de oplossing, het station verlaten om robot Speedy te zoeken en terug laten keren naar de basis, ook gevaar oplevert. Ze realiseren zich dat ze Speedy moeten overtuigen dat de Eerste Wet in geding is.
Daarvoor begeeft een van de twee mannen zich bewust in een gevaarlijke situatie. Hij verlaat het station en stelt zich bloot aan de straling van de zon als hij in de buurt van Speedy is. Het lijkt er eerst nog op dat het niet werkt, maar uiteindelijk komt Speedy de man redden. Speedy vraagt zich hardop af wat er is gebeurd en hoe het kon dat hij de gevaarlijke situatie heeft laten ontstaan. Hierna kan Speedy weer worden ingezet om de belangrijke grondstof te vinden en is het bestaan op de basis weer veilig.
Asimov wordt vrij algemeen beschouwd als de grondlegger van de ideeën over voorschriften waaraan robots moeten voldoen. Het gegeven dat 75 jaar na het formuleren van de “Wetten van de robotica” er nog steeds wordt teruggegrepen op zijn werk, onderstreept het belang er van. Er is ook kritiek, bijvoorbeeld op Asimov’s aanname dat een robot, een machine, technisch en praktisch in staat zou kunnen zijn om informatie zo te verwerken dat de regels kunnen worden opgevolgd. Bovendien is het twijfelachtig of een robot met deze regels echt kan bepalen wat er in een concrete situatie moet gebeuren. De drie wetten zijn algemeen geformuleerd en laten veel elementen open. Het zijn eerder uitgangspunten, ethische beginselen, dan echte voorschriften.
De beperkte mogelijkheden van robots die nu beschikbaar zijn, laten zien dat, als een ontwikkeling in die richting al mogelijk zou zijn, dit in elk geval langere tijd zal nemen. Dat is echter geen reden om ervan uit te gaan dat ‘het allemaal wel mee zal vallen’ en het voor de maatschappij niet nodig zou zijn om de impact van robotica te bestuderen. Wel biedt het ruimte om deze ontwikkelingen goed te bekijken en zorgvuldig te werk te gaan bij het uitwerken van beginselen in regelgeving.