Wetten voor robots
Heeft u ook een gratis boek bij CODA meegenomen?
In het kader van 'Nederland leest' was afgelopen maand het boek 'Ik Robot' van Isaac Asimov gratis af te halen. Het zijn een aantal verhalen rond de hoofdpersoon Susan Calvin, robotpsycholoog in 2057, die terugblikt op haar leven. Het zijn verhalen over de verschillen tussen mensen en robots. De schrijver speelt daarmee als er mazen in de wetten van de robotica blijken te zijn. In de verhalen worden de drie robotwetten gepresenteerd die door Asimov zijn bedacht. Deze drie wetten van de robotica vormen een belangrijk thema in zijn robotverhalen. In de jaren ’40 en ’50 van de vorige eeuw dacht Asimov al na over een ethiek voor robots. Wat zou een robot wel of niet zelfstandig mogen besluiten?
Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
De wetten hadden en hebben nog steeds grote invloed op het denken over hoe robots zich in verhouding tot mensen zouden moeten gedragen. In veel boeken, films en andere media wordt naar deze wetten verwezen. ‘Ik Robot’ is science fiction van ruim 60 jaar geleden. Het sprankelt, zet aan het denken en zit vol met subtiele humor. Bijzonder is dat een aantal futuristische zaken, bedacht in de jaren ’50, vandaag al heel normaal zijn. Terwijl de meeste robots zelf bijvoorbeeld allemaal zelfstandige en zelfdenkende eenheden zijn en niet allemaal onderling verbonden door iets als internet. De fabriek waar ze gemaakt worden heet niet voor niets U.S. Robots and Mechanical Men, Inc.
In de robotverhalen spelen ook herkenbare mensen een rol, met hun intuïtie, de onlogische vooroordelen, de subjectieve gedachten en het onvoorspelbare reageren. En daarnaast de strikt logisch redenerende robots bij wie 1+1 in alle omstandigheden 2 is. De interactie is boeiend.
Het is mooi dat juist dit oude boekje dit jaar werd uitgedeeld in het kader van Nederland Leest.
Ik kom het thema dagelijks tegen in de krant. Zo las ik ook over eenvoudige rechtszaken die ook automatisch afgedaan zouden kunnen worden. Laatst een verhaal over autonome wapens. Apparaten die kunnen surveilleren, detecteren en vernietigen. Maar op dit moment is het bij dat soort wapens nog zo dat uiteindelijk een mens besluit over de inzet. Maar in de toekomst zouden deze systemen op eigen houtje kunnen gaan opereren. Er wordt dan ook gepleit bij de VN om dát te verbieden voordat het te laat is. Bij zelfrijdende auto’s lees ik in de krant dezelfde herkenbare dilemma’s. Ze zijn bijvoorbeeld nu geprogrammeerd om niet over de witte streep heen te gaan. Maar…dan dus ook niet uitwijken voor een overstekend kind? Er is voor ontwikkelaars nog genoeg werk te doen voor je alle afwegingen die een mens in een flits kan maken, vertaald hebt in hardware en software.
In Apeldoorn wordt verwacht dat we de komende jaren banen gaan verliezen aan de robotisering. Bij Achmea en de Belastingdienst, maar ook bijvoorbeeld bij de gemeente. Het gaat de komende jaren ándere werknemers vragen. Minder administratief, meer ICT. Goed dat overheid, bedrijfsleven en onderwijs daarvoor nu elkaar al gevonden hebben.
De dienstverlening die nu nog door mensen gedaan wordt, zal de komende jaren door de robotisering overgenomen worden. Ik stel me zo voor dat mijn belastingaangifte al niet meer door een mens, maar door algoritmes afgehandeld wordt. De vraag is dan wel of dat een bewuste keuze is. De ene afweging is de andere niet.
Laten we vooral bewust kiezen wat we wél en niet uit handen willen geven. Vergissen is menselijk, dat klopt. Een rekenmachine kan dan goede diensten bewijzen. Maar een rekenmachine is niet zo invoelend, en kan zich niet inleven in je situatie. Vaak zijn er allerlei factoren die een rol spelen, en die zijn niet allemaal in cijfers of codes te vangen.
En laten we niet ‘omdat het kan’ zonder nadenken allerlei besluiten die mensen raken, bij allerlei apparatuur en algoritmes neerleggen! Voor je het weet is er achter de schermen toch een mens die aan de touwtjes trekt… wordt er gehackt of slaat de apparatuur op hol.
Erik Jan Aalbers, gemeenteraadslid
