Mijn moeder maakt zich zorgen over robotisering. Stephen Hawking ook. In de Industriële Revolutie (rondom 1800) maakten mensen zich ook grote zorgen. Computers (sinds 1938) hebben ook altijd geleid tot grote zorgen. Mechanisatie en later Automatisering hebben echter vooral geleid tot een verhoging van de welvaart. Is er nu meer aan de hand?
Prof. Stephen Hawking, een van de grootste levende wetenschappers, maakt zich grote zorgen over de invloed van Artificial Intelligence (AI) in combinatie met robotisering. Hij voorziet het einde van de mensheid zoals ook het thema in SF films zoals: 2001: A Space Odyssey, Battleship Galactica, Matrix, Terminator, en Transformers. Kortom, van (science) fictie naar non-fictie.
Ik vermoed dat de zorgen van Stephen Hawking omtrent AI, uiteindelijk te maken hebben met de verwachte onmogelijkheid tot het kunnen naleven van de 3 wetten van robotisering zoals in 1942 vastgelegd door de beroemde science fiction auteur en hoogleraar Prof. Isaac Asimov:
1. Een robot mag een mens geen letsel toebrengen of – door niet te handelen – toestaan dat een mens letsel oploopt.
2. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden behalve als die opdrachten in strijd zijn met de Eerste Wet.
3. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Prof. Hawking stelt dat primitieve vormen van AI tot dusverre zeer succesvol zijn gebleken maar hij vreest de consequenties van het creëren van iets dat mensen zou kunnen evenaren of voorbij zou kunnen streven. Het zal een zelfstandige vlucht nemen en zichzelf herontwikkelen met een steeds grotere snelheid. De mensheid, die wordt beperkt door trage biologische evolutie, zou niet kunnen concurreren en het onderspit delven.
Universele communicatieprotocollen, zoals Internet, zouden onontbeerlijk zijn voor AI robots in hun strijd tegen mensen. Zonder communicatie zouden het slechts eenlingen zijn. Dit geldt trouwens ook voor de mensheid en hun legers. Zolang de mogelijkheden van opslag van energie beperkt zijn, zullen machines elektriciteit nodig hebben net zoals mensen voedsel en water nodig hebben. Voertuigen, vliegtuigen en wapensystemen die onderdeel zijn van een (communicatie) netwerk kunnen makkelijk worden uitgeschakeld. De (on)mogelijkheden van toegang tot communicatie en energie (incl. voedsel en water) zullen echter de strijd uiteindelijk beslechten. Wapens in veel mindere mate.
Indien we afzien van vriendelijke robots (Transformers), tijdreizen (Terminator) of een Verlosser (Matrix) dan resteert het vluchtgedrag zoals we dat zien in Galactica. Een weinig hoopvol beeld. Na lang nadenken kom ik tot de conclusie dat Stephen Hawking waarschijnlijk gelijk heeft. Geen verrassing. Curiosity killed the cat. Hebzucht en gebrek aan ethiek de ondergang van de mens.
0 Comments