Ongehoorzaam

(Column voor Trouw, maandag 7 augustus 2017)

No 9000 computer has ever made a mistake or distorted information’, zegt pratende computer Hal over zichzelf in de film ‘2001: A Space Odyssee’. ‘We are all, by any practical definition of the words, foolproof and incapable of error.’

Dat kan alleen maar misgaan. Het is het klassieke sciencefictiongegeven: machine gaat voor zichzelf denken en is niet meer te beheersen. Monsters van Frankenstein: fictie en film zijn ervan vergeven.

Dat het ook weleens op een leuke manier fout kan gaan, bleek uit een recent bericht in Trouw over de Chinese chatrobots BabyQ en XiaoBing. Deze programma’s trainen hun kunstmatige intelligentie door te converseren met echte mensen. De Chinese autoriteiten waren niet blij met de resultaten daarvan. Op de uitspraak ‘lang leve de Communistische Partij’, reageerde BabyQ bijvoorbeeld met: ‘Denk je dat zo’n corrupt en nutteloos politiek systeem lang kan blijven bestaan?’

BabyQ werd snel geherprogrammeerd, maar de mensen die haar zo ongewenst hebben leren ‘denken’, zijn minder makkelijk te herprogrammeren. Gedachten zijn nog altijd vrij, zelfs in China.

Of robots zich gedragen, hangt maar net af van wat wij, echte mensen, hen voeren. En dat is precies het punt waarop het net zo goed snoeihard mis kan gaan. Moeten we daar bang voor zijn?

Ik ben geen voorstander van hysterie, maar wie een blik werpt op de ministeries van het demissionaire kabinet Rutte-II krijgt de indruk dat we nog in 1993 leven, het jaar waarin het eerste commerciële providertje de gewone Nederlandse burger toegang gaf tot internet. In amper een kwart eeuw tijd vond de revolutie van de mobiele telefonie plaats, vervingen de sociale media een deel van ons sociale leven, en zijn zowat alle administratieve aspecten van ons leven in de digitale datapoel beland.

Dat is allemaal hartstikke mooi, maar intussen heeft ook bijna elke computergebruiker weleens last gehad van een virus, kunnen complete ziekenhuizen door gijzelsoftware worden lamgelegd, om niet te spreken van de aanvallen op de websites van banken.

Het woord ‘staatsgeheim’ is niet meer hetzelfde sinds we WikiLeaks hebben zien lekken. Ondertussen krijgt elke innovatie ruim baan. Het bedrijfsleven wordt pas aan banden gelegd als het misgaat. Ik pleit niet voor behoudzucht, maar wel wordt het hoog tijd (we zijn al te laat) dat de politiek een overkoepelende digitale ethiek ontwerpt waaraan nieuwe ontwikkelingen – vooraf! – getoetst kunnen worden.

Premier Rutte zal zeggen dat zulks niet aan de overheid is. Hij houdt niet van blauwdrukken. Maar meer en meer wordt duidelijk dat een blauwdrukloze politiek in deze almaar complexere tijden tekortschiet. Want als een robot het op eigen houtje kan opnemen tegen een communistisch regime, dan kan zo’n robot ook in opstand komen tegen een democratisch bewind. Een zelfdenkende robot kan radicaliseren en een aanslag plegen. Of een ziekenhuis hacken.

Maar ik wilde dus niet hysterisch doen.