Ethiek in de digitale wereld

‘Technologie is niet goed of niet slecht, maar ook niet neutraal.’ Dit is de allereerste wet van technologie die door de Amerikaanse hoogleraar Melvin Kranzberg is bedacht. De wet geeft aan dat wanneer een idee tot leven gekomen is, het niet meer valt tegen te houden. Hoe je het ook wendt of keert, het idee zal een blijvende indruk achterlaten. Vooruitgang is simpelweg niet te stoppen. Zelfs wetgeving en regulering kunnen hier niets aan veranderen. Hoe groot de uiteindelijke impact is en wat de gevolgen hiervan zijn, ligt geheel aan de wijze waarop de mens deze nieuwe technologie inzet.

Technologie heeft een eigen wil

Bovenstaande wet is ook het centrale thema van Kevin Kelly’s boek ‘De wil van technologie’, waarin Kelly technologie beschouwt als een levend, op zichzelf staand organisme. Hij noemt dit wezen het ‘Technium’ en volgens Kelly ontbreekt dit zevende rijk nog aan de biologische wetenschap. Het klinkt misschien als sciencefiction, maar dat is het al lang niet meer. Sciencefiction is inmiddels science fact. Sterker nog, sciencefiction is een fact of life geworden.

Onderstaande voorbeelden illustreren dit punt en maken ook direct duidelijk dat we als maatschappij helemaal niet voorbereid zijn op dit soort nieuwe technologieën.

Softwarerobot doet illegale aankopen

Iedere week worden de Zwitserse kunstenaars Carmen Weisskopf en Domagoj Smoljo verrast met een pakketje dat hun zelf geprogrammeerde bot, de zogeheten Random Darknet Shopper, hen toestuurt. Met een budget van honderd dollar aan bitcoins per week struint dit computerprogramma de online marktplaats Agora (de zwarte markt voor verboden goederen op het Dark Web) af. Geheel naar eigen inzicht mag het programma zijn budget opmaken aan het aanschaffen van allerlei artikelen.

Op deze manier zijn een scan van een Hongaars paspoort, een pet met een verborgen camera, een creditcard, een namaaktas van Louis Vuitton, een slof Chesterfield-sigaretten uit Moldavië en tien XTC-pillen in de handen van de kunstenaars terecht gekomen. Inmiddels worden er allerlei vragen over deze autonome bot gesteld. Wie kan er aansprakelijk gesteld worden voor het aanschaffen van illegale goederen? Zijn het de makers? Of kan het computerprogramma aansprakelijk gesteld en naar gelang de zwaarte van de overtredingen gestraft worden?

Digitale worm komt tot leven

Via het crowdfundingplatform Kickstarter is het mogelijk om een project te ondersteunen waarmee een digitale worm leven wordt ingeblazen. De worm is gebouwd conform het genoom van de rondworm Caenorhabditis elegans, C.elegans voor intimi. Het brein van het microscopisch kleine beestje heeft slechts 302 neuronen, waartussen 6.393 verbindingen gelegd kunnen worden die gezamenlijk 95 spieren aansturen.

Op dit moment wordt het brein van de digitale worm ingezet om het lichaam van een Lego Mindstorms EV3-robot aan te sturen. De digitale zenuwcellen van de WormBot reageren op prikkels, net zoals zintuigen doen. Omdat het digitale brein zich niet in het lichaam van de echte worm bevindt, is het dus mogelijk om delen van dit brein te koppelen aan de diverse onderdelen van de robot. Zo wordt het ontwijken van obstakels geregeld door een sonar die is verbonden met het deel van het brein dat in de echte worm het ‘tasten met de neus’ regelt.

Ook komt de WormBot naar je toe wanneer je fluit: het beestje reageert op geluid zoals echte rondwormen op voedsel reageren. Het meest spectaculaire aan deze digitale worm is dat hij niet geprogrammeerd is om zo te acteren, de WormSim reageert simpelweg op impulsen vanuit zijn omgeving.

De bedoeling is dat investeerders in deze Kickstarter-campagne ergens in dit jaar de beschikking krijgen over hun eigen digitale worm. Vanuit hun browser kunnen ze spelen en experimenteren met dit beest. Ook dan komen tal van existentialistische vragen om de hoek kijken. Is een WormBot met een volledig functioneel digitaal replica van een wormbrein immers een machine of een levend digitaal organisme? Heeft het dier gevoel? Kun je een beest dat louter en alleen en nullen en enen bestaat, pijn doen?

Op maat gemaakte dieren

Austen Heinz is de oprichter van de in San Francisco gevestigde startup Cambrian Genomics. Zijn bedrijf – dat bestaat uit 11 werknemers en gefinancierd is met meer dan 10 miljoen dollar afkomstig van meer dan 120 durfkapitaalinvesteerders – houdt zich bezig met het printen van DNA. Volgens Heinz kan “iedereen in de wereld met een paar dollar dankzij zijn software een schepsel creëren”. Het is de democratisering van de schepping.

Simpelweg het losknippen en aan elkaar plakken van een viertal letters A,C, T en G is voldoende om code voor nieuwe levensvormen te schrijven. Deze levenscode kan vervolgens door Cambrian Genomics worden uitgeprint. “Het is de meest krachtige technologie die de mens ooit heeft gemaakt. Waterstofbommen kunnen hele planeten vernietigen, maar dit is een technologie die planeten kan creëren. Dit is de grootste menselijke prestatie aller tijden – het vermogen om leven uit te lezen en vervolgens te schrijven.” Feitelijk kunnen we dankzij technologie voor God spelen.

Willen we dit wel?

Recentelijk gaf trendwatcher Gerd Leonhard een keynote voor TEDxBrussels. In zijn presentatie staat hij stil bij digitale ethiek. De kern van zijn verhaal is dat “de kracht van technologie reeds de reikwijdte van onze ethiek overtreft”. In zijn verhaal geeft Leonhard geen oplossingen, hij roept slechts meer vragen op. Maar het punt dat hij duidelijk wil maken, staat als een huis.

Nieuwe technologieën volgen elkaar versneld op. Ze laten een exponentieel groeipad zien. Mensen kunnen hier niet mee om gaan. Wij zijn gewend om lineair te denken in plaats van exponentieel. Of zoals Marshall McLuhan, het orakel van het elektronisch tijdperk, het zo treffend verwoordt: “We kijken naar het heden door middel van een achteruitkijkspiegel. We marcheren achteruit naar de toekomst”.

De gevolgen van al deze nieuwe technologieën zijn simpelweg niet te overzien, maar ze raken wel de kern van ons wezen aan. Technologie neemt ook een steeds grotere rol in ons leven in. Mens en technologie zijn een symbiotische relatie met elkaar aangegaan. De een kan niet meer zonder de ander. Vraag is wel of de verhoudingen tussen deze twee evenredig zijn. Is technologie een extensie van de mens of is de mens inmiddels een extensie van de technologie geworden? Hebben we het wel allemaal onder controle, of zijn we deze controle allang kwijt geraakt?

Denk ook aan Snowden en de NSA. Is dit een maatschappij waarin we willen leven? Vragen, vragen en nog eens vragen. In de nabije toekomst zullen dit soort vragen alleen maar vaker opkomen. We moeten ze echter wel durven stellen, kritisch zijn, verantwoordelijkheid durven nemen. “Bezint, eer ge begint”, is denk ik nog nooit zo belangrijk geweest.