Function Creep: hoe de toekomst steeds beangstigender wordt

Function Creep: hoe de toekomst steeds beangstigender wordt

Ik ben me er terdege van bewust dat een column beginnen met een vergelijking met nazi-Duitsland eigenlijk volgens de Wet van Godwin niet kan. Maar vertrouw op mij: de vergelijking zal op zijn plek vallen. Beloofd.

Probeer de volgende denkoefening eens: wat zou de uitkomst geweest zijn als je in 1934 aan duizend Duitsers had gevraagd of het mogelijk was dat hun overheid op industriële schaal hele bevolkingsgroepen zou afslachten? De kans is groot dat 99 procent van de ondervraagden je vol verbijstering aan zou kijken en dit vooruitzicht voor onmogelijk zou houden.

Is het niet bizar dat het volk dat de grootste filosofen, de prachtigste klassieke muziek en de grootste industriële innovatiekracht ontwikkelde, door een aantal spelingen van het lot, in minder dan tien jaar transformeerde in het volk dat de holocaust uitvoerde? Ik heb die vraag altijd heel fascinerend gevonden: wat is er nodig voordat een beschaving voorbij het punt komt waar alle remmingen los gaan en een morele mens verandert in een moordmachine?

"Wat is er nodig voordat een beschaving voorbij een punt komt waar alle remmingen los gaan?"

Het simpele antwoord is dat het afglijden van een democratie naar een meedogenloze dictatuur altijd in heel kleine stapjes gebeurt. Datgene wat gisteren nog niet mogelijk werd geacht, zal nooit vandaag normaal worden. Het veranderen van wat we als groep normaal vinden, verschuift maar langzaam, stap voor stap.

Als je de documentaire 'Wild, Wild Country' op Netflix gezien hebt, over de opkomst en de ondergang van de Bhagwan-sekte, dan zie je dit proces prachtig in beeld gebracht. Het begint bij een spirituele hippie-achtige sekte, die een gigantisch landgoed koopt in Oregon om er een eigen spirituele vrijstaat van te maken. Dit leidt tot grote stress bij de diepgelovige buurtsteden.

Het verhaal laat zich lezen als een aaneenschakeling van reacties en tegenreacties, waarin beide partijen – buurt en sekte – steeds verder radicaliseren, omdat ze allebei diep overtuigd zijn dat de ander het gemunt heeft op hun vrijheid. Het escaleert tot het punt dat de vredelievende sekte zich zwaar bewapent, gifaanvallen uitvoert op de watervoorzieningen, moordaanslagen plant op de procureur-generaal, enzovoort. Geen van beide partijen kon of wilde inzien dat ze steeds radicaler gedrag bij de ander triggerden.

We leven vandaag weer in zo’n tijd, waarin je aan alles kunt zien dat de boel uit de hand aan het lopen is. De manier waarop we door bedrijven en overheden in de gaten worden gehouden, gaat steeds verder. Ik las deze week dat werkgevers in Chinese fabrieken al letterlijk in het hoofd van hun werknemers zitten. In grote fabrieken lopen 'Emotionele Surveillance Systemen' waarbij werknemers door middel van sensors in hun helmen in de gaten gehouden worden. Wanneer de algoritmes sterke emoties waarnemen, zoals woede of angst, dan kunnen ze de werknemer een dag rust geven of overplaatsen naar een andere afdeling.

Het argument dat de werkgevers gebruiken: sommige jobs vergen nu eenmaal veel concentratie. Er is geen ruimte voor fouten. In technologie-literatuur bestaat hier een mooie term voor: Function Creep, "the gradual widening of the use of a technology or system beyond the purpose for which it was originally intended".

"De manier waarop we door bedrijven en overheden in de gaten worden gehouden, gaat steeds verder"

Yuval Harari beschrijft iets gelijkaardigs in het magistrale boek 'Homo Deus'. Hij behandelt de vraag wanneer de maatschappij klaar zal zijn om het DNA van baby’s compleet te herprogrammeren, zodat ze geboren worden als superbaby’s. Zijn stelling is dat dit heel geleidelijk zal gaan. Elke dokter die vandaag bezig is met het klooien aan DNA, doet dat om specifieke ziektes te genezen. Maar bij elkaar opgeteld, openen al deze doorbraken de deur naar het genetisch modificeren van het complete genoom.

Net als plastische chirurgie begon bij het herstellen van zware verwondingen in militaire hospitalen, is het geleidelijk aan, stapje voor stapje, steeds normaler geworden: tot op het punt dat meisjes voor hun achttiende verjaardag een boobjob of nosejob cadeau krijgen. 

Stap voor stap geven we steeds meer van onze privacy aan ondernemingen wiens omzet intussen groter is dan het Bruto Binnenlands Product van de meeste landen. Onder het mom van 'het zal allemaal zo’n vaart wel niet lopen'. Het is een kwestie van tijd totdat al die kleine toegevingen aan de steeds groter wordende surveillance van al onze bewegingen, uitgroeien tot iets wat altijd wel ingebeeld kon worden, maar nooit voor mogelijk werd gehouden. 

"Stap voor stap geven we meer privacy aan ondernemingen wiens omzet groter is dan het BBP van de meeste landen"

Een totaalcontrole waarbij de totalitaire staat die Orwell omschreef in '1984', die Huxley onder woorden bracht in 'Brave New World' en die Hitler voor ogen had met het Derde Rijk, zal verbleken. Wat vandaag in China gebeurt met surveillance, is nog slechts een vingeroefening. De primaire psychologische behoefte van machthebbers, is nu eenmaal het verder consolideren van hun macht. En technologie geeft hen daartoe ongekende mogelijkheden.

Meer lezen?


Delen

0
0


Er zijn 2 reacties op dit artikel

  • Heel beangstigend inderdaad, stapje voor stapje hebben we niks meer te zeggen.
    Kijk maar naar de sleepwet, die is zonder blikken of blozen erin geduwd.

    geplaatst op
  • Het zal altijd een interessant onderwerp blijven om over te bloggen en discussiëren. Vaak wordt er inderdaad gezegd 'het zal allemaal zo’n vaart wel niet lopen' en komt men er achteraf pas achter dat het eigenlijk al aan het gebeuren, of zelfs al gebeurd is. Ook is het vaak zo dat het van buitenaf altijd makkelijker "oordelen" is dan wanneer je er zelf middenin staat. Wat betreft privacy; het verschilt per persoon wat iemand als zijn/haar privacy ziet. Het is nog steeds erg moeilijk om een algemene lijn in te trekken wat wel en niet kan op het gebied van privacy.

    geplaatst op

Plaats zelf een reactie

Log in zodat je (in het vervolg) nóg sneller kunt reageren

Vul jouw naam in.
Vul jouw e-mailadres in. Vul een geldig e-mailadres in.
Vul jouw reactie in.

Herhaal de tekens die je ziet in de afbeelding hieronder


Let op: je reactie blijft voor altijd staan. We verwijderen deze dus later niet als je op zoek bent naar een nieuwe werkgever (of schoonmoeder). Reacties die beledigend zijn of zelfpromotioneel daarentegen, verwijderen we maar al te graag. Door te reageren ga je akkoord met onze voorwaarden.