Ethische uitdagingen in het digitale tijdperk

7 juli 2015, 09:00

We leven in een tijd waarin we onbewust steeds vaker communiceren met zelfdenkende, intelligente machines op basis van algoritmes. Het gemak dat de algoritmes ons bieden, lijkt de ethische overwegingen te overschaduwen. Juist in onze informatiemaatschappij zijn die overwegingen belangrijk. Het tijdperk waarin de individuele behoeften van consumenten onbekend waren is voorbij. Bedrijven en overheden kunnen in toenemende mate inspringen op alles wat wij willen, ook als we het zelf nog niet eens weten.

Moraliteit voor machines?

Steeds meer autofabrikanten werken aan zelfrijdende voertuigen. Hier lijken op het eerste gezicht alleen maar voordelen aan te zitten. Zo kunnen de auto’s zelf remmen bij gevaar en houden ze zichzelf op de juiste baan. Dit baseert het voertuig op de data die het binnen krijgt. Maar ook bij zelfrijdende voertuigen blijken er ethische dilemma’s. Tom Chatfield, een auteur die veel schrijft over de impact van digitale ontwikkelingen, vroeg zich al af: “Wat doet je auto als er plots een groep kinderen voor je wielen opduikt? Wil je in een wereld leven waarin de auto uitwijkt om de kinderen te beschermen, ook al brengt hij door die manoeuvre jouw leven in gevaar? Of beslist de auto dat jij in de eerste plaats moet worden beschermd?” Deze ethische overwegingen moeten we nu gedwongen afwegen.

Een ander voorbeeld van een ethische uitdaging in het digitale tijdperk was de ophef over ‘Year in Review’ van Facebook. Eind 2014 was er als actief Facebook-gebruiker geen ontkomen aan. Veel mensen maakten gebruik van een door Facebook gepersonaliseerd algoritme om de highlights van 2014 in vogelvlucht te zien. Echter heeft niet iedereen een jaar gehad dat ze graag als highlight willen delen. Zo schreef een Amerikaanse vader een hartverscheurend verhaal over de schok die hij ervoer toen hij zijn dochtertje voorbij zag komen die dat jaar was overleden.

Empathie of zekerheid?

Helaas zijn algoritmes in essentie gewetenloze codes zonder empatisch vermogen, zoals de vader van bovenstaand verhaal benadrukt. Een algoritme kan de reden achter de plaatsing van een post niet zien. Het analyseert niet of een foto veel likes heeft gekregen door een vrolijke, grappige of liefdevolle pose van de plaatser, of dat de likes zijn gegeven uit respect en/of medeleven.

Zo kan een verzekeringsmaatschappij mijn rijgedrag volgen om te bepalen of ik kan worden beloond als ‘veilige rijder’. In essentie is dit niet iets waar ik problemen mee heb. Maar het is de vraag of ik ook zou willen dat in het geval van een ongeluk niet alleen de verzekeringsmaatschappij op de hoogte wordt gesteld, maar ook meteen een afspraak wordt gemaakt bij de automonteur. Daarnaast weet ik niet of ik zou willen dat bijvoorbeeld mijn partner meteen wordt ingelicht, mijn dokter wordt gebeld voor een afspraak na het ongeluk en dat een andere afspraak in mijn agenda wordt verschoven om daar ruimte voor te maken.

Waar ligt de grens?

Dat bedrijven en overheden in toenemende mate kunnen inspringen op alles wat wij nodig hebben, ook als we het zelf nog niet eens weten, is inmiddels voor veel mensen normaal. Daarom moeten we onszelf de belangrijke vraag stellen: waar ligt de grens tussen attente service en een onacceptabele schending van mijn privacy?

Wordt er een grens overschreden wanneer de hypotheekadviseur belt, kort nadat ik de relatiestatus op mijn Facebook heb aangepast naar ‘It’s complicated’, om toch maar eens te praten over betaling van de hypotheeklasten? De bank is namelijk zo goed geweest om mijn gegevens te matchen met hun hypotheekbestand en heeft gezien dat ik best een fikse maandlast heb die ik zonder mijn partner waarschijnlijk moeilijk kan opbrengen.

De grens is helaas geen duidelijke lijn die toepasbaar is op iedere situatie. Alhoewel sommige consumenten erg gemakzuchtig omgaan met het beschermen van hun eigen privacy, moeten bedrijven hun verantwoordelijkheid erkennen. Het is noodzaak om mensen binnen de organisatie te hebben die kritisch durven te zijn en het ethische belang in acht nemen.

Het juiste antwoord op waar de grens ligt, is voor bedrijven in ieder geval niet het opnemen van kleine lettertjes in de algemene voorwaarden. Bij de invoering van de cookie-wetgeving zag je partijen die met behulp van grote banners hun bezoekers overhaalden cookies te accepteren, terwijl anderen hun klanten de vraag stelden hoe zij hun website wilden ervaren en ze zo verschillende mogelijkheden voorschotelden.

Wat je als bedrijf wel of niet doet, begint en eindigt uiteindelijk altijd met de vraag: draagt het bij aan de dienst die ik lever, krijgt de klant meer waarde? Dat mag best een cross– of upsell zijn, als je daar maar transparant over bent. Zo kan een consument zelf de afweging maken of de voordelen voor hem opwegen tegen de nadelen, namelijk het opgeven van een stukje privacy.

Michiel Hazen
Digital Strategist bij Avanade

Michiel Hazen is Digital Strategist bij Avanade en adviseert organisaties op het gebied van digitale innovatie. Hij is gespecialiseerd in digitale werkplek, samenwerken en online dienstverlening en helpt organisaties met het verbinden van strategische doelstellingen, technische oplossingen en gebruikersgroepen.

Categorie
Tags

Marketingfacts. Elke dag vers. Mis niks!