De bevooroordeelde algoritmes van Google en het zwarte gat van AI

16 december 2016, 06:00

“Het internet is een van de weinige dingen die mensen hebben gebouwd zonder het werkelijk te begrijpen.” Het is “het grootste anarchistische experiment in de wereldgeschiedenis.” Zo begint het eerste hoofdstuk van het boek ‘De Digitale Lente’ (2013) van Eric Schmidt, oud-ceo van Google, en Jared Cohen, directeur van Google Ideas. Het hoofdstuk sluiten beide auteurs af met de volgende woorden: “Want ondanks de vele mogelijkheden die communicatietechnologieën bieden, hangt het gebruik ten goede of ten kwade volledig af van mensen. Vergeet al die praatjes over machines die de wereld overnemen. Wat er in de toekomst gebeurt, is aan ons.”

Carole Gadwalladr, journaliste voor kwaliteitskrant The Guardian, denkt hier anders over. In een tweetal artikelen zet zij grote vraagtekens bij bovenstaande uitspraken. Zij vraagt zich af of bedrijven als Google en Facebook niet juist een veelkoppig algoritmisch monster hebben gecreëerd waarover de menselijke eigenaren alle controle al lang verloren hebben.

In haar eerste artikel laat ze zien hoe de zoekmachine de vragende zoekterm “are jews …” automatisch aanvult met het woord “evil” en na het klikken hierop wordt Gadwalladr geconfronteerd met pagina’s vol zoekresultaten die deze zoekterm onderstrepen.

In haar tweede artikel stelt ze aan Google de vraag stelt of de Holocaust heeft bestaan (“did the holocaust happen?“) en krijgt zij als eerste zoekresultaat een link naar de website Stormfront.org. Het betreft een forum voor neonazi’s en racisten dat wereldwijd wordt beschouwd als de allereerste grote haatplaats van het internet en de zoekopdracht leidt naar een artikel dat tien redenen geeft waarom de Holocaust niet heeft bestaan.

Eenzelfde beeld vertoont de Nederlandse versie van de zoekmachine. Zo vult de autocomplete-functie van Google de zinsnede “marokkanen zijn” aan met woorden als “slecht”, “lekker”, “geen ras” en “racisten”. Ook hier staat Stormfront.org bovenaan in de zoekresultaten als gezocht wordt op “marrokanen zijn slecht”. De website weet nu 27 redenen op te sommen waarom mensen Marokkanen haten.

Algoritmes discrimineren

People become numbers, algorithms become the rules, and reality becomes what the data says – Om Malik

Natuurlijk weten we dit allemaal allang. Al vaker is Google in het nieuws geweest omdat haar algoritmes op hol slaan. Denk maar aan een zwarte vrouw die door Google getagged werd als een gorilla. In het kader van het post-truth-tijdperk waarin we nu zijn beland, zijn de implicaties van dit soort automatische ingevulde zoektermen en overeenkomende zoekresultaten alarmerend.

Het verschil tussen feit en verzinsel is niet altijd duidelijk. Sterker nog, Google is ook niet consequent in de manier waarop zoekresultaten worden getoond. Soms publiceert de zoekmachine een snippet die afkomstig is uit het allereerste zoekresultaat. De wijze waarop de informatie wordt getoond, geeft daarbij de indruk dat het hier een feit betreft.

Een jong persoon die niet bekend is met de historie van de Tweede Wereldoorlog loopt nu het risico dat zijn mening gevormd wordt door een complottheorie van Stormfront. Gadwalladr beargumenteert dat Google met haar algoritmes de wijze waarop we de wereld waarnemen “kadert, vormt en verdraait”. Zij vindt dan ook dat Google haar verantwoordelijkheid moet nemen. Google is niet simpelweg een doorgeefluik. Hun technologie is niet goed of slecht, maar het is ook niet neutraal.

In een reactie laat een woordvoerder van Google het volgende weten:

We zijn bedroefd om te zien dat haatorganisaties nog steeds bestaan. Het feit dat de haatsites in de zoekresultaten worden weergegeven, betekent niet dat Google deze opvattingen onderschrijft. Zoeken via Google is een weerspiegeling van de inhoud en de informatie die beschikbaar is op het internet.

De positie van een site in de zoekresultaten wordt bepaald door computeralgoritmes die honderden factoren gebruiken om de relevantie van een pagina te berekenen voor een bepaalde zoekopdracht. We verwijderen geen inhoud uit onze zoekresultaten, behalve in zeer beperkte gevallen, zoals illegale inhoud, malware en schendingen van onze richtlijnen voor webmasters.

Het zwarte gat van kunstmatige intelligentie

Mensen kunnen niet blindelings vertrouwen op de keuzes die algoritmes ons voorrekenen. De algoritmes zijn bevooroordeeld, ze bevatten systematische fouten en kleuren daarmee hun uitkomsten.

De wiskundige berekeningen op grond waarvan algoritmes selecteren en kiezen, zijn zo complex dat niemand meer met honderd procent zekerheid kan zeggen of ze kloppen. Bovendien houdt het in- en externe toezicht op juistheid, integriteit en operationele doelmatigheid van algoritmes (en van de zuiverheid en representativiteit van de datasets waarmee ze worden gevoed en getraind) geen gelijke tred met de steeds bredere inzet van algoritmes in de maatschappelijke en bedrijfsmatige keuze- en besluitvormings-processen.

Jeroen Goudsmit en Andre Mikkers, beiden werkzaam voor PwC, noemen dit “het zwarte gat van kunstmatige intelligentie”. Zij pleiten ervoor dat er snel internationaal geldende afspraken komen over verantwoordings- en ontwikkeleisen voor algoritmes. Google, Facebook, Amazon, IBM en Microsoft hebben inmiddels de handen ineen geslagen. Ze hebben een partnerschap voor kunstmatige intelligentie opgericht dat ervoor moet zorgen dat technologie ingezet wordt “voor het welzijn van de mens en de samenleving”. Probleem opgelost dus…

Bronnen

Sander Duivestein
Topspreker / Trendwatcher / Auteur / Columnist bij Sogeti

Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.

Categorie
Tags

4 Reacties

    ChaneLLodik

    In een Facebook groep waar ik in zit, waren een groep donkere dames erg boos op Facebook. Als je zoekt op “sexy black mom” krijg je afbeeldingen van donkere pornosterren en als je zoekt op “sexy white mom” krijg je voornamelijk kuis geklede witte dames.

    Ik probeerde het principe van algoritme uit te leggen en hoe dit komt. Jouw stuk komt als geroepen.

    Wel moet ik bekennen dat na een reeks klachten Google dit binnen een week had aangepast. Dus zij kunnen wel degelijk tweaken aan het algoritme.


    16 december 2016 om 08:36
    Jordy van Ekelen

    Wat een eenzijdig sentiment. Dit is toch geen journalistiek? Wil je dan ook even melden dat niet alleen Stormfront gekkies maar tevens ook Social Justice Warriors opgeleid worden door dergelijke suggesties door bijvoorbeeld Buzzfeed die openlijk witte mensen discrimineren. En laten we ook maar even negeren hoe Google DUIDELIJK pro Clinton was en geprobeerd heeft mensen & zoekresultaten te manipuleren door YT’ers om te kopen/chanteren, trending video’s niet te laten trenden en zelfs views van anti-Clinton trendende videos verwijdert heeft. Marokkanen moeten niet gediscrimineerd worden, maar denk je echt dat dit betrekkelijk is tot Marokkanen?! Dit probleem is alombekend! Flutstuk voor kortichtige pseudo intellectuele flapdrollen die willen pretenderen iets te weten over het internet.


    16 december 2016 om 12:27
    De kerstman

    Dan is er nog zo’n loser hier die beweert dat ik door sexy black woman alleen zwarte pornosterren vind, ik vind er net zoveel met white sexy moms. Dit is niets meer dan een flutartikel om mensen die in een slechtofferrol zitten te overtuigen hie zielig ze wel niet zijn. 1 op de 2 trending videos op Youtube zijn van Buzzfeed die openlijk witte mensen haten. Maar daar hoor ik je niet over want wit. Zal wel weer familie zijn van Sylvana Symons, kunnen jullie lekker s’avond op de bank met elkaar uithuilen over hoe zielig jullie wel niet zijn.


    16 december 2016 om 12:38
    Sander Janssens

    Prima artikel. Snijdt een belangrijk onderwerp aan.

    Dit lijkt een typisch “wicked problem”.

    The solution depends on how the problem is framed and vice versa (i.e., the problem definition depends on the solution)

    Stakeholders have radically different world views and different frames for understanding the problem.

    The constraints that the problem is subject to and the resources needed to solve it change over time.

    The problem is never solved definitively.

    Een oplossing is meer onderwijs om jongeren kritisch met bronnen om te gaan en zelfstandig te leren denken.


    16 december 2016 om 16:24

Marketingfacts. Elke dag vers. Mis niks!

Welke nieuwsbrief