Facebooks manipulatie van de timeline, wat is daar mis mee?

Facebooks 'sneaky mind control experiment' met meer dan 600.000 mensen veroorzaakt enorme ophef

Facebooks manipulatie van de timeline, wat is daar mis mee?

Soms lijkt het alsof de hele wereld in de overgang is. Eerst deze week een rel om die KLM “adios mechico”-tweet, toen die ongelukkige schwalbe van Robben en nu een nog veel grotere rel om een sneaky Facebook mind control experiment op meer dan 600.000 onwetende mensen. De Engelstalige media, zoals Adweek en The Wall Street Journal (bevat video), maar ook andere, staan er bol van. Is er echt iets aan de hand en zo ja, wat dan precies?

Mood manipulation

Het leek namelijk zo interessant. Iets wat pas sinds kort kan: het uitvoeren van wetenschappelijke experimenten op massale schaal. Waarom is dat interessant? In de wetenschap zijn experimenten vaak de gouden meetlat. Hiermee kun je namelijk een echt verband tussen factoren ontdekken. Dat is wat anders dan onderzoek waarbij je een correlatie tussen factoren vindt: er is in dat geval een mógelijk verband, maar de causaliteit (oorzakelijkheid) hiervan staat dan nog niet vast.

De meeste experimenten zijn vaak klein van schaal en vinden in kunstmatige situaties (wetenschappelijk laboratoria) plaats. Dus wat is er dan mooier voor de jonge Willie Wortel als je op Facebook een gedragsexperiment kunt uitvoeren in real life met enorme aantallen mensen?

Zo ook dus Kramer, Guillory & Hancock (2014). Het leek hen heel interessant om na te gaan of je ook de stemmingen van mensen kunt beïnvloeden via online manipulaties. Hiervoor zochten Guillory en Hancock de samenwerking  met Facebook en zij kregen steun van Facebooks data scientist Adam Kramer. De laatste verklaarde over de reden voor het onderzoek:

"The reason we did this research is because we care about the emotional impact of Facebook and the people that use our product. We felt that it was important to investigate the common worry that seeing friends post positive content leads to people feeling negative or left out. At the same time, we were concerned that exposure to friends' negativity might lead people to avoid visiting Facebook."

Met andere woorden: men maakt zich zorgen bij Facebook. Nadat alle studies naar emotie en mood waren doorgenomen, besloten zij een experiment met 689.003 mensen op te zetten. De gedachte was dat als een vriend van je zich goed of slecht voelt en dat door middel van een post laat blijken, jijzelf daar ook door aangestoken zal worden. Dus negatieve berichten van anderen op je timelime zorgen ervoor dat jij ook chagrijnig wordt en negatieve berichten gaat posten.

Er waren namelijk eerdere onderzoeken van o.a. Caviello et al. geweest waaruit een correlatie zou blijken tussen het feit dat een regenbui in New York het humeur van New Yorkers in negatieve zin beïnvloedt, waardoor deze negatievere berichten plaatsen op Facebook. Dit zou er dan toe leiden dat zij vrienden in andere steden aansteken, waardoor ook zij negatiever gaan posten. Hier komen we zo nog even op terug.

Hoe verliep het onderzoek?

Zij vormden drie soorten groepen om na te gaan of het soort post van anderen invloed had op de posts van de testpersonen. Het experiment vond plaats van 11 tot en met 18 januari 2012 en alleen onder engelssprekende Facebook-leden. Groep 1 kreeg minder positieve berichten te zien en groep 2 minder negatieve. Hiervoor werd gespecialiseerde software (LIWC2007) gebruikt die de emotie in woorden kan herkennen. Aan beide groepen werd vervolgens een controlegroep toegevoegd die niet gemanipuleerd werd. In totaal waren er dus 4 groepen van ongeveer 170.000 mensen groot.

Wat waren de uitkomsten ?

Het onderzoek leverde een statistisch significant resultaat op. Ik citeer nu even letterlijk wat de onderzoekers zelf melden:

“We show, via a massive (N = 689,003) experiment on Facebook, that emotional states can be transferred to others via emotional contagion, leading people to experience the same emotions without their awareness. We provide experimental evidence that emotional contagion occurs without direct interaction between people (exposure to a friend expressing an emotion is sufficient), and in the complete absence of nonverbal cues.”

Nou, machtig mooi, zou je zeggen. Eindelijk hebben we ook geen neuromarketing meer nodig en kunnen we de koopknop van mensen zelf indrukken. We gaan hiermee meteen aan de gang met onze klanten. Je kunt bijna niet wachten op alle persuasion experts die hier ronkende blogposts over gaan schrijven. Ik heb de eerste al gezien via Twitter.

Is er wat mis dan?

Maar is er ook iets mis met het onderzoek? Ja, twee dingen. Let even op het laatste deel van de eerste zin: “without their awareness”. En toen barstte de bom. En de fall-out waait dit keer niet zomaar over, denk ik. Hij begint pas.

Kijk bijvoorbeeld in The Atlantic en The Wire. Wat blijkt? Er was geen toestemming gevraagd aan de participanten. “Nou, boeiuh”, zullen sommige van jullie zeggen, maar de verontwaardiging is over het algemeen zeer groot. Dit is namelijk voor velen het bewijs dat Facebook zijn eigen agenda heeft en voor niets zal terugdeinzen zolang er maar geld mee verdiend kan worden. In de wetenschap is dit in ieder geval absoluut not done. Een beetje university heeft hier regels voor en ook de meeste nette ondernemingen hebben dat.

Niet de eerste keer

Het opvallende is overigens dat ook in dat mood contagion-onderzoek van Caviello et al. waarover ik het eerder had, er geen toestemming is gevraagd aan de Facebook-leden. Hierbij werden 10 miljoen leden gedurende meer dan 3 jaar (!!!) gevolgd. Ik citeer:

“We apply our method to data collected for a set of 1180 days on Facebook from January 2009 to March 2012. The study was approved by and carried out under the guidelines of the Institutional Review Board at the University of California, San Diego, which waived the need for participant consent. To protect participant confidentiality, researchers did not personally view any names of users or words posted by users, and all analysis of identified data took place in the same secure location on servers where Facebook currently keeps users' data.”

Miniem effect

Maar er was nog wat mis. En dat zijn de effecten. De onderzoekers zijn vooral zeer duidelijk over de mogelijkheid om de stemming van mensen via online media significant te beïnvloeden - want dat is natuurlijk goed voor de klanten van Facebook, de adverteerders. Als je dan echter naar de effectgroottes kijkt, valt dat heel erg mee (of tegen). Er is namelijk sprake van een miniem effect. Significant, dat wel, maar heel erg klein (d = 0.001). Dat betekent dat het effect eigenlijk verwaarloosbaar is. 

Om e.e.a. even in perspectief te zetten: er zijn eigenlijk drie effectgroottes in onderzoek, te weten Klein (d = 0.2) , Medium (d = 0.5) en Groot (d = 0.8). (Ja, er zijn ook andere maten, I know, maar voor het gemak gebruiken we deze even). Dit onderzoek laat dus een effect zien dat 200 maal kleiner is dan een klein effect. Kijk en dan roep ik dus “d = uh”.

Grappig genoeg geldt dat overigens ook voor dat onderzoek van Coviello en vrienden. Alleen is het effect daar nog veel kleiner. Ik kwam daar pas later achter door de bijlagen te controleren.

En nu?

Marc Andreessen, oprichter van Netscape en een grote meneer in de board van Facebook, heeft lak aan de hele discussie, getuige zijn tweet erover.

Facebooks hoofdonderzoeker Adam Kramer heeft inmiddels zijn excuses aangeboden, sort of.

"In hindsight, the research benefits of the paper may not have justified all of this anxiety," he stated. "Having written and designed this experiment myself, I can tell you that our goal was never to upset anyone."

De redacteur van het artikel, de beroemde sociaal psychologe Susan Fiske, vond het onderzoek eigenlijk ook maar “creepy” en vraagt zich af wat Facebook allemaal nog meer onderzoekt zonder dat wij dat weten. En de universiteit van de onderzoekers verklaart:

“Because the research was conducted independently by Facebook and Professor Hancock had access only to results— and not to any data at any time—Cornell University’s Institutional Review Board concluded that he was not directly engaged in human research and that no review by the Cornell Human Research Protection Program was required,” the statement said. Cornell’s Institutional Review Board approves, monitors, and reviews “human subjects research.”

Dit gaat nog wel even door, denk ik. En terecht. Experimenten met het gevoel en de emoties van mensen uitvoeren zonder dat zij daarin gekend zijn, creëert terecht onrust. Het is goed dat er hier een discussie over op gang komt. En hopelijk staat er een concurrent op die privacy wél respecteert en die je wel met je data kunt vertrouwen.

Andere moraal van het verhaal: geloof niet alles wat je leest (en zeker geen Twitterende goeroes), maar doe je eigen onderzoek. En verder ben je blijkbaar alleen veilig tegen Facebook als je deze instructies opvolgt (met dank aan 'web psychologist' Nathalie Nahai).

Bronnen

Credits afbeelding: martinak15, licentie: CC BY (Commercieel hergebruik, inclusief aanpassing)

Delen

0
0


Er zijn 10 reacties op dit artikel

  • Hoi Ron, heldere verwoording. Maar ik blijf wel met een vraag zitten: is die hele heisa niet alleen ontstaan omdat het een wetenschappelijk onderzoek betreft?

    Volgens mij zijn veel bedrijven op dagelijkse basis bezig met het uitvoeren van dit soort onderzoeken. Iedereen wil natuurlijk dat de klant blijer wordt van de website, want de 'peak-end rule' is hip. En zie ook de ophef over Booking.com, dat bij wel heel veel hotelkamers "nog maar 2 beschikbaar" heeft staan en dat daarom een tik op de vingers kreeg van de Reclame Code Commissie voor misleiding.

    En ik heb nog nooit op Booking.com expliciet toestemming gegeven voor die manipulatie... :)

    geplaatst op
  • Boeiende studie! Is hier geen ethische toetsing aan vooraf gegaan dan? Dat is tegenwoordig toch common practice in de academische wereld. Er zijn vaak wel condities waaronder zo'n ethische commissie kan afzien van een 'informed consent'. Meestal moet er dan achteraf een debriefing plaatsvinden zodat mensen achteraf kunnen beslissen om niet deel te nemen. Ik vrees dat daar hier ook geen sprake van was.

    geplaatst op
  • Ik vind de reactie van Marc Andreessen een hele goede. Daarnaast hebben ze nu eindelijk 'echt' een experiment uitgevoerd, niet met conditiegroepen waarvan men weet dat ze meedoen aan een onderzoek. De gegevens zijn nu een keer echt. Het 'enge' is dat Facebook hiermee direct bewijs heeft gevonden om 'ons gebruikers' te manipuleren, of zo lijkt het. Boeie, de AH doet het ook al jaren. Wil je dit niet zit dan niet op FB.

    Lang verhaal kort: mensen miepen weer eens om niks. Cookies vond iedereen ook eng alleen vind je het wel fijn om nu sneller je (gerelateerd) producten te vinden in een webshop. Goed bezig Facebook, misschien wat goodwill tonen door deze kennis in te zetten voor awareness / goede doelen / milieu ofzo.

    geplaatst op
  • Dank voor de reacties!
    @ Bram " is die hele heisa niet alleen ontstaan omdat het een wetenschappelijk onderzoek betreft?' Goede vraag Bram. En het antwoord is ja. Als deze wetenschappers er niet over gepubliceerd hadden dan was het waarschijnlijk niet bekend geworden. En ik neem zomaar aan dat Facebook maar ook anderen vaker dit soort psychologische experimenten uitvoeren zonder onze consent. Overigens heeft FB een paar maanden na het onderzoek dat hierboven genoemd wordt hun EULA aangepast zodat ook dit soort experimenten eronder vallen. Juridisch is daar nogal wat op te zeggen volgens een Amerikaanse hoogleraar maar dat laat ik graag aan de juristen over.

    Vervolgens maak je het punt "Volgens mij zijn veel bedrijven op dagelijkse basis bezig met het uitvoeren van dit soort onderzoeken". ik kan hier niet helemaal uit op maken of jij dat nou erg vind?

    Voor mij is het in ieder geval heel duidelijk, ik wijs elke vorm van psychologische experimenten met mensen zonder consent ten ene male af. Daarom hoop ik ook dat er nu een goede discussie gaat starten over dit onderwerp.

    Er zijn wel twee dingen waar we op moeten letten in deze discussie denk ik. Dit heeft met name te maken met de dubbele uitleg die mogelijk is ten aanzien van de woorden experimenten en manipuleren.
    In het ene geval kan dat heel onschuldig zijn en het andere geval totaal verwerpelijk. Het doen van experimenten om de beleving van een website dan wel het gebruiksgemak daarvan te verbeteren is uiteraard iets totaal anders dan het doen van psychologische experimenten. In beide gevallen ga ik er overigens van uit dat dit in de gebruiksvoorwaarden staat of dat mensen daar apart ja tegen hebben kunnen zeggen.
    Dat zou het beste zijn namelijk. Betrouwbare en nette bedrijven zouden dit vanuit zichzelf moeten willen doen. Indien je dat niet doet speel je met je reputatie. En dat kan nare gevolgen hebben.

    Bij manipuleren speelt mee dat de ene uitleg van het woord niet meer betekent dan dat je een verandering aan iets toebrengt. Niet mis mee op zichzelf. De andere betekenis is natuurlijk zorgwekkender. Dat is iemand iets laten doen zonder dat zij/hij door heeft dat zoiets gebeurt. Dat is dus het bewust proberen om de vrije wil van de ander te omzeilen dus niet mee te laten doen in een beslissing. Daar ga je een grens over. Ik zie dat als een schaal . Aan de ene kant staat dan beïnvloeding en aan de andere kant dwang. Voor mij gaat net over het midden van die schaal beïnvloeding over in manipulatie. En dat moet je niet willen.

    Ik pleit er dan eigenlijk ook voor dat bedrijven een ethisch manifest maken (en publiceren) naast hun kern waarden en missions en visions. Maar daarover meer in een volgend blog over de door PR bureaus zo vurig verkochte vorm van Native Advertising. Dit n.a.v. een speech door Marissa Meyer de CEO van Yahoo.

    @Joost: staat in de tekst Joost. Ze hebben een waiver gegeven.

    @Roy: You're missing the point completely.

    geplaatst op
  • @Ron: ik weet niet of ik het erg vind, want ik heb geen idee op welke manieren ik allemaal gemanipuleerd word.

    Elke webwinkel probeert bezoekers zo ver te krijgen een product te bestellen. Dat is manipulatie, in mijn ogen. Erg? Nee.

    Dat kan ook inhouden dat ik bepaalde producten en diensten op hun website niet zie, omdat die mij somber maken en ik (volgens de webshopmarketeers) blij moet zijn om tot bestelling over te gaan. Is dat erg? Nee.

    Eerlijk gezegd vind ik persoonlijk de ophef over dit onderzoek wat naïef. Het is net alsof er tot nu toe werd gedacht dat Facebook met z'n blackbox-algoritme de feed volkomen altruïstisch samenstelde: "Hier, dit zijn de berichten die jij wilt zien, zeker weten." Wat doen al die ads er dan tussen?

    Natuurlijk heeft Facebook tot doel het gebruik van Facebook te optimaliseren. Net als waarschijnlijk elke website dat heeft. De stap van A/B-testen van kleuren buttons of de volgorde van een productenoverzicht naar het testen van het weglaten van bepaalde producten, is vrij klein.

    Jij schetst een spectrum met aan de ene kant beïnvloeding en de andere kant dwang. Dat vind ik een nogal manipulatieve schaal, want dat stelt dat beïnvloeding volkomen geaccepteerd en misschien zelfs gewenst is. Probeer je daarmee de mening over beïnvloeding te beïnvloeden? Als er iets aan die andere kant van het spectrum van dwang moet staan, dan is het vrije wil. Toch?

    geplaatst op
  • @Ron: oh, en over die toestemming: heb jij ooit een gebruikersovereenkomst ondertekend voordat je de IKEA in liep? Zij manipuleren je waar je bij staat - of beter: waar je bij loopt - met de routing door hun winkels. Is dat dan fout?

    geplaatst op
  • @Bram. Eens met die schaal. Prima. Tav naïviteit eens dat dat voor vakmensen opgaat. Tav de consument geldt denk ik een ander verhaal. Mensen hebben geen idee. Je voorbeeld over webshops is voor mij beïnvloeding. Manipulatie is wat anders.

    geplaatst op
  • Zeer interessant artikel over een zeer interessante ontwikkeling. Ik geloof inderdaad ook dat dit soort experimenten niet alleen op Facebook, maar in veel meer omgevingen plaatsvinden. Denk aan de zogenaamde rood architects, die onderzoeken hoe een bepaald merk chips het beste kan kraken, zodat wij er gelukkiger van worden en er meer van gaan eten.

    Ook daar is het gros van de consumenten onwetend over. Wat dit experiment anders maakt: het is op grote schaal en wordt uitgevoerd door Facebook, die al meer onder vuur ligt vanwege privacy issues. Maar zoeken zij niet de lijn op, wat veel andere bedrijven ook doen?

    Waar ik blij van word is dat deze discussie op gang komt. Hoe ver kun je gaan om de consument te beïnvloeden/manipuleren? En hoe gaan we hier ethisch mee om?

    geplaatst op

Plaats zelf een reactie

Log in zodat je (in het vervolg) nóg sneller kunt reageren

Vul jouw naam in.
Vul jouw e-mailadres in. Vul een geldig e-mailadres in.
Vul jouw reactie in.

Herhaal de tekens die je ziet in de afbeelding hieronder


Let op: je reactie blijft voor altijd staan. We verwijderen deze dus later niet als je op zoek bent naar een nieuwe werkgever (of schoonmoeder). Reacties die beledigend zijn of zelfpromotioneel daarentegen, verwijderen we maar al te graag. Door te reageren ga je akkoord met onze voorwaarden.