Een explosieve combinatie: AI en Twitter’s falende verificatie
De Metagids #68 - We zijn als samenleving niet klaar voor de nieuwe neprealiteit.
In een wereld waar kunstmatige intelligentie (AI) een steeds grotere rol speelt, ontstaat een nieuwe werkelijkheid. Hierin is het verschil tussen echt en nep niet altijd duidelijk, en hebben leugens de overhand. Een uiterst krachtig voorbeeld van dit fenomeen is de door AI gegenereerde foto van een explosie nabij het Pentagon, die afgelopen maandag op sociale media werd verspreid. Het nepbeeld veroorzaakte even een verlies van 500 miljard dollar aan waarde op de aandelenmarkt. Deze gebeurtenis laat zien hoe nepnieuws, aangedreven door AI en sociale media, echte wereldwijde effecten kan hebben. We zijn als samenleving niet klaar voor deze neprealiteit.
Dip in aandelenmarkt
In de vroege ochtend van 22 mei 2023 werd Twitter overspoeld met beelden van een vermeende explosie nabij het Pentagon. De foto, die alle kenmerken droeg van een door kunstmatige intelligentie gegenereerde afbeelding, werd gedeeld door talloze geverifieerde accounts, waaronder eentje die ten onrechte zei gelieerd te zijn aan Bloomberg News. Het directe gevolg was een kortstondige dip in de aandelenmarkt. Hierdoor daalde de S&P 500 aandelenindex kortstondig met 30 punten, wat neerkomt op een verlies van 500 miljard dollar.
Gelukkig herstelde de beurs zich na vier minuten weer.
Leugen van het beeld resulteert in perfecte misdaad
De Franse filosoof Jean Baudrillard voorspelde deze nepgebeurtenissen al. Hij zei dat we in een multimediale consumptiemaatschappij leven die overspoeld wordt met tekens, symbolen, simulaties en simulacra (kopieën die geen directe relatie met het origineel hebben), waardoor we niet langer in staat zijn om betekenis aan al deze informatie te ontlenen. De leugen van het beeld is zo absoluut dat het resulteert in de ‘perfecte misdaad’. Het betekent ‘de moord op de realiteit’. De realiteit is nog slechts wat gesimuleerd of gekopieerd wordt, het echte leven wordt een schijnvertoning. Baudrillard noemde dit ‘hyperrealiteit’.
De gegenereerde nepfoto van de explosie nabij het Pentagon past dus perfect in zijn theorie, omdat het een perceptie creëerde van een gebeurtenis die niet bestond. Het was geen reactie op een daadwerkelijke catastrofe, maar op de perceptie van een catastrofe, gecreëerd en versterkt door mediakanalen. Zelfs nadat officiële bronnen het beeld ontmaskerden, bleef deze circuleren en bereikte het zelfs televisieschermen in India.
Nepbeelden leiden tot paniek
Het neppe Pentagon-incident laat zien hoe krachtig beelden en verhalen kunnen zijn, of ze nu echt zijn of niet. Ze kunnen bepalen hoe het publiek iets ziet en echte resultaten in de wereld beïnvloeden. De tijdelijke dip op de aandelenmarkt was een tastbaar gevolg van deze nepgebeurtenis. Het toont de grote invloed van sociale media, de risico’s van door AI gegenereerde inhoud en het misbruik van nieuwe functies, zoals Twitter’s betaalde verificatiesysteem. Een blauw vinkje op Twitter was ooit een teken van echtheid, nu betekent het alleen maar dat de eigenaar van het account betaalt voor Twitter’s premiumdienst.
We leven in een tijd waarin het kunstmatige echte repercussies kan veroorzaken, waar nepbeelden tot echte paniek kunnen leiden en waar de scheidslijnen tussen echt en nep vervagen. AI ontwikkelt zich nu zo snel, bijna exponentieel, dat we goed moeten nadenken over de gevolgen hiervan voor ons begrip van de werkelijkheid, de wijze waarop we door bestaande en nieuwe medialandschappen navigeren en onze aanpak van technologie die het maken van invloedrijke nepbeelden mogelijk maakt. Het zal ook niet bij deze ene pseudo-gebeurtenis blijven, in de toekomst zullen we steeds vaker met dergelijke incidenten te maken krijgen.
Om Baudrillard te parafraseren: simulacru verbergen niet de waarheid – ze laten zien dat er geen waarheid is. De explosie bij het Pentagon is nooit gebeurd, maar de waarheid is dat het niet nodig was om de gevolgen te voelen.
Interessant experiment. Bovenstaand artikel heb ik in het Engels vertaald en aan Wondercraft.ai gegeven. De AI achter deze podcast-tool heeft het artikel gelezen, gescript, van stemmen en van onderliggende muziek voorzien. Binnen een paar minuten werd zo voor mij een Engelstalige podcast gegenereerd. Het resultaat kun je hierboven beluisteren. Ik sloeg stijl achterover.
Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.