Van hoax naar hallucinatie: Gezond wantrouwen is de beste remedie voor omgang met AI

De Metagids #62: De Uncanny Valley is voorgoed overwonnen. Een sceptische houding is vanaf nu de beste verdediging.

31 maart 2023, 13:45 2776 x gelezen

Foto’s van paus Franciscus in een witte pufferjas zijn razendsnel viraal gegaan op het internet. Velen complimenteren de 86-jarige leider van de katholieke kerk met zijn trendy outfit. Sommigen beschouwen de glanzende witte jas zelfs als een volwaardige rapperjas. Het opvallende glimmende kruis dat op zijn borstkast bungelt maakt het beeld compleet en prikkelt de verbeelding van velen. De foto’s zijn alleen nep.

Miljoenen zagen niet dat het nep was

De foto’s, gecreëerd met behulp van Midjourney, een AI-beeldgenerator die werkt op basis van tekstcommando’s, werden voor het eerst gepost op het internetforum Reddit. Via verschillende sociale media gingen de beelden vervolgens viraal, waarbij velen niet beseften dat de afbeeldingen nep waren. Voor het eerst zijn mensen massaal in een AI-hoax getrapt. Na de Rickroll en de discussie over de blauw-zwarte jurk hebben we nu dus de “Balenciaga paus”. Supermodel Chrissy Teigen verwoordde het beste hoe zij en miljoenen anderen zich voelden: “Ik dacht dat het gewatteerde jack van de paus echt was en besteedde er geen verdere aandacht aan. Ik overleef de toekomst van technologie op geen enkele manier.”

“Ik dacht dat het gewatteerde jack van de paus echt was en besteedde er geen verdere aandacht aan. Ik overleef de toekomst van technologie op geen enkele manier.” Chrissy Teigen

Arrestatie Donald Trump en zandtaartjes met Obama en Merkel

De paus is niet de enige beroemdheid die deze week de hoofdrol speelt in een gebeurtenis die nooit heeft plaatsgevonden. Zo circuleerden er nepbeelden van de arrestatie van oud-president Donald Trump, moest de Franse president Macron rennen voor zijn leven in een uit de hand gelopen demonstratie en bakte oud president Barack Obama zandtaartjes met oud bondskanselier Angela Merkel. Naast mensen die dingen beleven die ze in werkelijkheid nooit overkomen zijn, worden ook complete gebeurtenissen gefingeerd.

Zo worden online beelden verspreid van de beruchte Blauwe Plaag die Rusland in 1977 teisterde, van de zonne-superstorm uit 2012 die wereldwijd een black-out veroorzaakte en de aardbeving die zich op 3 april 2001 voordeed langs de westkust van Noord-Amerika waarbij meer dan 8.159 mensen het leven verloren. Het zijn allen pseudo-gebeurtenissen die volledig zijn gegenereerd door kunstmatige intelligentie. Zelfs AI detectie tools hebben niet in de gaten dat het om geschiedvervalsing gaat. Website Hugging Face weet met 87% zekerheid te garanderen dat enkele foto’s van de aardbeving echt zijn.

De Uncanny Valley is voorgoed overwonnen

We betreden onbekend terrein. Het beeld van de Balenciaga paus symboliseert een keerpunt in de ontwikkeling van generatieve AI. Vanaf nu is het niet meer mogelijk om feit van fictie, origineel van kopie en nep van echt te onderscheiden. De ‘uncanny valley’ is voorgoed overwonnen. Iedereen kan dit zelf doen. Dankzij de democratisering van AI kan iedere creatieve geest nu – zonder geavanceerde kennis – zijn eigen werkelijkheid creëren. Het is voldoende om simpelweg tekst in de opdrachtprompt in te voeren en kunstmatige intelligentie kleurt de rest in.

Dit roept serieuze vragen op over de authenticiteit van informatie op het internet, in welke vorm dan ook, en de invloed die technologieën zoals AI hebben op ons vermogen om waarheid van fictie te onderscheiden. Hoewel de gemanipuleerde foto van de kerkvader onschuldig lijkt, is het de duivel in vermomming, omdat kwaadwillenden over dezelfde middelen beschikken. Het is gemakkelijk voor te stellen dat deze technologie ook wordt ingezet voor propaganda-doeleinden en als wapen om de fundamenten van onze democratie te ondermijnen. Vorig jaar publiceerde Europol een rapport waarin staat dat in 2026 meer dan 90% van alle informatie op het internet door kunstmatige intelligentie gegenereerd zal zijn. Het is een waarschuwing voor de infocalypse die op ons afkomt. De nep AI-foto’s zijn het eerste salvo dat gelost wordt in deze realiteitsoorlog.

“De nep AI-foto’s zijn het eerste salvo dat gelost wordt in deze realiteitsoorlog.”

Sceptische houding is de beste verdediging

Deze week pleiten in een open brief honderden knappe koppen (zie ook: “Hoe realistisch is de angst voor AI?” van Marco Derksen vanochtend), onder wie historicus Yuval Noah Harari, Twitter- en Tesla-eigenaar Elon Musk en mede-oprichter van Apple Steve Wozniak, om de doorontwikkeling van AI te pauzeren. Doen we dit niet, dan loopt de mensheid het risico om “de controle over onze beschaving te verliezen”. Een angstaanjagend narratief met een hoog scifi-gehalte dat afleidt van de werkelijke problematiek: Big Tech bedrijven zijn een wereldwijd experiment gestart waarin wij mensen de proefkonijnen zijn.

Niemand die precies weet wat de exacte gevolgen zijn nu iedereen AI naar hartelust kan gebruiken. Deze duvel laat zich niet meer terug in de doos stoppen. In de handen van kwaadwillenden is AI een superkracht. Regulering en wetgeving omtrent dit soort nieuwe technologieën loopt hopeloos achter. Op de korte termijn hoeven we hier geen oplossingen van te verwachten. We moeten het dus zelf doen. In dit tijdperk van digitale hallucinatie is een sceptische houding de beste verdediging.

Het is verstandig om standaard niets meer te vertrouwen dat op het internet verschijnt. Dit is de meest eenvoudige les die de AI-paus ons vanuit zijn digitaal heiligdom aanreikt.

Sander Duivestein
Topspreker / Trendwatcher / Auteur / Columnist bij Sogeti

Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.

Categorie

Marketingfacts. Elke dag vers. Mis niks!