De Metagids #90 – Pas op voor botshit

De foto hierboven illustreert de mogelijke impact die generatieve AI op de politiek kan hebben in de nabije toekomst. Al meerdere malen hebben experts de alarmbel geluid over de gevolgen voor verkiezingsprocessen. Zo wordt gewaarschuwd voor het gemak waarmee AI gebruikt kan worden om nepnieuws tegen minimale kosten te produceren en hoe AI ingezet kan worden om doelgerichte advertenties te genereren die bedoeld zijn om het keuzeproces van kiezers te beïnvloeden. Dit kan leiden tot wat wetenschappers ‘Oktoberverrassingen‘ noemen: onverwacht en belangrijk nieuws dat net voor de Amerikaanse verkiezingen in november verschijnt, waarbij vaak onjuiste informatie wordt gedeeld en er te weinig tijd overblijft om dit recht te zetten.

In 2024, een jaar dat nu al gezien wordt als een cruciaal verkiezingsjaar, groeit de bezorgdheid over de invloed van generatieve AI op verkiezingen. Met zo’n 4,2 miljard mensen – meer dan de helft van de wereldbevolking – die in 76 landen stemgerechtigd zijn voor presidents-, parlements- en lokale verkiezingen, wordt dit een historisch jaar. Nooit tevoren konden zoveel mensen wereldwijd in één jaar hun stem uitbrengen. Er staan belangrijke verkiezingen op de agenda in landen als Taiwan, India, Rusland, Zuid-Afrika, Mexico, Iran, Pakistan, Indonesië, lidstaten van de Europese Unie, het Verenigd Koninkrijk en de Verenigde Staten. Deze omvatten verkiezingen in enkele van de grootste en meest bevolkte landen ter wereld, variërend van de omvangrijke, meerdaagse parlementsverkiezingen in India – de grootste ter wereld – tot de grootste eendaagse presidentsverkiezingen in Indonesië, en zelfs de kleinere presidentsverkiezingen in Noord-Macedonië. Deze verkiezingen kunnen een kantelpunt betekenen voor de bestaande wereldorde. Ze zijn niet alleen bepalend voor de toekomst van de betrokken landen, maar ook voor hoe we gezamenlijk wereldwijde uitdagingen zoals geopolitieke spanningen en de klimaatcrisis aanpakken. Net zoals sociale media een bepalende rol speelden in de verkiezingen van de jaren 2010, is het waarschijnlijk dat nieuwe generatieve AI-technologieën een doorslaggevende invloed zullen hebben op al deze aankomende verkiezingen.

In de jaren 2010 gaven politici miljoenen uit aan sociale media om hun verkiezingscampagnes kracht bij te zetten. Nu maakt generatieve AI het mogelijk om nagenoeg kosteloos misleidende informatie te produceren. Dit is zorgwekkend omdat we in het afgelopen decennium meerdere malen gezien hebben welke rol zogenaamde “onzin” kan spelen in de politiek. In zijn boek “On Bullshit” stelt de Amerikaanse filosoof Harry G. Frankfurt dat flauwekul gevaarlijker is dan leugens, omdat het de waarheid volledig negeert. In het geval van leugens is er nog steeds een relatie met de waarheid; de leugenaar weet wat de waarheid is maar kiest ervoor iets anders te beweren. ‘Bullshitters’, daarentegen, zijn volledig onverschillig ten opzichte van de waarheid. Hun doel is niet om de waarheid te verdraaien, maar om de beelden te gebruiken om een bepaald narratief of beeldvorming te versterken die past bij hun politieke agenda of wereldbeeld, ongeacht de authenticiteit van die beelden.

Dankzij de doorbraak van generatieve AI-technologieën, zoals ChatGPT en Midjourney, is het tegenwoordig verbazingwekkend eenvoudig om nepnieuws te genereren en te verspreiden. Wetenschappers spreken in recent onderzoek over ‘botshit’, een term die het massaal verspreiden van bullshit via bots aanduidt. Ze waarschuwen voor de ‘epistemische risico’s’, oftewel de bedreigingen voor onze kennis en begrip van de wereld. Het gevaar schuilt erin dat door AI gegenereerde ongegronde beweringen gebruikt kunnen worden om kritische, maar lastig te verifiëren kwesties te ‘beantwoorden’, zoals de economische situatie of de conflicten in Oekraïne en Palestina. Dit kan leiden tot een realiteit waarin mensen belangrijke beslissingen, zoals bij verkiezingen, baseren op een volledig illusoir informatielandschap. Er dreigt een risico dat kiezers verstrikt raken in deze misleidende online realiteiten, gevormd door een gevaarlijke combinatie van AI-fantasieën en politieke opportunisme.

Dit nieuwe tijdperk van technologie roept dringend om een bewuste en kritische benadering van de informatie die we dagelijks consumeren. Terwijl experts voorspellen dat tegen 2025 bijna 90% van alle online content door AI gegenereerd zal zijn, wordt het steeds belangrijker dat wij, als samenleving, de vaardigheden ontwikkelen om echt van nep te onderscheiden. Technologieën zoals digitale watermerken kunnen hierbij een rol spelen, door gebruikers te helpen AI-gegenereerde inhoud te herkennen. Echter, het is uiteindelijk aan ons, als geïnformeerde burgers, om de verantwoordelijkheid te nemen voor het verifiëren en kritisch beoordelen van de informatie die ons wordt voorgeschoteld. In deze snel veranderende wereld van informatie en technologie is het essentieel dat we alert blijven en ons bewust zijn van de potentiële gevaren die schuilen in misleidende AI-gegenereerde content. Met een gezonde dosis scepsis en de juiste tools kunnen we ervoor zorgen dat onze keuzes en overtuigingen worden gevormd door feiten, niet door ‘botshit’.