Artificial Intelligence inteelt holt cultuur uit

De Metagids #61 - We zijn allemaal proefkonijnen in het AI laboratorium.

28 maart 2023, 10:30 3034 x gelezen

Een ver vooruitstekende kin, een dikke onderlip en een grote afhangende neus, dat waren de opvallende gezichtskenmerken van de afstammelingen van het Huis van Habsburg. Een dynastie die eeuwenlang regeerde over grote delen van Europa. De misvorming van hun gelaat was het directe gevolg van generaties lang inteelt. De Habsburgers hielden de troonopvolging graag binnen de familie.

De opmerkelijke familiegeschiedenis wordt recentelijk online weer opgerakeld. Het dient als metafoor voor de wijze waarop AI-modellen elkaars geschiedenis overerven. De synthetische creaties van applicaties als ChatGPT, Dall-E, Midjourney, Stable Difussion, Lensa en RunwayML, die door hun makers gedeeld worden op websites, Linkedin, blogs, andere sociale media, forums, enzovort, worden een steeds groter onderdeel van het alsmaar uitdijende web. Voorspellingen zijn dat meer dan 90 procent van alle content op het internet in 2025 door kunstmatige intelligentie gegenereerd zal zijn.

Fotokopieën van fotokopieën: Een blijvend vervuild internet

Deze simulacra zijn hyperrealistisch en niet van echt te onderscheiden, waardoor ze moeilijk te detecteren zijn. Ook vergeet het internet niets, wat het lastig maakt om deze kopieën te verwijderen. Een probleem ontstaat wanneer deze digitale artefacten gebruikt worden voor de training van de volgende generatie van AI-tools. Het zijn fotokopieën van fotokopieën. Het web wordt zo blijvend vervuild. Het levert een gesimuleerd internet op. Een internet dat dood is en compleet overgenomen door AI.

Jathan Sadowski, onderzoeker aan het Monash Emerging Technologies Research Lab te Melbourne, noemt deze vorm van kruisbestuiving “Habsburg AI“: “een systeem dat zo zwaar is getraind op de output van andere generatieve AI’s, is pure inteelt dat alleen maar een mutatie kan opleveren met overdreven, groteske kenmerken.”

Cultuur uitgehold

Kyle Chayka, auteur van het boek Filterworld: How Algorithms Flattened Culture (2024), maakt over deze enorme hoop gegenereerde digitale diarree nog een andere uitstekende observatie. Cultuur veranderde door hyperconnectiviteit in een oneindige stroom van digitale artefacten, die continu onze aandacht weet te trekken en vast te houden door geavanceerde, gepersonaliseerde aanbevelingen. Deze digitale overvloed heeft onze cultuur uitgehold.

De neergang heeft zich al ingezet ten tijde van de allereerste sociale media. De onderliggende algoritmen van deze netwerken, die voortdurend strijden om onze aandacht, hebben de makers van digitale content gedwongen om zich te conformeren naar de gangbare esthetiek op deze platformen: overal wordt dezelfde digitale eenheidsworst in hapklare brokjes geserveerd. Commercie en cultuur gaan hierbij hand in hand, ze zijn innig met elkaar verstrengeld geraakt. Cultuur is hierdoor in Chayka’s ogen veel minder interessant geworden. Cultuur is meer homogeen, meer repetitief en minder vervullend.

Cultuurdood als reële mogelijkheid

Chayka waarschuwt dat het zelfbevlekkende karakter van generatieve AI de neerwaartse trend van het “culturele gemiddelde” alleen maar zal versnellen. “Average Garbage Forever is het motto van de cultuur van de 21e eeuw.” In zijn boek Amusing Ourselves to Death (1985) waarschuwde mediacriticus Neil Postman (1931–2003) al voor zo’n toekomst: “Wanneer een volk wordt afgeleid door trivia, wanneer het culturele leven wordt geherdefinieerd tot een voortdurend rondje vermaak, wanneer een serieus publiek gesprek een vorm van babytalk wordt, wanneer, kortom, een volk een publiek wordt, en zijn bestuur een circusact, dan verkeert een natie in hoog risico: een cultuurdood is een reële mogelijkheid.”

Twee maanden na lancering van de ChatGPT-chatbot maakte het kunstmatige-intelligentiebedrijf OpenAI bekend dat meer dan 100 miljoen mensen gebruik maken van hun applicatie. Ruwweg betekent dit dat de bot zo’n 300 miljoen woorden per minuut ophoest. Bekend is dat ChatGPT een “stochastische papegaai” is. Het apparaat kraamt onzin uit. Het beredeneert en begrijpt niets. Het hallucineert feiten. Vraag is hoeveel van deze stortvloed aan machinale verzinsels voorgoed bewaard blijft op het internet? En dit is slechts één applicatie. Momenteel is sprake van een wapenwedloop onder techreuzen en startups om als eerste met een eigen variant van deze technologie op de markt te komen. Met als directe gevolg dat de door AI gegenereerde inteelt alsmaar groter wordt en onze cultuur verder uitholt. Het risico bestaat dat toekomstige generaties voor altijd vast komen te zitten in de krochten van dit nonsensweb op zoek naar de laatste objectieve waarheden.

“Het risico bestaat dat toekomstige generaties voor altijd vast komen te zitten in de krochten van dit nonsensweb op zoek naar de laatste objectieve waarheden.”

Proefkonijnen in het AI laboratorium

Onze maatschappij is totaal niet voorbereid op de snelheid waarmee de huidige ontwikkelingen op het gebied van kunstmatige intelligentie zich manifesteren. Zelfs de bedrijven die al dit “moois” over ons uitstorten, begrijpen zelf niet hoe de kunstmatige intelligentie precies werkt en wat de gevolgen zijn voor zowel de korte als lange termijn. Er is geen enkele controle of toezicht, een ethisch kompas is ver te zoeken. Het is totaal onverantwoordelijk. Men doet maar wat. Wij zijn de proefkonijnen in hun laboratorium. Als samenleving moeten we nu stelling nemen. Hoe gaan we ons verhouden tot kunstmatige intelligentie? Voor welke doeleinden mag het wel worden ingezet en en waarvoor niet? Deze vragen moeten zo snel mogelijk geadresseerd worden om de controle terug te krijgen en een cultuurdood te voorkomen.

Sander Duivestein
Topspreker / Trendwatcher / Auteur / Columnist bij Sogeti

Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.

Categorie

Marketingfacts. Elke dag vers. Mis niks!