Maakt AI ons dom?
De Metagids #72 - AI sloopt het "oude internet" als een ware parasiet. Ik ben bang dat we er niet slimmer op worden.
In de zomer van 2008 publiceerde internetcriticus Nicholas Carr het geruchtmakende artikel “Is Google Making Us Stupid?“. Zijn belangrijkste argument is dat het internet nadelige effecten heeft op het functioneren van ons het brein. Internet, sociale media en de smartphone versplinteren onze aandacht, met als gevolg dat we ons minder goed kunnen concentreren en dat momenten van overpeinzing steeds minder worden. Een punt dat hij naderhand uitwerkte in zijn boek “The Shallows: What the Internet Is Doing to Our Brains” (2010).
AI als parasiet van het huidige internet
Deze week verscheen er van de hand van James Vincent, verslaggever voor The Verge, het artikel “AI is killing the old web, and the new web struggles to be born” dat mij deed denken aan de profetische woorden van Carr.
In zijn artikel maakt Vincent de volgende observaties:
- AI-modellen, met name generatieve AI, hebben de manier waarop het web functioneert ingrijpend veranderd. Deze modellen kunnen op grote schaal tekst en afbeeldingen genereren, maar de kwaliteit is vaak laag. Ze zijn gebouwd op een manier die parasitair is voor het huidige web, en ze concurreren om aandacht met de platforms en mensen die voor hen bestonden.
- Populaire sites zoals Reddit, Wikipedia en Stack Overflow ervaren de spanning die wordt veroorzaakt door de opkomst van AI-systemen. Reddit’s moderators zijn bijvoorbeeld in staking gegaan nadat het bedrijf aankondigde dat het de kosten voor toegang tot zijn API drastisch zou verhogen, gedeeltelijk als reactie op AI-bedrijven die zijn data scrapen.
- Wikipedia is in debat over het gebruik van AI-taalsystemen om artikelen te schrijven, waarbij de moderators zich bewust zijn van de problemen die deze systemen met zich meebrengen, zoals het hallucineren van feiten en bronnen.
- Stack Overflow heeft vergelijkbare zorgen. Het platform heeft het gebruik van ChatGPT verboden vanwege de hoge onjuistheidsgraad van de door het model gegenereerde antwoorden. Het management heeft echter plannen om deze technologie te benutten, wat leidt tot meningsverschillen met de moderators die de site-standaarden handhaven.
- Ook Google ondergaat significante veranderingen. Het experimenteert met het vervangen van de traditionele 10 blauwe links door AI-gegenereerde samenvattingen, deels als reactie op de populariteit van Bing AI en ChatGPT als alternatieve zoekmachines. Dit kan echter ingrijpende gevolgen hebben, waarbij de AI-gegenereerde samenvattingen de originele sites van verkeer kunnen beroven, waardoor de inkomsten zienderogen afnemen.
Het instorten van het model
Vanuit bovenstaand perspectief verdienen een tweetal recent verschenen wetenschappelijke artikelen ook de aandacht. Uit de studie “Artificial Artificial Artificial Intelligence: Crowd Workers Widely Use Large Language Models for Text Production Tasks” blijkt dat crowd-sourced werknemers op platforms zoals Amazon’s Mechanical Turk steeds vaker toegeven Large Language Models te gebruiken om op tekst gebaseerde taken uit te voeren.
Bijvoorbeeld het samenvatten van medische onderzoeksdocumenten.
Geschat werd dat 33-46% van de crowdwerkers LLM’s gebruikte om de taak te voltooien. Volgens de onderzoekers geeft dit reden tot bezorgdheid over de verwatering van de ‘menselijke factor’ in gecrowdsourcete tekstgegevens. Het kan volgens hen van invloed zijn op de kwaliteit en authenticiteit van onderzoek dat met behulp van deze platforms wordt uitgevoerd.
Uit het tweede onderzoek “The Curse of Recursion: Training on Generated Data Makes Models Forget“, uitgevoerd door onderzoekers van de Universiteit van Oxford, de Universiteit van Cambridge, de Universiteit van Toronto en het Imperial College London, bleek dat het trainen van AI-systemen op synthetische gegevens die zijn gegenereerd door andere AI-systemen kan leiden tot modeldegradatie en het uiteindelijk instorten van het model. Dit is het zogeheten Habsberger-effect, dat ik reeds beschreef in “Metagids #61 – Artificial Intelligence inteelt holt cultuur uit“.
Wat neemt kunstmatige intelligentie ons af?
De praktijk leert dat nieuwe technologie iets toevoegt, maar ook iets overbodig maakt. Ik vraag mij af wat kunstmatige intelligentie ons afneemt. Ik ben bang dat we er niet slimmer van worden.
Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.