Waarom ChatGPT verboden moet worden

Metagids #48: ChatGPT moet verboden worden. Het is volgens professoren een "stochastische papegaai".

13 december 2022, 10:44 9254 x gelezen

Er gebeurt momenteel iets sensationeels op het gebied van kunstmatige intelligentie, dat is je vast niet ontgaan. Iedereen heeft de mond vol van applicaties als ChatGPT, Dall E2, Lensa en RunawayML, die met kinderlijk gemak in staat zijn om binnen een paar seconden hyperrealistische teksten, afbeeldingen, portretten en filmfragmenten te creëren, die niet langer van echt zijn te onderscheiden. Moeten we deze generatieve vorm van kunstmatige intelligentie omarmen of moeten we ons juist grote zorgen maken?

Zelfs de NOS jubelt

In de eerste vijf dagen na publicatie hebben meer dan een miljoen mensen gebruik gemaakt van de diensten van AI-schrijfchatbot ChatGPT. De snelheid van adoptie ligt hiermee aanzienlijk hoger dan die van Facebook (304), Spotify (152), Instagram (76) en de iPhone (74). In zijn POM podcast plaatste zelfbenoemde nerd Alexander Klöpping de introductie van ChatGPT op gelijke hoogte met die van het internet en de iPhone. Zelfs de NOS bejubelde dit weekend in het televisiejournaal de doorbraak: “We bevinden ons op een kantelpunt.”

ChatGPT: Zo werkt het

De tekstgenerator is met enorme hoeveelheden door mensen gemaakte teksten gevoed. In deze brij aan data gaat het onderliggende taalmodel op zoek naar statistische patronen. Zo leert het welke woorden en zinsdelen met andere taalelementen worden geassocieerd en is het vervolgens in staat om precies te voorspellen welke woorden op elkaar moeten volgen en hoe de zo geconstrueerde zinnen op een coherente manier bij elkaar passen. Het eindresultaat is een chatbot die op een uiterst overtuigende manier de menselijke taal imiteert.

Op sociale media worden de verbluffende resultaten van de tekstgenerator veelvuldig met elkaar gedeeld. Een opstel, een gedicht, een marketingstrategie, een samenvatting van een academische artikel, een fictief verhaal in de stijl van Harry Potter, je kunt het zo gek niet bedenken, of de chatbot weet het razendsnel te genereren. Experts beweren zelfs dat ChatGPT het einde van de hegemonie van zoekmachine Google betekent. Stel een vraag aan de chatbot en je krijgt in een keer het goede antwoord, in plaats van zelf door tien verschillende hyperlinks heen te moeten ploeteren.

Deterministisch vs Probabilistisch

Analist Ben Thompson vergelijkt de gegenereerde output met die van een rekenmachine. Volgens hem is er echter één groot verschil. De uitkomsten van een calculator zijn deterministisch, die van de chatbot zijn probabilistisch. Iedere keer dat je de rekensom 2 + 2 invult op de rekenmachine invult, zal het eindresultaat hetzelfde zijn, namelijk 4. In het geval van ChatGPT hoeft dit niet zo te zijn. Op basis van de verkregen context genereert de kunstmatige intelligentie de meest waarschijnlijke uitkomst en deze kan dus iedere keer anders zijn.

“ChatGPT is volgens professoren een “stochastische papegaai”. Het apparaat kraamt maar wat uit. Het hallucineert feiten.”

ChatGPT is volgens professoren een “stochastische papegaai“. Het apparaat kraamt maar wat uit. Het beredeneert en begrijpt niets. Het hallucineert feiten. Een beschrijving van “hoe gemalen porcelein dat aan moedermelk wordt toegevoegd, het spijsverteringssysteem van de baby ondersteunt” is niet alleen lariekoek, maar ronduit kwaadaardig.

Machinale verzinsels voor waarheid aangenomen

Het grote gevaar is dat de machinale verzinsels voor waarheid worden aangenomen, omdat de uitkomsten zo levensecht lijken. “Door de diepte en breedte van taalcompetentie te reduceren tot datgene waar computers goed in zijn, cancelen we onszelf“, zegt onderzoekster Siri Beerends. In handen van kwaadwillenden verandert ChatGPT zo in het nieuwste wapen om te gebruiken in de informatieoorlog die online woedt.

In 2025 zal 90% van de digitale informatie door kunstmatige intelligentie gegenereerd zijn. We stevenen regelrecht op een informatie-apocalyps af, waarbij feit niet langer van fictie en echt niet langer van nep te onderscheiden is. Iedereen kan op deze manier zijn eigen realiteit creëren teneinde de perceptie van anderen moedwillig te manipuleren. Trollen, bots en buitenlandse overheden zien ChatGPT niet als een bedreiging, maar als een kans.

Informatie-apocalyps: ChatGPT moet verboden worden

Nepnieuws, samenzweringstheorieën en deepfakes zijn kinderspel vergeleken met wat ChatGPT kan. Een machine die beter dan mensen in staat is om misinformatie te verspreiden moet niet bewonderd worden, maar verafschuwd. Als samenleving zijn we totaal niet voorbereid op dit kwaadaardige geautomatiseerde virus. ChatGPT moet verboden worden.

Sander Duivestein
Topspreker / Trendwatcher / Auteur / Columnist bij Sogeti

Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.

Categorie
Tags

2 Reacties

    Interessante take. Denk je dat het ook verboden te maken is met de huidige wetgeving?
    En hoe zie je de rol van bv wetenschappers en journalisten op dit? Is er geen enkele manier om de potentieel nare gevolgen te tackelen?


    13 december 2022 om 13:17

    Interessante vergelijking: de gegenereerde output van ChatGPT met die van een rekenmachine. Ben ook benieuwd hoe dit verder gaat. Als je een beetje handig bent en weet hoe je dit moet inzetten dan gaan er wel wat nieuwe en onjuiste waarheden ontstaan. En die zijn wat lastiger te herkennen dan de malafide zoekresultaten in zoekmachines.


    19 december 2022 om 08:02

Marketingfacts. Elke dag vers. Mis niks!