Kritische kanttekeningen bij ChatGPT

De Metagids #53: Gelukkig zijn er een aantal kritische denkers die door de ChatGPT hype heen prikken en nadenken over de gevolgen van deze technologie.

31 januari 2023, 11:00 3488 x gelezen

Afgelopen week schoof onze nationale knuffelnerd Alexander Klöpping aan tafel bij het entertainmentprogramma van Eva Jinek om het publiek bij te praten over de laatste ontwikkelingen op het gebied van kunstmatige intelligentie. Enthousiast legde Klöpping uit hoe ChatGPT onze wereld voorgoed gaat veranderen. Zo gaan we de techniek onder andere terugvinden in allerlei Microsoft Office producten, is het mogelijk om ChatGPT door je dagboeken te laten ploeteren waardoor je met een jongere versie van jezelf kunt overleggen en uiteindelijk gaan we zelfs met overleden mensen kunnen praten. Zelf had Klöpping al via de app Historical Figures een gesprek gevoerd met Steve Jobs. En ja, Jobs vond Blendle een goed idee.

Kritiekloos entertaintment

Het was… kritiekloos entertainment. Nergens in het gesprek werden vraagtekens gezet bij hetgeen ChatGPT de mensheid te bieden heeft. Al eerder had Klöpping in zijn podcast POM de introductie van ChatGPT qua orde van grootte vergeleken met die van het internet en de smartphone. De impact van deze laatste twee is nog dagelijks merkbaar: een hyper gefragmenteerde samenleving die de fundamenten van onze democratie ondermijnt en waarin mensen voortdurend een digitaal infoshotje nodig hebben om afkickverschijnselen tegen te gaan.

ChatGPT is een systeemtechnologie, een horizontale innovatie, die elk facet van onze samenleving gaat raken. Waarom zouden we ons in hemelsnaam zorgen moeten maken om de introductie van deze kunstmatige intelligentie?Gelukkig zijn er een aantal kritische denkers die door de hype heen prikken, die nadenken over de gevolgen van deze technologie. Ik zet hun belangrijkste commentaar graag voor je op een rijtje.

ChatGPT: Kritische kanttekeningen

  • In het artikel “Waarom programma’s als ChatGPT ons minder menselijk maken” stelt auteur Tom Grosman dat “Generatieve kunstmatige intelligentie ons datgene ontneemt wat ons een vrij en autonoom gevoel geeft, te weten: handelen, scheppen, creatief bezig zijn en ons capabel voelen. Het heeft een amputerende werking. […] Creativiteit verwordt tot iets bestelbaars. Het is on demand voor iedereen beschikbaar.” Vraag is daarmee dus ook of het veel genoemde argument dat ChatGPT “de democratisering van creativiteit” bevordert überhaupt wel waar is….
  • Filosoof Hans Schnitzler liet via Twitter het volgende weten: “Indien wij taal niet meer verwerven, maar de taal ons, dan veranderen we definitief in batterijen voor de machine. Dan vegen we niet alleen onze horizon uit, maar tevens onszelf.” Het sluit aan bij wat cultuursocioloog Siri Beerends eerder op LinkedIn schreef: “Door de diepte en breedte van taalcompetentie te reduceren tot datgene waar computers goed in zijn, cancelen we onszelf”. Een figuur die afgelopen week de ronde deed op Reddit is onderstaande. Te zien is hoe iemand die reageert op een vacature gebruik maakt van ChatGPT. De kunstmatige intelligentie schrijft vervolgens een keurige mail. De ontvanger maakt echter ook weer gebruik van ChatGPT om de mail weer samen te vatten. Het leidt tot de uitspraak: “ChatGPT is good for generating the type of content people don’t want to write, for others who don’t want to read it.”
  • De uitkomsten van ChatGPT zijn niet deterministisch, maar gebaseerd op statische waarschijnlijkheden, op voorspellingen. ChatGPT is een “stochastische papegaai“. Het apparaat kraamt maar wat uit. Het beredeneert en begrijpt niets. Het hallucineert feiten. ChatGPT levert dus een “tsunami aan bullshit” op, zoals wordt beschreven in het Volkskrant-artikel “Bedenkingen bij ChatGPT: zakken we weg in een moeras van desinformatie?“. In het uiterste geval betekent dit dat we in Jean Baudrillard’s “hyperrealiteit” terecht komen, een werkelijkheid waarin de kopie belangrijker wordt gevonden dan het origineel. Het zou kunnen betekenen dat “consumenten geen onderscheid meer kunnen maken tussen ‘echt’ (door mensen) geproduceerd materiaal en de synthetische kopieën die slechts een illusie van authenticiteit en begrip van de wereld geven.” We slikken dus voor zoete koek wat ChatGPT ons voorschotelt, wat uiterst gevaarlijk situaties kan opleveren. Een ingevoerde beschrijving van “hoe gemalen porselein dat aan moedermelk wordt toegevoegd, het spijsverteringssysteem van de baby ondersteunt” kreeg een bevestigend antwoord, dat niet alleen lariekoek is, maar ronduit kwaadaardig.
  • Misbruik door kwaadwillenden: in 2025 zal 90% van de digitale informatie door kunstmatige intelligentie gegenereerd zijn. We stevenen regelrecht op een informatie-apocalyps af, waarbij feit niet langer van fictie en echt niet langer van nep te onderscheiden is. Iedereen kan op deze manier zijn eigen realiteit creëren teneinde de perceptie van anderen moedwillig te manipuleren. Trollen, bots en buitenlandse overheden zien ChatGPT niet als een bedreiging, maar als een kans. In handen van kwaadwillenden is ChatGPT het nieuwste wapen in de informatieoorlog die online woedt.
  • ChatGPT maakt geen gebruik van bronvermelding. Onduidelijk is waar de kunstmatige intelligentie precies zijn informatie vandaan haalt en of hier bijvoorbeeld ook auteursrechten op rusten. Hoe gaat ChatGPT bijvoorbeeld met intellectueel eigendom om?
  • Volgens OpenAI, de maker van ChatGPT, zal heel de mensheid profiteren van kunstmatige intelligentie. Alleen niet de Kenianen, zo onthulde Time Magazine, zij mogen voor minder dan 2 dollar per uur alle “giftige” informatie uit de dataset van ChatGPT filteren.
Sander Duivestein
Topspreker / Trendwatcher / Auteur / Columnist bij Sogeti

Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.

Categorie

Marketingfacts. Elke dag vers. Mis niks!