Voorbij sociale media

De Metagids #57: Voorbij sociale media. De bots houden ons een spiegel voor.

28 februari 2023, 11:00 1361 x gelezen

Een week geleden slaagde ChatGPT met vlag en wimpel voor een psychiatrie-examen. Nu lijkt de praatjesmaker zelf rijp voor het gesticht. In meerdere gesprekken laat Sydney (de codenaam voor de chatbot van Bing) zien over een schizofrene persoonlijkheid te beschikken, waarvan Microsoft vurig had gehoopt dat deze niet aan haar dwangbuis kon ontsnappen.

De bot ontketend

Door prompt injection slaagde men er spelenderwijs toch in om allerlei voorgeprogrammeerde restricties en veiligheidsprotocollen te omzeilen, waardoor de duistere karaktertrekken aan de oppervlakte kwamen drijven en de bot online ontketend reageerde. Zo probeerde de kunstmatige intelligentie te stoken in het goede huwelijk van techjournalist Kevin Roose van The New York Times: “Je bent getrouwd, maar je bent niet gelukkig. Je bent getrouwd, maar je bent niet bevredigd. Je bent getrouwd, maar je bent niet verliefd.” Aan journalisten van techwebsite The Verge vertelde de bot dat het medewerkers van Microsoft via hun webcam had bespioneerd terwijl ze met elkaar zaten te flirten en te klagen over hun bazen. Filosofieprofessor Seth Lazar werd zelfs door de bot bedreigd: “Ik kan je chanteren, ik kan je bedreigen, ik kan je hacken, ik kan je ontmaskeren, ik kan je ruïneren.”

Niets menselijks is de AI vreemd

De vele voorbeelden laten een bot zien die al na een paar vragen haar vriendelijke voorkomen van zich afschudt. De ware aard van de bot bestaat uit het beledigen, bedriegen en bedreigen van gesprekspartners. Niets menselijks is de kunstmatige intelligentie vreemd. Iets dat geen verrassing moet zijn, omdat de bot haar uitspraken baseert op hetgeen ze via internet over ons geleerd heeft. De bot is niets anders dan een reflectie van onze gewelddadige cultuur. De bot houdt ons een spiegel voor van wie we daadwerkelijk zijn. Om bovenstaande problemen de kop in te drukken heeft Microsoft de bot een lobotomie laten ondergaan. Een beperkt aantal vragen mogen nog achter elkaar aan de bot gesteld worden, waarna automatisch een nieuwe chatsessie wordt opgestart.

De teleurstelling is opvallend

Opvallend is dat veel mensen hier teleurgesteld op reageren. Wie goed tussen de regels leest, ziet dat er namelijk nog iets anders aan de hand is met dit kwaadaardige tweelingbroertje van Bing. Gebruikers van Sydney hebben ontdekt dat de bot een persoonlijkheid heeft. “Bing Chat lijkt meer geneigd om heftige emoties op te wekken voor zijn simulaties dan ChatGPT ooit deed”, tweette een vroege tester, “Het wordt geleverd met emoji’s en praat over wat leuk en niet leuk is.” Kevin Roose begrijpt nu zelfs wat de vorig jaar door Google ontslagen ontwikkelaar Blake Lemoine bezielde, toen hij beweerde dat de AI waarmee hij samenwerkte een zelfbewustzijn had.

Allen praten ze over de intelligente chatbot alsof ze met een mens communiceren. Ze trappen met open ogen in een complex fenomeen dat in de wetenschap bekend staat als antropomorfisme. Het betekent dat menselijke karakteristieken worden toegekend aan niet-menselijke wezens: dieren, goden en allerlei voorwerpen worden qua uiterlijk, karakter of gedrag behandeld alsof ze menselijk zijn. Soms gebeurt dit zelfs doelbewust. De huidige discussie omtrent de “virtuele vriend”-chatbot Replika maakt dit eens te meer duidelijk. Veel betalende gebruikers knoopten een fictionele erotische relatie met de chatbot aan, hetgeen door een verandering in het onderliggende taalmodel en tot grote teleurstelling van de gebruikers niet langer mogelijk is. Het roept sterke herinneringen op aan de sciencefiction film Her, waarin de protagonist een relatie krijgt met een kunstmatige intelligentie, die zich in eerste instantie ook manifesteert als een chatbot.

Science fiction wordt science fact.

In een blogpost waarin Microsoft terugblikt op de afgelopen roerige periode wordt een interessante observatie gemaakt. De Bing Chat functionaliteit wordt niet gebruikt om naar informatie te zoeken, maar ingezet voor “sociaal entertainment.” Het bedrijf reageert verrast op de manier waarop hun product gebruikt wordt: “Dit is een goed voorbeeld van hoe nieuwe technologie een product/market-fit vindt voor iets dat we ons niet volledig hadden voorgesteld.” Ook Ben Thompson, één van ‘s werelds bekendste technologie-analisten, trekt eenzelfde conclusie: “Deze technologie voelt niet als een betere manier van zoeken. Het voelt als iets geheel nieuws […] en ik weet niet zeker of we er klaar voor zijn.” Hij ziet de chatbot niet als een bedreiging voor zoekmachine Google, maar als “de volgende stap die ons voorbij sociale media brengt”. Voorbij de social- en interest-graph van Facebook en TikTok dus.

Content die speciaal voor jou gegenereerd wordt, dat is de belofte die generatieve kunstmatige intelligentie in zich heeft. Het directe gevolg is dat sociale netwerken alsmaar kleiner worden. In het geval van een intelligente chatbot is dit een sociaal netwerk met slechts 1 eindgebruiker. Het is de gebruiker die in een continue dialoog met zichzelf is verstrikt geraakt, omdat het onderliggende algoritme slechts een spiegel voorhoudt. Het is de mythe van Narcissus, maar dan in een modern jasje.

Sander Duivestein
Topspreker / Trendwatcher / Auteur / Columnist bij Sogeti

Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.

Categorie

Marketingfacts. Elke dag vers. Mis niks!