Deepfakes, de stand van zaken
De Metagids #73 - Deutsche Telekom waarschuwt voor sharenting, cyberbullying, identiteitsdiefstal en kinderporno.
Sinds 2017 volg ik de opkomst van deepfakes op de voet. Het was zelfs een van de aanleidingen om ons boek “Echt Nep – Spelen met de realiteit in tijden van ChatGPT, deepfakes en de metaverse” te schrijven. De afgelopen weken valt mij op hoe vaak deepfakes worden gebruikt en hoe makkelijk het eigenlijk geworden is om ze zelf te maken.
Dit weekend veroorzaakte de deepfake-video “Without consent” van het Deutsche Telekom veel commotie. Te zien is hoe een digitaal verouderde Ella haar ouders onverwachts in een volle bioscoopzaal toespreekt. In de loop der jaren hebben haar ouders goedbedoeld veelvuldig foto’s van de jonge Ella online gedeeld (ook wel “sharenting” genoemd). In een rollercoaster van emoties laat ze vervolgens zien hoe deze beelden online worden misbruikt: van cyberbullying tot identiteitsdiefstal tot kinderporno.
Een week daarvoor ging Virgin Voyages viraal met een deepfake versie van Jennifer Lopez. De advertentie begint als een traditionele videoadvertentie, waarin Jennifer Lopez te zien is terwijl ze achterover leunt op een zonnebank op een van de schepen van Virgin en tegen de camera praat. Al snel wordt duidelijk dat we hier te maken hebben met een door AI gecreëerde versie van Jennifer. Ze wordt bestuurd door een marketingteam dat Jennifer’s houding en uitspraken genereert vanuit een controlekamer. Het leuke hieraan is dat dit digitale poppenspel voor iedereen beschikbaar is. Iedereen kan een gepersonaliseerde boodschap van de superster creëren om vrienden of familie uit te nodigen voor een cruise. En wie wil dat nu niet?
Een andere deepfake die mijn aandacht trok was die van Donald Trump en Joe Biden die ongescript op het platform Twitch tegen elkaar tekeer gingen. De beelden werden door AI realtime gegenereerd. De meest hilarisch uitspraken vind je in onderstaande compilatie terug. Politiek bedrijven zal door deepfake-technologie nooit meer hetzelfde zijn.
Politiek zal door deepfake-technologie dus nooit meer hetzelfde zijn. Dit werd eens te meer duidelijk dankzij de spoof-video die door Russia Today werd gemaakt. Te zien is hoe Joe Biden, Rishi Sunak, Emmanuel Macron en Ursula von der Leyen niet in staat zijn om sancties tegen de Russen in te stellen.
En zelf kun je dit dus ook. Zo maakte ik met behulp van de webapp Runway onderstaande video. Door referentiefoto’s van Mark Rutte, Eva Jinek en Umberto Tan te gebruiken kun je je met een knip van de vingers in hen veranderen. Nog heel pixelmatig, maar kijk naar de evolutie die Midjourney afgelopen jaar heeft doorgemaakt – van brokkelige pixels naar hyperrealistisch – en je begrijpt dat we dit binnen nu en een jaar ook met videobeelden kunnen.
Tot slot nog onderstaande video. Door gebruik te maken van diverse tools was ik in staat om deze in een half uur tijd te creëren. Met beeldgenerator Midjourney creëerde ik een hyperrealistische foto van een robot-achtige dame in een futuristische omgeving. Met een plugin kon ik vervolgens het gezicht van Eva Jinek erin swappen. Haar stemgeluid kon ik klonen via Elevenlabs en met D-ID kon ik vervolgens het gezicht animeren. Levensecht? Nog niet, maar laat ik dit over een jaar nog eens proberen.
Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.