De Metagids #85 – Het Dilemma van OpenAI: Creatie versus Consequentie
De druk om producten te commercialiseren botste met de missie van het bedrijf, en zorgde voor een onhoudbare verdeeldheid onder het leiderschap.
Het recente, onverwachte ontslag van CEO Sam Altman bij OpenAI – en het in dienst treden bij Microsoft – biedt een fascinerende blik op de hedendaagse versie van een eeuwenoude strijd: die tussen innovatie en de angst voor de onbekende consequenties ervan.
OpenAI, opgericht in 2015 als een non-profit organisatie met als missie om kunstmatige algemene intelligentie (AGI) te creëren ten bate van de gehele mensheid, transformeerde in 2019 naar naar een organisatiemodel waarbij winst mogelijk is, maar wel onder de strikte regie van een non-profit bestuur.
Deze structuur leidde tot een interne machtsstrijd tussen twee ideologische kampen binnen het bedrijf, door Altman als ’tribes’ bestempeld. Aan de ene kant staan de techno-optimisten, gedreven door commerciële vooruitgang en innovatie, terwijl aan de andere kant de voorstanders van voorzichtigheid en ethische overwegingen staan, bezorgd over de mogelijke existentiële bedreigingen die AI voor de mensheid kan vormen. Deze spanning kwam tot een hoogtepunt met de ontwikkeling en release van ChatGPT en later GPT-4 en GPT-4 Turbo, die zowel commercieel succesvol waren als bronnen van zorg voor de mogelijke onbedoelde gevolgen. De druk om producten te commercialiseren botste met de missie van het bedrijf, en zorgde voor een onhoudbare verdeeldheid onder het leiderschap.
Deze strijd in OpenAI weerspiegelt een diepere filosofische vraag die de mensheid al lang bezighoudt: hoe gaan we om met onze eigen creaties, vooral als deze het potentieel hebben om ons te overstijgen of zelfs te bedreigen? De geschiedenis leert dat elke grote technologische vooruitgang zowel immense voordelen als significante risico’s met zich meebrengt. Technologie is niet goed of slecht, maar ook niet neutraal.
Wat duidelijk wordt uit de ontwikkelingen bij OpenAI is dat de toekomst van AI – en mogelijk de toekomst van de mensheid – afhangt van het vinden van een evenwicht tussen deze twee krachten. De uitdaging is niet alleen technologisch, maar ook ethisch en filosofisch. In onze haast om de grenzen van wat mogelijk is te verleggen, mogen we niet vergeten de vraag te stellen: moeten we alles doen wat we kunnen doen?
Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.