De visie van Barack Obama op artificial intelligence

"People get ready, there is a train coming, you don't need no luggage just get on board"

De visie van Barack Obama op artificial intelligence
, Qing
@yourqing

Bob Dylan zong het in de jaren zestig om de toen ophanden zijnde maatschappelijke veranderingen te verwoorden: "People get ready, there' a train a-coming, you don't need no baggage, you just get on board." De artificial-intelligencetrein is ook vertrokken en heeft koers gezet naar het beloofde land. Het enige wat we hoeven te doen, is aan boord te stappen. Kunstmatige intelligentie biedt ons de mogelijkheid onze dromen waar te maken: het heeft bijvoorbeeld de potentie ziektes te genezen, wereldarmoede te elimineren en klimaatverandering tegen te gaan. Het beloofde land klinkt aanlokkelijk, maar vooralsnog is het grote publiek nog huiverig om aan boord te stappen. In een artikel in Wired geeft president Barack Obama zijn visie op een aantal vraagstukken rondom AI en wat mensen weerhoudt. In deze blog ga ik wat dieper in op een aantal van de ethische kwesties die president Obama benoemt.

Angst voor AI is meer dan een "imagoprobleem"

Ondanks de enorme potentie van AI om grote vraagstukken op te lossen, zijn veel mensen er ook bang voor. Deze angst is de afgelopen decennia mede gevoed door de vele films waarin superintelligente robots zich tegen de mensheid keren en de heerschappij van onze planeet willen overnemen.

Maar het zijn niet alleen films die ons tegen de gevaren van AI waarschuwen. Het is ook een aantal zeer vooraanstaande personen, zoals Bill Gates, Elon Musk en Steven Hawkins. Dit geeft aan dat enige reden tot ongerustheid wel op zijn plaats is.

Ook de techgiganten, waarvan een aantal de afgelopen jaren veel in AI hebben geïnvesteerd, onderkennen het probleem en hebben stappen genomen om hier wat aan te doen. Amazon, Facebook, Google, IBM en Microsoft hebben de krachten gebundeld en hebben gezamenlijk een nieuwe organisatie opgericht: The Partnership on Artificial Intelligence to Benefit People and Society.

Een van de doelstellingen van deze organisatie is zoveel mogelijk mensen te informeren over AI en een platform te bieden voor een maatschappelijke discussie, in het bijzonder over de gevaren en de ethische aspecten.

Artificial general intelligence (AGI)

In het interview maakt President Obama het onderscheid tussen 'narrow artificial intelligence' (narrow AI) en 'artificial generalized intelligence' (AGI). Met AGI wordt de kunstmatige intelligentie bedoeld zoals we die uit de films kennen. Bijvoorbeeld Skynet, het zelfdenkend computernetwerk uit de Terminator-films, dat zich tegen de mensheid keert.

Onder de experts bestaat momenteel de consensus dat we ons op korte termijn nog geen zorgen over hoeven te maken over deze vorm van AI. Er is nog een aantal technische doorbraken nodig om AGI te bouwen.

Ik richt mij in deze blog dan ook niet op de ethische vraagstukken rondom de toekomstige Skynets, maar op die rondom 'narrow AI'.

Narrow artificial intelligence

Daar waar AGI nog iets voor de toekomst is, wordt narrow AI al toegepast. Het bevat geen algemene intelligentie, maar gebruikt algoritmes en computers om zeer complexe taken uit te voeren, zoals gezichtsherkenning, autorijden of vinden van informatie op het internet.

If properly harnessed, it can generate enormous prosperity and opportunity. But it also has some downsides that we’re gonna have to figure out in terms of not eliminating jobs.

Het gevaar van uitsluiting

AI neemt in haar analyses een grote aantal variabelen mee en berekent de meest voor de hand liggende keuze. Dit kan ertoe leiden dat mensen die geen standaardprofiel hebben minder kans maken om bijvoorbeeld een baan te vinden of om een lening af te sluiten.

As technologies emerge and mature, then figuring out how they get incorporated into existing regulatory structures becomes a tougher problem, and the overn­ment needs to be involved a little bit more.

In een "inclusieve" samenleving die geen mensen buiten wilt sluiten, is dit niet wenselijk. In het interview geeft Obama aan dat het juist de uitzonderingen zijn die ons menselijk maken. De zonderlingen, mafkezen en wierdo's die tegen bestaande conventies een briljante uitvinding of theorie ontwikkelen en daarmee de mensheid een stap verder helpen - denk aan Albert Einstein, Charles Darwin of Mozart.

Wellicht dat er een taak voor onze overheid ligt om ervoor te zorgen dat het gebruik van AI geen mensen uitsluit door hun kansen op de arbeidsmarkt of door de toegang tot krediet te verkleinen.

AI kan niet verantwoordelijk worden gehouden

Een bijkomende kwestie is die van verantwoordelijkheid. Het is natuurlijk vervelend wanneer je wordt afgewezen voor jouw droombaan, het is nog vervelender als je erachter komt dat dit niet door een persoon is gebeurd, maar door een artificial intelligence bot. Wanneer je vervolgens wilt weten wat de reden van de afwijzing is geweest, komt het tweede probleem: "Nobody knows".

AI-systemen fungeren namelijk als een black box. Je kunt zien wat de output is, maar je kunt niet in de 'zwarte doos' zelf kijken en herleiden hoe het systeem tot de beslissing is gekomen. In de lente van dit jaar heeft de Europese Unie een wet aangenomen die haar burgers het recht geeft op een verklaring, hoe een instituut tot haar beslissing is gekomen, ook al is die beslissing door een AI tot stand gekomen.

Zo'n verklaring is ook belangrijk voor de acceptatie van AI door het grote publiek. Google doet momenteel onderzoek of het afbeeldingen uit haar 'deep dreaming'-programma kan gebruiken om fouten in AI aan te duiden en op die manier inzicht te krijgen in de werking van de black box.

Kunnen we AI beslissingen over leven en dood laten nemen

Op dit moment rijden er al zelfrijdende auto's van Google rond en Uber doet al tests met zelfrijdende taxi's in Pittsburgh.

But Joi made a very elegant point, which is, what are the values that we’re going to embed in the cars?

Aan het op grote schaal introduceren van zelfrijdende auto's kleeft ook een aantal ethische kwesties. Hoe zal de zelfrijdende auto, met daarin een gezin, reageren als er plotseling een ander gezin de weg over steekt? Welke keuzes maakt het in situaties waarbij het moet kiezen tussen leven en dood? Hoe legt het verantwoording af over de gemaakte keuzes?

Toenemende werkloosheid

Het gebruik van AI zal processen efficiënter maken tegen lagere kosten. Neem het voorbeeld van Uber en de zelfrijdende taxi's: door gebruik te maken van AI zal de taxibranche vele malen efficiënter worden, tegen aanzienlijk lagere kosten. Het nadeel is dat een groot aantal chauffeurs hun banen verliest. Uiteindelijk zal AI ertoe leiden dat de productiviteit en de welvaart binnen onze maatschappij toenemen, maar dat de werkgelegenheid afneemt.

Tot aan het grootste gedeelte van de 20ste eeuw leidde automatisering tot een hogere productiviteit, wat weer voor nieuwe banen zorgde. Aan het einde van de vorige eeuw onstond er een breuk in die trend. De productiviteit neemt nog steeds toe, maar de werkgelegenheid niet meer.

Een stijgende welvaart gecombineerd met minder banen vraagt om een andere inrichting van onze maatschappij. We verlaten het tijdperk dat welvaart en inkomen via arbeid worden verdeeld. Daardoor zal dit steeds meer via bezit (aandelen) plaatsvinden. We zullen een balans moeten vinden tussen werk en het verdelen van de toenemende welvaart.

What is indisputable, though, is that as AI gets further incorporated, and the society potentially gets wealthier, the link between production and distribution, how much you work and how much you make, gets further and further attenuated—the computers are doing a lot of the work.

Get on board

We staan momenteel aan de vooravond van een nieuwe wereld waarin AI een steeds grotere rol gaat spelen. Om ervoor te zorgen dat iedereen op de trein stapt, is een open en eerlijke informatievoorziening van groot belang. De Amerikaanse overheid en grote tech-bedrijven onderkennen dit en hebben al stappen ondernomen om zoveel mogelijk mensen te informeren en bij de discussie te betrekken.

Met name de informatievoorziening en discussie over de gevaren en ethische aspecten van AI zijn van belang. Normen en waarden vormen de basis van de beslissingen die we nemen. Cruciaal voor acceptatie is dat beslissingen die een AI-systeem neemt de normen en waarden van onze maatschappij reflecteren.

Deze informatievoorziening en discussie mis ik nog in Nederland. Ik hoop dat ik met het schrijven van deze blog een aanzet heb gegeven tot een betere informatievoorziening rondom dit thema en ook een aanzet heb gegeven tot meer discussie.

Credits afbeelding: Stanley Kubrick, licentie: CC BY (Commercieel hergebruik, inclusief aanpassing)

Delen

0
0


Er zijn 8 reacties op dit artikel

  • Wat een vreselijke misinterpretatie van een prachtig nummer!!

    Dit nummer heeft totaal niets te maken maken met "op handen zijnde veranderingen", maar gaat over het geloof om in de Hemel te komen.

    Jammer, maar als de auteur dit eenvoudige al niet goed kan interpreteren, wat zou dan de waarde van de rest zijn?

    geplaatst op
  • @John: ben je een discipel van Andries Knevel en roep je maar wat of ben je serieus? In dat laatste geval ben ik heel benieuwd waar je dat idee vandaan haalt. Ik heb de betreffende editie van Wired hier voor m'n neus liggen en ik haal het er niet uit.

    geplaatst op
  • @ John: Het originele nummer is geschreven door Mayfield en hij bedoelde daar inderdaad de reis naar de hemel mee. Het nummer werd een jaar na de "mars naar Washington" uitgebracht en weerspiegelde voor velen de essentie van de mars, een betere toekomst voor iedereen. Het nummer is door velen gecoverd waaronder Bob Dylan. Met zijn cover bedoelde Bob Dylan niet de reis naar de hemel maar de reis naar een betere toekomst. http://www.npr.org/news/specials/march40th/people.html

    geplaatst op
  • @John: mijn nederige excuses! Ik dacht dat je het over het nummer van Wired had... *duikt zich diep schamend in een hoekje*

    geplaatst op
  • Gaaf artikel. IK mis dit soort beschouwingen ook in het Nederlandse (online) medialandschap!

    geplaatst op
  • Steve Jobs wist het ook al, en ik kan mij erg vinden in zijn quote:
    Here's to the crazy ones, the misfits, the rebels, the troublemakers, the round pegs in the square holes... the ones who see things differently -- they're not fond of rules... You can quote them, disagree with them, glorify or vilify them, but the only thing you can't do is ignore them because they change things... they push the human race forward, and while some may see them as the crazy ones, we see genius, because the ones who are crazy enough to think that they can change the world, are the ones who do.

    geplaatst op
  • @Gustavo. Idd goed verwoord. We moeten ervoor waken dat niet alles een grauwe middelmaat wordt waarbij er geen ruimte meer is voor de: "crazy ones, misfits and rebels".

    geplaatst op
  • Inderdaad Arno :-)

    geplaatst op

Plaats zelf een reactie

Log in zodat je (in het vervolg) nóg sneller kunt reageren

Vul jouw naam in.
Vul jouw e-mailadres in. Vul een geldig e-mailadres in.
Vul jouw reactie in.

Herhaal de tekens die je ziet in de afbeelding hieronder


Let op: je reactie blijft voor altijd staan. We verwijderen deze dus later niet als je op zoek bent naar een nieuwe werkgever (of schoonmoeder). Reacties die beledigend zijn of zelfpromotioneel daarentegen, verwijderen we maar al te graag. Door te reageren ga je akkoord met onze voorwaarden.