De zeven doodzonden van AI-voorspellingen

We worden omringd door hysterische berichten over de toekomst van kunstmatige intelligentie (AI) en robotisering. Met angstverhalen over hoe machtig AI gaat worden, hoe snel dat zal gebeuren en de verschrikkelijke gevolgen voor onder andere de arbeidsmarkt.

Volgens Rodney Brooks, voormalig directeur van de Computer Science and Artificial Intelligence Laboratory van MIT, leiden allerlei dit soort verkeerde extrapolaties, beperkte verbeeldingskracht en andere andere vergissingen ons af van een meer productieve benadering van wat de toekomst ons kan brengen.

 

AI sins
Illustratie: Joost Swarte

Belachelijke AI-voorspellingen

Rodney begint zijn artikel met: “I recently saw a story in ­MarketWatch that said robots will take half of today’s jobs in 10 to 20 years. It even had a graphic to prove the numbers. The claims are ludicrous. (I try to maintain professional language, but sometimes …).”

Hij verbaast zich erover dat dit soort uitspraken worden gedaan zonder ook maar een greintje van bewijs. Rodney ageert tegen dit soort angstbeelden, de hype van Singularity en de ongegronde angst dat AI ons zal proberen te vernietigen.

Rodney vindt het hoog tijd om tegengas te geven. Om te beginnen wil hij begrijpen waarom mensen dit soort verhalen zo graag geloven. Hij ziet daarvoor zeven redenen.

1. Overschatting en onderschatting

Rodney citeert hier Amara’s Law: “We hebben de neiging om het effect van nieuwe technologie te overschatten op de korte termijn en te onderschatten op de lange termijn.”

AI is keer op keer overschat, in de jaren ’60 en ’80 (van de vorige eeuw) en nu opnieuw. Maar de effecten voor de lange termijn worden juist onderschat. De vraag is: Hoe lang is lange termijn? De volgende zes vergissingen verklaren waarom de tijd die het kost voor AI om een écht effect te hebben op de samenleving zo wordt onderschat.

2. Magische verbeelding

Hier haalt Rodney de Three Laws van science fiction auteur en uitvinder Arthur C. Clarke aan:

“When a distinguished but elderly scientist states that something is possible, he is almost certainly right. When he states that something is impossible, he is very probably wrong.”

“The only way of discovering the limits of the possible is to venture a little way past them into the impossible.”

En de belangrijkste voor Rodney’s argumentatie: “Any sufficiently advanced technology is indistinguishable from magic.” Er worden nu allerlei ‘magische’ voorspellingen gedaan over AI die meer gebaseerd zijn op een soort van geloof zonder echt te begrijpen wat we ons er bij moeten voorstellen en zonder ook maar een spoortje van bewijs. Rodney maakt een briljante vergelijking met Isaac Newton die naar de toekomst reist en wordt geconfronteerd met een iPhone. Dit apparaat is zo magisch dat hij zich zou kunnen voorstellen dat het lood in goud kan veranderen.

3. Prestatie versus competentie

Een derde verkeerde aanname is dat AI of robots die goed zijn in een bepaalde taak ook heel goed zijn in (alle!) andere taken. Dat is absoluut niet zo. Hier komt onder andere pragmatiek om de hoek kijken.

Rodney geeft het voorbeeld van twee mensen die frisbee spelen in het park. Mensen kunnen moeiteloos antwoord geven op deze vragen: What is the shape of a Frisbee? Roughly how far can a person throw a Frisbee? Can a person eat a Frisbee? Roughly how many people play Frisbee at once? Can a three-month-old person play Frisbee? Is today’s weather suitable for playing Frisbee? Maar een AI-systeem of robot kan dat niet.

De nieuwste Google AlphaGo Zero versloeg de ‘oude’ AlphaGo met 100 punten na het oefenen van 5 miljoen Go-partijen in twee dagen tijd. Heel knap. Je kunt in één mensenleven geen 5 miljoen Go-partijen spelen. Maar stel AlphaGo niet de hierboven beschreven frisbee-vragen. Je krijgt geen antwoord. Hoe intelligent is dat?

Kijk met die ogen naar deze video waarin de nieuwe AlphaGo wordt gepresenteerd. Lees ook het artikel AlphaGo Zero.

4. Containterbegrip

Het mooie van een containerbegrip is dat iedereen daar een eigen betekenis aan kan geven. In het Engels noemen ze dat een ‘suitcase word’.

Een belangrijk containerbegrip in AI is ‘leren’. Leren hoe je sushi eet met houten stokjes  is iets heel anders dan een nieuw liedje op je gitaar leren spelen. En leren om te programmeren is iets heel anders dan je weg leren kennen in een vreemde stad.

Bij de term ‘machine learning’ denken veel mensen dat de machines leren op de manier waarop mensen leren. Maar dat is niet zo. AlphaGo Zero heeft geen idee wat Go is en heeft ook geen enkel idee dat het aan het spelen is. Bij de kleinste verandering in de spelregels moet AlphaGo weer helemaal opnieuw ‘leren’, terwijl mensen daar veel minder moeite en tijd in moeten investeren.

5. Exponentials

Volgens Rodney leiden veel mensen aan wat hij noemt “exponentialism.” Als een bepaalde regel of voorspelling waar is dan blijft dit eeuwig durend waar. Dat is niet zo. In AI heeft ‘deep learning’ ons een flinke stap voorwaarts gebracht. Maar dit was een fenomeen op zichzelf. Er is geen ‘wet’ dat dit opnieuw zal gebeuren.

Rodney ontkracht ook nog terloops Moore’s Law op een illustratieve manier. Een extra reden om zijn artikel goed te lezen.

 

6. Hollywood scenarios

In veel Hollywood science fiction films is de toekomstige wereld hetzelfde als die van vandaag, met een bepaalde uitzondering. Dit gebrek aan verbeelding en vasthouden aan wat er nu is, zie je ook terug in allerlei AI-angstbeelden en AI-dromen.

Denk nog even aan het voorbeeld van Isaac Newton en de iPhone. Isaac bekijkt een iPhone met de kennis, ideeën en dromen van zijn (!) tijd. Wij kijken dus allemaal een soort Catweazle naar de AI-toekomst.

7. Ontwikkelsnelheid

Nieuwe software-versies volgen elkaar in hoog tempo op omdat de kosten van het uitbrengen van een nieuwe versie extreem laag zijn. Het is vaak niet zo’n groot probleem als er nog wat problemen in de laatste versie zitten. Een nieuwe upgrade of soms het herstellen van de vorige versie volstaat dan om het probleem op te lossen.

Dit gaat niet op voor het uitbrengen van nieuwe hardware. Auto’s, huizen, vliegtuigen gaan decennia en eeuwen lang mee. Dit remt de toepassing van AI behoorlijk. Het zal nog vele extra jaren duren voordat AI in bepaalde markten zal doordringen juist vanwege de te hoge kosten om hardware te vervangen.

Blijf je informeren, blijf kritisch

Als informatieprofessional is het volgens mij goed om je voortdurend te informeren over kunstmatige intelligentie en robotisering. Laat je daarbij niet gek maken door de hype-verhalen, maar wees kritisch en kijk met een open blik.

Mijn tip is om in elk geval het het MIT Technology Review artikel The seven deadly sins of AI predictions van  Rodney Brooks te lezen met de prachtige tekeningen van Joost Swarte.