De computer zegt nee

Proces

Toekomstscenario’s kunnen worden ingezet om met een open blik na te denken over de toekomst. Voor veel mensen is het lastig om af te stappen van een dominant toekomstbeeld, dat vaak wordt gevoed door optimisme of pessimisme. Door op een methodische wijze naar een meer genuanceerd palet van mogelijke toekomstvisies te kijken, ontstaat vaak meer begrip voor alternatieve zienswijzen. Toekomstscenario’s kunnen ons helpen om te anticiperen op de kansen en uitdagingen die voor ons liggen. Het maakt de toekomst meer tastbaar en daarmee voorstelbaar. Ook helpt het mensen om na te denken over welke onderdelen van deze scenario’s wenselijk zijn. Op deze wijze kunnen de mogelijke paden die naar dit gewenste beeld leiden in kaart worden gebracht.

Analyse

De inzichten voor deze tweede deelpublicatie in de verkenning naar de toekomst van artificiële intelligentie (AI) komen in de basis voort uit de resultaten van de eerste deelpublicatie, namelijk ‘Duikboten zwemmen niet’. In deze eerste deelpublicatie lag de focus op de ontwikkelingsrichting van de technologie en is tot stand gekomen door middel van diepte-interviews met 40 experts en een uitgebreide literatuurstudie. Hieruit zijn verschillende tegenstellingen gedestilleerd. Denk bijvoorbeeld aan Narrow AI vs General AI, Explainable AI vs Unexplainable AI en Government surveillance vs Corporate surveillance. Deze tegenstellingen waren vervolgens de basis voor de totstandkoming van de verschillende drivers, oftewel de stuwende krachten die de verschillende toekomstscenario’s voortbrengen.

Denktank

Samen met de denktank van deze toekomstverkenning zijn de drivers verder verfijnd en geconvergeerd tot vier dominante krachten. Vervolgens zijn de verschillende posities van deze drivers met behulp van de denktank nader onderzocht en hebben we gezamenlijk bekeken welke mogelijke toekomstbeelden deze posities zouden kunnen voortbrengen. De verschillende posities van de drivers hebben uiteindelijk geleid tot vijf verschillende toekomstscenario’s met AI. Deze methode wordt ook wel het morfologisch veld genoemd. Er is bewust gekozen om niet met de traditionele methode van het assenkruis te werken – waarbij slechts twee tegenstellingen worden gebruikt – omdat dit in onvoldoende mate rekening houdt met de complexiteit van AI.

Scenario Workshops

De impact van de verschillende scenario’s is onderzocht door middel van vier scenario workshops, waaraan 30 experts vanuit diverse vakgebieden deelnamen. In elke workshop stond een specifiek domein centraal, te weten Gezondheid & Zorg, Veiligheid & Beveiliging, Politiek & Bestuur en Werk & Inkomen. Voor deze workshops is gebruik gemaakt van de methode van Science Fiction Prototyping, een creatieve onderzoeksmethode waarbij sciencefiction wordt ingezet om de implicaties van toekomstige technologieën te beschrijven. Aan de hand van verschillende hulpvragen werd tijdens de workshop gezamenlijk aan een verhaal gewerkt dat een mogelijk toekomstbeeld representeert. De hulpvragen waren:

  • Wat is het ergste dat er mis kan gaan binnen het domein?
  • Wat is het beste dat er kan gebeuren binnen het domein?
  • Wat zijn de daadwerkelijke gevolgen van de technologie en welke implicaties heeft dit op het domein?
  • Op welke wijze is het domein veranderd? Hoe ziet de omgeving en de relatie tussen mens en technologie eruit?
  • Wat zou men anders moeten doen? En welke angsten waren ongegrond?

Clustering

Alle inzichten uit de scenario workshops zijn vervolgens geclusterd en toegewezen aan een van de vijf toekomstscenario’s. Deze inzichten droegen tevens bij aan een verfijning van de beschrijving van de scenario’s. Om de scenario’s tastbaar te maken is ervoor gekozen om voor elk scenario – naast een overzicht van de impact en implicaties – een fictief nieuwsartikel uit de toekomst te schrijven. Gezien de scope van deze deelpublicatie (10 – 20 jaar), is gekozen om het tijdsbeeld te plaatsen op het jaar 2035. Dit jaartal is overigens niet bedoeld om concrete voorspellingen te doen. Het doel is juist om verschillende toekomsten te kunnen voorstellen, niet om een toekomstbeeld te voorspellen.

Conclusie

Wat opviel is dat op basis van de clustering vrij weinig inzichten konden worden toegewezen aan het scenario van ‘Robot Rights’. Mensen hebben blijkbaar wel een duidelijk beeld van de controle houden versus de controle verliezen, maar weten niet goed wat er gebeurt wanneer de controle en verantwoordelijkheid bij zowel de mens als de machine ligt. We zijn gewend om in uitersten te denken. Dit bleek ook uit het feit dat steeds twee dominante kansen / bedreigingen terugkwamen in de workshops, namelijk gelijkheid / ongelijkheid en onafhankelijkheid / afhankelijkheid. In de meeste gevallen ging het daarbij helemaal niet over de ontwikkelingen van AI en de impact daarvan, maar over de vraag welke samenleving we willen zijn. Een samenleving waarin welzijn boven welvaart staat en eco boven ego. Soms was het zelfs de vraag of AI daar überhaupt een rol in zou kunnen spelen. Dit onderstreept de meerwaarde van het voeren van een constructief gesprek over de gewenste toekomst met AI, waar deel 3 van deze toekomstverkenning zich op zal richten.

Proces