Over

Aanpak onderzoek

Artificiële intelligentie (AI) staat hoog op de agenda
bij politici, bestuurders, managers en beleidsmakers.
Ondanks het feit dat er veel geschreven is over AI,
is er nog veel onduidelijkheid over de wijze waarop de
technologieën zich in de toekomst gaan ontwikkelen en
wat de mogelijke impact op de samenleving gaat zijn.
Het is daarom tijd voor een toekomstverkenning naar AI.
Een groot verschil met andere technologieën is dat AI
steeds meer autonoom wordt, waardoor we steeds meer
beslissingen uit handen gaan geven. Dit heeft geleid
tot de volgende centrale vraag:

Wat is de impact van AI op besluitvorming in de toekomst?

Menselijke besluitvorming komt tot stand door
verschillende componenten. Naast feitelijke kennis
spelen de beeldvorming en ambities van de betrokkenen
in het besluitvormingsproces een rol. De invulling van
deze componenten is sterk aan verandering onderhevig.
Daarbij hebben deelnemers aan besluitvormingsprocessen
vaak uiteenlopende ideeën over de werkelijkheid.
Wat voor de één een onweerlegbaar feit is, is voor de
ander discutabel. In dat opzicht zou je kunnen stellen
dat automated decision making de nodige objectiviteit
kan inbrengen. De vraag blijft echter in hoeverre AI
menselijke besluitvormingsprocessen kan overnemen.
En in hoeverre we dit kunnen en willen toestaan.

De toekomst wordt vaak gezien als iets wat ons
overkomt, maar het is eigenlijk iets waar we als
mens zelf sturing aan kunnen geven. De ambitie van deze
toekomstverkenning is om met een multidisciplinaire
groep experts te werken aan een formulering van de
gewenste toekomst van AI en daarbij in kaart te brengen
wat ervoor nodig is om deze toekomst te kunnen bereiken.
Dit heeft geleid tot het volgende drieluik:

Deel I: Voorspellen

Wanneer het over de toekomst van AI gaat lijken er
maar twee smaken te bestaan: de utopie en de dystopie.
Vaak starten deze discussies met ethische vragen, terwijl de vraag of de technologieën deze scenario’s in de toekomst daadwerkelijk kunnen waarmaken wordt overgeslagen. De focus in deel 1 ligt daarom op de technologieën:  

Hoe verhoudt AI zich tot menselijke besluitvorming en
op welke wijze gaat AI zich in de toekomst ontwikkelen? 

Hierbij is gebruik gemaakt van technology forecasting. Aan de hand van literatuurstudies en expertinterviews zijn de meest reële ontwikkelingsrichtingen van de
technologieën in kaart gebracht (scope 0-10 jaar).
Voor dit deel zijn 40 experts geraadpleegd,
van AI-experts en neurowetenschappers tot psychologen
en bestuurskundigen.

Deel II: Verkennen

De vormen waarin AI in de toekomst zal worden
ingezet, zijn afhankelijk van de maatschappelijke context. Naast de utopische en dystopische visie zijn
er meerdere toekomstvisies te onderscheiden. De focus
in deel 2 ligt daarom op de uitwerking van mogelijke
toekomstscenario’s: 

Welke implicaties heeft de ontwikkelingsrichting van AI op besluitvorming in de toekomst en welke mogelijke toekomstscenario’s kunnen aan de hand hiervan uiteengezet worden?

Hierbij is gebruik gemaakt van scenarioplanning.
Door middel van creatieve sessies zijn meerdere toekomstscenario’s in kaart gebracht (scope 10-20 jaar). Voor dit deel zijn vier scenario workshops georganiseerd
waaraan 30 experts uit verschillende vakgebieden deelnamen.

Deel III: Normatief

AI kan de eerste technologie worden die zijn eigen
ontwikkeling gaat bepalen. Het zou in dat geval
belangrijker dan ooit tevoren zijn om de gewenste
voorwaarden te bepalen voor de ontwikkelingsrichting.
Welke toekomst willen we? De focus in deel 3 ligt
daarom op ethische vraagstukken:  

Welke ethische vraagstukken spelen een rol bij de impact
van AI op besluitvorming in de toekomst en op welke
wijze kunnen we ethisch verantwoorde AI-toepassingen
ontwikkelen? 

Hierbij is gebruik gemaakt van backcasting. Aan de
hand van een online vragenlijst is de gewenste toekomst
van AI in kaart gebracht (scope 20-30 jaar). Vervolgens
is onderzocht welke elementen noodzakelijk zijn om
deze toekomst te kunnen bereiken. Voor dit deel is
een vragenlijst uitgezet onder drie groepen, namelijk
experts, bestuurders en studenten. Deze vragenlijst
is meer dan 100 keer ingevuld.

Scope

Toekomstverkenningen van Stichting Toekomstbeeld der
Techniek (STT) kennen doorgaans een scope van ongeveer
30 jaar. Deze scope heeft niet tot doel om concrete
uitspraken te doen over een specifiek jaartal, maar het
geeft aan dat de verkenningen zich niet beperken tot
korte termijn ontwikkelingen. Het doel is juist om los
te komen van de beperkingen in de huidige tijdsgeest.
Hiervoor is het nodig om over grenzen heen te kijken
en zo de horizon te verbreden en meer toekomstgericht
te denken.

Deze verkenning borduurt voort op de inzichten uit
eerdere STT-studies naar data, namelijk Dealing with the
data flood
(2002) en Data is macht (2017). Data vormt de
grondstof voor hedendaagse AI-technieken. De vraag is of
dit in de toekomst zo zal blijven of dat de technologieën
zich in een andere richting gaan ontwikkelen.

» Technologie heeft vaak geen stekker meer. Die kun je er dus ook niet zomaar uittrekken. «

Denktank

Tijdens de verkenning is uitvoerig gebruik gemaakt van
de expertise en ervaring van bestuurders en experts uit het werkveld. De volgende multidisciplinaire denktank
is geformuleerd:

Marc Burger Capgemini CEO
Patrick van der Duin STT Directeur
Bernard ter Haar Ministerie BZK Buitengewoon adviseur
Frank van Harmelen VU Professor Knowledge Representation & Reasoning 
Fred Herrebout  T-Mobile Senior Strategy Manager
Marijn Janssen TU Delft Professor ICT & Governance
Maria de Kleijn-Lloyd  Kearney  Senior Principal, Voorzitter denktank STT toekomstverkenning AI
Leendert van Maanen Utrecht University Assistant professor in Human-centered AI
Marieke van Putten Ministerie BZK Senior Innovation Manager
Jelmer de Ronde SURF Projectmanager SURFnet
Klamer Schutte TNO Lead Scientist Intelligent Imaging
Maarten Stol BrainCreators Principal Scientific Advisor

Projectleider Rudy van Belkom heeft zich vanuit STT aangesloten bij de Nederlandse AI Coalitie