Over

Aanpak onderzoek

Artificiële intelligentie (AI) staat hoog op de agenda bij bestuurders en beleidsmakers. Ondanks het feit dat er veel geschreven is over het onderwerp, is er nog veel onduidelijkheid over de wijze waarop de technologie zich gaat ontwikkelen in de toekomst en wat de mogelijke impact gaat zijn op de samenleving. Het is daarom tijd voor een toekomstverkenning naar AI. Een groot verschil met andere technologieën is dat AI steeds meer autonoom wordt, waardoor we steeds meer beslissingen uit handen gaan geven. Dit heeft geleid tot de volgende centrale vraag:

Wat is de impact van AI op besluitvorming in de toekomst?

Menselijke besluitvorming komt tot stand door middel van verschillende componenten. Naast feitelijke kennis spelen de beeldvorming en ambities van de betrokkenen in het besluitvormingsproces een rol. De invulling van deze componenten is sterk aan verandering onderhevig. Daarbij hebben deelnemers aan besluitvormingsprocessen vaak uiteenlopende ideeën over de werkelijkheid. Wat voor de één een onweerlegbaar feit is, is voor de ander discutabel. In dat opzicht zou je kunnen stellen dat automated decision making de nodige objectiviteit kan inbrengen. De vraag blijft echter in hoeverre AI menselijke besluitvormingsprocessen kan overnemen. En in hoeverre we dit willen (en kunnen) toestaan. 

De toekomst wordt vaak gezien als iets wat ons overkomt, maar het is eigenlijk iets waar we als mens zelf sturing aan geven. De ambitie van deze toekomstverkenning is om met een multidisciplinaire groep experts te werken aan een formulering van de gewenste toekomst van AI en welke rol Nederland hierin kan spelen. Dit heeft geleid tot het volgende drieluik:

Deel I: Voorspellen

Wanneer het over de toekomst van AI gaat lijken er maar twee smaken te bestaan, de utopie en de dystopie. Vaak starten deze discussies met ethische vragen, terwijl de vraag of de technologie deze scenario’s in de toekomst daadwerkelijk kan waarmaken wordt overgeslagen. De focus in deel I ligt daarom op de technologie: 

Op welke wijze gaat AI zich in de toekomst ontwikkelen? 

Hierbij wordt gebruik gemaakt van forecasting. Aan de hand van literatuurstudies en expertinterviews wordt de meest reële ontwikkelingsrichting van de technologie in kaart gebracht (scope 0-5 jaar). Voor dit deel zijn 40 experts geraadpleegd, van AI experts tot psychologen en bestuurskundigen. 

Deel II: Verkennen

De ontwikkelingsrichting van de technologie heeft impact op de mogelijke toekomstbeelden. De meningen van experts lopen enorm uiteen. We kunnen daarom niet uitgaan van slechts één toekomstbeeld. De focus in deel II ligt daarom op de uitwerking van mogelijke toekomst­scenario’s: 

Welke sociaal-culturele implicaties heeft de ontwikkelingsrichting van AI op besluitvorming en welke mogelijke toekomstscenario’s kunnen aan de hand hiervan uiteengezet worden? 

Hierbij wordt gebruik gemaakt van scenarioplanning.
Aan de hand van focusgroepen en creatieve sessies worden meerdere toekomstscenario’s in kaart gebracht (scope 5-10 jaar).

Deel III: Normatief

AI kan de eerste technologie worden die zijn eigen ontwikkeling gaat bepalen. Het zou in dat geval belangrijker dan ooit tevoren zijn om de gewenste voorwaarden te bepalen voor de ontwikkelingsrichting. Welke toekomst willen we? De focus in deel III ligt daarom op ethische vraagstukken: 

Welke ethische vraagstukken spelen een rol bij de impact van AI op besluitvorming in de toekomst? 

Hierbij wordt gebruik gemaakt van backcasting. Aan de hand van een Delphi-studie en round table gesprekken wordt de gewenste toekomst van AI en de positie van Nederland in kaart gebracht (scope 10-20 jaar). Hierbij wordt tevens gekeken naar de paden die er zijn om daar
te komen. 

Scope

Toekomstverkenningen van Stichting Toekomstbeeld der Techniek (STT) kennen doorgaans een scope van 20 jaar. Deze scope heeft niet tot doel om concrete uitspraken te doen over een specifiek jaartal, maar het geeft aan dat de verkenningen zich niet beperken tot kortetermijnontwikkelingen. Het doel is juist om los te komen van de beperkingen in de huidige tijdsgeest. Hiervoor is het nodig om over grenzen heen te kijken en zo de horizon te verbreden en meer toekomstgericht te denken. 

Deze verkenning borduurt voort op de inzichten uit eerdere STT-studies naar data, namelijk Dealing with the data flood (2002) en Data is macht (2017). Data vormt de grondstof voor hedendaagse AI-technieken. De vraag is of dit in de toekomst zo zal blijven of dat de technologie zich in een andere richting gaat ontwikkelen. 

» Technologie heeft vaak geen stekker meer. Die kun je er dus ook niet zomaar uittrekken. «

Denktank

Tijdens de verkenning is uitvoerig gebruik gemaakt van de expertise en ervaring van bestuurders en experts uit het werkveld. De volgende multidisciplinaire denktank is geformuleerd:

Marc Burger Capgemini CEO
Patrick van der Duin STT Directeur
Bernard ter Haar Ministerie SZW DG Sociale zekerheid en Integratie
Frank van Harmelen VU Professor Knowledge Representation & Reasoning 
Fred Herrebout  T-Mobile Senior Strategy Manager
Marijn Janssen TU Delft Professor ICT & Governance
Maria de Kleijn-Lloyd  Elsevier  SVP Analytical Services, Voorzitter denktank STT toekomstverkenning AI
Leendert van Maanen UvA Assistant professor Psychological Methods Department
Marieke van Putten Ministerie BZK Senior Innovation Manager
Jelmer de Ronde SURF Projectmanager SURFnet
Klamer Schutte TNO Lead Scientist Intelligent Imaging
Maarten Stol BrainCreators Principal Scientific Adviser