Traditioneel wordt bij de ontwikkeling van scenario’s het zogenaamde assenkruis gebruikt. Hierbij bestaat het kruis uit twee assen met elk een tegenstelling. Denk bijvoorbeeld aan narrow AI↓Artificial Narrow Intelligence is een vorm van AI die zeer goed is in het doen van specifieke taken. Denk hierbij aan schaken, aanbevelingen doen en het geven van kwantificeerbare voorspellingen. >Hoofdstuk 1.1.1 vs general AI↓Artificial General Intelligence zou in staat moeten zijn om alle intellectuele taken uit te voeren die een mens ook kan uitvoeren. >Hoofdstuk 1.1.1 en een autonome vs heteronome technologie. Door de tegenstellingen ontstaan vervolgens vier scenario’s. Het gebruik van ‘slechts’ twee tegenstellingen doet echter geen recht aan de complexiteit van AI↓De meest dominante associatie met AI is machine learning. Uit onderzoek van de World Intellectual Property Organization (WIPO) uit 2019 blijkt tevens dat machine learning de meest dominante AI-technologie is die in patentaanvragen is opgenomen. Binnen deze toekomstverkenning richten we ons daarom hoofdzakelijk op machine learning. >Hoofdstuk 1.1.1 . De vormen waarin AI in de toekomst zal worden ingezet is tevens afhankelijk van de maatschappelijke context. Er zijn dus meerdere krachten die de ontwikkelingsrichting van AI en daarmee de maatschappelijke impact van AI bepalen. Deze krachten worden ook wel ‘drivers’ genoemd.
Toelichting drivers
Drivers zijn de stuwende krachten die de verschillende mogelijke toekomstbeelden voortbrengen. Deze krachten worden door meerdere factoren voortgebracht. Denk hierbij aan de combinatie van technologische, politieke en culturele ontwikkelingen. Individuele organisaties en instanties hebben doorgaans geen directe invloed op deze krachten. Het zijn maatschappelijke tendensen die zich voordoen in de breedte van de samenleving. Er wordt onderscheid gemaakt tussen de volgende vier drivers:
Strategische belangen
‘Belangen’ gaat over de mate waarin overheden en organisaties strategische voordelen zien in de ontwikkeling van AI. Denk bijvoorbeeld aan commerciële kansen, versterking van de arbeidsmarkt, politieke controle en onafhankelijkheid. Het gaat over de impact van strategische besluiten op de ontwikkeling van AI. Wanneer de strategische belangen groot zijn, zal de bereidheid om te investeren in de technologieën ook groot zijn (evenals de onderlinge concurrentie).
Beschikbaarheid van resources
‘Beschikbaarheid’ gaat over de mate waarin de benodigde resources voor de werking van AI toegankelijk zijn. De werking van AI is onder andere afhankelijk van de beschikbare kennis, trainingsdata, rekenkracht, energie en open source software. Zelfs wanneer voldoende geld beschikbaar is, kunnen de resources achterblijven.
Prestatie van de technologieën
‘Prestatie’ gaat over de mate waarin AI de taak beter kan uitvoeren dan de mens dat zou kunnen. Wanneer de technologie aantoonbaar beter presteert dan de mens is de kans groter dat taken worden overgedragen aan de technologie. De prestaties zullen nog verder stijgen wanneer AI ook domeinoverstijgend ingezet kan worden.
Acceptatie van de technologieën
‘Acceptatie’ gaat over de mate waarin de meerderheid van de verschillende actoren in de samenleving bereid is om beslissingen uit handen te geven aan AI. Wanneer de technologieën zich bewezen hebben en het de gewenste effecten heeft zal het vertrouwen en daarmee de acceptatie stijgen. Naarmate de acceptatie stijgt, zal ook de ondergrens van wat we willen controleren (en reguleren) meestijgen. Negatieve ervaringen met de technologieën kunnen echter leiden tot pessimisme en daarmee tot een lagere acceptatie.
De positie van deze drivers bepaalt vervolgens in welke richting de samenleving zich onder invloed van AI zal gaan ontwikkelen. De drivers representeren dus de aanleiding tot de scenario’s, niet de gevolgen ervan. Bijvoorbeeld een hoge mate van acceptatie in de aanleiding kan leiden tot een scenario waarbij ongewenste gevolgen optreden en mensen zich juist gaan afzetten tegen de technologieën. Vaak worden drivers weergegeven als een soort ‘mengpaneel’ waarin de schuiven per driver hoog of laag staan. Deze methodiek wordt ook wel ‘het morfologisch veld’ genoemd. Het is echter niet zo dat deze knoppen eenvoudig kunnen worden bijgesteld. Keuzes die we in het heden maken hebben een grote impact op de toekomst.
» If we want to understand our future, cracking genomes and crunching numbers is hardly enough. We must also decipher the fictions that give meaning to the world «
— Yuval Noah Harari
Overzicht scenario’s
De verschillende posities van de beschreven drivers hebben tot vijf verschillende toekomstscenario’s met AI geleid. Hierbij is sprake van een oplopende intensiteit van AI. Van een afwezigheid van AI in ‘Game Over’ tot een overheersende aanwezigheid van AI in ‘The Singularity is here’. Een belangrijk inzicht hierbij is dat daartussen nog verschillende smaken bestaan.
Game Over
De beperkte beschikbaarheid aan resources zorgt er in het scenario van Game Over voor dat de prestaties van de technologieën achter zijn gebleven. Overheden en organisaties investeren niet langer in AI. Er ontstaat een nieuwe AI-Winter. De belofte die AI ooit was wordt niet waargemaakt.
The winner takes all
De behoefte aan controle en regulatie leidt er in het scenario van The winner takes all toe dat AI hoofdzakelijk wordt ingezet als tool om menselijke intelligentie te vergroten, oftewel Augmented Intelligence. Geopolitieke belangen zorgen echter voor spanningen. Overheden doen er alles aan om niet op achterstand te komen. Wie gaat de rat race om AI winnen?
Privacy for sale
Het streven naar automatisering leidt er in het scenario van Privacy for sale toe dat de mens op verschillende gebieden wordt vervangen door AI, oftewel Substituted Intelligence. De democratie verandert in een algocratie. Mensen zien in dat alle data die ze hebben afgestaan ook tegen hen gebruikt wordt, waardoor een tegenbeweging ontstaat. Privacy wordt steeds meer een luxe product.
Robot Rights
Wetenschappers en ontwikkelaars verleggen in het scenario van Robot Rights de focus naar de complementaire eigenschappen van menselijke en kunstmatige intelligentie, oftewel Hybrid Intelligence. Mens en machine werken en leven op een gelijkwaardige manier samen. Machines worden aansprakelijk gesteld voor hun gedrag en AI wordt als entiteit erkend en verkrijgt rechten en plichten, oftewel E-personhood.
The Singularity is here
De technologische droom van het kopiëren van menselijke intelligentie is in het scenario van The Singularity is here behaald. AI overstijgt menselijke intelligentie op alle domeinen, oftewel Transcended Intelligence. De wereld wordt aangestuurd door systemen die controle uitoefenen op verschillende domeinen. Hoewel de systemen bijdragen aan meer gelijkwaardigheid proberen mensen zich te ontdoen van de controle.
In de komende hoofdstukken wordt elk scenario meer uitvoerig besproken. Naast een overzicht van de drivers en toelichting op de scenario’s wordt tevens ingegaan op de impact en de implicaties van de scenario’s. Hierbij wordt onderscheid gemaakt tussen verschillende domeinen, namelijk Gezondheid & Zorg, Veiligheid & Beveiliging, Politiek & Bestuur en Werk & Inkomen. Bij de keuze voor deze domeinen is vooral gekeken naar wat de basiswaarden zijn in een samenleving. Aan veiligheid en zorg heeft iedereen op de wereld behoefte en dat geldt ook voor gelijkwaardigheid (Politiek & Bestuur) en zekerheid (Werk & Inkomen). Mobiliteit is bijvoorbeeld ook een domein waar AI een belangrijke rol speelt, maar is in dat opzicht in mindere mate te koppelen aan eindwaarden. Hieronder is het morfologisch veld afgebeeld, waarin de positie van de verschillende drivers en de wijze waarop de vijf scenario’s zich tot elkaar verhouden is weergegeven.
Het is hierbij van belang om vast te stellen dat de drivers elkaar wederkerig beïnvloeden. Met name de strategische belangen vormen een belangrijke voorwaarde: zonder belangen geen resources en dus geen toekomst met AI. Ook is het goed om te beseffen dat deze scenario’s de meest dominante richtingen representeren. Uiteindelijk zal er een toekomst ontstaan die elementen bevat van alle scenario’s. Voor deze exercitie is echter bewust gekozen om de scenario’s als relatief op zichzelf staande ontwikkelingsrichtingen te benaderen, omdat op deze wijze een duidelijker onderscheid kan worden gemaakt. Hierdoor zijn we beter in staat om ook de gewenste onderdelen die de basis vormen voor de gewenste toekomst, te identificeren. Hieraan zullen we in deel 3 meer aandacht besteden. Dit betekent dat de scenario’s die in de komende hoofdstukken verder worden uitgewerkt over verwachtingen gaan en geen uitspraken doen over de wenselijkheid ervan.
