Artificiële intelligentie (AI) lijkt een van de meest besproken, maar misschien wel minst begrepen technologieën van dit moment. Het is op sommige vlakken ‘dommer’ dan veel mensen denken, maar op andere vlakken juist veel ‘slimmer’. Een computer als minister-president lijkt nog wat vergezocht, maar AI heeft nu al wel degelijk invloed op onze arbeidsmarkt. ‘AI is here to stay’.Deze intelligente systemen worden nu echter nog te vaak gezien als een doel op zichzelf. De vraag of AI de beste oplossing is voor het probleem wordt hierbij nauwelijks gesteld. Veel mensen lijken er vanuit te gaan dat AI een soort onvermijdelijke natuurwet is, waar we wel iets mee moéten. Koste wat het kost. Wat we hierbij niet moeten vergeten is dat AI zelf niet goed of slecht is, het gaat erom hoe het door mensen wordt ingezet. De vraag is dus wat voor samenleving we willen zijn, gegeven alle technologische ontwikkelingen. De maatschappij zal hoe dan ook fundamenteel veranderen en AI kan ons helpen om het juiste pad te vinden. We moeten alleen nog wel uitvinden waar we dan precies naartoe willen.
Terugblik deel 1
Het overkoepelende karakter van AI maakt het een moeilijk te definiëren begrip. Een eenduidige en internationaal geaccepteerde definitie ontbreekt dan ook. In 2019 lanceerde het Nederlandse kabinet het Strategisch Actieplan voor Artificiële Intelligentie (SAPAI). Dit actieplan beschrijft de voornemens van het kabinet om de ontwikkeling van AI in Nederland te versnellen en internationaal te profileren. In het document wordt de definitie van de Europese Commissie gehanteerd: ‘AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.’ Deze zin staat vol met multi-interpretabele containerbegrippen: Systemen? Intelligentie? Een zekere mate van zelfstandigheid? Specifieke doelen? Toch wordt op basis van deze holistische definitie een volledig actieplan ingericht. Om grip te krijgen op de ontwikkeling van AI is het van belang om begrip te krijgen van de werking en de toepassing van AI.
We zijn daarom in deel 1 van deze toekomstverkenning ‘Duikboten zwemmen niet’ uitvoerig ingegaan op de vragen wat AI is, hoe het werkt, op welke wijze het zich verhoudt tot menselijke intelligentie, in hoeverre menselijke besluitvorming geautomatiseerd kan worden, wat de meest dominante expertopinies zijn aangaande de ontwikkelingsrichting van AI en welke economische en politieke factoren deze ontwikkelingsrichting beïnvloeden. Het doel van dit eerste deel was om een beter geïnformeerde discussie over de toekomst van AI te kunnen voeren.
Terugblik deel 2
Wanneer het over de toekomst van AI gaat wordt er vaak in extremen gedacht: belanden we in de utopie of in de dystopie? Naast het feit dat dergelijke uitersten veel beter werken in films en krantenkoppen, heeft deze tweedeling ook te maken met het idee dat hoewel de kans relatief klein is dat één van de twee ooit zal gebeuren, de mogelijke impact bij beide scenario’s zo groot kan zijn dat deze wel enige reflectie verdient. Dat geldt zowel voor de utopische visie (we hoeven nooit meer te werken) als de dystopische (we worden slaaf van de technologie). Er bestaan echter meerdere smaken.
We hebben daarom in deel 2 van deze toekomstverkenning ‘De computer zegt nee’ meerdere alternatieve realiteiten onderzocht en deze vertaald naar vijf toekomstscenario’s. Er is hierbij sprake van een oplopende intensiteit van AI in de verschillende scenario’s. De beperkte beschikbaarheid aan resources zorgt er in het scenario van Game Over voor dat de belofte die AI ooit was niet wordt waargemaakt. In het scenario van The winner takes all leidt de behoefte aan controle en regulatie ertoe dat AI hoofdzakelijk wordt ingezet als tool om menselijke intelligentie te vergroten. Het streven naar automatisering zorgt er in het scenario van Privacy for sale voor dat de mens op verschillende gebieden wordt vervangen door AI. In het scenario van Robot Rights werken en leven mens en machine op een gelijkwaardige manier samen. AI overstijgt menselijke intelligentie op alle domeinen in het scenario van The Singularity is here. Deze toekomstscenario’s helpen ons om de veranderende relatie tussen mens en technologie beter te leren begrijpen. Ook kunnen we hierdoor juist de wenselijke elementen in de toekomst identificeren, waar we vervolgens samen naartoe kunnen werken.
Waarom deze publicatie?
De wijze waarop AI in de toekomst zal worden ingezet is sterk afhankelijk van de maatschappelijke context. Dit gaat dus niet alleen over de prestaties van de technologieën en de beschikbaarheid van resources, maar ook over strategische belangen en maatschappelijke acceptatie. Wat vaak over het hoofd wordt gezien, is dat we deze context zelf creëren. De keuzes die we in het heden maken hebben grote invloed op de mogelijke toekomsten. Het is daarom van belang om ethische vraagstukken in kaart te brengen en op zoek te gaan naar antwoorden. Wie is er verantwoordelijk wanneer een AI-toepassing de fout ingaat? Kunnen we rechten verlenen aan technologieën? En hoe zorgen we ervoor dat AI-toepassingen vrij zijn van vooroordelen? Gelukkig komen er steeds meer ethische richtlijnen die de ontwikkeling van betrouwbare AI-systemen moeten waarborgen. De vraag is echter hoe je deze abstracte waarden kunt vertalen naar concrete praktijktoepassingen. Momenteel wordt er vooral veel gesproken over ethiek, maar concrete handvatten om het te integreren in het ontwerpproces ontbreken nog. Als we in de toekomst ethisch verantwoorde toepassingen willen gebruiken is het nu tijd om ethiek in praktijk te brengen.
» Many researchers will tell you that the heaven-or-hell scenarios are extremely unlikely. We’re not going to get the AI we dream of or the one that we fear, but the one we plan for. Design will matter. «
— Stephan Talty
Voor wie is deze publicatie?
Deze publicatie is voor iedereen die geïnteresseerd is in de rol van ethiek in het ontwikkelingsproces van AI. Het doel is niet alleen om ethische vraagstukken in kaart te brengen, maar ook om te onderzoeken op welke wijze we in de toekomst ethisch verantwoorde AI-toepassingen kunnen ontwikkelen. Wil je weten op welke wijze we ethiek in praktijk kunnen brengen? En sta je open voor een nieuwe kijk op en aanpak van ethiek? Dan is deze publicatie geschikt voor jou.
Hoe is deze publicatie opgebouwd?
In het eerste hoofdstuk zoomen we verder in op AI & Ethiek. We proberen hierbij de opkomst van ethiek in AI te verklaren en kijken welke ethische vraagstukken er op dit moment spelen. Vervolgens kijken we in hoofdstuk 2 welke ethische richtlijnen er reeds zijn en wat de beperkingen daarvan zijn in de praktijk. In het derde en laatste hoofdstuk kijken we naar een nieuwe visie en aanpak voor de integratie van ethiek in de ontwikkeling van AI. Hierbij kijken we zowel naar het ontwerp als naar het proces.
