Van overheden en maatschappelijke organisaties tot wetenschappelijke instanties en de private sector. Al deze partijen vinden het – om uiteenlopende redenen – van belang dat ethische↓Ethiek is een tak binnen de filosofie die zich bezighoudt met de systematische reflectie van wat als goed of juist handelen bestempeld wordt. >Hoofdstuk 3.1 verantwoorde AI↓De meest dominante associatie met AI is machine learning. Uit onderzoek van de World Intellectual Property Organisation (WIPO) uit 2019 blijkt tevens dat machine learning de meest dominante AI-technologie is die in patentaanvragen is opgenomen. Binnen deze toekomstverkenning richten we ons daarom hoofdzakelijk op machine learning en aanverwante methodieken. >Hoofdstuk 1.1.1-toepassingen ontwikkeld worden. Ethische principes en richtlijnen↓In de afgelopen jaren hebben uiteenlopende bedrijven, onderzoeksinstellingen en overheidsorganisaties verschillende principes en richtlijnen opgesteld voor ethical AI. Zowel op nationaal en continentaal niveau, als op mondiaal niveau. >Hoofdstuk 3.2.1 schieten dan ook als paddenstoelen uit de grond. Verschillende richtlijnen schrijven onder andere voor dat AI-systemen veilig en robuust moeten zijn, onze privacy↓In het Europees Verdrag voor de Rechten voor de Mens is privacy opgenomen als het recht op respect voor het privéleven. Deze bepaling vereist een eerlijke balans tussen het maatschappelijk belang dat een technologie dient en de inbreuk op het privéleven die de technologie maakt. >Hoofdstuk 3.1.2 moeten waarborgen en ons rechtvaardig↓Wanneer het over rechtvaardigheid gaat, dan gaat het in de basis over de gelijkwaardigheid van mensen. Mensen dienen gelijk behandeld te worden én gelijke kansen te krijgen. >Hoofdstuk 3.1.2 moeten behandelen. De vraag hierbij is in hoeverre dergelijke doelen in de praktijk tegen elkaar schuren. Kunnen we AI-systemen ontwikkelen die zowel accuraat als uitlegbaar zijn? Zijn uitlegbare↓Binnen het besluitvormingsproces van AI gaan de uitleg en uitlegbaarheid over de toelichting op en herleidbaarheid van het besluit achteraf. >Hoofdstuk 3.1.2 systemen ook per definitie eerlijk? Kunnen we eerlijkheid↓Fairness is een veelgebruikt principe in ethische richtlijnen en assessment tools. Het vraagstuk wat precies ‘fair’ is houdt filosofen al een paar honderd jaar bezig. Door de komst van AI krijgt dit vraagstuk een nieuwe dimensie. Het concept van eerlijkheid moet namelijk in wiskundige termen worden uitgedrukt. >Hoofdstuk 3.2.3 vertalen naar wiskundige↓AI is in de basis ‘gewoon’ wiskunde. Weliswaar een enorm geavanceerde vorm van wiskunde, maar het blijft wiskunde. Het is boven alles een middel om een optimalisatiedoel te bereiken. >Hoofdstuk 1.1.1 termen zonder mensen oneerlijk te behandelen? En zijn we het er überhaupt wel over eens hoe een samenleving eruit moet zien zonder oneerlijkheid?
Ethische richtlijnen – en dan met name de interpretatie ervan – zijn in hoge mate contextafhankelijk en subjectief. In dat opzicht beschrijven ethische richtlijnen eerder de moraal↓In de discussies lopen ethiek en moraliteit vaak door elkaar heen. Toch is er een duidelijk verschil. Moraliteit is het geheel van meningen, beslissingen en acties waarmee mensen (individueel of collectief) uitdrukking geven aan wat zij denken dat goed of juist is. Ethiek is vervolgens de systematische reflectie op wat moreel is. >Hoofdstuk 3.1.3 dan de ethiek. Ethiek moet gaan over de afstemming van de verschillende toepassingen met die moraal. Vanuit dit perspectief is ethiek dus veel meer een designvraagstuk, dan een verzameling van opvattingen over wat we belangrijk vinden. Als we in de toekomst ethisch verantwoorde AI-toepassingen willen gebruiken, dan zullen we ons nu moeten gaan bezighouden met de vraag hoe we toepassingen kunnen ontwikkelen die in overeenstemming zijn met de moraal. Het is hierbij niet voldoende om alleen te evalueren of een AI-toepassing aan de richtlijnen voldoet. Ethische principes en richtlijnen moeten daadwerkelijk geïntegreerd worden in het ontwerp. En dus ook in het ontwerpproces. Dit vraagt om een andere benadering van ethiek in de ontwikkeling van AI.