Binnen de ontwikkeling van AI↓De meest dominante associatie met AI is machine learning. Uit onderzoek van de World Intellectual Property Organisation (WIPO) uit 2019 blijkt tevens dat machine learning de meest dominante AI-technologie is die in patentaanvragen is opgenomen. Binnen deze toekomstverkenning richten we ons daarom hoofdzakelijk op machine learning en aanverwante methodieken. >Hoofdstuk 1.1.1 hebben we te maken met uiteenlopende ethische↓Ethiek is een tak binnen de filosofie die zich bezighoudt met de systematische reflectie van wat als goed of juist handelen bestempeld wordt. >Hoofdstuk 3.1 vraagstukken. Wie is er verantwoordelijk bij een botsing met een zelfrijdende auto? Hoe zwaar weegt het recht op privacy↓In het Europees Verdrag voor de Rechten voor de Mens is privacy opgenomen als het recht op respect voor het privéleven. Deze bepaling vereist een eerlijke balans tussen het maatschappelijk belang dat een technologie dient en de inbreuk op het privéleven die de technologie maakt. >Hoofdstuk 3.1.2 ten opzichte van de vrijheid van informatie van internetgebruikers? En in hoeverre kan een robotrechter objectief oordelen? Deze vraagstukken zijn allesbehalve eenduidig en daardoor enorm complex. Het is bijvoorbeeld sterk de vraag of het überhaupt wenselijk is dat een robotrechter objectief is. Wat de mens als rechtvaardig bestempelt is niet altijd in een formule te vangen en hangt sterk af van de context en eventuele verzachtende omstandigheden.
Om te kunnen oordelen over dergelijke vraagstukken is het van belang om te beseffen dat er verschillende perspectieven zijn. Er bestaat vaak geen universeel aangenomen waarheid. Het is daarom ook lastig om consensus te vinden over wat ethisch gezien de beste oplossing is. We zijn het er in het algemeen wel over eens dat bijvoorbeeld privacy belangrijk is. Maar op de vraag of Apple de FBI toegang moet geven tot de gegevens van de iPhone van een terrorist moest in 2016 de rechter nog aan te pas komen. Dergelijke vraagstukken zijn niet alleen contextafhankelijk, het oordeel is tevens afhankelijk van de ethische stroming die wordt gehanteerd.
Verschillende vormen van ethiek
In de discussies lopen ethiek en moraliteit vaak door elkaar heen. Toch is er een duidelijk verschil. Moraliteit is het geheel van meningen, beslissingen en acties waarmee mensen (individueel of collectief) uitdrukking geven aan wat zij denken dat goed of juist is. Ethiek is vervolgens de systematische reflectie op wat moreel is (Van de Poel & Royakkers, 2011). Verschillende ethische richtlijnen↓In de afgelopen jaren hebben uiteenlopende bedrijven, onderzoeksinstellingen en overheidsorganisaties verschillende principes en richtlijnen opgesteld voor ethical AI. Zowel op nationaal en continentaal niveau, als op mondiaal niveau. >Hoofdstuk 3.2.1, zoals de guidelines van de Europese Commissie zijn dus eigenlijk morele richtlijnen. Het moraal gaat over het handelen zelf, terwijl de ethiek de studie ervan is. Binnen de studie over wat moreel is kunnen verschillende deelgebieden onderscheiden worden. Grofweg kan er onderscheid worden gemaakt tussen twee benaderingen, namelijk de normatieve benadering en de non-normatieve benadering.
De normatieve benadering
Binnen de normatieve ethiek worden duidelijke morele posities ingenomen. ‘Goed’ en ‘fout’ worden hierbij vastgelegd in algemene basisprincipes, oftewel beginselen. Deze principes moeten mensen houvast geven over hoe te handelen en dienen als basis voor het reguleren van gedrag. Deze benadering wordt ook wel prescriptieve ethiek genoemd, omdat het mensen regels en principes voorlegt over hoe zij zich zouden moeten gedragen.
De non-normatieve benadering
Binnen de non-normatieve benadering worden geen morele posities ingenomen. Hierbij wordt onderscheid gemaakt tussen descriptieve ethiek, meta-ethiek en toegepaste ethiek. Descriptieve ethiek gaat over het beschrijven en begrijpen van wat mensen als ‘het goede’ bestempelen. Het wordt daarom ook wel beschrijvende ethiek genoemd. Wanneer de nadruk ligt op het bestuderen van centrale begrippen uit de ethiek (verantwoordelijkheid, vrijheden & rechten en rechtvaardigheid) wordt gesproken van meta-ethiek. Hierbij wordt tevens gekeken of het mogelijk is om een ethisch raamwerk te creëren dat in elke situatie toegepast kan worden, onafhankelijk van onze eigen opvattingen. Toegepaste ethiek richt zich op specifieke domeinen, zoals bio-ethiek, bedrijfsethiek of medische ethiek. Hierbij staan specifieke problemen uit de praktijk centraal. De vraag is in hoeverre principes uit de normatieve ethiek toepasbaar zijn en daarmee antwoord geven op de begrippen uit de meta-ethiek.
Aangezien AI-toepassingen in verschillende domeinen worden gebruikt, is het niet eenvoudig om duidelijke ethische kaders op te stellen. Wat ‘goed’ of ‘juist’ is hangt steeds af van de specifieke context. Veel mensen zijn er zich daarbij niet van bewust dat naast de verschillende contexten ook verschillende stromingen en uitgangspunten vaak door elkaar heen lopen. Dit maakt ethische discussies omtrent de toepassingen van AI vaak rommeling.
Verschillende stromingen binnen ethiek
Mensen vinden verschillende dingen belangrijk, afhankelijk van de context. In sommige gevallen ligt de nadruk op de handeling zelf en in andere gevallen meer op de consequenties die het handelen heeft. En soms ligt de nadruk juist op de intentie van degene die de handeling uitvoert. Binnen de ethiek bestaan er dan ook verschillende stromingen en opvattingen die soms lijnrecht tegenover elkaar staan. Wat ‘het goede’ is en hoe ‘juist te handelen’ zijn vragen die de mens al eeuwen bezighoudt. Met de komst van AI zijn deze vragen relevanter dan ooit. Technologieën krijgen een steeds grotere mate van autonomie en zouden dus ook in steeds grotere mate in staat moeten zijn om dergelijke vraagstukken zelfstandig te behandelen.
Beginselethiek
Bij beginselethiek wordt steeds een beginsel als uitgangspunt genomen. Denk bijvoorbeeld aan eerbied voor het leven en menselijke waardigheid. Bij de oplossing van een ethisch probleem moet recht gedaan worden aan een of meer van deze beginselen of principes. Het beginsel dient hierbij te allen tijde toegepast te worden, onafhankelijk van de gevolgen. Iemand handelt dus moreel juist als zijn daad overeenkomst met het beginsel. Sommige daden kunnen als goed worden beschouwd, zelfs als de gevolgen ervan negatief zijn. En vice versa. Deze gedragsregels, oftewel normen, zijn afspraken over hoe wij met elkaar omgaan. Hoewel er tegenover het schenden van deze normen vaak geen concrete sancties staan, worden de gedragsregels door een samenleving als geheel wel in stand gehouden. Veel religies hanteren bijvoorbeeld dergelijke gedragsregels, zoals de 10-geboden in het Christendom. Sommige normen zijn als wetten geformuleerd, zoals het verbod om te discrimineren.
Beginselethiek wordt ook wel plichtethiek, of deontologie genoemd. De bekendste aanhanger van de deontologische theorie is de Duitse filosoof Immanuel Kant. Hij formuleerde in zijn ‘Kritik der praktischen Vernunft’ in 1788 het ‘categorische imperatief’. De bekendste formulering hieruit is ‘Handel zodanig dat je zou willen dat je stelregel verheven werd tot een universele natuurwet’. Wanneer je jezelf bijvoorbeeld afvraagt of het is toegestaan om afval uit het autoraam te gooien, is het eenvoudig om te bedenken dat wanneer iedereen dit zou doen (omdat het de wet is) er een onleefbare wereld ontstaat. Afval op straat gooien is dan ook niet de norm.
» Handel zodanig dat je zou willen dat je stelregel verheven werd tot een universele natuurwet. «
— Immanuel Kant
Gevolgenethiek
De gevolgenethiek stelt dat de gevolgen van een bepaalde handeling bepalen of er sprake is van ‘juist handelen’. Het gedrag moet dus positieve gevolgen hebben, zelfs wanneer hierbij bepaalde beginselen ondermijnd worden. De handeling zelf wordt dus niet ter discussie gesteld, alleen de gevolgen ervan. Om de gevolgen van een handeling te beoordelen worden waarden gebruikt. Een waarde is een doel dat we als samenleving willen bereiken door middel van ons gedrag. Denk bijvoorbeeld aan rechtvaardigheid of vrijheid. Dit worden ook wel eindwaarden genoemd. Eigenschappen die mensen helpen om deze eindwaarden te bereiken, worden ook wel instrumentele waarden genoemd, zoals behulpzaamheid en verantwoordelijkheid.
Gevolgenethiek wordt ook wel consequentialisme of utilitarisme genoemd. De grondlegger van het utilitarisme is de Britse filosoof Jeremy Bentham. Binnen de utilitaristische theorie wordt de morele waarde van een handeling afgemeten aan de bijdrage die deze handeling levert aan het algemeen nut. De vraag is dus in hoeverre de handeling bijdraagt aan de maximalisatie van geluk. Het doel van een handeling is altijd het zorgdragen voor de grootst mogelijke hoeveelheid geluk voor de grootst mogelijke groep mensen. Als in ruil daarvoor een kleine groep mensen negatieve gevolgen moet ondervinden, dan wordt dit voor lief genomen.
» Het doel heiligt de middelen. «
Deugdethiek
Bij de deugdethiek staan niet de regels of bepaalde principes centraal binnen het moreel oordelen, maar het karakter van de persoon die handelt. Ook hier staat het handelen los van de expliciete gevolgen die het heeft. Om goed te kunnen handelen zijn bepaalde karaktereigenschappen nodig, oftewel deugden. Een deugd is een positieve karaktereigenschap die het gedrag aanstuurt. Wanneer deugden worden gebruikt bij het oordelen van het handelen, wordt niet zozeer gekeken naar de incidentele handeling, maar naar de persoon zelf en zijn of haar bedoelingen.
Aristoteles wordt gezien als de grondlegger van de deugdethiek. In tegenstelling tot de beginsel- en gevolgenethiek wordt hierbij de mens zelf in overweging genomen. Goede daden zijn volgens Aristoteles daden waarvan je een beter mens wordt. De mens moet volgens deze opvatting dus aan zichzelf blijven werken. Deugden kunnen zich ontwikkelen. Een deugd wordt gezien als een soort gulden middenweg tussen meer extremere gedragskenmerken. Zo is dapperheid een deugd, die tussen overmoed en angst in ligt.
» Een goede daad verrichten is makkelijk; de gewoonte ontwikkelen om dat altijd te doen niet. «
— Aristoteles
Niet elke grote denker valt in te delen binnen de drie stromingen. Zo stond de Duitse filosoof Friedrich Nietzsche bekend als ‘ethiek-criticus’. Volgens hem waren ethische opvattingen in die tijd (1887) gebaseerd op een ‘slavenmoraal’. Mensen waren volgens hem volgzaam en dachten niet meer zelf na. Nietzsche wilde dat de mens zich losmaakte van dit (destijds voornamelijk Christelijke) moraal. De mens moest zijn eigen ethiek gaan ontwerpen en hierbij zijn eigen normen en waarden scheppen. Ethiek is volgens Nietzsche geen kwestie van het volgen van een plicht of deugd, maar van persoonlijke smaak.
Verschillende opvattingen over ethisch verantwoord
Om over de verschillende ethische discussies binnen de ontwikkeling van AI-systemen te kunnen oordelen is het van belang om te bepalen vanuit welke ethische stroming geredeneerd wordt. De vraag of het verantwoord is wanneer het leven van een persoon wordt opgeofferd om de levens van meerdere personen te redden (trolleyprobleem) hangt sterk af van het uitgangspunt. Er moet hierbij onderscheid worden gemaakt tussen de handeling (beginselethiek), de gevolgen van de handeling (gevolgenethiek) en de persoon – afhankelijk van de uitkomst van het aansprakelijkheidsvraagstuk↓Verantwoordelijkheden die door de wet worden voorgeschreven noemen we aansprakelijkheid. >Hoofdstuk 3.1.2 in dit geval de inzittende, de fabrikant of het systeem zelf – die handelt (deugdethiek).
Wat moet een auto doen wanneer er een groep mensen bij een zebrapad oversteekt en de auto niet meer op tijd kan remmen? Doorrijden om de inzittende te sparen of uitwijken om de overstekende mensen te sparen? Door de uitwijkmanoeuvre komt de inzettende echter wel om het leven.
De vraag is dus of het moreel te verantwoorden is wanneer de auto niet ingrijpt en het leven van de inzittende beschermt, in plaats van het leven van de groep voetgangers. Vanuit de gevolgenethiek is dit niet te rechtvaardigen; het gevolg is immers dat er een groep voetgangers om het leven komt, in plaats van alleen de inzittende. Vanuit de beginselethiek kan gesteld worden dat het doorrijden wel te rechtvaardigen is; door in te grijpen zou de auto van zijn natuurlijke koers afwijken en is het systeem verantwoordelijk voor de dood van de inzittende. En doden mag niet, ook niet als je daarmee de levens van andere mensen spaart. Vanuit de deugdethiek kan vanuit een vergelijkbaar vertrekpunt juist het tegenovergestelde worden geredeneerd. Wanneer de auto de mogelijkheid heeft om in te grijpen maar dit niet doet, is er sprake van ondeugdelijkheid en handelt de auto immoreel. Je dient te allen tijde rekening te houden met anderen en verantwoordelijk te handelen.
Toch zijn dergelijke vraagstukken niet altijd eenduidig. Denk bijvoorbeeld aan de vraag of Apple de FBI toegang moet geven tot de gegevens van de iPhone van een terrorist. In 2016 stond deze vraag centraal in een rechtszaak. Het jaar ervoor schoot een terrorist in San Bernardino veertien mensen dood. De FBI heeft de iPhone van de man destijds in beslag genomen, om zo beschikking te kunnen krijgen over belangrijke data. Zoals informatie over andere contactpersonen en mogelijke medeplichtigen. De iPhone is uiteraard beveiligd met een pincode. Wanneer er 10 keer een foute code wordt ingevoerd, wordt alle data van het toestel gewist. De FBI heeft daarom Apple gevraagd om te helpen deze beveiliging te omzeilen. Een dergelijke methode bestond nog niet en Apple wilde ook niet meewerken aan het ontwikkelen ervan. Nu lijkt het een relatief eenvoudig vraagstuk, als je ervan uit zou gaan dat het slechts om één telefoon gaat. Maar dat was niet het geval. Door het mogelijk te maken om de beveiliging te omzeilen, zou Apple namelijk de beveiliging van álle iPhones moeten verzwakken. Apple werkte al jaren aan een betere beveiliging en dat zou hun reputatie sterk kunnen schaden. Daarnaast wilde ze een voorbeeld stellen: wanneer ze de weg voor de FBI opende om persoonlijke gegevens van gebruikers in te zien was Apple bang dat het hek van de dam was en andere overheidsdiensten met vergelijkbare verzoeken zouden komen. Het recht op privacy kwam hierdoor in het geding. De stelling van Apple was daarom dat alleen de gebruiker zelf toegang heeft tot de gegevens van een vergrendelde iPhone en niemand anders.
Om te kunnen bepalen of Apple hier een moreel verantwoord standpunt inneemt is lastig te bepalen. Het is namelijk niet eenduidig wat in dit geval de norm is en of privacy zwaarder moet wegen dan het bestrijden van terrorisme. Het is daarmee ook onduidelijk wat precies deugdelijk handelen is en welke gevolgen in het belang zijn van de grote groep. Een waarborging van de privacy of het aanpakken van terrorisme? Dit heeft ook te maken met de impact op de korte termijn versus de lange termijn. Het ging nu om een enkele casus, maar het leed van heel veel mensen zou in de toekomst bespaard kunnen worden wanneer terroristen effectiever aangepakt zouden kunnen worden. De rechter heeft uiteindelijk besloten dat Apple de FBI moest helpen om de iPhone van de terrorist te ontgrendelen. In tegenstelling tot wat eerder geëist werd, namelijk het creëren van een nieuwe ‘achteringang’ voor de FBI, hoefde Apple alleen de toegang tot de specifieke iPhone te garanderen.
Of er met de uitspraak recht is gedaan aan alle belanghebbenden is onduidelijk. Er bestaat in veel gevallen geen consensus over wat de beste oplossing is. Uiteindelijk gaat dit over de vraag wat de beste samenleving is en daar komen we vooralsnog niet zomaar uit. Wat is bijvoorbeeld beter? Een samenleving waarin een grote groep mensen marginaal gelukkig is of een samenleving waarin een kleinere groep heel erg gelukkig is? Er bestaat geen absolute filosofische theorie. Uiteindelijk zou het aan de samenleving zelf moeten zijn om te bepalen wat de beste samenleving is. Het is een democratisch vraagstuk. En zelfs wanneer we als samenleving consensus vinden over wat we belangrijk vinden staat de vraag hoe je dit integreert in een AI-systeem nog open. Maar, first things first. Voordat we kunnen kijken op welke wijze we ethische richtlijnen kunnen integreren in het ontwerp van AI-toepassingen moeten we in kaart brengen welke ethische richtlijnen er zijn (beginselethiek) en in hoeverre deze standhouden in de praktijk (gevolgen- en deugdethiek).
» Mijn ethiek is niet per definitie ook jouw ethiek. «
–Patrick van der Duin, STT