Door Marijn Janssen
Artificiële intelligentie (AI) wordt op verschillende plekken ingezet om tot een betere maatschappij te komen. Zo helpt AI om ziekten in een vroeg stadium te detecteren en om sociale problemen aan te pakken (‘the good’). Tegelijkertijd wordt AI gebruikt om te beïnvloeden op welke politieke partij je stemt en om op grote schaal te frauderen (‘the bad’). AI kan daarnaast ongemerkt menselijke vooroordelen overnemen en ongezien het leven van alledag dicteren. AI leest je gedrag uit om je gezondheid en verzekeringspremies te bepalen en discrimineert bevolkingsgroepen zonder dat dit meteen duidelijk is (‘the ugly’, oftewel de gemene). Het is met name bij dat laatste waar het venijn zit, omdat de onbedoelde effecten niet direct zichtbaar zijn en we er ons vaak niet bewust van zijn. Waar ‘de goede’ en ‘de slechte’ directer zichtbaar zijn, is ‘de gemene’ minder zichtbaar en moeilijker om te achterhalen.
De maatschappelijke roep om transparante, verantwoorde en eerlijke AI is dan ook meer dan terecht. Veelal wordt ingespeeld op het idee dat AI bijvoorbeeld transparant moet zijn, maar wat dan precies transparant moet zijn wordt niet uitgelegd. Impliciet wordt gezegd dat we het algoritme moeten begrijpen, maar is de situatie zonder AI dan wel transparant en begrijpen we wat er in de hersenen van mensen omgaat bij het nemen van beslissingen? Onbekend maakt onbemind. Kunnen we überhaupt verwachten dat een complex algoritme transparant is en de complexiteit door alle gebruikers doorgrond kan worden? De meeste mensen nemen al niet de moeite om de voorwaarden van een app of website door te lezen en klikken zonder nadenken op akkoord. Complexe algoritmen begrijpen gaat over hogere wiskunde. Volledige transparantie is voor de meeste mensen een illusie. De vraag is dan ook hoe onze samenleving hiermee om kan gaan.
In de sciencefictionserie Star Trek hebben de ‘Vulcans’ een oplossing. “Logic is the cement of our civilization, with which we ascend from chaos, using reason as our guide” (T’Plana-Hath, Matron of Vulcan Philosophy, Star Trek IV: The Voyage Home, 1986). Logica zou moeten leiden tot het ter discussie stellen van vooroordelen, zorgen dat je alle feiten op een rijtje hebt en vermijden dat men alleen ziet wat men wil zien. De logica gevolgd door de Vulcans leidt tot een technocratische kijk en heeft ook nadelen, omdat er altijd mensen zijn die politiek bedrijven en het systeem bespelen. Informatie is bijna nooit compleet en niet alle addertjes onder het gras zijn duidelijk. Logica is nodig, maar moet bijgestaan worden door een geschikt bestuursmodel.
De gevoeligheid van algoritmen voor veranderingen en hun grillige natuur door de vele variabelen maken het moeilijk om AI algoritmen aan te sturen. Zo’n bestuursmodel moet de technologie niet alleen aansturen, maar ook bevatten. Hiervoor is technische kennis een voorwaarde, maar niet voldoende. Er is een bestuursmodel nodig waarbij er een goed gedefinieerd afsprakenstelsel is om met AI om te gaan. Voordat AI gebruikt mag worden zou het getoetst moeten worden, net zoals we pas medicijnen op de markt brengen na zorgvuldige toetsing en inzicht in mogelijke bijeffecten. AI-systemen moeten voldoen aan eisen om te voorkomen dat we in een surveillance staat eindigen, waar al ons handelen zonder dat we het weten of willen wordt beïnvloed door AI. Daarnaast is organisatorische kennis nodig om de ethische consequenties te begrijpen. Bij automatisch rijden met AI is een stuur misschien niet meer nodig, maar dat neemt niet weg dat er geen besturing meer bestaat. Het model van besturing moet ervoor zorgen dat de slechte en gemene dingen van AI niet voorkomen. De aansturing van AI is nu nog niet volwassen, terwijl we AI wel op grote schaal gebruiken. Laten we met AI governance op weg gaan naar een AI-maatschappij, waar de mens aan het stuur zit en de computer ondersteunt.
