Verschillende angsten omtrent extreme ongelijkheid en afhankelijkheid zijn ons in het scenario van ‘Game Over’ bespaard gebleven. De mens heeft de controle behouden en complexe aansprakelijkheidsvraagstukken (waar we mogelijkerwijs toch niet samen uit zouden komen) vragen niet langer onze aandacht. Ook geopolitieke spanningen die de AI rat race veroorzaakte zijn verminderd. Daarmee is echter ook de potentie die AI in zich had onbenut gebleven. Corruptie, verkeersdoden, foutieve diagnoses en onterechte rechtsuitspraken als gevolg van menselijk toedoen blijven daarmee aan de orde van de dag. We verweten AI-systemen dat ze biases↓Niet alleen menselijke intelligentie, maar ook AI heeft last van vooroordelen. De output van algoritmen kan gender en race biases bevatten. De verklaring ervan is simpel. Wanneer de input niet zuiver is, dan is de output dat ook niet. >Hoofdstuk 1.2.2 bezaten en daarmee voor ongelijkheid zorgden, maar dat is uitsluitend omdat de data die als input werd gebruikt menselijke vooroordelen↓Cognitive biases: Aangezien we evolutionair geprogrammeerd zijn om zoveel mogelijk energie te besparen, sluipen er wel wat ‘denkfouten’ in onze informatieverwerking. Deze denkfouten worden ook wel cognitive biases genoemd. >Hoofdstuk 1.2.2 bevatte. In plaats van met de vinger naar onszelf te wijzen en onze eigen tekortkomingen proberen te verhelpen, wezen we met de vinger naar de technologieën. Hetzelfde geldt voor transparantie en explainability↓Het wordt steeds lastiger voor mensen om te achterhalen op basis van welke data de uitkomsten van AI gebaseerd zijn. AI wordt daarom nu nog vaak vergeleken met een black box. >Hoofdstuk 1.2.2 van de systemen. Ook bij menselijke besluitvorming↓ We willen graag geloven dat mensen rationele wezens zijn. Maar het besluitvormingsproces is grillig. Beeldvorming en ambities spelen naast feitelijke kennis een belangrijke rol. >Hoofdstuk 1.2.2 kunnen we niet onder de motorkap↓We kunnen de complexe concepten die wij aan het brein willen koppelen, zoals bewustzijn en vrije wil, nog niet modelleren en we kunnen ze niet een-op-een linken aan gebieden in het brein. >Hoofdstuk 1.2.1 kijken. Wanneer iemand in het verkeer een ongeluk veroorzaakt moeten we ons ook beroepen op een geregisseerde verklaring achteraf. We kunnen ook dan niet in de hersenpan kijken om zo de exacte aanleiding van een keuze te achterhalen. AI-systemen hebben juist de potentie om meer objectieve besluiten te nemen, vrij van menselijke vooroordelen en emoties. Ook de voordelen van een collectieve vorm van intelligentie zijn onbenut gebleven. In potentie zijn mens en machine samen namelijk veel slimmer dan de mens alleen. Ook hebben we als mensheid de kans om grote maatschappelijke vraagstukken te heroverwegen laten liggen. AI liet ons namelijk nadenken over wie we als mens zijn en welke samenleving we willen. Door te stoppen met de ontwikkeling van AI zijn we ook dergelijke fundamentele keuzes uit de weg gegaan.
Om te voorkomen dat autonome systemen worden geïntegreerd in het besluitvormingsproces zijn er verschillende internationale wetten aangenomen. Het is voor overheden en bedrijven niet langer toegestaan om besluitvormingsprocessen volledig te automatiseren. Dit heeft geleid tot bureaucratische processen en overregulering. De scheidingslijn tussen automatisering en ondersteuning is namelijk arbitrair. In elk punt in de schakel wordt menselijke controle geëist. Veel bedrijven zien door de bomen het bos niet meer. Dit heeft de nodige financiële implicaties. AI-systemen hadden namelijk de potentie om processen efficiënter en daarmee goedkoper te maken. Verschillende routinematige taken worden noodgedwongen weer overgenomen door de mens. Het is hierdoor voor kleinere bedrijven steeds lastiger geworden om het hoofd boven water te houden. De angst voor technologie heeft tevens voor een belemmering van innovatie gezorgd. We hebben weliswaar catastrofale gevolgen weten te voorkomen, maar de mogelijkheden die AI bood in verschillende domeinen, zoals de ontwikkeling van nieuwe medicijnen, hebben we laten liggen.
Early warning signals
Artificial Intelligence: Winter is coming (Financial Times, 2018)
—————————————————————————
Bias grote bedreiging voor commercieel succes AI (Binnenlandsbestuur, 2019)
———————————————— —————————
Het kost zeeën aan data om zelfrijdende auto’s veilig te maken (Volkskrant, 2019)
