3.2

De impact

Het streven naar automatisering leidde er in het scenario van ‘Privacy for sale’ toe dat AI in specialistische taken beter is geworden dan de mens en daardoor een vorm van concurrentie is. De mens wordt op verschillende gebieden vervangen door AI, oftewel Substituted Intelligence. Aangeschakelde systemen nemen steeds meer domeinen over. De democratie verandert in een algocratie. Door de ervaren negatieve gevolgen ontstaat een tegenbeweging in de samenleving; mensen zien in dat alle data die ze hebben afgestaan ook tegen ze gebruikt wordt. Privacy wordt steeds meer een luxe product. Mensen met beperkte middelen raken in steeds grotere mate afhankelijk van technologie. 

Gezondheid & Zorg

Tegen de verwachtingen in heeft AI eraan bijgedragen dat de gezondheidszorg menselijker is geworden: repetitieve taken worden overgenomen door AI, waardoor meer tijd overblijft voor aandacht voor de mens. Zorg is daarbij dankzij AI goedkoper geworden en het tekort aan personeel is grotendeels opgelost. Ondanks deze efficiëntieslag en verlaging van de kosten is de kloof tussen wel en geen zorg (kunnen) krijgen vergroot: wie geld heeft kan zich allerlei dingen veroorloven om langer door te leven. Ouderdom wordt daarmee een ziekte voor de armen. AI zorgt daarbij voor uitsluiting: een ongezonde levensstijl leidt tot hogere premies en we gebruiken data om gedrag te verantwoorden. ‘Hij/zij dronk veel, dus het is logisch dat de premie dan hoger is’. Data wordt in groten getale beschikbaar gesteld aan zorgverzekeraars; tenzij mensen een hogere premie betalen om ervoor te zorgen dat dit niet gebeurt.

Politiek & Bestuur

Er ontstaat in steeds hogere mate een geautomatiseerde vorm van politiek: het systeem werkt op basis van publieke waarden als input en formuleert daarop beleid als output. Deze datagedreven politieke besluitvorming↓We willen graag geloven dat mensen rationele wezens zijn. Maar het besluitvormingsproces is grillig. Beeldvorming en ambities spelen naast feitelijke kennis een belangrijke rol. >Hoofdstuk 1.2.2 draagt bij aan een onverwachte toename van ‘inspraak’ van burgers. Doordat besluiten tot stand komen op basis van gedrag van burgers, liggen de besluiten die door de systemen gemaakt worden meer in lijn met de voorkeuren en behoeften van het volk. Menselijke emoties die het besluitvormingsproces vertroebelen, blijven buiten beschouwing. De aanname hierbij is echter dat algoritmen neutraal zijn, maar dat zijn ze in de praktijk niet. Minderheden worden over het hoofd gezien als gevolg van een beperkte beschikbaarheid van data↓Machine biases: Niet alleen menselijke intelligentie, maar ook AI heeft last van vooroordelen. De output van algoritmen kan gender en race biases bevatten. De verklaring ervan is simpel. Als de input niet zuiver is, dan is de output dat ook niet. Biases van algoritmen worden dus veroorzaakt door cognitieve biases van mensen. >Hoofdstuk 1.2.2 over deze groepen, wat zorgt voor een toename van ongelijkheid en sociale fragmentatie. Deze groep wordt ook wel The Unseen genoemd. Er ontstaat een verdeling tussen ‘supermensen’ die toegang hebben tot alle middelen en de groep die achterblijft (als gevolg van weinig geld, kennis, etc.). De monopoliepositie van grote techbedrijven wordt alsmaar groter

Veiligheid & Beveiliging

Defensie investeert fors in autonome wapentechnologieën. Soldaten gaan niet langer het veld in, maar programmeren achter de schermen doelen voor de wapensystemen. Routinematige veiligheidstaken worden volledig geautomatiseerd, waardoor meer tijd overblijft voor de aanpak van grotere maatschappelijke veiligheidsvraagstukken. Er ontstaan objectievere systemen die minder fouten maken dan de mens. Zo zorgt de zelfrijdende auto bijvoorbeeld voor een drastische verlaging van het aantal verkeersongelukken. Er liggen echter risico’s op de loer waarbij cruciale ecosystemen falen in verschillende veiligheidsdomeinen. Denk hierbij aan het fysieke domein (zelfsturende vliegtuigen die neerstorten), het cyberdomein (het uitvallen van beveiligingssystemen) en het publieke domein (automatisch gegenereerde deep fakes↓Met behulp van AI kun je een persoon dingen laten zeggen of doen die hij of zij in werkelijkheid nooit gezegd of gedaan heeft. Deze techniek wordt ook wel deepfake genoemd, een combinatie van de woorden deep learning en fake. Een bekend voorbeeld is de gemanipuleerde video van Barack Obama. >Hoofdstuk 1.2.3 ). Deze systemen kunnen ook falen als gevolg van hackers die op afstand ‘inbreken’.  

Werk & Inkomen

AI-systemen worden in bepaalde taken beter dan mensen. Hierdoor krijgen mensen meer keuzevrijheid. Als uit onderzoek bijvoorbeeld blijkt dat robots tijdens een hartoperatie minder fouten maken dan een chirurg, dan kunnen mensen zelf de keuze maken: een robot of de chirurg? Dit leidt er in steeds meer gevallen toe dat mensen weigeren om bijvoorbeeld door een menselijke arts of rechter behandeld te worden. Dit zorgt in sommige beroepen voor concurrentie, terwijl in andere beroepen AI hierdoor de mens juist meer waarde in het proces kan geven. Door de automatisering van taken, blijft er meer ruimte over voor menselijk contact. Toch geldt dat niet voor alle beroepen; beroepen met veel repetitieve taken verdwijnen volledig. De waardering en sociale contacten die mensen uit dit soort werk halen, wordt deze groep mensen afgenomen.

3.2

De impact