De ontwikkeling van technologie is voor een groot deel afhankelijk van investeringen. De AI-winters↓AI-winters zijn perioden waarin de interesse in en financiering voor AI-onderzoek laag is. >Hoofdstuk 1.2 in het verleden werden dan ook voornamelijk veroorzaakt door een gebrek aan financiering voor AI-onderzoek. Veel van deze financieringen komen vanuit de overheid. Momenteel is de interesse in AI↓De meest dominante associatie met AI is machine learning. Uit onderzoek van de World Intellectual Property Organisation (WIPO) uit 2019 blijkt tevens dat machine learning de meest dominante AI-technologie is die in patentaanvragen is opgenomen. Binnen deze toekomstverkenning richten we ons daarom hoofdzakelijk op machine learning. >Hoofdstuk 1.1 dermate groot dat wereldmachten de strijd met elkaar aangaan. Uit onderzoek van PwC uit 2017 blijkt dat de wereldwijde Gross Domestic Product (GDP) in 2030 door ontwikkelingen op het gebied van AI maar liefst 14% hoger zal liggen.
» Whoever leads in AI will rule the world. «
–– Vladimir Poetin, 2017
De Russische president Poetin ziet enorme kansen voor AI in de toekomst, maar waarschuwt ook voor dreigingen die moeilijk te voorspellen zijn. Volgens Poetin zal het land met de beste AI over de wereld heersen. We moeten daarom oppassen voor het ontstaan van een monopolie. De race lijkt voornamelijk tussen de VS en China te gaan. Maar welke rol neemt Europa hierin? En hoe verhoudt de Nederlandse strategie zich tot andere landen?
De vraag daarbij is in hoeverre de overheid nog grip heeft op de ontwikkeling van de technologie. Bedrijven als Google, Amazon en Facebook worden steeds machtiger en krijgen steeds meer invloed.
» History belongs to the highest bidder now. «
–– Viktor Petrov, House of Cards
Laat de leeuw niet in zijn hempie staan
In 2018 verscheen het rapport AI voor Nederland. Een eerste aanzet voor een Nederlandse AI-strategie. Het rapport is opgesteld door AINED, een publiek-private coalitie van TopTeam ICT, VNO-NCW, ICAI, NWO en TNO. Het uitgangspunt van het rapport is dat de mogelijkheden die AI nu en in de toekomst kan bieden in Nederland nog onvoldoende benut worden. AI zou een nationale prioriteit moeten worden, om zo onze welvaart en internationale concurrentiepositie voor de toekomst veilig te kunnen stellen. Nederland moet zich dus gaan positioneren en actie ondernemen. Het voorstel van AINED voor een nationale strategie is als volgt:
- Verhoog de capaciteit van het (AI-)onderwijs
- Trek buitenlands talent aan
- Ontwikkel AI-kennis bij executives en beroepsbevolking
- Verhoog bruikbaarheid, beschikbaarheid en waarde van publieke data
- Ontwikkel (op lange termijn) een PPS platform voor data delen
- Verbeter de toegang tot WBSO-subsidie voor AI innoverende bedrijven
- Faciliteer de toegang tot Europese investeringen en netwerken
- Zet een groeifonds voor AI op bij Invest-NL
- Zet in op ruimere toegankelijkheid tot financiering en verhoogde awareness omtrent AI binnen het MKB
- Pas AI toe binnen de eigen processen van de overheid
- Ontwikkel gericht de AI-competenties binnen de overheid
- Bepaal kaders in samenwerking met Europa en werk kaders uit op sector- en waar nodig casusniveau
- Richt publiek-private samenwerking en financiering in voor data- en kennisgeoriënteerde waardeketens
- Zet een onderzoekscentrum op gericht op high-tech onderzoek samen met kennisinstellingen en organisaties via industriële kennislaboratoria
In het rapport wordt benadrukt dat Nederland dit niet alleen kan. Nederland moet aansluiten – en waar mogelijk leiderschap tonen – bij Europees beleid, programmering en allianties. Het rapport onderstreept dat voor een succesvol Europees beleid er een nationale strategie nodig is die alle aspecten zichtbaar verenigt en keuzes maakt voor Nederland. Hiervoor is politieke steun nodig om op het moment van besluitvorming in Europa de Nederlandse belangen te kunnen bestendigen.
Het standpunt van de overheid
Om een goed beeld te krijgen van de mogelijke impact van AI op de publieke waarden heeft Mona Keijzer, Staatssecretaris van Economische Zaken en Klimaat, in 2018 namens (bijna) alle ministeries een adviesaanvraag ingediend bij de Wetenschappelijke Raad voor Regeringsbeleid (WRR) om nader onderzoek te doen. Het kabinet vindt het van belang te bezien welk instrumentarium reeds voorhanden is om de kansen van Al te faciliteren en de uitdagingen te beantwoorden, en welke instrumenten eventueel aanvullend nodig worden geacht. De Nederlandse overheid komt voor de zomer van 2019 met een Strategisch Actieplan AI (SAPAI). Met name op het gebied van Open Data voorziet Nederland een sterke positie voor zichzelf weggelegd.
Toch is de Nederlandse overheid in relatie tot andere Europese landen vrij laat met een nationale AI-strategie. Finland publiceerde al in 2017 Finland’s Age of Artificial Intelligence. In 2018 volgenden ook Denemarken, Italië, Frankrijk, Verenigd Koninkrijk, Zweden en Duitsland. Net voor het eind van dat jaar kwam ook de Europese Commissie met een gecoördineerd plan om een boost te geven aan AI ‘made in Europe’. Dit lijkt een gemiste kans voor Nederland om leiderschap te tonen bij de totstandkoming van Europees beleid, programmering en allianties.
Koude oorlog 2.0
Het zwaartepunt van de wereldeconomie verschuift naar het Oosten. Het principe van ‘waar wonen de meeste mensen’ gaat weer tellen. China had in 2017 al twee strategische AI-plannen klaar, namelijk het Three-year action plan en het Next Generation AI plan. In dit laatste plan beschrijft China haar doel om in 2030 wereldleider te zijn in AI. Uiteraard wil de VS zich niet van de troon laten stoten en kwam in de eerste helft van 2018 met het White House Summit on AI. De VS zet alles op alles om de voorsprong op China te behouden. Dit uit zich in The American AI Initiative.
» Continued American leadership in Artificial Intelligence is of paramount importance to maintaining the economic and national security of the United States. «
–– Donald J. Trump, 2019
De rivaliteit tussen de twee landen is goed zichtbaar in het gevecht over de toekomst van 5G netwerken, waar Europa middenin zit. Deze fifth generation networks maken een supersnelle verbinding mogelijk en zorgen ervoor dat technologische toepassingen veel beter functioneren, van mobiele telefoons tot zelfrijdende auto’s. Dit zal een grote rol spelen bij de ontwikkeling van AI-toepassingen. Het gevecht tussen de VS en China gaat met name over de vraag of Europese landen toestemming moeten geven aan de Chinese telecomgigant Huawei om 5G netwerken op het continent te installeren. Europa staat hier in de basis wel voor open aangezien de kwaliteit hoog is en de kosten laag. De VS waarschuwt er echter voor dat wanneer Europa de technologie toestaat het grote gevolgen zal hebben voor de nationale veiligheid. China zou de netwerken namelijk gebruiken voor onder andere spionage. De Amerikaanse overheid heeft daarom al aangegeven geen zaken te doen met Huawei.
Interessant hierbij is dat deze twee wereldmachten een compleet andere visie hebben op welvaart. Daar waar de VS gelooft dat welvaart groeit door bedrijven de maximale vrijheid te geven, gelooft China dat juist de overheid de maximale vrijheid moet krijgen om de welvaart te laten groeien. Hoewel deze visies lijnrecht tegenover elkaar staan hebben ze wel een overeenkomst; ze kenmerken zich beide door een proactieve en doelgedreven benadering.
Gastcolumn –––––––––––––––––––––––––––––––––––––––––––––––
Sorry, president Trump. Maar op AI-gebied gaat China winnen
door Carl Rohde, International Future Researcher
De strijd tussen de VS en China om AI-werelddominantie is volop losgebarsten en zal de komende jaren steeds opnieuw de kop opsteken. Maar wie heeft de beste papieren om de competitie te winnen? Om twee redenen zijn dat volgens International Future Researcher Carl Rohde de komende tien jaar de Chinezen.
De eerste reden heeft te maken met het verschil tussen initiëren en implementeren. AI betekent een mega-
revolutie, zowel in ons maatschappelijk bestaan als in de zakenwereld. Om zo’n revolutie in eerste instantie aan te wakkeren zijn er genieën van wereldformaat nodig. Waar het AI betreft worden die vrijwel uitsluitend door Silicon Valley voortgebracht, met zijn California-cultuur van zonnig vooruitgangsoptimisme en the sky is the limit openheid. Steve Jobs, Elon Musk en Peter Thiel imponeren niet voor niets wereldwijd. Nu evolueren we echter naar de implementeringsfase van AI. Hoe gaat AI ingezet worden in de auto-industrie en de gezondheidsindustrie, in educatie en hospitality – en alle velden daartussen? Daarvoor zijn niet zozeer nog meer out of the box bevlogen genieën nodig. Maar gedisciplineerde legers van bekwame implementeer-engineers. Daarin lijkt China superieur, zowel kwalitatief als kwantitatief.
Er is een tweede reden waarom China voor nu de beste papieren heeft. AI werkt strakker en scherper naarmate het gevoed wordt met meer data. China heeft verreweg de meeste data. Zo betalen er meer mensen met hun mobiele telefoons – de ultieme dataleverancier – dan in Europa en Amerika samen. Zoals ook Weibo groter is dan Google. En Didi groter dan Uber. Daarnaast bestaat de collectieve privacy-gevoeligheid van het Westen in China niet of nauwelijks. En waar ze bestaat is ze tandeloos.
Kortom, China heeft het tij mee. Totdat er weer een nieuwe totaal disruptieve revolutie ‘gemaakt’ wordt. Die kan zich uitkristalliseren rondom blockchain-technologieën of rondom quantum computing. Maar nu eerst AI implementeren!
Het antwoord van Europa
In Europa ligt dat wat anders. Hier geloven we dat bedrijven en de overheid met elkaar moeten overleggen over hoe we de welvaart het best kunnen verhogen. Het is vanuit dat opzicht geen toeval dat de Europese AI-strategie zich sterk richt op aandacht voor ethische richtlijnen. In 2019 werden de Ethics guidelines for trustworthy AI gepubliceerd, ontwikkeld door een onafhankelijke High-Level Expert Group on Artificial Intelligence. Over de vraag of Europa hiermee een goede stap heeft gemaakt lopen de gedachten echter nogal uiteen.
Voorstanders van de Europese focus op ethiek benadrukken dat dit geen rem is voor Europa, maar juist nieuwe mogelijkheden schept en een driver van vooruitgang zal zijn. Het draagt namelijk bij aan het vertrouwen in de technologie en dat is goed voor de consumptie en dus de winst. Amerika en China zouden deze richtlijnen wel op moeten volgen, omdat Europa een grote consumentenmarkt is. Dit zie je al gebeuren bij de Europese General Data Protection Regulation, oftewel GDPR. Er bestaan in Europa verschillende collaboratieve initiatieven die zich inzetten voor een human-centered benadering, zoals de Confederation of Laboratories for Artificial Intelligence Research (CLAIRE), het European Laboratory for Learning and Intelligent Systems (ELLIS) en de Alliance for Artificial Intelligence (ALLAI). Deze laatste alliantie is opgezet door de drie Nederlandse deelnemers van de High-Level Expert Group on Artificial Intelligence.
Tegenstanders van de Europese focus op ethiek denken dat we voordat we zijn ‘uitgepolderd’ alweer achterlopen en de buit reeds verdeeld is door Amerika en China, die er niet zoveel over nadenken maar handelen. Nu al zie je dat de unieke positie van Europa op het gebied van ethische AI links en rechts wordt ingehaald. Zo heb je in de VS al een gelijksoortig initiatief zoals ALLAI dat zich richt op AI to benefit people and society, namelijk het Partnership on AI. Volgens tegenstanders ontdek je juist tijdens het handelen wat gepast is en wat niet. Zaken als explainibility↓Het wordt steeds lastiger voor mensen om te achterhalen op basis van welke data de uitkomsten van AI gebaseerd zijn. AI wordt daarom nu nog vaak vergeleken met een black box. >Hoofdstuk 2.2 zijn volgens tegenstanders weliswaar belangrijk, maar ze benadrukken dat je dit niet vanaf de zijlijn kunt doen. Je moet hier in gecontroleerde omgevingen mee experimenteren. Dergelijke uitdagingen zouden haast onmogelijk theoretisch te benaderen zijn.
» We kunnen geen scheidsrechters opleiden, als we geen spelers in het veld hebben. «
–– Maarten de Rijke, UvA
Volgens Robin Young, een Chinese AI-ondernemer die zowel in China als de VS werkt, kan Europa nog veel leren van China. Europa moet volgens hem een duidelijke richting kiezen, het aandurven om risico’s te nemen en werken aan een grotere publieke acceptatie van het gebruik van data. Daarbij zijn beleidsmakers in China geen advocaten (zoals in Europa vaak het geval is), maar engineers. Geen denkers, maar doeners. Volgens Young is het voor Europa lastig om met de huidige AI-technologieën te concurreren. Amerika en China zijn namelijk veel grotere homogene markten, wat een grotere beschikbaarheid van data betekent. Europa zou zich volgens hem daarom veel meer moeten gaan richten op ‘de nieuwe fase van AI’. Een fase van nieuwe AI-technologieën die minder afhankelijk zijn van data↓Een van de grootste beperkingen van AI is dat het afhankelijk is van grote hoeveelheden data. Bij deep learning wordt daarom ook wel gesproken over data-hungry neural networks. Dit maakt dat de technologie niet goed is in randgevallen, waarbij weinig data beschikbaar is. >Hoofdstuk 2.3 . Daar liggen volgens Young de kansen voor Europa.
Het is in de basis prima (en onoverkoombaar) dat de strijd om AI-technologieën vanuit een economisch en geopolitiek perspectief als een wedstrijd wordt gezien. We moeten er echter voor waken dat ethiek ook een wedstrijd wordt. Het is niet de vraag welk continent de béste ethische richtlijnen heeft, het gaat er juist om op welke vlakken overeenstemming gevonden kan worden. Om in sporttermen te blijven; ethiek is een teamsport. Er is mondiale samenwerking nodig om in de toekomst zorg te dragen voor ethische AI die bijdraagt aan het welzijn van individuen en samenlevingen. Dit zal niet zonder slag of stoot gaan en het zal waarschijnlijk alleen lukken door een combinatie van theorie en praktijk. Ja, het is belangrijk om samen met een groep interdisciplinaire experts richtlijnen te formuleren, maar we moeten ze ook in de praktijk gaan toetsen en ervaringen uitwisselen.
Silicon Valley
In alle commotie omtrent de rivaliteit tussen China en Amerika zou je bijna vergeten dat het de grote tech-bedrijven zijn die de AI-wapenwedloop faciliteren. Zo heeft Google zowel met de Amerikaanse, als met de Chinese overheid contracten afgesloten. Onder de noemer Project Maven werkte Google vanaf 2017 voor het Amerikaanse Ministerie van Defensie aan zelflerende Beeldherkenningssytemen↓Bij toepassingen op het gebied van beeldherkenning wordt vaak gebruik gemaakt van een zogenaamd Convolutional Neural Network (CNN). CNN werkt als een filter die over een afbeelding beweegt en op zoek gaat naar de aanwezigheid van bepaalde eigenschappen. >Hoofdstuk 1.1 voor militaire drones. De software moet razendsnel vijandige objecten kunnen herkennen op grote hoogte. Hiermee komt de stap naar drones die zelfstandig beslissingen kunnen nemen en objecten kunnen uitschakelen steeds dichterbij. Het contract van Google met het Pentagon stuitte daardoor op veel weerstand, ook van Google-medewerkers zelf. In 2018 werd aangekondigd dat het contract in 2019 zou aflopen. In dezelfde periode werkte Google voor de Chinese overheid aan Project Dragonfly. Een zoekmachine die resultaten blokkeert die door de Chinese overheid als onwenselijk worden beschouwd. Ook hier stuitte Google op weerstand. Volgens Amnesty International zou de gecensureerde zoekmachine het recht op vrije meningsuiting en de privacy van miljoenen Chinezen bedreigen. Later kwamen ook de medewerkers van Google in opstand en schreven een open brief aan het management van Google. Google kondigde in 2018 aan de werkzaamheden stop te zetten, maar medewerkers betwijfelen of dit ook echt gebeurd is.
Het is niet zo vreemd dat overheden aankloppen bij Silicon Valley. Er is een enorm tekort aan AI-specialisten. Wereldwijd zouden er slechts 10.000 mensen zijn die AI écht begrijpen en de benodigde skills hebben om complexe problemen op te kunnen lossen. De grootste talenten worden met buitensporige salarissen weggelokt bij universiteiten door tech-bedrijven als Google, Facebook en Amazon. Dit wordt ook wel de braindrain van AI genoemd. Dit verstevigt de positie van deze tech-bedrijven enorm. Tech-bedrijven beheren steeds meer data die niet alleen commercieel gezien interessant zijn, maar ook voor overheden enorm relevant. Dit maakt dat overheden een bepaalde afhankelijkheidspositie ten opzichte van tech-
bedrijven gaan krijgen. Het is daarom nog maar de vraag in hoeverre overheden in de toekomst een grote rol zullen spelen bij de ontwikkelingsrichting van AI.
Concurrentie tussen bedrijven heeft tevens invloed op de ontwikkelingsrichting van AI. Denk bijvoorbeeld aan de zelfrijdende auto. Dit systeem lijkt beter te functioneren wanneer alle voertuigen met elkaar in verbinding staan. De vraag is of de voertuigen van Google, BMW en Tesla dit gaan toelaten. Denk bijvoorbeeld aan de verschillende aansluitingen en besturingssystemen van mobiele telefoons. Devices van Apple en Samsung zijn allesbehalve compatible. Hierbij dient niet alleen naar AI gekeken te worden. De snelheid van veranderingen zit vaak in de combinatie van technologieën: AI + Cloud technologieën + Internet of Things (IoT), et cetera.