1.2

Do(n’t) believe the hype

AI↓De meest dominante associatie met AI is machine learning. Uit onderzoek van de World Intellectual Property Organisation (WIPO) uit 2019 blijkt tevens dat machine learning de meest dominante AI-technologie is die in patentaanvragen is opgenomen. Binnen deze toekomstverkenning richten we ons daarom hoofdzakelijk op machine learning. >Hoofdstuk 1.1 wordt steeds vaker als een marketingterm gebruikt. Er worden dan ten onrechte populaire termen geplakt op dingen die geen AI zijn. Hypewoorden zorgen voor een overschatting, maar ook voor een onderschatting van de technologie. Als we de media moeten geloven zal AI in de toekomst al onze banen gaan overnemen en de mens volledig buitenspel zetten. Hierbij wordt nauwelijks gekeken naar hoe reëel deze situaties zijn vanuit een technologisch perspectief. Tegelijkertijd hebben mensen vaak niet door dat AI al in steeds meer toepassingen zit die we dagelijks gebruiken.

» We overschatten general AI en we onderschatten narrow AI. «

Wat is general AI↓Artificial General Intelligence zou in staat moeten zijn om alle intellectuele taken uit te voeren die een mens ook kan uitvoeren. >Hoofdstuk 1.1 en narrow AIArtificial Narrow Intelligence is een vorm van AI die zeer goed is in het doen van specifieke taken. Denk hierbij aan schaken, aanbevelingen doen en het geven van kwantificeerbare voorspellingen. >Hoofdstuk 1.1
.

Veel mensen denken nog steeds dat als je een slim recept bedacht hebt, dat daar dan vanzelf de juiste oplossing uitrolt. De intelligentie zit echter niet alleen in de algoritmen, maar ook in de datasets. Er zit veel moeite in het voorbereiden van de juiste datasets om Machine Learning↓Het gaat bij machine learning over een revolutie waarin mensen niet meer programmeren (als dit, dan dat), maar waarin machines zelf regels afleiden uit data. >Hoofdstuk 1.1 op toe te passen. Dit wordt vaak onderschat. Veel bedrijven ‘willen er iets mee’, maar hebben hun datamanagement niet op orde. Er wordt een hele geschiedenis aan IT systemen meegesleept. Destijds was data nog niet zo belangrijk. Het is dan ook niet eenvoudig en het vergt veel discipline om iedereen binnen een organisatie te houden aan de afspraken omtrent het vastleggen van data.

Don’t believe the hype

In 2017 kreeg robot Sophia het burgerschap van Saoedi-Arabië. Het ‘product’ van Hanson Robotics was daarmee de eerste robot ter wereld met een rechtspersoonlijkheid. Met een menselijk voorkomen en dito naam werd Sophia in de media neergezet als ‘intelligente robot’. Zonder meer een indrukwekkend stukje engineering, maar of het de ontwikkeling van AI ten goede komt is nog maar de vraag. Het is namelijk op zijn minst twijfelachtig of deze robot onder AI geschaard kan worden. Het heeft er alle schijn van dat de gesprekken scripted zijn. De timing klopt vaak niet helemaal en daarbij zijn sommige antwoorden té gevat. Bijvoorbeeld op de vraag hoe we een dark future kunnen voorkomen, antwoord Sophia laconiek dat we ‘te veel met Elon Musk praten en te veel Hollywood films kijken’. Maar om het verband tussen een dark future, Elon Musk én Hollywood te kunnen leggen, zonder te weten dat deze vraag gesteld kan worden, is extréém veel data en understanding nodig en zo ver lijkt de technologie nog niet te zijn. Het beeld van een zelfbewuste robot met common sense↓Common sense bestaat uit alle kennis over de wereld; van fysieke en zichtbare aspecten, tot culturele en dus meer impliciete regels, zoals hoe je met elkaar omgaat. >Hoofdstuk 2.1 is onterecht. Daarnaast is het op zijn minst opvallend te noemen dat juist Saoedi-Arabië het allereerste land ter wereld is dat rechten geeft aan een vrouwelijke entiteit. Het lijkt daarom meer op een publiciteitsstunt en kan de geloofwaardigheid van AI aantasten.

Mag het een onsje minder?

Een vergelijkbaar voorbeeld waarbij de werkelijkheid wat werd aangedikt zagen we bij het AI-experiment dat het Facebook Artificial Intelligence Research lab (FAIR) in 2017 stillegde. Twee spraakrobots, Alice en Bob, zouden hun eigen taal ontwikkeld hebben die alleen zij begrepen. Ze zouden het Engels aangepast hebben om efficiënter met elkaar te kunnen communiceren. Aangezien de onderzoekers er niets van begrepen legden ze het experiment stil.  

» We do not know what these bots are saying. Once you have a bot that has the ability to do something physically, particularly military bots, this could be lethal. «

–– Kevin Warwick, University of Reading

Wat er niet bij werd vermeld is dat dergelijke experimenten wel vaker worden afgesloten en opnieuw worden opgestart. Ze waren niet daadwerkelijk met elkaar aan het praten, ze vonden een set patronen die ze beide herkenden. Dit leidde echter niet tot de gewenste output. Daarom legde Facebook het experiment stil, niet uit angst dat ze te slim werden. Neurale netwerken↓Artificiële neurale netwerken worden gebruikt binnen deep learning en zijn oorspronkelijk gebaseerd op het menselijk brein, waarbij neuronen laagsgewijs met elkaar verbonden zijn. >Hoofdstuk 1.1 zijn nu eenmaal niet goed te begrijpen. Elk model creëert zijn eigen representatie van de data, waarmee dat model goed kan werken. Als wij daar als mens naar kijken dan zijn die niet altijd te begrijpen. Maar dat is geen reden om de boel af te sluiten.  

» Elk neuraal netwerk creëert een soort eigen taal om de data te beschrijven. Dergelijke talen zijn moeilijk om te begrijpen. «

–– Maarten Stol, BrainCreators

Er zijn natuurlijk wel processen waar we geen grip op hebben en terecht kun je vragen stellen over hoeveel controle we hebben over onze technologieën en processen. Maar hetzelfde kun je vragen over de financiële markt. Hoeveel controle hebben we daarover? Hoeveel controle hebben we over politieke processen? De vragen zijn in de basis terecht, maar die vragen lijken nu met name voor AI gesteld te worden. 

Onbekend maakt onbemind

De angst voor nieuwe technologieën is van alle tijden. Plato was voor het begin van de christelijke jaartelling fundamenteel tegen de komst van het schrift. Hij waarschuwde voor het gevaar van de vergetelheid. Door onze kennis op te schrijven zouden we niets meer kunnen onthouden. Dezelfde kritiek wordt in de huidige samenleving geuit tegen de komst van de mobiele telefoon. We zouden niet eens meer in staat zijn om telefoonnummers te onthouden. Onze angst voor machines die de controle overnemen wordt sterk gevoed door Hollywood. Al bijna 100 jaar worden er films gemaakt over superintelligence gone wrong. Door ontwikkelingen op het gebied van AI wordt technologie steeds meer autonoom, waardoor het steeds lastiger is om de gevolgen ervan in te schatten. We weten niet precies waar we bang voor moeten zijn, dus zijn we overal bang voor. 

They took our jobs

Een van de grootste angsten rondom technologisering is de angst dat banen worden overgenomen. Deze angst is van alle tijden. In de 18e eeuw werd de spinmachine niet met open armen ontvangen. Spinning Jenny, zoals de machine ook wel werd genoemd, was in staat om met acht spoelen tegelijk wol te weven. Uit angst om overbodig te raken bestormden honderden arbeiders in 1789 fabrieken in Normandië en sloegen er 700 Jenny’s en andere machines stuk. Nu de eerste autonome bezorgrobots hun intrede doen in ziekenhuizen lijkt een vergelijkbaar principe op te treden. De robots worden niet alleen geschopt en geslagen, maar ook gesaboteerd door ze bijvoorbeeld op te sluiten in de kelder en ze van hun geplande route af te laten wijken. Dit wordt ook wel Robo-sabotage genoemd. De afkeer tegen robots lijkt ‘aangemoedigd’ te worden door verschillende onderzoeken. Zo zou de helft van de banen verdwijnen als gevolg van robotisering. Deze cijfers werden in 2013 naar buiten gebracht door onderzoekers van Oxford University.


Vijf jaar later bleek uit onderzoek van de Organisation for Economic Co-operation and Development (OECD) dat het percentage een stuk lager zou moeten liggen. ‘Slechts’ 14% van de banen zou op de tocht staan. De voornaamste reden voor deze verschillen is dat OECD beroepen heeft benaderd als een samenstelling van verschillende taken, in plaats van als een massief geheel. En hoewel robotisering als gevolg heeft dat taken veranderen, betekent dat niet per definitie dat het beroep als geheel verdwijnt. Sterker nog, technologie kan ook juist banen creëren. Technologische vooruitgang zou per saldo meer banen kunnen opleveren dan er verloren gaan. Dit wordt ook wel het ripple effect genoemd. Een voorbeeld hiervan zie je in de sector van renewable energy. Uit onderzoek van de International Renewable Energy Angency (IRENA) blijkt dat in 2017 het aantal mensen dat in deze sector werkt met meer dan 5% steeg, wat betekent dat er wereldwijd nu meer dan 10 miljoen mensen in de renewable energy werken. 

» We’re scared that human jobs will be replaced by robots. But we’re still teaching kids to think like machines. If we are not careful, the world will be educating second-class robots and not first-class humans. «

–– Andreas Schleicher, OEDCD

De inzet van AI binnen bedrijven is momenteel overigens nog erg beperkt. Uit onderzoek van Microsoft uit 2018 blijkt dat 71% van de Nederlandse organisaties AI een belangrijk onderwerp vindt, maar dat slechts 4% van diezelfde organisaties AI daadwerkelijk inzet in verschillende processen en bij meer geavanceerde taken. Bij de meeste bedrijven is AI vooral een voornemen voor de toekomst. 

Moore betekent niet altijd ‘more’

Moore’s Law wordt vaak aangehaald om de exponentiële groei van computertechnologie te duiden. De wet, of eigenlijk voorspelling, stelt dat het aantal transistors in een geïntegreerde schakeling (oftewel chip) door de technologische vooruitgang elke twee jaar verdubbelt.

Visuele weergave van Moore’s Law

Deze voorspelling richt zich voornamelijk op de computing power, oftewel de rekenkracht en de gegevensopslag. Het zegt in principe niets over de capabilities, oftewel de toepassingsmogelijkheden die de toename in kracht oplevert. Een verdubbeling van de rekenkracht leidt niet per definitie tot een verdubbeling van de mogelijkheden. Net als bij geluid; een verhoging van 1DB betekent een 10 keer sterker geluid, maar we ervaren het niet als 10 keer harder. De lijn eenvoudig extrapoleren kan daarbij niet zomaar. Bij grotere complexiteit komen ook grotere uitdagingen. Enerzijds zijn er fysische barrières en anderzijds verandert de industrie en de behoeften daarbinnen. Naast digitale functies worden er ook steeds vaker analoge functies, zoals sensoren en antennes in de chips geïntegreerd.

De misbruikte hype

Steeds meer bedrijven willen meeliften op de hype. Uit onderzoek van Marsh & McLennan Companies (MCC) uit 2019 blijkt dat 40% van de Europese bedrijven die bekend staan als AI startup in de basis helemaal geen AI-bedrijven zijn. Uit de cijfers blijkt dat startups die zich met AI profileren meer financiering van investeerders aantrekken dan ‘reguliere’ startups. Ook hier zien we dat de term ‘AI’ op dingen wordt geplakt die geen AI zijn. Dit lijkt allemaal vrij onschuldig, maar het gevaar is dat bedrijven veel beloven, maar het uiteindelijk niet waarmaken. Dit zorgt voor teleurstellingen, waardoor innovatie in AI geremd kan worden. 

Een derde AI-winter?

Wanneer een technologie overpromises but underdelivers is dat niet goed voor de ontwikkeling ervan. Het moge duidelijk zijn dat AI allesbehalve nieuw is. De term ‘Artificial Intelligence’ werd voor het eerst gebruikt in het proposal for the Dartmouth Summer Research Project door John McCarthy in 1955. Een selecte groep wetenschappers kwam tijdens de zomer samen om de eerste stappen te maken in human-level machines. Dit wordt daarom gezien als the birth of AI

De ontwikkeling van AI heeft sindsdien al twee zogenaamde AI-winters gekend. Dit zijn perioden waarin de interesse in en financiering voor AI-onderzoek laag is. In de jaren ‘70 lag de ontwikkeling rondom AI bijna compleet stil door felle kritiek en gebrek aan geld. Na een opleving door de komst van expertsystemen↓Een expertsysteem, of kennisgebaseerd systeem, gebruikt geprogrammeerde kennis van menselijke experts om een specifiek probleem op te lossen. >Hoofdstuk 1.1 kwam de populariteit van de technologie in de tweede helft van de jaren ‘80 opnieuw in de problemen. Na het dieptepunt in 1990 is de interesse in AI geleidelijk toegenomen. Vanaf 2012 heeft de populariteit van AI, en dan met name van machine learning en daarbinnen deep learning ↓Deep learning is een machine learning-methode die gebruik maakt van verschillende gelaagde artificial neural networks. >Hoofdstuk 1.1 , een vlucht genomen. Dit is goed zichtbaar in het aantal publicaties van het NRC Handelsblad met AI als trefwoord. 

AI in het NRC Handelsblad – Bron: Arguments for good artificial intelligence (Verheij, 2018)

De vraag is nu hoe reëel het is dat er een derde AI-winter voor de deur staat. Vaak worden de sociaal-culturele implicaties van de technologie over het hoofd gezien. Bijvoorbeeld bij de zelfrijdende auto; de grootste uitdaging zit waarschijnlijk niet in de technologie, maar in de acceptatie ervan. Ethische vraagstukken omtrent deze toepassing zijn enorm complex en moeilijk op te lossen. Hierbij komen ook allerlei economische belangen kijken. Wanneer alle voertuigen op de weg autonoom rijden, transformeert het zich steeds meer naar een vorm van openbaar vervoer. Het bezit van een auto zou dan minder noodzakelijk zijn, wat een grote impact kan hebben op de status ervan en dus op het prestige van bepaalde automerken. Het kan dus nog wel eens een hele tijd duren voordat volledig autonome voertuigen het straatbeeld domineren. Technologie verandert vaak ook meer geleidelijk. Een ‘trage vooruitgang’ kan voor investeerders een grote teleurstelling vormen, wat een nieuwe AI-winter zou kunnen aanwakkeren.

Do believe the hype

Ontwikkelingen op het gebied van big data, computing power en opslagcapaciteiten hebben AI een nieuwe kickstart gegeven. Daarnaast zien we een ontwikkeling waarbij de acceptatie van nieuwe technologieën steeds sneller gaat. AI is steeds meer geaccepteerd in ons dagelijks leven; denk aan chatbots, aanbevelingssystemen en automatisch inparkeren. Technologie voelt steeds meer natuurlijk. Narrow AI wordt vaak ten onrechte weak AI genoemd (en general AI op zijn beurt ten onrechte strong AI). Op specifieke domeinen is narrow AI ons namelijk al te slim af. Het haalt nu al patronen uit data die mensen nooit zouden kunnen vinden. De kracht en toepassings­mogelijkheden hiervan worden onderschat. 

» Het feit dat een vis geen boom kan beklimmen, zegt niets over zijn zwemkunsten. Integendeel. «

De technical fix

Technologie heeft ons in een houdgreep. Wanneer mensen voor problemen komen te staan is het onze eerste natuur geworden om deze problemen op te lossen met de ontwikkeling van nieuwe technologie. Wanneer we bijvoorbeeld denken over een oplossing om de verkeersveiligheid op de weg te verbeteren, dan zullen we allereerst investeren in de ontwikkeling van veiligere voertuigen (met bijvoorbeeld sensoren die de afstand tussen weggebruikers kunnen meten). Het komt minder snel in ons op om bijvoorbeeld de voorwaarden voor een rijbewijs aan te scherpen. Dit wordt ook wel de technical fix genoemd. Daarbij zorgt de ontwikkeling van technologieën weer voor nieuwe problemen die vervolgens om de ontwikkeling van nieuwe technologieën vragen. Het lokt elkaar uit. Auto’s komen steeds meer vol te zitten met technologische snufjes, waardoor deze sneller kapot gaan. Hiervoor is weer nieuwe technologie nodig om deze te kunnen repareren. Het daagt tevens criminelen uit om op andere, meer technologische wijze, auto’s te stelen. Hiervoor heeft de politie weer nieuwe opsporingstechnologieën nodig. Et cetera.

AI is overal

AI wordt al in tal van sectoren en in uiteenlopende toepassingsmogelijkheden geïntegreerd. Zo zijn er hoor­­­apparaten met algoritmen die in staat zijn om omgevingsgeluiden weg te filteren en slimme beeldherkennings­systemen die de inspectie van het spoor vijf keer efficiënter maken. Zonder dat we erbij stilstaan is AI overal. Naast de bekende toepassingen van onder andere Netflix en Google zijn er ook minder voor de hand liggende sectoren waar de potentie van AI ten volle benut wordt. Neem bijvoorbeeld de politie. In 2017 was er nog veel ophef over de falende plaatsbepalingsystemen (PBS), waardoor agenten onderweg in voertuigen hun locatie niet goed konden bepalen. Inmiddels timmeren ze hard aan de AI-weg en openden ze in 2019 het ‘Politielab Artificiële Intelligentie’. Zo worden machine learning-technieken ingezet om de transportlijnen van drugs te volgen, waardoor patronen tussen chauffeurs, vervoersbedrijven en drugsvondsten sneller herkend kunnen worden. Ook kan AI beter inzichtelijk maken op welke wijze online fraude wordt gepleegd en wanneer en op welke plekken er nieuwe methodieken ontstaan. Denk bijvoorbeeld aan de shift van phishing naar whatsapp-fraude. Wetenschappers van nu werken aan de politiemacht van morgen. 

Serious business

Er gaat serieus geld om in AI. In de afgelopen 10 jaar is er ongeveer 9 miljard euro geïnvesteerd in AI door Europese bedrijven. De meeste investeringen werden gedaan in de financiële sector, gevolgd door media/entertainment en telecom. Uit onderzoek van StartupDelta, de nationale belangenorganisatie voor startups, blijkt dat de meeste startups op het gebied van AI in 2018 te vinden zijn in het Verenigd Koninkrijk, Frankrijk en Duitsland. Zij zijn verantwoordelijk voor 87 procent van alle investeringen in AI-bedrijven. Waar in Nederland zo’n 102 miljoen euro in AI-startups werd geïnvesteerd, was dat in het Verenigd Koninkrijk maar liefst 1,2 miljard euro. De Nederlandse investeringen zijn volgens StartupDelta veel te laag. Zij zijn bang dat Nederland ‘de boot gaat missen’. 

De verwachting is dat de investeringen in AI wereldwijd gaan oplopen tot ongeveer 232 miljard euro in 2025. Dit blijkt uit een onderzoeksrapport van KPMG uit 2018. KPMG benadrukt hierin dat veranderingen van de bedrijfscultuur nodig zijn om de effectiviteit van de investeringen te waarborgen. Alle AI-inspanningen moeten onderdeel uitmaken van een strategie die aansluit bij de overkoepelende strategie van de organisatie. Wanneer bedrijven een meer strategische aanpak hanteren ten aanzien van AI, zou de winst tussen de vijf en tien keer zo groot kunnen worden. 

Ook overheden zijn bereid de portemonnee te trekken. Uit de ‘Mededeling Kunstmatige Intelligentie voor Europa’ uit 2018 blijkt dat de Europese Commissie tot en met 2020 1,5 miljard euro gaat investeren in AI-onderzoek en AI-innovatie. Dit onder andere om de wetenschap en het industriële leiderschap te versterken, maatschappelijke uitdagingen aan te pakken en AI-research excellence centra te versterken. Daarnaast wil de Commissie meer particuliere investeringen in AI stimuleren met het Europees Fonds voor Strategische Investeringen. Een enorm bedrag, maar toch maken veel mensen zich zorgen dat Europa niet kan aanhaken bij Amerika en China, waar veel meer geïnvesteerd wordt in AI. Zo investeert alleen de Amerikaanse Defensie al 1,7 miljard euro in AI-onderzoek.

Omscholen of omvallen

Technologische ontwikkeling gaat historisch gezien gepaard met ontwikkelingen op de arbeidsmarkt. Sommige banen verdwijnen en nieuwe banen ontstaan, maar de meeste banen zullen voornamelijk veranderen van takenpakket. Vaak houden overheden krampachtig vast aan traditionele bedrijfstakken die omvallen, maar in theorie zouden we moeten juichen. Het omvallen van bedrijfstakken biedt namelijk ruimte voor de voor AI relevante bedrijfstakken waar nieuwe banen ontstaan. Als we 1% groei van ‘nieuwe banen’ willen behalen, moet het aantal werkenden in bestaande banen worden afgebouwd. Dit benadrukt het belang van upskilling en reskilling, zo blijkt ook uit het rapport ‘Arbeid in Transitie’ van Denkwerk uit 2019. 

Toch kan dit serieuze consequenties hebben die we niet mogen onderschatten. Zeker niet in een tijd van vergrijzing. Een groot deel van de oudere beroepsbevolking is eindelijk gewend aan de digitalisering van veel arbeidstaken. Maar AI gaat een stap verder dan een tabel opmaken in Excel. De vraag is of de complexiteit van AI-gerelateerde taken überhaupt om te scholen is. Uit het rapport ‘AI voor Nederland’ van AINED uit 2018 blijkt dat een gebrek aan talent nu al als grootste barrière wordt gezien door bedrijven voor het ontwikkelen en gebruiken van AI. 

Bron: BCG AI survey voor Nederlandse bedrijven, september 2018

Wanneer het aantal traditionele banen moet worden afgebouwd om de groei in banen te kunnen garanderen,
kan er wel eens een enorm gat ontstaan tussen de vraag en het aanbod van skills die door het overschot aan oudere arbeidskrachten mogelijkerwijs niet ingevuld kan worden. Ook voor jongeren is het momenteel lastig. Vijf van de zes universiteiten in Nederland die een opleiding in AI aanbieden, beperken de instroom van het aantal studenten of overwegen dat voor het collegejaar 2019-2020 als gevolg van capaciteitsproblemen. De problemen worden voornamelijk veroorzaakt door een gebrek aan docenten.
De Cyber Security Raad, een adviesorgaan van het kabinet, vindt dat het Nederlandse Ministerie van Onderwijs extra geld moet uittrekken om een naderende studentenstop te voorkomen. 

Voorbij de hype

AI is nu minder een hype dan in de jaren ’90. Er zit nu namelijk daadwerkelijk geld achter. Bedrijven als Google investeren enorm, waardoor de technologie daadwerkelijk wordt opgeschaald. Het is dan ook maar de vraag of je AI daadwerkelijk een ‘hype’ kunt noemen. Technologieën gaan doorgaans de zogenaamde Gartner Hype Cycle door. Bij de introductie van een nieuwe technologie stijgen de verwachtingen exponentieel. Het optimisme viert hoogtij. Maar dan komen de eerste barsten in de euforie. De eerste failures zijn een feit. We beginnen ons druk te maken over ethische vragen. Wie is er eigenlijk verantwoordelijk als het mis gaat? De verwachtingen kantelen en geraken in een dal. Het vertrouwen verdampt. Toch gaan de ontwikkelingen (achter de schermen) gewoon door. De grootschalige marktintroductie zal na voldoende tests worden doorgezet en de verwachtingen stabiliseren.
We zullen het gemak boven de mogelijke nadelen verkiezen en accepteren de technologie. Dit klinkt aannemelijk. Toch lijkt deze curve voor AI als overkoepelende ‘technologie’ niet helemaal van toepassing. AI-technologieën zitten namelijk in alle fases van de cyclus.

Visualisatie Gartner Hype Cycle met positie van AI

AI zit op het hoogtepunt van verwachtingen (de mogelijkheden van deep learning), het zit in het dal van desillusie (de machines nemen onze banen over) en het zit in de gestabiliseerde adoptiefase (uiteenlopende toepassingen in de praktijk). Uiteraard heeft dit te maken met de brede definiëring van het begrip, maar aangezien AI in alle fases van de hype cycle is vertegenwoordigd, lijkt het veilig om te stellen dat het de hype voorbij is. 

1.2

Do(n’t) believe the hype