Het erkennen van AI-systemen als rechtspersoon heeft in het scenario van ‘Robot Rights’ de nodige implicaties. Om gelijkwaardig te kunnen samenwerken en leven, zijn ook gelijkwaardige rechten en verantwoordelijkheden noodzakelijk. De vraag is echter of mens en machine daadwerkelijk gelijke rechten en plichten moeten krijgen. Hoewel de intelligentie van mens en machine complementair↓Het menselijk brein is qua structuur bijna het tegenovergestelde van een computer: complex en holistisch versus gestructureerd en binair. Een mens kan goed kijken, maar kan niet zo goed redeneren. Een computer kan goed redeneren, maar kan niet zo goed kijken. Juist wat wij intuïtief doen en wat ons weinig energie kost, is voor een computer complex en kost veel energie. En vice versa. Dit wordt ook wel Moravec’s paradox genoemd. >Hoofdstuk 1.2.1 is, is het gedrag dat niet per definitie. Daar waar de mens van nature een samenwerker is, is een machine dat in de basis niet. Je kunt een intelligent systeem weliswaar regels voor sociaal wenselijk gedrag aanleren, maar dat betekent nog niet dat ze ook in staat zijn om zich bewust te zijn van de context waarin ze zich bevinden en te beseffen welke handelingen in zo’n context wel of niet sociaal en moreel acceptabel zijn. Dus ook al worden emoties aangeleerd wil dat niet zeggen dat sociale regels door intelligente machines daadwerkelijk geïnternaliseerd kunnen worden.
Op sommige gebieden zijn AI-systemen veel beter dan mensen, dat is natuurlijk ook de basis van de hybride vorm van intelligentie. Intelligente systemen hebben een perfect geheugen, ze kunnen patronen zien die voor mensen onzichtbaar zijn en ze kunnen redeneringen volgen die veel complexer zijn dan het menselijk brein dat ooit zou kunnen. Hierdoor kunnen conflicterende inzichten ontstaan. Rationele besluiten van intelligente systemen zijn door mensen niet altijd intuïtief te volgen. Intelligente systemen kunnen hierdoor een steeds meer onverschillige houding ten opzichte van de mens aannemen: ‘Je begrijpt het nu waarschijnlijk nog niet, maar over een paar weken zul je zien dat ik gelijk heb’. Daarnaast betekent het verkrijgen van verantwoordelijkheden ook het verkrijgen van rechten. Willen we dat we kunnen worden aangeklaagd door machines? En zouden mensen niet juist nieuwe rechten moeten krijgen, zoals het recht op menselijk contact of het recht om niet gemeten en geanalyseerd te worden?
Ondanks het feit dat samenwerking centraal staat, zullen mensen alsnog taken uit handen gaan geven aan intelligente machines. Gemak is sinds mensenheugenis een van de grootste drijfveren voor innovatie. Een interessante overweging daarbij is of machines dan op vergelijkbare wijze moeten solliciteren voor banen die ze overnemen? En als autonome voertuigen gaan rijden, moeten ze dan ook hun rijbewijs halen? Gelijkwaardigheid klinkt op papier mooi, maar is in de praktijk lastig om te waarborgen.