Een populair scenario

Gerelateerde afbeelding

Dat zou dan ofwel gebeuren uit angst dat de mensheid zich tegen AI keert en zal proberen de stekker eruit te trekken, ofwel vanuit beweegredenen van de AI waar wij ons nog geen voorstelling van kunnen maken. Het zou namelijk extreem moeilijk zijn voor mensen om de motivatie van een systeem dat slimmer is dan zij onder controle te houden. Zelfs als we het systeem programmeren met schijnbaar goedaardige doeleinden kan het nog gruwelijk misgaan. Eén populair scenario is dat van een bedrijf dat de eerste kunstmatige superintelligentie ontwerpt en het een onschuldige test opgeeft, zoals het berekenen van pi. Voor iemand in de gaten zakelijke energie vergelijken heeft wat er gebeurt, neemt de AI de planeet over, elimineert het mensdom, begint aan een veroveringscampagne tot aan de uiterste grenzen van de Melkweg en bouwt het hele universum om tot een gigantische supercomputer die miljarden jaren lang steeds accurater bezig kan blijven met het uitrekenen van pi. Dat is tenslotte de goddelijke missie die zijn Schepper hem heeft gegeven. Aan het begin van dit hoofdstuk wezen we verschillende praktische bedreigingen voor het liberalisme aan. De eerste is dat mensen in militair en economisch opzicht overbodig kunnen worden. Dat is natuurlijk maar een mogelijkheid en geen voorspelling. Technische moeilijkheden of politieke bezwaren kunnen de algoritmische invasie op de arbeidsmarkt vertragen. En aangezien een groot deel van de menselijke geest nog onbekend terrein is, weten we nog niet wat voor verborgen talenten mensen in zichzelf kunnen ontdekken en wat voor nieuwe banen ze kunnen creëren om het verlies van andere banen te compenseren. Maar misschien is dat niet genoeg om het liberalisme te redden. Het liberalisme gelooft namelijk niet alleen in de waarde van menselijke wezens, het gelooft ook in individualisme. De tweede bedreiging voor het liberalisme is dat het systeem in de toekomst misschien nog steeds mensen nodig heeft, maar geen individuen. Mensen zullen muziek blijven componeren, natuurkunde blijven onderwijzen en geld blijven investeren, maar het systeem zakelijke energie zal die mensen beter kennen dan ze zichzelf kennen en het zal allerlei belangrijke beslissingen voor ze gaan nemen. Het systeem zal, kortom, individuen hun gezag en hun vrijheid afnemen.