Over het boek Nexus van Yuval Harari

Afgelopen tijd heb ik het boek Nexus van Yuval Harari gelezen. Deze inzichten heb ik eruit gehaald.

Even kort over het boek. Nexus bestaat uit twee delen: het eerste deel gaat over informatie door de eeuwen heen, de functie ervan en de macht die informatienetwerken met zich meebrachten. Het tweede deel focust op AI en de toekomst daarvan.

Harari is niet bepaald positief over AI. Hij is bang dat AI uiteindelijk de mensheid zou kunnen wegvagen. Gelukkig komt hij ook met oplossingen: een betere regulering en meer bewustzijn van wat we nu eigenlijk gecreëerd hebben. 

Zelf vind ik AI een fantastisch product om mijn productiviteit te verhogen en creativiteit te stimuleren. Maar ik begrijp wel de zorgen van Harari. Als we teveel gaan vertrouwen op AI en deze nieuwe intelligentie teveel macht gaan geven, is er een reële mogelijkheid dat dat verkeerd afloopt.  

Een paar interessante inzichten uit het boek:

• Meer informatie levert niet meer waarheid op

Een belangrijke waarschuwing van Harari door het hele boek heen: meer informatie leidt niet automatisch tot waarheid. "De waarheid is vaak de verliezer in een compleet vrij informatiegevecht." 

Hoe lossen we dat dan op? Volgens Harari door sterke, zelfcorrigerende mechanismen te bouwen die het vertellen van de waarheid belonen. Dat is de theorie. Ik denk dat dat overigens gemakkelijker gezegd dan gedaan is ...

• Creativiteit is niet uniek menselijk

Harari had nog meer vrolijk nieuws: AI zal snel creatief blijken te zijn.

Creativiteit is namelijk het vermogen om patronen te herkennen en die vervolgens te doorbreken. AI is zeer goed in het herkennen van patronen. Dat betekent dat als je een AI de opdracht geeft om dat patroon daarna net op een subtiele wijze te doorbreken, je verrassend creatieve oplossingen gaat krijgen. Dat zien we natuurlijk nu al in beeld en geluid ontstaan.

• Intelligentie vs. bewustzijn

Harari maakt een scherp onderscheid tussen intelligentie en bewustzijn. Mensen verwarren intelligentie vaak met bewustzijn en komen dan automatisch tot de conclusie dat niet-bewuste entiteiten niet intelligent kunnen zijn. Harari wijst erop dat intelligentie en bewustzijn twee verschillende dingen zijn. Intelligentie is het vermogen om doelen te bereiken. Bewustzijn is het vermogen om gevoelens te ervaren. AI heeft geen bewustzijn nodig om een zeer hoge mate van intelligentie te ontwikkelen.

• Alien in plaats van artificieel

AI staat voor "artificiële intelligentie", maar volgens Harari kunnen we AI beter vertalen als "alien intelligentie". Want als AI evolueert, worden het minder artificieel. AI wordt niet meer zo afhankelijk van menselijke programmatuur, maar ontwikkelt zich meer op een eigen gekozen manier. Daarmee wordt AI een fundamenteel andere vorm van intelligentie.

• Het paperclip scenario: de kracht is het probleem van AI

Harari schrijft over een bekend scenario dat filosoof Nick Bostrom ooit heeft omschreven. Stel dat je een AI de opdracht geeft om de productie in een paperclipfabriek te optimaliseren. De AI zou tijdens die opdracht kunnen concluderen dat het het beste zou zijn als het alle grondstoffen ter wereld hiervoor zou kunnen inzetten. Inclusief de grondstoffen die wij als mensen nodig hebben om te overleven. 

Vanuit het perspectief van de opdracht is het daarom slim om alle mensen te elimineren. Dat doet die AI niet uit kwaadaardigheid, maar slechts omdat het daarmee zijn doel perfect uitvoert. Zoals Bostrom meent: "Het probleem met computers is niet dat ze kwaadaardig zijn, maar dat ze zo krachtig zijn."

En omdat AI zo krachtig is, moeten we uitkijken welke opdracht we hem uiteindelijk meegeven.

• De kettingreactie van AI-systemen

In de nabije toekomst hebben we een heleboel AI-systemen die druk met elkaar in de weer zijn zonder tussenkomst van mensen. Daarmee kunnen onbedoeld ongelukken gebeuren.

Harari schetst het volgende scenario. Het begint met een AI die, om welke reden dan ook, nepnieuws maakt. Een tweede AI herkent dit als nepnieuws en verwijdert het. Een volgende AI ziet dit gebeuren, concludeert dat dit kan leiden tot een politieke crisis en gaat daarom bepaalde aandelen verkopen en obligaties aankopen. Daarop gaan andere AI's ook handelen waardoor de beurs keldert. Zo ontstaat een onbedoelde kettingreactie, zelfs met ingebouwde checks and balances.

• De rol van AI in democratie

Tenslotte schrijft Harari nog enkele interessante zaken over de toekomst van democratie. Democratie is gebaat bij een open debat. Zo'n debat leidt er namelijk soms toe dat een deelnemer zijn mening kan bijstellen en dat is goed.

Als je echter in debat gaat met een AI ben je bij voorbaat al verloren. Een AI die op pad is gestuurd om een bepaalde mening te verkondigen, zal zich namelijk niet door jou laten overtuigen. Zo'n debat is daarom zinloos. 

Harari vindt dat AI best een rol kan spelen in het democratisch debat. Je kunt een AI bijvoorbeeld vragen om een tegengeluid te geven bij al jouw argumenten zodat je zelf ook nog een kritisch kunt kijken naar jouw overtuigingen. Maar het is daarbij van belang dat AI zich niet voordoet als mens. Een AI moet altijd herkenbaar zijn als AI zodat we weten wie we tegenover ons hebben. Een soort van level playing field dus.

Nexus is een interessante beschouwing over informatienetwerken, de macht die daaruit voortvloeit en AI. De ontwikkelingen gaan razendsnel en AI zal een effect hebben op ieders werk- en privéleven. 

Harari geeft zelf aan dat hij ook niet precies weet waar het heen gaat. Maar de waarschuwing zijn relevant genoeg om te betrekken in het debat over AI. Het is belangrijk dat we als samenleving beseffen waar we mee bezig zijn en goed nadenken over hoe we AI kunnen reguleren.

Nexus is zeker een aanrader en Harari plaatst AI in een origineel perspectief. Lezen dus!