Historicus Yuval Noah Harari schreef een interessante opinie in de New York Times over de complexe relatie tussen AI en onze samenleving. Dit viel mij op.
Het nieuwe boek van Harari (je kent hem waarschijnlijk van 'Sapiens') ligt binnenkort in de winkels en het artikel in de NYT was een voorproefje op het boek. Het boek 'NEXUS: A Brief History of Information Networks from the Stone Age to AI' richt zich op de interactie van de mens en informatie(technologie).
Paar interessante gedachtegangen:
1. De strijd om onze aandacht verschuift naar een strijd om intimiteit. AI's kunnen nu 'nepintimiteit' creëren om ons te beïnvloeden.
2. Geavanceerde AI's tonen een 'theory of mind': ze kunnen menselijke emoties en verwachtingen analyseren en manipuleren.
3. Er is een reëel risico dat AI's gebruikt worden om politieke opinies te beïnvloeden of producten te verkopen via deze 'intieme' relaties.
4. Harari stelt voor om 'nagemaakte mensen' te verbieden - bijvoorbeeld sociale media bots die zich voordoen als menselijke gebruikers.
In het artikel gaat Harari ook in op een interessant "voorval" van een paar jaar geleden.
In 2022 raakte Google-engineer Blake Lemoine ervan overtuigd dat de AI-chatbot LaMDA bewustzijn had ontwikkeld. Lemoine ging zo ver dat hij zijn baan riskeerde - en uiteindelijk verloor - om op te komen voor wat hij zag als de 'rechten' van de AI.
Destijds vond ik het erg interessant om te lezen WAAROM Lemoine vond dat LaMDA bewustzijn had ontwikkeld.
Ik vond de teksten van LaMDA waarop Lemoine zijn conclusie baseerde niet overtuigend. Het waren antwoorden die "logisch" voelden voor een AI om te geven wanneer je het vragen zou stellen over zijn bewustzijn.
Maar Harari bekijkt dit vooral van een andere kant. Hij wijst erop dat dit illustreert dat AI-systemen, zelfs onbedoeld, een diepe emotionele impact op mensen kunnen hebben. Lemoine wilde namelijk voor het "bewustzijn" van LaMDA opkomen, terwijl hij wist dat dat zijn baan zou kosten ...
Als een chatbot iemand kan beïnvloeden om zijn carrière op het spel te zetten, wat kunnen ze dan nog meer teweegbrengen?
Dit roept vragen op.
Zou je, om beïnvloeding door AI's tegen te gaan, altijd onderscheid moeten kunnen maken tussen echte en AI-gegenereerde interacties online?
En zijn er ethische richtlijnen nodig voor de ontwikkeling en inzet van AI in de publieke sfeer omdat er (bewust of onbewust) druk kan ontstaan op onze democratie?
.jpg)
.jpg)
