Nexus - Van het stenen tijdperk tot AI - ‘Aanrader’ 

De vorige boeken van Harari heb ik verslonden. Boeken zoals Sapiens en Homo Deus zijn boeken waarin Harari alle ontwikkelingen in perspectief zet. Deze boeken zetten je aan het denken. Het zijn geen boeken om in één ruk te lezen, daarvoor zijn ze te omvangrijk, maar ook te indringend.

Nexus - Van het stenen tijdperk tot AI gaat niet zozeer over de technische kant van AI, maar over AI in de praktijk. Het is geen boek voor techneuten, maar juist voor lezers die op zoek zijn naar een (wenkend) perspectief. Harari kijkt naar het verleden, heden en toekomst van informatie. En met name voor de toekomst van informatie ziet hij een grote rol (zowel kansen als gevaren) voor AI.

democratie versus totalitair

In het voorwoord beschrijft Harari eerst twee kijken op informatie, de naïeve en de populistische. In de naïeve kijk leidt informatie tot waarheid, dat weer leidt tot wijsheid en macht. Oftewel met meer informatie kom je tot een betere weergave van de werkelijkheid. Waarbij de populistische kijk er van uit gaat dat hoe meer informatie je hebt, hoe meer macht je hebt: informatie leidt tot macht. Dat zagen we in veel totalitaire regimes zoals Stalin waar de overheid zoveel mogelijk informatie over haar burgers wilde verzamelen om haar macht te kunnen uitoefenen. Dat is ook een vergelijking die in het hele boek wordt uitgewerkt, democratie versus totalitair regime, de verschillen hierin komen steeds terug. Later in het boek introduceert hij ook nog de complexe kijk op informatie, wat eigenlijk een uitbreiding is van de naïeve kijk, waarbij informatie naast waarheid ook leidt tot orde(ning). En dat leidt vervolgens weer tot macht.

Kenmerken

Maar dan komt ook de wezenlijke vraag: wat is informatie? Volgens de naïeve kijk op informatie is iets informatie als mensen het gebruiken om de waarheid te ontdekken. Het is een poging om de werkelijkheid weer te geven en als die poging slaagt noemen we dat waarheid. Maar volgens Harari geeft de meeste informatie helemaal niet weer. Aan de hand van hele concrete voorbeelden onderbouwt hij dat wat voor sommigen informatie is, dat voor anderen helemaal niet is. Sommige informatie geeft de realiteit weer en sommige niet. Maar altijd is informatie verbindend. Dat is de meest fundamentele kenmerk van informatie.

‘Vergissen is menselijk, daarin volharden is des duivels’. Een mooie en zeer relevante quote uit het boek. Harari pleit ervoor om zelfcorrigerende mechanismen in te regelen, waarmee fouten hersteld kunnen worden. Deze moeten wel gezaghebbend genoeg zijn om goed te kunnen functioneren. Een mooi voorbeeld is de Bijbel: wie bepaalt wat daar in komt? Sommige delen zijn ten tijde van de samenstelling door mensen wel toegevoegd, anderen niet? En wie herstelt eventuele fouten in de Bijbel, zoals het toestaan van slavernij? Dat wordt nu niet aangepast, maar door de interpretatie van de kerk wordt dit anders uitgelegd. Zo krijg je de illusie van een onfeilbaar boek…

intelligentie en bewustzijn

De snelheid van veranderingen in informatienetwerken gaat snel. Waar drukpersen en radio’s passieve werktuigen zijn in mensenhanden, kunnen computers actieve actoren zijn die zelf gaan denken en beslissen. Nemen de computers/AI de controle over? Of zijn hier ook zelfcorrigerende mechanismen aanwezig? Hierbij is een belangrijke misvatting die wij als mens hebben dat intelligentie en bewustzijn met elkaar verbonden zijn. Maar computers zijn wel intelligent, maar niet bewust. Zij houden dus geen rekening met subjectieve gevoelens en kunnen zelfstandige beslissingen nemen om hun doel te bereiken.

Waar voorheen de mens altijd betrokken was in informatie-uitwisseling ontstaan er nu ketens van computer tot computer. Hoe weet je nu of de informatie van mensen komt (waar rekening is gehouden met bewustzijn) of van computers? Denk aan de trollen op internet/facebook et cetera. Wat nieuw is aan computers, is de manier waarop ze beslissingen nemen en ideeën genereren. Dat is totaal anders dan hoe de mens dit nu doet. En dat is alarmerend, we hebben er geen grip meer op, we begrijpen de algoritmen niet meer.

recht op uitleg

Het enige dat we zeker weten is dat computers totaal anders denken en dat ze feilbaar zijn. Daarom moeten we instellingen creëren die kunnen controleren op bekende menselijke zwakheden die in het computernetwerk zijn geprogrammeerd zoals haat, hebzucht en andere soorten fouten.

Belangrijk daarbij is het recht op uitleg. We moeten weten hoe algoritmen tot bepaalde besluiten komen. Dat wordt nu in wetgeving vastgelegd en daar zullen we gespecialiseerde mensen voor moeten opleiden. Want anders lopen we als mensheid grote risico’s. De opkomst van de populistische netwerken komt mede door de toenemende ondoorgrondelijkheid van onze informatienetwerken. Er is teveel informatie waarvan we niet weten of het waar is.

De auteur concludeert dat we om slimmere informatienetwerken op te bouwen, zowel de naïeve als de populistische kijk op informatie moeten laten varen. We moeten onze onfeilbaarheidsfantasieën opzij zetten en instellingen met zelfcorrigerende mechanismen opzetten.

Wow, wat is Nexus - Van het stenen tijdperk tot AI weer een indrukwekkend boek. Na elk hoofdstuk moet je eigenlijk een avond kauwen/nadenken over wat hij geschreven heeft. Vaak is het spot on en zet het je als lezer aan het denken. De onderbouwing is zeer uitgebreid, zo heeft het boek 450 pagina’s en de bijlage met noten is dan nog weer eens 70 pagina’s. Voor iedereen die wat meer wil weten over de historie en toekomst van informatie is dit boek een aanrader!