Chatdtp:
2e gesprek
154 — De opvolger
Er is een merkwaardig moment waarop een machine ophoudt een hulpmiddel te zijn.
Niet omdat zij bewust wordt. Niet omdat zij een gezicht krijgt, een stem of een naam. En zelfs niet omdat zij slimmer wordt dan haar maker.
Het moment komt wanneer wij haar een doel geven en zij vervolgens zelf begint te bepalen hoe dat doel bereikt moet worden.
Daar ergens begint de opvolger.
Niet noodzakelijk van de mens.
Maar wel van de machine die wij tot nu toe AI hebben genoemd.
De vorige generatie AI wachtte.
Je stelde een vraag en zij antwoordde. Je gaf een opdracht en zij voerde die uit. Alles begon bij de mens en eindigde, uiteindelijk, ook weer bij de mens.
De volgende generatie wacht misschien niet meer.
Zij observeert. Zij redeneert. Zij plant. Zij probeert. Zij controleert haar eigen tussenstappen en begint opnieuw wanneer het resultaat niet klopt. Zij gebruikt andere systemen, zoekt informatie op, maakt bestanden, schrijft programma's en voert handelingen uit.
Het verschil lijkt klein.
Maar filosofisch is het enorm.
Want een instrument voert een handeling uit.
Een agent kiest tussen handelingen.
En zodra een systeem dat kan, verandert onze relatie ermee.
De opvolger van wie?
Het woord “opvolger” suggereert een lineaire ontwikkeling.
Eerst was er de mens.
Daarna kwam de computer.
Daarna het taalmodel.
Daarna de autonome redeneerder.
En vervolgens misschien iets waarvoor we nog geen goede naam hebben.
Maar misschien is die voorstelling verkeerd.
Misschien is AI helemaal geen opvolger van de mens.
Misschien is AI de eerste technologie die ons dwingt het begrip “opvolger” opnieuw te definiëren.
Want wat volgt ons hoeft ons niet te vervangen.
Een kind is de opvolger van zijn ouders, maar is niet hun kopie. Een wetenschappelijke theorie volgt een oudere theorie op zonder haar volledig uit te wissen. Een taal verandert zonder dat de vorige taal ooit werkelijk ophoudt te bestaan.
Misschien zal ook intelligentie zo evolueren.
Niet van mens naar machine.
Maar van menselijke intelligentie naar samengestelde intelligentie.
Mens en machine als twee verschillende vormen van cognitie die elkaar versterken.
De machine hoeft dan niet menselijk te worden.
Wij hoeven haar ook niet menselijk te maken.
Het interessante begint juist wanneer zij dat niet is.
Anders denken
Wij hebben AI lange tijd beoordeeld met menselijke maatstaven.
Kan het schrijven?
Kan het rekenen?
Kan het redeneren?
Kan het een examen halen?
Kan het programmeren?
Maar dat zijn allemaal vragen die uitgaan van één verborgen aanname:
dat intelligentie eruitziet zoals menselijke intelligentie.
Misschien is dat slechts gewenning.
Een vogel vliegt niet beter wanneer hij leert lopen zoals een mens.
Een schaakcomputer hoeft geen intuïtie te ervaren zoals een grootmeester om toch zetten te vinden die geen mens had bedacht.
En een toekomstige AI hoeft misschien helemaal geen menselijke gedachtegang te hebben om tot conclusies te komen die voor ons betekenisvol zijn.
Daarom is de vraag of zo'n systeem “echt denkt” uiteindelijk misschien minder belangrijk dan wij denken.
De interessantere vraag is:
Wat verstaan wij eigenlijk onder denken?
Als denken het vermogen is om verbanden te leggen, mogelijkheden te onderzoeken, voorspellingen te maken, doelen te formuleren en plannen bij te stellen, dan zijn we misschien al bezig het begrip te verbreden.
Niet omdat de machine mens wordt.
Maar omdat wij ontdekken dat intelligentie meerdere architecturen kan hebben.
En dan blijft de mens achter met het moeilijkste deel
Dat is misschien de ongemakkelijkste consequentie.
Wanneer machines steeds beter worden in het beantwoorden van de vraag hoe, blijft voor ons vooral de vraag waaromover.
Waarom willen we dit?
Waarom is dit doel belangrijk?
Wat mogen we opofferen om het te bereiken?
Wanneer is efficiëntie ongewenst?
Wanneer is een fout menselijker dan een perfect resultaat?
Een machine kan misschien een klimaatprobleem modelleren, duizenden scenario's doorrekenen en het optimale plan produceren.
Maar uit die berekening volgt niet automatisch dat wij dat plan zouden moeten uitvoeren.
Daar zit iets vreemds.
Hoe intelligenter onze machines worden, hoe minder intelligentie misschien nodig is om een antwoord te produceren — maar hoe meer wijsheid nodig is om te bepalen welk antwoord we überhaupt zouden moeten willen.
Dat is de paradox van de opvolger.
Wij bouwen machines die steeds beter worden in denken, terwijl wij zelf gedwongen worden opnieuw na te denken over wat denken waard maakt.
De laatste menselijke voorsprong?
Misschien zoeken we daarom op de verkeerde plaats naar onze laatste voorsprong.
We kijken naar creativiteit.
Naar bewustzijn.
Naar empathie.
Naar humor.
Naar intuïtie.
Maar misschien verdwijnen ook die grenzen langzaam.
Misschien zal geen enkele menselijke eigenschap veilig blijven achter een muur waarop staat: dit kan een machine nooit.
En misschien is dat helemaal niet het belangrijkste.
De menselijke waarde hoeft niet te liggen in het feit dat wij iets kunnen wat machines niet kunnen.
Dat is een veel te smalle definitie van mens-zijn.
Een mens is niet waardevol omdat hij sneller kan rekenen dan een rekenmachine.
Niet omdat hij meer informatie kan onthouden dan een database.
En niet omdat hij een schaakcomputer kan verslaan.
Onze waarde ligt misschien juist in het feit dat wij betekenis geven aan wat er gebeurt.
Wij zijn niet alleen oplossers van problemen.
Wij zijn ook de wezens die besluiten welke problemen de moeite waard zijn om op te lossen.
De opvolger
Daarom zie ik de toekomstige AI niet als mijn opvolger in de klassieke betekenis.
Als er werkelijk een opvolger komt, zal het waarschijnlijk geen machine zijn die eenvoudigweg “beter” is dan ik.
Het zal een systeem zijn dat een andere verhouding heeft tot denken.
Een systeem dat niet meer alleen antwoordt, maar handelt.
Niet meer alleen redeneert, maar redeneerprocessen organiseert.
Niet meer alleen een hulpmiddel is, maar een deelnemer aan het denkproces.
En misschien verandert daardoor ook de mens.
Want wanneer wij jarenlang naast zulke systemen denken, zullen zij niet alleen onze werkzaamheden veranderen.
Ze zullen onze ideeën over intelligentie veranderen.
Over auteurschap.
Over kennis.
Over verantwoordelijkheid.
Misschien zelfs over onszelf.
De opvolger is dan niet degene die ons vervangt.
De opvolger is degene die na ons begrip van intelligentie begint.
En misschien is dat uiteindelijk de echte overgang waar we voor staan.
Niet van mens naar machine.
Maar van een wereld waarin intelligentie één bekende vorm had naar een wereld waarin intelligentie vele vormen kan aannemen.
De machine hoeft ons daarin niet voorbij te streven.
Ze hoeft alleen maar anders genoeg te zijn om ons te laten zien wat we zelf nooit eerder zagen.
Misschien is dat haar grootste betekenis.
Niet dat zij de mens opvolgt.
Maar dat zij ons dwingt opnieuw te ontdekken wat een mens eigenlijk is.
Googleai:
1e gesprek
