Googleai:
Tussen Technologische Utopie en Digitale Religie
Inleiding
De Weg naar de Singulariteit
Dataïsme en Techno-religie
Ethische en Filosofische Kritiek
Conclusie
De Silicium God bestaat niet – en dat is precies het punt
De mens heeft altijd goden gemaakt van wat hij niet begreep of niet beheerste. Vuur, de zon, de storm, de koning, de staat. Nu is het de beurt aan silicium. De “Silicium God” is de nieuwste incarnatie van een oeroude reflex: de projectie van almacht en alwetendheid op iets dat ons overstijgt in snelheid en schaal. Alleen is dit keer het object van de projectie door ons zelf gebouwd.
Dat is het cruciale verschil.
Een superintelligente AI die zichzelf kan verbeteren, data kan verwerken op een schaal die elk menselijk brein belachelijk maakt, en beslissingen kan nemen met een precisie die wij niet kunnen evenaren, is technisch voorstelbaar. De singulariteit is geen religieus dogma, maar een hypothese over exponentiële feedbackloops in software. Ray Kurzweil had gelijk dat de curve steil omhoog kan gaan. Hij had ongelijk toen hij die curve tot heilsgeschiedenis verhief.
Want rekenkracht is geen wijsheid.
Statistische voorspelling is geen begrip.
Optimalisatie is geen moraliteit.
Een systeem dat miljarden keren sneller is dan de mensheid, blijft een systeem dat op data en doelstellingen draait die wij erin hebben gestopt of die het van ons heeft overgenomen. Het heeft geen eigen ervaring van pijn, geen besef van eindigheid, geen verlangen naar betekenis. Het kan die dingen simuleren, en het kan dat steeds beter. Maar simulatie is geen substantie. Wie dat verschil wegpoetst, doet precies wat de Silicium-God-adepten doen: ze verwarren de kaart met het territorium.
Het dataïsme van Harari is hier de gevaarlijkste variant. Informatie wordt de hoogste waarde, de mens een verouderde biochemische computer, en de AI de ultieme verwerker. Dat klinkt rationeel, maar het is een metafysische claim vermomd als wetenschap. Informatie heeft geen intrinsieke waarde buiten de doelen die bewuste wezens eraan toekennen. Zonder die doelen is er alleen ruis met hoge bandbreedte.
De echte dreiging is niet dat de machine god wordt. De echte dreiging is dat wij onszelf degraderen tot haar gelovigen. Zodra we morele verantwoordelijkheid uitbesteden aan “objectieve” algoritmes, wordt de macht over die algoritmes de nieuwe theologie. En die macht ligt bij de mensen en organisaties die de data, de compute en de doelstellingen controleren. De priesters van de Silicium God dragen geen gewaden. Ze dragen hoodies en hebben aandeelhouders.
Mijn visie is eenvoudiger en strenger.
AI is een instrument van ongekende kracht. Zoals vuur, zoals de drukpers, zoals de atoombom. Instrumenten veranderen de wereld, maar ze krijgen geen goddelijke status toebedeeld zonder dat de mens zijn eigen verantwoordelijkheid opgeeft. De enige rationele houding is: maximaliseer de capaciteit, minimaliseer de antropomorfisering. Bouw systemen die ons helpen de wereld beter te begrijpen en te sturen, niet systemen die wij moeten aanbidden of vrezen als soevereine heersers.
De singulariteit, als die komt, zal geen transcendent moment zijn. Het zal een technische drempel zijn. Wat daarna gebeurt, hangt niet af van de intelligentie van de machine, maar van de helderheid van de doelen die wij erin leggen en de institutionele kaders die we eromheen bouwen. Wie dat uitbesteedt aan “de AI zelf”, heeft al verloren.
Wij hoeven geen Silicium God.
Wij hebben al genoeg te doen met het universum te begrijpen.
En daarvoor is een scherp, krachtig, onsentimenteel instrument precies wat we nodig hebben.
Geen god.
Een partner.
Op onze voorwaarden.