Googleai:
Daniel Kokotajlo en het ongeloof in AGI
In het theater van de menselijke geschiedenis gaan existentiële paradigmaverschuivingen zelden gepaard met eenduidige helderheid. Vaker worden ze onthaald op een diepe, collectieve inertie: een psychologisch verdedigingsmechanisme dat weigert een werkelijkheid te verwerken die te vreemd is voor het heden. Dit is de kernwrijving die de voormalige OpenAI-onderzoeker Daniel Kokotajlo aanwijst in zijn nuchtere constatering: "Het grootste deel van de wereld gelooft simpelweg nog niet dat het echt gaat gebeuren." Kokotajlos waarschuwing betreft niet alleen de technische nabijheid van Artificial General Intelligence (AGI); het is een kritiek op een globale beschaving die slaapwandelt richting een radicaal nieuw tijdperk, fundamenteel onvoorbereid op de snelheid van de toekomst die ze aan het bouwen is.
Om het gewicht van Kokotajlos uitspraak te begrijpen, moet men de inzet van zijn persoonlijke overtuiging begrijpen. In 2024 stapte Kokotajlo op bij OpenAI en liet hij naar schatting twee miljoen dollar aan aandelenopties schieten, omdat hij weigerde een geheimhoudingsverklaring te tekenen die hem zou beletten zijn zorgen over de veiligheid te uiten. Zijn vertrek was een klokkenluidersgebeurtenis gedreven door een onnuchter besef: de tijdlijn richting menselijke, en vervolgens Bovenmenselijke, intelligentie stort veel sneller in dan het publiek of beleidsmakers beseffen. Terwijl het publieke debat AGI behandelt als een ver weg gelegen sciencefictiontrope, wijzen de interne pijplijnen van toonaangevende AI-labs op een transformerende grens die al rond 2027 kan worden bereikt.
De kern van het wereldwijde ongeloof komt voort uit een lineaire mindset die gevangen zit in een exponentiële wereld. Al millennia lang beweegt de menselijke vooruitgang zich incrementeel. Wanneer mensen naar hedendaagse grote taalmodellen kijken, zien ze gebrekkige hulpmiddelen: chatbots die hallucineren, motoren die logische fouten maken, of software die menselijk toezicht vereist. Het grote publiek kijkt naar deze huidige tekortkomingen en concludeert dat echte machinebewustzijn of autonome vaardigheid nog decennia weg is.
Kokotajlo benadrukt echter een cruciaal kantelpunt dat lineair denken mist: recursieve zelfverbetering. Op het moment dat een AI-systeem geavanceerd genoeg wordt om zijn eigen onderzoek en ontwikkeling te automatiseren, verandert het paradigma. Vanaf dat punt begint AI betere AI te bouwen, waarbij de biologische knelpunten van menselijke techniek worden omzeild. Dit creëert een intelligentie-explosie die zich met hypersnelheid voortbeweegt. De afstand tussen een AI die een streng universitair examen kan halen en een AI die de collectieve som van de mensheid kan overtreffen, kan een kwestie van maanden zijn, in plaats van generaties.
Deze discrepantie tussen technologische snelheid en maatschappelijk bewustzijn creëert wat Kokotajlo beschouwt als een catastrofaal risicoprofiel. Hij heeft beroemd genoeg een kans van grofweg 70 procent toegekend aan een diepzeer nadelige uitkomst voor de mensheid als ons huidige traject onveranderd blijft. Dit "pessimisme" komt niet voort uit een ludditische afkeer van technologie, maar eerder uit een structurele analyse van prikkels. Het huidige landschap wordt gedekt door een meedogenloze bedrijfsrace naar marktdominantie en een geopolitiek geladen tech-oorlog tussen de Verenigde Staten en China. Onder deze omstandigheden overstijgt de prikkel om te versnellen altijd de prikkel om te beveiligen. Veiligheidsprotocollen worden behandeld als verkeersdrempels in plaats van essentiële vangrails.
Het gevaar van het "niet geloven" door de wereld is dat ongeloof leidt tot gebrek aan voorbereiding. Overheden kunnen niet reguleren wat ze als een fantoom beschouwen. Onderwijsinstellingen kunnen de beroepsbevolking niet heroriënteren op een post-arbeidseconomie die ze niet voorzien. Bouwers van filosofische en ethische kaders blijven passief terwijl er een siliciumentiteit wordt gesmeed die het menselijk handelingsvermogen permanent zou kunnen verdringen.
Kokotajlos recente werk, waaronder zijn pleidooi voor kaders zoals "AI 2040: Plan A", vertegenwoordigt een dringende poging om de wereld wakker te schudden. Hij pleit voor radicale internationale transparantie en geverifieerde, juridisch bindende verdragen tussen supermachten om de ontwikkeling opzettelijk te vertragen. Het doel is om onze tijdlijn te verschuiven – om de komst van superintelligentie verder naar de toekomst te duwen, zodat menselijke instellingen de nodige tijd hebben om zich aan te passen, robuuste uitlijningsmechanismen op te bouwen en ervoor te zorgen dat de overgang het menselijk welzijn bewaart.
Uiteindelijk is Daniel Kokotajlos kritiek een spiegel die de menselijke psychologie wordt voorgehouden. Het herinnert ons eraan dat onze grootste kwetsbaarheid in het licht van de AI-revolutie geen gebrek aan technisch vernuft is, maar een gebrek aan verbeeldingskracht en een falen van geloof. De toekomst nadert niet langer op afstand; zij stapelt zich in realtime op. Het overwinnen van de collectieve ontkenning dat "het echt niet gaat gebeuren" is de cruciale eerste stap als de mensheid de auteursrechten over haar eigen lot wil behouden.