Het meedogenloze streven naar kunstmatige algemene intelligentie (AGI) – AI die de menselijke cognitieve vaardigheden evenaart of overtreft – wordt steeds kritischer bekeken door vooraanstaande onderzoekers, beleidsmakers en publieke figuren. Ruim 700 prominente personen hebben een verklaring ondertekend waarin wordt opgeroepen tot een pauze in de ontwikkeling van AI-superintelligentie totdat er verifieerbare veiligheidsmaatregelen en een brede publieke consensus zijn bereikt.
Het toenemende alarm over ongecontroleerde AI-groei
De kern van zorg gaat niet over de potentiële voordelen van AI; het gaat om de snelheid en het gebrek aan toezicht in de ontwikkeling ervan. Snelle vooruitgang in de richting van AGI brengt risico’s met zich mee, variërend van economische ontwrichting en erosie van individuele vrijheden tot existentiële bedreigingen. Dit is geen hypothetische angstzaaierij. Zelfs sommige pioniers op het gebied van AI-onderzoek, zoals Yoshua Bengio en Geoffrey Hinton (ook wel de ‘peetvaders van AI’ genoemd), uiten nu ernstige bedenkingen.
De donderdag gepubliceerde verklaring benadrukt de gevaren van het creëren van AI-systemen die de menselijke intelligentie zouden kunnen overtreffen zonder adequate waarborgen. Elon Musk, een uitgesproken criticus van de ongecontroleerde AI-ontwikkeling, heeft eerder gewaarschuwd dat het veld ‘een demon oproept’. Hij en andere technologieleiders deden een soortgelijke oproep tot een pauze in 2023.
De publieke opinie weerspiegelt diep scepticisme
Het debat beperkt zich niet tot technische kringen. Uit een recente nationale opiniepeiling van het Future of Life Institute blijkt dat slechts 5% van de Amerikanen het huidige, snelle en ongereguleerde traject naar superintelligentie steunt. Een grote meerderheid – 64% – vindt dat de ontwikkeling moet stoppen totdat veiligheid en controle aantoonbaar zijn bewezen, terwijl 73% pleit voor strengere regulering van geavanceerde AI-systemen.
Wat is het volgende?
De verklaring blijft open voor handtekeningen (momenteel ruim 27.700), wat wijst op een groeiende beweging die om voorzichtigheid vraagt. De vraag is nu of ontwikkelaars gehoor zullen geven aan deze waarschuwingen of zullen blijven versnellen in de richting van een toekomst waarin de potentiële risico’s van AI groter kunnen zijn dan de voordelen ervan. Dit debat gaat niet alleen over technologie; het gaat over de toekomst van menselijke keuzevrijheid en veiligheid.
