De AI-industrie is momenteel luidruchtig. Meestal over veiligheid. Het gaat vooral om controle. Concreet is er veel ophef over de vraag of Amerikaanse technologiegiganten willen dat de Amerikaanse regering open-weight-modellen uit China of open-weight-modellen in het algemeen verbiedt.
Dario Amodei, de oprichter en CEO van Anthropic, zei eindelijk wat voor de hand lag voor iedereen die zijn blogposts daadwerkelijk las.
Hij wil geen verbod. Hij houdt gewoon niet van waar de technologie naartoe zou kunnen gaan.
“Iedereen die mijn eerdere artikelen heeft gelezen, zou moeten zien dat ik dergelijke verboden [op open gewichten] niet als een nuttige maatregel beschouw… Anthropic heeft nooit voor een verbod gepleit.”
Deze verduidelijking kwam maandagmiddag. Het was een directe reactie op een open brief die Jensen Huang op X (voorheen Twitter) plaatste. Huang, oprichter van Nvidia, deelde die brief voor het eerst.
De brief werd ondertekend door een lange lijst van bedrijven: Hugging Face, Meta, Microsoft. Mistral. Nvidia zelf. Ze pleitten tegen “voortijdige beperkingen” op modellen met open gewicht.
De subtekst was niet subtiel. De industrie maakt zich zorgen over Chinese laboratoria. Ze denken dat die laboratoria een snelle inhaalslag maken. Of stelen.
Destillatie is één methode. De ene AI bombardeert de andere met aanwijzingen. Het leert hoe de eerste werkt. De VS hebben zelfs gedreigd met sancties wegens diefstal van intellectueel eigendom waarbij Amerikaanse modellen betrokken zijn.
Maar Amodei ziet de wereld anders.
De specifieke angst achter de veiligheidspush van Anthropic
Amodei trekt een harde lijn in het zand. Modellen met open gewicht zonder gevaarlijke eigenschappen zijn publieke goederen. Ze zijn goedkoop. Ontwikkelaars gebruiken ze. Bedrijven gebruiken ze. Dat deel is prima.
Het probleem is niet de code. Het is de bedoeling.
Hij maakt zich zorgen over autoritaire regeringen die modellen bouwen die sterker zijn dan alles wat de VS kunnen maken. Permanente militaire superioriteit. Of totale controle over hun eigen mensen.
Hij noemde namen. De Chinese Communistische Partij is niet de enige. Het is gewoon de “meest capabele”.
Hij bracht ook een donkerder scenario naar voren. Biologische aanvallen.
Volgens hem maken modellen met een open gewicht dit gemakkelijker. Je kunt geen vangrails op iets zetten als het eenmaal daar is. Je kunt het niet monitoren. Een rapport van het Britse AI Security Institute bevestigt dit: zodra open gewichten zijn vrijgegeven, kunt u ze niet meer terugnemen.
Voorstanders van open source beweren het tegenovergestelde. Ze zeggen dat toegang verdedigers helpt. Ze zeggen dat je de instrumenten van de vijand moet kennen om ze te bestrijden. Amodei is niet overtuigd.
Wat Anthropic eigenlijk wil doen
Amodei klaagde niet alleen. Hij somde acties op. Echte.
Blijf eerst de toegang tot krachtige chips beperken. De VS doen dit al een tijdje. Het is logisch.
In de tweede plaats moet u de destillatie aanpakken. Formeel optreden. Stop met het overhevelen van intellectueel eigendom.
Maar het grote idee is mondiaal testen.
Amodei ondersteunt een modelorganisatie voor veiligheidstests. Hij wil het mondiaal. Inclusief China. Ook al klinkt dat onmogelijk.
Hij haalde de recente stappen van de regering-Trump in deze richting aan. Hij noemde ook branchevoorstellen die testen toepassen op de meest capabele modellen. Open of gesloten. Geen uitzonderingen.
Minder capabele modellen? Startups? Academia? Deze zijn volledig vrijgesteld.
“Ik denk dat dit idee eigenlijk dicht bij een… consensus… beperkte samenwerking rond het voorkomen van biologische AI-wapens ligt, kan in het belang van China zijn.”
Dat is een vreemde zin. “Beperkte samenwerking” met de CCP op het gebied van biologische wapens. Maar hij denkt dat het mogelijk is. Waarom? Omdat zelfs autoritaire regimes willen overleven. En modellen met een open gewicht maken het voor hen moeilijker om te overleven als alle anderen betere schilden hebben.
De nuance die de meeste mensen missen
Het verhaal is nu eenvoudig. Silicons Valley versus China. Bedrijfscontrole versus open toegang.
De positie van Amodei is rommeliger.
Hij is niet tegen open gewicht. Hij is anti-ongecontroleerd gevaarlijk vermogen.
Als het model dom is, laat het dan vliegen. Laat iedereen er gebruik van maken. Laat de ontwikkelaars daarop voortbouwen. Dat is een publiek goed.
Maar als het model slim genoeg is om een nieuwe ziekteverwekker te helpen ontwerpen of de militaire verdediging te slim af te zijn, veranderen de regels. Dan heb je mondiale standaarden nodig. Je hebt iedereen aan boord nodig.
Vertrouwt hij erop dat China eerlijk zal spelen? Nee. Maar hij vertrouwt meer op hun eigenbelang.
Ze willen niet dat hun bevolking wordt vernietigd door een malafide AI. Ze willen niet dat hun elektriciteitsnet wordt overgenomen door een rivaliserende staat.
Dus misschien zullen ze zich onderwerpen aan testen. Misschien wel.
Het is een kwetsbare hoop. Maar het is beter dan alles te verbieden en er het beste van te hopen.
Het debat gaat door. De modellen worden groter. De vragen worden moeilijker. En de grens tussen publiek goed en publiek gevaar blijft vervagen.
