L’industria dell’intelligenza artificiale è rumorosa in questo momento. Soprattutto sulla sicurezza. Principalmente riguardo al controllo. Nello specifico, si discute se i giganti tecnologici americani vogliano che il governo degli Stati Uniti vieti i modelli a peso aperto provenienti dalla Cina o i modelli a peso aperto in generale.
Dario Amodei, fondatore e CEO di Anthropic, ha finalmente detto ciò che era ovvio a chiunque leggesse i post del suo blog.
Non vuole un divieto. Semplicemente non gli piace dove potrebbe andare la tecnologia dopo.
“Chiunque abbia letto i miei scritti passati dovrebbe vedere che non considero tali divieti [sui pesi liberi] come una misura utile… Anthropic non ha mai sostenuto un divieto.”
Questo chiarimento è arrivato lunedì pomeriggio. Era una risposta diretta a una lettera aperta pubblicata su X (ex Twitter) da Jensen Huang. Huang, fondatore di Nvidia, condivideva quella lettera per la prima volta.
La lettera è stata firmata da un lungo elenco di aziende: Hugging Face, Meta, Microsoft. Maestrale. Nvidia stessa. Si sono opposti alle “restrizioni premature” sui modelli a peso aperto.
Il sottotesto non era sottile. L’industria è preoccupata per i laboratori cinesi. Pensano che quei laboratori stiano recuperando terreno velocemente. O rubare.
La distillazione è un metodo. Un’intelligenza artificiale ne bombarda un’altra con suggerimenti. Impara come funziona il primo. Gli Stati Uniti hanno persino minacciato sanzioni per il furto di proprietà intellettuale che coinvolge modelli statunitensi.
Ma Amodei vede il mondo in modo diverso.
La paura specifica dietro la spinta alla sicurezza di Anthropic
Amodei traccia una linea dura nella sabbia. I modelli a peso aperto senza capacità pericolose sono beni pubblici. Sono economici. Gli sviluppatori li usano. Le aziende li usano. Quella parte va bene.
Il problema non è il codice. È l’intento.
Si preoccupa che i governi autoritari costruiscano modelli più forti di qualsiasi cosa gli Stati Uniti possano realizzare. Superiorità militare permanente. O il controllo totale sulla propria gente.
Ha fatto nomi. Il Partito Comunista Cinese non è l’unico. È solo quello “più capace”.
Ha anche sollevato uno scenario più oscuro. Attacchi biologici.
A suo avviso, i modelli a peso aperto rendono tutto ciò più semplice. Non puoi mettere dei guardrail su qualcosa una volta che è là fuori. Non puoi monitorarlo. Un rapporto dell’AI Security Institute del Regno Unito lo conferma: una volta rilasciati i pesi aperti, non è possibile ripristinarli.
I sostenitori dell’open source sostengono il contrario. Dicono che l’accesso aiuta i difensori. Dicono che devi conoscere gli strumenti del nemico per combatterlo. Amodei non è convinto.
Ciò che Anthropic vuole invece che venga fatto
Amodei non si è limitato a lamentarsi. Ha elencato le azioni. Quelli veri.
Innanzitutto, continua a limitare l’accesso ai chip potenti. Gli Stati Uniti lo fanno già da tempo. Ha senso.
In secondo luogo, reprimere la distillazione. Repressioni formali. Fermare il dirottamento della proprietà intellettuale.
Ma la grande idea sono i test globali.
Amodei sostiene un’organizzazione modello di test di sicurezza. Lo vuole globale. Compresa la Cina. Anche se sembra impossibile.
Ha citato le recenti mosse dell’amministrazione Trump in questa direzione. Ha anche menzionato le proposte del settore che applicano i test ai modelli più capaci. Aperto o chiuso. Nessuna eccezione.
Modelli meno capaci? Startup? Il mondo accademico? Quelli sono completamente esentati.
“Penso che questa idea sia in realtà vicina a un… consenso… una cooperazione limitata sulla prevenzione delle armi biologiche basate sull’intelligenza artificiale potrebbe essere nell’interesse della Cina.”
È una frase strana. “Cooperazione limitata” con il PCC sulle armi biologiche. Ma pensa che sia possibile. Perché? Perché anche i regimi autoritari vogliono sopravvivere. E i modelli a peso aperto rendono loro la sopravvivenza più difficile se tutti gli altri hanno scudi migliori.
La sfumatura che manca alla maggior parte delle persone
La narrazione in questo momento è semplice. Silicon Valley contro la Cina. Controllo aziendale vs. accesso aperto.
La posizione di Amodei è più confusa.
Non è anti-peso aperto. Ha una capacità pericolosa anti-incontrollata.
Se il modello è stupido, lascialo volare. Lascia che lo usino tutti. Lascia che gli sviluppatori si basino su di esso. Questo è un bene pubblico.
Ma se il modello è abbastanza intelligente da aiutare a progettare un nuovo agente patogeno o a superare in astuzia le difese militari, le regole cambiano. Allora servono standard globali. Hai bisogno che tutti siano a bordo.
Ha fiducia che la Cina si comporti in modo corretto? No. Ma si fida di più del loro interesse personale.
Non vogliono che la loro popolazione venga bombardata da un’intelligenza artificiale canaglia. Non vogliono che la loro rete elettrica venga rilevata da uno stato rivale.
Quindi, forse si sottoporranno ai test. Forse lo faranno.
È una speranza fragile. Ma è meglio che vietare tutto e sperare per il meglio.
Il dibattito continua. I modelli diventano più grandi. Le domande si fanno più difficili. E il confine tra bene pubblico e pericolo pubblico continua a confondersi.
