L’industrie de l’IA est bruyante en ce moment. Surtout une question de sécurité. Surtout une question de contrôle. Plus précisément, on se demande si les géants américains de la technologie souhaitent que le gouvernement américain interdise les modèles à poids ouvert en provenance de Chine ou les modèles à poids ouvert en général.
Dario Amodei, fondateur et PDG d’Anthropic, a finalement déclaré ce qui était évident pour quiconque lisait réellement ses articles de blog.
Il ne veut pas d’interdiction. Il n’aime tout simplement pas où la technologie pourrait aller ensuite.
“Quiconque a lu mes écrits précédents devrait voir que je ne considère pas de telles interdictions [sur les poids ouverts] comme une mesure utile… Anthropic n’a jamais plaidé en faveur d’une interdiction.”
Cette précision est intervenue lundi après-midi. C’était une réponse directe à une lettre ouverte publiée sur X (anciennement Twitter) par Jensen Huang. Huang, fondateur de Nvidia, partageait cette lettre pour la première fois.
La lettre était signée par une longue liste d’entreprises : Hugging Face, Meta, Microsoft. Mistral. Nvidia lui-même. Ils se sont opposés aux « restrictions prématurées » sur les modèles à poids ouvert.
Le sous-texte n’était pas subtil. L’industrie s’inquiète pour les laboratoires chinois. Ils pensent que ces laboratoires rattrapent rapidement leur retard. Ou voler.
La distillation est une méthode. Une IA en bombarde une autre avec des invites. Il apprend comment fonctionne le premier. Les États-Unis ont même menacé de sanctions en cas de vol de propriété intellectuelle impliquant des modèles américains.
Mais Amodei voit le monde différemment.
La peur spécifique derrière la politique de sécurité d’Anthropic
Amodei trace une ligne dure dans le sable. Les modèles à poids ouvert sans capacités dangereuses sont des biens publics. Ils sont bon marché. Les développeurs les utilisent. Les entreprises les utilisent. Cette partie est bien.
Le problème n’est pas le code. C’est l’intention.
Il s’inquiète du fait que les gouvernements autoritaires construisent des modèles plus forts que tout ce que les États-Unis peuvent créer. Supériorité militaire permanente. Ou un contrôle total sur leur propre peuple.
Il a cité des noms. Le Parti communiste chinois n’est pas le seul. C’est juste le “plus performant”.
Il a également évoqué un scénario plus sombre. Attaques biologiques.
Selon lui, les modèles à poids ouvert facilitent cette tâche. Vous ne pouvez pas mettre de garde-fou sur quelque chose une fois qu’il est là-bas. Vous ne pouvez pas le surveiller. Un rapport du UK AI Security Institute le confirme : une fois les pondérations ouvertes publiées, vous ne pouvez plus les reprendre.
Les partisans de l’open source soutiennent le contraire. Ils disent que l’accès aide les défenseurs. On dit qu’il faut connaître les outils de l’ennemi pour le combattre. Amodei n’est pas convaincu.
Ce qu’Anthropic veut réellement faire à la place
Amodei ne s’est pas contenté de se plaindre. Il a énuméré les actions. Des vrais.
Tout d’abord, continuez à restreindre l’accès aux puces puissantes. Les États-Unis font cela depuis un certain temps. Cela a du sens.
Deuxièmement, sévir contre la distillation. Répressions formelles. Arrêtez le siphonnage de la propriété intellectuelle.
Mais la grande idée, ce sont des tests mondiaux.
Amodei soutient une organisation modèle de tests de sécurité. Il le veut mondial. Y compris la Chine. Même si cela semble impossible.
Il a cité les récentes mesures prises par l’administration Trump dans cette direction. Il a également mentionné les propositions de l’industrie qui appliquent les tests aux modèles les plus performants. Ouvert ou fermé. Aucune exception.
Des modèles moins performants ? Des startups ? Le milieu universitaire ? Ceux-ci sont entièrement exemptés.
« Je pense que cette idée est en fait proche d’un… consensus… une coopération limitée autour de la prévention des armes biologiques IA pourrait être dans l’intérêt de la Chine. »
C’est une phrase bizarre. « Coopération limitée » avec le PCC sur les armes biologiques. Mais il pense que c’est possible. Pourquoi? Parce que même les régimes autoritaires veulent survivre. Et les modèles à poids ouvert rendent leur survie plus difficile si tout le monde dispose de meilleurs boucliers.
La nuance qui manque à la plupart des gens
Le récit actuel est simple. Silicon Valley contre Chine. Contrôle d’entreprise contre accès ouvert.
La position d’Amodei est plus compliquée.
Il n’est pas anti-poids ouvert. Il a une capacité dangereuse anti-incontrôlée.
Si le modèle est stupide, laissez-le voler. Que tout le monde l’utilise. Laissez les développeurs s’appuyer sur cela. C’est un bien public.
Mais si le modèle est suffisamment intelligent pour aider à concevoir un nouveau pathogène ou à déjouer les défenses militaires, les règles changent. Ensuite, il faut des normes mondiales. Vous avez besoin de tout le monde à bord.
Fait-il confiance à la Chine pour jouer franc-jeu ? Non, mais il fait davantage confiance à leur intérêt personnel.
Ils ne veulent pas que leur population soit détruite par une IA malveillante. Ils ne veulent pas que leur réseau électrique soit repris par un État rival.
Alors peut-être qu’ils se soumettront à des tests. Peut-être qu’ils le feront.
C’est un espoir fragile. Mais c’est mieux que de tout interdire et d’espérer le meilleur.
Le débat continue. Les modèles s’agrandissent. Les questions deviennent plus difficiles. Et la frontière entre bien public et danger public ne cesse de s’estomper.
