Die KI-Branche ist derzeit laut. Vor allem um Sicherheit. Hauptsächlich geht es um Kontrolle. Konkret wird darüber diskutiert, ob amerikanische Technologiegiganten wollen, dass die US-Regierung Modelle mit offenem Gewicht aus China oder Modelle mit offenem Gewicht im Allgemeinen verbietet.
Dario Amodei, Gründer und CEO von Anthropic, sagte schließlich, was für jeden offensichtlich war, der seine Blogbeiträge tatsächlich las.
Er will kein Verbot. Ihm gefällt einfach nicht, wohin die Technologie als nächstes gehen könnte.
„Jeder, der meine früheren Texte gelesen hat, sollte erkennen, dass ich solche Verbote [von offenen Gewichten] nicht als sinnvolle Maßnahme betrachte … Anthropic hat sich nie für ein Verbot ausgesprochen.“
Diese Klarstellung erfolgte am Montagnachmittag. Es war eine direkte Antwort auf einen offenen Brief, den Jensen Huang auf X (ehemals Twitter) gepostet hatte. Huang, Gründer von Nvidia, teilte diesen Brief zum ersten Mal.
Der Brief wurde von einer langen Liste von Unternehmen unterzeichnet: Hugging Face, Meta, Microsoft. Mistral. Nvidia selbst. Sie sprachen sich gegen „vorzeitige Beschränkungen“ bei Modellen mit offenem Gewicht aus.
Der Untertext war nicht subtil. Die Branche macht sich Sorgen um chinesische Labore. Sie glauben, dass diese Labore schnell aufholen. Oder stehlen.
Destillation ist eine Methode. Eine KI bombardiert eine andere mit Eingabeaufforderungen. Es lernt, wie das erste funktioniert. Die USA haben sogar mit Sanktionen wegen Diebstahls von geistigem Eigentum an US-Modellen gedroht.
Doch Amodei sieht die Welt anders.
Die spezifische Angst hinter Anthropics Sicherheitsvorstoß
Amodei zieht eine harte Linie in den Sand. Modelle mit offenem Gewicht ohne gefährliche Fähigkeiten sind öffentliche Güter. Sie sind billig. Entwickler nutzen sie. Unternehmen nutzen sie. Dieser Teil ist in Ordnung.
Das Problem ist nicht der Code. Es ist die Absicht.
Er macht sich Sorgen, dass autoritäre Regierungen Modelle aufbauen könnten, die stärker sind als alles, was die USA herstellen können. Dauerhafte militärische Überlegenheit. Oder die totale Kontrolle über das eigene Volk.
Er nannte Namen. Die Kommunistische Partei Chinas ist nicht die einzige. Es ist einfach das „Fähigste“.
Er äußerte auch ein düstereres Szenario. Biologische Angriffe.
Seiner Meinung nach erleichtern Modelle mit offenem Gewicht dies. Sobald etwas draußen ist, kann man keine Leitplanken anbringen. Sie können es nicht überwachen. Ein Bericht des britischen AI Security Institute bestätigt dies: Sobald offene Gewichte freigegeben wurden, können Sie sie nicht mehr zurücknehmen.
Open-Source-Befürworter argumentieren das Gegenteil. Sie sagen, dass der Zugang den Verteidigern hilft. Man sagt, man müsse die Werkzeuge des Feindes kennen, um ihn zu bekämpfen. Amodei ist nicht überzeugt.
Was Anthropic stattdessen eigentlich tun möchte
Amodei beschwerte sich nicht nur. Er listete Aktionen auf. Echte.
Beschränken Sie zunächst weiterhin den Zugriff auf leistungsstarke Chips. Die USA tun dies schon seit einiger Zeit. Es macht Sinn.
Zweitens: gegen die Destillation vorgehen. Formelle Razzien. Stoppen Sie die Abschöpfung von geistigem Eigentum.
Aber die große Idee ist globales Testen.
Amodei unterstützt eine vorbildliche Organisation für Sicherheitstests. Er will es global. Einschließlich China. Auch wenn das unmöglich klingt.
Er verwies auf die jüngsten Schritte der Trump-Regierung in diese Richtung. Er erwähnte auch Vorschläge der Industrie, die Tests auf die leistungsfähigsten Modelle anzuwenden. Offen oder geschlossen. Keine Ausnahmen.
Weniger leistungsfähige Modelle? Startups? Wissenschaft? Diese sind vollständig ausgenommen.
„Ich denke, diese Idee kommt tatsächlich einem … Konsens nahe … eine begrenzte Zusammenarbeit bei der Verhinderung von KI-Biowaffen könnte im Interesse Chinas liegen.“
Das ist ein seltsamer Satz. „Begrenzte Zusammenarbeit“ mit der KPCh bei biologischen Waffen. Aber er hält es für möglich. Warum? Denn auch autoritäre Regime wollen überleben. Und Modelle mit offenem Gewicht machen ihnen das Überleben schwerer, wenn alle anderen bessere Schilde haben.
Die Nuance, die die meisten Menschen vermissen
Die Erzählung ist im Moment einfach. Silicon Valley vs. China. Unternehmenskontrolle vs. Open Access.
Amodeis Position ist chaotischer.
Er ist kein Gegner von offenem Gewicht. Er ist eine Anti-unkontrollierte gefährliche Fähigkeit.
Wenn das Modell dumm ist, lassen Sie es fliegen. Lassen Sie es von allen nutzen. Lassen Sie die Entwickler darauf aufbauen. Das ist ein öffentliches Gut.
Aber wenn das Modell intelligent genug ist, um bei der Entwicklung eines neuen Krankheitserregers zu helfen oder militärische Verteidigungsanlagen auszumanövrieren, ändern sich die Regeln. Dann brauchen Sie globale Standards. Sie brauchen alle an Bord.
Vertraut er darauf, dass China fair agiert? Nein. Aber er vertraut mehr auf ihr Eigeninteresse.
Sie wollen nicht, dass ihre Bevölkerung von einer abtrünnigen KI zerstört wird. Sie wollen nicht, dass ihr Stromnetz von einem rivalisierenden Staat übernommen wird.
Vielleicht werden sie sich also einem Test unterziehen. Vielleicht werden sie es tun.
Es ist eine fragile Hoffnung. Aber es ist besser, als alles zu verbieten und auf das Beste zu hoffen.
Die Debatte geht weiter. Die Modelle werden größer. Die Fragen werden schwieriger. Und die Grenze zwischen öffentlichem Wohl und öffentlicher Gefahr verschwimmt immer mehr.
