A indústria de IA está barulhenta agora. Principalmente sobre segurança. Principalmente sobre controle. Especificamente, há um burburinho sobre se os gigantes da tecnologia americanos querem que o governo dos EUA proíba os modelos abertos da China ou os modelos abertos em geral.
Dario Amodei, fundador e CEO da Anthropic, finalmente disse o que era óbvio para qualquer um que realmente lesse as postagens de seu blog.
Ele não quer uma proibição. Ele simplesmente não gosta do próximo destino da tecnologia.
“Qualquer pessoa que tenha lido meus escritos anteriores deve ver que não considero tais proibições [de pesos abertos] como uma medida útil… A Anthropic nunca defendeu uma proibição.”
Este esclarecimento surgiu na tarde de segunda-feira. Foi uma resposta direta a uma carta aberta publicada no X (antigo Twitter) por Jensen Huang. Huang, fundador da Nvidia, compartilhou essa carta pela primeira vez.
A carta foi assinada por uma longa lista de empresas: Hugging Face, Meta, Microsoft. Mistral. A própria Nvidia. Eles argumentaram contra as “restrições prematuras” aos modelos de peso aberto.
O subtexto não era sutil. A indústria está preocupada com os laboratórios chineses. Eles acham que esses laboratórios estão se atualizando rapidamente. Ou roubando.
A destilação é um método. Uma IA bombardeia outra com avisos. Aprende como funciona o primeiro. Os EUA até ameaçaram com sanções por roubo de propriedade intelectual envolvendo modelos norte-americanos.
Mas Amodei vê o mundo de forma diferente.
O medo específico por trás do impulso de segurança da Anthropic
Amodei traça uma linha dura na areia. Modelos de peso aberto sem capacidades perigosas são bens públicos. Eles são baratos. Os desenvolvedores os usam. As empresas os utilizam. Essa parte está bem.
O problema não é o código. É a intenção.
Ele preocupa-se com a possibilidade de governos autoritários construírem modelos que sejam mais fortes do que qualquer coisa que os EUA possam fazer. Superioridade militar permanente. Ou controle total sobre seu próprio povo.
Ele citou nomes. O Partido Comunista Chinês não é o único. É apenas o “mais capaz”.
Ele também levantou um cenário mais sombrio. Ataques biológicos.
Para ele, os modelos abertos facilitam isso. Você não pode colocar grades de proteção em algo que já está disponível. Você não pode monitorar isso. Um relatório do AI Security Institute do Reino Unido confirma isso: uma vez divulgados os pesos em aberto, você não poderá retirá-los.
Os defensores do código aberto argumentam o contrário. Dizem que o acesso ajuda os defensores. Dizem que é preciso conhecer as ferramentas do inimigo para combatê-lo. Amodei não está convencido.
O que a Anthropic realmente quer que seja feito
Amodei não apenas reclamou. Ele listou ações. Verdadeiros.
Primeiro, continue restringindo o acesso a chips poderosos. Os EUA já fazem isso há algum tempo. Faz sentido.
Em segundo lugar, reprima a destilação. Repressões formais. Pare o desvio de propriedade intelectual.
Mas a grande ideia são os testes globais.
Amodei apoia uma organização modelo de testes de segurança. Ele quer isso global. Incluindo a China. Mesmo que isso pareça impossível.
Ele citou os movimentos recentes da administração Trump nessa direção. Ele também mencionou propostas da indústria que aplicam testes aos modelos mais capazes. Aberto ou fechado. Sem exceções.
Modelos menos capazes? Iniciantes? Academia? Esses estão totalmente isentos.
“Acho que esta ideia está realmente próxima de um… consenso… a cooperação limitada em torno da prevenção de armas biológicas de IA pode ser do interesse da China.”
Essa é uma frase estranha. “Cooperação limitada” com o PCC em armas biológicas. Mas ele acha que é possível. Por que? Porque mesmo os regimes autoritários querem sobreviver. E os modelos de peso aberto tornam a sobrevivência mais difícil para eles se todos os outros tiverem escudos melhores.
A nuance que a maioria das pessoas sente falta
A narrativa agora é simples. Vale do Silício x China. Controle corporativo versus acesso aberto.
A posição de Amodei é mais confusa.
Ele não é um peso anti-aberto. Ele é uma capacidade perigosa anti-descontrolada.
Se o modelo for burro, deixe-o voar. Deixe que todos usem. Deixe os desenvolvedores desenvolverem isso. Isso é um bem público.
Mas se o modelo for suficientemente inteligente para ajudar a conceber um novo agente patogénico ou superar as defesas militares, as regras mudam. Então você precisa de padrões globais. Você precisa de todos a bordo.
Ele confia que a China jogará limpo? Não. Mas ele confia mais no interesse próprio deles.
Eles não querem que sua população seja destruída por uma IA desonesta. Eles não querem que a sua rede eléctrica seja assumida por um estado rival.
Então, talvez eles se submetam a testes. Talvez sim.
É uma esperança frágil. Mas é melhor do que proibir tudo e esperar pelo melhor.
O debate continua. Os modelos ficam maiores. As perguntas ficam mais difíceis. E a linha entre o bem público e o perigo público continua a confundir-se.
