O Google avançou com um acordo significativo que permite ao Departamento de Defesa dos EUA utilizar seus modelos de inteligência artificial para fins confidenciais. Esta decisão surge apesar da forte oposição interna, com centenas de funcionários a apelar à empresa para evitar aplicações militares que considerem perigosas ou não monitorizáveis.
O acordo, relatado pela primeira vez por The Information, permite que o Pentágono use as ferramentas de IA do Google para “qualquer propósito governamental legal”, incluindo operações militares sensíveis. Ao celebrar este acordo, o Google junta-se a um grupo crescente de gigantes da tecnologia – incluindo OpenAI e xAI – que firmaram parcerias confidenciais semelhantes com os militares dos EUA.
O escopo e as salvaguardas do acordo
Embora o contrato permita uma ampla utilização militar, inclui limitações específicas. O acordo afirma explicitamente que os sistemas de IA do Google não se destinam à vigilância doméstica em massa ou a armas autônomas sem supervisão humana.
No entanto, os termos também esclarecem que o Google não tem o direito de vetar decisões operacionais legais tomadas pelo governo. Além disso, a empresa ajudará no ajuste das configurações e filtros de segurança com base nas solicitações governamentais. Um porta-voz do Google disse à CNET que fornecer acesso API a modelos comerciais sob práticas padrão é uma “abordagem responsável” para apoiar a segurança nacional, reiterando o seu compromisso contra armas autónomas não supervisionadas ou vigilância doméstica.
Contexto principal: Essa mudança marca um afastamento da postura anterior do Google. Em Fevereiro, a Google actualizou os seus princípios de IA para enfatizar que “as democracias devem liderar o desenvolvimento da IA” e que a colaboração entre empresas e governos é essencial para proteger as pessoas e apoiar a segurança nacional. Isto substitui a linguagem anterior que proibia estritamente tecnologias susceptíveis de causar danos gerais ou violar os direitos humanos.
Resistência Interna e Tensões Históricas
O anúncio desencadeou uma reação significativa dentro do Google. Mais de 600 funcionários assinaram uma carta aberta dirigida ao CEO Sundar Pichai, pedindo à empresa que “se recuse a disponibilizar nossos sistemas de IA para cargas de trabalho confidenciais”.
Os funcionários argumentam que a sua proximidade com a tecnologia impõe a responsabilidade de prevenir os seus usos mais antiéticos. As suas preocupações vão além das armas letais autónomas e da vigilância em massa; eles temem que o trabalho confidencial remova a visibilidade, impossibilitando que os funcionários saibam como ou onde os modelos estão sendo implantados.
Esta tensão ecoa um dos conflitos internos mais proeminentes do Google: os protestos de 2018 contra o Projeto Maven, um programa do Pentágono que utiliza IA para analisar imagens de drones. Naquela época, milhares de trabalhadores manifestaram-se contra o contrato, levando o Google a decidir não renová-lo. Desde então, a postura da empresa em relação à IA militar suavizou-se notavelmente.
Por que isso é importante
Este desenvolvimento levanta questões críticas sobre o papel das empresas privadas de tecnologia na segurança nacional e os limites da supervisão corporativa.
- Perda de transparência: Ao contrário das aplicações comerciais, os usos militares classificados ocorrem no escuro. Os funcionários e o público não podem auditar como esses modelos se comportam em cenários reais de combate ou inteligência.
- Tendência da Indústria: Com o envolvimento da OpenAI e da xAI também com o Pentágono, isto sinaliza uma mudança mais ampla na indústria, onde os principais desenvolvedores de IA estão se tornando parte integrante da infraestrutura militar, confundindo a linha entre a inovação tecnológica civil e as capacidades de defesa.
- Dilema Ético: O conflito central permanece: uma empresa pode alegar aderir aos princípios éticos da IA e ao mesmo tempo fornecer ferramentas para operações governamentais opacas e potencialmente prejudiciais?
“Queremos que a IA beneficie a humanidade, e não que seja utilizada de formas desumanas ou extremamente prejudiciais”, afirma a carta aberta, destacando a profunda divisão moral dentro da força de trabalho.
Conclusão
A decisão do Google de fazer parceria com o Pentágono para trabalhos confidenciais de IA representa um pivô estratégico para a colaboração em segurança nacional, alinhando-a com outras grandes empresas de IA. No entanto, esta medida reacendeu um intenso debate interno, sublinhando a dificuldade crescente de equilibrar as responsabilidades éticas com as exigências governamentais no cenário em rápida evolução da inteligência artificial.
