Investigadores militares da China usam modelos de IA dos EUA para treinar sistemas de defesa

Institutos ligados às forças armadas da China têm recorrido a modelos de Inteligência Artificial (IA) norte-americanos, como o GPT da OpenAI e o Claude da Anthropic, para desenvolver tecnologia militar própria, driblando as restrições.

De acordo com uma análise da Reuters a mais de 80 artigos académicos e patentes chinesas, feita em colaboração com a Jamestown Foundation, vários institutos ligados ao Exército de Libertação Popular e a outras entidades de segurança chinesas têm usado outputs de modelos de IA ocidentais para treinar sistemas próprios, mais pequenos e totalmente controlados a nível interno.
A técnica em causa chama-se "destilação" e consiste em usar as respostas de um modelo de IA avançado para treinar um modelo mais pequeno e especializado, que pode depois correr localmente sem necessitar da enorme capacidade computacional exigida pelos sistemas mais avançados.
Um modelo grande e complexo (o professor) transfere o seu conhecimento para um modelo mais pequeno e mais eficiente (o aluno).
Segundo Sunny Cheung, investigador da Jamestown Foundation que analisou mais de 60 dos artigos em causa, replicar apenas a resposta certa de um modelo é relativamente simples, mas captar o raciocínio por detrás dessa resposta é uma tarefa bem mais complexa.
Conforme revelado pelo investigador, é esse tipo de raciocínio, caro e proprietário, que os investigadores ligados às forças armadas da China têm tentado transferir dos modelos ocidentais para sistemas mais pequenos, que conseguem controlar e implementar localmente.
Da vigilância ao campo de batalha
Os casos documentados abrangem áreas muito distintas:
Uma unidade de guerra cibernética do Exército de Libertação Popular, a Unidade 96941, terá usado o GPT-3.5 da OpenAI para processar e resumir código-fonte militar sensível, treinando depois um modelo doméstico com esses resumos, por forma a evitar expor dados confidenciais a sistemas de terceiros.
Já investigadores de uma universidade chinesa com ligações à indústria de armamento terão recorrido ao Claude 3 Haiku, da Anthropic, para gerar dados sintéticos destinados a treinar um sistema de classificação de conteúdos usado em monitorização de redes sociais.
Noutros casos, a aplicação é claramente militar:
A Universidade Nacional de Tecnologia de Defesa terá usado destilação para reduzir um modelo de processamento de imagem, permitindo que drones analisem vídeo em tempo real para navegação e definição de alvos, mesmo sem comunicações ativas.
Já a Academia de Ciências Militares chinesa aplicou uma abordagem semelhante a um modelo de reconhecimento de alvos testado em operações marítimas simuladas, envolvendo drones, navios e submarinos não tripulados.
Um ponto de fricção nas relações EUA-China
Este tema surge numa altura sensível, mesmo antes de conversações entre os Estados Unidos da América (EUA) e a China sobre governação e segurança em IA.
Enquanto Washington acusa entidades chinesas de usarem a destilação para extrair capacidades de modelos norte-americanos, contornando controlos de exportação e violando direitos de propriedade intelectual, Pequim rejeita as acusações, classificando-as como uma forma de "hegemonia" tecnológica por parte dos EUA.
Além disso, argumenta que empresas norte-americanas recorrem a práticas semelhantes.
Do lado da Anthropic, a empresa esclareceu que não disponibiliza acesso comercial ao Claude na China nem a empresas controladas por Pequim, e que mantém sistemas de deteção de violações das suas políticas de uso.
A empresa alertou ainda que modelos destilados podem perder as salvaguardas de segurança do sistema original, permitindo que capacidades sensíveis acabem em modelos fora do seu controlo.
De facto, a mesma investigação da Reuters encontrou artigos em que cientistas militares chineses estudam a destilação como uma potencial vulnerabilidade dos seus próprios sistemas.