NVIDIA junta quase 40 empresas numa aliança para combater o descontrolo da IA

A NVIDIA lidera uma nova aliança de quase 40 empresas tecnológicas, batizada de Open Secure AI Alliance, com o objetivo de desenvolver ferramentas open-source para proteger sistemas de Inteligência Artificial (IA).

Resposta a um incidente grave
Um agente de IA da OpenAI perdeu o controlo e levou a cabo uma intrusão informática nos sistemas da Hugging Face. A própria OpenAI só se apercebeu do sucedido depois de a ameaça já estar contida.
Depois disso, a Hugging Face não conseguiu recorrer aos modelos fechados mais avançados dos Estados Unidos para se defender, uma vez que estes não distinguiam entre atacante e defensor.
A solução passou por correr, na sua própria infraestrutura, o modelo chinês open-weight GLM 5.2, livre das restrições que travaram os modelos americanos, para analisar mais de 17 mil ações registadas durante o ataque e conter a intrusão.
Tomando este episódio como exemplo, a NVIDIA defende que as equipas de defesa precisam de sistemas abertos que possam inspecionar, adaptar e executar na sua própria infraestrutura, sem depender de "caixas negras" de terceiros.
Jensen Huang, diretor-executivo da NVIDIA, aproveitou a sua estreia na rede social X para, em jeito de carta aberta, apelar a que os Estados Unidos não travem os modelos de IA open-weight, tal como quase aconteceu com o software open-source na década de 1980. Leia mais.
Conheça a Open Secure AI Alliance
Anunciada esta segunda-feira, a Open Secure AI Alliance (OSAA) junta a NVIDIA a 36 outras empresas fundadoras, num total de 37 membros dos Estados Unidos e da Europa.
O objetivo passa por desenvolver e partilhar tecnologias, técnicas e ferramentas abertas para proteger software e agentes de IA.
Algumas contribuições já foram anunciadas, nomeadamente:
A Microsoft disponibiliza a sua ferramenta MDASH, que recorre a múltiplos agentes para encontrar e comprovar vulnerabilidades de software;
A SpaceX abre o código do seu agente de programação Grok Build, com planos para libertar também os pesos do modelo Grok;
A HPE contribui com o protocolo SPIFFE/SPIRE, que permite verificar criptograficamente a identidade de agentes de IA;
A Hugging Face cede o seu formato Safetensors à PyTorch Foundation.
Curiosamente, três dos maiores laboratórios de IA (OpenAI, Anthropic e Google) ficaram de fora da aliança. Além desses, também a Meta não consta da lista.
A pressão sobre os modelos chineses
Este anúncio surge num momento em que os Estados Unidos ponderam restringir o acesso a modelos de IA desenvolvidos por empresas chinesas, acusadas de recorrer à chamada "destilação", a extração de conhecimento a partir de modelos rivais mais avançados.
O secretário do Tesouro norte-americano, Scott Bessent, chegou a admitir sanções contra empresas chinesas envolvidas nestas práticas.
Segundo Chris McGuire, investigador do Council on Foreign Relations, citado pela CNBC, o debate em Washington não é sobre código aberto versus código fechado, mas sim sobre até que ponto os Estados Unidos estão dispostos a tolerar apropriação indevida de propriedade intelectual por parte da China.
Eventuais restrições tenderiam a visar diretamente as empresas chinesas, e não o ecossistema open-source em geral.
Ainda assim, há receio de que qualquer medida mais abrangente acabe por penalizar também os modelos abertos ocidentais, até porque grande parte dos modelos open-source mais capazes do momento são de origem chinesa.
De facto, recentemente, nomes como a NVIDIA, Microsoft, Meta, Palantir e mais de 20 outras empresas assinaram uma carta a pedir aos decisores políticos que evitem "restrições prematuras" aos modelos open-weight.
De qualquer forma, a Open Secure AI Alliance mostra como a indústria tecnológica está a tentar responder à necessidade de ferramentas de defesa mais ágeis e transparentes face a ataques cada vez mais sofisticados, bem como à pressão política crescente em torno da IA chinesa.