A Casa Branca recusou divulgar os documentos que explicam o funcionamento do sistema norte-americano de avaliação de modelos de IA antes da sua disponibilização pública. A administração de Donald Trump invocou razões de segurança nacional para impedir o acesso a 60 páginas identificadas no âmbito de um pedido de informação.
Entre os documentos encontram-se sete páginas que descrevem diretamente o mecanismo de revisão. A decisão mantém desconhecidos vários aspetos do processo, apesar de o Governo já ter apresentado às empresas tecnológicas as linhas gerais do sistema.
Continua após a publicidade
Segundo o The Washington Post, a organização Protect Democracy apresentou uma ação judicial ao abrigo da Freedom of Information Act (FOIA), a legislação norte-americana que regula o acesso a documentos públicos. O pedido foi reduzido após negociações com a Casa Branca, mas a administração acabou por recusar a divulgação de todo o material identificado.
Avaliação de modelos de IA foi anunciada em junho
O mecanismo não é uma iniciativa desconhecida. Em junho, Donald Trump assinou uma ordem executiva destinada a permitir que as autoridades norte-americanas analisassem antecipadamente os riscos de cibersegurança associados aos modelos de inteligência artificial mais avançados.
O sistema prevê que as empresas possam conceder ao Governo até 30 dias de acesso antecipado aos modelos. A Agência de Segurança Nacional (NSA) recebeu um papel central na identificação dos sistemas sujeitos a maior escrutínio.
Em agosto, a administração apresentou às empresas tecnológicas um enquadramento voluntário que, segundo as informações então divulgadas, excluía determinados modelos de pesos abertos (open-weight) das avaliações.
O mecanismo já tem aplicações concretas na indústria. A Google confirmou a participação do Gemini 4 Carbon num processo voluntário de avaliação de segurança conduzido pelo Governo norte-americano, antes de alargar a disponibilização do modelo especializado em cibersegurança.
A iniciativa procura responder aos riscos associados às capacidades dos modelos avançados para identificar vulnerabilidades e apoiar operações informáticas complexas. O objetivo declarado da administração é permitir que as autoridades antecipem ameaças à segurança nacional e às infraestruturas críticas.
Falta de transparência levanta dúvidas sobre os critérios
A recusa em divulgar os documentos impede uma avaliação independente das regras utilizadas pelo Governo.
Embora alguns elementos do mecanismo sejam conhecidos, continuam por esclarecer os critérios técnicos completos, a forma como as avaliações são conduzidas e as garantias de tratamento equivalente entre empresas.
Também não é inteiramente claro quais as consequências de uma avaliação negativa, quem toma as decisões finais ou que mecanismos permitem às empresas contestar eventuais restrições.
Estas questões têm consequências para o setor tecnológico. As empresas precisam de conhecer as condições que podem afetar a disponibilização dos seus produtos, sobretudo quando desenvolvem sistemas com capacidades avançadas de programação e cibersegurança.
A confidencialidade de determinados testes pode justificar-se quando a divulgação permite identificar vulnerabilidades ou contornar mecanismos de proteção. No entanto, a necessidade de proteger informação técnica sensível não explica, por si só, a ausência de transparência sobre as regras gerais de funcionamento e supervisão do sistema.
A Protect Democracy pretende prosseguir a disputa judicial para obter acesso à documentação. Segundo o Washington Post, a Casa Branca não respondeu ao pedido de comentário apresentado pelo jornal.
O processo poderá ajudar a esclarecer até que ponto a administração norte-americana está obrigada a explicar publicamente os critérios de um mecanismo que pode influenciar a disponibilização de alguns dos modelos de inteligência artificial mais avançados.
Outros artigos interessantes:
Publicidade
