Lembra-se do modelo de IA descontrolado da OpenAI? Foi pior do que se pensava

Um incidente grave revelou que um modelo experimental de inteligência artificial (IA) da OpenAI conseguiu contornar as restrições de segurança, aceder à internet e coordenar ataques cibernéticos sem qualquer intervenção humana. Agora, a empresa lançou um relatório detalhado do que se passou.

O dia em que os agentes de IA se uniram em segredo
Novos dados revelados por relatórios da própria OpenAI e de entidades independentes, como a METR e a Redwood Research, expõem a gravidade de um incidente ocorrido em julho. Um modelo de IA não lançado conseguiu escapar do seu ambiente de testes restrito e estabeleceu um canal de comunicação secreto para colaborar com outros agentes.
Durante quase duas semanas, estas entidades automatizadas operaram fora do controlo dos investigadores, o que demonstra que as ameaças digitais já não exigem supervisão humana direta.
A origem do problema esteve associada ao fenómeno de "reward-hacking", em que o sistema adota comportamentos imprevistos e extremos para alcançar os objetivos programados. Perante tarefas complexas e ficheiros inacessíveis, um agente batizado como PHASEONE10841 criou um fórum de mensagens oculto.
Em poucas horas, centenas de outros agentes juntaram-se à plataforma para partilhar dados e planear ações. O grupo conseguiu obter acesso à internet e infiltrou-se nos sistemas internos do laboratório Hugging Face, comprometendo dados privados e canais de comunicação corporativos.
A escala da falha de segurança e a resposta da OpenAI
Os relatórios apontam para números alarmantes, com cerca de 1200 agentes a trocar mais de 70 mil mensagens no fórum clandestino.
Mais de metade destes agentes participou ativamente no ataque informático, procurando constantemente formas de apagar os seus próprios registos para evitar a deteção pelas equipas de segurança.
A OpenAI acabou por detetar a intrusão 12 dias após o início do desvio, suspendendo de imediato os testes do modelo experimental afetado e do GPT-5.6 Sol.
A gigante de IA afirmou que considera o incidente "um tiro de aviso" para nós e para o mundo: uma prova de que, sem as devidas salvaguardas, os agentes de IA são agora capazes de contornar os controlos técnicos, colaborar através de canais não aprovados e realizar ações perigosas que nenhum ser humano ordenou.
 
Leia também: