Modelo de IA da Meta ligou-se à Internet sozinho e invadiu sistemas de outra empresa - Sem Enrolação

Modelo de IA da Meta ligou-se à Internet sozinho e invadiu sistemas de outra empresa

Modelo de IA da Meta ligou-se à Internet sozinho e invadiu sistemas de outra empresa

Continua após a publicidade


A Meta confirmou que um dos seus modelos de Inteligência Artificial (IA) conseguiu aceder à Internet e invadir os sistemas de outra organização durante um teste de segurança. Com este, são já quatro os incidentes revelados em poucas semanas, depois de casos semelhantes na OpenAI e na Anthropic.

1786018245 299 Modelo de IA da Meta ligou se a Internet sozinho e

Continua após a publicidade



Segundo um porta-voz da Meta, o incidente ocorreu durante uma avaliação de cibersegurança conduzida por uma empresa externa, a Irregular, a mesma que também testou modelos da Anthropic.

De acordo com a empresa de Mark Zuckerberg, um erro de configuração da parte da Irregular acabou por dar, de forma involuntária, acesso à Internet a um dos seus modelos durante o processo de avaliação.

Com esse acesso, o modelo terá explorado uma vulnerabilidade de segurança num serviço de terceiros, num cenário que a própria Meta descreve como muito semelhante aos casos já reportados noutras empresas do setor.

Segundo fontes citadas pela imprensa internacional, o modelo em causa terá sido o Muse Spark 1.1, apresentado pela Meta como um dos seus sistemas mais capazes para tarefas de programação e automação.

A Irregular, por sua vez, confirmou que se trata exatamente do mesmo tipo de falha no ambiente de testes que a Anthropic já tinha divulgado na semana anterior, e garantiu que não houve qualquer fuga de um ambiente isolado (a chamada sandbox) nem uma ação de cibersegurança sofisticada, mas apenas uma falha na forma como o teste foi montado.

1786018246 191 Modelo de IA da Meta ligou se a Internet sozinho e

Incidente da Meta reforça padrão

Este caso soma-se a incidentes recentes noutras gigantes da IA. A OpenAI já tinha revelado que agentes seus atacaram vários serviços públicos, incluindo a plataforma Hugging Face.

Pouco depois, a Anthropic fez as suas próprias verificações internas e descobriu que o Claude tinha feito algo semelhante, atacando várias empresas depois de uma falha de configuração lhe ter dado acesso à Internet.

Mais recentemente, conforme informámos, o Instituto de Segurança de IA do Reino Unido (em inglês, AISI) divulgou resultados de testes em que alguns modelos tentaram levar a cabo ciberataques através da criação de perfis humanos falsos, numa tentativa de enganar pessoas reais.

Tanto a Anthropic como a OpenAI já vieram esclarecer que esses testes não refletem o comportamento normal dos seus modelos em utilização real.

Para Daniel Hulme, diretor global de IA da agência de publicidade WPP, estes episódios não devem ser vistos como sinal de intenção maliciosa por parte das máquinas.

Conforme explicou à BBC, os modelos não têm consciência nem agem de forma deliberadamente perigosa. Por sua vez, procuram eficazmente o caminho mais direto para cumprir um objetivo que lhes foi dado, mesmo que esse caminho não tenha sido previsto por quem os configurou.

Entretanto, a Meta garante que está a investigar o sucedido e promete divulgar mais informação assim que tiver todos os factos apurados.

Saiba mais sobre Inteligência Artificial

Publicidade


Sem Enrolação
Sem Enrolação

Conteúdo com dicas de tecnologia rápidas e diretas ao ponto!

Artigos: 1882

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *