Meta vai avisar os pais se os jovens discutirem automutilação com a inteligência artificial

A Meta implementou uma nova ferramenta de segurança que procura proteger os utilizadores mais jovens durante as suas interações digitais. A partir de agora, os encarregados de educação serão notificados se os seus filhos abordarem temas relacionados com a automutilação ou o suicídio nas conversas com a inteligência artificial (IA) da empresa.

A tecnológica liderada por Mark Zuckerberg tem vindo a reforçar as medidas de proteção destinadas aos menores, procurando demonstrar que as suas plataformas digitais são ambientes seguros.
Como funciona o novo sistema de alerta da Meta
Poucos meses após ter começado a partilhar com os tutores os tópicos gerais debatidos pelos jovens com a Meta AI, a empresa dá agora um passo crucial. Sempre que um menor mencione ideias de suicídio ou automutilação, o sistema não só encaminhará o utilizador para linhas de apoio especializadas, como também enviará um aviso proativo aos pais.
Esta notificação incluirá recursos úteis e conselhos práticos para que as famílias saibam como agir perante uma situação de crise.
Para evitar alarmismos desnecessários, a Meta desenvolveu um algoritmo de IA dedicado à deteção deste tipo de diálogos. Contudo, antes de qualquer alerta ser enviado para os telemóveis dos encarregados de educação, a conversa passará por uma triagem humana.
A equipa de moderação analisará o contexto para garantir que a ameaça é real. Ainda assim, a empresa garante que irá pecar por excesso de zelo, enviando a notificação mesmo que a intenção do jovem pareça ambígua. Esta funcionalidade já se encontra ativa no Instagram para utilizadores nos EUA, Reino Unido, Austrália e Canadá, prevendo-se o seu lançamento global até ao final do ano.
Contacto direto com serviços de emergência
Os planos da gigante das redes sociais não se ficam por aqui. A Meta está a trabalhar no desenvolvimento de um mecanismo capaz de contactar diretamente as autoridades e os serviços de emergência caso detete que um utilizador, seja ele menor ou adulto, corre risco de vida iminente.
Esta abordagem assemelha-se a iniciativas de outras empresas do setor, como a OpenAI, que lançou recentemente a funcionalidade "Contacto de Confiança" para o ChatGPT.
Adicionalmente, as restrições de conteúdos do Instagram passarão a aplicar-se diretamente à Meta AI, limitando as interações com temas sensíveis sempre que o filtro de conteúdo limitado estiver ativo.
 
Leia também: