Meta vai avisar pais sobre buscas de adolescentes por suicídio e sinais de risco em conversas com IA

A Meta ampliou seu sistema de alertas para responsáveis por adolescentes que apresentam possíveis sinais de risco de suicídio ou automutilação em suas plataformas. A atualização inclui buscas no Facebook e conversas com a Meta AI pelo Facebook e pelo Messenger. O mecanismo já funcionava no Instagram e agora entra em uma nova etapa de distribuição global para famílias que utilizam a supervisão parental.

O que pode acionar uma notificação

O sistema considera duas situações diferentes. A primeira envolve buscas repetidas por termos relacionados a suicídio ou automutilação em um curto intervalo. A segunda ocorre quando uma conversa com a Meta AI apresenta sinais de que o adolescente pode estar em risco.

Assim, pesquisar uma palavra e conversar com o assistente não seguem necessariamente o mesmo critério. Nas buscas, a repetição funciona como um dos sinais para o envio do aviso. Nas conversas, a empresa procura indícios de sofrimento que possam justificar a intervenção de um responsável.

Segundo a atualização publicada pela Meta em 29 de outubro, a expansão contempla os pais que supervisionam as contas dos filhos. A empresa não divulga o número exato de buscas nem a duração do intervalo que aciona o mecanismo.

A supervisão precisa estar ativada

Os avisos dependem do vínculo entre as contas do adolescente e de seu responsável por meio das ferramentas de supervisão parental. Portanto, o anúncio não significa que todos os pais receberão automaticamente notificações sobre a atividade dos filhos.

Conforme os dados de contato disponíveis, os responsáveis podem receber alertas por e-mail, SMS ou WhatsApp, além de uma notificação dentro do aplicativo. Ao abrir o aviso, encontram uma explicação sobre a atividade que motivou o contato e materiais preparados com especialistas para ajudar na conversa com o adolescente.

No anúncio original do recurso para buscas no Instagram, a Meta explicou que o objetivo era informar as famílias sobre tentativas recorrentes de acessar esse conteúdo. A companhia também afirma bloquear determinadas buscas e direcionar os usuários a recursos de apoio.

As conversas sinalizadas passam por revisão humana

Para os diálogos com a Meta AI, a empresa descreve uma etapa adicional: um sistema identifica possíveis sinais de risco e, antes do envio do alerta, uma pessoa revisa a conversa sinalizada.

A Meta reconhece que o mecanismo pode gerar avisos mesmo quando não existe uma situação real de perigo. Segundo a companhia, quando a intenção do adolescente permanece ambígua, a orientação é priorizar o envio da notificação.

Esse cuidado também revela um limite da ferramenta. Identificar referências a sofrimento em uma conversa não equivale a fazer um diagnóstico. O alerta funciona como um chamado para que um adulto procure entender o contexto e ofereça apoio.

Mais informações para os pais, sem acesso integral aos chats

A expansão faz parte de um conjunto maior de controles sobre o uso de inteligência artificial por adolescentes. Em outra frente, a Meta permite que responsáveis consultem os assuntos abordados pelos filhos com seu assistente nos últimos sete dias.

Essa visualização apresenta temas gerais, sem mostrar as conversas completas. De acordo com a explicação oficial sobre a supervisão da Meta AI, o recurso também oferece sugestões de como iniciar um diálogo sobre o uso da tecnologia. Em outubro, a empresa ampliou a supervisão para o aplicativo independente da Meta AI em escala global. 

Os novos alertas seguem uma lógica mais específica: chamar a atenção da família quando a atividade indica uma possível necessidade de apoio. Sua utilidade, porém, depende tanto da capacidade de identificar esses sinais quanto da resposta dos responsáveis. Receber uma notificação abre uma oportunidade de escuta; a ausência de um aviso, por sua vez, não comprova que o adolescente esteja bem.