IA e religião: quem define os valores éticos dos modelos?

A relação entre IA e religião ganhou uma nova dimensão à medida que empresas como a Anthropic, a OpenAI e a Microsoft procuram contributos de diferentes tradições religiosas e filosóficas para orientar o comportamento dos seus modelos. A iniciativa procura responder a um problema que a engenharia, por si só, não consegue resolver. Como deve um sistema de inteligência artificial agir perante questões morais sobre as quais nem os seres humanos estão de acordo?

Uma investigação da Associated Press, publicada a 25 de outubro de 2026, analisa esta aproximação e identifica os riscos de transformar tradições religiosas complexas em princípios aplicáveis a sistemas informáticos. O desafio não está apenas em encontrar valores comuns, mas também em evitar que a tentativa de os conciliar elimine diferenças culturais e concentre decisões morais num número reduzido de empresas tecnológicas.

Anthropic procura contributos para definir os valores do Claude

A Anthropic é um dos exemplos mais documentados desta aproximação. Em maio de 2026, a empresa revelou que tinha consultado académicos, líderes religiosos, filósofos e especialistas em ética de mais de 15 grupos religiosos e interculturais.

Segundo a explicação publicada pela Anthropic, o objetivo não é alinhar o Claude com uma religião específica. A empresa pretende compreender como diferentes tradições religiosas, filosóficas, humanistas e políticas abordam questões relacionadas com o caráter, a responsabilidade e o comportamento moral.

A iniciativa parte do reconhecimento de que os modelos de inteligência artificial interagem com pessoas cujos valores e referências culturais podem ser profundamente diferentes. Uma resposta considerada adequada numa determinada sociedade pode entrar em conflito com os princípios de outra comunidade.

A OpenAI também participou em encontros com representantes religiosos, enquanto a Microsoft tem promovido iniciativas de diálogo com estas comunidades. Representantes da Google, Meta e Amazon reuniram-se igualmente com o Vaticano para discutir questões relacionadas com a tecnologia e o seu impacto na sociedade.

Contudo, estas iniciativas não são necessariamente equivalentes. Participar num debate sobre ética e religião não significa que uma empresa tenha incorporado os contributos recolhidos nos seus modelos.

A Claude Constitution e a distância entre princípios e resultados

A discussão tem uma dimensão técnica particularmente relevante no caso da Anthropic.

A empresa utiliza um documento denominado Claude Constitution, que estabelece os princípios e comportamentos que pretende desenvolver no seu assistente. A versão revista, publicada em janeiro de 2026, aborda questões como segurança, honestidade, responsabilidade e respeito pela autonomia humana.

O documento não surgiu das consultas religiosas anunciadas em maio. A Anthropic já tinha recolhido contributos externos durante a sua elaboração. Os encontros posteriores fazem parte de um programa mais amplo que poderá contribuir para a evolução das orientações existentes.

A empresa também experimentou um mecanismo que permite ao modelo consultar os seus próprios compromissos éticos durante a execução de tarefas. Em avaliações internas, observou uma redução de comportamentos desalinhados quando o Claude tinha acesso a esses lembretes.

Os resultados, contudo, apresentam uma limitação. A própria Anthropic reconhece que ainda não conseguiu determinar quanto da melhoria resulta do conteúdo dos lembretes e quanto poderá estar associado à interrupção da tarefa, que leva o modelo a reconsiderar as suas ações.

Esta distinção é fundamental. As experiências não demonstram que os contributos religiosos tenham produzido melhorias diretas na segurança ou no comportamento do Claude.

A definição de princípios para os modelos também está a ser discutida noutras empresas. Em setembro de 2026, a Microsoft apresentou um projeto de código de conduta para manter a IA sob controlo humano, com regras sobre correções, supervisão e desativação dos sistemas. O documento foi submetido a consulta pública e ainda não era utilizado no treino dos modelos quando foi apresentado. A empresa prevê que uma versão revista oriente o desenvolvimento futuro dos seus sistemas de IA.

As duas abordagens ilustram a distância que pode existir entre a definição de valores e a sua aplicação técnica. A publicação de orientações permite conhecer as intenções das empresas, mas não garante que os modelos cumpram esses princípios em todas as circunstâncias.

No caso da Anthropic, permanece por esclarecer como as recomendações dos especialistas religiosos poderão ser integradas nas futuras versões do Claude e que critérios serão utilizados para avaliar a sua eficácia.

IA e religião: o risco de uniformizar diferentes tradições

A aproximação entre IA e religião suscita preocupações entre investigadores que estudam a diversidade cultural e a natureza das tradições religiosas.

Webb Keane, antropólogo da Universidade do Michigan, questiona a ideia de que as religiões possam ser reduzidas a conjuntos de regras morais independentes das práticas dos seus seguidores.

No artigo da Associated Press, Keane explica que esta interpretação tende a favorecer tradições assentes em textos normativos, particularmente as religiões abraâmicas.

Outras tradições atribuem maior importância à prática comunitária, aos rituais, à transmissão oral e às relações entre os seus membros. Reduzi-las a princípios abstratos pode eliminar elementos essenciais para compreender o seu significado.

Paolo Carozza, professor de Direito na Universidade de Notre Dame e membro do Conselho de Supervisão da Meta, identifica outro problema. A combinação de ensinamentos provenientes de diferentes tradições pode produzir uma moralidade homogeneizada, que perde as características que distinguem cada cultura.

Na avaliação de Carozza, as tradições religiosas evoluem através de processos históricos e sociais, que lhes permitem assimilar influências externas sem perder necessariamente a sua identidade. Um sistema de IA que combine indiscriminadamente elementos de várias tradições pode não conseguir preservar essas diferenças.

A preocupação é particularmente importante quando se procura desenvolver modelos destinados a utilização global. A diversidade cultural não corresponde apenas à existência de diferentes respostas para a mesma questão. Em muitos casos, as próprias perguntas, prioridades e formas de raciocínio moral variam entre comunidades.

A filósofa Meghan Sullivan, diretora do Instituto para a Ética e o Bem Comum da Universidade de Notre Dame, apresenta uma perspetiva mais favorável sobre a iniciativa da Anthropic. Depois de participar num dos encontros organizados pela empresa, destacou a profundidade das discussões e o interesse demonstrado pelos investigadores.

Segundo Sullivan, os debates abordaram questões que vão desde a natureza da consciência humana até à utilização de assistentes de IA no ensino infantil.

O envolvimento da filósofa nesta área ultrapassa os encontros com as empresas tecnológicas. Em outubro de 2026, Notre Dame anunciou a sua nomeação como consultora de um grupo de trabalho da Conferência dos Bispos Católicos dos Estados Unidos dedicado à preservação da dignidade humana na era da inteligência artificial.

A participação de diferentes comunidades pode, portanto, alargar o conhecimento disponível para o desenvolvimento dos modelos. O problema surge quando essa diversidade precisa de ser traduzida em decisões concretas sobre o comportamento de um sistema.

Quem controla os valores incorporados na inteligência artificial?

A questão central não é saber se a inteligência artificial deve possuir regras de segurança. Os modelos necessitam de mecanismos que reduzam o risco de utilização para fraude, ciberataques, violações de privacidade e outras atividades prejudiciais.

O desafio está em distinguir essas salvaguardas de decisões mais amplas sobre valores morais, culturais e sociais.

Quando um assistente recusa um pedido, apresenta recomendações sobre assuntos pessoais ou estabelece limites para determinados conteúdos, o seu comportamento reflete escolhas realizadas durante o desenvolvimento.

Estas decisões podem resultar dos dados utilizados no treino, dos métodos de alinhamento e das orientações definidas pelos responsáveis pelo sistema.

Em situações que envolvem valores contraditórios, a aplicação de uma única orientação pode revelar-se problemática. O equilíbrio entre liberdade individual e responsabilidade coletiva, por exemplo, não é interpretado da mesma forma em todas as sociedades.

A consulta a filósofos, académicos e representantes religiosos pode ajudar a identificar estas diferenças. Contudo, não resolve automaticamente a questão de quem tem autoridade para decidir quais os princípios que devem prevalecer.

Existe ainda um problema de transparência. Embora algumas empresas divulguem documentos sobre o comportamento esperado dos seus modelos, nem sempre é possível estabelecer uma relação clara entre as consultas externas, as decisões de desenvolvimento e os resultados observados pelos utilizadores.

A publicação de princípios éticos constitui um elemento de prestação de contas, mas não substitui avaliações independentes dos efeitos desses princípios no comportamento dos sistemas.

Segurança tecnológica não deve significar uniformização moral

A tentativa de encontrar valores comuns entre diferentes tradições pode contribuir para o desenvolvimento de modelos mais atentos aos contextos culturais em que são utilizados. No entanto, também coloca o risco de transformar princípios complexos numa orientação moral uniforme.

Este risco não significa que as empresas estejam deliberadamente a procurar impor uma determinada visão do mundo. Significa que as escolhas realizadas durante o desenvolvimento dos modelos podem privilegiar algumas perspetivas em detrimento de outras, mesmo quando o objetivo declarado é promover a diversidade.

Há uma diferença entre impedir que um sistema facilite atividades prejudiciais e determinar qual deve ser a resposta moralmente correta perante questões sociais sobre as quais existem posições legítimas e divergentes.

A primeira responsabilidade está diretamente associada à segurança tecnológica. A segunda exige uma discussão mais ampla sobre pluralismo, transparência e participação pública.

A aproximação das empresas de IA às comunidades religiosas pode contribuir para esse debate, mas não deve ser confundida com a descoberta de princípios morais universais.

A questão que permanece é saber até que ponto os utilizadores e as comunidades afetadas poderão compreender, avaliar e contestar os valores incorporados nos sistemas que utilizam.

Se estas decisões permanecerem concentradas nas empresas responsáveis pelos modelos, a inteligência artificial poderá reproduzir uma visão limitada da diversidade humana, apesar de ter sido desenvolvida com contributos de diferentes tradições.

Outros artigos interessantes: