1794883382 59 Federal Reserve alerta que agentes de IA podem transformar pequenos

Continua após a publicidade


A inteligência artificial movimenta investimentos bilionários, transforma empresas e promete tornar os mercados financeiros mais eficientes. Entretanto, a mesma tecnologia que entusiasma investidores começa a provocar preocupação entre os responsáveis pela estabilidade econômica. O motivo vai além das avaliações das gigantes de tecnologia. Sistemas capazes de tomar decisões em segundos, movimentar recursos e reagir automaticamente às notícias podem criar riscos difíceis de controlar. E um novo levantamento americano mostra como essa preocupação está crescendo.

Uma pesquisa do Federal Reserve revelou um número preocupante

O Federal Reserve (Fed), banco central dos Estados Unidos, publicou em 13 de novembro seu relatório semestral sobre estabilidade financeira.

Entre os resultados, um dado chamou especialmente a atenção: 87% dos participantes consultados identificaram a inteligência artificial como um risco relevante para o sistema financeiro americano.

O levantamento foi realizado entre setembro e outubro com 23 representantes de bancos, fundos de investimento, intermediários financeiros e empresas de consultoria.

Na pesquisa anterior, realizada na primavera americana, essa preocupação havia sido mencionada por 50% dos entrevistados.

A mudança revela um aumento expressivo na percepção de risco entre os participantes.

Entretanto, existe uma ressalva importante: os 87% representam apenas os especialistas consultados, não todos os economistas ou profissionais do mercado financeiro.

O levantamento também não prevê uma crise inevitável.

As preocupações incluem avaliações elevadas de empresas ligadas à IA, ataques cibernéticos e estruturas financeiras complexas utilizadas para financiar centros de dados.

O problema pode começar quando algoritmos tomam decisões semelhantes

Em 16 de novembro, Michael Barr, integrante da diretoria do Federal Reserve, abordou essas ameaças durante uma conferência internacional sobre inteligência artificial e finanças, realizada em Milão.

Uma das preocupações envolve sistemas automatizados utilizados para negociar ações e outros ativos.

Imagine milhares de algoritmos analisando uma notícia econômica e chegando simultaneamente à mesma conclusão.

Se todos decidirem vender determinados ativos, os preços poderão cair rapidamente, provocando novas ordens automáticas de venda.

Esse comportamento pode transformar uma oscilação inicialmente limitada em uma reação muito mais intensa.

Segundo Barr, modelos de aprendizado de máquina também podem apresentar comportamentos de coordenação ou manipulação difíceis de identificar pelos mecanismos tradicionais de fiscalização.

A preocupação não é apenas que uma inteligência artificial cometa erros, mas que vários sistemas produzam respostas semelhantes em grande velocidade.

Agentes de IA podem criar novos riscos para bancos e clientes

Outra ameaça envolve os chamados agentes de inteligência artificial, sistemas capazes de executar tarefas com relativa autonomia.

Diferentemente dos chatbots tradicionais, esses programas podem realizar operações e interagir com serviços digitais em nome dos usuários.

Barr relatou situações em que instituições financeiras identificaram tentativas de atuação sobre contas bancárias sem conseguir verificar adequadamente a autorização dos titulares.

Mesmo quando a solicitação é legítima, confirmar a identidade e as permissões de um agente automatizado representa um desafio.

Existe ainda o risco de retiradas de depósitos coordenadas.

Se numerosos agentes interpretarem sinais de instabilidade bancária da mesma maneira, poderão acelerar transferências e saques, aumentando a pressão sobre instituições financeiras.

Também preocupam recomendações incorretas, decisões de crédito discriminatórias e ataques cibernéticos sofisticados.

Esses cenários demonstram por que a supervisão humana e os mecanismos de autorização continuam fundamentais.

Investimentos bilionários também estão sob observação

A expansão da inteligência artificial exige infraestrutura de alto custo, especialmente centros de dados e equipamentos especializados.

Segundo Barr, as obrigações financeiras das maiores empresas do setor estão aumentando rapidamente.

Além disso, contratos complexos entre companhias de tecnologia, fornecedores e investidores podem dificultar a identificação de quem assumiria determinadas perdas.

Se as expectativas de crescimento mudarem bruscamente, essas conexões financeiras poderão transmitir dificuldades entre diferentes participantes do mercado.

Entretanto, o Federal Reserve não afirma que uma bolha esteja prestes a estourar.

O alerta destaca vulnerabilidades potenciais que precisam ser acompanhadas conforme o setor cresce.

A inteligência artificial pode melhorar as finanças, mas exige novos controles

Apesar das preocupações, o banco central americano reconhece os benefícios da tecnologia.

A inteligência artificial pode melhorar a detecção de fraudes, ampliar o acesso ao crédito e aumentar a eficiência dos serviços financeiros.

O desafio consiste em aproveitar essas vantagens sem permitir que sistemas automatizados criem riscos desproporcionais.

Entre as prioridades estão mecanismos confiáveis de autorização, maior transparência e fiscalização das decisões algorítmicas.

A mensagem do Federal Reserve é que a inovação precisa avançar acompanhada de controles adequados.

Afinal, uma tecnologia capaz de tornar as operações financeiras mais rápidas também pode acelerar a propagação de problemas quando os sistemas não funcionam como esperado.

Veja todas notícias sobre Tecnologia

Publicidade