Sam Altman diz que teremos de aceitar algumas “coisas ruins” da IA — mas estabelece uma linha que não pode ser cruzada

Fraudes, golpes e ataques cibernéticos facilitados por inteligência artificial deveriam ser suficientes para limitar drasticamente o acesso à tecnologia? Para Sam Altman, a resposta é não. O CEO da OpenAI provocou uma nova discussão ao afirmar que a sociedade terá de aceitar que algumas “coisas ruins” aconteçam para preservar os benefícios e a liberdade proporcionados pela IA. Mas sua declaração veio acompanhada de uma ressalva fundamental: existem riscos que ele considera inaceitáveis.

Altman aceita riscos, mas não qualquer risco

A declaração foi feita durante uma entrevista ao Decoded, do Politico, na qual Altman discutiu as diferenças entre a estratégia da OpenAI e a abordagem mais cautelosa defendida por alguns pesquisadores e empresas do setor.

O argumento central é que tentar construir um mundo no qual ninguém consiga utilizar IA para cometer fraudes, realizar ataques digitais ou desenvolver outras atividades prejudiciais exigiria controles extremamente rígidos sobre quem pode acessar sistemas avançados.

Altman rejeita essa troca.

Em sua avaliação, os usos positivos serão muito mais numerosos do que os negativos. Por isso, considera que a sociedade deveria tolerar determinados riscos limitados e compreendidos em vez de concentrar o controle da tecnologia em poucas mãos.

A formulação gerou repercussão justamente por colocar de maneira explícita uma questão que acompanha praticamente toda tecnologia de uso geral: quanto risco uma sociedade está disposta a aceitar para obter seus benefícios?

Golpes e ataques entram nessa conta

Altman deu exemplos que ajudam a compreender melhor o que chamou de “coisas ruins”.

Ele mencionou fraudes, uso indevido da tecnologia e grandes ataques cibernéticos. Sua posição não é que esses problemas sejam desejáveis, mas que exigir risco zero antes de permitir amplo acesso à IA seria, para ele, uma condição impossível e indesejável.

A comparação implícita pode ser feita com outras tecnologias. Internet, automóveis e smartphones oferecem benefícios enormes, mas também criam riscos que governos tentam reduzir por meio de leis, padrões técnicos e fiscalização, sem necessariamente proibir seu uso.

A discussão sobre IA, entretanto, acrescenta uma complicação: os próprios sistemas estão evoluindo rapidamente e podem ampliar capacidades de fraude, persuasão, programação e automação.

É justamente nesse ponto que aparecem as divergências entre os principais laboratórios.

A diferença entre OpenAI e Anthropic ficou mais clara

Altman utilizou a entrevista para contrastar sua visão com posições mais restritivas dentro do setor, especialmente aquelas associadas à Anthropic, criadora do Claude.

Dario Amodei, CEO da empresa, vem alertando sobre os riscos de sistemas cada vez mais autônomos e poderosos. Em setembro, defendeu que o setor deveria reduzir o ritmo para permitir que mecanismos de segurança acompanhassem o desenvolvimento tecnológico. Altman chegou a concordar publicamente que o avanço da fronteira da IA poderia ser mais lento.

Mas os dois divergem sobre como administrar os riscos.

Altman considera inaceitável um cenário em que um único laboratório concentre uma tecnologia extremamente poderosa e decida quem poderá utilizá-la em nome da segurança. Para ele, preservar a capacidade das pessoas de acessar e usar IA também é um valor que precisa entrar na equação.

Essa filosofia ajuda a explicar a defesa da OpenAI de uma abordagem regulatória comparativamente mais flexível.

Existe um risco que muda completamente a resposta

A parte mais importante da declaração de Altman aparece quando ele diferencia danos limitados de ameaças catastróficas.

O executivo afirmou que aceita riscos delimitados e compreendidos em troca dos benefícios da IA, mas não aplica o mesmo raciocínio quando existe a possibilidade de consequências realmente catastróficas.

Entre elas está uma eventual perda grave de controle sobre sistemas avançados.

Essa distinção é crucial. Altman não está argumentando que qualquer consequência negativa deve ser aceita em nome do progresso tecnológico.

Sua proposta é estabelecer categorias de risco.

Fraudes ou determinados ataques digitais poderiam, segundo esse raciocínio, ser enfrentados com legislação, segurança tecnológica e adaptação social. Um sistema muito poderoso que escapasse do controle humano representaria uma categoria completamente diferente, porque seus efeitos poderiam ser irreversíveis.

Quem decide quais danos são aceitáveis?

É justamente aí que surge a parte mais difícil do debate.

Mesmo que determinados riscos sejam estatisticamente pequenos diante dos benefícios totais da IA, as pessoas prejudicadas por golpes, deepfakes, ataques digitais ou decisões automatizadas podem sofrer consequências muito concretas.

Além disso, não existe consenso sobre onde termina um dano administrável e começa um risco intolerável.

A declaração de Altman provocou críticas de pessoas que questionam se empresas responsáveis por desenvolver e comercializar esses sistemas deveriam ter papel central na definição desse limite. O governador da Flórida, Ron DeSantis, por exemplo, reagiu argumentando que um pequeno grupo de executivos tecnológicos não deveria tomar sozinho decisões de segurança que afetem toda a sociedade.

O debate, portanto, vai muito além de decidir se inteligência artificial é boa ou ruim.

A verdadeira pergunta é mais complicada: quais riscos estamos dispostos a aceitar, quem ficará exposto a eles e quem terá autoridade para decidir quando o benefício prometido é grande o suficiente para justificá-los?

Altman já apresentou sua resposta para parte desse dilema. Agora, governos, empresas e bilhões de usuários terão de decidir se concordam com ela.