Por que a IA ainda precisa de intervenção humana

Continua após a publicidade

Ultimamente, houve vários casos em que a linha entre inteligência artificial e estupidez artificial tem sido muito tênue. Bing da Microsoft insistindo que ainda estamos em 2022ou Bardo do Google servindo de erros factuaispor exemplo.

Esses problemas mostram que a intervenção humana ainda é fundamental para obter o melhor dos modelos AI/ML. O diretor de produtos da Tamar Anthony Deighton respondeu como as organizações podem aproveitar inteligência artificial enquanto mantêm o principal componente humano do processo.

Por que a IA comete erros bobos?

AD: Há uma percepção com IA/aprendizado de máquina de que é uma caixa preta mágica. Você envia dados, e dados limpos saem, com pouca ou nenhuma transparência sobre como eles funcionam. Essa abordagem facilita a resolução de grandes quantidades de dados rapidamente e em escala, mas carece do feedback humano necessário para melhorar os modelos.

Qual é o papel do feedback humano para tornar a IA mais precisa?

AD: No outro extremo do espectro, encontramos processos que são 100% conduzidos por humanos. As empresas contratam dezenas, até centenas, de pessoas, muitas vezes em áreas de baixo custo, e pedem que resolvam os dados e as entidades nos dados. Os processos conduzidos por humanos funcionam, mas são trabalhosos e não escaláveis.

Embora ambas as abordagens sejam opções quando se trata de dominar os dados, acredito que haja um meio-termo. Um lugar onde a máquina assume a liderança e os humanos fornecem orientação e feedback para tornar a máquina – e os resultados – melhores. Isso é aprendizado de máquina supervisionado e é a abordagem de domínio de dados que oferece os melhores resultados.

Qual é a influência das regras que regem a IA?

AD: As regras que regem AI/ML podem ter uma influência significativa no desenvolvimento, implantação e uso dessas tecnologias. As regras podem afetar vários aspectos, incluindo considerações éticas, legais, sociais e econômicas.

Do ponto de vista ético, as regras que regem AI/ML podem ajudar a garantir que essas tecnologias sejam desenvolvidas e usadas de maneira alinhada com os valores humanos, como justiça, responsabilidade, transparência e privacidade. As regras também podem ajudar a prevenir o desenvolvimento de sistemas AI/ML que possam causar danos, como aqueles que são tendenciosos, discriminatórios ou representam riscos à segurança humana.

Do ponto de vista legal, as regras podem estabelecer os direitos e responsabilidades de diferentes partes interessadas envolvidas no desenvolvimento e uso de sistemas AI/ML. Por exemplo, as regras podem reger a responsabilidade dos desenvolvedores de sistemas AI/ML, a propriedade da propriedade intelectual e os direitos de privacidade dos indivíduos.

De uma perspectiva social e econômica, as regras podem ajudar a garantir que os benefícios e riscos da IA/ML sejam distribuídos de forma justa e equitativa em toda a sociedade. As regras também podem ajudar a promover a inovação e a concorrência no setor de IA/ML, estabelecendo padrões, certificações e outras medidas que incentivam o desenvolvimento e a implantação responsáveis ​​dessas tecnologias.

Em resumo, as regras que regem AI/ML podem ter uma influência significativa no desenvolvimento, implantação e uso dessas tecnologias, bem como seu impacto na sociedade. Portanto, é essencial que essas regras sejam cuidadosamente elaboradas e implementadas para garantir que promovam considerações éticas, legais, sociais e econômicas.

Existem algumas áreas em que podemos confiar mais na IA do que em outras?

AD: Não sem aprendizado de máquina supervisionado que combina o melhor da máquina com o melhor que um ser humano tem a oferecer. As máquinas são muito boas para resolver dados e entidades de dados em escala e com velocidade. E eles não cansam. Isso é um benefício, especialmente porque os volumes de dados continuam a crescer em ritmo acelerado.

Os humanos, por outro lado, são muito bons em fornecer feedback e garantir que os resultados da máquina sejam precisos. E quanto mais feedback eles fornecem, melhor a máquina se torna. Outro benefício do envolvimento humano é a confiança. Quando os humanos participam do processo e ajudam no treinamento da máquina, é mais provável que confiem nos dados. E quando eles confiam nos dados, eles são muito mais propensos a usá-los em análises e tomar decisões.

Vamos dar uma olhada em uma analogia para ilustrar meu ponto: carros autônomos. Hoje, empresas como a Tesla estão divulgando os benefícios de seus carros autônomos. E eles acreditam que o modelo de caixa preta oferece o melhor resultado. Esta é provavelmente a ambição errada.

Veja, carros autônomos funcionam muito bem… Até que não funcionem. Quando se deparam com uma situação que nunca viram antes, não sabem o que fazer. E eles não sabem como antecipar o resultado. Isso aconteceu com um Tesla. O carro estava dirigindo sozinho, e mais à frente havia um caminhão de bombeiros parado. O Tesla não parou e acabou colidindo com o caminhão dos bombeiros. Por que não parou? Porque a situação era desconhecida para a máquina e o algoritmo não previu uma falha como resultado.

Pode-se também argumentar que carros totalmente dirigidos por humanos não são muito melhores. Acidentes acontecem o tempo todo quando os humanos assumem o volante.

Mas a direção supervisionada por humanos é o melhor dos dois mundos. Ele combina o poder dos carros autônomos com a supervisão humana para guiar a máquina quando surge uma situação nova ou imprevista. No caso do acidente com nosso caminhão de bombeiros, se o humano estivesse guiando a máquina, ele poderia ter acionado o freio e parado o carro antes que ele batesse. Então, avançando, a máquina reconheceria aquela situação e saberia acionar o freio antes de atingir o caminhão de bombeiros.

Veremos governos tentando regular como a IA é usada?

AD: À medida que a IA continua a se tornar uma parte maior de uma cultura orientada por dados e aumenta seu alcance e impacto, é inevitável que maiores demandas sejam feitas para entender esses processos e como eles funcionam. Já estamos vendo governos e agências estabelecerem diretrizes para o uso da IA. Esse nível de transparência deve se estender não apenas à auditoria dos processos de IA, mas também ao qualidade dos dados sendo alimentado em tais sistemas para garantir que não introduza vieses.

Qual é a única coisa que precisa melhorar para tornar a IA melhor?

AD: Uma coisa a acrescentar é a ideia de ‘verdade’. O debate até agora foi enquadrado entre ‘inteligente’ e ‘estúpido’, mas acho que o debate real é ‘verdadeiro’ versus ‘falso’ (ou ‘certo’ versus ‘errado’). AI não tem conceito de ‘verdade’. Apenas diz que algo se encaixa no modelo. Mas as pessoas estão preocupadas com a verdade, então ter um guia humano de IA para uma resposta melhor e mais ‘verdadeira’ é um objetivo louvável.