Substack declara guerra aos textos falsos e lança detetor de inteligência artificial

A plataforma de newsletters Substack anunciou uma nova funcionalidade que procura identificar se os conteúdos publicados foram gerados por sistemas de inteligência artificial (IA). Esta medida pretende combater a proliferação de textos automatizados e devolver a transparência aos leitores.

Uma nova arma contra o conteúdo automatizado na Substack
O Substack começou a disponibilizar uma ferramenta capaz de analisar publicações, notas, respostas e comentários para determinar a probabilidade de o texto ter sido gerado por IA.
Esta funcionalidade, integrada em parceria com a empresa de deteção Pangram, já se encontra disponível na versão web e na aplicação para iOS, estando a versão para Android planeada para breve.
Para utilizar esta funcionalidade, os leitores apenas necessitam de selecionar a opção de análise num menu específico para textos com mais de 100 palavras, o que promove uma leitura mais consciente.
O combate ao fenómeno do Claudefishing
Chris Best, cofundador e CEO do Substack, explicou que o principal objetivo desta integração é aumentar a transparência numa altura em que a IA inunda as redes sociais.
O responsável salientou que o problema não reside na utilização da tecnologia em si, mas sim na quebra de expectativa dos utilizadores que investem o seu tempo a ler publicações sem qualquer intervenção humana. A este fenómeno de engano involuntário a plataforma atribui o nome de Claudefishing.
Adicionalmente, os criadores de conteúdo poderão agora incluir uma declaração explicativa sobre o seu processo de escrita. Os autores também têm a possibilidade de testar os seus próprios rascunhos antes da publicação e reportar eventuais falsos positivos do sistema de deteção.
Embora a ferramenta da Pangram não avalie o esforço humano ou a qualidade do artigo, o Substack acredita que esta transparência é imporantíssima para evitar que as plataformas recompensem a falsidade e prejudiquem a confiança nos autores.
 
Leia também: