San Francisco Frontiers - Os detectores de texto gerados por IA são confiáveis?

Na França, um dos fenômenos literários da temporada, Thélyson Orélien, foi acusado de usar IA para escrever seu primeiro romance, o que ele nega.

As acusações, feitas por uma conta anônima em uma rede social, baseiam-se em um programa de detecção de IA.

Como as ferramentas funcionam e qual a sua confiabilidade? Aqui estão alguns pontos-chave para entendê-las.

- O que é um detector de IA? -

O uso crescente da IA generativa levou à criação de dezenas de ferramentas online para sua detecção, a maioria das quais exige pagamento para acesso ilimitado. Muitas são voltadas para os setores de ensino e pesquisa acadêmica.

As empresas que desenvolvem as ferramentas utilizam diferentes métodos para configurar seus sistemas de detecção.

Mas todas compartilham a característica comum de terem construído os programas analisando grandes bancos de dados que combinam textos gerados por modelos de IA com textos escritos por humanos.

De acordo com diversos estudos publicados por pesquisadores, estes sistemas de detecção, que eram bastante deficientes há alguns anos, melhoraram significativamente seu desempenho.

- Em que se baseia a detecção? -

Para tentar determinar se um texto foi escrito por IA, essas ferramentas "buscam regularidades", explica Thierry Poibeau, diretor de pesquisa e especialista em processamento automático de linguagem.

"A ideia é que esses textos gerados automaticamente, embora isso esteja se tornando cada vez menos verdade, apresentam certas peculiaridades linguísticas", explica.

A empresa Pangram, fundada em 2023 e cuja ferramenta foi usada por uma conta no X para analisar dois trechos do livro de Thélyson Orélien, afirma ser capaz de "detectar um texto gerado por IA analisando e compreendendo os sinais sutis presentes na escrita".

"O exemplo clássico são as construções ternárias ou travessões, que eram muito frequentes nos textos gerados porque as ferramentas foram treinadas com textos científicos americanos ou romances americanos, que continham muitas construções ternárias", diz Poibeau.

- Os dispositivos são confiáveis? -

Muitas ferramentas disponíveis no mercado ostentam taxas de confiabilidade superiores a 99% na detecção de textos gerados por IA.

No entanto, os resultados apresentados são insuficientes para afirmar categoricamente que um texto foi escrito utilizando essa tecnologia.

A WinstonAI, um dos principais sistemas do setor, criada em 2022, afirma que sua ferramenta de detecção sinaliza textos "provavelmente gerados por IA".

Na Pangram, o CEO e cofundador Max Spero declarou à publicação americana The Atlantic, em maio de 2026, que seu dispositivo jamais deveria ser "o árbitro final", mas sim um ponto de partida para uma investigação mais aprofundada.

Segundo Thierry Poibeau, esses sistemas de detecção também enfrentam uma realidade em constante mudança, pois "os modelos de IA estão em constante evolução" e buscam cada vez mais se aproximar da linguagem natural.

O especialista também afirma que identificar IA em livros pode ser especialmente difícil: "A ferramenta pode detectar algo específico, algo repetitivo, na escrita, mas talvez seja justamente isso que constitua o estilo de um escritor", explica.

A.Evans--SFF