Radar Perene / Arquivos / ciência

Autoria e detecção de IA em ciência

◦ Metodologia v2.2 dos índices (working papers com DOI). Ver metodologia.

Ciência

Nos primeiros meses da IA generativa, alguns artigos científicos chegaram a ser publicados com uma ferramenta de IA listada entre os autores — nome na capa, ao lado dos humanos. A reação do sistema foi rápida e quase unânime: as listagens foram corrigidas, e a proibição virou norma. O episódio, curioso em si, abriu as duas perguntas que este artigo descreve — sem prescrever resposta para nenhuma. O que exatamente faz de alguém autor? E, se a regra existe, como alguém verificaria que foi violada?

No consenso das editoras e dos comitês de ética de publicação, autoria científica exige quatro capacidades: contribuir substancialmente para o trabalho, aprovar a versão final, responder publicamente por erros e declarar conflitos de interesse. A exclusão da IA deriva daí — não do desempenho da ferramenta, mas da impossibilidade de ela responder por qualquer coisa.

O debate de autoria: mais fundo que a regra

A formulação canônica — a IA não assina porque não responde — resolve o caso fácil e deixa os difíceis em aberto, e a honestidade do debate atual está em admitir isso. As posições públicas das editoras e do comitê internacional de ética em publicação (COPE) convergem na regra e divergem na fronteira: quanto uso de ferramenta é compatível com a afirmação "este trabalho é meu"?

De um lado do espectro argumenta-se por continuidade histórica: pesquisadores sempre usaram instrumentos que fazem parte do trabalho intelectual — bibliotecas, calculadoras, software estatístico, corretores — e ninguém jamais listou o pacote de regressão como autor. Pela lente da responsabilidade, a ferramenta nova é mais uma camada: quem assina verifica, e responde. Do outro lado aponta-se uma descontinuidade real: as ferramentas anteriores executavam operações que o pesquisador especificava; a IA generativa produz formulações — hipóteses de texto, estruturas de argumento — e a fronteira entre auxílio e contribuição intelectual fica genuinamente borrada. Entre os dois polos, as políticas escolheram um corte pragmático, descrito no artigo anterior desta trilha: responsabilidade integral humana, declaração dos usos relevantes. É um corte administrável, não uma resposta filosófica — e as posições publicadas têm a modéstia de dizê-lo.

Detectores: o que a evidência pública mostra

Se a regra proíbe, a tentação institucional é comprar fiscalização automática — e a oferta existe: ferramentas que prometem estimar se um texto foi escrito por máquina. A literatura pública sobre esses detectores, porém, documenta três limites que qualquer leitor de pesquisa deve conhecer, porque decisões sobre carreiras já foram tomadas em cima deles.

O primeiro limite são os falsos positivos — texto humano classificado como sintético. A documentação pública inclui casos emblemáticos, como textos históricos, escritos décadas antes de qualquer IA, marcados como gerados. Estudos apontaram ainda um padrão mais grave: textos de falantes não nativos do idioma são sinalizados com frequência desproporcional, porque prosa mais regular e de vocabulário mais contido se parece, estatisticamente, com a saída média das máquinas. Numa ciência global escrita majoritariamente em inglês por não nativos, esse não é um defeito lateral.

O segundo limite é a evasão: paráfrases, edição humana leve ou instruções de estilo degradam a precisão dos detectores. O terceiro é estrutural e resume os dois primeiros — a detecção é uma corrida entre modelos, sem linha de chegada: cada geração de ferramenta de escrita move o alvo das ferramentas de detecção. Um dos maiores desenvolvedores de IA chegou a lançar e depois descontinuar seu próprio detector de texto, citando a baixa taxa de acerto; o episódio é frequentemente citado no debate como o resumo honesto do estado da arte.

A assimetria final merece registro: uma acusação baseada em detector é quase impossível de refutar. Não existe prova cabal de que um texto não foi gerado — e sistemas que punem com base em evidência não refutável colidem com princípios elementares de justo processo. É por essa razão, documentada nas discussões públicas de ética editorial, que as políticas de periódicos descritas nesta trilha apostaram em declaração e responsabilidade, e não em policiamento estatístico do texto.

O que sobra quando a detecção falha

A conclusão do debate, no estado atual, tem uma elegância involuntária: sem detector confiável, o sistema volta ao que sempre teve — verificação do conteúdo, não da origem. Um artigo com dados conferíveis, método descrito e resultados reproduzíveis pode ser avaliado seja qual for a mão que digitou; um artigo sem essas propriedades é fraco ainda que caligrafado. Os mecanismos clássicos de integridade — replicação, dados abertos, revisão — fiscalizam o que importa sem precisar adivinhar a ferramenta. A pergunta "foi máquina?" envelhece; a pergunta "isto se sustenta quando conferido?" não.

Perguntas frequentes

Por que uma IA não pode simplesmente ser coautora?

Porque a autoria científica embute responsabilidade jurídica e moral: responder por erro, fraude e conflito de interesse. Um sistema que não pode ser responsabilizado não cumpre a definição — este é o fundamento declarado das políticas, uniforme entre editoras.

Detectores de texto de IA funcionam?

Com taxas de erro relevantes nas duas direções, degradação sob edição e paráfrase, e viés documentado contra não nativos do idioma. A evidência pública situa a utilidade deles em triagem indicativa, muito distante de prova.

Alguém já foi prejudicado por falso positivo?

Os casos documentados concentram-se no ambiente educacional, onde detectores foram usados em decisões disciplinares — e motivaram revisões de política em várias instituições. O debate editorial científico cita esses episódios como advertência.

Como um periódico verifica a regra, então?

Na prática: declaração dos autores, responsabilidade contratual, análise editorial de inconsistências (referências inexistentes são o rastro mais comum) e os mecanismos ordinários de integridade pós-publicação. Verificação estatística do texto não é o pilar — pela fragilidade descrita acima.

---

Fecha-se aqui a trilha da integridade. A próxima é feita de matéria mais tangível: as bases de dados abertas brasileiras — começando pela tabela de onde sai o índice de preços mais citado do país: IBGE SIDRA: como uma tabela vira insumo de pesquisa.

Leituras da casa: a leitura de hoje está no Diário.

Leia também: IBGE SIDRA: da tabela ao insumo de pesquisa · IA na pesquisa: o que os periódicos já regulam · O que é peer review — e por que um estudo revisado vale mais