Imagens geradas por Inteligência Artificial ameaçam a ciência

Desde manipulações de dados até artigos falsos produzidos em massa, a fraude na literatura acadêmica não é novidade. No entanto, com o avanço da Inteligência Artificial (IA) generativa, este problema tornou-se ainda pior.

Os cientistas forenses, conhecidos como “detetives científicos”, dedicam-se a identificar e impedir falsificações em estudos académicos, mas a chegada de uma IA sofisticada tornou este trabalho cada vez mais complexo.

Dado que estas ferramentas podem criar textos, imagens e dados realistas, existe agora o receio de uma “corrida armamentista” entre fraudadores e investigadores que tentam proteger a integridade científica.

A IA generativa oferece oportunidades sem precedentes para falsificadores que podem criar artigos com dados e imagens falsos que são quase indistinguíveis de material legítimo.

Em uma reportagem de revista NaturezaJana Christopher, analista de integridade de imagem da FEBS Press na Alemanha, destaca que os profissionais de integridade científica estão “cada vez mais preocupados com as possibilidades” abertas por esta tecnologia.

Elisabeth Bik, especialista em análise forense de imagens, destaca que, embora algumas revistas já permitam o uso de IA para geração de textos, a criação de dados e imagens artificiais ainda é vista com cautela. “Podemos habilitar texto gerado por IA, mas há uma linha tênue quando se trata de dados.”

O impacto da Inteligência Artificial na produção de dados e imagens falsas

A geração de imagens científicas com IA é um problema crescente, especialmente porque muitas dessas imagens são tão realistas que são impossíveis de distinguir a olho nu. Christopher relata que já suspeita de imagens geradas por IA em artigos todos os dias, mas sem evidências claras é difícil agir.

Em um caso famoso, a imagem de um mouse manipulado via IA, com características absurdas e sem sentido, foi publicada por engano, gerando repercussão e rápida retirada. Episódios como esse revelam o quanto essa tecnologia permite criar gráficos e dados falsificados de forma quase imperceptível.

Ao longo dos anos, os detetives científicos aprenderam a identificar sinais de manipulação digital, como padrões idênticos em imagens de biologia celular. No entanto, a IA torna este trabalho mais difícil. “Vejo muitos artigos em que as imagens não parecem reais, mas isso não é prova suficiente”, observa Bik. Por outro lado, sinais de textos escritos por IA, como o uso de mensagens típicas bots de bate-papoestão se tornando mais evidentes.

Leia mais:

Ferramentas de IA para detecção e desafios técnicos

Com a proliferação de imagens e textos gerados por IA, novas ferramentas estão sendo desenvolvidas para auxiliar na detecção. Empresas como Imagetwin e Proofig estão expandindo seus algoritmos para detectar irregularidades criadas por IA em figuras científicas.

De acordo com Dror Kolodkin-Gal, cofundador da Proofig, sua ferramenta de detecção de imagens microscópicas criada por IA foi testada com sucesso em milhares de imagens, alcançando uma taxa de precisão de 98%.

No entanto, estes sistemas ainda dependem da revisão humana para validar os resultados, e Christopher destaca que, embora sejam limitados, “são ferramentas valiosas para aumentar os esforços de triagem de submissões”.

A revista Ciênciapor exemplo, já utiliza o Proofig para verificar a integridade das imagens dos artigos submetidos. O Natureza Springereditor de Naturezadesenvolveu suas próprias ferramentas de detecção, chamadas Geppetto e SnapShot, que identificam anomalias para análise humana.

Embora estes avanços sejam promissores, os especialistas alertam que existe uma necessidade urgente de novos padrões e tecnologias para validar dados e imagens de forma eficiente. Criar marcas d’água invisíveis para identificar imagens capturadas por microscópios, por exemplo, poderia ser uma solução, sugere Christopher.

A Associação Internacional de Editores Científicos, Técnicos e Médicos (STM), com sede no Reino Unido, lançou projetos como o United2Act e o STM Integrity Hub, com o objetivo de combater as chamadas “fábricas de papel” – empresas que produzem pesquisas falsas em massa para atender à demanda. para publicações acadêmicas.

No entanto, há receios de que os editores não estejam a reagir com rapidez suficiente. “Estamos preocupados que isto se torne mais uma geração de problemas na literatura que só serão abordados quando for tarde demais”, diz Kevin Patrick, analista de integridade conhecido como Cheshire nas redes sociais.

Ele demonstrou como é fácil criar imagens falsas em minutos usando o recurso de preenchimento generativo do Photoshop, com exemplos realistas de culturas de células, manchas e tumores que poderiam facilmente passar por autênticos em artigos científicos.

Esperança de que novas tecnologias exponham fraudes futuras

Apesar das dificuldades, alguns especialistas mantêm uma visão otimista. Patrick, por exemplo, acredita que, embora os golpistas possam burlar o sistema atual, as tecnologias de detecção continuarão a evoluir e poderão expor fraudes que atualmente passam despercebidas. “Em algum momento, o que hoje parece sofisticado será visto como rudimentar”, prevê ele, observando que os fraudadores devem estar cientes de que suas falsificações provavelmente serão descobertas no futuro.

Neste cenário, a combinação de ferramentas tecnológicas, políticas editoriais mais rígidas e expertise humana são fundamentais para proteger a ciência.

Ao mesmo tempo que a Inteligência Artificial amplia as possibilidades de criação de fraudes, ela também se torna uma aliada na detecção de irregularidades.

Resposta do quebra-cabeça: As imagens a, d e e são de artigos científicos reais. As imagens b, c e f foram geradas pelo software Proofig Artificial Intelligence