De manipulaes em dados a artigos falsos produzidos em massa, as fraudes na literatura acadmica no so novidade. No entanto, com o avano da Inteligncia Artificial (IA) generativa, esse problema tem se agravado ainda mais.

Cientistas forenses, conhecidos como “detetives cientficos”, dedicam-se a identificar e coibir falsificaes em estudos acadmicos, mas a chegada de IA sofisticada tornou esse trabalho cada vez mais complexo. Como essas ferramentas podem criar textos, imagens e dados realistas, existe agora o temor de uma “corrida armamentista” entre fraudadores e investigadores que tentam proteger a integridade cientfica.

A IA generativa oferece oportunidades sem precedentes para falsificadores, que conseguem criar artigos com dados e imagens falsas, quase indistinguveis do material legtimo. Em uma reportagem da revista Nature, Jana Christopher, analista de integridade de imagem da FEBS Press, na Alemanha, aponta que os profissionais de integridade cientfica esto “cada vez mais preocupados com as possibilidades” abertas por essa tecnologia.

Veja tambm

Fapeam expe projetos na rea da nutrio e tecnologia de alimentos na ExpoAmaznia BIO&TIC

Secretrio Serafim Corra destaca importncia de cincia e inovao na Expo Amaznia Bio&TIC 2024

Elisabeth Bik, especialista em anlise forense de imagens, ressalta que, enquanto algumas revistas j permitem o uso de IA para gerar textos, a criao de dados e imagens artificiais ainda vista com cautela. “Podemos permitir textos gerados por IA, mas a linha tnue quando se trata de dados”.

A gerao de imagens cientficas com IA um problema crescente, especialmente porque muitas dessas imagens so to realistas que se tornam impossveis de distinguir a olho nu. Christopher relata que j suspeita de imagens geradas por IA em artigos diariamente, mas sem provas claras, difcil agir.

Foto: Reproduo

Em um caso famoso, uma imagem de um rato manipulada via IA, com caractersticas absurdas e sem sentido, foi publicada por engano, gerando repercusso e retirada rpida. Episdios como esse revelam o quanto essa tecnologia permite criar grficos e dados falsificados de forma quase imperceptvel.Ao longo dos anos, os detetives cientficos aprenderam a identificar indcios de manipulao digital, como padres idnticos em imagens de biologia celular. No entanto, a IA torna esse trabalho mais difcil. “Vejo muitos artigos onde as imagens no parecem reais, mas isso no prova suficiente”, observa Bik. Por outro lado, sinais de textos escritos por IA, como o uso de frases tpicas de chatbots, esto se tornando mais evidentes.

Com a proliferao de imagens e textos gerados por IA, novas ferramentas esto sendo desenvolvidas para ajudar na deteco. Empresas como Imagetwin e Proofig esto expandindo seus algoritmos para detectar irregularidades criadas por IA em figuras cientficas. De acordo com Dror Kolodkin-Gal, cofundador da Proofig, sua ferramenta de deteco de imagens microscpicas criadas por IA foi testada com sucesso em milhares de imagens, alcanando uma taxa de acerto de 98%.

No entanto, esses sistemas ainda dependem da reviso humana para validao dos resultados, e Christopher destaca que, embora sejam limitadas, “so ferramentas valiosas para aumentar os esforos de triagem de envios”. A revista Science, por exemplo, j utiliza o Proofig para verificar a integridade das imagens nos artigos submetidos. A Springer Nature, editora da Nature, desenvolveu suas prprias ferramentas de deteco, chamadas Geppetto e SnapShot, que identificam anomalias para anlise humana.

Curtiu? Siga o PORTAL DO ZACARIAS noFacebook,Twittere noInstagram

Entre no nosso Grupo deWhatApp,CanaleTelegram

s sejam promissores, especialistas alertam que h uma necessidade urgente de novos padres e tecnologias para validar dados e imagens de maneira eficiente. A criao de marcas d’gua invisveis para identificar imagens capturadas por microscpios, por exemplo, pode ser uma soluo, sugere Christopher.A Associao Internacional de Editores Cientficos, Tcnicos e Mdicos (STM), sediada no Reino Unido, lanou projetos como o United2Act e o STM Integrity Hub, voltados para enfrentar as chamadas “fbricas de artigos” – empresas que produzem pesquisas falsas em massa para atender demanda por publicaes acadmicas.

Fonte: Olhar Digital