Ampliação do debate ético é fundamental para uso adequado das ferramentas de IA no cotidiano da pesquisa, dizem especialistas

Dr. Cláudio Cezar Freitas
18 de jul.
3 min de leitura

Ao buscar pelo próprio nome no Google Acadêmico, prática que está longe de ser incomum entre adultos maduros que vivenciaram o mundo das enciclopédias e dos dicionários volumosos, um professor de uma das maiores universidades do Brasil descobriu que havia sido citado em um artigo científico de autores indianos publicado como preprint na plataforma arXiv.org. Físico de formação, ficou curioso pelos detalhes e, depois de alguns cliques, descobriu que o artigo referido não existe e, mais do que isso, a referência em questão citava uma colaboração acadêmica que também nunca existiu entre três pesquisadores, o docente e outros dois físicos de universidades brasileiras importantes.

O docente dividiu a experiência singular em uma rede social, levantando a hipótese de que a referência tenha sido gerada por inteligência artificial. Nos comentários, um professor de uma tradicional universidade federal fez um relato complementar, na mesma linha: nesse caso, o docente tivera um artigo citado por autores chineses aparentemente fora de propósito, levantando a hipótese de que “as listas de referências podem estar sendo geradas de modo a incluir possíveis revisores (dos artigos submetidos) e deixá-los satisfeitos”, o que seria uma tentativa de influenciar na revisão por pares (peer review), etapa fundamental que atesta a qualidade do trabalho científico.

Exemplos de má conduta em pesquisa, como os relatados na abertura deste texto, parecem ter sido levados a um outro patamar, cujos desdobramentos e consequências ainda se sabe muito bem quais são, com a popularização do acesso aos chats de inteligência artificial, a chamada inteligência artificial (IA) generativa, hoje disponível a quem deseja dinamizar o fazer científico com ferramentas que sintetizam, em segundos, a produção intelectual conhecida até aquele instante, conhecimento que o ser humano construiu em escalas de tempo muito diferentes da praticada na aprendizagem automática de machine learning.

Embora os benefícios e as vantagens do uso das ferramentas de IA no dia a dia sejam incontáveis, ampliar os debates sobre questões éticas e a integridade na pesquisa científica tornou-se essencial para a compreensão dos impactos que as ferramentas de inteligência artificial estão causando no mundo acadêmico, tanto para o graduando que faz iniciação científica como para o PhD que se lança em um pós-doutorado. Esta foi uma das principais conclusões da terceira edição do evento de ética na pesquisa científica promovido em junho pela Pró-Reitoria de Pesquisa (ProPe) da Unesp, no prédio da Reitoria em São Paulo, sob o tema “Desafios Éticos da Ciência Aberta e da Colaboração Científica”.

“Ficou claro (no evento) que a inteligência artificial generativa está tornando-se um desafio enorme e ao mesmo tempo, até certo ponto, uma ferramenta útil. Cabe a nós pôr os limites éticos sobre o seu uso”, afirma a professora Maria Del Pilar Taboada Sotomayor, assessora da ProPe e organizadora do evento unespiano. “Existem muitas práticas que, por vezes mais por inocência do que por má-fé, ocorrem por desconhecimento, principalmente no caso daqueles que estão aprendendo”, diz a docente.

A ética na pesquisa e nas publicações científicas em tempos de inteligência artificial, já tratada na conferência mundial de integridade na pesquisa realizada em 2024 na Grécia, será discutida com profundidade também na próxima conferência, agendada para maio do ano que vem no Canadá. Na Unesp, o pró-reitor de pesquisa Edson Cocchieri Botelho anunciou, no evento de junho, novos investimentos na área de ética em pesquisa, dando mais força à comissão que trabalha com a temática na Universidade. “Estamos querendo ampliar esta comissão ou revê-la para termos ações mais robustas para orientar de forma mais eficiente a nossa comunidade científica, desde os alunos de graduação até os pós-doutorandos, envolvendo claro os novos professores da nossa universidade”, afirmou o pró-reitor.

Inicialmente pensado para apoiar o começo do trabalho dos docentes recentemente contratados pela Unesp, que desde 2022 vem recompondo o quadro fixo de professores, o ciclo de eventos para discutir ética na pesquisa científica vem mostrando também aos docentes mais experientes a importância da dimensão educativa, ou formativa, dessas discussões, em especial pelo contato com as novas tecnologias.

Fonte: UNESP

#drclaudiocesar.net #claudiocezarfreitas