Dá para identificar texto gerado por inteligência artificial?

O professor de Ciência da Computação da Universidade Federal de Minas Gerais (UFMG) Adriano Machado, 47 anos, comemorou, no último 12 de junho, o 29º dia dos namorados com sua esposa, Maira Pereira.

Decidiu, para surpreendê-la, dar uma joia e uma carta de amor. Na hora de começar a escrever vieram muitas lembranças da trajetória do casal, mas lhe faltaram palavras para elaborar um texto mais romântico, como ele queria.

Ele decidiu, então, entregar parte da tarefa para uma inteligência artificial, como o ChatGPT."Coloquei todo o meu pensamento, com começo, meio e fim. Deu uma página. Mas eu não estava inspirado e queria alguma coisa mais poética, como se estivesse narrando essa história de 28 anos de namoro. E queria terminar com o texto de um autor que eu gosto muito."

Veja também 

Com apoio do Governo do Amazonas, pesquisa identifica duzentas espécies de microalgas em Parintins

Inscrições seguem abertas para o Digital Summit Experience, que acontece em julho em Manaus

Ele foi ajustando a resposta gerada, pedindo novas versões para alguns trechos, até chegar a um resultado que o agradou. E então mandou imprimir. Maira adorou o presente e disse que a carta estava "linda". Mas achou estranho.O marido confessou: "Eu escrevi o conteúdo, mas pedi ajuda para uma IA". Ela respondeu na hora que já tinha percebido algo diferente.

"Me conhecendo, ela sabia. Ou eu tinha estudado e me tornado mais romântico e poético do dia pra noite, ou tinha usado alguma ferramenta." Adriano usa essa história pessoal para discutir, na vida profissional, os desafios que ele e outros professores enfrentam para distinguir, de maneira clara, qual conteúdo foi gerado por humanos e qual foi gerado por inteligência artificial — e a necessidade de se fazer uso ético dessas ferramentas, com transparência.

O uso genérico desse tipo de IA pode deixar impressões claras de que o conteúdo foi gerado por uma máquina, como falta de criatividade, frases óbvias, ausência de erros gramaticais e estruturas parecidas, diz Machado. Mas a evolução dos modelos, inclusive em língua portuguesa, e a facilidade de refinar os resultados iniciais, como no exemplo da carta, tornam praticamente impossível saber o que foi gerado por humanos ou robôs.

Fotos: Reprodução/Google

Existem diversos tipos de programas no mercado que dizem conseguir identificar a escrita gerada por IA. Alguns prometem acurácia de 99%. Na prática, não é tão simples. "É possível detectar indícios do uso, mas com uma certeza relativa, não absoluta", diz o professor. Para Machado, o maior desafio não é saber se o conteúdo foi ou não gerado por IA, mas se seus alunos estão ou não aprendendo.

"Se eu tenho conhecimento do que eu preciso e souber usar a IA a meu favor, isso pode poupar muito tempo. Mas a maior preocupação hoje é com os alunos, porque tenho de ensiná-los a avançar na linha de conhecimento."'Engenharia de prompt'. O ato de "refinar" as respostas geradas pela IA, como fez Adriano ao escrever sua carta, praticamente inviabiliza a detecção do que foi escrito por um chatbot ou por um humano.

A BBC News Brasil testou uma popular ferramenta do mercado para analisar três textos diferentes, todos escritos por uma IA. O primeiro foi gerado a partir de uma solicitação genérica: escrever alguns parágrafos (cerca de 100 palavras) sobre o impacto da IA na educação. O rascunho foi detectado facilmente pelo software, que apontou problemas como "precisão mecânica" e "tom impessoal". Pedimos então à IA para refazer o texto, dessa vez escrevendo "como um humano, de forma menos robótica". Dessa vez o detector apontou apenas 30% de conteúdo gerado por IA. 

Fonte: com informações BBC News