Deepnudes: Uso de imagens pornográficas criadas por IA vira epidemia nas escolas dos EUA

Em 2022, escolas do mundo inteiro foram pegas de surpresa com a súbita popularidade de chatbots alimentados por inteligência artificial (IA), como o ChatGPT, da empresa OpenAI. Se em um primeiro momento as maiores preocupações dos educadores giravam em torno de possíveis colas e plágios feitos pelos alunos, agora um fenômeno ainda mais alarmante  e que já foi visto no Brasil tem abalado comunidades escolares nos Estados Unidos: a geração de nudes falsos por IA.

Meninos em vários estados americanos tem usado aplicativos de IA amplamente disponíveis para criar nudes de suas colegas de classe a partir de fotos reais das jovens. Em alguns casos, eles compartilharam as imagens falsificadas no refeitório da escola, no ônibus escolar ou em grupos de conversas em plataformas como Snapchat e Instagram.

Tais imagens digitalmente alteradas —conhecidas como "deepfakes" ou "deepnudes" podem ter consequências devastadoras. Especialistas em exploração sexual infantil dizem que o uso de imagens geradas por IA não consensuais para assediar, humilhar e intimidar meninas pode ter grandes impactos na saúde mental, reputações e segurança física, além de representar riscos para suas perspectivas de faculdade e carreira no futuro.

Veja também 

Pesquisa analisa método para combater praga em cupuaçuzeiro

Eclipse solar total de abril será visto no Brasil nesta segunda-feira, 08/04. Entenda fenômeno!

Foto: Reprodução/Google

No mês passado, o FBI alertou que é ilegal distribuir material de abuso sexual infantil gerado por computador, incluindo imagens geradas por IA de menores identificáveis ??envolvidas em conduta sexualmente explícita.No entanto, o uso de aplicativos de IA por estudantes é tão novo que alguns distritos dos Estados Unidos parecem menos preparados para lidar com isso do que outros — o que torna o ambiente ainda mais inseguro para as alunas.

Curtiu? Siga o Portal Mulher Amazônica no Facebook, Twitter e no Instagram.

— Esse fenômeno surgiu muito repentinamente e pode estar pegando muitos distritos escolares despreparados e inseguros sobre o que fazer — disse Riana Pfefferkorn, pesquisadora do Observatório de Internet da Universidade Stanford, que escreve sobre questões legais relacionadas a imagens de abuso sexual infantil geradas por computador. 

Fonte: com informações do Portal O Globo