NOTÍCIA | Crimes Sexuais Digitais Crescem na Coreia do Sul por Meio de Deepfakes no Telegram

Recentes crimes sexuais envolvendo deepfakes no Telegram alarmaram a sociedade sul-coreana. As autoridades locais intensificaram a repressão, e a plataforma, após pressão governamental, finalmente atendeu às exigências para remover os conteúdos ilegais em 03 de setembro de 2024, além de emitir no dia posterior um pedido de desculpas por sua resposta tardia aos crimes digitais.

Todavia, o que são deepfakes? Deepfakes são vídeos manipulados por inteligência artificial que podem substituir rostos e sons em gravações, para criação de conteúdo falso, muitas vezes utilizado em pornografia sem o consentimento das vítimas. Na Coreia do Sul, esta tecnologia tem sido cada vez mais usada em crimes sexuais digitais. O Telegram por sua vez, se destacou como uma plataforma de escolha para o compartilhamento dessas mídias ilícitas, uma vez que seus canais são criptografados, o que dificulta o rastreamento pelos órgãos de segurança.

A propagação de deepfakes no Telegram também gerou um aumento preocupante de vitimização secundária, ou seja, além das vítimas sofrerem com o uso não autorizado de suas imagens, enfrentam comentários depreciativos e julgamentos sociais. Isso aprofunda o trauma e complica os esforços de recuperação emocional dessas vítimas.

Segundo o site “Dong-A Ilbo”, de acordo com Woo Jong-soo, chefe da Sede Nacional de Investigação da Agência Nacional de Polícia, a proliferação de deepfakes revelou que os crimes sexuais na Coreia do Sul são mais graves do que se imaginava e por isso, as forças de segurança estão enfrentando um grande desafio para conter a onda de crimes digitais, que continua a evoluir conforme as novas tecnologias emergem. Em julho de 2024, um relatório da Agência Nacional de Polícia indicou que 93% dos suspeitos de pornografia deepfake capturados tinham entre 20 e 30 anos, um dado alarmante que reflete a participação ativa de jovens adultos na criação e disseminação de conteúdos ilegais.

Outro obstáculo encontrado pelas autoridades é a incapacidade de atender à crescente demanda por remoção de materiais de crimes sexuais digitais. Dados do Centro de Apoio a Vítimas de Crimes Sexuais Digitais da Coreia do Sul (Digital Sex Crime Victim Support Center), orgão governamental estabelecido pelo governo sul-coreano para fornecer assistência especializada às vítimas de crimes sexuais cometidos por meio digital, como a divulgação não consensual de imagens íntimas e outras formas de abuso online, indicam que 29% dos pedidos de remoção de conteúdo relacionado à pornografia deepfake não foram cumpridos devido à escassez de pessoal especializado. A falta de recursos humanos tem em suma, dificultado os esforços de controle, mitigação e remoção rápida desses conteúdos das plataformas, o que agrava ainda mais o impacto sobre as vítimas.

O aumento dos crimes sexuais digitais na Coreia do Sul, impulsionados pela tecnologia deepfake , revelou não apenas falhas sistêmicas no controle dessas infrações, mas também a vulnerabilidade das vítimas. Com a participação crescente de jovens em atos criminosos e a incapacidade do sistema de justiça e das plataformas relacionadas em remover rapidamente os conteúdos, a sociedade sul-coreana está diante de um grande desafio que exige enfrentamento para mitigar esse tipo de crime. A polícia sul-coreana e o governo seguem intensificando as investigações, mas a necessidade de reforçar a estrutura policial e regulamentar as plataformas digitais de forma mais eficaz é de extrema urgência.