Mais de 500 instituições afetadas por escândalo com estudantes menores de idade; envolvimento de deepfakes e inteligência artificial.
No passado sábado (31/8), surgiu uma notificação do Telegram no smartphone de Heejin, oriunda de um emissor desconhecido. ‘Suas fotos e dados pessoais vazaram, cuidado com os deepfakes’, alertava a mensagem.
Em um mundo conectado onde a manipulação de imagens se torna cada vez mais comum, a disseminação de deepfakes pode gerar consequências graves, como a propagação de pornografia falsa explícita. Nesse contexto de falsificação digital, é crucial manter a vigilância e a autenticidade para preservar a realidade e a integridade das informações. estudantes
‘Manipulação Profunda: O Impacto das Deepfakes na Sociedade Contemporânea’
Quando a universitária sul-coreana entrou no chat virtual para visualizar a mensagem recebida, deparou-se com uma foto sua de alguns anos atrás, do período escolar, seguida por uma segunda imagem que escancarava a mesma fotografia, porém com teor sexual explícito — e, de modo alarmante, falsa. Apesar do choque, Heejin, pseudônimo da estudante, optou por não reagir, porém as imagens não paravam de chegar. Em todas elas, notava-se claramente seu rosto sobreposto a um corpo em atividade sexual, utilizando a avançada tecnologia de deepfake.
A pornografia deepfake, que majoritariamente mescla o rosto de um indivíduo real com um corpo artificialmente sexualizado, vem se proliferando cada vez mais por meio de recursos de inteligência artificial. O uso dessas tecnologias para distorcer a realidade tem preocupado muitos, inclusive Heejin, que compartilhou seu sentimento de solidão e espanto com a BBC. Entretanto, apesar de toda a angústia, a jovem sul-coreana não estava isolada em sua situação.
Poucos dias antes, a jornalista coreana Ko Narin havia divulgado uma revelação de grandes proporções em sua carreira. Tornou-se público que a polícia estava investigando redes de pornografia deepfake em diversas renomadas universidades do país, e Narin estava convicta de que havia mais por vir. Após minuciosas buscas nas redes sociais, a jornalista identificou dezenas de grupos em aplicativos de mensagens instantâneas, como o Telegram, nos quais usuários compartilhavam fotografias de conhecidas para que fossem alteradas em deepfakes por meio de softwares de inteligência artificial.
‘Cada minuto que passava, mais fotos eram transformadas em deepfakes’, relatou Ko, que desvendou que esses grupos não se limitavam às universitárias, envolvendo salas exclusivas para alunos do ensino médio e até mesmo do fundamental. Caso uma aluna fosse alvo frequente, poderia até alcançar um espaço dedicado em sua honra, com títulos como ‘sala de humilhação’ ou ‘sala de amigas das amigas’, com critérios de acesso rigorosos.
A publicação da matéria por Ko, no jornal Hankyoreh, causou um tremor na Coreia do Sul. Na sequência, a polícia anunciou estar considerando investigar o Telegram, seguindo os passos das autoridades francesas que recentemente acusaram o fundador do aplicativo por crimes ligados à plataforma. O governo comprometeu-se a aplicar punições mais severas aos envolvidos, enquanto o presidente instou os jovens a serem mais conscientes em suas ações online.
Enfrentando críticas, o Telegram assegurou que ‘combate ativamente conteúdo prejudicial em sua plataforma, inclusive pornografia ilegal’. A BBC teve acesso a descrições detalhadas de diversas salas de bate-papo envolvidas, com requerimentos específicos, como o pedido de publicação de quatro fotos de uma determinada pessoa, acompanhadas de seu nome.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo