Escândalo afeta mais de 500 instituições de ensino e muitas vítimas menores, com fotos pessoais em grupos de bate-papo do Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente anônimo, alertando que suas informações pessoais e fotos haviam sido expostas. Essa situação levanta preocupações sobre a crescente utilização de pornografia e deepfake, que podem ser usadas para manipular imagens e criar conteúdos prejudiciais.
Além disso, a disseminação de deepfakes tem se tornado uma questão alarmante, especialmente quando se trata de conteúdo pornográfico falso. As imagens manipuladas podem causar danos irreparáveis à reputação de indivíduos, tornando essencial a conscientização sobre os riscos associados a essas tecnologias. A proteção da privacidade é fundamental.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul acessou o bate-papo para ler a mensagem que havia recebido, ficou em choque ao se deparar com uma imagem dela mesma, capturada alguns anos atrás, quando ainda estava na escola. Para piorar, uma segunda imagem chegou logo em seguida, utilizando a mesma foto, mas agora de forma sexualmente explícita — e, evidentemente, manipulada. Heejin, que não é seu nome verdadeiro, ficou apavorada e não respondeu, mas as imagens continuaram a chegar. Em todas as fotos, seu rosto havia sido anexado a um corpo em uma cena sexual, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso em situações sexualmente explícitas — está se tornando cada vez mais comum, gerada por ferramentas de inteligência artificial.
O Que É Deepfake e Seus Efeitos
O trauma devastador enfrentado por aqueles que têm suas imagens utilizadas em ‘deepfakes’ pornôs é inegável. ‘Fiquei petrificada, me senti tão sozinha’, revelou Heejin à BBC. No entanto, ela não estava sozinha nessa situação angustiante. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado um furo de reportagem que se tornaria um marco em sua carreira. Recentemente, surgiram informações de que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que a situação era ainda mais grave do que se imaginava.
Redes Sociais e Grupos de Bate-Papo
Ela começou a investigar nas redes sociais e descobriu uma quantidade alarmante de grupos de bate-papo no aplicativo de mensagens do Telegram. Nesses grupos, os usuários compartilhavam fotos de mulheres que conheciam e utilizavam um sofisticado software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e pedindo que fossem convertidas em deepfakes’, contou Ko à BBC. O que ela descobriu foi ainda mais perturbador: esses grupos não se restringiam apenas a estudantes universitárias. Havia salas de bate-papo dedicadas a instituições de ensino médio e até mesmo do ensino fundamental.
Salas de Humilhação e o Crescente Conteúdo Pornográfico Falso
Se um volume significativo de conteúdo fosse criado utilizando as imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Esses grupos eram frequentemente rotulados como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, e geralmente impunham termos de entrada rigorosos. A reportagem de Ko, publicada no jornal Hankyoreh, chocou a sociedade sul-coreana. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades francesas, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo prometeu impor punições mais severas para os envolvidos, enquanto o presidente fez um apelo para que os jovens recebessem uma educação mais adequada sobre o assunto.
Compromisso do Telegram e a Luta Contra Conteúdos Prejudiciais
O Telegram, por sua vez, declarou que ‘combate ativamente o conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC. A BBC teve acesso a descrições de várias dessas salas de bate-papo, onde uma delas exigia que os membros postassem mais de quatro fotos de alguém, juntamente com o nome. A crescente preocupação com a pornografia deepfake e as imagens manipuladas revela um problema sério que afeta a privacidade e a dignidade das pessoas, especialmente das mulheres, em um mundo cada vez mais dominado pela tecnologia.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo