O grupo brasílico de ódio a mulheres que fabrica com IA imagens pornô falsas sob encomenda

Em comunidades no Facebook e no Telegram, usuários estão enviando fotos de mulheres do seu círculo para produzir manipulações digitais com conotação sexual. Usuário de grupos no Facebook e Telegram pedem pornô deepfake fundamentado em pessoas próximas
DANIEL ARCE-LOPEZ/BBC
Atenção: Esta reportagem contém detalhes que podem ser sensíveis para alguns leitores.
Era o pausa do seu trabalho uma vez que bartender em um restaurante de São Paulo. Momento de sota — e de checar o celular. Ana* estranhou duas mensagens que recebeu pelo Instagram.
Ambas tratavam do mesmo tema. Era um aviso que levou a um turbilhão do qual ela ainda não saiu.
Duas mulheres diziam nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma sarau de Natal — tinha sido alterada e transformada em uma imagem em que as duas apareciam nuas. A imagem estava sendo compartilhada na internet junto com o link para o perfil de Ana no Instagram.
“Minha mãe, a pessoa que mais senhoril na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu”, ela conta à BBC News Brasil.
Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.
Em maio, Ana havia compartilhado um alerta: participantes de uma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou parentes.
Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cena de sexo.
Especialistas dizem que o progressão rápido da perceptibilidade sintético vem tornando essas montagens, conhecidas uma vez que deepfakes, cada vez mais realistas. São os antigos “photoshops” com capacidades multiplicadas.
Post em comunidade ironiza terror provocado em mulheres por ferramentas de deepfake
REPRODUÇÃO
Ana decidiu fazer por conta própria uma investigação para desvendar quem eram as pessoas por trás desse grupo.
Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook em qualquer momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas de novo.
É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo: promover comunidades de pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.
Foi assim com a página do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 milénio membros.
Ana decidiu entrar no grupo e escoltar o que acontecia por lá.
‘Mulher é um ser maligno’
A reportagem da BBC News Brasil presenciou em tempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partir de fotos de mulheres que diziam ser suas conhecidas.
Depois de qualquer tempo, quem tinha feito o pedido recebia a imagem manipulada de volta.
Uma das mensagens mostrava, por exemplo, uma selfie geral — sem grande produção ou zelo com iluminação — de uma mulher vestida.
A seguir, apareceu uma versão digitalmente modificada em que ela aparecia nua.
Participante 1 – Quem é?
Participante 2 – Mãe de um companheiro meu kkkk
Nos diálogos travados no grupo, os participantes demonstravam ter uma postura de poderoso hostilidade em relação a mulheres.
Participante 3 – Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho
Participante 4 – Ou apanhando
Participante 5 – Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje em dia elas são verdadeiros demônios
Outro membro da comunidade fala de forma obsessiva sobre a mana, aborda a possibilidade de abusá-la e pede que façam um pornô deepfake dela.
Alguns também se gabam de reputar gore — vídeos e fotos de situações de extrema violência, quase sempre reais.
Mesmo em comunidades abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupo de estuprar mulheres é festejado.
Ana mostra uma página de memes, que se descreve uma vez que de “humor preto” e reúne 63 milénio usuários, onde se ironiza o receio de mulheres de postarem livremente suas fotos.
“Exclusivamente imagine: […] mulheres passam a ter terror de postar qualquer foto na internet, pois o robô da p…ria está sempre à espreita”, disse um dos participantes.
Outro comentou: “*mulheres passam a ter terror de postar qualquer foto na internet* Objetivo concluído ✔️
À BBC News Brasil, o Telegram e a Meta, dona do Facebook, disseram que monitoram sempre a circulação de teor prejudicial em seus aplicativos e atuam quando necessário.
Conversa em um dos grupos do Telegram de pornô deepfake em que predomina exposição de ódio contra mulheres
REPRODUÇÃO
Tanto nestes grupos de memes do Facebook, que são acessíveis sem qualquer restrição, quanto nas comunidades fechadas do Telegram são frequentes as menções a termos e temas da “machosfera”, uma vez que são chamados os grupos e fóruns online em que os participantes debatem sobre uma suposta perda do poder masculino na sociedade atual.
Há as subdivisões dentro da machosfera, mas o exposição de ódio — ou ao menos de ressentimento — contra as mulheres está presente em boa segmento delas. Os grupos incel e redpill estão entre os principais.
O nome incel vem da frase em inglês “involuntary celibates” (celibatários involuntários, em tradução livre do inglês).
São adolescentes ou jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online para encontrar uma comunidade.
Muitos alegam que perderam a “loteria genética” (consideram não ser o “protótipo” de varão popular) e afirmam que estão “condenados” ao desprezo pelo sexo feminino.
Diferentemente dos incels, os redpills falam de travar relacionamentos com mulheres, mas sustentam que é necessária uma atitude de dominação e de suspeição em relação a elas.
Prega-se um retorno aos tempos em que o domínio masculino era indiscutível na sociedade.
Redpill (pílula vermelha, em tradução livre) é uma referência aos filmes da franquia Matrix, em que o protagonista escolhe entre tomar a pílula azul, que permite seguir em um “mundo de ilusões”, e a vermelha, para encarar a “verdade”.
Ana fala com o ‘admin’
Ana conta que os administradores, ou “admins”, da comunidade no Telegram ofereciam, por R$ 15, entrada a um “grupo VIP com outros tipos de teor”.
Ela mostrou à reportagem capturas de tela de uma conversa que teve com um deles em que ela demonstrou interesse em acessar o grupo.
O gestor, portanto, forneceu duas chaves de pix embaralhadas (aleatórias). Ana, porém, demorou alguns minutos para efetuar a transação.
Ele voltou portanto a procurá-la e passou uma novidade chave pix: seu número de celular.
Ana diz que, a partir dessa informação, encontrou informações que levavam a dados associados a um varão do interno de Goiás.
Ela decidiu levar essas informações à polícia. Junto com Ana, outras vítimas de pornô deepfake denunciaram seus casos.
Elas se reuniram em um grupo de WhatsApp para discutir estratégias sobre uma vez que fazer os responsáveis pela comunidade pornô deepfake serem responsabilizados pela Justiça.
Entre as participantes, há a mãe de uma menor de idade que foi claro de deepfake.
Outra é Fernanda*, de 22 anos. Ela é cosplayer (veste fantasias de personagens famosos, principalmente dos animes japoneses) e teve uma foto de uma sarau de Halloween alterada.
Fernanda diz que já sofre com agressões online quando não responde a abordagens de interessados na cultura cosplayer.
Posteriormente a manipulação da sua foto, a preocupação aumentou.
“Você começa a permanecer com medos do tipo ‘será que eu devo trespassar com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto?”, diz.
“Porque eles acreditam que, por razão da roupa, eles têm recta de fazer isso. Tanto que um dos comentários no grupo deles do Telegram foi ‘para não ser vítima do nosso grupo, basta não tirar foto com decote’.”
Ela decidiu tornar privados seus perfis, que incluíam as fotos de cosplay, e diz que se tornou “reclusa” nas redes sociais desde portanto.
Usuário do grupo no Telegram discursa contra mulheres e o que labareda de ‘manginas’ (junção das palavras ‘man’, varão em inglês, e vagina), termo empregado na ‘machosfera’ para homens que ‘idolatram’ mulheres
REPRODUÇÃO
Poucas respostas da polícia
Ana, Fernanda e outras vítimas que moram em São Paulo levaram capturas de tela de conversas e imagens postadas nos grupos no Facebook e no Telegram à Delegacia de Delitos Cometidos por Meios Eletrônicos, subdivisão criada no final de 2020.
Elas dizem que, em seguida uma espera de quatro horas, foram informadas que a denúncia seria registrada, mas que a delegacia só investiga casos de fraudes financeira ou violação de redes de dados e que outros crimes cometidos por meios eletrônicos devem ser apurados pelas delegacias mais próximas de onde as vítimas moram.
Ana e Fernanda afirmam que, nas respectivas delegacias, foram informadas que os policiais ainda aguardavam o registro feito pela Delegacia de Delitos Cometidos por Meios Eletrônicos.
Até o momento de publicação desta reportagem, nenhuma das vítimas diz ter recebido qualquer sinalização de que suas denúncias estão sendo apuradas.
A Secretaria de Segurança Pública do Estado de São Paulo afirmou que “a instituição está à disposição da vítima, e de outras mulheres que sofreram leste tipo de transgressão, para formalizar o registro do boletim de ocorrência e investigar os fatos”.
A secretaria informou ainda que “[Fernanda] foi chamada para comparecer à unidade para ser ouvida e fornecer informações que possam facilitar na elucidação do transgressão” e que, no caso de Ana, a delegacia lugar “prossegue com as diligências para esclarecer os fatos”.
A secretaria não esclareceu por que a Delegacia de Delitos Cometidos por Meios Eletrônicos investiga unicamente fraudes financeiras ou violação de redes de dados, mas afirmou que “todas as delegacias do Estado possuem estrutura e estão aptas para registrar e apurar crimes praticados pela internet”.
O FBI, a polícia federalista americana, fez um alerta nos Estados Unidos em 2023 a saudação de esquemas de vendas de fotos manipuladas com perceptibilidade sintético
GETTY IMAGES
Lei não trata de ‘deepfake’
A lei brasileira ainda não prevê punições específicas para a produção de deepfakes.
Segundo Patricia Peck Pinho, advogada perito em recta do dedo, uma falsificação de conotação sexual por meios tecnológicos é analisada pela Justiça uma vez que “ataque à honra, intimidade e imagem da pessoa, que são bens protegidos pelo ordenamento jurídico”.
Casos assim, explica Peck, podem ser enquadrados uma vez que transgressão de injúria ou punidos por meio da legislação que trata de crimes sexuais.
Há dois projetos de lei no Congresso, um de autoria do senador Chico Rodrigues (PSB-RR) e outro da deputada federalista Jandira Feghali (PCdoB-RJ), que propõem aumento de penas quando há uso de deepfake.
“Uma vez que não temos uma lei específica e o ponto fica envolvido em várias leis esparsas, com certeza, é benéfica a existência desses projetos”, diz Peck.
Mas ela adverte que a legislação já não consegue saber a velocidade das mudanças tecnológicas. A advogada diz ser necessária “uma atuação preventiva e orientativa por segmento do Estado”.
“É preciso poder agir rápido, para asilar a vítima e realizar a investigação, que também demanda uso de recursos técnicos para se obter as provas necessárias para emprego da lei e punição réplica dos infratores.”
O projeto de Feghali já foi ratificado na Câmara dos Deputados e, agora, tramita no Senado.
A proposta de Rodrigues foi apensada, ou seja, passou a integrar o projeto de lei que regulamenta a perceptibilidade sintético no Brasil, de relatoria do senador Eduardo Gomes (PL-TO). Rodrigues tenta volver isso, para que seu projeto seja analisado isoladamente.
Em 18 de junho, a votação do relatório de regulamentação da perceptibilidade sintético no país foi adiada até que sejam realizadas mais cinco audiências públicas para debater o projeto.
LEIA TAMBÉM:
Por que Elon Musk vai mudar sede de empresas por lei de identidade de gênero
Meta diz que suspendeu recursos de perceptibilidade sintético generativa no Brasil
WhatsApp deixará de funcionar em celulares básicos com sistema KaiOS
Deepfake evolui rápido
A pesquisadora Agnes E. Venema, especializada no tema e afiliada à Universidade de Súcia, diz que ferramentas de produção de deepfakes têm ficado progressivamente melhores.
No dia a dia, avalia Venema, será cada vez mais difícil diferenciar um teor falso de outro que é real.
“Isso é um pouco que vem ocorrendo nos últimos dez anos. O deepfake feito em 2024 é um deepfake mais avançado em relação ao que foi feito em 2020”, afirma a pesquisadora.
Ainda que peritos consigam indicar uma manipulação, o dano provocado pela circulação destes conteúdos é grave, diz Venema, porque as pessoas ficam inclinadas a admitir o deepfake uma vez que verdadeiro se o teor “confirma” suas crenças.
“Mesmo deepfakes de péssima qualidade podem suscitar grandes prejuízos. Há uma mentalidade ‘se tem fumaça, tem incêndio’ nas pessoas.”
Para Venema, “plataformas tecnológicas precisam ser responsabilizadas”.
“O peso de remover material desse tipo não deve permanecer em cima dos ombros da vítima, mas sim das plataformas digitais.”
Usuário em comunidade de memes no Facebook ironiza terror das mulheres de que as fotos postadas nas redes sociais sejam transformadas em pornô deepfake
REPRODUÇÃO
Procurada pela BBC News Brasil, a Meta, responsável por Facebook, Instagram e WhatsApp, afirmou que revisa as publicações em suas plataformas por meio de ferramentas que usam perceptibilidade sintético e também com o espeque de equipes humanas para detectar, indagar e remover conteúdos que violem seus padrões.
“Estamos sempre aprimorando nossos esforços para manter nossas plataformas seguras e também incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos”, disse a empresa por meio de nota à reportagem.
O Telegram afirmou que, “desde sua geração, tem moderado ativamente teor prejudicial em sua plataforma, incluindo pornografia proibido”.
“Moderadores usam uma combinação de monitoramento proativo e dos relatos de usuários para remover milhões de itens de teor prejudicial todos os dias”, disse a empresa.
Enquanto isso, Ana afirma que não aceita mais solicitações de amizade no Facebook e no Instagram e que fechou o entrada às suas fotos pessoais mesmo para seus contatos nestas redes.
Ela pensa em contratar um jurista com o moeda que vem juntando com seu trabalho uma vez que bartender para apressar a procura por justiça.
“Estou totalmente disposta a isso. É uma foto com a minha mãe, uma pessoa muito importante para mim”, diz ela.
“Esse tipo de coisa está dentro de uma bolha ainda. Quando a bolha explodir, espero que essas pessoas dos grupos sejam responsabilizadas.”
*Os nomes das vítimas foram trocados para preservar sua identidade.
‘Stalking’: saiba quando a perseguição na internet se torna transgressão
‘Stalking’: saiba quando a perseguição na internet se torna transgressão
Meta passa a coletar dados das redes para IA. Saiba passo a passo para desativar
Meta passa a coletar dados das redes para IA. Saiba passo a passo para desativar
Os bastidores, as estratégias e a rotina de quem ganha a vida vendendo vídeos de sexo
Os bastidores, as estratégias e a rotina de quem ganha a vida vendendo vídeos de sexo

Fonte da Materia