Saiu no site MIGALHAS
O avanço da IA e dos algoritmos amplia a misoginia online, impulsionando a violência algorítmica de gênero e seus impactos jurídicos.
. Delimitando o conceito: O que é violência algorítmica de gênero
Relatório do Unicef, em parceria com a ECPAT International e a Interpol, revelou que uma em cada cinco crianças e adolescentes brasileiras entre 12 e 17 anos foi vítima de alguma forma de exploração ou abuso sexual facilitado por tecnologias digitais em apenas um ano.2 Além da violação da intimidade, essas práticas geram estigmatização, isolamento social, rompimento de vínculos pessoais e exclusão de espaços virtuais e profissionais.
A expressão violência algorítmica de gênero designa, neste estudo, uma modalidade autônoma de violência baseada em gênero, caracterizada pela mediação ativa da arquitetura computacional das plataformas digitais em produção, distribuição ou supressão de conteúdos lesivos a mulheres e meninas. Não se confunde, portanto, com a violência digital genericamente considerada – aquela em que a internet figura como simples meio de transmissão de uma agressão concebida fora dela – nem com o crime cibernético comum. O elemento distintivo está na participação constitutiva do sistema algorítmico no resultado lesivo: é o própria arquitetura técnica da plataforma, com seus critérios de recomendação, suas métricas de engajamento, seus filtros de moderação e seus modelos generativos, que produz, viabiliza ou agrava o dano.1
A autonomia conceitual da dinâmica algorítmica de gênero decorre do fato de que o dano não resulta apenas da conduta de um agressor individual, mas também da atuação dos sistemas que estruturam a circulação de conteúdos nas plataformas digitais. Nesse contexto, a arquitetura algorítmica integra a própria dinâmica lesiva, o que demanda instrumentos jurídicos específicos para sua adequada compreensão e enfrentamento.
A delimitação operacional do conceito pode ser estruturada a partir de três modalidades típicas, identificáveis na literatura especializada e nos dados empíricos disponíveis. A primeira é a violência algorítmica por produção, que ocorre quando sistemas de inteligência artificial generativa criam material lesivo, como deepfakes pornográficos não consensuais, avatares hipersexualizados ou imagens sintéticas que objetificam corpos femininos.2,3 A segunda é a violência algorítmica por amplificação, verificada quando sistemas de recomendação e monetização distribuem, viralizam e remuneram conteúdos misóginos, de ódio ou de exposição não consensual, tornando-os economicamente rentáveis tanto para produtores quanto para a própria plataforma1,6. A terceira é a violência algorítmica por supressão, ou tecno-silenciamento, que se configura quando sistemas de moderação automatizada reduzem artificialmente o alcance de vozes femininas, ativistas e denunciantes, frequentemente sob o rótulo de “conteúdo sensível”, ao mesmo tempo que mantêm em circulação ataques misóginos.5 Os três eixos compartilham uma estrutura comum, marcada por opacidade técnica dos sistemas, automatização da decisão e orientação econômica para a maximização do engajamento, e explicam por que a violência algorítmica de gênero desafia os marcos jurídicos tradicionais de discriminação direta e indireta: o dano se produz por correlações opacas entre pontos de dados, sob aparência de objetividade matemática, e raramente pode ser imputado a um único ato individualizável.1,4
Conforme sustenta Curzi de Mendonça, os sistemas operados pelas grandes plataformas exercem funções que ultrapassam a mera intermediação tecnológica, influenciando comportamentos, organizando fluxos de informação e moldando relações de poder na esfera digital.1 Algoritmos não apenas refletem a realidade social: contribuem ativamente para sua construção. A literatura aponta três fatores recorrentes da reprodução algorítmica da desigualdade: bases de dados construídas a partir de assimetrias históricas, modelos computacionais que reforçam padrões discriminatórios e baixa diversidade das equipes de desenvolvimento.3 As evidências são significativas: sistemas de reconhecimento facial apresentam índices de erro mais elevados para mulheres negras, e ferramentas de IA generativa reproduzem estereótipos e padrões de sexualização direcionados sobretudo a mulheres negras, latinas e asiáticas3. No campo do consumo, Verbicaro, Vieira e Rego identificam verdadeira vulnerabilidade algorítmica da mulher consumidora, decorrente da opacidade dos sistemas de tratamento de dados e dos mecanismos de direcionamento comportamental que reproduzem padrões sexistas nas plataformas.4
2. Como a violência algorítmica de gênero se manifesta
2.1. Deepfakes, violência sexual digital e exploração da imagem feminina
Martins, Fulgêncio Neto e Garcia de Lima utilizam a expressão práticas digitais subterrâneas para descrever comportamentos ilícitos viabilizados pelas tecnologias digitais que atingem mulheres e meninas.2 Destacam-se a violência sexual digital, que abrange chantagens, exposições íntimas não consentidas, assédio, abusos e outras formas de constrangimento praticadas em meio virtual, e a erotização algorítmica, fenômeno em que a exploração da imagem feminina é instrumentalizada para gerar atenção, engajamento e lucro.2 O avanço da IA generativa tornou o cenário ainda mais grave: imagens reais podem ser manipuladas ou inteiramente recriadas para produzir conteúdos falsos com aparência extremamente realista (as chamadas deepfakes pornográficas), gerando material sexual sem qualquer consentimento das vítimas e ampliando danos psicológicos, sociais e reputacionais.2
2.2. Silenciamento digital, bolhas informacionais e misoginia amplificada
A violência algorítmica não se manifesta apenas pela hiperexposição da imagem feminina. Em muitos casos, opera pelo movimento oposto: a redução artificial da visibilidade de mulheres e de suas manifestações públicas, fenômeno conhecido como tecno-silenciamento.5 Segundo Bertoncini, Botelho e Tavante, o controle das plataformas raramente ocorre por censura explícita; opera por classificação, priorização, ocultação ou redução da circulação de determinados conteúdos, segundo critérios pouco transparentes.5 Daí fenômenos como o shadow banning, em que perfis têm seu alcance reduzido sem aviso prévio, e a sinalização automática de termos como “feminismo”, “patriarcado” ou “racismo” como conteúdo potencialmente sensível, enquanto discursos misóginos permanecem amplamente acessíveis.5 O processo se conecta às bolhas informacionais (filter bubbles): sistemas de recomendação privilegiam conteúdos capazes de gerar reações emocionais intensas, favorecendo a circulação de discursos extremados e a formação de comunidades antifeministas altamente engajadas.6 As consequências são concretas: mulheres em espaços públicos, especialmente na política, recebem ataques significativamente mais frequentes e agressivos do que homens, muitas vezes com conteúdo sexualizado.5 Como observam Mantini, Silva e Meireles ao retomarem a crítica de Cathy O’Neil, os incentivos econômicos dos algoritmos favorecem conteúdos polarizadores e preconceituosos, ainda que à custa da disseminação de violência de gênero.7
3. A resposta jurídica brasileira em construção
O ordenamento brasileiro começa a construir respostas, ainda que de modo fragmentado. No plano legislativo, destaca-se o PL 5.695/23, ao qual se apensou o PL 477/24, que busca criminalizar a utilização de inteligência artificial para adulterar, criar ou manipular imagens, vídeos e áudios com a finalidade de praticar violência contra a mulher.8 O substitutivo aprovado na Comissão de Defesa dos Direitos da Mulher ampliou o alcance da proposta e prevê pena de reclusão de dois a quatro anos, além de multa9, tendo recebido parecer favorável na CCJC10. A tutela, contudo, não depende apenas de novas leis: o CDC aplica-se ao universo virtual em razão do dever de segurança e do regime de responsabilidade civil dos fornecedores (art. 14)2; o art. 21 do marco civil da Internet permite a remoção administrativa de conteúdos íntimos divulgados sem consentimento, independentemente de ordem judicial prévia2; e a LGPD oferece ferramentas contra tratamentos discriminatórios de dados, diante da vulnerabilidade algorítmica das mulheres-consumidoras.11
3.1. A inflexão do STF nos Temas 533 e 987: O que mudou na prática
A construção de respostas jurídicas à violência algorítmica de gênero ganhou novo impulso com o julgamento conjunto dos Temas 533 e 987 pelo STF, em junho de 2025. Até então, prevalecia a interpretação de que as plataformas digitais somente poderiam ser responsabilizadas civilmente por conteúdos de terceiros após o descumprimento de ordem judicial específica de remoção, nos termos do art. 19 do marco civil da internet.
Ao reconhecer a inconstitucionalidade parcial desse regime, o STF passou a admitir, em determinadas hipóteses, a responsabilização das plataformas a partir de notificação extrajudicial e reforçou seus deveres de cuidado em relação a conteúdos ilícitos de maior gravidade. A decisão também atribuiu relevância jurídica à atuação dos próprios sistemas de amplificação e recomendação, especialmente quando contribuem para a disseminação de conteúdos lesivos.
Para os casos de violência algorítmica de gênero, a mudança representa importante avanço, pois reduz obstáculos para a remoção de conteúdos nocivos e amplia os deveres de prevenção das plataformas digitais. Embora a decisão não substitua a necessidade de legislação específica sobre governança algorítmica e inteligência artificial, ela sinaliza a superação da lógica de neutralidade que historicamente marcou a responsabilidade das big techs no ordenamento brasileiro.
Considerações finais
A violência algorítmica contra mulheres não é problema periférico nem consequência indesejada da inovação tecnológica. Trata-se de modalidade autônoma de violência de gênero, definida pela mediação constitutiva da arquitetura algorítmica das plataformas digitais e manifestada em três tipologias articuladas: produção (por IA generativa), amplificação (por sistemas de recomendação e monetização) e supressão (por moderação automatizada enviesada). O enfrentamento eficaz exige atuação coordenada entre direito penal (PL 5.695/23), direito do consumidor (CDC, especialmente o regime do art. 14), proteção de dados (LGPD), marco civil da Internet à luz da nova interpretação do STF (Temas 533 e 987) e direito internacional dos direitos humanos. Mais do que remover conteúdos após o dano consumado, o desafio é exigir das plataformas transparência algorítmica, devida diligência preventiva e mecanismos eficazes de denúncia, responsabilizando-as quando falharem. Sem isso, a promessa de igualdade e dignidade assegurada às mulheres fora da internet continuará encontrando, dentro dela, sua face mais sofisticada de violação. Enfim, é difícil esperar bondade de uma sociedade patriarcal, assentada em perversas relações opressoras e violentas contra as mulheres.
À luta, mulheres!
_____
1. MENDONÇA, Yasmin Curzi de. Algoritmos como instituições da violência de gênero online: plataformas digitais, obrigações empresariais de direitos humanos e responsabilidade internacional do Estado. Revista Estudos Institucionais, v. 12, n. 2, p. 459-474, maio/ago. 2026.
2. MARTINS, Fernando Rodrigues; FULGÊNCIO NETO, Epaminondas; LIMA, Rogério Medeiros Garcia de. Práticas subterrâneas e tecnologias que facilitam a violência contra mulheres (em ambiente eletrônico de consumo). 19 abr. 2026.
3. PAULO, Lucas Moreschi. Discriminação algorítmica, vulnerabilidade e direitos fundamentais. Estudo monográfico, 2024.
4. VERBICARO, Dennis; VIEIRA, Janaina; REGO, Laura Pinheiro Rufino. A discriminação algorítmica de gênero nas relações de consumo. Revista Direito Público, Brasília, v. 22, n. 115, e8433, ago./nov. 2025.
5. BERTONCINI, Carla; BOTELHO, Marcos César; TAVANTE, Renata Franciele. Vigilância líquida e algoritmos opressivos: a perpetuação da violência de gênero nas redes sociais. Juris Poiesis, 2026.
6. SPACCAPISTA et al. Algoritmos e manosfera: o feminismo de dados como crítica à neutralidade tecnológica. Trabalho científico, 2025.
7. MANTINI, Lucas Amancio; SILVA, Yanna Paula de Araújo da; MEIRELES, Magali Rezende Gouvêa. Reconhecimento automático de narrativas violentas contra a mulher utilizando classificadores neurais. Pista: Periódico Interdisciplinar, Belo Horizonte, v. 3, n. 2, p. 141-163, ago./nov. 2021.
8. BRASIL. Câmara dos Deputados. Projeto de Lei nº 5.695, de 2023. Tipifica penalmente a alteração de fotos, vídeos e som com o uso de sistema de Inteligência Artificial para praticar violência contra a mulher. Brasília: Câmara dos Deputados, 24 nov. 2023.
9. BRASIL. Câmara dos Deputados. Comissão de Defesa dos Direitos da Mulher. Substitutivo ao Projeto de Lei nº 5.695, de 2023. Relatora: Deputada Dayany Bittencourt. Brasília: Câmara dos Deputados, 7 maio 2024.
10. BRASIL. Câmara dos Deputados. Comissão de Constituição e Justiça e de Cidadania. Parecer ao Projeto de Lei nº 5.695, de 2023 (apensado o PL nº 477/2024). Relator: Deputado Pr. Marco Feliciano. Brasília: Câmara dos Deputados, 28 nov. 2024.
11. VERBICARO, Dennis; VIEIRA, Janaina; CALANDRINI, Jorge. O legítimo interesse na proteção de dados. 8 jun. 2022. Acesso em: 26 mai. 2026.
12. BRASIL. Supremo Tribunal Federal. RE 1.037.396 (Tema 987) e RE 1.057.258 (Tema 533). Relatores: Ministros Dias Toffoli e Luiz Fux. Plenário, j. 26 jun. 2025
