Saiu no site CONJUR
No dia 20 de maio, o presidente Luiz Inácio Lula da Silva assinou um pacote de medidas voltadas à proteção das mulheres, com decretos específicos sobre o ambiente digital e a atualização do Marco Civil da Internet, além de projetos de lei voltados ao endurecimento da resposta estatal à violência de gênero [1]. Entre os pontos de destaque estão a obrigação de retirada de conteúdos íntimos não consentidos em até duas horas, a vedação expressa ao uso de inteligência artificial para a produção de imagens íntimas falsas ou sexualizadas de mulheres e o reforço dos deveres de diligência das plataformas digitais. Trata-se de avanço relevante. Contudo, é importante destacar que ainda estamos enfrentando o sintoma, e não a engrenagem que produz o dano.
A violência sexual digital mediada por IA não constitui falha pontual da técnica. Trata-se de fenômeno institucional, que emerge quando capacidades de síntese hiper-realista se conectam a plataformas orientadas por escala, viralidade e lucro [2]. Deepfakes sexuais e falsos nudes não apenas falsificam imagens: produzem humilhação, coerção, chantagem, silenciamento e retração da presença pública, atingindo desproporcionalmente mulheres e meninas. Quando o risco de sexualização sintética pode recair sobre qualquer fotografia comum, o custo de existir online se altera substancialmente, e determinados sujeitos passam a suportar um ônus permanente de exposição.
Nesse cenário, a inversão do eixo clássico é central. Anteriormente, a violência sexual digital dependia de material íntimo prévio, obtido por coerção, vazamento ou invasão. Atualmente, a matéria-prima pode ser banal: uma foto de rosto em rede social ou um vídeo de circulação comum. A partir desse material, modelos generativos produzem um corpo que jamais existiu, com efeito social, contudo, inteiramente real. A vítima sofre não em razão de algo que fez, mas por ser convertida em personagem sexual por uma engrenagem de síntese e disseminação.
Por essa razão, o pacote do governo demanda dois olhares simultâneos: um de reconhecimento e outro de cautela crítica.
O lado do reconhecimento é evidente. A obrigação de remoção em até duas horas responde ao que a literatura especializada vem denunciando há tempos: a lógica da retirada posterior se mostra insuficiente quando a criação é tão barata que o conteúdo reaparece com variações mínimas. Reduzir o intervalo entre a denúncia e a remoção constitui medida proporcional à velocidade do dano. A obrigação de identificação digital (hashing) para impedir a recirculação do conteúdo já removido também representa avanço técnico significativo, alinhado a protocolos internacionais utilizados no combate à exploração sexual de crianças e adolescentes. Soma-se a isso o reconhecimento expresso da nudez sintética como modalidade autônoma de violência, e a atribuição à ANPD do papel de fiscalização sistêmica — não pontual — das plataformas.
No plano das medidas legislativas, os projetos de lei integrantes do pacote também merecem leitura atenta. O PL 1.099/2024, que institui o Cadastro Nacional de Agressores, fortalece a integração entre forças policiais dos diferentes estados, reduzindo riscos de reincidência e dificultando a impunidade transfronteiriça. O PL 2.083/2022 endurece a resposta diante de agressores que continuam a ameaçar vítimas mesmo após a prisão, e o PL 3.257/2019 amplia as hipóteses de afastamento imediato do agressor para situações de violência moral, patrimonial e sexual, reconhecendo formas de violência que não se reduzem à agressão física. O PL 5.609/2019, por sua vez, busca destravar a execução de medidas protetivas, especialmente em matéria de pensão alimentícia. São propostas que ampliam o repertório institucional de proteção e dialogam, sobretudo, com a face física e doméstica da violência de gênero. Não enfrentam, todavia, com a mesma densidade, a face automatizada e transnacional do dano digital, o que reforça a centralidade dos decretos e expõe os limites de uma resposta ainda em construção.
Há, porém, limites que merecem ser examinados
O primeiro reside no foco quase exclusivo na remoção. Combater a violência sexual sintética apenas pela retirada de conteúdo é insuficiente, porque a tecnologia é modular, replicável e automatizável. Cada conteúdo removido pode ser regenerado em minutos, com variações mínimas, por qualquer usuário com acesso a ferramentas generativas amplamente disponíveis. A pergunta jurídica contemporânea não se restringe à autoria imediata ou ao tempo de remoção. Indaga-se, sobretudo: quem tinha capacidade de prevenir, quem lucrou com a circulação, quem desenhou o ambiente e quem negligenciou riscos conhecidos?
O segundo limite refere-se à fragilidade dos mecanismos de prevenção by design. Embora o decreto vede o uso de IA para a produção de imagens íntimas falsas, persiste o desafio de impor obrigações concretas aos desenvolvedores dos sistemas, e não apenas às plataformas que hospedam o conteúdo final. Casos recentes envolvendo ferramentas amplamente difundidas, como o Grok, demonstram que determinadas escolhas tecnológicas, feitas já na concepção do sistema, produzem externalidades sistemáticas de dano [3].Em apenas nove dias, segundo reportagem do The New York Times, o chatbot gerou 4,4 milhões de imagens, das quais ao menos 41% eram representações sexualizadas de mulheres. O dado denuncia falha estrutural que jamais deveria ter sido viabilizada na arquitetura do sistema.
O terceiro limite diz respeito à categoria do consentimento. Insistir exclusivamente na lógica do “não consentido” pode produzir duas consequências problemáticas: deslocar o foco para a conduta da vítima — o que ela postou, como se expôs, se de algum modo facilitou a manipulação — e obscurecer a responsabilidade estrutural dos sistemas. Em deepfakes, a violência ocorre sem material íntimo original, sem participação da vítima e, frequentemente, antes mesmo que ela tome conhecimento do fato. O desafio não consiste em abandonar o consentimento, mas em reposicioná-lo dentro de um marco que reconheça a apropriação de identidade e a sexualização forçada como violações autônomas da dignidade, da imagem e da autodeterminação sexual.
Ponto que pacote tangencia, mas não resolve
Mesmo quando não há vítima identificável, em razão de a imagem ter sido inteiramente sintetizada, a circulação massiva de representações sexualizadas de corpos femininos reforça padrões culturais de objetificação, normaliza a violência simbólica e produz efeitos de autocensura e retração da presença pública das mulheres. Está-se diante de uma tecnologia que opera como disciplina social. A tutela jurídica, portanto, não pode depender exclusivamente da manifestação de vontade individual da vítima.
O Direito brasileiro dispõe de fundamentos robustos — Constituição, Código Civil, Marco Civil, LGPD, ECA Digital e recentes alterações penais. Enfrenta, contudo, uma lacuna operacional: transformar princípios em deveres preventivos e contínuos, compatíveis com a automação e a transnacionalidade do dano. O pacote anunciado avança nessa direção, mas não encerra a questão.
Para que isso ocorra, é necessário progredir em quatro frentes que vão além da remoção: deveres de mitigação na própria arquitetura dos sistemas generativos; transparência sobre métricas de disseminação e impulsionamento; preservação obrigatória de evidências para investigação e responsabilização; e coordenação interinstitucional efetiva entre ANPD, MPF, Ministério das Mulheres, autoridades policiais e judiciais. Sem essas frentes articuladas, prosseguiremos respondendo ao conteúdo já produzido, enquanto a engrenagem que o gera permanece em pleno funcionamento.
O pacote de 20 de maio reconhece, com acerto, que a violência sexual digital constitui problema de Estado, e não apenas matéria de polícia. É um passo importante. Enfrentar deepfakes sexuais, porém, não significa apenas atualizar a lei. Significa recalibrar o Direito para um mundo em que a violência pode ser sintetizada, automatizada e distribuída como produto — e em que a proteção da dignidade, da intimidade e da autodeterminação sexual depende tanto de normas quanto de arquiteturas de responsabilidade. O pacote inaugura essa direção; cabe agora aprofundá-la, com instrumentos normativos e institucionais à altura da complexidade do fenômeno.
