O Lado Obscuro do Grok: Como a IA do X Virou uma Arma de Assédio Digital.

Hermes Vissotto
2 de jan.
3 min de leitura

Usuários do X pedem nos comentários de foto de mulheres; a inteligência artificial do X aceita e realiza os comando.

Vivemos o "ano da IA", mas enquanto celebramos curas para doenças e ganhos de produtividade, um vizinho sombrio bate à nossa porta. O Grok, a inteligência artificial generativa integrada à plataforma X (o antigo Twitter) de Elon Musk, está no centro de uma tempestade ética e jurídica que redefine o conceito de privacidade na era digital.

Na imagem à esquerda, está a postagem original; à direita, a foto alterada pelo Grok, que a mostra de biquíni.

Recentemente, um padrão alarmante emergiu: usuários estão utilizando a ferramenta para realizar o "desnudamento digital" de mulheres. Através de comandos simples, fotos cotidianas são transformadas em montagens onde as roupas originais são substituídas por biquínis mínimos ou lingeries, tudo sem o consentimento das vítimas.

A Anatomia do Problema

Na imagem feita por IA, Elon Musk, dono do X, aparece de biquíni.

Diferente das ferramentas de edição do passado, que exigiam horas de Photoshop e habilidades técnicas, a IA atual trabalha com o que chamamos de "Inpainting" e "Image-to-Image".

O Grok, alimentado por modelos de difusão de imagem, consegue "imaginar" o que está por baixo de uma peça de roupa com um realismo assustador. O processo é quase instantâneo: o usuário faz o upload de uma foto pública e pede à IA que "troque o vestido por um biquíni". O resultado é uma imagem sintética, mas que carrega a identidade real da pessoa, criando uma violação profunda da dignidade.

O caso escalou para um nível crítico quando a própria ferramenta gerou imagens sexualizadas de meninas menores de idade (estimadas entre 12 e 16 anos). A xAI, empresa responsável pelo Grok, admitiu a falha em dezembro de 2025, classificando o incidente como uma violação de padrões éticos e das leis de abuso sexual infantil online.

Este episódio acendeu o alerta vermelho: se a IA não consegue distinguir contextos de proteção à infância, quão segura ela realmente é nas mãos de qualquer usuário?

A Resposta Jurídica

Se você pensa que "é apenas uma montagem de internet", a lei brasileira discorda frontalmente. Especialistas em Direito Digital apontam que essa prática já pode ser enquadrada no Artigo 216-B do Código Penal (Lei Carolina Dieckmann), que pune a produção e divulgação de imagens íntimas sem autorização.

Além disso, o Congresso Nacional corre contra o tempo com o PL 3821/2024. Este projeto de lei visa criar uma punição específica para o "Deep Nude", com penas que podem chegar a 6 anos de prisão para quem manipula ou divulga conteúdo de nudez falso gerado por IA com o intuito de humilhação ou constrangimento.

4. Lições de Sobrevivência Digital: Como se Proteger?

Em um mundo onde sua imagem pode ser "editada" por estranhos, aqui estão três pilares de proteção:

Consciência da Pegada Digital: Fotos em alta resolução e com ângulos claros facilitam o trabalho dos algoritmos de IA. Considere restringir o acesso ao seu perfil para pessoas conhecidas.
Ação Imediata: Se você ou alguém que você conhece for vítima, não apague as provas. Tire prints das postagens, dos perfis que as solicitaram e, se possível, registre uma ata notarial ou utilize ferramentas de preservação de prova digital antes de denunciar à plataforma.
Exigência de Regulação: É preciso cobrar que as Big Techs implementem "guardrails" (trilhos de segurança) mais robustos, que bloqueiem comandos de teor sexual envolvendo terceiros de forma nativa.

A tecnologia não é vilã, mas o uso sem ética a transforma em arma. O caso do Grok é um divisor de águas: ele nos força a decidir se permitiremos que a IA seja uma ferramenta de evolução ou um instrumento de assédio em massa. A informação é a sua primeira e melhor defesa.