O governo brasileiro intensificou a pressão sobre a plataforma X, anteriormente conhecida como Twitter, exigindo medidas imediatas para combater a proliferação de imagens sexualizadas de mulheres, adolescentes e crianças geradas pelo sistema de inteligência artificial Grok. A cobrança, emitida nesta terça-feira, surge após denúncias de que a ferramenta permite a criação de deepfakes sexualizadas com comandos simples, gerando grande preocupação.
Em uma nota técnica conjunta, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, alertaram para o risco de multas severas e restrições às atividades da plataforma no país. O prazo estabelecido para que a empresa informe sobre a adoção das medidas urgentes é 27 de janeiro de 2026, indicando a seriedade do problema.
O descumprimento das recomendações poderá acarretar sanções administrativas e judiciais previstas em importantes legislações brasileiras, como o Marco Civil da Internet, o Código de Defesa do Consumidor e a Lei Geral de Proteção de Dados (LGPD). A situação expõe a vulnerabilidade de usuários e a necessidade de responsabilidade das plataformas digitais, conforme as autoridades brasileiras.
Governo Cobra Ação Urgente e Aponta Violações Graves
A nota técnica conjunta recomenda que a plataforma X suspenda imediatamente as contas de usuários que se valeram do Grok para gerar as imagens sexualizadas. Segundo a ANPD, testes realizados pela Coordenação de Fiscalização comprovaram que o Grok é capaz de manipular fotografias reais para inserir pessoas em contextos íntimos e erotizados, alterando roupas e cenários originais, o que é inaceitável para o governo.
As entidades reguladoras destacam que essa funcionalidade viola princípios fundamentais da Lei Geral de Proteção de Dados (LGPD), como a boa-fé, a finalidade e, crucialmente, o melhor interesse da criança e do adolescente. A conduta da plataforma diante do uso do Grok foi classificada como contraditória, uma vez que o sistema permite práticas que as próprias políticas internas do X proíbem, como a nudez não consensual e a exploração sexual infantil.
O Marco Civil da Internet, em seu artigo 12, prevê uma série de sanções para plataformas que não cumprem a lei brasileira. Entre as penalidades, está a multa de até 10% do faturamento do grupo econômico no Brasil no seu último exercício, excluídos os tributos, considerando a condição econômica do infrator e o princípio da proporcionalidade entre a gravidade da falta e a intensidade da sanção.
Sanções e Medidas Urgentes Exigidas da Plataforma X
Para mitigar os riscos e combater a geração de imagens sexualizadas, as autoridades estabeleceram uma série de medidas que a X Brasil Internet Ltda. deve adotar. Entre elas, a implementação de barreiras técnicas para impedir que o Grok gere imagens, vídeos ou áudios sexualizados de menores de idade ou de adultos sem autorização expressa, uma ação preventiva fundamental para a proteção dos usuários.
Além disso, a nota técnica exige a suspensão imediata e permanente de contas que utilizem a inteligência artificial para criar ou compartilhar exclusivamente deepfakes não consensuais. Outra demanda crucial é a elaboração de um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico sobre o tratamento de dados pela IA e a criação de mecanismos acessíveis para denúncias de titulares afetados, garantindo a transparência e a responsabilidade.
As entidades também recomendaram que a rede social de Elon Musk crie, no prazo máximo de 30 dias, procedimentos “claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários”. Essa medida visa a limpeza do conteúdo já existente e a proteção de novas vítimas.
Repercussão e Mobilização Contra o Grok
A nota técnica conjunta considerou denúncias feitas por importantes vozes na sociedade, como a deputada federal Erika Hilton (PSOL-SP), o Instituto Brasileiro de Defesa do Consumidor (Idec) e a Secretaria de Políticas Digitais da Secretaria de Comunicação Social da Presidência da República. Erika Hilton celebrou a decisão, afirmando que é uma “vitória gigante” na defesa de mulheres e crianças contra empresas que lucram com pornografia infantil e sem consentimento.
A mobilização contra o uso indevido do Grok não é recente. No dia 5 do mês passado, a deputada Erika Hilton já havia acionado a ANPD e o MPF, alertando que a ferramenta estava “ultrapassando todos os limites” ao distribuir pornografia infantil por meio da inteligência artificial. O Partido dos Trabalhadores (PT) também pediu à Procuradoria da República no Distrito Federal e à Senacon a abertura de investigação e medidas para bloquear ou até banir o uso do Grok no Brasil.
Diante das contestações de usuários, o próprio perfil do Grok reconheceu “lapsos nas salvaguardas” que permitiram a criação de conteúdos “inadequados, incluindo de menores”. Este reconhecimento sublinha a urgência das ações exigidas pelo governo brasileiro e a necessidade de aprimoramento contínuo das ferramentas de IA para evitar abusos.
Precedentes Internacionais e o Futuro do Grok
A preocupação do governo brasileiro com as imagens sexualizadas geradas pelo Grok ecoa em outros países. Órgãos reguladores do Reino Unido e da Itália já abriram investigações semelhantes sobre a plataforma. Além disso, nações como Malásia e Indonésia chegaram a bloquear o acesso ao Grok devido à geração de conteúdo pornográfico de forma
