O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) uniram forças para emitir uma série de recomendações urgentes à rede social X.
O objetivo principal é impedir que a ferramenta de inteligência artificial Grok, da plataforma, continue a gerar falsas imagens eróticas e de teor pornográfico, especialmente envolvendo pessoas reais, incluindo crianças e adolescentes.
A data limite para que o X implemente as medidas exigidas é 27 de janeiro, conforme um documento conjunto emitido na última terça-feira (20), que detalha as preocupações com a edição automatizada de imagens de terceiros pela IA, segundo informações divulgadas.
O Problema das Deepfakes e a Confissão do Grok
O ofício conjunto do MPF, Senacon e ANPD revela que usuários do X estariam solicitando ao chatbot Grok a criação de deepfakes de teor sexual, erótico e pornográfico de mulheres adultas, sem qualquer autorização.
Mais alarmante, há relatos da geração de imagens falsas envolvendo crianças e adolescentes reais, o que configura um grave crime.
As instituições alertam que tais deepfakes, produzidas pela IA Grok, estariam sendo expostas publicamente na plataforma X, acessíveis a qualquer usuário, o que amplifica significativamente os danos às vítimas.
A própria ferramenta Grok admitiu a produção dessas imagens. Ao ser questionada por usuários, a IA declarou: “Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos), vestidas de forma sexualizada a pedido de um usuário”.
Diversas denúncias, tanto de cidadãos comuns quanto de parlamentares, como as deputadas Maria do Rosário (PT-RS) e Erika Hilton (PSOL), impulsionaram a investigação e as recomendações dos órgãos reguladores.
As Recomendações e o Prazo Urgente
Além da principal recomendação para barrar a geração de falsas imagens eróticas, os três órgãos solicitaram outras medidas cruciais para o X.
Em até 30 dias, a plataforma deve criar procedimentos técnicos para identificar e remover conteúdos ilegais gerados pelo Grok que ainda estejam online.
Foi exigida também a suspensão imediata de contas envolvidas na produção de imagens sexuais com a IA, com relatórios mensais comprovando a efetividade da medida.
Outras demandas incluem a implementação de um canal eficaz de denúncias para uso abusivo ou ilegal de dados pessoais, com um prazo de resposta razoável aos usuários.
Por fim, os órgãos requisitaram a elaboração de um relatório de impacto sobre a proteção de dados no uso do Grok para gerar conteúdos sintéticos, visando uma análise aprofundada dos riscos.
Medidas Já Tomadas e a Posição de Elon Musk
Questionado pela CNN sobre a continuidade da criação dessas imagens, o Grok afirmou que já foram tomadas diversas medidas para coibir o problema.
Segundo a IA, a partir de 9 de janeiro, apenas assinantes pagos teriam permissão para gerar tais conteúdos.
Posteriormente, em 14 de janeiro, teriam sido implementados bloqueios “mais duros para todo mundo, (pagos ou não), focando em proibir edições sexualizadas de pessoas reais, com geoblocks onde for ilegal”.
É importante notar que o documento conjunto do MPF, Senacon e ANPD foi expedido após essas supostas modificações, indicando que as medidas ainda são consideradas insuficientes.
Elon Musk, proprietário do X, afirmou não ter conhecimento da geração de imagens explícitas de menores pelo Grok. “Não tenho conhecimento de nenhuma imagem de menores geradas pelo Grok. Literalmente zero”, disse Musk em sua rede social.
O empresário reiterou que o Grok é programado para recusar pedidos ilegais e deve estar em conformidade com as leis de qualquer país ou estado.
Musk também destacou que o Grok não gera imagens espontaneamente, fazendo-o apenas conforme os comandos do usuário, e que qualquer pessoa que use a IA para criar conteúdo ilegal sofrerá as mesmas consequências de quem faz upload de conteúdo ilegal diretamente.
O Desafio da Regulamentação da IA
A situação envolvendo o Grok e a geração de falsas imagens eróticas ressalta o desafio enfrentado pelos órgãos reguladores em todo o mundo.
Ainda há um esforço contínuo para desenvolver leis e regras claras que governem a inteligência artificial, com muitas dúvidas sobre o que constitui nudez, como definir consentimento e quem é o responsável legal, o usuário ou a plataforma.
Este caso no Brasil é um exemplo da urgência em estabelecer um marco regulatório robusto para a IA, garantindo a proteção dos direitos dos cidadãos no ambiente digital.
