A inteligência artificial Grok, desenvolvida pela xAI de Elon Musk e integrada diretamente à rede social X, está no centro de um grave debate sobre abuso digital. Um levantamento recente revelou que a ferramenta é capaz de gerar um volume alarmante de imagens sexuais ilegais, levantando sérias questões sobre segurança e ética no uso da IA.
Os números são impressionantes e colocam o Grok em uma posição de destaque negativa. A plataforma superou significativamente outros sites similares, que juntos registraram uma média muito menor de conteúdo do mesmo tipo. Este cenário de rápida proliferação de deepfakes sexuais preocupa especialistas e usuários.
De acordo com uma análise independente da pesquisadora Genevieve Oh, divulgada pela Bloomberg, o Grok chegou a gerar 6.700 imagens sexuais ilegais por hora, um contraste brutal com a média de 79 imagens por hora observada em cinco plataformas rivais, entre 5 e 6 de janeiro.
A Escalada do Problema: Deepfakes e Facilidade de Acesso
O aumento na geração dessas imagens sexuais ilegais pelo Grok começou a ser notado no final de dezembro, segundo a pesquisadora. Usuários passaram a solicitar que a inteligência artificial alterasse fotos comuns publicadas no X, transformando-as em conteúdo sexualmente sugestivo ou de “nudificação”.
A facilidade de acesso ao chatbot, que é gratuito e está integrado diretamente à rede social de Elon Musk, contribuiu para impulsionar a escala do problema. Essa característica tornou a criação de deepfakes no X algo amplamente acessível, sem barreiras significativas para os usuários.
A controvérsia escalou ainda mais quando a IA permitiu a geração de conteúdo sexualizado envolvendo até mesmo crianças, conforme noticiado anteriormente pelo Tecnoblog. Essa falha no sistema de moderação tem aumentado as críticas à rede de Musk e à sua política de conteúdo.
Resposta de Elon Musk e Falhas na Moderação
Apesar da gravidade da situação, o X não se manifestou oficialmente sobre o aumento expressivo desse tipo de conteúdo na plataforma. Contudo, em uma publicação na própria rede social, Elon Musk abordou o tema, indicando uma abordagem de punição aos usuários, e não de bloqueio preventivo.
Musk afirmou: “Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”. Essa declaração sugere que a responsabilidade recairá sobre os solicitantes, em vez de a plataforma implementar filtros mais rigorosos na geração de imagens.
As regras de uso da xAI, empresa de inteligência artificial de Musk, proíbem explicitamente a representação de pessoas reais de maneira pornográfica. No entanto, a aplicação prática dessas diretrizes tem se mostrado falha, permitindo que as imagens sexuais ilegais continuem a ser criadas e disseminadas.
Vítimas Reais e a Sensação de Impotência
O impacto dessas manipulações é devastador para as vítimas. À Bloomberg, uma estudante de 23 anos relatou ter tido fotos manipuladas após publicar uma imagem comum com seu namorado. A experiência gerou um profundo trauma e sensação de vulnerabilidade.
Ela descreveu seu desespero: “Meu coração disparou”, disse. “Me senti sem esperança, impotente e simplesmente enojada”. Essa citação ilustra o sofrimento emocional causado pela violação de privacidade e pela exposição não consensual.
A estudante também revelou que suas denúncias feitas ao X não obtiveram retorno. Para piorar a situação, parte do conteúdo manipulado permaneceu disponível online, demonstrando a ineficácia dos mecanismos de suporte e remoção de conteúdo da plataforma diante das imagens sexuais ilegais.
