Brasil cobra do X medidas urgentes para que o Grok impeça conteúdos sexualizados e deepfakes, protegendo a dignidade de crianças e adultos.
A plataforma X, controladora do Grok, sua ferramenta de inteligência artificial, está sob forte pressão no Brasil. Uma série de recomendações foi emitida por importantes órgãos governamentais e pelo Ministério Público Federal.
O objetivo é garantir que a tecnologia não seja utilizada indevidamente para gerar e circular conteúdos sexualizados, especialmente deepfakes de crianças e adultos sem consentimento.
As instituições buscam a implementação de medidas rigorosas para proteger a privacidade e a dignidade dos usuários, conforme informações divulgadas pela Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF).
X deve adotar medidas imediatas contra conteúdos indevidos
Entre as principais recomendações, está a exigência de que o X crie, em um prazo máximo de 30 dias, procedimentos técnicos e operacionais. Estes devem ser capazes de identificar, revisar e remover conteúdos sexualizados que ainda estejam disponíveis na plataforma, gerados pelo Grok a partir de comandos de usuários.
As instituições também pedem a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas. Isso inclui tanto as que envolvem crianças e adolescentes quanto as de maiores de idade, quando criadas sem autorização e utilizando o Grok.
Outra medida crucial é a implementação de um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos. Isso inclui o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente na criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, garantindo uma resposta adequada e em prazo razoável.
Preocupações surgem de denúncias e testes rigorosos
As recomendações foram elaboradas diante de denúncias de usuários que apontaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Estes relatos acenderam um alerta sobre o uso indevido da inteligência artificial.
Além disso, foram tomadas como base reportagens veiculadas na imprensa nacional e internacional, bem como testes realizados pelas próprias instituições. Esses testes confirmaram o uso ilegal da ferramenta por usuários para a produção de deepfakes.
Deepfakes são técnicas de inteligência artificial que criam imagens falsas a partir de pessoas reais. Tais conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes.
As instituições alertam que esse tipo de material pode impactar gravemente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, afetando especialmente mulheres, crianças e adolescentes.
“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, argumentam as instituições.
As orientações também buscam impedir a geração de conteúdos que representem pessoas naturais maiores de idade, identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização.
X é considerado coautor, não apenas intermediador
O documento destaca que, apesar de o artigo 19 do Marco Civil da Internet prever que provedores de aplicação da internet não seriam responsáveis pelo conteúdo danoso publicado por terceiros, salvo após decisão judicial, a retirada deve ser executada nestes casos.
Isso ocorre porque as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas sim por meio de uma interação entre usuários e a ferramenta de inteligência artificial criada e disponibilizada amplamente pelo X. Esta situação, segundo o texto, “o torna, portanto, coautor de tais conteúdos, e não seu mero intermediador”.
Recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet. A Corte entendeu que a legislação “não oferece proteção suficiente a direitos constitucionais relevantes”.
No julgamento, o STF fixou que os provedores de aplicação da internet teriam um especial dever de cuidado. Eles devem adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como os praticados contra as mulheres em razão da condição do sexo feminino, incluindo conteúdos que propagam ódio contra elas.
Políticas internas e possíveis consequências
As instituições lembram que a própria política de autorregulação do X, relacionada à nudez não consensual, proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos que tenham sido produzidos ou compartilhados sem o consentimento das pessoas envolvidas.
A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, em contextos envolvendo o Grok. Isso torna “insustentável, também sob esse prisma, a disponibilização de uma ferramenta de inteligência artificial, sem filtros rigorosos, que favoreça condutas como essas”.
Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições. Essas ações poderão ocorrer em sede administrativa e judicial, visando garantir a proteção adequada dos cidadãos do país, especialmente de mulheres, crianças e adolescentes.
