Governo Lula intensifica pressão sobre X para barrar deepfakes sexualizados gerados pelo Grok
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) determinaram, nesta quarta-feira (11), que a rede social X, anteriormente conhecida como Twitter, adote ações imediatas para impedir que sua ferramenta de inteligência artificial, o Grok, seja utilizada para produzir conteúdo sexualizado. A exigência abrange tanto imagens de crianças e adolescentes quanto de adultos que não consentiram com a veiculação de suas imagens.
A iniciativa do governo federal representa um novo capítulo na tensão entre as autoridades brasileiras e a plataforma de Elon Musk em relação ao uso ético e seguro de inteligência artificial. Em janeiro deste ano, já havia sido feita uma cobrança por providências, mas as respostas apresentadas pelo X foram consideradas insatisfatórias pelos órgãos fiscalizadores, que agora buscam garantias concretas e mecanismos de monitoramento para coibir a prática.
A decisão reforça a preocupação com a disseminação de deepfakes e conteúdos impróprios gerados por IA, um debate global que ganha contornos específicos no Brasil, especialmente no que diz respeito à proteção de vulneráveis. A falta de transparência e a persistência das falhas apontadas levam a medidas mais rigorosas, com prazos e penalidades estabelecidas. As informações são baseadas em nota conjunta divulgada pelo MPF, ANPD e Senacon.
Grok sob o microscópio: A inteligência artificial e a geração de conteúdo impróprio
O Grok, ferramenta de inteligência artificial desenvolvida pelo X, tem sido o centro das atenções devido à sua capacidade de gerar imagens. No entanto, o que deveria ser uma inovação tecnológica tem se mostrado um vetor para a criação e disseminação de conteúdo sexualizado, inclusive de forma ilegal e prejudicial. A preocupação das autoridades brasileiras reside justamente na exploração dessa capacidade para fins ilícitos, como a produção de deepfakes, que manipulam imagens e vídeos para criar cenas falsas, muitas vezes com conotação sexual ou difamatória.
A tecnologia por trás do Grok, como outras IAs generativas de imagem, funciona a partir de vastos conjuntos de dados e algoritmos complexos. Ao receber comandos específicos, a IA é capaz de criar novas imagens a partir de padrões aprendidos. O problema surge quando esses comandos são direcionados para a geração de conteúdo que viola a lei, a ética e os direitos individuais, como a pornografia não consensual ou a exploração de imagens de crianças e adolescentes. A facilidade com que tais conteúdos podem ser gerados e disseminados em plataformas online amplia o risco e a urgência das medidas de controle.
As autoridades brasileiras, ao se debruçarem sobre o caso, buscam não apenas punir os infratores, mas principalmente implementar salvaguardas que impeçam a própria ferramenta de ser utilizada para tais fins. Isso envolve desde a revisão dos algoritmos e filtros de conteúdo do Grok até a responsabilização da plataforma X pela fiscalização e remoção de conteúdos gerados indevidamente. A dificuldade reside em equilibrar a liberdade de expressão e a inovação tecnológica com a necessidade imperativa de proteger a sociedade, especialmente os grupos mais vulneráveis, de conteúdos nocivos e ilegais.
A resposta do X e a insuficiência das medidas alegadas
Em janeiro deste ano, diante das primeiras denúncias e preocupações, o governo brasileiro já havia acionado o X para que tomasse providências. A rede social, em sua resposta inicial, declarou ter adotado medidas como a remoção de milhares de publicações e a suspensão de centenas de contas que violaram suas políticas internas. Além disso, a plataforma afirmou ter implementado novas medidas de segurança para coibir a geração de conteúdo inadequado.
Contudo, a avaliação conjunta do Ministério Público Federal, da ANPD e da Senacon concluiu que as ações do X foram insuficientes para sanar o problema. Segundo uma nota oficial divulgada pelas instituições, as informações apresentadas pela plataforma não vieram acompanhadas de evidências concretas, relatórios técnicos detalhados ou mecanismos de monitoramento que pudessem comprovar a efetividade das medidas. Essa falta de comprovação gerou desconfiança e a necessidade de uma nova intervenção, mais incisiva.
A persistência das falhas foi confirmada por testes preliminares realizados pelas equipes técnicas dos órgãos fiscalizadores. Esses testes indicaram que a geração e circulação de conteúdos incompatíveis com as recomendações anteriores continuavam ocorrendo, demonstrando que as barreiras de segurança e os filtros de conteúdo implementados pelo X não estavam sendo eficazes o suficiente para impedir a violação. Essa constatação foi o gatilho para a determinação de novas e mais rigorosas exigências.
Novas exigências e prazos: O que a ANPD, o MPF e a Senacon determinam
Diante da insuficiência das medidas anteriores, os órgãos federais estabeleceram um plano de ação com determinações claras e prazos definidos para o X. A Agência Nacional de Proteção de Dados (ANPD) concedeu um prazo de 5 dias úteis para que a plataforma apresente uma relação detalhada de todas as providências técnicas, administrativas e organizacionais que foram adotadas para corrigir as irregularidades. Essa apresentação deve vir acompanhada de comprovação de sua eficácia por meio de evidências documentais verificáveis.
O Ministério Público Federal (MPF), por sua vez, ordenou que o X passe a entregar relatórios mensais, a partir deste mês, detalhando as ações para impedir e reprimir a produção de deepfakes. Esses relatórios deverão conter informações precisas sobre o número de postagens nocivas que foram derrubadas e de contas que foram suspensas. O MPF justificou essa exigência pela falta de transparência e pela generalidade das informações anteriormente fornecidas pelo X, que não se referiam especificamente aos incidentes ocorridos com o Grok neste ano.
A Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, emitiu uma medida cautelar administrativa. Esta medida obriga o X a estabelecer soluções técnicas, administrativas e organizacionais que garantam a impossibilidade de o Grok gerar ou viabilizar a geração de deepfakes. O objetivo é assegurar que a tecnologia não seja utilizada como ferramenta para a criação de conteúdos ilegais e prejudiciais, protegendo assim os direitos dos consumidores e a sociedade em geral.
Deepfakes: O que são e por que representam um risco crescente
O termo “deepfake” é uma junção de “deep learning” (aprendizado profundo, uma área da inteligência artificial) e “fake” (falso). Trata-se de uma tecnologia que permite criar ou alterar conteúdos de áudio e vídeo de forma extremamente realista, fazendo parecer que uma pessoa disse ou fez algo que, na realidade, nunca ocorreu. Essa manipulação é realizada por meio de algoritmos de inteligência artificial que aprendem as características de uma pessoa a partir de diversas imagens e vídeos, e depois as aplicam em outros conteúdos.
O risco associado aos deepfakes é multifacetado e grave. Em primeiro lugar, eles podem ser utilizados para a disseminação de desinformação e notícias falsas, manipulando a imagem de figuras públicas para criar narrativas enganosas e influenciar a opinião pública, especialmente em períodos eleitorais. Em segundo lugar, e talvez mais alarmante, os deepfakes são frequentemente usados para a criação de pornografia não consensual, onde rostos de pessoas são inseridos em vídeos pornográficos sem o seu conhecimento ou consentimento. Essa prática constitui uma grave violação de privacidade e pode causar danos psicológicos profundos às vítimas.
A preocupação com a geração de conteúdo sexualizado de crianças e adolescentes, como no caso do Grok, eleva o nível de perigo a patamares ainda mais críticos. A exploração sexual infantil é um crime hediondo, e o uso de IA para gerar ou facilitar a criação desse tipo de material representa um novo desafio para as autoridades de segurança e proteção à infância. A capacidade de criar imagens realistas e em larga escala pode potencializar a oferta e a demanda por material de exploração, tornando o combate a essa prática ainda mais complexo.
Proteção de dados e direitos do consumidor: O papel da ANPD e da Senacon
A participação da Agência Nacional de Proteção de Dados (ANPD) e da Secretaria Nacional do Consumidor (Senacon) nas exigências ao X sublinha a importância da proteção de dados pessoais e dos direitos dos consumidores no ambiente digital. A ANPD, responsável por zelar pela Lei Geral de Proteção de Dados (LGPD), atua para garantir que os dados dos cidadãos sejam tratados de forma segura e ética, e que haja mecanismos de controle sobre como as empresas utilizam essas informações.
No contexto do Grok, a geração de conteúdo sexualizado, especialmente de adultos sem consentimento, pode envolver o uso indevido de imagens e dados pessoais para fins ilícitos. A ANPD busca assegurar que as ferramentas de IA não sejam utilizadas para violar a privacidade e a dignidade das pessoas, exigindo transparência e segurança no tratamento dos dados que alimentam e são gerados por essas tecnologias. A exigência de comprovação de eficácia das medidas de segurança visa justamente garantir que os riscos à privacidade sejam minimizados.
Já a Senacon, vinculada ao Ministério da Justiça, foca na defesa dos direitos dos consumidores. A geração de deepfakes e conteúdos impróprios pode lesar consumidores de diversas formas, seja pela manipulação de suas imagens, pela disseminação de informações falsas que os afetem, ou pela exposição a conteúdos violentos e inadequados. A medida cautelar administrativa expedida pela Senacon demonstra o empenho em forçar o X a adotar soluções que protejam os usuários e garantam um ambiente digital mais seguro e ético, em conformidade com o Código de Defesa do Consumidor.
As consequências para o X em caso de descumprimento das ordens
As autoridades brasileiras foram claras quanto às possíveis sanções caso o X não cumpra as determinações relativas ao Grok e à geração de deepfakes. A ANPD e a Senacon informaram que podem impor multas diárias à plataforma, um mecanismo financeiro que visa pressionar a empresa a agir rapidamente e de forma eficaz. Essas multas podem ser aplicadas sem prejuízo da instauração de processos administrativos sancionadores, que podem resultar em penalidades ainda mais severas, caso as investigações futuras constatem novas violações.
No âmbito do Ministério Público Federal, as consequências também são significativas. Caso o X não apresente os relatórios mensais exigidos dentro dos prazos estipulados, os responsáveis pela empresa no Brasil poderão responder pelo crime de desobediência. Além disso, a própria empresa pode ser alvo de medidas investigatórias mais incisivas, que visam aprofundar a apuração sobre as falhas na moderação de conteúdo e a responsabilidade da plataforma.
A possibilidade de uma ação judicial civil pública não está descartada. O MPF pode mover uma ação judicial caso considere que as medidas adotadas pelo X são insuficientes para reparar eventuais danos causados às vítimas de deepfakes e para prevenir a ocorrência de novos ilícitos. Essa ação poderia buscar, entre outras coisas, indenizações por danos morais e materiais, além de obrigações de fazer e não fazer para garantir a segurança e a ética na plataforma.
O futuro da IA e a responsabilidade das plataformas digitais
O caso envolvendo o Grok e o X reflete um debate global e crescente sobre a responsabilidade das plataformas digitais no controle do conteúdo gerado por inteligência artificial. À medida que as IAs se tornam mais sofisticadas e acessíveis, os riscos de uso indevido também aumentam, levantando questões éticas, legais e sociais complexas.
A pressão exercida pelo governo brasileiro é um exemplo de como as nações estão buscando regulamentar e supervisionar o uso dessas tecnologias para proteger seus cidadãos. A expectativa é que, após essa intervenção mais firme, o X apresente soluções robustas e comprovadamente eficazes para impedir a geração de conteúdo impróprio. O desdobramento dessa situação servirá como um importante precedente para o futuro da regulamentação de IAs em outros países e para a forma como as grandes empresas de tecnologia lidam com a segurança e a ética em suas plataformas.
A colaboração entre empresas de tecnologia, governos e sociedade civil será fundamental para encontrar um equilíbrio entre a inovação e a proteção. A busca por tecnologias mais seguras, transparentes e responsáveis é um caminho essencial para garantir que a inteligência artificial seja uma força para o bem, sem se tornar uma ferramenta de exploração e danos sociais. A vigilância e a ação proativa dos órgãos de fiscalização são cruciais nesse processo.
