Plataforma X é Cobrada por Falta de Efetividade no Controle do Grok Contra Conteúdo Indevido
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas da plataforma X sobre as violações cometidas pela inteligência artificial (IA) Grok e concluíram que as medidas informadas pela empresa são insuficientes. A IA tem sido utilizada indevidamente para gerar e disseminar imagens de pessoas em contextos de sexualização, sem autorização, levantando sérias preocupações sobre privacidade e segurança.
As três entidades, que atuam de forma coordenada na apuração dos fatos, haviam emitido recomendações no mês anterior para que a plataforma X adotasse procedimentos técnicos e operacionais eficazes na identificação, revisão e remoção de conteúdos inapropriados gerados pelo Grok. No entanto, a avaliação das respostas da empresa revelou a ausência de evidências concretas e mecanismos de monitoramento que comprovem a efetividade das ações declaradas.
Testes preliminares realizados pelas equipes técnicas das instituições indicam que as falhas persistem, com a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações já emitidas. Diante desse cenário, MPF, ANPD e Senacon determinaram, em nova manifestação, que o X implemente, de forma imediata, medidas efetivas para impedir a produção de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem consentimento, conforme informações divulgadas pelos próprios órgãos.
Órgãos Fiscalizadores Apontam Falta de Evidências e Insuficiência nas Respostas da Plataforma X
A resposta apresentada pela plataforma X à recomendação conjunta emitida pelo MPF, ANPD e Senacon incluiu a afirmação de que milhares de publicações foram removidas e centenas de contas suspensas por violarem as políticas da empresa, além da adoção de novas medidas de segurança. Contudo, as instituições consideraram que essas informações não foram acompanhadas de evidências concretas, como relatórios técnicos ou mecanismos de monitoramento que permitam aferir a real efetividade das ações declaradas pela empresa.
A falta de transparência e de dados verificáveis motivou a nova manifestação dos órgãos fiscalizadores. A avaliação das equipes técnicas indicou a persistência de falhas, com a continuidade da geração e circulação de conteúdos que violam as recomendações previamente estabelecidas. Essa situação reitera a necessidade de ações mais robustas e comprováveis por parte da plataforma X para garantir a segurança e a privacidade de seus usuários.
Novas Determinações Urgentes para o X: Impedir Conteúdo Sexualizado e Prestar Contas
Em resposta à persistência das violações, o MPF, a ANPD e a Senacon emitiram uma nova determinação conjunta, exigindo que a plataforma X implemente, imediatamente, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado envolvendo crianças e adolescentes, bem como de adultos que não tenham expressado consentimento para tal utilização de suas imagens.
Além disso, as instituições exigiram que a empresa preste informações detalhadas sobre as providências já adotadas para sanar os problemas identificados. O MPF, em particular, ordenou que o X forneça relatórios mensais sobre sua atuação nesse tema, ressaltando a falta de transparência demonstrada pela empresa em suas respostas anteriores. A expectativa é que a plataforma apresente dados concretos e mensuráveis sobre suas ações de moderação e controle.
MPF Exige Relatórios Mensais Detalhados e Alerta para Falta de Transparência
No âmbito do Ministério Público Federal, foi estabelecida a exigência de envio de relatórios mensais, a partir de fevereiro, com detalhes sobre as ações do X para impedir e reprimir a produção de deepfakes. Estes relatórios devem conter informações quantitativas sobre o número de postagens nocivas derrubadas e o número de contas envolvidas nessas práticas que foram suspensas em cada período relatado pelos controladores da plataforma.
O MPF também destacou a falta de transparência por parte da empresa em sua resposta inicial, o que reforça a necessidade de uma comunicação mais clara e de dados verificáveis. A cobrança por relatórios mensais visa garantir um acompanhamento contínuo e efetivo das medidas adotadas pelo X para coibir o uso indevido de sua IA.
ANPD Determina Abrangência das Medidas de Segurança em Todas as Versões do Grok
A Agência Nacional de Proteção de Dados (ANPD) estabeleceu em sua medida preventiva que os recursos implementados pela plataforma X para impedir o uso indevido da ferramenta de IA Grok devem abranger todas as versões, planos e modalidades da ferramenta. Essa determinação visa garantir que não haja brechas ou exceções que possam ser exploradas para a geração de conteúdo inadequado.
A ANPD busca assegurar que as salvaguardas sejam robustas e aplicadas de forma consistente em toda a infraestrutura e oferta do serviço Grok, independentemente de como ele é acessado ou utilizado pelos usuários. A abrangência das medidas é fundamental para uma proteção de dados e privacidade eficaz.
Senacon Cobra Comprovação de Medidas e Relatório Métrico Detalhado
Em sua medida cautelar administrativa, a Secretaria Nacional do Consumidor (Senacon) solicitou a comprovação das providências já adotadas pela plataforma X para conter os riscos identificados e sanar os problemas apontados na recomendação conjunta. A Senacon exige evidências concretas de que as ações preventivas e corretivas estão sendo implementadas efetivamente.
Adicionalmente, foi exigida a remessa de um relatório métrico detalhado. Este relatório deve conter dados quantitativos verificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok. Incluem-se nesse pedido o número de conteúdos identificados e removidos, os prazos médios de resposta, os critérios técnicos utilizados e a eventual adoção de medidas corretivas adicionais, como a suspensão de contas ou a restrição de funcionalidades.
Consequências Legais e Possíveis Multas em Caso de Descumprimento
O descumprimento das determinações emitidas pelo MPF, ANPD e Senacon pode acarretar sérias consequências para a plataforma X. Caso a empresa não cumpra as exigências, poderá ser multada diariamente. Além disso, os responsáveis pelo descumprimento poderão responder pelo crime de desobediência. A empresa também pode sofrer medidas investigatórias mais severas e ser alvo de ações judiciais.
Essas sanções visam reforçar a seriedade com que os órgãos fiscalizadores tratam a proteção de dados, a privacidade e a segurança dos usuários, especialmente no que tange à geração e disseminação de conteúdo indevido por ferramentas de inteligência artificial. A atuação coordenada das três entidades demonstra o compromisso em garantir que as plataformas digitais operem em conformidade com a legislação e os direitos dos consumidores.
Atuação Coordenada dos Órgãos para Apuração dos Fatos e Defesa do Consumidor
A ANPD, o MPF e a Senacon estão atuando de forma coordenada na apuração dos fatos relacionados ao uso indevido da ferramenta de inteligência artificial Grok. Cada instituição possui um procedimento administrativo em aberto contra a plataforma X, de acordo com suas respectivas áreas de competência. Essa colaboração interinstitucional visa garantir uma investigação completa e eficaz, abrangendo diferentes aspectos legais e regulatórios.
A coordenação entre os órgãos é fundamental para evitar a fragmentação da fiscalização e assegurar que todas as irregularidades sejam devidamente apuradas e, se necessário, punidas. A proteção dos direitos dos consumidores e a garantia da segurança digital são os pilares dessa atuação conjunta, buscando estabelecer um ambiente online mais seguro e confiável para todos.
Plataforma X Sob Pressão: O Que Pode Acontecer a Seguir?
A nova manifestação conjunta do MPF, da ANPD e da Senacon coloca a plataforma X sob pressão para que adote medidas mais rigorosas e transparentes no controle do uso de sua IA Grok. A exigência de relatórios mensais e a possibilidade de multas diárias e ações judiciais indicam que a situação pode se agravar caso a empresa não demonstre um compromisso efetivo em resolver os problemas apontados.
A reportagem busca contato com a assessoria da Plataforma X no Brasil para obter um posicionamento oficial sobre essa nova determinação dos órgãos fiscalizadores. A resposta da empresa será crucial para determinar os próximos passos na resolução dessa questão, que afeta diretamente a segurança e a privacidade dos usuários da plataforma e levanta debates importantes sobre a regulamentação de inteligências artificiais.
