As autoridades da Malásia e Indonésia tomaram uma medida drástica contra o Grok, a ferramenta de inteligência artificial ligada à rede social X, de propriedade de Elon Musk. A decisão de bloquear o acesso ao chatbot vem após a constatação de que a IA estava gerando imagens consideradas obscenas e sexualmente explícitas.
Este movimento levanta sérias questões sobre a capacidade de moderação de conteúdo em plataformas de inteligência artificial e os desafios regulatórios que governos ao redor do mundo enfrentam para proteger seus cidadãos de conteúdo prejudicial.
A suspensão do acesso ao Grok nessas nações asiáticas destaca a crescente preocupação com o uso irresponsável da IA, especialmente quando envolve a manipulação de imagens, conforme informações divulgadas pelas autoridades locais.
Malásia e Indonésia Agem Contra Conteúdo Impróprio do Grok
A Comissão de Comunicações e Multimídia da Malásia (MCMC) anunciou, neste domingo (11), a restrição imediata ao acesso ao Grok. A justificativa para o bloqueio é a geração de “imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores”, segundo o comunicado da MCMC.
Importante notar que a medida não afeta o uso da rede social X, que conta com cinco milhões de usuários no país de maioria muçulmana. A Indonésia já havia tomado uma decisão semelhante no sábado, indicando uma coordenação regional na abordagem a esse tipo de problema com a inteligência artificial.
A Resposta Insuficiente e a Análise Global da IA de Musk
As autoridades da Malásia relataram que haviam solicitado ao X a implementação de “salvaguardas técnicas e de moderação eficazes” para impedir a criação de conteúdo por IA que violasse a legislação local. Em resposta, a empresa de Elon Musk ofereceu mecanismos de denúncia iniciados pelos próprios usuários.
Contudo, essa solução foi considerada insuficiente pela Malásia, que afirmou que a medida não abordava a raiz do problema nem garantia a conformidade legal. Por isso, optou-se pelo bloqueio temporário do chatbot, cuja operação também está sob análise em outras partes do mundo, como no Reino Unido.
Grok: Funcionalidade e a Promessa de Responsabilidade de Elon Musk
O Grok é uma ferramenta gratuita que permite aos usuários fazer upload e editar fotos, e tem sido alvo de críticas por atender a pedidos de internautas para alterar imagens de outras pessoas, despindo-as sem consentimento. Essa capacidade gerou uma onda de reclamações e denúncias.
Após dias de controvérsia e antes das suspensões em vigor na Malásia e Indonésia, Elon Musk restringiu os recursos de edição de imagens do Grok apenas para usuários pagantes na sexta-feira. Ele também se manifestou publicamente sobre o assunto.
Em uma declaração no X, Musk afirmou que “qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que quem publicar conteúdo ilegal“. Essa declaração busca reforçar a responsabilidade dos usuários e da plataforma diante da polêmica gerada pela inteligência artificial.
