Uma nova onda de mau uso da inteligência artificial Grok, da rede X, gerou grande repercussão e levantou um debate intenso sobre os limites da tecnologia e a urgência de regulamentação. Usuários massificaram o comando “Hey @grok, put me in a bikini”, gerando imagens realistas de pessoas em trajes mínimos a partir de fotos públicas.
Essa facilidade técnica, que tornou a manipulação de imagem um ato banal e instantâneo, rapidamente evoluiu para o uso sem consentimento. Mulheres reais foram transformadas em material de recreação digital involuntária, provocando uma forte reação e pedidos de intervenção estatal.
A discussão central gira em torno de como lidar com ferramentas tecnológicas poderosas que podem ser desviadas para fins ilícitos, sem, contudo, cercear a inovação e a liberdade. Essa perspectiva é amplamente discutida pelo professor e mestre em Filosofia Francisco Razzo, em sua análise sobre o tema.
A onda de mau uso e a reação política
A capacidade do Grok de recriar fotos com alto realismo e poucas restrições técnicas foi rapidamente explorada por alguns usuários. A rede X foi palco da proliferação de comandos que transformavam imagens de pessoas em cenas com trajes de banho, sem qualquer consentimento, conforme destacado por Francisco Razzo.
Este cenário provocou uma imediata resposta política, especialmente da ala progressista, que, segundo Razzo, nunca perde a oportunidade de clamar por regulamentação. A deputada Erika Hilton, por exemplo, propôs a desabilitação imediata do Grok em todo o território nacional, argumentando que a tecnologia, por ser passível de mau uso, deveria ser proibida para todos os cidadãos.
Essa proposta, contudo, levanta questões sobre a validade lógica de proibir uma ferramenta para a totalidade da população apenas porque uma parcela pode utilizá-la de forma indevida. O debate, portanto, se aprofunda na distinção entre a natureza da tecnologia e a perversidade do agente que a manipula.
O argumento da proibição e suas falhas lógicas
O argumento que sustenta a proibição de uma tecnologia devido ao seu potencial de mau uso é questionado por Francisco Razzo. Ele compara a lógica de banir o Grok com a ideia de proibir o dinheiro em espécie, que é o combustível diário de milhões de transações criminosas, ou até mesmo o WhatsApp, frequentemente usado para planejar delitos e outras ações prejudiciais.
Para Razzo, essa linha de raciocínio confunde a natureza do meio com a perversidade do agente. A suposta onipresença do mau uso, na verdade, revela a constância da falha humana, e não uma falha intrínseca da ferramenta. Afinal, é o usuário quem aciona o comando e decide o uso.
Existe uma distinção crucial entre a incapacidade técnica de uma plataforma filtrar absolutamente todo o conteúdo mal-intencionado e uma permissão moral deliberada. Nenhuma inteligência artificial comercial, por exemplo, inclui pornografia infantil ou difamação em seus termos de uso. Exigir que uma ferramenta seja onisciente e infalível antes de ser liberada é uma impossibilidade lógica, equiparando-se à ideia de punir a intenção presumida, o que, nas mãos humanas, pode se tornar tirania.
Distorção algorítmica e o viés de disponibilidade
A percepção de um caos generalizado gerado pelo mau uso do Grok pode estar mais ligada a uma distorção algorítmica das redes sociais, conforme analisa Razzo. As plataformas privilegiam o choque e o conteúdo sensacionalista, fazendo com que a normalidade não viralize.
Ao observar uma tendência de mau uso, o usuário pode erroneamente concluir que o sistema inteiro falhou, ignorando as bilhões de interações lícitas, produtivas e inofensivas que ocorrem simultaneamente. Razzo compara isso ao fenômeno da
