Governo recomenda que X impeça geração de conteúdos indevidos por meio do Grok

O Governo do Brasil, por meio da Agência Nacional de Proteção de Dados (ANPD), da Secretaria Nacional do Consumidor (Senacon) e do Ministério Público Federal (MPF), emitiu recomendações à empresa controladora da plataforma digital X após denúncias sobre o uso do Grok, assistente de inteligência artificial integrado à rede social. As acusações envolvem a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.

De acordo com reportagens da imprensa nacional e internacional e com testes realizados pelas instituições, a ferramenta estaria sendo utilizada para a produção ilegal de deepfakes — imagens falsas criadas com inteligência artificial — com conteúdo sexual, erótico ou pornográfico. As denúncias apontam que mulheres e também crianças e adolescentes reais foram retratados nesse tipo de material, inclusive em imagens de nudez ou com roupas íntimas, acessíveis a qualquer usuário da plataforma.

Diante da gravidade dos fatos, a ANPD, o MPF e a Senacon atuaram de forma conjunta, considerando que as ocorrências podem afetar simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos fundamentais, especialmente de mulheres, crianças e adolescentes.

Entre as recomendações, as instituições exigem a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados. Também foi recomendada a proibição da geração de conteúdos desse tipo envolvendo pessoas maiores de idade identificadas ou identificáveis, sem autorização expressa. As medidas devem valer para todos os planos, versões e modalidades da ferramenta.

Além disso, foi solicitado que a empresa crie, em até 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdos já produzidos e ainda disponíveis na plataforma X. As instituições também recomendaram a suspensão imediata das contas envolvidas na produção desse tipo de material, com aplicação efetiva dos termos de uso da plataforma e comprovação contínua dessas ações por meio de relatórios mensais.

Outro ponto destacado é a necessidade de implementação de um mecanismo transparente, acessível e eficiente para que titulares de dados possam denunciar o uso irregular, abusivo ou ilegal de suas informações pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados sem consentimento. Também foi recomendada a elaboração de um relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir de imagens, vídeos ou áudios enviados por usuários ao Grok.

As instituições alertam que, caso as recomendações não sejam cumpridas ou sejam adotadas de forma insuficiente, poderão ser tomadas outras medidas administrativas e judiciais. As ações visam garantir a proteção adequada da população, com atenção especial a mulheres, crianças e adolescentes.