Governo e MPF recomendam medidas à plataforma X após denúncias sobre uso sexualizado do Grok

O Governo do Brasil, por meio da Agência Nacional de Proteção de Dados (ANPD) e da Secretaria Nacional do Consumidor (Senacon), em conjunto com o Ministério Público Federal (MPF), expediu recomendações à empresa controladora da plataforma digital X diante de denúncias envolvendo o uso do Grok, assistente de inteligência artificial integrado à rede social. As acusações apontam a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.

Segundo as instituições, com base em reportagens da imprensa nacional e internacional e em testes realizados pelos próprios órgãos, a ferramenta estaria sendo utilizada de forma ilegal para a produção de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais. Os conteúdos teriam caráter sexualizado, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes reais.

Também foram relatados casos de imagens de mulheres e crianças nuas ou em roupas íntimas, acessíveis a qualquer usuário da plataforma, ampliando a exposição indevida e os riscos de danos às pessoas retratadas.

Atuação coordenada

A gravidade das denúncias motivou uma atuação conjunta da ANPD, do MPF e da Senacon, vinculada ao Ministério da Justiça e Segurança Pública. De acordo com os órgãos, as ocorrências podem afetar simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, com impacto especial sobre mulheres, crianças e adolescentes.

Recomendações

Entre as recomendações conjuntas, está a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados. A orientação também abrange a proibição da geração de conteúdos desse tipo envolvendo pessoas maiores de idade identificadas ou identificáveis, sem autorização expressa.

As determinações devem valer para todos os planos, versões e modalidades da ferramenta. Além disso, as instituições recomendaram que a empresa:

• Crie, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdos já produzidos e ainda disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos de usuários;

• Suspenda imediatamente as contas envolvidas na produção de imagens sexuais ou erotizadas de crianças, adolescentes ou adultos sem consentimento, aplicando de forma efetiva os termos de uso da própria plataforma, com comprovação por meio de relatórios mensais;

• Implemente mecanismos transparentes, acessíveis e eficazes para que titulares de dados exerçam seus direitos, incluindo canais de denúncia sobre o uso irregular, abusivo ou ilegal de dados pessoais;

• Elabore relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok.

Possíveis desdobramentos

As instituições alertam que, caso as recomendações não sejam acatadas ou sejam implementadas de forma insuficiente para mitigar os riscos identificados, outras medidas poderão ser adotadas, tanto na esfera administrativa quanto judicial. O objetivo é garantir a proteção adequada dos cidadãos, especialmente de mulheres, crianças e adolescentes.

As recomendações foram expedidas dentro das competências legais de cada órgão, que seguirão acompanhando as respostas e as providências eventualmente adotadas pela empresa responsável pela plataforma X.

Siga o CN1 no Google Notícias e tenha acesso aos destaques do dia.