O Governo Federal e o Ministério Público Federal (MPF) emitiram recomendação clara para que a empresa controladora da rede social X (antigo Twitter) atue contra a produção e circulação de conteúdos sexualizados no Grok, ferramenta de inteligência artificial. O alerta decorre de denúncias ligadas ao uso indevido da tecnologia, como deepfakes e geração de imagens eróticas envolvendo mulheres e crianças, o que expõe usuários a riscos graves, além de violar direitos fundamentais.
A ação envolveu a ANDP (Agência Nacional de Proteção de Dados), a Senacon (Secretaria Nacional do Consumidor) e reforçou a preocupação da sociedade com ambientes digitais seguros.
O objetivo é incentivar a adoção de políticas rígidas de moderação, bem como impedir a geração ou circulação desse tipo de conteúdo. Saiba o que está em jogo, quais recomendações foram expedidas e por que o assunto mobiliza o debate sobre inteligência artificial segura e a responsabilidade na proteção de dados dos brasileiros.
Recomendações oficiais para a plataforma X e ao Grok
A atuação coordenada dos órgãos federais surgiu após denúncias documentadas em reportagens nacionais e testes oficiais. Usuários relataram que por meio do Grok foi possível criar deepfakes com caráter sexualizado utilizando imagens de pessoas reais, incluindo casos envolvendo crianças e adolescentes. Segundo comunicado do governo, a gravidade das denúncias motivou ação direta para proteger direitos, prevenir riscos e responsabilizar digitalmente os envolvidos.
As recomendações determinam que medidas imediatas sejam tomadas paraimpedir que o Grok continue gerando imagens, vídeos ou áudios de natureza sexualizada, principalmente ligados a menores, e também de adultos identificáveis, sem autorização. Outra recomendação forte é que a empresa adote mecanismos transparentes para identificar, revisar e remover rapidamente esses conteúdos.
Além disso, a plataforma X deve criar procedimentos eficazes de denúncia, além de relatórios mensais que comprovem a suspensão imediata de contas envolvidas nesse tipo de abuso. A transparência é vista como fundamental neste processo, assim como a prestação de contas periódica para as instituições reguladoras.
O tema tem gerado interesse na sociedade sobre como usar a inteligência artificial de forma segura e quais riscos as tecnologias emergentes podem trazer ao cotidiano digital.
Consequências para descumprimento e ações futuras
O não cumprimento das recomendações poderá levar a novas medidas administrativas ou ações judiciais por parte da ANDP, MPF e Senacon. Essas medidas buscam garantir a integridade dos dados pessoais, proteger as pessoas envolvidas e assegurar a responsabilidade objetiva da empresa perante à legislação vigente.
Relatórios mensais também serão exigidos para monitorar a retirada de conteúdos e a suspensão de contas suspeitas. Além disso, haverá monitoramento contínuo dos dados gerados pela ferramenta Grok. O objetivo central é fortalecer as políticas de moderação e promover um ambiente digital mais responsável.
Como denunciar conteúdos indevidos e buscar apoio
O governo do Brasil recomenda que usuários utilizem mecanismos oficiais para denunciar conteúdos sexualizados suspeitos, especialmente aqueles criados por inteligência artificial. É possível acionar canais da própria plataforma X, além de órgãos como a ANDP e Senacon.
Nos 30 dias seguintes à recomendação, a empresa responsável também deve oferecer rotinas aprimoradas de resposta a denúncias e entrega de relatórios. A iniciativa deve resultar em ambiente mais seguro e consciente, conforme as diretrizes previstas para 2026.
Proteção de dados pessoais e impactos para o futuro
A atuação interinstitucional visa à proteção de direitos digitais, principalmente de grupos vulneráveis. Em processos que envolvam manipulação de fotos, vídeos ou áudios, um relatório de impacto à proteção de dados será obrigatório, reforçando práticas de governança e compliance digital.
Outras informações sobre direitos digitais e denúncia podem ser consultadas na seção de proteção de dados do portal AlertaGov.
Perguntas frequentes
- Onde denunciar conteúdos inadequados gerados pelo Grok? Nos canais oficiais da plataforma X ou diretamente à Agência Nacional de Proteção de Dados e à Senacon.
- Há punições se as recomendações não forem seguidas? Sim. Novas medidas administrativas ou ações judiciais poderão ser adotadas pela ANDP, MPF e Senacon para responsabilização da empresa.
- O que é “conteúdo sexualizado” mencionado nas denúncias? Refere-se a materiais produzidos por inteligência artificial, como deepfakes, com conotação erótica, publicados sem autorização das pessoas envolvidas.
Confira mais informações no portal Alerta Gov.
