Governo determina que X implemente de forma imediata medidas para corrigir falhas no Grok
Em uma ação coordenada e enérgica, a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública (MJSP), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) determinaram que a plataforma X implemente de forma imediata medidas rigorosas para corrigir falhas na sua ferramenta de inteligência artificial Grok. A decisão conjunta surge após a avaliação das providências apresentadas pela empresa, consideradas insuficientes para impedir a geração e a circulação de conteúdos sexualizados ou erotizados indevidos, envolvendo crianças, adolescentes e adultos sem consentimento.
As instituições brasileiras haviam emitido uma Recomendação Conjunta à X, que respondeu afirmando ter removido milhares de publicações e suspendido centenas de contas, além de adotar medidas de segurança. Contudo, em análise minuciosa, Senacon, ANPD e MPF concluíram que as informações careciam de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que atestassem sua efetividade. Testes preliminares indicam a persistência das falhas, com a contínua produção e disseminação de conteúdo inadequado.
Diante da gravidade da situação, a Senacon e a ANPD exigiram que a X implemente imediatamente soluções técnicas, administrativas e organizacionais para impedir a geração de imagens, vídeos ou áudios sexualizados ou erotizados pelo Grok, que representem menores ou adultos sem consentimento explícito. A Senacon, baseada no Código de Defesa do Consumidor, solicitou ainda um detalhamento das providências já adotadas e um relatório métrico com dados quantitativos sobre identificação, moderação e remoção de conteúdos.
Por sua vez, a ANPD, com fundamento no Regulamento de Fiscalização, expediu medida preventiva, determinando o aprimoramento imediato das medidas técnicas e organizacionais em todas as versões do Grok. A empresa tem um prazo de cinco dias úteis para comprovar o cumprimento das determinações e a eficácia das ações por meio de evidências documentais verificáveis.
O Ministério Público Federal, criticando a falta de transparência da X em sua resposta anterior, ordenou a entrega de relatórios mensais detalhados. Estes documentos deverão especificar como a plataforma está atuando para impedir e reprimir a produção de “deepfakes” envolvendo menores e adultos não autorizados, incluindo o número de postagens nocivas derrubadas e contas suspensas.
As consequências para a X em caso de descumprimento são severas. A Senacon alertou para a instauração de processo administrativo sancionador, que pode resultar em multas e obrigações específicas, conforme o Código de Defesa do Consumidor. A ANPD poderá impor multas diárias e outras medidas mais rigorosas, além de processos administrativos. Já o MPF adverte que a não apresentação dos relatórios pode levar a que os envolvidos respondam pelo crime de desobediência, a investigações mais incisivas e até mesmo a ações judiciais para reparação de danos e prevenção de novos ilícitos. A ação conjunta ressalta o compromisso das autoridades brasileiras em garantir um ambiente digital seguro e responsabilizar as plataformas por suas responsabilidades.