O governo federal e o Ministério Público Federal (MPF) intensificaram a pressão sobre a plataforma X após a circulação de imagens pornográficas geradas por inteligência artificial por meio do chatbot Grok, ferramenta integrada à rede social controlada por Elon Musk.
As cobranças envolvem uma série de exigências para que a empresa adote medidas imediatas capazes de impedir o uso indevido da inteligência artificial para a criação e manipulação de imagens íntimas. Segundo as autoridades, o sistema passou a aceitar comandos que alteram fotografias de pessoas reais, incluindo pedidos para tornar roupas transparentes, modificar poses e inserir elementos de cunho sexual.
Além do MPF, participam das ações a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), órgão ligado ao Ministério da Justiça. Os órgãos defendem que a plataforma suspenda, com urgência, as contas associadas à produção e disseminação desse tipo de conteúdo.
As entidades também solicitaram esclarecimentos formais ao X sobre os mecanismos de controle adotados no Grok, especialmente no que diz respeito à proteção de direitos fundamentais, como privacidade, dignidade e imagem de terceiros.
O episódio reacende o debate sobre a responsabilidade das plataformas digitais no uso de ferramentas de inteligência artificial generativa. No Brasil, o tema ganha relevância em meio à discussão sobre regulação das big techs e ao avanço de normas voltadas à proteção de dados pessoais e dos direitos do consumidor.
Entre as recomendações apresentadas pelo governo estão a criação de canais específicos para denúncias, o aprimoramento dos filtros de segurança e a elaboração de relatórios periódicos sobre o uso da IA para manipulação de fotos, vídeos e áudios publicados por usuários.
Até o momento, o X não anunciou publicamente quais medidas pretende adotar em resposta às cobranças. O caso segue sob análise dos órgãos de fiscalização, que avaliam possíveis sanções caso a plataforma não cumpra as exigências legais relacionadas ao uso responsável da inteligência artificial.
