MPF e governo mandam Grok, do X, não produzir conteúdo sexualizado de crianças

Autoridades brasileiras querem que o X implemente imediatamente medidas para impedir que o Grok, ferramenta de inteligência artificial da plataforma, produza conteúdo relacionado a sexualização infantil.

Procurado pelo Estadão, o X não havia respondido aos questionamentos da reportagem até a publicação deste texto.

O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) publicaram uma determinação nesta terça-feira, 11, em que cobram celeridade da empresa do bilionário Elon Musk em corrigir as falhas no Grok.

Os órgãos já tinham cobrado a empresa para solucionar o problema após receberem denúncias relacionadas ao uso do Grok para gerar conteúdo sintético de caráter sexualizado usando imagens de pessoas reais.

As denúncias se referiam ao uso da ferramenta do X para produzir ilegalmente deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres (sem consentimento), crianças e adolescentes reais.

Em resposta à recomendação das autoridades, o X disse que removeu milhares de publicações e suspendeu centenas de contas por violações às suas políticas, e que adotou medidas de segurança.

O MPF, a Senacon e a ANPD entenderam, no entanto, que as informações apresentadas "não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade". O MPF diz que testes feitos pelas equipes técnicas das instituições apontam a "persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas".

"Diante disso, ANPD e Senacon determinaram que o X implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento. As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados na recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta", diz o MPF.

Os relatórios mensais, que devem ser enviados ao MPF a partir deste mês, devem conter detalhes sobre como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia.

A empresa de Musk deverá indicar o número de publicações nocivas que foram derrubadas e o número de contas envolvidas nessas práticas que foram suspensas, em cada período relatado, pelos controladores da plataforma.

O MPF avalia que o X não foi transparente em relação às medidas que alega que teriam sido adotadas para combater os crimes, e se limitou a fazer referência a informações "ora genéricas, ora que não diziam respeito especificamente ao incidente ocorrido neste ano com o Grok".

Nos últimos meses, o Grok havia sido promotor de uma avalanche de conteúdo criminoso na internet. A inteligência artificial do X estava produzindo imagens retirando a roupa de pessoas, com um mero comando de quaisquer usuários na rede.

Mensagens como "Grok, tire a roupa dela", seguidas de imagens de crianças, jovens e mulheres reais, inundaram a plataforma, até que a empresa interrompesse a geração desse tipo de imagens. As denúncias chegaram ao MPF e ao governo federal, que então cobraram uma resolução por parte do X.