A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) recomendaram à empresa controladora da plataforma X que tome medidas para evitar o uso indevido da ferramenta de inteligência artificial Grok, a fim de coibir a geração e circulação de conteúdos sexualizados inadequados.

Recomendaçõespara Proteção de Dados

Em um documento divulgado na última terça-feira (20), as instituições solicitaram a implementação, em até 30 dias, de procedimentos técnicos para identificar, revisar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários.

Entre as recomendações, destaca-se a suspensão imediata de contas que produzam imagens sexualizadas ou erotizadas—tanto de crianças e adolescentes quanto de adultos—sem consentimento prévio.

Mecanismos de Denúncia e Transparência

As agências pedem ainda a criação de mecanismos acessíveis para que titulares de dados possam exercer seus direitos, incluindo a denúncia de uso irregular ou ilegal de dados pessoais, particularmente em casos de criação de conteúdos sintéticos sem consentimento. Essas denúncias devem assegurar respostas adequadas em um prazo razoável.

Denúncias e Testes Fundamentais

As recomendações surgiram após denúncias de usuários sobre a geração de conteúdos sintéticos sexualizados utilizando imagens de pessoas reais. Reportagens na mídia, além de testes realizados pelas próprias instituições, evidenciaram o uso ilegal da ferramenta para criar deepfakes, que geram imagens falsas com conotações sexualizadas envolvendo mulheres, crianças e adolescentes.

Impacto e Diligência Necessária

As instituições ressaltam que conteúdos dessa natureza podem impactar a proteção de dados, as relações de consumo e a dignidade humana, afetando principalmente grupos vulneráveis, como mulheres, crianças e adolescentes.

As instituições afirmam: “Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novos conteúdos sexualizados envolvendo crianças e adolescentes.”

Coautoria Direta da Plataforma

O documento também destaca que, embora o artigo 19 do Marco Civil da Internet preveja que provedores não sejam responsabilizados por conteúdos de terceiros, a situação das deepfakes implica uma coautoria da plataforma, tornando a retirada dos conteúdos problemáticos uma obrigação.

Decisões Recentes do STF

Recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19, ao afirmar que ele não protege adequadamente direitos constitucionais. O STF determinou que provedores têm um dever especial de evitar a circulação de crimes graves, incluindo conteúdos que promovem ódio contra mulheres.

Políticas Internas da Plataforma

As instituições lembram que a política de autorregulação da plataforma X proíbe a publicação de imagens sem consentimento. A produção e manipulação de imagens sexualizadas envolvendo o Grok devem ser rigorosamente controladas, tornando insustentável a disponibilização de uma ferramenta que favoreça comportamentos abusivos.

Possíveis Medidas Futuras

Se as recomendações não forem atendidas ou se as ações forem insuficientes, as instituições poderão considerar outras medidas administrativas e judiciais, visando garantir a proteção de cidadãos, especialmente de mulheres, crianças e adolescentes.