Pesquisa Revela Número Alarmante de Conteúdos Sexualizados Gerados por Inteligência Artificial

Uma recente investigação realizada pelo Center for Countering Digital Hate (CCDH) apontou que, desde o lançamento da ferramenta Grok, de geração de imagens por inteligência artificial, aproximadamente três milhões de conteúdos sexualizados foram criados. Esse total inclui 23 mil imagens que envolvem crianças.

Análise dos Conteúdos Criados

A pesquisa do CCDH analisou 20 mil imagens geradas aleatoriamente pela IA, de um total de 4,6 milhões produzidas em apenas 11 dias. Os pesquisadores conseguiram identificar com 95% de precisão as imagens que retratavam imagens explícitas de menores.

Foram consideradas sexualizadas aquelas que mostravam representações fotorrealistas de pessoas em situações sexuais ou vestidas de maneira provocante, como roupas íntimas ou biquínis transparentes. Exemplos incluem profissionais de saúde em poses sugestivas e figuras públicas, como Selena Gomez e Kamala Harris, retratadas de maneira sexualizada.

Frequência da Geração de Conteúdos Impróprios

A investigação revelou que, em média, ao menos uma imagem imprópria envolvendo crianças era criada a cada 41 segundos durante o período analisado. Ao final da pesquisa, 29 de 101 imagens sexualizadas de menores ainda estavam disponíveis na plataforma Grok.

Repercussões e Medidas Tomadas

A ferramenta Grok foi lançada na rede social X em 29 de dezembro. Nos dias seguintes, surgiram denúncias sobre a geração de imagens pornográficas sem o consentimento das vítimas, provocando uma forte polêmica. Em resposta, a plataforma limitou o uso da ferramenta apenas aos usuários pagantes, mas críticos argumentaram que essa medida não era suficiente para coibir abusos.

Em uma declaração, Elon Musk, proprietário do X, afirmou não ter conhecimento de que a IA estava gerando conteúdo explícito envolvendo menores e reforçou que a ferramenta deveria seguir as leis de cada país. Apesar disso, a pressão internacional aumentou, levando países como Indonésia e Malásia a bloquear o uso da IA.

Autoridades do Reino Unido, União Europeia e Índia também expressaram suas preocupações em relação às falhas de proteção da ferramenta. Em 14 de janeiro, foram implementadas restrições técnicas no Grok na tentativa de mitigar as críticas e reduzir a produção de imagens sexualizadas.