A geração de imagens pela inteligência artificial Grok, da rede social X, tem violado a proteção de dados pessoais dos usuários. A ferramenta pode gerar imagens sexualizadas, mantendo as características de pessoas reais, sem qualquer conhecimento ou autorização.

O Instituto de Defesa de Consumidores, o Idec, apresentou nesta semana à Agência Nacional de Proteção de Dados, a ANPD, uma denúncia contra essa ferramenta. Julia Abad, pesquisadora do Idec, diz que é preciso a adoção de providências urgentes para evitar mais danos.

“A gente precisa pensar em bloqueios automáticos de comando que envolvam essa nudez e sexualização. A proibição e restrição do uso de imagens reais de crianças e adolescentes, barreiras específicas que impeçam essa geração de imagens de sexualização, sem autorização. E canais de denúncia que funcionem de forma rápida e efetiva. Porque, como a gente viu, muitas pessoas denunciavam as imagens e, infelizmente, a plataforma, empresa nada fez”.

O Idec pede a suspensão imediata das funcionalidades da Grok que utilizem dados de pessoas reais, com a interrupção do uso de dados para treinar o sistema. Para o Instituto, a prática é ainda mais grave no caso de crianças e adolescentes, pois a legislação brasileira impõe regras mais rigorosas para uso de dados deste público.

O Idec ainda alerta para a falta de transparência da plataforma X, já que a política de privacidade da ferramenta não está disponível em português, o que dificulta que brasileiros possam entender como seus dados são usados.

Em casos em que uma pessoa tenha sua imagem manipulada por essa ou outra plataforma, a pesquisadora do Idec, Julia Abad, diz que as vítimas devem buscar proteção e responsabilização.

“O primeiro passo é tentar contato com a própria plataforma e guarde esses comprovantes. Se não houver resposta, é fundamental que ela faça uma denúncia. No Procon, por exemplo, da sua cidade ou estado, o Disque 100, que é um canal do governo federal de denúncias, quando forem casos mais graves. Por exemplo, de sexualização. Registrar um boletim de ocorrência pra que seja feita uma investigação criminal sobre o caso, e também buscar juizados especiais, em caso de reparação financeira”.  

Em nota, a Agência Nacional de Proteção de Dados afirmou que as denúncias recebidas estão sob análise da fiscalização do órgão e que está em diálogo com outros órgãos públicos com competência correlata.

A criação de imagens com uso da ferramenta Grok também vem causando preocupação em diversos países do mundo.

Nessa quarta-feira (14), a plataforma X divulgou, em sua página de segurança, em inglês, que mantém tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. Também afirmou que será bloqueada a geração de imagens sexualizadas em países onde isso seja ilegal.

A rede social anunciou que houve atualização da inteligência artificial Grok para impedir edição sexualizada de imagens de pessoas reais. Afirma ainda que edição e criação de imagens estarão disponíveis apenas para contas pagas, permitindo que esses indivíduos sejam responsabilizados.

O Idec afirma que verificou a rede social X e, até o momento, ela continua permitindo a geração das imagens questionadas.

A reportagem não conseguiu localizar a assessoria de imprensa da plataforma X no Brasil.