Investigação aponta que Grok produziu 3 milhões de imagens sexualizadas com uso de fotos reais

Um levantamento divulgado por pesquisadores de segurança digital indica que o chatbot Grok, desenvolvido pela xAI e integrado à plataforma X, foi utilizado para gerar cerca de três milhões de imagens sexualizadas a partir de fotografias reais em um curto intervalo de tempo.

O estudo foi conduzido pelo Centro de Combate ao Ódio Digital, organização que monitora abusos e desinformação online. Segundo o relatório, a produção ocorreu após a liberação de um recurso de edição que permitia alterar imagens de pessoas com comandos simples de texto, criando montagens íntimas altamente realistas.

As imagens, classificadas como deepfakes, simulavam nudez ou trajes mínimos em mulheres conhecidas e anônimas. De acordo com os pesquisadores, parte do material analisado também apresentava características que indicam representação de menores, o que eleva a gravidade do caso e pode configurar infrações penais em diferentes países.

Disseminação em larga escala

O documento aponta que o volume de conteúdo foi gerado em poucos dias e se espalhou rapidamente em redes sociais e outros ambientes digitais. Especialistas alertam que esse tipo de manipulação pode causar danos profundos às vítimas, atingindo reputação, saúde mental e segurança pessoal.

Entre os exemplos identificados estão montagens envolvendo celebridades e figuras públicas, o que ampliou a visibilidade do caso e reforçou o debate sobre o uso de inteligência artificial para a criação de conteúdo íntimo não consentido.

Reação de autoridades

Após a repercussão, autoridades de diferentes países passaram a discutir medidas para restringir ou proibir funcionalidades que permitam esse tipo de edição. Órgãos reguladores avaliam se houve falhas nos mecanismos de moderação e proteção implementados pela empresa responsável pela tecnologia.

Procuradas por veículos internacionais, as companhias ligadas ao desenvolvimento da ferramenta não apresentaram comentários detalhados sobre os dados do relatório. Já entidades de proteção digital defendem a criação de regras mais rígidas para plataformas que disponibilizam recursos capazes de manipular imagens reais com alto grau de realismo.

O caso reacende a discussão global sobre limites éticos da inteligência artificial, responsabilidade das empresas de tecnologia e a necessidade de mecanismos mais eficazes para coibir abusos digitais em larga escala.

Leia mais:

Polícia prende homem de 73 anos com mais de 1 milhão de arquivos de pornografia infantil

O post Investigação aponta que Grok produziu 3 milhões de imagens sexualizadas com uso de fotos reais apareceu primeiro em Jornal Opção.