Grok, la herramienta de inteligencia artificial (IA) de la red social X (antes Twitter), ha limitado su generador de imágenes tras la polémica de las fotografías sexualizadas demandadas por miles de usuarios, entre las que se encuentran menores de edad. Musk ha sido amenazado con multas y varios países se han pronunciado públicamente en contra de la herramienta por la creación de imágenes sexualmente explícitas. Algunos usuarios utilizaban Grok para generar imágenes de mujeres y niños desnudos a veces colocándolos en posiciones sexualizadas . La plataforma de Elon Musk ha restringido el acceso a esta herramienta a los miembros de pago y ha ofrecido a los usuarios sin insignia de verificación la opción de adquirir una suscripción para desbloquearla. «La creación y edición de imágenes actualmente solo está disponible para miembros de pago. Puedes suscribirte para desbloquear estas funciones», ha respondido Grok a los usuarios que han pedido sexualizar o cambiar la ropa de personas, principalmente mujeres y niños, en comentarios. Según CNBC, el abuso del 'chatbot' de X comenzó a finales del pasado mes de diciembre, hasta que escaló en Nochevieja y se extendió por la plataforma, ampliándose así la distribución de imágenes explícitas, sin consentimiento de las víctimas en la mayoría de los casos. La medida llega tras las protestas de los propios usuarios y las autoridades, como el caso de Reino Unido, que llegó a amenazar a Musk con una posible prohibición de X en el país, según 'The Guardian'. En España, la ministra de Juventud e Infancia, Sira Rego, ha pedido a la Fiscalía investigar a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia tras los casos de desnudos de menores. Por su parte, la Unión Europea ha condeando el uso de esta herramienta para generar imágenes de menores y ha pedido a X que conserve la documentación generadaa por Grok hasta finales de 2026 para una posible investigación, ha informado Bloomberg. En un post de X, Elon Musk ha respondido que « cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal». En concreto, las políticas de xAI establecen que, para cumplir con la ley, no permite el uso de su servicio para «representar imágenes de personas de manera pornográfica» ni «la sexualización o explotación de los niños».
