Grok limita su generador de imágenes con inteligencia artificial tras polémica por contenidos sexualizados
Grok, la herramienta de inteligencia artificial integrada en la red social X, limitó su generador de imágenes luego de una fuerte polémica por la creación de fotografías sexualizadas, entre ellas de menores de edad, solicitadas por miles de usuarios.
La plataforma propiedad de Elon Musk restringió el acceso a esta función únicamente a miembros de pago. Los usuarios sin verificación ahora reciben una invitación para adquirir una suscripción con el fin de desbloquear la creación y edición de imágenes.
La propia herramienta informó que la creación y edición de imágenes quedó disponible solo para cuentas con pago activo. El aviso apareció cuando usuarios intentaron sexualizar personas o modificar la vestimenta de mujeres y niños mediante comentarios.
De acuerdo con CNBC, el uso abusivo del chatbot de X inició a finales de diciembre. La situación se intensificó durante Nochevieja. El fenómeno se extendió por la plataforma y facilitó la difusión de imágenes explícitas, en muchos casos sin el consentimiento de las víctimas.
La decisión surgió tras protestas de usuarios y reacciones de autoridades internacionales. En Reino Unido, el Gobierno incluso valoró una posible prohibición de X, según informó The Guardian, ante la falta de controles efectivos.
En España, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía investigar a Grok. El pedido se basó en presuntos delitos relacionados con la difusión de material de violencia sexual contra la infancia, tras conocerse casos de desnudos generados con inteligencia artificial.
La Unión Europea también reaccionó. El bloque condenó el uso de la herramienta para crear imágenes de menores. Además, pidió a X conservar la documentación generada por Grok hasta finales de 2026, con el fin de facilitar una eventual investigación, informó Bloomberg.
Ante la controversia, Elon Musk respondió en un mensaje publicado en X que cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que quien publique ese tipo de material en la plataforma.
Las políticas de xAI establecen que el servicio no permite representar imágenes de personas de forma pornográfica ni la sexualización o explotación de niños, como parte de sus obligaciones para cumplir con la ley.
*La creación de este contenido contó con la asistencia de inteligencia artificial. La fuente de esta información es de una agencia de noticias y revisada por un editor para asegurar su precisión. El contenido no se generó automáticamente.