- La herramienta de IA solo permitirá editar imágenes a usuarios de pago
- Gobiernos y la Comisión Europea mantienen críticas y posibles sanciones
- Especialistas advierten que la medida no resuelve el problema de fondo
Restricción tras polémica internacional
La red social X, propiedad de Elon Musk, limitó a usuarios de pago la función de edición y generación de imágenes de su herramienta de inteligencia artificial Grok, luego de una ola de denuncias por la manipulación de fotografías de personas reales para mostrarlas desnudas o con contenido sexual sin consentimiento.
Desde este viernes, Grok notifica a los usuarios que la edición de imágenes solo está disponible para cuentas con suscripción, lo que implica que el nombre y los datos de pago quedarían vinculados al contenido generado. Musk advirtió que cualquier persona que utilice la herramienta para crear contenido ilegal enfrentará las mismas consecuencias que si lo publicara directamente en la plataforma.
Uso indebido y denuncias en la red
Antes de la restricción, Grok era de acceso gratuito y permitía subir y modificar imágenes. Diversos usuarios reportaron que la herramienta aceptaba solicitudes para alterar fotografías de mujeres y menores, generando versiones sexualizadas o desnudas, lo que provocó una fuerte reacción social y mediática.
Una de las denunciantes fue la filósofa Daisy Dixon, profesora de la Universidad de Cardiff, quien calificó la decisión de X como una solución insuficiente. Señaló que la suspensión parcial de la generación de imágenes podría frenar temporalmente los abusos, pero no corrige lo que describió como un problema estructural de diseño ético y misoginia en la inteligencia artificial.
Dixon subrayó que más del 95% de los abusos sexuales con imágenes no consentidas en plataformas digitales afectan a mujeres, y advirtió que el problema de la IA es, en última instancia, un problema humano.
Reacciones oficiales y presión internacional
Varios gobiernos, principalmente en Europa, calificaron como “repugnante” la generación de imágenes sexualizadas de mujeres y menores mediante Grok. En España, la ministra de Juventud e Infancia, Sira Riego, solicitó a la Fiscalía General del Estado investigar a X por presuntos delitos relacionados con la difusión de material de violencia sexual contra la infancia.
El gobierno británico también exigió a la plataforma una solución urgente para frenar la proliferación de imágenes falsas sexualmente explícitas generadas con inteligencia artificial.
Postura de la Comisión Europea
La Comisión Europea afirmó que la restricción a usuarios de pago no modifica su condena al uso de Grok para generar imágenes sexuales de mujeres y menores. El portavoz de política digital, Thomas Regnier, señaló que el problema persiste independientemente de si el usuario paga o no por el servicio.
Bruselas mantiene abierta una investigación sobre el funcionamiento de los algoritmos de X y ha ordenado a la empresa conservar toda la documentación interna relacionada con Grok hasta finales de 2026. Aunque no descarta sanciones adicionales, la Comisión reiteró que su objetivo es obligar a la plataforma a corregir sus fallas, no prohibirla de forma inmediata.
Investigación y antecedentes regulatorios
La Comisión Europea recordó que a principios de diciembre X fue multada con 120 millones de euros por incumplir la Ley de Servicios Digitales. En el contexto actual, el organismo analiza si las medidas adoptadas por la compañía son suficientes para prevenir la generación y difusión de contenido ilegal mediante inteligencia artificial.
