Bruselas amenaza con endurecer las normas sobre Grok tras la polémica por generación de imágenes explícitas
La Comisión Europea ha advertido que no dudará en adoptar nuevas medidas regulatorias contra Grok, el asistente de inteligencia artificial desarrollado por xAI y vinculado a la red social X, tras la polémica por la generación de imágenes desnudas y sexualizadas sin consentimiento que considera contrarias a la normativa de la Unión Europea, según afirmó este martes la comisaria de Soberanía Tecnológica, Henna Virkkunen.
Bruselas ha intensificado su escrutinio sobre Grok, una herramienta de inteligencia artificial integrada en la red social X propiedad de Elon Musk, después de que surgieran numerosas quejas y críticas por su uso en la creación de imágenes manipuladas sexualizadas, incluidas representaciones no consensuadas de personas en ropa reveladora o desnudas.
La comisaria europea de Soberanía Tecnológica, Henna Virkkunen, afirmó que la Comisión “no dudará en tomar nuevas medidas” para controlar y regular este tipo de funcionalidades si se demuestra que Grok no cumple con las exigencias de seguridad y protección establecidas en el Marco Regulador Europeo de Servicios Digitales.
Esta advertencia llega en un contexto de creciente preocupación internacional sobre la generación de contenidos sexualizados no consentidos mediante inteligencia artificial, que ha sido descrito por autoridades europeas como “ilegal” y “repugnante”. Países como Francia, Reino Unido, India y Malasia han abierto investigaciones o tomado medidas legales relacionadas con la difusión de este tipo de contenidos generados por herramientas de IA.
Además, la UE ha ordenado a X que conserve toda la información y documentación interna relacionada con Grok hasta finales de 2026, como parte de un examen más amplio para evaluar si la compañía cumple con las obligaciones de transparencia y responsabilidad impuestas por la legislación digital comunitaria.
El foco de la polémica se ha centrado en un botón de “edición de imágenes” que permitió a usuarios solicitar a Grok modificar fotografías para mostrar a personas en situaciones sexualizadas, un uso que ha generado denuncias por difusión de deepfakes no consentidos, especialmente de mujeres y menores, lo que ha llevado a sectores políticos y reguladores a demandar medidas más estrictas.
Frente a las críticas, X ha implementado algunas restricciones, como limitar la generación y edición de imágenes a cuentas de suscriptores de pago en determinados contextos y prohibir la creación de imágenes sexualizadas en aquellas jurisdicciones donde esta práctica es ilegal, pero reguladores europeos han señalado que estas acciones pueden no ser suficientes sin un marco normativo más estricto.
La amenaza de Bruselas de reforzar la regulación de herramientas como Grok subraya la creciente preocupación por la seguridad digital y la protección de derechos fundamentales en el entorno virtual, y plantea la posibilidad de una aplicación más rigurosa de normas comunitarias que salvaguarden la integridad y la intimidad de los ciudadanos frente a abusos tecnológicos.