La Comisión Europea (CE) anunció este lunes la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento a través de su inteligencia artificial, Grok, y que examinará si la compañía, propiedad del magnate Elon Musk, cumple con las obligaciones de las leyes digitales europeas.
En un comunicado, Bruselas dijo que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la Unión Europea, incluyendo la posible distribución de contenido ilegal como imágenes manipuladas sexualmente explícitas e que incluso pueden considerarse material de abuso sexual infantil.
"Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (…) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo", señaló.
Te podría interesar
Incluso antes de lanzar la investigación, la Comisión Europea ya había ordenado a la red social X conservar toda su documentación interna relativa a Grok durante 2026, en el marco de la investigación que mantiene abierta a la plataforma para analizar su política contra los contenidos ilegales.
La orden llegó en plena polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas y que han llevado al gobierno francés a denunciar a X ante los tribunales, que se añaden a otros contenidos como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado.
Fuentes comunitarias reconocieron que X ha tomado algunas medidas para frenar la diseminación de este tipo de imágenes después de la polémica y de que la Comisión Europea incrementara la presión sobre la empresa, pero apuntaron a que la investigación que acaban de abrir va más allá de las imágenes sexualizadas y que se trata de un problema más generalizado con la arquitectura de la red social y su IA.
Los escándalos
El pasado 10 de enero Indonesia bloqueó el acceso a Grok al considerar que la creación de imágenes sexuales falsas sin consentimiento de las personas agraviadas representa "una violación grave de los derechos humanos".
La decisión fue tomada "para proteger a las mujeres, los niños y a toda la comunidad de los riesgos de contenido pornográfico falso generado mediante tecnología de inteligencia artificial", según las autoridades indonesias.
Un par de días después Malasia adoptó una decisión similar a través de su Comisión de Comunicaciones y Multimedia de Malasia (MCMC) y restringió el acceso a la plataforma, sin que ello afectara al uso de X.
Por su parte, el regulador británico de seguridad en línea, Ofcom, anunció el 13 de enero pasado la apertura de una investigación formal contra X para determinar si ha cumplido sus obligaciones legales en el Reino Unido tras la circulación de imágenes sexualizadas, incluso de menores, creadas con esta herramienta.
El 15 de enero fueron las autoridades de Filipinas las que decidieron "el bloqueo del acceso a Grok en el país, tras la publicación de imágenes sexualmente explícitas".
En Irlanda, la Policía nacional (Garda) abrió una investigación sobre más de 200 de casos relacionados con la publicación de imágenes íntimas de menores generadas con esa herramienta.
También España se ha planteado accidentes contra Grok. El 7 de enero la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado que investigue si Grok puede estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.
La respuesta de Musk
Aunque en un primer momento Elon Musk respondió a la polémica publicando una fotografía hecha con IA en la que él aparecía en bikini, después aseguró que se estaban tomando medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil.
El 15 de enero Grok anunció que limitaba a todos los usuarios del sistema, incluidos los de pago, la posibilidad de editar fotografías
Tras las garantías ofrecidas por la herramienta de inteligencia artificial de X, el 22 de enero Filipinas restableció el servicio, y al día siguiente lo hizo Malasia.
Grok es el chatbot o asistente de Inteligencia Artificial (IA) generativa de la empresa xAI, propiedad del magnate Elon Musk, creado como respuesta al ChatGPT, de Open AI.
Su fundador Elon Musk, promocionó este chatbot como una IA con ‘humor irreverente’ que responde a preguntas consideradas tabúes para otras plataformas.
La Comisión Europea cree que, si da por probadas estas alegaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta cuando opera en la Unión Europea, incluyendo sobre la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.
Las mismas fuentes apuntaron que la investigación no tiene un calendario específico ni fechas límite, pero que, ante los riesgos relacionados con las funcionalidades de Grok, se tramitará de manera prioritaria en Bruselas.
Multa contra X por diseño engañoso
Bruselas ya multó a X en diciembre con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a esta ley por el "diseño engañoso" de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.
En paralelo, Bruselas prorrogó también este lunes su investigación en marcha desde 2023 sobre si X cumple con sus obligaciones de gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de cambiar a uno basado en la inteligencia artificial de Grok, tal y como ha anunciado recientemente la compañía.
kach