Desnudos creados con la IA de Grok: ¿cómo podemos actuar los usuarios?

Una nueva polémica sacude a X (antiguo Twitter) desde hace días. A través de Grok, su herramienta de Inteligencia Artificial (IA), algunos usuarios han manipulado sin consentimiento fotografías, sobre todo de mujeres y niños, creando desnudos e imágenes sexualizadas. Si somos víctimas de este tipo de montajes o tenemos conocimiento de ellos, es esencial reportarlo rápidamente a la plataforma. El Reglamento de Servicios Digitales (DSA, por sus siglas en inglés) les obliga a actuar con diligencia y tomar las medidas. Os explicamos cómo hacerlo:

Pasos que debemos seguir

🚩 Reportar el contenido ante la propia plataforma

Todas las plataformas que ofrecen sus servicios a destinatarios de la Unión Europea están obligadas por la DSA a tener una herramienta de fácil acceso (botón) para reportar contenidos ilícitos o contenidos contrarios a las condiciones generales de su servicio.

X, que es el caso que nos ocupa hoy, lo tiene en la parte superior derecha de sus posts. Allí aparecen siempre tres puntos (…). Pulsando, se despliegan estas opciones:

Las que nos interesan son:

• Denunciar contenido ilegal en la Unión Europea: cualquier contenido contrario a las leyes nacionales o europeas (p. ej. en España sería el tipificado en el código penal u otras normas) es considerado ilícito, según la DSA. En el caso de las fotos manipuladas, podríamos denunciar que vulneran nuestra protección de datos y la privacidad, nuestra propia imagen, que es contenido pornográfico o sexualizado, etc…
• Denunciar post: podemos denunciar cualquier contenido que consideremos que infringe las condiciones de servicio de X (incita a la violencia, al discurso del odio, etc.)

En ambos casos, la plataforma nos irá guiando mediante formularios específicos para completar correctamente la información.

🟢 Estar atentos a la respuesta de la plataforma

Una vez recibido nuestro reporte, la plataforma está obligada a actuar con diligencia e informarnos sobre sus actuaciones.

• Nos comunicará que ha recibido correctamente nuestra solicitud. Después de analizar el caso, nos informará de la decisión tomada con respecto a la información reportada, así como sobre las vías de recurso de que disponemos.
• En el caso del destinatario que ha publicado el contenido, la plataforma le enviará una declaración de motivos donde le informará sobre las medidas que ha tomado con respecto a su contenido (eliminación u otras restricciones).

🚩 Reclamar la decisión ante la propia plataforma

Si no estamos de acuerdo con la respuesta de la plataforma, podemos reclamar mediante su sistema de gestión interno de reclamaciones. Tenemos seis meses para ello.

• Este sistema debe estar gestionado también por medios humanos y no solo automatizados, algo fundamental en casos que no estén muy claros.
• La reclamación se tramitará de forma diligente y no discriminatoria.
• Si una reclamación aporta razones suficientes para reconsiderar la decisión de no atender a nuestra notificación inicial, la plataforma revertirá su decisión sin demora.

🟢 Estar atentos a la respuesta de la plataforma (decisión motivada)

La plataforma deberá enviarnos una decisión motivada sobre nuestra reclamación e informarnos de la posibilidad que tenemos de acudir a un órgano de resolución extrajudicial de litigios (artículo 21 de la DSA) y de otras vías de recurso de que dispongan.

Tutoriales para reclamar ante Instagram, YouTube, Facebook, Tik Tok, X, etc.

El Coordinador de Servicios Digitales de Irlanda (DSC, por sus siglas en inglés), país donde tienen su sede europea muchas grandes plataformas, ha publicado unos tutoriales (guías y vídeos) muy útiles sobre cómo reportar estos contenidos. Os animamos a que les echéis un vistazo:

• X (guía) y X (vídeo)
• En este enlace, los de Facebook, Tik Tok, Instagram o YouTube

Reclamación ante el Coordinador de Servicios Digitales

Además, los usuarios europeos, si detectamos una infracción de la DSA, podemos presentar una reclamación ante el DSC de nuestro país. En el caso de España, es la CNMC.

Importante: la CNMC, como DSC, solo es competente para supervisar y eventualmente sancionar los incumplimientos de la DSA en el caso de los prestadores de servicios digitales establecidos en España (más información). Para ello, los usuarios del servicio establecidos en España tienen que enviarnos sus reclamaciones. Eso excluye a los prestadores que tienen su sede de establecimiento europea en otros Estados miembros (EEMM) y a las grandes plataformas (tipo Tik Tok, X, Instagram, Meta, etc.), que son competencia casi exclusiva de la Comisión Europea o, en determinados casos, del DSC del Estado miembro donde estén establecidos.

No obstante, como DSC nacional, integrante de la red de autoridades encargadas de aplicar la DSA en la Unió Europea, nosotros recibiríamos la reclamación, la evaluaríamos y, si fuera oportuno, la transmitiríamos (con un dictamen, en su caso) al DSC del Estado miembro donde está establecida la plataforma.

En un caso como el de X y Grok sería Irlanda. Si la reclamación correspondiera a otra autoridad española, se la remitiríamos a ella.

Denuncia ante la policía, la Guardia Civil o la AEPD

Y, por supuesto, los usuarios siempre podemos denunciar el caso ante la Policía, la Guardia Civil u otras autoridades que puedan tener competencias, como la Agencia Española de Protección de Datos.

Por otra parte, en el caso de Grok, la CE ha iniciado una investigación, al igual que varios países, como Reino Unido, Francia, o Alemania. Malasia e Indonesia, directamente, acaban de prohibir el uso del chatbot de xIA. En España, la Fiscalía analiza el caso y el Gobierno anunció la semana pasada el Gobierno un anteproyecto de ley para frenar los deepfakes, mediante el refuerzo del derecho al honor, la intimidad y la propia imagen.

Si quieres saber más cosas sobre cómo puede ayudarte la normativa europea de servicios digitales (DSA), puedes consultar estas entradas del blog.