Dignidad en la IA

El caso de las imágenes: cuando lo cotidiano deja de ser neutro

Hablemos de la dignidad en relación con un gesto que repetimos casi sin pensar: haces una foto en una cena, la mandas por WhatsApp, alguien la sube a una app que “la convierte en anime” o “la mejora con IA”. La publica. No hay mala intención. Y, sin embargo, ya pasó “algo”: esa imagen entró en un sistema que decide cómo procesarla, cuánto tiempo conservarla, quién puede acceder a ella, con qué fines, y además extrae datos de cada una de las personas retratadas.

Fotografía de una típica cena familiar, que ha sido modificada con IA para tener la apariencia de un anime.

Ese “algo” es el nuevo territorio ético de nuestro tiempo en Inteligencia artificial: la dignidad en la cultura digital.

Durante años, el debate se ha estado enfocando en la obligación moral de publicar sin permiso y por ello lo usual es hablar del consentimiento. Y este debate es muy importante, pero la inteligencia artificial añade un salto: el riesgo no empieza en la difusión de las imágenes, sino antes, en el procesamiento. Y ahí solemos estar dormidos.

La dignidad se ha vuelto frágil en la cultura digital

Decir que la dignidad “se volatilizó” sería demasiado absoluto, porque la dignidad no desaparece. Lo que ocurre es más sutil y, por eso, más preocupante: hemos normalizado (¿banalizado?) microfracturas de dignidad. Pensemos tan solo en esas pequeñas decisiones que parecen irrelevantes – y por ello son tan peligrosas- como reenviar una foto, hacer un meme, poner a alguien un filtro…  El problema es que todas estas acciones, acumuladas, van erosionando el respeto por lo humano.

La dignidad es aquello que no tiene precio: el valor inherente de toda persona por el simple hecho de serlo, independientemente de su apariencia, su edad, su condición social o sus capacidades. No es un mérito: es un punto de partida.

Kant lo formuló con una frase que debería seguir incomodándonos, porque es un espejo:

«el ser humano no puede ser tratado “simplemente como medio”, sino como fin en sí mismo«

En otras palabras: ninguna persona debería convertirse en herramienta para el entretenimiento ajeno, el lucro, la humillación, el chantaje, o incluso para la “diversión” de terceros si esa diversión implica instrumentalizar la dignidad.

En el mundo digital, esa frontera se difumina con facilidad:

🔹 ¿La imagen de alguien es un recuerdo, o es materia prima?

🔹 ¿Es una presencia humana, o un recurso que puedo “usar” para probar una herramienta?

Ahí aparece el punto clave: la dignidad funciona como límite. No solo como idea bonita, sino como criterio para decidir.

Cuando metimos  las cámaras en el  bolsillo, lo normalizamos

Desde finales de los años noventa, con la popularización de los teléfonos con cámara, fotografiar dejó de ser un acto deliberado para convertirse en un reflejo; antes necesitábamos una cámara, un momento, cierta preparación, ahora solo basta con un clic para capturar la imágen de alguien.

Y con el gesto llegó otra revolución: la distribución. Enviar una foto es tan rápido y fácil que lo hemos normalizado. Y en esa normalización se nos coló lo que casi nunca discutimos con seriedad: 

🔹 ¿Qué implica convertir a una persona en imagen circulante?

🔹 ¿Qué significa que su rostro pueda aparecer fuera de contexto, sin control, sin límites claros?

Durante años, la ética llegó ex post: reaccionábamos cuando el daño era visible. Cuando la imagen ya había hecho daño en la reputación, en la vida laboral, en la salud psicológica, en la intimidad. Cuando el incendio ya se había declarado.

La IA nos exige algo más difícil y más maduro: ética ex ante. Prevención.

La IA cambia las reglas: el riesgo también es “invisible”

Esta semana, la Agencia Española de Protección de Datos (AEPD) publicó una nota y una guía con un título muy directo: “El uso de imágenes de terceros en sistemas de inteligencia artificial y sus riesgos visibles e invisibles”. 

Lo valioso del documento no es solo lo que dice, sino lo que obliga a aceptar: que el problema ya no es únicamente “subir una foto a redes”, sino usar imágenes de otras personas en sistemas de IA, aunque sea con fines “lúdicos”.

Y la AEPD subraya algo que conviene grabarse: si una persona es identificable en una imagen o vídeo, estamos hablando de datos personales. 

A partir de ahí, el documento distingue dos capas de impacto:

• Riesgos visibles: los que aparecen cuando el contenido se comparte (viralidad, humillación, descontextualización, daño reputacional, sexualización, suplantación).
• Riesgos invisibles: los que ocurren “por detrás” aunque no publiques nada (pérdida de control, retenciones técnicas, copias, acceso por múltiples actores, finalidades añadidas del proveedor, trazas y metadatos, posibilidad de recrear a la persona en múltiples escenas). 

Y aquí está la grieta ética más profunda: la IA facilita que el rostro y el cuerpo se conviertan en insumos recombinables. La persona como fin se degrada hacia la persona como “dataset”. No siempre por maldad; muchas veces por arquitectura y cultura.

Algunas ideas esenciales de la AEPD (para entenderlo sin tecnicismos)

1) Una imagen identificable es un dato personal.
Rostro, voz, cuerpo, gestos, ropa, tatuajes, entorno o relaciones: si permite identificar o hacer identificable a alguien, es un dato personal, aunque no aparezca el nombre y aunque esté editada o “estilizada” por IA. 

2) Subir o transformar imágenes con IA ya es tratamiento.
No hace falta difundir el resultado: el simple hecho de cargar la imagen en una herramienta, transformarla o generar variantes implica tratamiento de datos personales, incluso si el uso es “banal” o “por curiosidad”. 

3) El daño visible se multiplica con ciertos factores.
La guía propone criterios para valorar el riesgo cuando el contenido circula: expectativa razonable (que algo esté en WhatsApp o redes no autoriza a subirlo a IA), facilidad de difusión, persistencia y dificultad real de retirada, sexualización, atribución de hechos falsos pero verosímiles, descontextualización, vulnerabilidad (especialmente menores) e impacto en salud, relaciones o trabajo. 

4) El daño invisible también existe, y es actual.
Incluso si no publicas, entran factores estructurales: pérdida de control al intervenir un tercero tecnológico; retención y copias técnicas; más actores con acceso; usos añadidos; metadatos e inferencias; asimetría informativa (la persona afectada no sabe qué sistema se usó ni cómo ejercer derechos); incidentes de seguridad; y el efecto multiplicador (generar muchas variantes barato aumenta probabilidades de usos lesivos). 

Consentimiento no es lo mismo que respeto

Aquí aparece tu puente filosófico más interesante: cumplir no equivale a respetar.

Puedes tener permiso para una foto en un contexto específico (una familia, un evento, un equipo de trabajo) y aun así usarla de un modo que instrumentaliza o humilla. La ética no se reduce a “me dejó hacer la foto”. La pregunta es: ¿para qué la estoy usando ahora? ¿Qué estoy haciendo con esa persona a través de su imagen?

La dignidad es un “no” muy concreto: no convertir al otro en herramienta de mi experimento, de mi juego, de mi narrativa, de mi necesidad de validación social.

La dimensión legal en España: depende del caso, pero no es un juego

Conviene ser claros sin caer en alarmismo: en España, el uso y difusión de imágenes puede generar consecuencias civiles, administrativas y, en ciertos supuestos, penales.

• Protección civil (honor, intimidad, propia imagen). La Ley Orgánica 1/1982 protege estos derechos frente a intromisiones ilegítimas. No todo uso está permitido por el hecho de que una imagen exista o haya sido compartida una vez; el contexto y el consentimiento importan. 
• Protección penal en supuestos concretos. Por ejemplo, la difusión no consentida de imágenes íntimas que menoscaben gravemente la intimidad puede encajar en el art. 197.7 del Código Penal, y la jurisprudencia ha venido delimitando este tipo. 
• Protección de datos y actuación de la AEPD. Si hay tratamiento de datos personales sin base legitimadora, puede haber responsabilidad administrativa. Y la AEPD insiste en que subir imágenes de terceros para que una IA las procese puede ser tratamiento sujeto a obligaciones y sanciones si no hay consentimiento o base válida. 

Además, el debate social está promoviendo  cambios: el Gobierno ha planteado reformas para reforzar la protección civil frente a deepfakes y usos no autorizados que dañen la dignidad o reputación. 

(Si me lees desde Latinoamérica: existen marcos específicos como la “Ley Olimpia” en México, pero conviene tratarlo en un apartado propio para no mezclar jurisdicciones. Aquí me centro en España.)

Un umbral de prudencia: menores y personas vulnerables

Si hay una línea que debería convertirse en cultura común, es esta: con menores y personas vulnerables, la prudencia no es opcional. Es una obligación moral.

Porque cuando un menor aparece en una imagen, no estamos gestionando “contenido”; estamos gestionando una vida en construcción. Y cuando esa imagen entra en sistemas de IA, el riesgo de pérdida de control se multiplica. Esto no va solo de privacidad: va de futuro, de autonomía, de protección del espacio íntimo donde una persona aprende a ser quien es.

La ética, aquí, no debería ser un “reglamento”. Debería ser un acto de cuidado.

Check list ético

Para terminar, me gustaría dejaros este checklist ético, que os ayudará a conectar la dignidad y la responsabilidad ética que tenemos, con las fotos de terceras personas, incluso, sin son nuestra familia o hijos.

5 preguntas antes de subir una foto de otra persona a una IA

1. ¿Tengo permiso explícito para este uso concreto?
   No “lo vio en redes”. No “ya la mandó por WhatsApp”. Este uso: subirla a una IA y generar variantes.
2. Si esa persona estuviera aquí, ¿se sentiría tratada como fin o como medio?
   ¿La estoy usando para entretenerme, experimentar, probar una herramienta o producir algo “a costa” de ella?
3. ¿Qué pasaría si el resultado se hiciera público?
   Aunque no planees publicarlo: ¿podría humillar, sexualizar, descontextualizar, dañar reputación o crear una “prueba” falsa pero verosímil?
4. ¿Estoy creando un riesgo invisible que luego no puedo deshacer?
   ¿Sé qué herramienta es, qué hace con la imagen, cuánto retiene, quién accede, con qué finalidades y qué controles ofrece?
5. ¿Es un menor o una persona vulnerable?
   Si la respuesta es sí, cambia el estándar: exige máxima prudencia, y casi siempre la mejor decisión es no subirla.