Datos: ¿Se puede hacer el bien sin ser ético?

Los datos empezaron a ser algo visible e importante para muchos de nosotros cuando, en 2018, se destapó el escándalo de Cambridge Analytica¹, cuando esta compañía recopiló millones de datos personales a través de Facebook, bajo la apariencia de una encuesta educativa.

El problema es que los datos de 87 millones de perfiles de Facebook, de los cuales alrededor de 70 millones eran estadounidenses, se recopilaron sin el consentimiento real de los usuarios. A esas personas se les informó de que sus datos serían utilizados con fines educativos, pero el uso real fue muy distinto: influir en la intención de voto durante las elecciones presidenciales de 2016, en las que competían Donald Trump y Hillary Clinton.

Según la web de Wikipedia:

Los datos se obtuvieron por medio de una aplicación llamada This Is Your Digital Life («Esta es tu vida digital»), desarrollada por el informático Aleksandr Kogan y su empresa Global Science Research en 2013. La aplicación consistía en una serie de preguntas para elaborar perfiles psicológicos de usuarios, y recabó los datos personales de los contactos de sus usuarios mediante la plataforma Open Graph de Facebook.

Y como suele ocurrir, la ley y la ética aparecen ex post, después del problema. Este caso impulsó una conversación global sobre la protección de los datos personales. En Europa, el Reglamento General de Protección de Datos, conocido como RGPD, reguló con más fuerza el tratamiento de los datos. En California, el gobierno se inspiró en esta línea de regulación y promulgó la CCPA, la California Consumer Privacy Act, para proteger los datos de los consumidores de ese estado.

Si hago toda esta introducción es porque la situación vivida con el uso indebido de nuestros datos está lejos de pertenecer al pasado. Si sucedió, fue porque durante mucho tiempo fuimos incapaces de comprender hasta qué punto nuestra información puede utilizarse para influir en nuestras decisiones, anticipar nuestros comportamientos o incluso manipularnos a niveles que no imaginábamos.

Por eso, desde mi labor divulgativa, hoy quiero plantearos un dilema ético que fue expuesto en el pasado congreso “The Paris Conference on AI and Digital Ethics”, celebrado los días 11 y 12 de junio, y que creo que merece toda nuestra atención y reflexión. Porque esta situación puede estar ocurriendo cada día, sin que lo sepamos, y quizá lo más inquietante es que muchas veces se justifica en nombre del bien común.

Os planteo el caso:

Las personas con diabetes necesitan medir diariamente sus niveles de glucosa en sangre varias veces al día: en ayunas, antes o después de las comidas y, en muchos casos, antes de dormir. Para ello utilizan glucómetros que pueden costar entre 20 y 150 euros, dependiendo de sus funciones. Hoy, muchos de estos aparatos no solo miden, sino que también transmiten información a los médicos y a aplicaciones que permiten llevar un histórico de la enfermedad. Y todo esto, nuevamente, se traduce en datos.

Además, estas personas deben acudir con cierta regularidad al hospital para realizarse controles, revisiones y exámenes de rutina. Cada visita, cada resultado y cada seguimiento clínico también genera información, es decir, también genera datos.

Ahora imaginemos que una compañía farmacéutica desarrolla un aparato que no solo mide la glucosa, sino que además indica al paciente si, de acuerdo con su nivel de azúcar, debe comer algo específico, hacer más ejercicio, completar un número determinado de pasos o tomar alguna medida para estabilizar su glucosa. En principio, parece una gran ayuda para que las personas con diabetes puedan controlar mejor su enfermedad y ganar autonomía. El problema es que este aparato cuesta 400 euros.

La empresa que comercializa el aparato empieza a llamar directamente a pacientes diabéticos de un mismo hospital para ofrecerles el producto. Como muchos de ellos participan en grupos de ayuda y forman parte de una asociación, muy pronto se dan cuenta de que no se trata de llamadas aisladas: todos han sido contactados por la misma empresa.

Algo en esa historia no les termina de cuadrar, deciden investigar y, después de dos años de luchas, abogados y procesos legales, logran descubrir que el hospital había cedido sus datos a la compañía farmacéutica para desarrollar dicho aparato.

El hospital se defiende diciendo que actuó de “buena fe”, con el objetivo de ayudar a que los pacientes fueran más autónomos, controlaran mejor su enfermedad, acudieran menos al hospital y pudieran resolver problemas cotidianos con mayor rapidez.

Y aquí viene el dilema ético:

Aunque el hospital no actuó éticamente al ceder los datos de los pacientes sin un consentimiento claro, de esa cesión nació un producto que, en teoría, puede mejorar la vida de muchas personas con diabetes.

Sin embargo, ese mismo producto queda fuera del alcance de muchos pacientes por su precio.

Entonces, podríamos preguntarnos: ¿dónde está realmente la falta ética?

• ¿En el hospital, por ceder los datos? 
• ¿En la farmacéutica, por beneficiarse de ellos? 
• ¿O en ambos, por construir una solución aparentemente buena sin incluir realmente a las personas que hicieron posible esa innovación?

Así que revisemos dónde está fallando la ética:

1. Consentimiento: ¿puede usarse información médica de pacientes sin permiso explícito pero de forma anónima, aunque sea para crear una solución beneficiosa?
2. Justicia: si el producto se creó gracias a datos de pacientes de un hospital, ¿es ético que luego muchos de esos pacientes no puedan pagarlo?
3. Gobernanza: ¿quién debe decidir cómo se usan los datos sanitarios: el hospital, la empresa, los pacientes, el Estado o todos ellos?

Y es aquí donde, para mí, está el verdadero centro del dilema. No basta con decir que el resultado fue bueno porque el aparato puede ayudar a muchas personas. Tampoco basta con decir que el hospital actuó con buena intención y trato los datos de forma anónima, como lo exige la ley. La ética no se mide solo por el resultado final, sino también por el camino que se ha seguido para llegar hasta este.

Si los datos de los pacientes sirvieron para crear una solución, entonces esos pacientes no pueden ser tratados únicamente como “materia prima”, deben ser informados(consentimiento), escuchados y, de alguna manera, incluidos en el beneficio que se genera a partir de su propia información. Porque cuando hablamos de datos sanitarios estamos hablando de la vida de personas, de cuerpos, enfermedades, miedos, rutinas, vulnerabilidades y decisiones que afectan directamente a la vida de los diabéticos.

Por eso, la pregunta va más allá de si se puede hacer el bien usando datos, también tenemos que plantearnos quién decide qué es el bien, con qué permiso, en qué condiciones y para beneficio de quién. Tal vez la gran lección es que la innovación no puede construirse de espaldas a las personas que la hacen posible. Si queremos tecnología al servicio del bien común, entonces el consentimiento, la transparencia y la justicia no pueden ser un trámite posterior. Deben ser el punto de partida.

Para reflexionar Thinkers.

1. https://es.wikipedia.org/wiki/Cambridge_Analytica
   
   
   ↩︎