Justicia Algorítmica: La gran ausente en la lista de los pensadores tecnológicos más influyentes.
Que la Justicia Algorítmica no esté dentro de las prioridades de expertos en tecnología, es algo que debería preocuparnos a todos. Os cuento por qué.
Esta semana, el periódico El País publicó una lista titulada “Los 10 pensadores tecnológicos más influyentes del mundo”.
Los nombres seleccionados fueron:
Ilustración: ÒSCAR CLIMENT OLLET
- Shoshana Zuboff
- Kate Crawford
- Byung-Chul Han
- Meredith Whittaker
- Éric Sadin
- Timnit Gebru
- Carissa Véliz
- Donna Haraway
- Luciano Floridi
- Daron Acemoglu
Según explica el propio artículo, la lista fue elaborada a partir de las votaciones de 35 expertos. Y antes de continuar, déjadme aclarar algo importante: la lista es muy buena, intelectualmente sólida, plural, con figuras clave para entender la tecnología, el poder, la economía política y la ética contemporánea.
Pero, y aquí viene el “pero” que justifica este texto, falta alguien, y no es una ausencia menor.
Falta Joy Buolamwini, y esto es grave.
Pensar la tecnología… o transformarla.
La mayoría de las personas incluidas en la lista son teóricos brillantes, académicos que han producido marcos conceptuales fundamentales para entender el impacto de la tecnología en nuestras sociedades. Eso es valiosísimo y necesario.
Pero Joy Buolamwini juega en otra liga complementaria. Joy piensa, pero además actúa, denuncia, interpela, incomoda y obliga a cambiar sistemas reales. Eso es lo que debemos esperar de un pensador tecnológico.
No solo escribe sobre ética de la IA, la pone en práctica interpelando directamente al poder tecnológico.https://youtu.be/UG_X_7g63rY?si=F329FMBOMq3oYrYt
¿Quién es Joy Buolamwini y por qué debería estar en esa lista?
Joy Buolamwini no es solo una investigadora, es ingeniera informática, activista, artista, científica, y una de las voces más influyentes en justicia algorítmica a nivel mundial.
Aprendió de forma autodidacta lenguajes como XHTML y JavaScript, con tan solo 9 años. En 2011 participó en el programa Trachoma del Centro Carter, desarrollando sistemas de diagnóstico en Android en Etiopía.Trabajó en Zambia empoderando a jóvenes para que pasaran de ser consumidores de tecnología a creadores.
Como investigadora en el MIT Media Lab, detectó algo que hoy ya nadie serio puede ignorar:
👉 los sistemas de reconocimiento facial fallaban sistemáticamente al identificar a mujeres racializadas, especialmente mujeres negras.
No era una intuición, era evidencia empírica.
De ahí nació su célebre investigación “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, que demostró que los sistemas comerciales de reconocimiento facial tenían tasas de error muchísimo más altas según raza y género.
El resultado no fue solo académico, IBM y Microsoft tuvieron que reaccionar y corregir sus sistemas.
Eso, en ética de la IA, no es menor. Eso es impacto real, y de la lista del El país, pocos han tenido este impacto en el ámbito tecnológico.
Activismo, arte y ética (sí, todo junto)
Joy no se quedó en el paper, fundó la Algorithmic Justice League, una organización que denuncia cómo el sesgo algorítmico perpetúa discriminaciones estructurales.
Creó proyectos como Gender Shades, The Aspiration Mirror (un espejo que refleja quién puedes llegar a ser) y participó en documentales como “Coded Bias”, donde se expone de forma clara y accesible cómo los sistemas algorítmicos afectan a derechos fundamentales como el acceso al empleo, a la salud, a la seguridad y a la justicia.
Joy hace algo que pocas personas logran: traducir problemas técnicos complejos en preguntas morales comprensibles para la sociedad; esto es pensamiento y del más transformador.
Ética de la IA no es solo teoría (y Joy lo demuestra)
Hoy hablamos mucho de ética de la inteligencia artificial. Pero gracias a Joy Buolamwini, hablamos en serio de:
- Justicia algorítmica
- Sesgo interseccional
- Responsabilidad en el diseño
- Impacto social real de los sistemas automatizados
Su trabajo ha obligado a gobiernos, empresas y académicos a replantearse cómo se diseñan, entrenan y despliegan los sistemas de IA, Pocas personas pueden mostrar esto es sus currículos.
Si hoy la interseccionalidad1 forma parte del análisis de datasets y modelos, no es casualidad, es gracias al trabajo de esta infatigable mujer.
Por eso falta alguien en esa lista
La lista de El País es excelente, pero sin Joy Buolamwini, está incompleta. Porque pensar la tecnología no es solo interpretarla, también es transformarla cuando daña.
Y Joy Buolamwini lleva años recordándonos algo fundamental: que no puede haber innovación sin responsabilidad,
ni inteligencia artificial sin justicia.
Así que, si hubiera podido votar, Joy Buolamwini estaría en esa lista. Porque es imprescindible para entender la ética de la IA hoy.
Y ahora sí, Thinkers…
¿A quién más creéis que seguimos dejando fuera cuando hablamos de “los grandes nombres” de la tecnología?
Os comparto algunos recursos para que sigáis a esta gran pensadora.
- https://www.youtube.com/watch?v=TWWsW1w-BVo
- https://www.technologyreview.com/2023/10/29/1082632/joy-buolamwini-were-giving-ai-companies-a-free-pass/
- https://proceedings.mlr.press/v81/buolamwini18a.html
- https://newtriernews.org/features/2023/03/21/facial-recognition-a-white-mans-world/
- Interseccionalidad: Marco analítico que reconoce cómo diferentes aspectos de la identidad de una persona (como género, raza, clase social, orientación sexual, discapacidad, etnia, etc.) se cruzan e interactúan, creando sistemas únicos y múltiples de discriminación y privilegio, no solo la suma de sus partes ↩︎
