La revolución de la IA: ¿qué riesgos (o miedos) son exagerados y cuáles están infravalorados?

¿Eres de los que creen que el peor riesgo de la IA es que un robot, tipo Terminator, nos ataque en una guerra por el control del mundo?

¿Es este el mayor riesgo que tenemos con la IA?

Si eres de esos, puede ser por dos razones. Una: eres adicto -como yo- a la ciencia ficción, te has leído todo desde Neuromante , has visto cuanta película ha salido sobre el tema, y Asimov es, más o menos, tu guía espiritual.
La otra: películas como 2001 Odisea del espacio, Blade Runner, Terminator o Yo, robot te marcaron, y te quedaste con el mensaje de que las máquinas, en el fondo, no traen nada bueno.

Si formas parte de alguno de estos bandos, déjame decirte algo: como filósofa que lleva casi diez años estudiando la tecnología, creo que el riesgo de una guerra por la dominación del planeta es una idea excesivamente sobrevalorada. Hoy tenemos problemas muchísimo más complejos que tienen relación con las máquinas, que están ocurriendo ahora mismo, mientras lees este texto, y que acontecen sin explosiones, sin banda sonora apocalíptica y, lo más inquietante, sin que casi nadie se dé cuenta.

Si el cine, la literatura y, en general, las personas imaginamos la IA en términos de guerra, es porque la guerra es un concepto estrictamente humano y está relacionada con nuestros instintos más básicos. La paz, en cambio, es un desarrollo de la inteligencia: requiere deliberación, contención y trabajo racional en favor del bien común.

Decía Heráclito: “La guerra es el padre de todas las cosas”, y eso no significa otra cosa que reconocer que las emociones básicas —miedo, ira, tristeza, alegría, asco— han sido motores fundamentales de nuestra historia. Son las mismas emociones que nos permitieron defendernos de animales, de amenazas externas y, por supuesto, de nuestros semejantes. Y pese a que somos sapiens,  supuestamente “sabios”, 250.000 años después seguimos disputándonos el mundo, matándonos y creyendo que unos son mejores que otros, aunque ocupemos el mismo rincón del universo, compartamos ancestros y, como diría Carl Sagan, fuéramos  “creados para dar cuenta de este mundo”. Vaya ejemplo que estamos dando.

Y algunos os preguntaréis: ¿cómo es posible que sigamos en guerra miles de años después, incluso con todo el desarrollo del conocimiento sobre el cerebro y con el avance de la ciencia y la tecnología? El brillante filósofo José Antonio Marina, en su pódcast El Panóptico, nos da una respuesta certera: “buscamos la felicidad individual, pero para lograrla necesitamos trabajar por la felicidad pública, que con frecuencia resulta una meta lejana y poco atractiva”. Tenemos, en efecto, una contradicción de fines.

Sin embargo, donde quiero poner realmente la atención es en lo siguiente: para entender los verdaderos riesgos de la IA, y especialmente aquellos que están infravalorados, tenemos que dejar de pensar como humanos. O, mejor dicho, tenemos que dejar de creer que las máquinas actúan como humanos, y empezar a entender cómo actúa una máquina.

Y para ello, primero habría que definir qué es una máquina, que según la RAE es: «Conjunto de aparatos combinados para recibir cierta forma de energía y transformarla en otra más adecuada, o para producir un efecto determinado.»

Existen muchas formas de entender las máquinas en el entramado laboral, así que hagamos un pequeño recorrido.

Primera generación de máquinas

Las más comunes son las que aparecieron con la primera revolución industrial. Han permitido automatizar tareas repetitivas que antes realizaban personas. Eran máquinas enormes, ocupaban mucho espacio y funcionaban a vapor. Más adelante, en 1968 sesenta, apareció el famoso brazo robótico dirigido desde un ordenador (creado por unos de los padres de la IA, Marvin Minsky), que revolucionó -entre otras- la industria automotriz y sus cadenas de montaje.

En cualquiera de los dos casos, en estas máquinas no hay decisión, pensamiento ni razonamiento: solo hay ejecución. Acción sin sentido, aunque tremendamente útil. En ese terreno, las máquinas ya han reemplazado cientos de trabajos, y lo seguirán haciendo de manera imparable.

Segunda generación de máquinas

Ahora hablemos de una segunda generación: máquinas provistas de sistemas como la IA, capaces de actuar en función de datos y de “tomar decisiones” -lo pongo entre comillas a propósito-, con o sin supervisión humana.

Aquí conviene entender algo esencial: la máquina está desprovista de sentimientos, conciencia, lenguaje moral o agencia ética per se, al menos tal y como los entendemos y vivimos los humanos. Por eso, pensar que una máquina actúa como un ser humano, en base a emociones o intenciones, es una falacia. Es una proyección. Una de tantas. Algo parecido a lo que hacemos cuando antropomorfizamos animales, objetos o asistentes virtuales y luego nos sorprendemos de que no tengan escrúpulos.

Para entender los verdaderos riesgos de la máquina, tenemos que pensar de forma más abstracta: imaginar y razonar sobre ideas, símbolos y principios que no están presentes físicamente o no se pueden percibir con los sentidos. En pocas palabras, debemos quitar emociones y quedarnos con los conceptos. Y eso significa comprender que una máquina actúa -precisamente por estar desprovista de emoción- en búsqueda de eficiencia dentro de un proceso.

Así, si una máquina ha sido entrenada con datos humanos que reflejan que históricamente se ha contratado mayoritariamente a hombres para cargos directivos, la máquina no tiene ninguna agencia moral para discernir si eso está bien o está mal. No puede indignarse. No puede cuestionarlo. No puede sentirse responsable. Lo único que hará será cumplir su tarea del modo más eficiente posible, lo cual, en ese caso, puede traducirse en seguir privilegiando a hombres y descartando mujeres.

¿Tiene la máquina que saber que eso no es ético?

Socráticamente, la respuesta sería otra pregunta: ¿para qué hemos creado las máquinas, para ser eficientes o para ser éticas? Creo que todos sabemos la respuesta. Y conviene recordarlo: esta decisión fue exclusivamente humana.

Así pues, los verdaderos riesgos que tenemos con la IA provienen, simplemente, de que cada día sea mejor y más eficiente en su trabajo. Es decir: del cumplimiento impecable del objetivo para el cual ha sido creada.

Y lo que humanamente no entendemos es que luego castigamos al sistema por hacer bien su tarea. Un acto tan contradictorio solo puede  ser humano.

Los verdaderos riesgos con la IA

El artículo 12 de la Declaración de los Derechos Humanos dice sobre el derecho a la privacidad:

“Nadie será objeto de injerencias arbitrarias en su vida privada, su familia, su domicilio o su correspondencia, ni de ataques a su honra o a su reputación. Toda persona tiene derecho a la protección de la ley contra tales injerencias o ataques.”

En España, encontramos esta protección en la Constitución (art. 18), en la Ley Orgánica 1/1982 de protección civil del derecho al honor, a la intimidad y a la propia imagen, y en el RGPD europeo para la protección de datos.

Todo esto nos habla de algo muy claro: de la enorme importancia y de la delicadeza de este asunto. Tanto, que hemos necesitado convertirlo en ley y crear distintos mecanismos para protegernos frente al peligro que supone exponer lo más íntimo de nuestras vidas.

Sin embargo, el mundo digital ha funcionado durante años como el reino de la alegalidad. Es decir, un terreno en el que, aunque existan principios jurídicos vulnerados, las compañías operan en zonas grises, pantanosas, confusas, aprovechando vacíos, asimetrías de información y la pasividad de casi todos. Y cuidado: aquí estoy hablando de personas y de empresas, no de IA.

Miremos cómo funciona esto. Las compañías recopilan nuestros datos de todas partes: historial de búsquedas, geolocalización, compras, clics, tiempo que pasamos en una página web… Todo es susceptible de ser medido. Luego introducen toda esa información en sistemas -aquí ya entra la IA, por orden de los humanos- que crean perfiles increíblemente detallados sobre nosotros.

Lo que muchas personas no saben es lo poco que realmente ellas mismas han  consentido este proceso y lo poco que entienden sobre él. La mayoría acepta cookies y términos de servicio sin leerlos. Y no tiene idea de que sus datos se cruzan con miles de otros datos para construir perfiles sobre quiénes son, qué desean, qué temen, qué compran, qué votan, qué les enfada o cuánto tardan en aburrirse.

Y luego la IA usa esos perfiles para decidir qué anuncio ves, qué precios se te muestran, e incluso qué información debe ser prioritaria en tus redes sociales y cuál no. Es decir: influye en tu comportamiento, en tu atención y, en última instancia, en eso que tanto nos gusta invocar cuando nos conviene: el libre albedrío.

Todo esto sucede en un segundo plano, de forma invisible y, durante mucho tiempo, con una regulación insuficiente o incapaz de seguir el ritmo de la tecnología.

Y créeme: quienes programan, entrenan y ordenan que todo esto suceda no son máquinas. Son personas y compañías, cuyo objetivo principal no es tu bienestar moral ni el florecimiento de la democracia, sino ganar dinero con tus datos. La IA se perfecciona cada día más para hacerlo mejor. Pero detrás de ese proceso hay seres humanos que usan la IA como un medio y, de paso, nos usan a nosotros igualmente  como un medio para cumplir fines financieros: generar más beneficios, satisfacer a los inversores y desarrollar más tecnología para capturar todavía más atención, más conducta y más control.

Así que, como seres contradictorios que somos, sinceramente creo que deberíamos asustarnos bastante más de la humanidad. La misma que, después de miles de años, ha sido incapaz de acabar con las guerras, es la que ahora despliega sobre los ciudadanos de a pie una guerra silenciosa, invisible y rentable. Ya no para conquistar territorios -eso queda anticuado, sino para conquistar datos, conducta, tiempo y dinero. No buscan ya solo poder: ese ya lo tienen. Buscan más dinero para construir más tecnología que permita ejercer todavía más control.

Estamos, en suma, en una rueda de hámster con wifi.

Y, sin embargo, todavía hay mucha gente que se queja de que la Unión Europea frena la innovación con su exceso de leyes…

¿En serio?

Para reflexionar Thinkers.