«Una máquina no entendería por qué si tenemos el algoritmo perfecto no le hacemos caso», Marta García Aller, experta en tecnología

«Para ser justos, no solo los humanos somos tontos. A veces, las máquinas supuestamente inteligentes también son muy limitaditas, pero eso es por impericia de sus creadores. Aún estamos lejos de lograr que una máquina tenga una inteligencia de tipo general similar a la humana». Este párrafo, extraído de ‘Lo imprevisible’, sintetiza el enfoque crítico y didáctico que impregna todas y cada una de las páginas de este libro. Marta García Aller, su autora, es periodista, escritora y da clases en varias escuelas de negocios, pero, ante todo, es una experta en innovación y una profunda conocedora de la tecnología.

Su último libro exuda actualidad. Para prepararlo Marta ha analizado el momento que estamos viviendo con la ayuda de cosmólogos, historiadores, tecnólogos, médicos, emprendedores y otros expertos con una mirada propia y diferente acerca del rol en perpetuo proceso de maduración que la tecnología está adquiriendo. Ella es la auténtica protagonista de ‘Lo imprevisible’, la tecnología, y, como reza la portada del libro, todo lo que quiere y no puede controlar. Esto es lo que su autora nos ha explicado para ayudarnos a identificar cómo la inteligencia artificial, la robótica, las redes sociales y los algoritmos están moldeando nuestras vidas.

Por qué nuestra tecnología predictiva no nos ha prevenido de la COVID-19

En tu nuevo libro explicas con mucho detalle que la tecnología es una herramienta muy valiosa que puede ayudarnos a prever muchos acontecimientos futuros. Lo curioso es que a pesar de estos avances, y a pesar también de las alertas de algunos epidemiólogos, no hemos visto venir la pandemia en la que estamos sumidos hasta que la teníamos encima. ¿Qué crees que ha fallado?

Para poder predecir algo tenemos que ser capaces de imaginarlo, y la COVID-19 y una cuarentena forzosa de 3.000 millones de personas eran algo inimaginable. El desarrollo en el que se encuentra la tecnología actualmente nos ha hecho creer que ya había alguien ocupándose de esto, y resulta que no. Efectivamente, los epidemiólogos que llevan años avisándonos de que esto podría pasar tenían razón. Y esto demuestra que, en realidad, esto no era imprevisible. Alguien lo estaba previendo, pero quienes no fueron capaces de hacerlo fueron las autoridades. En algún sentido ha sido una decepción tecnológica descubrir que no hay ningún sofisticado sistema informático que nos alerte y prevenga que suceda algo así.

En realidad, no es un problema de la tecnología. Es un problema de orden mundial debido a que no estamos lo suficientemente bien coordinados entre países, y la Organización Mundial de la Salud (OMS) no tiene poder real de facto para coordinar medidas a nivel mundial. Creo que la pandemia está acelerando muchas tendencias tecnológicas, pero también está dejando al descubierto dónde están las grandes carencias del momento. Ha puesto el foco sobre todos aquellos aspectos que no están resueltos y que nos han dejado muchas vulnerabilidades al descubierto.

¿Crees entonces que hemos aprendido la lección? ¿Aún no confiamos lo suficiente en las tecnologías predictivas que nosotros mismos hemos desarrollado?

Algo hemos aprendido, sin duda. Todos los países, y especialmente los europeos, están desarrollando mecanismos de coordinación para tener stock de material sanitario que pueda ayudarnos si se producen rebrotes. Nos estamos preparando para que se repita lo que ya hemos vivido, pero hay otros muchos tipos de pandemia y otras catástrofes para los que no nos estamos preparando, y los expertos en esos campos nos están advirtiendo que podemos correr riesgos. Hay riesgos asociados a la inteligencia artificial, la energía nuclear, la biotecnología…

«Nos estamos preparando para que se repita lo que ya hemos vivido, pero hay otros muchos tipos de pandemia y otras catástrofes para los que no nos estamos preparando, y los expertos en esos campos nos están advirtiendo que podemos correr riesgos»

Nunca hemos tenido una tecnología tan poderosa como la actual, y, lógicamente, junto a los increíbles avances que pone en nuestras manos también trae riesgos, pero no hay paralelamente una gobernanza global y un debate público de prevención de estos riesgos. Hay demasiado excepticismo respecto a la amenaza que suponen, de la misma manera en que hay reticencias a tomarse en serio el cambio climático, por increíble que parezca, con todas las evidencias que hay. Está claro que para poderse preparar para un riesgo no basta que la tecnología sea capaz de preverlo; también tiene que ser algo que conozcamos y algo que seamos capaces de imaginar. De lo contrario es mucho más fácil ignorar las advertencias de los riesgos que nos resultan poco familiares.

¿Entonces nuestra herramienta más valiosa para poder prever el futuro es analizar qué nos ha sucedido en el pasado?

Sí, y cuando ocurre algo que nunca antes ha sucedido no podemos seguir patrones aprendidos. Tenemos que echarle imaginación. El futuro no se consigue solo con la ciencia y la tecnología; también con la imaginación. Tenemos que ser capaces de imaginar tanto las cosas buenas que queremos que sucedan como las catastróficas que queremos evitar. Tenemos una inercia psicológica a dar por hecha la normalidad. Por eso es tan importante la imaginación; abordar la tecnología con un componente humanista que piense, como dicen los anglosajones, «fuera de la caja», y nos permita tanto desarrollar mecanismos para prevenir los riesgos que nos pueden pasar como para imaginar qué es lo que nos puede suceder. De hecho, en la Interpol hay una división que se dedica exclusivamente a imaginar cosas que pueden hacer los malos porque para anticiparte a los riesgos tienes que ser capaz de imaginarlos.

En tu libro explicas que el análisis mediante big data está abriendo la puerta a una farmacología personalizada que puede tener un impacto muy profundo en la medicina. Más allá de esta buena noticia ¿qué puede hacer por nosotros la tecnología para ayudarnos a superar el reto que representa la actual pandemia mundial y otros que posiblemente llegarán en el futuro?

En la parte más inmediata tenemos las aplicaciones que pueden ayudarnos a prevenir los contagios. Quién nos iba a decir que en pleno siglo XXI, en la era de la robotización, íbamos a vernos obligados a encerrarnos en casa para frenar la expansión de un virus con una tasa de mortalidad baja porque éramos incapaces de controlarlo de otra manera. Al fin y al cabo las cuarentenas son un invento medieval. Tenemos tecnologías que nos permiten hacer cosas increíbles y aún hoy hay mucha reticencia a todas las apps de control de contagios que nos permiten hacer confinamientos selectivos si se producen rebrotes. Todo lo nuevo genera desconfianza, y al fin y al cabo este es un factor humano que los algoritmos no pueden entender. Una máquina no entendería por qué una vez que tenemos el algoritmo perfecto no le hacemos caso.

Los algoritmos predictivos ya están marcando la diferencia

¿Puedes hablarnos de algún algoritmo predictivo que sepas que se está utilizando actualmente y con el que estamos obteniendo buenos resultados?

En medicina se están utilizando sistemas muy sofisticados para predecir qué tipo de tratamiento puede ser más eficaz en la lucha contra un cáncer y cómo puede afectar a una persona una medicación o un tipo de radiación en particular. Tenemos sistemas capaces de procesar millones de datos que nos ayudan a reducir el riesgo de error que siempre existe. Esta tecnología está salvando muchas vidas. De todos los sistemas predictivos que podemos imaginar aquellos que se utilizan directamente para salvar vidas son los que tendríamos que tener más presentes.

«En medicina se están utilizando sistemas muy sofisticados para predecir qué tipo de tratamiento puede ser más eficaz en la lucha contra un cáncer y cómo puede afectar a una persona una medicación o un tipo de radiación en particular»

También se utilizan para cosas más mundanas como, por ejemplo, para calcular cuántos minutos voy a tardar en llegar a mi destino si voy en coche o caminando. El hecho de que tengamos en el bolsillo una herramienta que nos permite trazar con exactitud cuál es el camino más corto y cuántos minutos vamos a tardar, calculándolo todo en tiempo real, es algo con lo que nos hemos acostumbrado a vivir, pero hace apenas una década nos habría parecido ciencia ficción. Esta tecnología no genera estupefacción porque la tenemos perfectamente asimilada, pero estos algoritmos son extraordinarios y deberíamos valorarlos.

¿Dónde está el límite de la capacidad predictiva actual de la tecnología? ¿Qué fenómenos son tan imprevisibles que por el momento nuestros algoritmos son incapaces de analizarlos para prever cómo van a evolucionar?

Esta fue exactamente la pregunta que me hice para escribir ‘Lo imprevisible’. Creo que es la pregunta central de este siglo porque a menudo afrontamos la robotización y la automatización como un problema, cuando en realidad creo que es la solución a muchos de los retos que tenemos por delante para hacer más eficientes, baratos y accesibles muchísimos procesos. Todo lo que sea una rutina tarde o temprano se automatizará, y una rutina es aquello que es previsible por naturaleza. Difícilmente podremos automatizar aquello que no podemos prever.

«Los humanos tendremos que seguir supervisando todos y cada uno de los pasos de los procesos que resulten imprevisibles. Ahí es donde van a estar las tareas de las que nos vamos a ocupar a lo largo del siglo XXI»

Los humanos tendremos que seguir supervisando todos y cada uno de los pasos de los procesos que resulten imprevisibles. Ahí es donde van a estar las tareas de las que nos vamos a ocupar a lo largo del siglo XXI. El sentido del humor, que para mí es el paradigma de lo imprevisible; todo lo que tiene que ver con la salud y que escapa a lo que puede predecir la genética, o las cuestiones morales son algunas de las cosas que no van a poder ser calculadas por una máquina. Además, la naturaleza se comporta de forma caótica, lo que nos impide tener todos los datos necesarios para describir los fenómenos naturales y deja un espacio importante a lo que los matemáticos llaman azar.

De la ciencia ficción a las redes sociales

La literatura y el cine coquetean desde hace mucho tiempo con la posibilidad de que la tecnología nos permita superar la barrera del tiempo. Isaac Asimov imagina en su saga ‘Fundación’ una ciencia capaz de predecir el futuro con mucha precisión, la psicohistoria, y en la reciente serie ‘Devs’ la computación cuántica se transforma en una herramienta que nos permite mirar hacia el pasado remoto. ¿Podrías hablarnos de alguna novela o película que te guste especialmente por el rigor con el que describe los avances tecnológicos que están por venir en inteligencia artificial o robótica?

Vi ‘Devs’ durante el confinamiento. Me gustó mucho y me dio rabia haber terminado el libro poco antes porque esta serie representa la búsqueda de cómo hacer previsible todo lo que nos puede pasar. Todos los expertos en inteligencia artificial que desarrollan sistemas de predicción fantasean con la posibilidad de tener todos los datos. Y una vez que los tienen podrían predecirlo todo. Ese es su planteamiento. Actualmente se está utilizando este enfoque para desarrollar sistemas muy interesantes capaces de predecir rebrotes del coronavirus a través del análisis de tuits mediante inteligencia artificial. Esta es la razón por la que me gusta ‘Devs’ porque, aunque es un planteamiento grandilocuente de la máquina que todo lo puede, en realidad eso ya lo estamos viviendo en pequeña escala: tratamos de predecir el futuro a partir de un análisis de datos certero.

Si nos vamos a películas más clásicas me gusta mucho ‘Minority Report’ porque, aunque tiene ya casi 20 años, plantea, entre otras cosas, la publicidad programática, que ahora es algo que consideramos normal. Fue un ejercicio importante de futurismo porque Steven Spielberg reunió a varios de los mejores expertos de aquella época para tratar de visualizar el mundo de ahí a 20 o 30 años. Y en cierto modo aciertan en muchas cosas. Lo que más me gusta de esta película son sus fallos porque nos permiten apreciar el mérito que tienen sus aciertos. El personaje que interpreta Tom Cruise busca los vídeos que necesita para reconstruir los crímenes en unos disquetes de metacrilato, lo que nos retrotrae a la época en la que fue filmada la película, un momento en el que la Nube no existía tal y como la conocemos hoy.

Te propongo que cambiemos de tercio. Las redes sociales ponen en las manos de los usuarios la capacidad de comunicar de forma masiva, pero están controladas por grandes corporaciones. ¿Son un arma de doble filo? ¿Quién tiene realmente el poder?

El poder ahora mismo lo tienen los mercaderes de la atención, que es el recurso que se están disputando las grandes empresas para desarrollar algoritmos capaces de predecir nuestros gustos. Y quieren predecir nuestros gustos para captar más tiempo nuestra atención. Cuantos más minutos pasemos usando sus servicios más aumentan sus ingresos publicitarios. Los algoritmos de las redes sociales no trabajan para nosotros; trabajan para hacer rentables a las empresas que los gobiernan. Ahí es donde empieza a tener cada vez más valor la capacidad de no caer en la rueda del hámster que es el scroll permanente de la pantalla.

«El poder ahora mismo lo tienen los mercaderes de la atención, que es el recurso que se están disputando las grandes empresas para desarrollar algoritmos capaces de predecir nuestros gustos»

Los días tienen las horas que tienen, y cuantas más horas regalemos a las pantallas sin un beneficio personal más dinero estamos haciéndoles ganar a otros a costa de la pérdida de nuestro tiempo. Cada vez estamos regalando más tiempo de nuestra vida a maquinarias pensadas no para darnos satisfacción, sino para atraer nuestra atención. Sí, es un arma de doble filo. La dopamina que segrega nuestro cerebro cada vez que nos dan un like está pensada para engancharnos. Por eso le dedico un capítulo entero a la impaciencia, que me parece la esencia de lo que nos vuelve previsibles. Cuanto más previsibles somos más fácil es para la máquina saber qué tiene que darnos para que nos quedemos enganchados.

En la sociedad actual parece que es esencial fomentar el espíritu crítico individual para que cada uno de nosotros pueda encontrar información valiosa en el universo de datos al que todos tenemos acceso. ¿Qué herramientas crees que son necesarias para proteger esta capacidad crítica?

Creo que para empezar no deberíamos subestimar nuestra creciente tendencia a la distracción. Esto es un problema. La dispersión es incompatible con el pensamiento crítico, y el problema no es que se lea más o menos, sino cuántas interrupciones tenemos. Esas interrupciones constantes nos perjudican cuando llegan a nuestras pantallas. No debemos perder esa paciencia cognitiva. Da igual que leamos en una pantalla o en papel; hemos invertido mucho tiempo en esta discusión, y no tiene ninguna importancia. La cuestión es por qué permitimos que empresas que desarrollan sistemas de alertas para captar nuestra atención cuando nos alejamos un rato del móvil o el ordenador nos impidan concentrarnos en cualquier cosa.

La concentración no es importante solo en el ámbito laboral; también puedes estar concentrado en una conversación con los amigos o en una película. Hay que reivindicar la capacidad de concentrarnos porque como la perdamos nos volveremos previsibles. La persona que está pendiente de cuántos likes, correos electrónicos o interacciones recibe en Twitter es la que se aburre más fácilmente, y esa aversión al aburrimiento hace que no descansemos nunca la mente. Y es un problema debido a que en el pensamiento creativo las cosas nuevas que se nos pueden ocurrir, las más imprevisibles, necesitan un cerebro que sea capaz de desconectar.

Muchos de los servicios digitales que todos utilizamos diariamente no son en realidad gratuitos. Los usuarios pagamos con información personal; sacrificamos una parte de nuestra privacidad para poder utilizarlos. ¿Qué opinas acerca de este modelo de negocio y qué consejos darías a los usuarios para que sepamos a qué atenernos sin necesidad de leer la letra pequeña?

Creo que deberíamos empezar a leer la letra pequeña de las cosas que estamos autorizando porque luego ponemos el grito en el cielo con las apps para el rastreo de contactos de la COVID-19 y nadie ha leído las condiciones de uso de FaceApp. Estas herramientas son gratuitas porque el producto somos nosotros. La información que en el caso de FaceApp regalan los usuarios al sistema de análisis biométrico está alimentando de manera ingenua un algoritmo predictivo para fines que desconoces por completo. Deberíamos plantearnos más a menudo qué riesgos corremos al regalar nuestros datos.

La inteligencia artificial aún no ha desplegado todo su potencial

Poco a poco los usuarios nos estamos acostumbrando a tener en casa algunos dispositivos con cierta inteligencia y habilidades mecánicas, pero no se parecen en nada a los robots que vemos en las películas. ¿Tenemos que conformarnos por el momento con nuestros robots aspiradores? ¿Están aún muy lejos esas máquinas tan avanzadas?

Tenemos una curiosa fascinación por los robots que se parecen a los humanos, por los robots antropomórficos, cuando en realidad somos capaces de dotar de vida a cualquier cosa a la que le pongamos un par de ojos. El empeño en que las máquinas sean parecidas a los humanos es algo psicológico y no tiene nada que ver con la sofisticación de la inteligencia artificial que hay detrás. Es quizá una fascinación más literaria que tecnológica. En el libro entrevisto a Sophia, un robot que se asemeja a una mujer joven, y la verdad es que al principio tiene un cierto atractivo hacerse un selfi con un robot, pero la conversación no es más interesante que la que podemos mantener con Siri o Alexa.

«Los robots nos están cambiando la vida, y nos la están cambiando ya. Son invisibles porque están detrás de los procesos que hacen posible que pidamos una cosa en Internet y en unas pocas horas la tengamos en casa»

Creo que los robots que nos están cambiando la vida, y nos la están cambiando ya, son invisibles porque están detrás de los procesos que hacen posible que pidamos una cosa en Internet y en unas pocas horas la tengamos en casa. Están cambiando la escena industrial a una velocidad pasmosa. Luego también hay una generación de robótica social que ya está aquí, y creo que con la COVID-19 va a acelerarse mucho, que son los robots de compañía para las personas mayores y los que pueden ayudar en el sistema sanitario. En Japón están mucho más extendidos que en Europa porque aquí tenemos un cierto prejuicio ante la idea de que los robots puedan echar una mano en el cuidado de las personas, pero cuando hemos visto el sistema sanitario totalmente desbordado se han invertido las prioridades y la Unión Europea ha comenzado a impulsar proyectos que promueven la robótica social.

¿Crees que está todavía muy lejos esa inteligencia artificial basada en aprendizaje profundo que podría ser capaz de dotar a las máquinas si no de conciencia sí de una capacidad de análisis que les permita de alguna forma emular nuestro sentido común?

Si la última barrera es el humor, el sentido común es la penúltima barrera. Me parecen fascinantes las investigaciones que se están haciendo en este campo para enseñar a las máquinas a pensar, a ir más allá de la tarea para la que han sido entrenadas. Se trata de que la máquina que te gana en el ajedrez pueda vencerte también a las damas sin haber sido entrenada específicamente para ello. La parte que más me fascina de la tecnología somos los humanos porque el misterio está en cómo aprendemos nosotros. Aún no conocemos muchos de los procesos que explican cómo aprende el cerebro de un niño. Y tiene que ver mucho con los sentidos, y no solo con el cerebro.

Todavía no hemos encontrado la forma de hacer posible que una máquina que no siente frío, ni calor, ni miedo, aprenda del mundo a la velocidad a la que aprendemos los humanos. Esto impide que las máquinas entiendan el mundo como lo entendemos nosotros, de una manera más generalista. Me parece fascinante que un niño de cinco años sepa más del mundo que las máquinas más sofisticadas que podemos tener, que, efectivamente, pueden procesar millones de datos y llegar a conclusiones increíbles en asuntos concretos, pero un niño pequeño ya sabe muchísimas cosas de eso que nosotros llamamos sentido común que una máquina nunca entenderá.

¿Qué desarrollo tecnológico en proceso te ilusiona especialmente? ¿Hay algo que para ti tenga el potencial de cambiar nuestro mundo a medio plazo de una forma tan profunda como lo ha hecho Internet?

La genética. Ha provocado que surjan enormes dilemas éticos que vamos a tener que resolver, y que giran en torno a lo previsible, que es cuánto estamos preparados para saber. Cuánto pueden decirnos los genes de nuestro futuro. A lo mejor no estamos preparados para toda la información que nos pueden dar. Los tests genéticos apelan a la curiosidad acerca de nuestros orígenes, pero también están abriendo una fuente de conocimiento que plantea muchas dudas acerca de cómo las predicciones pueden condicionar no solo nuestro futuro, sino también nuestro presente.

«La genética ha provocado que surjan enormes dilemas éticos que vamos a tener que resolver, y que giran en torno a lo previsible, que es cuánto estamos preparados para saber. Cuánto pueden decirnos los genes de nuestro futuro»

Esta tecnología puede ayudarnos a prevenir los problemas de salud que sabemos que tenemos altas probabilidades de desarrollar, pero también tiene contraindicaciones porque puede condicionar la angustia con la que vivimos el presente. ¿Es realmente recomendable saber con décadas de antelación las probabilidades de contraer una patología para la que ni siquiera hay cura? Ahora mismo hay un enorme dilema moral con esto, por no hablar de la genética en la fase reproductiva, que abre la idea de los niños a la carta. Ya hay algunas empresas que con poca base científica todavía prometen actuar sobre el cociente intelectual. La genética abre un enorme dilema tecnológico y moral que vamos a tener que resolver durante las próximas décadas.

Fotografía de portada | Carlos Ruiz
Fotografía de Sophia | ITU Pictures

–
La noticia

«Una máquina no entendería por qué si tenemos el algoritmo perfecto no le hacemos caso», Marta García Aller, experta en tecnología

fue publicada originalmente en

Xataka

por
Juan Carlos López

.