Marta García Aller: "Los algoritmos predicen nuestros miedos y eso nos hace manipulables"

La pandemia de coronavirus ha dado un aura profética al último libro de Marta García Aller (Madrid, 1980). Titulado Lo imprevisible (editorial Planeta), trata de todo aquello que en la era de los algoritmos la tecnología aún no es capaz de predecir. La primera tirada del libro estaba ya impresa y almacenada en una imprenta de Igualada cuando se convirtió en una de las primeras localidades españolas en las que se decretó el confinamiento total de la población por el elevado riesgo de contagio. La periodista y escritora especializada en contarnos los efectos de los avances científicos y tecnológicos en la vida cotidiana ha aprovechado la cuarentena para añadir una introducción y un nuevo capítulo dedicado a esta pandemia que las máquinas, pero no los humanos, estaban preparadas para ver.

“Es cierto que la pandemia ha llegado de un modo enrevesado para darme la razón. Creemos tenerlo todo controlado pero no es así, y se está pidiendo a la tecnología que nos dé certezas que no nos puede dar”, opina la autora. “Estamos viviendo el mayor periodo de incertidumbre que recuerdan las generaciones actuales, pero esa sensación no ha llegado con la COVID-19. La incertidumbre llevaba ya tiempo aumentando en Occidente”.

García Aller ha querido además que al libro “se le vean las costuras” para reflejar cómo la pandemia ha reforzado las tesis que este propone. La introducción definitiva se titula De cómo lo imprevisible es la clave del futuro presente. “El futuro no existe. Es una construcción que hacemos con la imaginación. Y esa es otra de las grandes enseñanzas de lo que nos está pasando: la imaginación es fundamental; no se puede separar de la ciencia ni de la política, no es solo una cuestión de la literatura. Cuantos más robots haya en nuestro mundo, más importante va a ser la imaginación, porque si no pudimos prepararnos para una pandemia como esta fue porque era inimaginable que nos pasara algo así. No basta con que los números o un algoritmo predigan que algo va a pasar, porque si los humanos que interpretamos esos datos no imaginamos lo que eso significa, no podemos prepararnos para ello”, explica García Aller.

García Aller sigue la misma fórmula que en su libro anterior, El fin del mundo tal y como lo conocemos: documentación rigurosa, entrevistas con reconocidos expertos de múltiples campos, ejemplos tan ilustrativos como curiosos y un tono divulgativo y ameno, todo con el objetivo de explicar cómo está cambiando el mundo a lectores con cualquier grado de familiaridad con los ámbitos científico y tecnológico.

Más allá de ese necesario capítulo añadido sobre la pandemia, el resto del libro se divide por temas ordenados desde aquellos más previsibles para los algoritmos y la inteligencia artificial hasta los más imprevisibles. Así, la escritora comienza por los viajes y los gustos, terrenos donde los algoritmos se mueven ya como peces en el agua, y acaba con dos cualidades que muestran lo paradójicos que somos los humanos: el humor, uno de los rasgos más elevados de nuestra inteligencia, y la estupidez, que, como dice la famosa cita atribuida a Einstein, es infinita y capaz de romper cualquier esquema lógico. Entre unos y otros, dedica capítulos a los cambios que la tecnología está introduciendo en conceptos como la seguridad, la confianza, el amor, la impaciencia, la salud, el empleo, la naturaleza, la justicia y la verdad.

Pregunta. ¿Por qué ha dejado el humor y la estupidez para el final?

Respuesta. Lo más profundamente humano y diferenciador que tenemos como especie es el humor. Es la esencia de lo imprevisible. Las máquinas más sofisticadas podrán hacer chistes, pero no los entienden, no saben por qué algo es gracioso. Con la estupidez pasa lo mismo: es el otro rasgo por el que las máquinas nunca van a poder entender a las personas. Las máquinas no hacen tonterías; pueden estar mal hechas, pero no se ponen en riesgo o van contra sus propios intereses a sabiendas, como hacemos los humanos. La historia de la humanidad no se compone de gestas, como siempre nos han dicho, sino también de errores y cuestiones profundamente estúpidas. Por eso, por más que el futuro se llene de máquinas, nunca podrá ser previsible, porque los humanos no lo somos. Podemos serlo desde un punto de vista agregado o estadístico, pero como individuos somos dueños de nuestra última decisión.

P. ¿Y qué es lo que más le inquieta personalmente acerca de lo imprevisible o de todo aquello que no lo es y que las máquinas ya controlan?

R. No me preocupan las máquinas, sino los humanos. Parece que la sociedad empieza a no diferenciar qué es verdad y qué es mentira y tiene mucha propensión a creer algo que es falso solo porque le da la razón. Esa polarización tiene que ver con el uso que le damos a la tecnología, pero también con la manera en que vienen programados los algoritmos. Igual que predicen nuestros gustos para elegir ropa o qué película ver, predicen también nuestros miedos y toda esa información en las manos equivocadas puede hacernos mucho más manipulables. Consideramos los números productos de la objetividad, cuando en realidad los algoritmos están llenos de manipulaciones. Si no son lo suficientemente transparentes no sabremos si las decisiones que toman son justas o no.

P. Una de las cosas que más preocupa a la gente respecto a los algoritmos, el big data y la inteligencia artificial es la pérdida de privacidad. Por ejemplo, durante el estado de alarma ha causado cierta inquietud, avivada por la desinformación a través de las redes sociales, que el Gobierno de España haya creado una app de autoevaluación de síntomas de COVID-19 que permite la geolocalización de los ciudadanos, o que el INE haya hecho un estudio de la movilidad de la población, el ‘Data Covid’, con datos aportados por los principales operadores móviles, eso sí, de manera anonimizada.

R. Parte de ese recelo tiene su origen en la ignorancia de cómo funciona esta tecnología, pero también en la falta de transparencia de los algoritmos y en la falta de confianza en las instituciones —en las sociedades democráticas, obviamente, porque en una sociedad autoritaria no existe este problema—. Para que esta tecnología funcione en una sociedad democrática es fundamental que se explique bien y que la sociedad entienda que no solo es para ayudar a los demás sino también a uno mismo. Esa app de geolocalización tiene que ser anónima y voluntaria. ¿Y por qué me voy a descargar una app que dice donde estoy en todo momento? En primer lugar por responsabilidad, ya que con ella es más fácil identificar posibles focos de contagio. También muchas apps que tenemos en el móvil también nos geolocalizan para colocarnos determinada publicidad según nuestra ubicación y a eso no le hemos hecho ascos. Ahora tenemos un sistema que puede ayudarnos a prevenir futuros focos de contagio del coronavirus y, sobre todo y más importante, también hacer un confinamiento selectivo, pero alguien tiene que explicar muy bien cómo se ha diseñado esa tecnología y por qué es positivo utilizarla. No basta con hacer el algoritmo perfecto, hay que explicarlo bien.

La ciencia, en la calle y los parlamentos

P. Dice que esta crisis sanitaria ha demostrado que en Occidente estábamos muy avanzados en robotización, inteligencia artificial y avances médicos, pero en cambio no teníamos algo tan básico como camas, médicos y equipamiento suficiente para afrontar esta pandemia. ¿Hemos puesto el foco del progreso en el lugar equivocado?

R. Es una pregunta que me hago constantemente a lo largo del libro. Toda generalización está llamada al error, pero sin duda las innovaciones tienen que estar al servicio de la sociedad. Una pandemia tan terrible como la que estamos viviendo, que está costando tantas decenas de miles de vidas, debería reordenar las prioridades. Ahora tenemos claro que hay que poner el foco en la salud, la investigación, la ciencia y la educación, y asegurarnos de que a todos los niños les llega el derecho a la educación aunque tengan que quedarse en sus casas, porque no basta con que exista la tecnología, también debe ser accesible a todos para que funcione. Sin embargo, la experiencia nos enseña que, cuando pasa un tiempo del shock, luego se nos olvida, y así ha sido en otras epidemias anteriores. La OMS publicó un informe en septiembre, antes de que llegara la COVID-19, en el que avisaba de que había que prepararse urgentemente para una amenaza como esta y analizaba qué tal se habían preparado los países después de otras pandemias como las del SARS o el MERS y la conclusión a la que llegaba era que el primer año el asunto se tomaba muy en serio políticamente, pero luego volvían a trastocarse las prioridades y salía de la agenda política. Creo que esto nos enseña que es fundamental que la ciencia no solo esté en los laboratorios. Tiene que estar en los parlamentos pero también en la opinión pública, porque si no entendemos las amenazas a las que nos podemos ver sometidos, no votaremos a aquellos que van a poner los medios necesarios, o, peor aún, vamos a criticar a quienes gastan dinero público en prevenirlas.

P. Entonces es incluso más importante que la ciencia cale en la opinión pública que en los políticos, porque a estos no les quedará más remedio que escuchar las demandas de los votantes si quieren su apoyo, ¿no?

R. Bueno, tengo mis dudas al respecto, porque mientras escribía el libro tuvimos una sobredosis de campañas electorales e investiduras fallidas y la conexión entre las preocupaciones de la gente y los temas que centraban las campañas no siempre se producía. La agenda política se ordena según lo que los políticos creen que le interesa a la gente o directamente según lo que les conviene a sus partidos. Eso genera desconfianza en las instituciones, lo cual nos perjudica a todos, ya que en un momento de tantísima incertidumbre como este es importante que las instituciones no se debiliten porque tienen que llevarnos a atravesar un cambio complicadísimo en los próximos años que tiene que ver con cómo avanza la tecnología. A medida que ese avance se vuelve más vertiginoso, crea más desazón, sobre todo cuando hay empleos que se destruyen y gente que siente que este progreso no les está incluyendo. Ese desarraigo está detrás de los extremismos, de los populismos y la polarización de una sociedad que está perpleja ante todos estos cambios.

P. Dice en su libro que China, debido a otras epidemias que ha sufrido en los últimos años, es el país que estaba mejor preparado para atajar el SARS-CoV-2. Sin embargo, actuó tarde, y eso no fue culpa de la tecnología sino de un factor humano tan elemental como el miedo.

R. China tiene un sistema diseñado para prevenir las epidemias porque para ellos la amenaza de los coronavirus no es nueva. Pero ¿por qué no funcionó ese sistema para impedir que el virus saliera de Wuhan? Todo apunta a que las personas encargadas de apretar el botón de alarma en caso de ver una afección desconocida les tembló el pulso por miedo a represalias de Pekín o del Partido Comunista Chino. Creo que eso resume muy bien los límites de la tecnología, hay que entender el contexto humano en el que se desarrolla.

P. Se ha especializado en contarle a la gente cómo les afecta o afectará en lo cotidiano los grandes avances científicos y tecnológicos que se están produciendo a un ritmo cada vez más vertiginoso. ¿Cómo encontró esta veta periodística?

R. Me he dedicado muchos años al periodismo económico. Como casi todas las cosas importantes en la vida, ocurrió por casualidad, porque no me había preparado para la escribir sobre economía. Pero al empezar a trabajar en ello me di cuenta de lo importante que era derribar ese muro que separa mentalmente las ciencias y las letras. Creo que es un campo que me fascina tanto por lo mucho que aprendo, y creo que también parte del secreto está en hablar para todo el mundo, porque los ensayos tienen que ser amenos. Uno tiene que poderse divertir leyéndolos y aprendiendo, y no tiene por qué saber nada de algoritmos y de tecnología.

P. ¿El futuro del periodismo también es imprevisible?

R. Creo que la tecnología ha influido en el periodismo desde que este existe. Contamos historias y buscamos noticias, y la manera de hacerlas llegar a los espectadores cambia en función de la tecnología. Ha habido muchos momentos inciertos pero hay algo que permanece: la necesidad de la gente de que le cuenten historias. En un momento tan difícil como el de la pandemia hemos visto incrementarse exponencialmente el interés de los lectores por recibir información relevante y veraz. El problema que tenemos ahora con la información es como el que tenemos en las inundaciones cuando nos falta el agua potable: hay mucho contenido pero es difícil encontrar el agua potable entre tanta desinformación. Poco a poco los lectores van aprendiendo a diferenciar que todo lo que se encuentran no vale. Es fundamental entrenar el pensamiento crítico, todavía falta y solucionaría muchos de los problemas que nos van a venir en el futuro.

@FDQuijano