César Antonio Molina
César Antonio Molina, escritor y exministro: “Los magnates tecnológicos son una gravísima amenaza”
Alerta contra el embrutecimiento digital y reclama un código ético para afrontar los nuevos desafíos de la tecnología coincidiendo con la presentación de '¿Qué hacemos con los humanos?'
21 noviembre, 2023 01:56A César Antonio Molina (A Coruña, 1952) le gusta decir que la ciencia surgió de la ficción literaria. Durante siglos -afirma a El Cultural- se valió de sus expresiones lingüísticas y metafóricas. La literatura le valió de escudo protector frente a los poderes estatales y religiosos, que nunca la vieron con mucho afecto. También durante muchas centurias, a través de las utopías o los relatos de ciencia ficción, la literatura fue por delante avanzando lo que, bueno o malo, se iría consiguiendo con su desarrollo. Este camino paralelo llegó hasta mediados del siglo XIX, momento en el que podemos decir que la ciencia fue adquiriendo su independencia y transformándose en una materia ya casi totalmente autónoma con un lenguaje propio”.
Tras ¡Qué bello es vivir sin cultura! el ex ministro y autor de obras como Donde la eternidad envejece y La caza de los intelectuales (todas ellas en Destino) da un paso más en el análisis de la realidad digital -y de la coyuntura en la que nos sitúan tecnologías como la inteligencia artificial- con ¿Qué hacemos con los humanos? (Deusto), un título esclarecedor donde aborda una encrucijada trascendental en nuestros días: “Por qué los robots, la inteligencia artificial y los algoritmos representan una amenaza para la supervivencia del ser humano”.
Pregunta. ¿Por qué un escritor de literatura como usted ha afrontado este reto de estudiar aspectos de la ciencia y de las nuevas tecnologías? ¿Qué compatibilidad aprecia entre ambos mundos?
Respuesta. Italo Calvino, uno de los más grandes escritores del siglo XX, llegó a afirmar que Galileo Galilei no solo era uno de los mejores escritores italianos, sino universales, pues hacía pasar la realidad por ficción. Francis Bacon, en La nueva Atlántida, escribió una de las grandes novelas-relatos utópicos. Contó la supuesta historia de Besalém, la Isla Estado condenada al fracaso porque las buenas intenciones no son suficientes. Descartes, también un buen literato, fue uno de los precursores de la jerga científica moderna. Digo jerga sin mala intención. Y el filósofo napolitano Giambattista Vico siempre defendió la compatibilidad entre las ciencias y las humanidades.
Y ya, poetas y narradores contemporáneos como nuestro Galdós o Pío Baroja y extranjeros como Eliot, Yeats, Orwell y un largo etcétera, dedicaron muchas páginas de sus obras a reflexionar sobre la compatibilidad de ambas materias. A mí, salvando las distancias, me pasa lo mismo y por eso he escrito este libro que, fundamentalmente, trata del riesgo existencial en el que estamos viviendo. Algunos investigadores hablan incluso de 'genocidio existencial'. Porque como ya escribió Adorno, la idea de progreso no puede existir sin la de la humanidad (en Dialéctica de la Ilustración). Y Einstein nos previno señalando que la perversión de la ciencia es un pecado contra el espíritu.
"Estamos vigilados por todas partes y en todo. Zuckerberg estaba defendiendo un nuevo totalitarismo, en este caso el tecnológico"
P. ¿Cree que está en peligro el ser humano viendo el protagonismo que está adquiriendo la inteligencia artificial?
R. Totalmente. Mark Zuckerberg, fundador de Facebook, hizo en el año 2010 una afirmación terrible. La privacidad, para él, había dejado de ser una norma social, un derecho. La privacidad siempre ha equivalido a la libertad. Por lo tanto estaba poniendo en duda este derecho inalienable del individuo. Y así está siendo. Estamos vigilados por todas partes. Zuckerberg, como los fascistas, nazis, maoístas y soviéticos, estaba defendiendo un nuevo totalitarismo, en este caso el tecnológico. Estaba mostrando una especie de derecho de propiedad sobre cada individuo.
Elon Musk siempre se ha referido a que el capitalismo humano ha muerto y estamos ya en el capitalismo tecnológico. Incluso estudiosos importantes como Kaczynski han llegado a pedir una renuncia a la tecnología, detener el progreso para analizar el futuro y ya, renunciar a ciertos tipos de investigaciones que nos están llevando por el mal camino. En 1971, ya hace tiempo, el Congreso de los EEUU creó una Comisión Nacional para la Protección de los Seres Humanos. Y hoy, universidades como las de Oxford, Cambridge, Berkeley o Boston, tienen centros de estudios dedicados al futuro de la humanidad o del riesgo existencial. Estamos ya siendo conscientes de que el peligro existe y es verdadero.
P. ¿Considera, como advierten algunas voces, que cuanta más tecnología exista, más dependeremos de ella y más desconocimiento de nosotros mismos tendremos?
R. Así es. Ya dependemos prácticamente de ella. Pero la tecnología no es algo abstracto, tiene sus propietarios, sus dueños, sus empresas, su poder, y en esta red ya está capturado el ser humano. Va a ser ya muy difícil volver a ganarnos la libertad. Estamos inmersos en varias revoluciones a la vez: genética, nanotecnológica y robótica. Pronto nos llegaremos a hacer las siguientes preguntas. ¿Son los robots una raza de humanos mejorados?, ¿Somos los humanos una raza de inhumanos? Yuval Harari autor de Homo Deus, dice que ya estamos en los inicios de la unión del Homo Sapiens con la inteligencia artificial, que producirá una descendencia superinteligente, fuerte e inmortal. Da por concluido al Homo Sapiens y habla de Homo Deus. Y nos recuerda también que de la faz de la tierra también desaparecieron el Homo Erectus, el Homo Habilis y tantos otros. Que nos estamos alejando del conocimiento de nosotros mismos por esa entrega sin condiciones a las máquinas. Evidentemente, nos acabarán controlando debido a nuestras propias carencias y necesidades.
P. ¿Ve un peligro inminente en nuestra forma de convivencia?
R. Hay un embrutecimiento digital que no solo erosiona al individuo sino también a la sociedad y nuestras democracias. Nuestros sentimientos, afectos, deseos, el amor, la felicidad, la muerte, el destino, el libre albedrío y demás bases existenciales hasta ahora, ¿por qué serán reemplazadas?, ¿qué otros motivos se inventarán para dar sentido a la vida?, ¿serán extirpados y ya no nos serán necesarios?, ¿ya no habrá individuos sino solo masa de nuevo “manipulada”, “orientada” y “dirigida”? El ser humano está cada vez más rodeado de objetos que lo gobiernan. Ya tiene que compartir el mundo con seres que no son irracionales (los animales) sino que cada vez son más parecidos a nosotros mismos. Sí, supuestamente, Dios nos creó a su imagen y semejanza, nosotros queremos hacer eso mismo con los robots. Y entonces qué categoría genérica y legal tendrán (o tendremos)?
P. ¿Qué puede hacer la sociedad en medio de esta revolución?
R. Debe estar muy presente en todos esos procesos y establecer la necesidad o no de cada uno de ellos. Y, por encima de todas las cosas, proteger al individuo. Un código ético debe abarcar a todas las personas implicadas en estos trabajos de la inteligencia artificial. Aquí hay varias importantes preguntas que contestar: ¿Un humano modificado mediante la tecnología deja de ser humano? ¿Dónde debe establecerse la línea divisoria? ¿Estamos creando nuevas especies? Hay muchos otros asuntos que deben ser también estudiados jurídicamente.
P. ¿Va camino el ser humano de su obsolescencia?
R. Sí. Novotny, profesora emérita de la Universidad de Columbia y autora de un muy interesante libro titulado La fe en la inteligencia artificial habla ya de 'coevolución'. Ya tenemos que ir aprendiendo a convivir en nuestro día a día con, por ejemplo, los robots. O vivir varias vidas a la vez a través del metaverso o los avatares. Todo esto estará más allá de nuestras fronteras tangibles, físicas y conocidas. Sí, primero fue la evolución darwinista y ahora nos encontramos en la coevolución ser humano-máquinas.
P. ¿Son los magnates tecnológicos un peligro para las democracias?
R. Sí, son una gravísima amenaza. Sus empresas son tanto o más poderosas que muchos Estados. No pagan impuestos, amenazan, pueden parar la actividad vital y laboral cuando quieran. En los EE.UU., antes de los sucesos de las Torres Gemelas, había un gran conflicto legal entre el estado norteamericano y estas compañías. Cuando tan terribles hechos se produjeron, la CIA tuvo que echar mano de ellas porque eran quienes tenían la mejor información. Así terminó la pugna legal. Las compañías tecnológicas de la noche a la mañana pasaron de ser reos a héroes porque estaban ayudando a salvar a la humanidad. Con esa intención nacieron, pero el caso es que todos sus dueños son hoy los propietarios de las más grandes fortunas mundiales. Hoy en día el peligro no está en la ignorancia, que sigue siendo mucha, sino en el saber descontrolado.
P. ¿Ve Internet como un territorio sin control?
R. De alguna manera sí. Un territorio difícil de concretar mentalmente. Aquí hay dos grandes y únicas alternativas. O es absolutamente libre y fuera de toda jurisdicción legal o se legaliza y normaliza según el resto de la sociedad. Yo prefiero que los piratas sean perseguidos, así como aquellos que divulgan papeles personales o públicos sin consentimiento. Para mí, también en Internet debe regir el orden y no la anarquía.
P. ¿Ha cambiado la apreciación sobre la ciencia en nuestro país?
R. Sí, hoy tiene mucho prestigio y grandes investigadores. Pero sigue careciendo del respaldo económico necesario por parte del Estado e incluso de las fundaciones privadas. Ya no hay anticientíficos como Unamuno o pro científicos como Galdós y Pío Baroja. Todo el mundo es consciente de la importancia de la ciencia. La ciencia en España fue muy perseguida por los poderes políticos y religiosos, aunque hubo disciplinas como las matemáticas, la geografía, la botánica o la medicina que tuvieron un camino menos tortuoso. Pero no hubo científicos como Galileo, Descartes, Newton o Bacon.
P. ¿Cree que el pensamiento de George Orwell sigue vivo?
R. Vivísimo. Aunque hoy creo que la presencia literaria más perturbadora para mí sigue siendo la obra de B. F- Skinner, Walden Dos. Una novela en la que se sacrifica la libertad y al individuo en el altar de la ciencia. Quienes entran en ese Paraíso lo ganan todo, excepto el libre albedrío. Se sabe que Microsoft lleva años monotorizando la conducta del usuario para fines propios. Skinner, un catedrático norteamericano de psicología, fue uno de los promotores del Conductismo: al individuo había que “extirparle” su cerebro para salvarlo del mal, del dolor, de todos los deseos y emociones, y crearle una felicidad amansada. Nuestra sociedad va camino de eso desde hace varias décadas. Walden Dos (1948) se publicó un año antes que 1984 de Orwell. Skniner es también autor de un ensayo titulado Más allá de la libertad y la dignidad (1971). En este libro se justifica todo lo que ficcionó en su novela. Él creía en todo lo que escribía. De haber nacido antes de los totalitarismos, hubiera sido un buen precedente.
P. Finaliza su libro haciendo un homenaje al silencio...
R. Sí, porque ante todo lo descrito y meditado en cuatrocientas páginas solo me quedaba guardar silencio por algún tiempo. En el fondo, es un homenaje a Tanizaki, Handke, Wenders y Ozu. Creo que en Finlandia hay un proverbio que afirma que el silencio equivale a un lingote de oro macizo, mientras que el hablar es plata de no muy buena calidad...
