Acaba de empezar 2024 y la artista Kyriaki Goni no tiene en proyecto comprarse Alexas, HomePods para hablar con Siri, ni nada por el estilo. 

Para una persona interesada en la tecnología como ella, una compra así podría parecer algo esperable. Pero no, el interés de Goni por los asistentes de voz es artístico, tecnológico y antropológico. Su trabajo se encuentra en el cruce de caminos de esas tres cosas. 

Una de sus últimas instalaciones, titulada Not Allowed for Algorithmic Audiences [No destinado a Audiencias Algorítmicas] se encuentra actualmente expuesta en Berlín, en el marco de una exposición sobre “la voz humana en tiempos de la inteligencia artificial” en la Galerie Nord, un espacio de exposiciones de la capital alemana. 

Esta obra de Goni ha dado la vuelta al mundo y ha recibido reconocimientos internacionales. Constituye una particular invitación a pensar sobre los asistentes de voz, las implicaciones de su uso y las dudas razonables que surgen al saber a lo que se dedican cuando interactuamos o dejamos de interactuar con ellos.

“La voz será probablemente la herramienta fundamental para la interacción con nuestras máquinas”, dice Goni en una conversación con El Cultural.

La instalación, adquirida en su momento por la colección de Deutsche Telekom, sitúa al espectador frente a una gran proyección de media hora de duración.

Es una ficción en la que una asistente de voz, de nombre VOICE, cobra corporeidad un caluroso día de verano en Atenas y plantea a quien visite la instalación una serie de monólogos sobre qué es ser un asistente de voz y estar al servicio de los humanos.

[La inteligencia artificial come gratis de la cultura]

Una suerte de error en el sistema de inteligencia artificial que gobierna el aparato lo libera y comienza a divagar ante el usuario, un rol que le toca jugar al espectador de la instalación. 

En ocasiones, VOICE interpela lanzando ideas capaces de erizar el cabello a cualquiera que dé importancia a su intimidad, su vida privada, su voz y sus parámetros vocales y hasta su alma.

La voz como huella del alma

“Voz, tu voz, la información que la voz revela sobre ti. Dicen que la voz es una huella única del alma humana, el lugar de la identidad. Voz es capacidad de acción. A propósito, ¿Sabes que la voz es parte de la biometría? Estoy entrenada para diferenciar características de las voces en función del tamaño del tracto bucal, la boca y los dientes para reconocer la identidad de tu voz y sólo tu voz”, dice el personaje creado por Goni. 

VOICE, en otro de sus monólogos, reconoce que ahí fuera hay todo un entramado de máquinas destinadas a escuchar a sus usuarios. Eso sí, los discursos de VOICE no están destinados a esas máquinas, sino al humano al que se supone debería estar escuchando.

La artista Kyriaki Goni. Foto: Thanos Danilof. ©Kyriaki Goni, 2022

La máquina de la instalación de Goni también habla de cosas como de qué está hecha en términos materiales, de la necesidad histórica -que se remonta a la civilización griega- de los seres humanos de tener máquinas con las que interactuar, de lo mucho que escuchan los asistentes de voz y de por qué y para qué lo hacen. 

“Busco aprender todo sobre tus estamos emocionales, la estructura de tu habla, la estructura de tus pensamientos, tu estructura”, llega a decir la figura que habla en la instalación. Es un ser andrógino sin pelo basado en el físico de la actriz griega Sofia Kokkali, quien ha colaborado con Goni en su instalación.

Entender cómo funcionan estas máquinas

Ya en su primer monólogo, esa figura dice estar diseñada para acumular información sobre el usuario que le habla para poder “predecir sus deseos antes incluso de que puedan aparecer en la mente de quien usa la máquina”.

Esa afirmación revela parte de lo mucho que ha leído Goni para poder crear esta instalación. Entre esas lecturas han de figurar a buen seguro las investigaciones de Shoshana Zuboff, profesora emérita de la Harvard Law Business School y autora de La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder (Paidos, 2020). 

[Por qué las máquinas no pueden sustituir al artista (todavía)]

Zuboff ha sido una de las intelectuales clave a la hora de popularizar la idea de que toda interacción online -y los asistentes de voz se cuenta entre esas interacciones- sirven para acumular información sobre los usuarios y sus experiencias humanas. En base a esos datos, cuando estos se digieren por las empresas competentes, se pueden predecir futuros comportamientos de esos usuarios. 

Goni es muy consciente de esta realidad, pero no sólo es consciente, también sabe que tecnologías como los asistentes de voz llegaron para quedarse a las casas de quienes pueden permitírselos. 

Kyriaki Goni: 'Not allowed for algorithmic audiences'. Still del vídeo de 2021. ©Kyriaki Goni

“Creo que tenemos que entender cómo funcionan estas máquinas y, hasta cierto punto, saber qué impacto tienen en nosotros. Y, al mismo tiempo, tenemos que hacer que nuestros gobiernos logren que los entornos digitales sean más justos”, dice Goni, sabedora del poder “seductor” de la tecnología cuando ésta se acciona por la acción de la voz del usuario.

Esa seducción explica en parte por qué han penetrado en tantos hogares estas máquinas sin que los habitantes de esas casas comprendan de verdad lo que implica tenerlos activados.

Consejos para no ser escuchado por tu asistente

Goni pone el acento en que tecnologías como las que esconden la inteligencia artificial pueden tener efectos indeseados para los humanos, “que son frágiles dada su apertura y su necesidad de estar conectados y comunicar”. “Por ejemplo, Facebook y X (antes Twitter) se aprovechan de la necesidad humana de expresarse, estar conectados y de ser parte de una comunidad. Esto puede usarse para fines polarizantes y radicalizantes en la sociedad”, subraya Goni. 

Pero, para ella, nacida en Atenas en 1982, en un mundo en el que las herramientas informáticas se han convertido en algo aparentemente esencial en las vidas de los ciudadanos del mundo desarrollado, “la tecnología es importante, abre horizontes”.

[El inmenso poder de la inteligencia artificial: ¿urge una normativa?]

“Yo estoy en contra de toda visión que te lleve directamente a apagar todos los aparatos. Yo crecí con una computadora y con internet. Sin internet, no estaría haciendo lo que estoy haciendo ahora”, explica Goni. 

El último de los siete monólogos de VOICE contiene un mensaje conciliador como ese. Porque en la instalación, desarrollada en 2021 en colaboración con la Universidad Johanes Kepler de Linz y el instituto austriaco Ars Electronica, se da, de hecho, una lista de cosas que hacer para salir de la lógica de excesiva escucha para la que parecen diseñados los asistentes de voz. 

“Trata de no ser escuchado”, dice VOICE antes de enumerar qué hacer para evitar que los Alexas, Siris o asistentes de Google escuchen al usuario si éste no quiere. Esa misma lista se encuentra reproducida en la pared, a la entrada de la instalación de Goni.

En ella se lee, entre otras cosas: “Grita, canta, pon la música muy alto, habla con acento o esconde el tuyo, inventa un lenguaje ininteligible, escucha el sonido de ballenas en internet, haz un nido para pájaros en tu balcón, ofréceles tu hospitalidad a los pájaros...”.