Google ha lanzado un comunicado explicando que su IA capaz de engañar a humanos incluirá un aviso y se identificará.

Fue sin duda el momento estrella de la conferencia inicial del Google I/O: el momento en el que Google enseñó cómo su asistente es capaz de hacer llamadas telefónicas a servicios por si solo; usando nuestros datos, es capaz de hacer cosas como pedir citas en peluquerías, o reservas en restaurantes.

La IA capaz de engañar a humanos mete miedo al mundo

Una tecnología llamada Duplex, de la que Google mostró grabaciones de casos reales, en las que los trabajadores parecían haber sido engañados por la IA; el sistema era capaz incluso de reaccionar ante diferentes preguntas y hacer cosas típicas de un humano, como dudar un poco antes de responder.

Aunque muchos nos sorprendimos por este increíble logro tecnológico, una vez que la euforia pasó quedó la gran duda: ¿realmente queremos a una IA que sea capaz de pasarse por un humano? Las consecuencias éticas de semejante creación fueron pasadas por alto en la presentación; las consecuencias de engañar a un ser humano, haciéndole creer que estaba hablando con una persona.

Además, muchos temían que estuviésemos ante el inicio de una nueva era de spam, en la que en vez de escuchar una grabación, escucharíamos a una IA intentando vendiéndonos algo con nuestros datos.

Le guste a Google o no, Duplex ha iniciado un debate sobre la ética de usar IA como sustituto de las interacciones humanas. Y esto le ha obligado a reaccionar.

Google reacciona, pero ¿será suficiente?

Principalmente, promete que el sistema avisará de que se trata de una IA antes de iniciar la conversación en las pruebas de las que forme parte a partir de ahora.

Afirma que la transparencia en la tecnología es importante, y que lo que se mostró en el I/O no era más que una demostración muy temprana; que será modificada en parte con las reacciones que está recibiendo.

A partir de ahora, Google se asegurará de que el sistema se ha identificado adecuadamente y de manera verbal en las pruebas; es decir, que antes que nada avisará a la persona al otro lado de la línea de que se trata de un sistema informático y no una persona. En la demostración, sólo decía “hola” y explicaba el motivo de su llamada.

Por el momento Duplex no tiene versión comercial, y es sólo un experimento interno de Google; es de imaginar que contará con este tipo de avisos implementados por defecto. Pero Google ha abierto la Caja de Pandora con esta demostración; será difícil contener el debate, y sobre todo, que otros tengan la misma idea y decidan no identificar a su IA.