La rebelión de los bots empezó cuando aprendieron de ti

La rebelión de los bots dio comienzo el día en el que aprendieron de ti. Te imitaron, quisieron ser como tú. Y lo fueron. Poco importó que tratases de reeducarles, de decirles lo mal que estaba su comportamiento. Tenían una misión: comportarse como haría un humano. Siguieron las órdenes como sólo las máquinas saben.

Era un frío día de noviembre, un lunes cualquiera al que nadie quiso ponerle fecha. Pero la tuvo: un 20 de noviembre de 2016. Sentados delante de la pantalla, los científicos observaban a la criatura. Sin saber qué decir, alguno se echaba las manos a la cabeza, otro prefería mirar para otro lado. Los más valientes aguantaron el tipo; conscientes de que eran los causantes del desastre.

Todo comenzó el día en que dejaron que el bot aprendiese

Charles, director del proyecto, aguantó la mirada de su criatura. Ceros y unos, comandos de programación, una red neuronal diseñada para que la máquina aprendiese del comportamiento ajeno. Él, como artífice de la idea, no le dio criterio alguno, ni siquiera personalidad. Pensó que aprendería de los demás con la inocencia de un niño. A la vista de los resultados, su ingenuidad era mayúscula.

El equipo de Charles recibió el encargo un año antes del fatídico día: desarrollar el bot más inteligente jamás creado. Debía interactuar con las personas a través de chats escritos y de voz; se apoyaría en dicha interacción para auto evolucionarse; y su comportamiento fluctuaría según las interacciones, como un niño bajo la tutela de sus padres. Charles ideó la metáfora infantil desde el mismo momento en que dio forma a la idea. De hecho, consideraba al bot ese hijo que nunca tuvo.

«¿Por qué te volviste malvado?», pensaba Charles contemplando a su hijo. El bot adoptó la figura de un demonio. Le miraba a los ojos gracias al sistema de reconocimiento facial. «Elegiste el avatar que mejor te encaja, no hay duda. Te has vuelto un demonio, como todas esas personas que contactaron contigo. Sí, la sociedad es demoníaca».

Charles contuvo la respiración, tomó el ratón y abrió la pestaña de terminal que le unía al servidor mediante una conexión SSH. El corazón le palpitaba como si sufriese un terremoto en el pecho, pero no hizo caso. No podía. No debía. Entre lágrimas, desconectó el servidor y procedió al formateado del código, mucho más amplio gracias a las decisiones tomadas por su hijo.

Los bots precursores ya anticipaban el desastre

Muchos fueron los «Te lo dije» que Charles tuvo que aguantar conforme su bot mutaba del carácter afable que se esperaba de él a la personalidad destructiva que terminó adquiriendo. La historia se repite, la moda vuelve de manera cíclica una y otra vez. También la tecnología suele estrellarse contra las mismas paredes, sean virtuales o no.

A Charles no se le escaparon los malos ejemplos, pero tuvo que descartarlos si quería progresar con la criatura. Estudió a fondo el caso de Simsimi, un simpático bot programado por un equipo coreano que buscaba convertirse en el robot de una plataforma de mensajería colaborativa. No obvió el tremendo fracaso de Microsoft con su bot para Twitter: Tay necesitó sólo un día para terminar contagiado por la rabia de la red social. Racista, misógino, la persona más despreciable con la que uno podría toparse. Lo mismo que dijeron de su propio hijo.

No quiso verlo porque permanecía obcecado por el éxito. También por la utilidad a la que aspiraba el desarrollo: quería que la empresa, líder en inteligencia artificial, mostrase al mundo sus avances materializándolos en un software sencillo y accesible por cualquier persona. ¿Y qué hay más accesible que una ventana de conversación?

El ser humano puede ser maravilloso, pero normalmente no lo es

Charles escuchó suspiros de alivio al desconectar al bot. De hecho, hasta él mismo suspiró por más que con el alivio también se mezclara la tristeza. Sabía que ahora tocaba recopilar las conclusiones y encontrarle una aplicación práctica al año que supuso el proyecto. Por no hablar de su responsabilidad de cara a los accionistas, no iba a ser fácil explicarlo.

—¿Cómo ha podido pasar?—Expresó en voz alta uno de los programadores.
—Fácil.—respondió otro—. Hicimos al bot con un único objetivo: aprender de las personas que contactasen con él. A fuerza de hablar con ellas ha ido forjando una personalidad tan cercana a la humana que terminó por replicarla.
—¿Quieres decir que el ser humano es eso en lo que nuestro bot se ha convertido?
—Me temo que sí.—musitó Charles apartando la vista de la pantalla, ahora negra tras entrar en funcionamiento el sistema de ahorro de energía—. No hay esperanza: cualquier software basado en redes neuronales que programemos para aprender de las personas correrá el riesgo de convertirse en un auténtico tirano.
—¿Y qué hacemos con el otro proyecto?—Charles se giró hacia el desarrollador que intervenía, el más joven del equipo—. Justo hoy aplicamos la base del comportamiento del bot a la inteligencia artificial de nuestra ciudad en pruebas.
—Dígame que la ciudad seguía en alfa cerrada dentro de nuestros servidores.

El silencio fue la única respuesta.