La Inteligencia Artificial de Google ya sabe decir palabrotas

La Inteligencia Artificial da un paso más en la interpretación del mundo con un proyecto de Google: ha conseguido una herramienta para moderar comentarios.

Los comentarios en blogs, periódicos o redes como YouTube están cada vez más lejos de resultar útiles y agradables, tanto a los moderadores como a los propios lectores. Resulta imposible moderar todas las conversaciones, por lo que Google ha comenzado un proyecto con el que pretende identificar los comentarios tóxicos e, incluso, actuar en consecuencia. Todo mediante Inteligencia Artificial.

Inteligencia Artificial que aprende de los comentarios e identifica insultos

Perspective, que así se llama el proyecto, es una herramienta que se basa en la categorización de comentarios previos para entender por qué tienen trazas de ser tóxicos. Una vez los lectores y moderadoras han marcado como negativos una base de comentarios, Perspective puede discernir de manera autónoma qué es lo que lleva a una conversación a ser molesta para los otros usuarios.

La Inteligencia Artificial aprende para conocer, y utilizar, el lenguaje «tóxico»

La Inteligencia Artificial de Google localizada en Perspective no solo identifica los comentarios en base a los registros previos, también es capaz de utilizar el aprendizaje de máquina para ir añadiendo conocimiento a su base de actuación. De esta manera es capaz de utilizar ese mismo lenguaje calificado como tóxico para, por ejemplo, decirle en tiempo real a un comentarista que no le gusta su lenguaje.

Perspective puede, literalmente, utilizar ese mismo lenguaje que identifica y modera. La tecnología implementada aún está en sus primeras fases de desarrollo, pero ya la pueden utilizar tanto editores como desarrolladores. De hecho, Google la ha puesto en práctica con el medio The New York Times dándoles mayor rapidez a la hora de gestionar los comentarios y aumentando la fiabilidad contra el lenguaje tóxico.

Pronto podremos adaptar el estilo de lenguaje de nuestro asistente personal

Una de las claves para que los asistentes triunfen es que nos hablen de una manera natural y sin artificios. Los modelos de lenguaje y el conocimiento del doble sentido de las palabras es clave para el entendimiento entre máquina y humano. Que un ordenador sepa decir palabrotas aporta un rasgo clave de naturalidad y humanización.

Esperemos que el móvil no nos mande a paseo cuando le pidamos que nos lleve a una calle o que nos insulte cuando la batería llegue al 5 %. Mientras tanto, Perspective, de Google, seguirá entrenando su lenguaje para ser más eficaz moderando comentarios.