Instagram vigilará tus mensajes antes de enviarlos para saber si estás acosando

El acoso en las redes sociales es un tema que a día de hoy causa mucha preocupación. Internet es un lugar donde muchos actúan sin ningún tipo de filtro, y a día de hoy es muy difícil buscar un responsable.

¿Es responsabilidad de Instagram actuar como policía en su red social? Pues la compañía parece creer que si, o al menos eso dejan de entrever con una herramienta que están comenzando a desplegar en su aplicación.

Instagram usará IA para prevenir mensajes de acoso

Uno de los problemas más grandes de Internet está en la educación, o más bien falta de educación, de algunos internautas, aquellos que piensan que bajo la máscara del anonimato tienen derecho a molestar a otras personas.

Instagram se ha convertido en una de las redes sociales más activas en los últimos años, y eso conlleva que exista más gente problemática dentro de la plataforma. Un problema que consideran que deben hacer frente. Y así ha sido con la nueva función que han presentado.

Esta función utiliza inteligencia artificial para verificar nuestro mensaje y compararlo con mensajes que hayan sido reportados por otros usuarios de la red social. Mediante este análisis, Instagram es capaz de entender si un mensaje es potencialmente peligroso.

En caso de que el mensaje que vayamos a enviar haya sido marcado por la inteligencia artificial, antes de que lleguemos a publicarlo nos aparecerá un mensaje indicándonos que el mensaje que estamos a punto de enviar se parece a mensajes que han sido reportados por otros usuarios, dándonos la posibilidad de modificarlo o de ignorar la advertencia y enviarlo.

¿Qué consigue Instagram con esto? pues es una pregunta que da para muchas respuestas.

• En primer lugar, no va a evitar que quien quiera mandar mensajes ofensivos vaya a dejar de enviarlos. No obstante, la advertencia debería servir para aquellos que hayan escrito cualquier bordería sin ser conscientes. Este aviso hace que esas personas se sientan un poco más vigilados y que se piensen dos veces si el mensaje está bien.
• Por otro lado, la compañía se anota un importante tanto en imagen de marca, quitándose de toda responsabilidad posible en futuros casos de acoso que asalten a la plataforma.
• Por último, este movimiento podría ser considerado como una vulneración de privacidad hacia los usuarios. Por mucho que nuestro mensaje esté siendo analizado por una IA, y no una persona, es algo que puede terminar repercutiendo en sentirse completamente observado.

¿Es obligación de Instagram hacer de policía en su propia plataforma cuando la culpa es de los propios usuarios?