A día de hoy, el mundo lega muchas decisiones importantes a fórmulas matemáticas. La influencia de los algoritmos es cada vez mayor en nuestra vida y en nuestra sociedad.

Te levantas por la mañana y abres Facebook. El contenido que ves lo ha seleccionado un algoritmo.  Después vas a la ducha y pones la música que Spotify te recomienda. También la ha elegido un algoritmo. Quizás hasta el móvil que estás utilizando para ello lo viste en un anuncio… que un algoritmo determinó mostrarte. Y así sucesivamente.

Cada búsqueda en Google, cada canción que te recomienda Spotify y serie que te recomienda Netflix, cada noticia que ves en Facebook, cada anuncio que ves en la web, cada correo que se clasifica como spam… Básicamente toda tu actividad en Internet está regida por algún algoritmo. Y esas fórmulas matemáticas juegan un papel importante en otros aspectos de nuestra vida también, aunque no todo el mundo lo sabe. Pero, ¿de dónde viene exactamente esta fiebre por los algoritmos? ¿Qué son exactamente? ¿Y hasta qué punto nos benefician?

Algoritmos de curación y big data

El origen del triunfo del algoritmo como método de curación no es otro que del big data. Los grandes servicios de Internet guardan miles de datos sobre sus millones de clientes, y no van a desaprovechar toda esa información. A partir de todos los detalles del comportamiento de millones de usuarios, se nos puede clasificar en ciertos perfiles e identificar determinadas tendencias.

En otras palabras, Facebook sabe con qué noticias vas a interactuar más. Spotify sabe qué canciones vas a escuchar. Google sabe qué resultado te va a satisfacer al hacer una búsqueda. Y todo eso lo sabe porque al fin y al cabo, tu comportamiento es muy similar al de muchos otros usuarios. Todo eso lo averigua un algoritmo a partir del big data.

Al final del día, un buen algoritmo hace que encuentres lo que buscas en un servicio, y por tanto te quedes más tiempo en él. Así, un buen algoritmo puede marcar la diferencia entre el éxito y el fracaso en cualquier servicio.

La influencia de los algoritmos nos mediatiza

Una serie de fórmulas matemáticas eligen que noticias vas a leer, que música vas a escuchar, qué series vas a ver y qué publicidad te vas a encontrar. La influencia que ejercen los algoritmos en toda la sociedad es innegable, y es aún una tendencia al alza.

El problema viene cuando esos algoritmos no son todo lo imparciales que deberían. Una vez que un servicio ya tiene una base de usuarios activos fuerte, puede interesarse por influir en ellos. Quizás Facebook, en cierto punto ya no quiera mostrarte las noticias que te interesan, sino conseguir que te empiecen a interesar otras noticias.

Aunque con buena intención, filtros como el anti fake news o el filtro para evitar el clickbait son un primer paso para crear algoritmos más parciales. Además, la curación de contenido por algoritmos suele ser poco transparente, y nunca sabemos cuando puede estar interfiriendo un humano. El año pasado, por ejemplo, Facebook sesgó los resultados de los trending topics en contra de los políticos republicanos.

Los algoritmos que incrementan las diferencias en la sociedad

Además, los algoritmos están tomando un papel más protagonista fuera de Internet. Cada vez están teniendo un uso más amplio incluso por parte de las autoridades.

En Washington DC, se hizo una selección de profesorado a partir de una valoración de rendimiento hecha por un algoritmo. 200 personas fueran despedidas por su selección.

En algunos estados y ciudades de Estados Unidos se emplea una política preventiva a partir de los resultados de un algoritmo. El algoritmo busca qué personas y en qué áreas tienen más probabilidades de cometer un crimen, y se refuerza la seguridad allí. Esto, por una parte, reduce la criminalidad, pero por otra parte contribuye a estigmatizar comunidades problemáticas. Al fin y al cabo, los algoritmos comparten prejuicios con quiénes los desarrollan.

Estas mismas medidas se aplican incluso en juzgados que consideran resultados de probabilidad de culpabilidad calculados por un algoritmo a la hora de dictar sentencia. Estos algoritmos tienen en cuenta factores como el barrio o los antecedentes penales familiares que ayudan a incrementar diferencias ya existentes en ciertos sectores de la sociedad.

En definitiva, los algoritmos son ideales para hacer selecciones personalizadas a gran escala que no se podrían hacer humanamente. Supuestamente también deberían ayudar a evitar la parcialidad, pero a veces se diseñan para que actúen con los mismos prejuicios del creador del algoritmo. Y cada vez están cobrando un papel más importante en nuestra vida.