El algoritmo que predice si un detenido va a reincidir (y que es un despropósito)

El algoritmo COMPAS es utilizado para intentar predecir si alguien va a comentar un delito. Es utilizado en los juzgados de EEUU para saber si un acusado en un tribunal podría reincidir, y los jueces lo usan como motivo para subir fianzas o incluso ordenar prisión. Y el problema es que se acaba de descubrir que este algoritmo es igual de certero que la opinión de cualquiera.

Este descubrimiento viene de la mano de un estudio publicado en Science Advances. Dos investigadores, Julia Dressel y Hany Farid, han descubierto que este algoritmo no sería más certero que la opinión de cualquier persona con poca experiencia en justicia criminal. Un buen ejemplo de que todavía no tenemos las herramientas para predecir si alguien va a cometer un delito.

COMPAS: el algoritmo que te puede enviar a la cárcel

juzgado-washington

Lo cierto es que COMPAS es un desconocido a este lado del charco, pero muy conocido en los EEUU. Se trata de un algoritmo hecho por Equivant que revisa el historial delictivo de un acusado, junto a otros 137 factores. En la teoría, este algoritmo usa esta información para calcular la probabilidad de que un acusado vuelva a ser detenido en los próximos dos años.

Los jueces de Estados Unidos utilizan esta información para tomar decisiones sobre un acusado. Puede ser un motivo por el que se aumente la fianza, o incluso se imponga una pena de prisión. Si el algoritmo cree que hay un alto riesgo de que alguien vuelva a delinquir, los jueces pueden establecer penas más largas.

Y como el algoritmo se mantiene en secreto, los abogados defensores tienen poco margen para discutir los resultados que ofrece COMPAS. A esto se le unen acusaciones de que podría estar condicionado por la raza del acusado; ProPublica asegura que las personas negras tienden a sacar puntuaciones más altas.

El algoritmo no es más certero que una persona cualquiera

A pesar de estas acusaciones, ni los juzgados ni muchos estados han cuestionado las puntuaciones que obtienen del sistema. Algo que ha hecho el estudio publicado en Science Advances. El cual ha descubierto que el algoritmo no sería mejor que cualquiera a la hora de predecir delitos.

Para demostrarlo, Farid y Dressel contrataron a 462 personas aleatorias, y les pidieron que leyeran unas líneas sobre una persona. A partir de esos datos, y sin tener experiencia en justicia criminal, debían predecir si cometerían un crimen en el futuro. Algo que consiguieron con más eficacia que COMPASS: los resultados fueron un 2% más precisos que los del algoritmo.

tabla-estudio-compas

Además, ambos investigadores también crearon un algoritmo simple y lineal que sólo tenía en cuenta la edad del acusado y su historial criminal. Incluso con algo tan básico consiguieron ser más certeros que los resultados que arrojó COMPAS en su momento. Normalmente más datos implica más precisión, pero en este caso ocurriría todo lo contrario.

Equivant -la compañía responsable de COMPAS- se ha defendido con una nota de prensa. En ella aseguran que el artículo de Science Advances es “muy engañoso“, y que COMPAS ha superado el estándar del 70% de acierto. También han solicitado más información sobre el estudio para analizar los resultados por su cuenta.

¿Todavía es demasiado pronto para predecir crímenes?

prision-carcel

El caso de COMPAS es sangrante en especial, como destaca el New York Times. Estados como Wisconsin o Colorado han permitido que un algoritmo tome papel a la hora de mandar a prisión. Y lo peor sería que nadie en el sistema de justicia estadounidense sabe siquiera como funciona. Equivant no revela su funciona a nadie, lo único que dan es una puntuación final para cada persona.

Lo único que parece cierto es que es demasiado pronto para crear esta clase de algoritmos. Los intentos actuales se quedan demasiado lejos, no son mejores que nosotros a la hora de predecir crímenes. Todavía estamos muy lejos de alcanzar a ficciones como Minority Report o Person of Interest.