Desde los tiempos de Julio Verne y H.G. Wells, la ciencia ficción siempre ha sido un hervidero de ideas adelantadas a su tiempo que, en muchos casos, décadas más tarde se han convertido en realidad. A tenor de lo visto en los últimos tiempos, esa capacidad predictiva va a volver a dar en el clavo: el relato de Philip K. Dick que Steven Spielberg llevó a la gran pantalla bajo el título Minority Report está cerca de convertirse en realidad: cada vez hay más tecnologías capaces de pronosticar crímenes antes de que ocurran y señalar a sospechosos con días de antelación a que cometan una infracción.
[Drones, perros robot e inteligencia artificial para evitar nuevos tiroteos masivos en EEUU]
Gracias al desarrollo imparable de la inteligencia artificial y el aprendizaje profundo, este futuro distópico está cada vez más cerca. Sobre todo en países como Emiratos Árabes o China, donde la vigilancia por parte del estado llega a cotas extremas. Tampoco se libran los estadounidenses, que poco a poco han visto cómo las herramientas de IA están adentrándose en el sistema judicial y de prisiones, decidiendo sobre las posibles fianzas de detenidos en función de lo que diga un algoritmo. Incluso existe una versión militar, que predice ataques con días de antelación.
Pese a las reservas de los expertos y de los propios ciudadanos, que pueden ver mermados sus derechos por culpa de estas tecnologías, en las últimas semanas se ha conocido la existencia de dos iniciativas que pueden ahondar en este panorama orwelliano, en el que puedes ser arrestado por un delito que (aún) no has cometido.
El algoritmo policía
En el caso estadounidense, científicos de la Universidad de Chicago han desarrollado un nuevo algoritmo que puede predecir los futuros delitos en zonas concretas con una semana de antelación y una precisión del 90% de acierto. ¿Cómo lo hace? Aprendiendo patrones a partir de grandes cantidades de datos públicos, que luego son analizados por una inteligencia artificial.
La herramienta se probó y validó utilizando datos históricos de la ciudad de Chicago en torno a dos grandes categorías: delitos violentos (homicidios, agresiones y lesiones) y delitos contra la propiedad (robos, hurtos y robos de vehículos). Es una manera de aislar la delincuencia observando las coordenadas temporales y espaciales de este tipo de sucesos.
Uno de los mapas que señalan lugares de alta criminalidad con una semana de antelación
Para definir el lugar en el que van a ocurrir futuros delitos, el sistema divide la ciudad en mosaicos espaciales de unos 300 metros y pronostica la delincuencia dentro de estas áreas, en lugar de basarse en los límites tradicionales de los barrios. El modelo probado con éxito con los datos de Chicago funcionó igual de bien con otras siete ciudades estadounidenses: Atlanta, Austin, Detroit, Los Ángeles, Filadelfia, Portland y San Francisco.
En otro modelo distinto, el equipo de investigación también estudió la respuesta de la policía a la delincuencia, analizando el número de detenciones tras los incidentes y comparando esas tasas entre barrios con diferente estatus socioeconómico. Los especialistas en análisis de datos comprobaron científicamente que la delincuencia en las zonas más ricas daba lugar a más detenciones, mientras que las detenciones en los barrios desfavorecidos disminuían pese a sus elevadas tasas de criminalidad. La conclusión parece evidente: existe un importante sesgo en la respuesta policial y la aplicación de la ley.
"Lo que vemos es que, cuando se estresa el sistema, se requieren más recursos para detener a más personas en respuesta a la delincuencia en una zona rica y se alejan los recursos policiales de las zonas de menor nivel socioeconómico", aseguró Ishanu Chattopadhyay, profesor en la Universidad de Chicago y autor principal del estudio, que se publicó esta semana en Nature Human Behavior.
Los esfuerzos anteriores de predicción de la delincuencia solían utilizar un enfoque epidémico o sísmico, en el que la delincuencia aparece en "puntos calientes" que se extienden a las zonas cercanas. Sin embargo, estas herramientas pasaban por alto el complejo entorno social de las ciudades y no tenían en cuenta la relación entre la delincuencia y los efectos de la actuación policial, según los investigadores.
La herramienta podría utilizarse también para evitar tiroteos como el del 4 de julio
"Demostramos la importancia de descubrir patrones específicos de la ciudad para la predicción de los delitos denunciados, lo que genera una nueva visión de los barrios de la ciudad, nos permite hacer preguntas novedosas y evaluar la acción policial de nuevas maneras", afirma el sociólogo y coautor del paper James Evans.
Los autores, sabedores de las grandes posibilidades y riesgos que implica su algoritmo, señalan que la precisión de la herramienta no significa que deba utilizarse para que las unidades de la policía recorran los barrios de forma proactiva para prevenir la delincuencia. En su lugar, creen que debería añadirse a las herramientas de políticas urbanas y estrategias policiales, para diseñar un servicio más igualitario y efectivo.
"Hemos creado un gemelo digital de los entornos urbanos. Si lo alimentas con datos que han ocurrido en el pasado, te dirá lo que va a ocurrir en el futuro. No es mágico, tiene sus limitaciones, pero lo hemos validado y funciona muy bien", aseguró Chattopadhyay. "Ahora puedes utilizarlo como herramienta de simulación para ver qué ocurre si la delincuencia aumenta en una zona de la ciudad, o si se incrementa la aplicación de la ley en otra zona. Si se aplican todas estas variables diferentes, se puede ver cómo evolucionan los sistemas en respuesta".
El estado policial
La versión china de estas tecnologías es más descarnada y potencialmente peligrosa, en el sentido de que deja en entredicho los derechos individuales de millones de sus ciudadanos. Según un reciente informe publicado por el New York Times, la policía del gigante asiático está adquiriendo tecnología que aprovecha el Big Data obtenido con sus herramientas de vigilancia para adelantarse a posibles delitos y protestas contra la gestión del gobierno.
La infracción de un motorista detectada por una cámara con reconocimiento facial
El sistema es mucho más preciso, en el sentido de que apunta a personas concretas, porque tiene muchos más datos de ellas. Pero no sólo señala a ciudadanos con antecedentes penales, sino que sus múltiples sesgos afectan especialmente a minorías étnicas como los uigures, trabajadores inmigrantes y hasta personas con diagnósticos de enfermedades mentales o SIDA.
Según el periódico neoyorquino, en China más de 1.400 millones de ciudadanos son grabados cada día por las cámaras instaladas en lugares públicos y privados. También se rastrean sus teléfonos, se analizan sus compras y se censuran sus conversaciones por redes sociales. La vigilancia es total y nadie parece escapar de este todopoderoso Gran Hermano, salvo quizá los altos mandos del Partido Comunista y los funcionarios del gobierno.
Según el New York Times, esta tecnología puede avisar a la policía "cada vez que una persona con antecedentes de enfermedad mental se acerca a un colegio", si un consumidor habitual de drogas realiza demasiadas llamadas a un mismo número o si hay sospechas de un matrimonio de conveniencia.
La tecnología está en marcha desde 2017, cuando la compañía especializada en reconocimiento facial y biométrico Megvii anunció una nueva herramienta de inteligencia artificial que podía analizar grabaciones de vídeo a gran escala para encontrar patrones de comportamiento que pudieran derivar en actividades ilícitas.
Controles en la estación de tren de Wuhan
En teoría, el sistema todavía no estaba activo, pero según la información recabada por los periodistas estadounidenses Megvii actualmente es capaz de crear expedientes digitales de los ciudadanos para uso de la policía. Así, rostros, fotos, coches y todo tipo de registros se unen en una gigantesca base de datos, que el software analiza para "reprimir los actos ilegales desde su origen".
A esta herramienta predictiva habría que unir la de otra compañía, Hikvision, que está en el foco de varias polémicas recientes por su uso en países como Reino Unido. Uno de sus modelos de aprendizaje automático ha sido utilizado este año por la policía de Tianjin para adelantarse a las protestas de ciudadanos descontentos con la gestión gubernamental de la crisis del coronavirus.
El sistema se basa en la recopilación de datos de personas que han presentado quejas ante los servicios gubernamentales y las clasifica según la probabilidad de que viajen a Beijing para organizar o participar en una manifestación.