En septiembre de 2024, Andrés Barrantes, CEO de Nuvu, una empresa colombiana de tecnología, se presentó en un programa de televisión de variedades. Lo habían invitado para hablar de la nueva herramienta de Inteligencia Artificial que su empresa había desarrollado para la Policía Nacional de Colombia. “No se trata de usar estereotipos, sino de usar objetivamente la información”,  dijo Barrantes a los tres presentadores a través de una videollamada. “Todo lo almacenado en los hechos de la ciudad se procesa con la Inteligencia Artificial como en una licuadora, para que ella luego al estilo de la película Minority Report… mañana a las 9 de la mañana en la Décima con 45 va a suceder algo, un hurto a una persona”.

Barrantes se refiere a la icónica novela de ciencia ficción de Philip K. Dick, en la que John Anderton, creador y jefe de Precrime, la división de policía que gestiona las predicciones, se vuelve objetivo de su propio cuerpo policial cuando su nombre aparece en una de las tarjetas que anuncian a los futuros criminales. Desde que ve su nombre sentenciado por el sistema predictivo como asesino de un hombre que no conoce, Anderton se dedica a buscar el minority report (reporte minoritario): la predicción menos probable en un sistema de mayorías calculadas a partir de las premoniciones de tres humanos o “precogs” que tienen visiones distintas del futuro. En una de las predicciones, Anderton no asesina a su supuesta víctima. Su alivio se eclipsa al darse cuenta de que su potencial inocencia también significaría el fracaso del sistema y de su fiabilidad: si él puede ser inocente, también pueden serlo quienes han sido arrestados sin técnicamente haber cometido ningún crimen.

Las puntadas que Minority Report da sobre el libre albedrío, y el riesgo de que las probabilidades predeterminen la posibilidad de inocencia de un sujeto, suelen quedar por fuera de la conversación. Esto ocurre incluso entre quienes (frecuentemente) citan la ficción para explicar lo que desde hace unos 15 años es una realidad: herramientas que los cuerpos de policía usan para predecir crímenes. La historia de Philip K. Dick —adaptada al cine en 2002 por Steven Spielberg y protagonizada por Tom Cruise—  se menciona de rapidez para subrayar un deseo liviano: una tecnología que hace posible lo impensable y que promete una solución directa a problemas complejos.

En 2020, Colombia se unió a los más de 40 países donde la policía usa tecnologías de Inteligencia Artificial y machine learning para vigilar a la población y usar algoritmos que analizan los datos recolectados para —según policías y desarrolladores— prevenir el crimen y hacer más eficientes sus labores. La versión colombiana de Precrime se llama IAPOL, se alimenta de datos históricos registrados por la policía para predecir el día, hora y lugar donde sucederá un crimen, así como el tipo de crimen más probable. 

Las predicciones se hacen semanalmente y están disponibles para todas las estaciones de policía en el territorio. En lugar de los tres “precogs” de la película, IAPOL se alimenta de tres bases de datos de la Policía Nacional, y utiliza especialmente dos —los registros de medidas correctivas (RNMC) por infracciones al Código de Policía  y el registro de operaciones de la policía contra la delincuencia (SIEDCO)  que contiene cifras de criminalidad, contravenciones y actividad operativa de la institución policial— para hacer sus predicciones. La tercera base de datos es la información registrada en los sistemas de atención de casos (SECAD), como la línea de emergencia 123,.

Ante varias solicitudes de información hechas para este reportaje, sobre el número de operaciones realizadas por la Policía Nacional en que IAPOL fue usada, el Centro de Analítica del Servicio de Policía (CEPOL) respondió con un documento estadístico en el que se conglomeran más de un millón de capturas, la recuperación de más de 100 mil vehículos y la incautación de casi 3 millones de toneladas de droga (cocaína, heroína, base de coca, bazuco y marihuana) en los últimos seis años. Pero ante la demanda de precisión de estos datos, la Policía Nacional respondió que la información correspondía a todas las actividades operativas de la institución, ya que IAPOL solo había entrado en funcionamiento en agosto de 2025. La policía no ofreció datos más claros sobre las operaciones adelantadas en las que se ha usado la herramienta.

Lo que en otros países ha despertado debates sobre la ética y el sesgo de las herramientas predictivas, en Colombia sigue siendo un tema invisible, del que solo se encuentran algunas menciones en medios de comunicación que resaltan el uso de Inteligencia Artificial como parte del portafolio de innovaciones de la policía, sin muchos detalles.

De qué hablamos cuando hablamos de herramientas predictivas

A grandes rasgos, hay dos tipos de sistemas predictivos que la policía ha implementado en el mundo: los que se enfocan en predecir los lugares en los que ocurrirán los crímenes, buscando coincidencias de horas, lugares o días; y los que se enfocan en identificar “criminales potenciales” a partir de datos personales como antecedentes criminales, experiencias de violencia intrafamiliar, cantidad de requisas hechas por la policía o bajo rendimiento escolar.

En 2011, la alcaldía de Ámsterdam implementó una estrategia que buscaba eso último, identificar a las 600 personas supuestamente más proclives a cometer un crimen en la ciudad. La llamaron Top600, una lista construida a partir de los registros de delitos cometidos y que llevó al aumento en la vigilancia de personas que ya habían cumplido sus sentencias. El sistema luego se expandió con otra lista de 400 perosnas, que se enfocaba en jóvenes sin pasado criminal y que para ser incluido tenía en cuenta, por ejemplo, haber cambiado de escuela al menos tres veces, tener cercanía con alguien con historial criminal o haber tenido un incidente de violencia doméstica. A pesar de que el Top400 había sido diseñado para incluir estrategias de acompañamiento social, organizaciones sociales y madres de jóvenes en la lista denunciaron que la medida se traducía sobre todo en hipervigilancia y represión de jóvenes que sin tener ninguna falta en su historial recibían el tratamiento de criminal, dándole un tono de profecía autocumplida a la estrategia.

“Probablemente ya hayas captado el principal inconveniente legalista del método de precrime.

Estamos deteniendo a personas que no han infringido ninguna ley”.

“Pero sin duda lo harán”, afirmó Witwer con convicción.

Minority Report, Philip K. Dick

Del otro lado —y más parecido al desarrollo que se implementa en Colombia— está el ejemplo de PredPol, hoy llamado Geolitica, un sistema predictivo popular en la policía estadounidense que fue implementado por primera vez en Latinoamérica en Montevideo en 2014. Al igual que el IAPOL de la policía colombiana, PredPol produce mapas de calor para indicar las zonas donde es más probable que ocurra un crimen, para lo que usa los registros de la propia policía sobre ocurrencia de crímenes y sus características de tiempo, lugar y tipo de hecho. PredPol nació en Santa Cruz, California, donde el departamento de policía se convirtió en 2011 uno de los primeros en Estados Unidos en usar una herramienta predictiva. Santa Cruz también fue la primera ciudad del territorio en prohibir su uso en 2020, luego la seguirían otros departamentos de policía como el de Los Ángeles.

Los críticos de PredPol aseguraban que su uso había reforzado y automatizado el perfilamiento de barrios que ya eran sobrevigilados por la policía, comunidades de bajos ingresos económicos, mayoritariamente latinas y afroamericanas. Documentos sobre el funcionamiento de la herramienta, y su análisis en investigaciones periodísticas, confirmaban el sesgo racista de PredPol, cuyos cofundadores ya en 2018 habían establecido que la herramienta se enfocaba un 400% más en barrios latinos y negros que en barrios de población blanca. Nada que no haya pasado ya con otras Inteligencias Artificiales —como Tay, el chatbot de Microsoft que tras 16 horas de ser lanzado adoptó un discurso racista y sexista—. En ambos casos, el resultado producido por la IA es reflejo de la información con que se alimenta. Entonces, los barrios donde la policía patrullaba más era donde se registraba la mayor cantidad de incidentes y, por tanto, donde la IA estimaba una mayor probabilidad de que ocurriera un crimen. Al mismo tiempo, algunos departamentos de policía estadounidenses suspendieron el uso de PredPol por considerar que no les daba nueva información, sino que reiteraba lo que ya sabían y hacían. 

En Colombia, durante el segundo mandato de Enrique Peñalosa como alcalde de Bogotá, el entonces secretario de Seguridad, Convivencia y Justicia, Daniel Mejía, lideró una iniciativa junto a la Universidad Nacional y Quantil —una organización de matemáticas aplicadas— para crear un sistema que pudiera anticiparse a la ocurrencia de crímenes. La iniciativa, que fue financiada por Colciencias, seguía la lógica de crear mapas de calor para los lugares con mayor probabilidad de ocurrencia de crímenes en la ciudad. De la herramienta se habló entonces, cuando Mejía era secretario; luego un par de medios la volvieron a mencionar en 2020 cuando anunciaron que para 2022 ya se implementaría, y luego no se volvió a saber de ella.

En Ámsterdam, la estrategia de Top600 y Top400 atraviesa actualmente un periodo de transformación después de que, en 2023, un estudio del Scientific Research and Documentation Center (WODC) —una agencia neerlandesa dependiente del Ministerio de Justicia y Seguridad de Países Bajos— concluyera que el sistema no llevaba a una disminución del crimen ni evitaba que volviera a ocurrir.

Un tercer ejemplo menos popular de estos sistemas predictivos son las tecnologías de videovigilancia que se enfocan en identificar “comportamientos anormales” de individuos en la vía pública asociados a potenciales comportamientos criminales. Así se ha implementado en China y en el Reino Unido, por ejemplo, y ya en 2024 se exploraba la posibilidad de hacerlo en Colombia, según le contó a Blu Radio el líder de la empresa desarrolladora de la herramienta predictiva.

De XCrime a IAPOL

En septiembre de 2020, la Policía Nacional firmó el primer contrato con High Tech Software S.A.S., la empresa que desde entonces se encargaría de desarrollar y hacer mantenimiento a la herramienta. El contrato se firmó por casi 5 mil millones de pesos (más de un millón y medio de dólares) para desarrollar un “sistema de gestión automatizada de motivos de policía”. El documento pacta la contratación de varios softwares, incluyendo plataformas de comprensión y transcripción de lenguaje ofrecidos por los servicios de nube de Amazon (AWS). XCrime, que lidera la lista de desarrollos de software pactados en el contrato, se describe como una “plataforma de Inteligencia Artificial” a cargo de High Tech Software S.A.S, la empresa que figurará en todos los contratos posteriores de mantenimiento y actualización de la herramienta y manejo de sus bases de datos, a pesar de que en este primer contrato es la Unión Temporal Nuvu S3 quien figura como contratista principal. Andrés Barrantes —el entrevistado en televisión al comienzo de este texto— figura como CEO de ambas empresas.

Dentro de los requerimientos que hace la policía al contratista para el desarrollo de la herramienta se describen varias características que hoy hacen parte de su funcionamiento: que las predicciones se puedan hacer semanalmente, que deben darse por tiempo y lugar y que estén adaptadas singularmente a los cuadrantes por los que se organiza la policía (en cuadrados de 200 x 200 metros), además de servir para decidir la distribución de las patrullas de policía que están en servicio en la calle.

Hasta 2024 se hizo público en medios de comunicación que la Policía Nacional tenía una herramienta de Inteligencia Artificial. Esos primeros reportajes hacían énfasis en el interés de la policía por usar la IA para hacerle frente a potenciales ciberataques, una estrategia que tenía sus raíces en campañas de ciberpatrullaje y perfilamiento online durante el Paro Nacional de 2021, según un reportaje de Cuestión Pública. 

En los medios que mencionaban la herramienta se hablaba de XCrime y ya se describían las tareas que hoy caracterizan a IAPOL: esta inteligencia artificial “facilita la identificación de patrones delictivos y la toma de decisiones basada en históricos y tendencias (tiempo, modo y lugar)”, le dijo a El Nuevo Siglo el coronel Jaime Hernán Rojas Parra, entonces jefe de la Oficina de Tecnologías de la Información y las Comunicaciones (OFTIC) de la Policía. El coronel Rojas aseguró también que la herramienta se venía implementando desde 2020 —no desde 2025, como la policía respondió en la solicitud de información— y que la institución también tenía aplicaciones de Inteligencia Artificial para funciones de biometría que se nutrían con las bases de datos de la Registraduría Nacional.

En la segunda mitad de 2025, la herramienta empezó a nombrarse IAPOL (Inteligencia Artificial Aplicada al Servicio de Policía). Así se dio a conocer en julio de 2025 en una publicación del Colegio de generales de la Policía, luego en septiembre en el medio Pasa la Voz Barranquilla y en noviembre en la revista Cambio, en la que el director general de la Policía, general William Oswaldo Rincón Zambrano, aseguró que IAPOL le permitía a las patrullas “anticipar delitos, optimizar rutas, ubicar puntos de apoyo y atender emergencias en tiempo real”.

Hoy IAPOL está disponible para todas las patrullas de policía en Colombia, según dijo la Policía Nacional en respuesta a la solicitud de información enviada para esta investigación. El seguimiento de la herramienta está a cargo de la oficina de tecnologías de la información y las comunicaciones de la Policía Nacional (OFTIC) y el grupo de tecnologías de la información y las comunicaciones de la jefatura nacional del servicio de policía (JESEP), aunque su mantenimiento lo realiza la empresa contratista, High Tech Software S.A.S, con la que el contrato está vigente hasta el 30 de noviembre de 2026.

El esqueleto de la promesa

En un extenso documento de 34 páginas, la Policía Nacional explicó el funcionamiento de IAPOL en respuesta a una solicitud de información sobre la herramienta enviada en enero de 2026. A primera vista el documento da la impresión de ser un estudio minucioso sobre algoritmos y metodologías para estimar mayorías probabilísticas. 

Un escrutinio pausado, sin embargo, y el análisis de dos expertas de la organización Quantil —dedicada al desarrollo de modelos de IA y que años atrás había estado involucrada en el desarrollo de una primera herramienta en la alcaldía de Peñalosa—, revela que la minuciosidad es imprecisa y más bien se concentra en explicar en detalle la lógica de cálculos estadísticos, a los que dedica casi la mitad de las páginas, para luego pasar de manera rápida sobre las partes del desarrollo que en efecto usan IA y machine learning. Finalmente, omiten por completo la forma en que la herramienta influye sobre el actuar de la policía en las calles.

Según ese documento, IAPOL funciona así:

Hay tres bases de datos de la Policía Nacional de las que se nutre IAPOL, y dos específicamente que se usan para sus funciones predictivas: SIEDCO (Sistema de información Estadístico Delincuencial Contravencional y Operativo) que se nutre de datos registrados por los oficiales de policía sobre delitos, capturas, incautaciones y recuperaciones de vehículos; y RNMC (Registro Nacional de Medidas Correctivas) que contempla los datos de infractores, el tipo de medida correctiva, el estado de pago de multa o de cumplimiento de la medida correctiva y la georreferencia de donde ocurrió el hecho. La tercera base de datos es SECAD (Sistema de seguimiento y control de atención de casos), un sistema creado para la canalización de líneas de atención de emergencias como el 123.

El resultado final del cálculo que hace la herramienta, a partir de esos datos, es un mapa de calor donde cada zona asignada a un cuadrante (cuadrados de 200×200 metros) se identifica con un valor de intensidad entre 0 y 255. Las zonas con valores cercanos a 0, identificadas con color verde, son aquellas con menor ocurrencia histórica de crímenes según el modelo; al otro extremo del espectro están las zonas rojas. El cálculo se hace a partir de dos estrategias: una de conteo que, como su nombre lo indica, se basa en contar la cantidad de eventos ocurridos en cada zona; y otra llamada Kernel Density Estimation (KDE), que utiliza los datos históricos para crear un mapa de calor suavizado del fenómeno criminal, asignándole “pesos” a cada evento según su proximidad espacial.

IAPOL aplica esta metodología todas las semanas para cada unidad de policía en todo el país, a partir de los datos específicos registrados por dicha unidad en cada uno de los tres turnos del día y usando los datos de los 12 meses anteriores. Es decir, si se quieren calcular las predicciones para el 30 de agosto de 2024, para el turno de 7:00 a.m. a 2:00 p.m. en la estación de La Candelaria —un ejemplo extraído directamente del documento enviado por la policía—, se usará la información registrada en el modelo desde el 20 de agosto de 2023 hasta el 20 de agosto de 2024, considerando sólo los eventos ocurridos los viernes (ya que el 30/08/24 fue un viernes) entre las 7 am y las 2 pm en esa estación. El resultado será un mapa de La Candelaria en el que unos cuadrados rojos designarán las zonas con mayor probabilidad de crímenes ese día y entre esas horas.

“Esto no es un modelo de predicción, es un modelo estadístico”, dice después de analizar cómo se construye el mapa de calor Melissa Robles, investigadora de Quantil, la organización dedicada a las matemáticas aplicadas y al desarrollo de modelos de IA. “Es un resumen del pasado. Simplemente le están asignando una probabilidad a los eventos a partir de datos históricos y eso es lo que nombran como predicción”. La diferencia es importante porque una herramienta predictiva sería capaz de arrojar información nueva a partir de los datos con que se alimente, mientras que lo que hace IAPOL es identificar como “zonas rojas” los lugares en los que se han registrado más eventos en el pasado. La “predicción” se basa en igualar la “probabilidad alta de crimen” con la cantidad de crímenes en el pasado, un proceso para el que no se necesita inteligencia artificial ni machine learning, solo estadística, dice la experta. Sobre esta afirmación de que IAPOL se trataría más de un modelo estadístico que uno de Inteligencia Artificial, volvimos a consultar a la Policía pero hasta la publicación de esta nota no habíamos obtenido respuesta.

La última parte del documento de la policía —y en donde sí se usan tecnologías de machine learning, no solo metodología estadística— consiste en la predicción de cuáles son los dos delitos que tienen mayor probabilidad de ocurrir en cada cuadrante. Este se hace a partir de una metodología llamada Random Forest Classifier, en la que estructuras ramificadas (árboles) van haciéndole preguntas a los datos registrados hasta entrenarse individualmente para cada cuadrante. Luego se crean conjuntos de árboles, en los que cada árbol realiza una predicción independiente sobre el tipo de delito. El delito predicho por la mayoría de los árboles será el resultado final. El documento afirma que cada delito está acompañado por un “plan” y una “actividad” con la que abordarlo, sin clarificar qué son los planes o actividades, en qué consisten o cuál es “la matriz” de la que provienen. Al preguntarle a la policía en qué consistían esos planes, actividades y matriz, afirmaron que la matriz es una “tabla de referencia institucional” que establece qué plan y qué actividad corresponden a cada delito; sobre los planes y actividades respondieron que son los “predefinidos por la Policía Nacional en un catálogo institucional”. También sobre este tema volvimos a consultar a la institución pero tampoco tuvimos respuesta.

“La primera impresión es que el documento es muy regular”, responde Catalina Bernal, colega de Robles en Quantil. “Las descripciones no son suficientes ni claras. Tampoco explican para qué usan esta información. Lo ideal en un modelo de predicción de crimen es poder enseñarle a un computador que a partir de un grupo de características que pueden no estar directamente asociadas al crimen en particular, hay forma de adivinar o de estimar una probabilidad de que equis  evento va a ocurrir”.

Esas características, explican las investigadoras, pueden ser elementos como el clima, la iluminación pública, la facilidad de acceso a un sitio específico o hasta la percepción de seguridad de la comunidad, por ejemplo. Si hay un barrio en el que estas características se han asociado a una tasa alta de crimen, una herramienta predictiva sería capaz de predecir crímenes en otro barrio, del que no tiene información criminal, pero que comparta variables similares del barrio del que sí hay información. Sin embargo, IAPOL solo incluye la información descriptiva del día, hora y tipo de crimen, lo que resulta en una lectura sin más factores asociados al crimen que permita inferir escenarios nuevos de criminalidad u obtener predicciones para lugares en los que no se han recogido datos previos.

“La conclusión al revisar el documento es que realmente no han construido un modelo de machine learning para predecir el crimen”, dice Bernal. “Usan un modelo de machine learning para clasificar tipos de crimen cuya ocurrencia estiman (que es diferente a predecir) a partir de modelos estadísticos puramente descriptivos”.

La caja negra del éxito

En un video publicado en noviembre de 2023, realizado por la Policía Nacional y Nuvu, el Teniente Coronel Andrés Óscar Cárdenas Peña —entonces jefe de la OFTIC— y Andrés Barrantes, que se identifica en el video como CEO y fundador de Nuvu, comparten algunas cifras que aseguran había dejado la herramienta hasta ese momento (y que, de nuevo, la policía asegura que se implementó hasta agosto de 2025).

Se habían optimizado los tiempos de respuesta un 29%.

Los costos de vigilancia se redujeron un 20%.

Los tiempos de llegada de las patrullas mejoraron un 50%.

Y aumentó en un 85% la precisión en la atención de casos.

Los datos son entregados sin contexto ni sustento de cómo se calculan, pero con el sello del éxito.

Para resolver los vacíos de información sobre el uso de la herramienta y cómo se mide su utilidad y aparente éxito, el derecho de petición para la elaboración de este reportaje incluyó la solicitud de mediciones de rendimiento de IAPOL. La Policía Nacional respondió que no aplicaba tener esas métricas ya que “las acciones que tome la policía influyen directamente en los resultados, lo cual afecta cualquier medición de la predicción”. Es decir, que no se puede medir el éxito porque si previene el crimen, este no ocurre y entonces no se puede contar. 

Además, para el modelo de machine learning usado para predecir el tipo de crimen, la Policía respondió que tampoco tenían medidas de eficiencia pues “el sistema es de sugerencia, no de predicción de acciones policiales”, entonces no tendría sentido medir qué pasa en terreno, aseguran, porque la decisión finalmente es de los oficiales y no de la herramienta.

“Es bueno que se cuiden de que el modelo no sea el que tome la decisión al final en el actuar de la policía”, dice Catalina Bernal. “Pero entonces, ¿para qué tienen la herramienta? Si tampoco hay seguimiento de cuántos equipos policiales están realmente siguiendo esa recomendación, qué tanto ha cambiado su eficiencia en los planes de acción o si están haciendo mejoras al modelo a partir de feedback, entonces no veo una utilidad explícita del uso de este sistema”.

Por otro lado, a Melissa Robles le sorprende que la policía no tenga ninguna métrica de IAPOL, como aseguró la institución en su respuesta a la solicitud de información, pues un paso obligatorio en el desarrollo de este tipo de herramientas es medir su efectividad, lo que solo se puede hacer, dice la experta, con métricas de su desempeño. “Aunque no sea para predicción sino una recomendación, igual es muy importante saber si el modelo se está ajustando bien a los datos. Cuando uno entrena un modelo, hay unos datos de entrenamiento y otros datos, fuera de muestra, que se usan para saber cómo el modelo se comporta con datos diferentes o futuros. Ellos deberían tener métricas de cómo se relaciona el modelo con los datos que tienen y con la información que sí tienen de lo que realmente pasó”.

La respuesta de la policía deja claro el mensaje de que IAPOL no es un sistema predictivo, sino una herramienta de sugerencias. Aún así, el verbo “predecir” y sus derivaciones se usan sistemáticamente en medios de comunicación y documentos de la policía que se refieren a IAPOL. El documento de 34 páginas mencionado antes, por ejemplo, lleva por título “Modelo predictivo” y la palabra se menciona al menos 40 veces a lo largo del documento. Pasa lo mismo en otro documento en respuesta al derecho de petición, en el que la institución subraya que IAPOL no es una herramienta predictiva sino un sistema de sugerencias, aunque en un apartado del mismo documento diga: “En resumen: el KDE predice el dónde, el análisis estadístico por cuadrante determina el cuándo, y el RF predice el qué tipo de delito”.

“Hay una confusión de términos durante todo el documento”, dice Robles refiriéndose a uno de los varios documentos que envió la institución. “Creo que la conclusión es que el modelo no es predictivo, pero lo usan como una predicción. Es muy importante en los modelos de machine learning que no se le delegue toda la responsabilidad al modelo, y para eso las métricas son un tema clave y básico”.

La policía también aseguró que no podían entregar datos sobre las operaciones informadas por IAPOL ya que la herramienta empezó a funcionar en agosto de 2025. Entonces no es claro cómo pudieron medir o a qué corresponden los datos sobre la optimización en tiempos de respuesta, tiempos de llegada y costos de vigilancia que se asociaban a la herramienta en el video publicado en 2023.

Finalmente, la policía explicó que la herramienta también contempla la posibilidad de asignarle más puntos y valor de intensidad a “zonas rojas” que coinciden con hipótesis que ya manejan en investigaciones paralelas. A este proceso lo llaman Alerta Iris P1, y en los documentos lo explican con dos mapas de calor: el primero arrojado por el modelo, el segundo modificado por sus hipótesis. 

Crédito: mapa del documento de la Policía nacional identificado como “Predicción sin incluir datos de IRISP1”

Al preguntarle a la institución para qué se usaban las alertas Iris P1, la policía respondió que se usan para resaltar los puntos en los que se corresponde el delito que la herramienta arroja con las labores de inteligencia sobre lo que históricamente ha ocurrido en la zona. Sin embargo, según las expertas de Quantil la explicación sigue sin ser clara, y la similitud entre los dos mapas de calor en el documento hace eco de lo que algunos departamentos de policía estadounidenses aseguraban sobre estas herramientas: que solo refuerza lo que ya hacen y saben, ya que son sus propios datos los que alimentan el sistema.

Experiencias sobre los límites de lo predictivo

Ante las preguntas que aún persisten sobre cómo funcionan estas tecnologías y sus impactos, hay experiencias internacionales que comparten reflexiones en las que se podría reflejar el contexto nacional.

En Bélgica, por ejemplo, se discute desde 2013 la implementación de una herramienta predictiva —iPolice— que identificaría zonas de criminalidad y alertaría en vivo a patrullas sobre “sujetos sospechosos”. El informe “Petit pays, Big data”, publicado por la organización Ligue des Droits Humains, resalta que uno de los problemas del sistema belga es la falta de control y supervisión a los datos a los que podrían acceder los policías, y que a veces se nutren de información inexacta que reflejan más los prejuicios de los agentes que acciones concretas. 

Lo mismo ha sido señalado por otros académicos y organizaciones sociales en el mundo: uno de los problemas principales de estos algoritmos es que se nutran con datos de la propia policía, y que por lo general reflejan el actuar racista, inexacto e incluso ilegal sobre poblaciones negras, latinas, musulmanas, de bajos ingresos. “Garbage in, garbage out” o GIGO, es la expresión en inglés para referirse a la idea de que datos tendenciosos, defectuosos o de pobre calidad producirán resultados informáticos pobres y “basura”. En el caso de las herramientas de predicción usadas por la policía, el problema del GIGO es incluso peor ya que dictan cierta obligatoriedad de que los oficiales continúen con las malas prácticas producidas por los datos defectuosos usados para crear el modelo.

Según el estudio “Policing predictive policing” de Andrew Ferguson, profesor de derecho en la American University Washington College of Law y experto en sistemas predictivos de policía, en la práctica estos sistemas son ejercicios de control social y de recolección de información que, a su vez, implementan una cultura de terror. Bajo la promesa de que las herramientas harán más efectivo el trabajo policial, se terminan ignorando y transgrediendo derechos básicos constitucionales como la presunción de inocencia, el derecho a la privacidad y a un juicio justo, la libertad de reunión y asociación y el trato igualitario ante la ley. Sin embargo, la escasa existencia de marcos legales que reglamenten lo que pueden o no hacer estos sistemas informáticos le deja poco lugar al control sobre los algoritmos, el vacío legal también dificulta el acceso a recursos de apelación y defensa de la sociedad civil.

En Colombia, el gobierno del expresidente Petro presentó en mayo de 2025, con sentido de urgencia, un proyecto de ley para la regulación de las Inteligencias Artificiales. La ley presentaría lineamientos generales que luego dependerían de la regulación del gobierno para saber cuál sería su impacto y alcance. El avance del proyecto es incierto por el momento con la llegada del nuevo gobierno. Pero son precisamente este tipo de leyes las que determinarían en qué campos se puede usar la IA y en cuáles no. La normativa en Europa, por ejemplo, determina el uso de IA para labores policiales como uno de alto riesgo y prohíbe totalmente su uso para la perfilación criminal. Sin estos marcos normativos, resulta imposible tener transparencia del uso que las instituciones hacen de las tecnologías y ejercer veeduría sobre sus implementaciones.

De cualquier manera, el camino de la regulación es largo y lento en comparación a la velocidad con la que las empresas desarrollan y comercializan herramientas que bautizan con nombres de boutique tecnológica y lore tolkiano. Este negocio mueve millones bajo los nombres de Geolitica, Azavea, ShotSpotter, Precobs y Palantir, por nombrar algunos. La última empresa, Palantir, ha sido objeto de polémica en los últimos años por su opacidad en el manejo de datos y los millonarios contratos que ha firmado con el gobierno estadounidense a cambio de desarrollos de IA para el reconocimiento facial y la vigilancia.

Mientras tanto, la labor de las organizaciones sociales y de las iniciativas civiles que demandan transparencia en el uso de estas herramientas y denuncian sus abusos, parece ser lo que mantiene cercado el potencial transgresor de estos desarrollos cuando son usados irresponsablemente. Así lo afirma el investigador Corentin Debailleul, autor del informe “Petit Pays, Big Data”, y lo demuestran también ejemplos como el de Los Ángeles y Ámsterdam, donde las comunidades afectadas por estas herramientas se han organizado para denunciar sus abusos.

Las evidencias, sin embargo, no han sido un impedimento en el pasado para que estas herramientas tecnológicas se sigan implementando, incluso cuando son perjudiciales o mal utilizadas. En todo el mundo, las Inteligencias Artificiales predictivas se siguen vendiendo y comprando bajo la promesa de que la tecnología proveerá soluciones inmediatas a problemas históricos y estructurales, un pacto que sigue moviendo el mercado tecnófilo incluso cuando, como en el caso colombiano, sus implementaciones no parecen llevar a un cambio evidente y significativo.

Esta investigación se realizó con el apoyo de la Fundación Karisma como parte del proyecto  Challenging the Militarisation of Tech, realizado con la financiación de Privacy International.