19 de abril de 2024

SoundThinking adquiere partes de Geolitica, creadores de PredPol, en un paso histórico para la tecnología policial

SoundThinking, la empresa detrás del sistema de detección de disparos ShotSpotter, está adquiriendo discretamente personal, patentes y clientes de la empresa que creó el notorio software de predicción policial PredPol, según ha sabido WIRED.

En una conferencia de ganancias de agosto, el CEO de SoundThinking, Ralph Clark, anunció a los inversores que la empresa estaba negociando un acuerdo para adquirir partes de Geolitica, anteriormente conocida como PredPol, y trasladar a sus clientes a la solución de «gestión de patrullas» de SoundThinking.

«Ya hemos contratado a su equipo de ingeniería», dijo Clark durante la llamada, cuya transcripción es pública. Agregó que la adquisición de patentes y personal «facilitará nuestra aplicación de tecnología de inteligencia artificial y aprendizaje automático a la seguridad pública».

La absorción de Geolitica por parte de SoundThinking marca su último paso en convertirse en el «Google» de la lucha contra el crimen, una tienda única para herramientas policiales. Expertos que estudian el uso de la tecnología por parte de las fuerzas del orden afirman que la combinación de dos tecnologías controvertidas señala una nueva era para la industria tecnológica policial y tiene el potencial de dar forma al futuro de la policía en Estados Unidos. Y aunque SoundThinking ha renombrado la «policía predictiva» como gestión de recursos para los departamentos de policía, un análisis de WIRED de una de las aplicaciones de la empresa encontró que la tecnología de predicción del crimen sigue siendo una de sus principales ofertas.

«Desde una perspectiva histórica de la tecnología, la compra es significativa. Estamos en un momento de consolidación con las grandes empresas tecnológicas policiales que se hacen aún más grandes, y este movimiento es un paso en ese proceso».

Andrew Ferguson, profesor de derecho de la American University y autor de «The Rise of Big Data Policing»

PredPol fue uno de los primeros, y quizás el algoritmo de predicción policial más ampliamente utilizado en Estados Unidos. Su nombre, un acrónimo de «policía predictiva», se convirtió en sinónimo de la práctica.

El software se desarrolló en 2011 y utiliza informes de incidentes criminales históricos para producir predicciones diarias de dónde es probable que ocurran futuros delitos. Durante años, críticos y académicos han argumentado que dado que el algoritmo de PredPol se basa en datos de delitos históricos y poco fiables, reproduce y refuerza patrones de policía sesgados. En diciembre de 2021, Gizmodo y The Markup analizaron millones de predicciones de delitos de Geolitica que se encontraron en un servidor no seguro y descubrieron que el software se dirigía de manera desproporcionada y a menudo implacable a comunidades de bajos ingresos y de color para patrullas adicionales.

En los últimos años, los departamentos de policía han abandonado PredPol después de encontrar que era ineficaz. En 2019, un informe del inspector general del Departamento de Policía de Los Ángeles encontró que no estaba claro si PredPol tenía algún efecto en las tendencias delictivas. El LAPD, que fue uno de los primeros en adoptar PredPol e incluso colaboró con investigadores para desarrollar la tecnología, dejó de usar el producto en 2020, citando costos presupuestarios.

Brian MacDonald, CEO de Geolitica, declinó una entrevista y no respondió a preguntas específicas sobre las adquisiciones. Un portavoz de terceros de SoundThinking, Rob Merritt, le dijo a WIRED que Geolitica cesará sus operaciones a fin de año.

Juego de consolidación

Fundada en 1996, SoundThinking ahora vale alrededor de USD 232 millones. Su producto estrella, ShotSpotter, es un sistema de detección de disparos que utiliza micrófonos montados en semáforos y postes de luz para detectar y ubicar posibles sonidos de disparos. Durante años, activistas y académicos en todo Estados Unidos han luchado contra la expansión de ShotSpotter, argumentando que no solo es inexacto, sino que se despliega de manera desproporcionada en vecindarios no blancos.

Dos investigaciones de medios locales, The Houston Chronicle y WYSO de Southwest Ohio, encontraron que las alertas de ShotSpotter en su mayoría no llevaron a resultados para la policía y, en algunos casos, retrasaron los tiempos de respuesta para otras llamadas de servicio. En 2021, el MacArthur Justice Center de la Northwestern University School of Law analizó los registros mantenidos por la Oficina de Manejo de Emergencias y Comunicaciones de Chicago durante un período de dos años y encontró que el 89 por ciento de las alertas de ShotSpotter en la ciudad no llevaron a que la policía encontrara evidencia de un delito relacionado con armas de fuego.

SoundThinking afirma que su sistema tiene una tasa de precisión del 97 por ciento al detectar disparos. En materiales de marketing, hace este argumento al publicitar los éxitos individuales de seguridad pública del software. Por ejemplo, en la llamada de ganancias de agosto, Clark destacó un informe de noticias locales sobre una alerta de ShotSpotter que llevó a la policía de Chicago a encontrar a una víctima de disparo de 14 años. El audio de la llamada de servicio obtenido por WIRED confirma que la llamada de servicio fue provocada por una alerta de ShotSpotter y que no hubo indicación de una llamada al 911 correspondiente.

En los últimos años, SoundThinking ha experimentado una transformación silenciosa, apostando a que los datos grandes, no el hardware y software independientes, son el futuro de la tecnología policial. En 2018, adquirió HunchLab, un competidor directo de PredPol. Luego, en 2020, compró CrimeCenter Software, una aplicación de gestión de investigaciones que digitaliza el papeleo. En 2022, la empresa adquirió Forensic Logic, los creadores de una herramienta investigativa que un miembro de su junta asesora describió como «Google para el crimen».

En abril de 2023, ShotSpotter cambió su nombre a SoundThinking. «Somos más que ShotSpotter y necesitábamos una identidad actualizada para reflejar esto», escribió Clark en una publicación de blog que revelaba el rebranding. Clark también anunció en esa publicación la plataforma SafetySmart, «una suite integrada de cuatro herramientas basadas en datos» que incluye ShotSpotter, CrimeTracer, CaseBuilder y ResourceRouter. Cada herramienta en la plataforma parece ser una versión rebrandeada y mejorada de la tecnología que SoundThinking había adquirido en los últimos cuatro años.

Para Ferguson, el profesor de derecho, la búsqueda de SoundThinking de acumular tecnología es parte de una carrera en curso para convertirse en la plataforma todo en uno para la policía. La idea, dice, es que al controlar la «infraestructura de datos» de un departamento de policía y ofrecer análisis predictivos como partes integradas de sus operaciones internas, plataformas policiales como la Plataforma SafetySmart de SoundThinking están tratando de convertirse en partes indispensables de la infraestructura de seguridad pública.

Como Google y Facebook han acumulado tecnología, comprado competidores y finalmente se han afianzado en todas nuestras vidas, empresas como SoundThinking aspiran a hacer lo mismo para los departamentos de policía, argumenta Ferguson. «Este es un momento en el que las startups como PredPol [Geolitica] se han quedado sin innovación en la primera ola y están siendo consolidadas en entidades más grandes», dice Ferguson. «Es una historia muy típica de la tecnología de Silicon Valley que estamos viendo desarrollarse».

«Para ser claro, SoundThinking no compró Geolitica», dice un portavoz de la empresa a WIRED. En cambio, la empresa dice que SoundThinking llegó a un acuerdo para comprar propiedad intelectual específica de Geolitica. El portavoz no especificó qué patentes o propiedad intelectual adquirió SoundThinking.

Beryl Lipton, investigadora investigadora de la Electronic Frontier Foundation

Cambio de nombre

El fin de Geolitica no significa el fin de la policía predictiva. Aunque SoundThinking no utiliza ese término, ofrece a los departamentos de policía una herramienta similar que efectivamente realiza la misma función que PredPol: dirigir a los oficiales hacia dónde ir basándose en la evaluación de un algoritmo de dónde y cuándo ocurrirá un crimen.

SoundThinking dice que el personal de ingeniería y la propiedad intelectual de Geolitica se están incorporando al equipo que desarrolla ResourceRouter, una aplicación que dirige a los oficiales a lugares de patrullaje que los algoritmos de la empresa determinan que tienen el mayor riesgo de crimen. Aunque la aplicación hace «pronósticos» de crimen para determinar cuándo y dónde debería patrullar la policía, SoundThinking niega que la herramienta participe en «policía predictiva». En su lugar, utiliza el término «herramienta de despliegue». WIRED analizó una versión de ResourceRouter de septiembre de 2023 y encontró que, funcionalmente, no parece haber una distinción sustancial entre los dos conceptos.

Una carpeta en la aplicación reveló datos de una llamada de prueba para el Departamento de Policía de Chicago y proporciona detalles de 10 «áreas de patrullaje dirigidas». Según el código de la aplicación, cada una de las 10 áreas de patrullaje estaba «respaldada por una predicción», un valor que sugiere que el área de patrullaje se asignó debido a una predicción. Cada punto caliente también fue asignado de manera similar con una puntuación de riesgo y un tiempo de «dosificación» recomendado, es decir, la cantidad de tiempo que un oficial debería pasar patrullando la zona.

WIRED encontró que estas «áreas de patrullaje dirigidas» también fueron asignadas a una variedad de «tácticas». Por ejemplo, una indicaba que los oficiales debían «patrullar las calles a pie». Otra sugería que los oficiales «recopilaran información de negocios».

«Gran parte de la policía predictiva es simplemente una forma de asignación y gestión de recursos», dice Ferguson sobre la funcionalidad de ResourceRouter. «Están haciendo lo que antes se llamaba policía predictiva, simplemente le cambian el nombre cuando el lenguaje no es conveniente».

«ResourceRouter no se dedica a la policía predictiva, y la integración de activos específicos de Geolitica no cambia esto de ninguna manera»

Merritt, el portavoz de SoundThinking.

SoundThinking dice que ResourceRouter solo pronostica «delitos de Parte 1», como disparos, asaltos agravados, robos, allanamientos, hurto y robo de vehículos motorizados. El análisis de WIRED también encontró referencias en el código a «violación» en una carpeta de «tipo de crimen» dentro de la aplicación. Expertos, incluido el ex CEO de Hunchlab, han señalado que no creen que las herramientas de policía predictiva puedan usarse para crímenes sexuales, ya que estos a menudo no se denuncian y es poco probable que sean disuadidos por la patrulla policial.

«Si bien la violación es un delito grave, ResourceRouter no tiene actualmente la capacidad de pronosticar esto», dice SoundThinking en respuesta a una pregunta sobre el código. La empresa aclaró que, aunque ResourceRouter recopila datos que incluyen «todos los delitos», la tecnología solo puede pronosticar un subconjunto más pequeño de esos delitos.

La aplicación también parece monitorear activamente la ubicación de cada oficial, registrando la cantidad de tiempo que pasan patrullando un lugar determinado. Si la aplicación detecta que un oficial ha abandonado el área asignada, una voz femenina afectada advierte: «Por favor, regrese al área de patrullaje dirigido», según descubrió WIRED.

Este tipo de seguimiento y análisis de los movimientos exactos de los oficiales de policía podría permitir que la aplicación haga algo que otras herramientas de policía predictiva no han hecho: regular dónde se asignan las patrullas para reducir los casos de sobre-policía. Las predicciones de crímenes de Geolitica que Gizmodo y The Markup analizaron en 2021 notablemente no hicieron esto. En muchos casos, las predicciones de crímenes apuntaban a los mismos bloques a diario, lo que potencialmente llevaba a miles de patrullas adicionales.

Sin embargo, según SoundThinking, el seguimiento de oficiales de ResourceRouter no influye directamente en cómo el algoritmo dirige las patrullas. En cambio, la empresa dice que el software tiene otras protecciones para establecer «imparcialidad basada en datos».

«Primero, el sistema asigna inteligentemente dónde se producen las asignaciones de patrullaje y limita su duración para reducir los casos de sobre-policía», dice la empresa. «En segundo lugar, el sistema asegura que los algoritmos que impulsan las recomendaciones de patrullaje utilicen datos objetivos y no relacionados con el crimen que mitiguen posibles sesgos. En tercer lugar, el sistema no utiliza ninguna información de identificación personal para determinar dónde deben asignarse las patrullas».

Si bien SoundThinking no proporcionó detalles específicos sobre qué tipo de datos de crímenes utiliza el software para los «pronósticos» de crímenes, un portavoz le dijo a WIRED que ResourceRouter se puede configurar para incluir «clima, datos geográficos, ciertos tipos de datos de censo, feriados federales e información de eventos proporcionada por una agencia».

Beryl Lipton, investigadora investigadora de la Electronic Frontier Foundation, una organización de derechos civiles centrada en la tecnología, le dijo a WIRED que es escéptica de que las medidas contra el sesgo de SoundThinking sean suficientes para corregir posibles problemas que podrían estar incorporados en el sistema. «Si se basa en datos de policía históricamente sesgados que sugieren una gran cantidad de crímenes en una área en particular», dice, «no abordará el problema subyacente que causó la sobreponderación algorítmica en esa área».

SoundThinking ya parece estar vendiendo sus nuevas ofertas tecnológicas a clientes existentes. En la llamada de ganancias de agosto, Clark anunció que en el segundo trimestre, la empresa cerró tres «acuerdos de venta cruzada/paquetes». «Nuestra estrategia de productos empaquetados parece estar funcionando bien, ya que estamos comenzando a ver un aumento dramático de clientes que desean contratar múltiples productos de nuestra plataforma SafetySmart», dijo.

Para Lipton, una preocupación importante con la consolidación de la tecnología policial es la falta de supervisión sobre cómo se agregan nuevas tecnologías a los contratos existentes. «Tenemos esta nueva tecnología que es adoptada por un departamento, y luego se agregan estas tecnologías aún más dudosas como opciones sin ningún debate o supervisión real», dice.

Tanto Ferguson como Lipton se preocupan de que la plataformaización de la tecnología policial cambie la dinámica de poder entre las empresas de policía y los ciudadanos. «No hemos tenido una conversación sobre lo que significa cuando un jefe de policía depende de una empresa tecnológica», dice Ferguson.

«¿Estamos bien cediendo tanto control sobre la seguridad pública?»

Andrew Ferguson, profesor de derecho de la American University.

Pensemos.


Vía Wired.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *