¿Están vigiladas todas las actividades en Medellín? Algunas preguntas necesarias sobre seguridad y tecnología en la ciudad

Cuando Daniel Quintero llegó a la Alcaldía de Medellín con un discurso tecno-optimista, y su visión de una ciudad digitalizada se incluyó en el actual Plan de Desarrollo, la ciudad ya llevaba años en el camino de la adopción de nuevas tecnologías. Aunque hoy puedan parecer obvias para muchos, desarrollos como el sistema de movilidad inteligente, la red de cámaras de seguridad, el sistema de alertas tempranas o incluso la tarjeta ciudadana CIVICA han cimentado la capacidad de la Alcaldía para ejecutar y monitorear algunos servicios y políticas públicas casi en tiempo real. 

‍

Sin embargo, hasta ahora la implantación de estos sistemas no había suscitado grandes debates entre la población, salvo las discusiones de algunos públicos especializados. La dependencia tecnológica de unos pocos proveedores, la explotación privada de la mayoría de estos sistemas y sus elevados costes no han generado grandes fricciones en la opinión pública. Más bien, la percepción general ha girado en torno a sus beneficios directos, como poder ver datos y vídeos en tiempo real, la sensación de seguridad que ofrecen o la rapidez con la que nos llegan determinados servicios. 

‍

El revuelo que vivió la ciudad en torno a la captura de datos de Medellín Me Cuida al inicio de la pandemia marcó un cambio. Hasta entonces, no había habido tanto debate en torno a la implantación de un programa digital en la Alcaldía. ¿Qué cambió esta vez? Tres hechos podrían dar algunas pistas. En primer lugar, el equilibrio de fuerzas políticas cambió en la ciudad, y es la primera vez en las últimas décadas que un alcalde tiene una popularidad relativamente baja, mientras se enfrenta a una oposición más organizada y activa, a pesar de estar en minoría en el Ayuntamiento. Otro cambio radica en la introducción de tecnologías basadas en el tratamiento de datos personales. A diferencia de los sistemas anteriores, hoy la Alcaldía quiere explotar al máximo las tecnologías de la llamada cuarta revolución industrial, que dependen en gran medida de los datos que producen las personas de carne y hueso. Ya no miden variables genéricas de la ciudad, como el aire o el tráfico, sino que se centran en individualizar los datos, indexándolos a una matrícula, un DNI o un perfil biométrico. Y en tercer lugar, hay una mayor sensibilidad pública hacia la privacidad. Aunque no parece haber un consenso claro sobre cuánta privacidad estamos dispuestos a ceder para disponer de determinados servicios, los escándalos internacionales relacionados con las nuevas tecnologías han suscitado cautela sobre las implicaciones para la autonomía individual y la democracia. 

‍

Aún así, hoy la Alcaldía nos presenta ef usivamente un sistema a lo 'Robocop' que cuenta con cámaras capaces de vigilar cualquier punto de la ciudad "con reconocimiento facial, identificación de matrículas, predicción de delitos, sensores térmicos y audio interactivo". Esto demuestra que su política de seguridad mantiene un estrecho vínculo con su concepción de una ciudad altamente digitalizada. Pero, ¿qué implica un sistema de vigilancia de este calibre y podemos entender lo que ocurre más allá de la versión publicitaria y propagandística con la que se nos comunican estos sistemas? Lo cierto es que las mayores preocupaciones que suscitan estos sistemas de vigilancia no provienen de lo que sabemos que está ocurriendo, sino de lo que no tenemos claro como sociedad: ¿qué capacidades tienen? ¿Qué información recopilan? ¿Quién accede a ella? ¿Están funcionando bien frente a los costes y riesgos que representan? Abordar la seguridad y la vigilancia en Medellín debería ser un tema abierto tanto para especialistas como para ciudadanos interesados. Sin embargo, resolver estas cuestiones requiere un trabajo considerable para superar el halo de opacidad y tecnicismos que normalmente las rodea. El problema es que, si las resolviéramos, aún tendríamos que debatir si éste es el tipo de contrato social que queremos para la ciudad. Urge, pues, conocer mejor los cambios que traen consigo estas tecnologías y debatir qué tipo de sociedad queremos para la ciudad.

‍

Así nos observan hoy en Medellín

‍

¿Hasta dónde llegan las capacidades de vigilancia de la ciudad? Si partimos de la información disponible en las páginas web de la Secretaría de Seguridad y de la Empresa de Seguridad y Soluciones Urbanas (ESU), es muy difícil saber qué permiten hacer las nuevas tecnologías de seguridad y vigilancia implantadas por Medellín. Los informes y documentos disponibles en estos sitios responden más a las exigencias mínimas de transparencia informativa, pero no explican ni la estrategia ni el funcionamiento del sistema que están desplegando. La información disponible no es ni clara, ni transparente, ni actualizada.

‍

Lo que sí ve el público es un goteo de información en redes sociales, notas de prensa y reportajes esporádicos enumerando las inversiones que se han realizado o compartiendo llamativos mensajes mostrando aparatos tecnológicos o dando cifras de impacto sin mucho contexto del sistema en el que están inmersos. Por ejemplo, desde agosto se promueve Robocop (o Sistema Inteligente de Monitoreo Integral Móvil, SIMIM, en su terminología más técnica). Este sistema es actualmente un piloto y se espera que crezca hasta los 40 dispositivos en constante movimiento por la ciudad. La información disponible sobre este sistema sólo existe en notas de prensa, tweets y artículos de noticias. 

‍

El nuevo SIMIM es diferente del SISC y del SIES-M, los otros dos sistemas de seguridad con los que ya contaba la ciudad. De ambos hay información en la web de la Alcaldía, pero su información está desactualizada, en algunos casos incluso con logotipos del cuatrienio 2012-2015. El SISC (Sistema de Información para la Seguridad y la Convivencia) actúa como observatorio, analizando indicadores de seguridad, identificando cambios y tendencias, y midiendo riesgos y oportunidades para planificar políticas y proyectos específicos de seguridad. Es el centro de análisis de información para dirigir las políticas públicas.

‍

Por otro lado, el SIES-M (Sistema Integrado de Emergencias y Seguridad Medellín) es el sistema que articula 12 organismos de seguridad, emergencias médicas, movilidad y prevención y atención de desastres. Aquí se ubican las más de 3.000 cámaras de vigilancia y la línea de emergencia 123. Como parte de este sistema, hay 1.600 cámaras corporales para la policía y 2.600 cámaras con sistemas de reconocimiento de matrículas. En un informe de comienzos de año se dijo que había 400 cámaras con sistema LPR (para identificación de matrículas) y 170 con reconocimiento facial, que están en el estadio Atanasio Girardot y algunas en el metro y en las cámaras de alta precisión, visión nocturna y térmica del helicóptero Halcón. La Policía también dispone de lectores biométricos para el análisis del DNI y la búsqueda de antecedentes penales durante los registros. Otros subsistemas son el enlace con la información ciudadana, como las alarmas comunitarias, los circuitos cerrados de televisión de comerciantes y empresas, y las aplicaciones digitales que alimentan los reportes de los ciudadanos a las autoridades.

‍

Estas aplicaciones merecen una mención especial. Seguridad en Línea fue la app que originalmente comenzó a recoger denuncias anónimas de ciudadanos y dar información categorizada a las autoridades. La aplicación dejó de funcionar, aunque todavía existe contenido web de la misma en canales oficiales. La anterior administración creó una nueva aplicación, llamada Te Pillé, que permitía a cualquier persona grabar y enviar un vídeo de un robo u otro acto delictivo. Era una solución al problema de las grabaciones de robos que circulaban por las redes sociales y que, ante un tribunal, difícilmente podían utilizarse como prueba contra los ladrones. Esta app tampoco funciona hoy, aunque se sigue anunciando en la web de la Alcaldía , además de tener una página web dedicada. La UES hoy díapromueve ReportesMed, una app que recoge reportes ciudadanos de agujeros, escombros y daños leves. No es una app que cumpla con las mismas funcionalidades de las anteriores y no responde a temas de seguridad. En definitiva, la falta de continuidad de las iniciativas y la dispersión de esfuerzos hace que la ciudad no disponga de una herramienta sólida para recibir información de los ciudadanos en materia de seguridad. 

‍

La mayoría de los sistemas utilizados por la ciudad se componen de tecnologías relativamente estándar, como cámaras, botones de pánico o aplicaciones móviles. Todos ellos suelen requerir mano de obra humana, ya sea supervisando un monitor, activando alarmas o rellenando formularios. Hoy, sin embargo, esto está cambiando a medida que se integran nuevas tecnologías para automatizar procesos que resultarían demasiado costosos y largos para los humanos. Las cámaras que detectan matrículas y las de reconocimiento facial que han empezado a integrarse son un ejemplo. Pero la oferta tecnológica actual puede ir más allá incorporando algoritmos de análisis de imágenes y aprendizaje automático que pueden leer los registros de las cámaras y, por ejemplo, clasificar comportamientos, perfilar poblaciones, generar alertas tempranas o sugerir la probabilidad de ocurrencia de un evento futuro.

‍

Y la ciudad parece estar en este camino. Edwin Muñoz, gerente de ESU, cuenta que disponen de drones para seguir a vehículos previamente identificados con reconocimiento de matrículas y que además pueden ser perfilados por inteligencia artificial según sus patrones de comportamiento. Estos drones también pueden detectar las caras de los ocupantes de los vehículos para identificarlos individualmente. Además, están experimentando con la identificación de microexpresiones, que permiten "jugar con la emocionalidad de las personas para conducirlas a un evento de seguridad". Por último, muy seguramente como respuesta a la alta carga de personal que se requiere para monitorear las cámaras de videovigilancia, el gerente cuenta en sus redes sociales que se usa inteligencia artificial para detectar cambios bruscos de situaciones en los registros y generar alertas para las autoridades, aunque no dice si la ESU ya la está usando en Medellín. Esto último coincide con lo que informó El Colombiano a comienzos de este año sobre la inversión de $20.000 millones prevista para 2021 , que buscaba, entre otras cosas, aplicar inteligencia artificial para "[mejorar el] uso de las cámaras", incorporar reconocimiento facial a las cámaras actuales y avanzar en la integración de cámaras privadas al sistema.

‍

La tecnología en la estrategia de seguridad 

‍

Las tecnologías de vigilancia forman parte de la baraja de opciones con las que una ciudad debe definir su política de seguridad. En Medellín, posiblemente debido a la popularidad de los discursos de innovación y ciudad inteligente, la inversión en tecnología no sólo ha sido grande, sino que es parte central del mensaje político transmitido por las autoridades. Tras el reciente intento de robo a una fundición de oro en la Avenida Las Vegas, la UES publicó un vídeo con el que pretendía legitimar la tecnología y el sistema de vigilancia de la ciudad. En él afirman que la reacción de la fuerza pública fue gracias a la integración de dos tecnologías: un botón de pánico activado por una persona desde el interior de la fundición y la red de cámaras de seguridad con la que se rastreó a los delincuentes que huían. "Todo el sistema de cámaras y el 123 de Medellín, que hoy es la ciudad mejor vigilada de Colombia, ha permitido la captura de estos delincuentes", dijo el alcalde Daniel Quintero en un aparte. El vídeo concluía diciendo que "casos como estos confirman la importancia de la tecnología al servicio de la seguridad ciudadana". Posicionar el discurso que relaciona la percepción positiva de la seguridad con la presencia de la tecnología parece ser una constante de la administración municipal.

‍

Comunicar los resultados del sistema de vigilancia es otra de las prioridades de las autoridades. No son raros los casos en los que ponen de manifiesto cómo la tecnología de seguimiento, grabación e identificación influye en las detenciones, como ocurrió con una banda dedicada al robo de coches, atraco a mano armada y secuestro extorsivo a principios de noviembre. En medio de este goteo de información, emotiva y con poco contexto, la UES dice que gracias al SIES-M se identificaron 443 hurtos, que llevaron a la captura de 158 personas; se intervinieron 524 riñas, que arrojaron 476 armas blancas incautadas y 436 personas detenidas; se visualizaron 286 expendedores de droga, que llevaron a la captura de 40 personas; y se registraron 172 eventos de personas portando droga, que dejaron 99 capturados. Aunque no se precisa a cuándo corresponden estas cifras, ni se contextualizan con las cifras globales de capturas, intervención en riñas y otras, parecen coincidir con el balance del primer semestre de 2021 presentado por la Alcaldía de Medellín. 

‍

Pero, entonces, ¿son realmente útiles las tecnologías de vigilancia? La única investigación disponible sobre el impacto de las cámaras en Medellín concluyó que sí tienen un efecto disuasorio sobre la comisión de delitos. Utilizando datos de enero de 2012 a julio de 2015, los investigadores calcularon que se disuadieron cerca de 670 delitos violentos y contra la propiedad. En ese periodo, la ciudad instaló 448 cámaras nuevas, con un coste aproximado de 4.480.000 dólares, hasta alcanzar las 831 a mediados de 2015. Esto significa que, por término medio, la ciudad invirtió 6.686 dólares en cámaras para prevenir un delito más. Aunque es difícil calcular el coste social total de un delito en Medellín, el estudio sugiere que la inversión merecería la pena porque estos delitos implican la pérdida de vidas y bienes y un mayor uso de las capacidades del Estado (policiales, judiciales y administrativas) para detener y procesar a los delincuentes.

‍

Sin embargo, estos resultados deben evaluarse en un contexto más amplio. Un informe reciente del Instituto Edgelands, organización que estudia la creciente digitalización de la seguridad en las ciudades y explora modelos de convivencia urbana, sugería que "las cámaras de vigilancia y los botones de pánico no funcionan para detener delitos más estructurales, como la extorsión o el narcotráfico". Nadie quiere vivir en una ciudad donde le puedan robar, sin embargo, los problemas de seguridad que sufren los habitantes de Medellín y el Valle de Aburrá son mucho mayores y más complejos. Por ejemplo, un informe al que hace referencia Edgelands descubrió que "a medida que aumenta la intervención del Estado en los barrios donde viven y operan los combos, también lo hace su autoridad para mantener el control de su territorio". 

‍

Andrés Preciado, investigador del Centro de Análisis Político de EAFIT y subsecretario en la Secretaría de Seguridad y Convivencia de la Alcaldía de Medellín entre 2016 y 2017, se preguntó si, después de que la ciudad ha invertido en casi todas las tecnologías disponibles, seguimos dispuestos a asumir los altos costos de mantenimiento y reposición que requieren para solucionar principalmente parte de nuestros problemas de seguridad, es decir, los relacionados con el hurto y la protección de bienes.

‍

Existe, por tanto, una duda sobre la viabilidad de estos sistemas y otra sobre su pertinencia. En cuanto a la primera, Edgelands descubrió que las políticas que respaldan estos sistemas "pueden carecer de un plan de implantación completo y exhaustivo que priorice la estructura necesaria a lo largo de los años, dejando las costosas herramientas sin los fondos o el capital humano necesarios para mantener, reparar o actualizar el sistema". Además, hay que seguir trabajando en la evaluación del impacto y en cómo la dirección evalúa, mide y realiza las modificaciones necesarias en las estrategias tecnológicas que se están implantando. Se ha visto que, efectivamente, las cámaras pueden servir para disuadir de la delincuencia, pero ¿qué pasa con la evaluación de otras tecnologías, especialmente las más recientes, que presentan riesgos más evidentes para la privacidad y la democracia? Y en cuanto a la relevancia, si bien pueden "funcionar a corto plazo para reducir el número de delitos en zonas muy patrulladas o vigiladas, no [abordan] las causas profundas relacionadas con el motivo por el que la gente comete delitos en primer lugar". Es decir, tenerlas puede ayudar para algunas cosas, pero su elevado coste financiero y operativo, junto con los riesgos que suponen para la privacidad y la libertad, ¿no deberían llevarnos a invertir esos recursos en soluciones más estructurales? La respuesta no es sencilla porque, más que una respuesta técnica o económica, requiere un amplio diálogo social sobre el contrato social que queremos construir.

‍

Subirse a la ola de la transformación digital

‍

Tras el intento de atraco a la fundición de oro el pasado 4 de noviembre, pasó desapercibida la declaración del alcalde, posiblemente por la normalización que hemos dado a la vigilancia en la ciudad. Aunque no todos los delincuentes habían sido capturados en el momento del suceso, la captura del resto de implicados se vio facilitada por el registro en cámaras que tiene la ciudad. El alcalde declaró entonces que se haría "un seguimiento completo de lo que estaban haciendo en los días y semanas anteriores al intento de robo". Si hoy la ciudad afirma disponer, además de cámaras, de sistemas de reconocimiento facial e inteligencia artificial, su capacidad para vigilar los movimientos de cualquier persona es una realidad. Pero, ¿hasta qué punto? ¿Sólo en espacios públicos o tienen acceso a datos privados? ¿Pueden hacerlo de forma automatizada y recurrente o sólo en casos puntuales comprobando cámara por cámara? ¿Pueden vigilar a cualquiera? ¿Cómo deciden a quién vigilan? ¿Existen protocolos para evitar el uso de los sistemas en la identificación y acoso de personas que participan en protestas o actos públicos? ¿Pueden hacernos un perfil? ¿Qué información tienen de cada persona? ¿Existe un registro de toda la información recopilada que luego pueda utilizarse para otros fines? ¿Quién puede acceder a esa información? 

‍

Estas preguntas son clave a la hora de desplegar un sistema de vigilancia basado en datos con capacidades de automatización, predicción o elaboración de perfiles. Son el tipo de preguntas que nos hemos planteado como sociedad cuando hemos acogido con entusiasmo las nuevas tecnologías digitales. En Medellín y Colombia, los discursos de la "transformación digital", la "cuarta revolución industrial" o incluso la "economía colaborativa" han calado con fuerza, sobre todo porque empaquetan bien una serie de productos que se venden como fuente de mayor eficiencia. Mientras tanto, los debates sobre sus implicaciones sociales y políticas suelen quedar marginados o caricaturizados. En algunos países, estas discusiones han cobrado fuerza y los Estados han empezado a tomar medidas drásticas como prohibir el reconocimiento facial o reconocer los derechos laborales de los trabajadores de algunas plataformas. En Medellín, ¿tendremos que esperar a que estalle un escándalo para aplicar bien las tecnologías de vigilancia?

‍

Las nuevas tecnologías digitales tuvieron gran fuerza y respaldo social en la primera década del siglo XXI con promesas vagas pero llamativas como la conexión de comunidades, la reducción de las distancias sociales, la posibilidad de coordinar fácilmente acciones colectivas, la gestión de las cosas en tiempo real o la creación de nuevas economías. A mediados de la década pasada, el mundo estaba aprendiendo que este nuevo paradigma tenía su lado turbio. Las revelaciones de Edward Snowden mostraban que existían puertas traseras que permitían al gobierno de Estados Unidos vigilar a prácticamente cualquier ser humano conectado a las principales plataformas. Con el escándalo de Cambridge Analytica nos dimos cuenta de las implicaciones de los modelos de negocio basados en la captura masiva de datos sobre casi todos los aspectos de nuestro comportamiento. Al violar masivamente nuestra privacidad y encontrar formas de modificar nuestros comportamientos, no solo se viola un derecho individual, sino que se pone en riesgo la democracia porque se cuestiona la autonomía de las personas. Muchos otros casos nos han demostrado que el despliegue de algoritmos y toma de decisiones automatizadas en nuestra vida cotidiana y en el Estado tiene altos riesgos de discriminación, exclusión, violación de la autonomía o, simplemente, de inutilidad, como sucedió con el sistema de predicción de delitos Predpol en Montevideo, Uruguay, que fue discontinuado cuando se comprobó que otros métodos ya utilizados por la policía local eran igual de efectivos.

‍

Pero parece que en Colombia la visión realista sólo ha llegado a ciertos públicos especializados. Por el contrario, gracias al abaratamiento de los costos de la mayoría de estas tecnologías y a un plan explícito de los grandes proveedores para conquistar los mercados de los países en desarrollo, hoy la transformación digital se nos vende como una necesidad urgente y apremiante. Es así como el Metro de Medellín implementa su cívico digital mientras cierra las estaciones físicas de recarga, excluyendo a muchas personas que no tienen smartphones o simplemente no quieren descargar una app más. Así es también como el gobierno nacional crea CoronApp y recolecta una gran cantidad de datos de millones de personas sin ofrecer claridad sobre sus usos, acceso o garantías de seguridad. Y así también las grandes ciudades del país crean sistemas de seguridad y vigilancia de alta capacidad sin que como sociedad sepamos exactamente cómo nos pueden afectar. En Bogotá, el Centro de Comando, Control, Comunicaciones y Computación (C4) está probando un sistema capaz de identificar bandas criminales y su comportamiento mediante análisis estadístico y reconocimiento de vídeo y audio. El sistema permitiría a los investigadores seguir la pista de los delincuentes filtrando determinadas características entre los datos en directo e históricos recogidos a través de 6.000 cámaras de videovigilancia y registros de voz de llamadas de emergencia.

‍

Los modelos basados en la captura masiva de datos ya han sido muy cuestionados por su falta de claridad sobre los términos y condiciones en los que utilizan la información; por la opacidad sobre quién accede a los datos recopilados; por el uso indiscriminado de algoritmos para procesar datos y tomar decisiones; por la carga adicional que imponen a los usuarios para adquirir nuevos dispositivos, ejecutar más procesos y sobrecargar el mantenimiento de sus identidades digitales; y por la posibilidad de reproducir sesgos y errores gracias a la automatización de procesos defectuosos. Esa posibilidad de juntar las piezas de nuestra identidad que vamos esparciendo por muchos espacios vulnera lo que se conoce como integridad contextual. No todo lo que ocurre en el espacio público es público, convertible en datos, disponible para ser monitorizado y utilizado para nuestra identificación y elaboración de perfiles. Nuestra privacidad puede ser violada al vincular piezas que pertenecen a diferentes esferas de nuestras vidas, incluso cuando ocurren en espacios públicos. A pesar de todo, el discurso de la vigilancia sigue vivo en nuestra ciudad y en nuestras autoridades. "Big data" son como migajas digitales que generamos día a día. Datos derivados de llamadas, pagos con tarjeta, interacciones online, uso de apps y otros. Estos datos geocodificados, nos permiten reducir la delincuencia e influir en los comportamientos para reducir la delincuencia", dijo el gerente de la UES. Predecir comportamientos y anticiparse a la delincuencia. Poder identificar esos patrones y comportamientos y poder bloquearlos a tiempo. Todo esto parecen promesas muy atractivas, pero, en la práctica, ¿cómo distinguirlas de la recogida masiva de datos para ejercer un control sobre un fenómeno social o unas personas?

‍

Preguntas necesarias

‍

Son muchos los interrogantes que surgen al conocer las dimensiones sociales y políticas que puede tener un sistema de vigilancia con capacidad para identificar, rastrear y perfilar a la población. Como se ha dicho, existe, en principio, un problema de opacidad y falta de claridad sobre los criterios éticos que guían el funcionamiento de un instrumento de este tipo. También se han planteado preguntas sobre su impacto: ¿cuál es su coste, más allá del financiero, y cuál es su beneficio? ¿Se aprovecha plenamente el potencial de los sistemas disponibles? ¿Hay poblaciones más susceptibles de ser vigiladas que otras? ¿Qué impacto tienen en los jóvenes, los habitantes de zonas más vulnerables, los que frecuentan determinados lugares o los que realizan determinadas prácticas en espacios públicos? Por ejemplo, las personas que frecuentan espacios más públicos, y especialmente lugares como el centro de la ciudad, tendrían más probabilidades de ser vigiladas y sometidas a perfiles que alguien que frecuenta espacios más privados, como un centro comercial. 

‍

También es necesario cuestionar la implementación y el uso adecuado de los recursos públicos. Una adecuada política de gobierno digital debe guiar la implantación de los sistemas tecnológicos. Si la tecnología se convierte en una pieza estratégica para la prestación de servicios públicos, necesitamos una estructura de garantías normativas, institucionales y técnicas para generar y sostener la confianza en los sistemas digitales. Por un lado, se plantea la cuestión de la capacidad del sector público para sostener un sistema que otorga tanto poder: ¿existen las capacidades técnicas e institucionales adecuadas para mantener, reparar y actualizar los sistemas existentes? ¿Qué grado de soberanía tiene la ciudad sobre las tecnologías de recogida y análisis de datos que utiliza? ¿Qué acuerdos existen con las partes privadas implicadas en este proceso? Por otro lado, se plantean cuestiones sobre cómo se integran las distintas fuentes de datos: ¿cuál es el alcance de la política de ciudades inteligentes en términos de centralización de los datos de la ciudad? ¿Se contrasta la información relacionada con la seguridad con la información recogida sobre movilidad en el Metro y en el SIMM (Sistema Inteligente de Movilidad de Medellín) y el nuevo CITRA (Centro Integrado de Información de Tráfico y Transporte)? ¿Qué información se comparte con las autoridades nacionales y se recibe de ellas? ¿Qué papel juegan los municipios del Valle de Aburrá? ¿Qué capacidades, recursos y datos se comparten con ellos?

‍

Durante años, muchos grupos sociales han venido reiterando el mensaje de cambiar el enfoque de la seguridad por el de la coexistencia. Pero, ¿cómo hacer operativa la coexistencia en una política de seguridad? Esta ha sido una de las grandes preguntas de los responsables de las políticas públicas en la ciudad. ¿Ha sido más fácil centrar la política en el control y la vigilancia? Parece que sí proporciona rendimientos más rápidos, pero, conociendo el nuevo alcance del sistema, ¿está la sociedad de acuerdo con que el gobierno vigile de esta manera? ¿O, por el contrario, pueden utilizarse más las tecnologías para el fomento de la convivencia ciudadana? ¿Un enfoque centrado en la convivencia ciudadana haría un uso diferente de las tecnologías digitales? ¿Cuánto estaremos dispuestos a invertir en tecnología para conseguir lo que queremos? ¿Qué es lo que queremos? El principal indicador de la política de seguridad de la ciudad ha sido la tasa de homicidios, sin embargo, después de una drástica disminución desde los años 90, hoy cerca del 50% de la población de Medellín no se siente segura. Definir qué queremos de la política de seguridad sigue siendo clave y difícil.

‍

¿Qué podemos hacer entonces? Desde el gobierno local, es clave que dentro de su política de gobierno digital se incorporen directrices de derechos humanos. Esto garantizaría a los ciudadanos un mínimo de condiciones y garantías con el despliegue de potentes y riesgosos sistemas tecnológicos. Empezar es relativamente fácil ya que existen instrumentos como el Marco Ético de Inteligencia Artificial de Colombia y una extensa lista de principios y directrices internacionales que pueden servir de referencia. Estos establecen principios como la transparencia, la explicación, la rendición de cuentas, la inclusión, entre otros, junto con herramientas (por ejemplo, auditoría de algoritmos, explicación inteligente, definición y gestión de riesgos, códigos de conducta internos) para garantizar un buen cumplimiento. También existen redes de ciudades como Cities for Digital Rights que promueven políticas públicas a nivel de ciudad basadas en los derechos digitales. Si hay voluntad, esta tarea es hoy una "manija baja" para el gobierno local. 

‍

Más allá de los pequeños arreglos técnicos, la reorganización de algunos procesos y una cultura integral de rendición de cuentas por parte de las autoridades, a quien se debe cuestionar es a la propia sociedad. La aparición de estas tecnologías invasivas como respuesta a corto plazo a problemas de seguridad no se produce en el vacío, ni es un acto de autoritarismo de la Alcaldía. También están legitimadas por una sociedad que prioriza el control y el orden sobre la libertad. La sociedad del Valle de Aburrá debe cuestionarse sobre qué tipo de ciudad quiere construir. ¿Podemos cambiar la relación que tenemos con las nuevas tecnologías? Nuestra visión hasta hoy se ha centrado en consumir los últimos avances para sostener la imagen de una ciudad inteligente, innovadora y digitalizada. ¿Podemos centrarnos primero en definir nuestros problemas más importantes y luego en conseguir las herramientas tecnológicas que nos ayuden a resolverlos? Sin ánimo de exagerar, realmente necesitamos mantener una conversación sobre todo esto.