El “laboratorio social” es la metodología de la Fundación Mi Sangre para crear un ecosistema de transformación que se basa en la colaboración y la capacidad como modos de interrogación. En We Are Recording You Social Lab, nos reunimos con diferentes actores de la comunidad para discutir y criticar temas de seguridad y vigilancia y reimaginar los contratos sociales de Medellín (la dinámica social y el poder entre los ciudadanos y la autoridad) que funcionan entre el gobierno de Medellín y los ciudadanos. Las discusiones reunieron a servidores públicos, dueños de negocios, representantes del sistema de transporte público de la ciudad, representantes del sector cultural y defensores de la juventud en una conversación. Cuando comenzaron estas conversaciones y otras actividades emergentes organizadas por Edgelands en Medellín, originalmente había concebido la tecnología como algo muy distante de la seguridad y no había entendido cómo estos dos conceptos podían cruzarse. Por esta razón, en We Are Recording You Social Lab , reimaginamos un contrato social urbano que priorizó la conversación sobre la digitalización de la seguridad urbana.

‍

Estas reflexiones se basan en un proceso multietapa de la Teoría U, desarrollada por Senge y Scharmer (2007), que se utiliza para ofrecer nuevos puntos de vista y nociones sobre un fenómeno específico. Este proceso permite abandonar los prejuicios y abrir la posibilidad de cambios en la forma de observar y concebir estos fenómenos de interés.

‍

En este caso, se invitó abiertamente a todos los ciudadanos a participar en este proceso, con el fin de obtener una visión que trascienda disciplinas, condiciones socioeconómicas, edades y otras características personales. En resumen, a partir de diversas perspectivas individuales sobre el problema, que también se transforman durante cada una de las reuniones celebradas, se alcanza una comprensión holística, en este caso, de los efectos que la digitalización de la seguridad tiene en el contrato social de los habitantes de Medellín. El resultado final es un documento que recopila, pero no agota, las contribuciones de todos los asistentes a la reunión.

‍

‍

En la primera reunión, los participantes de este proceso se conocieron y compartieron sus concepciones, temores y esperanzas respecto al auge de las nuevas herramientas digitales y su rol en el ámbito de la seguridad. Esto les permitió reconocerse como individuos con una postura válida, pero también reconocer a sus interlocutores como iguales, quienes, aunque tengan opiniones diferentes, también pueden ser escuchados y con quienes pueden construir nuevas posiciones y consensos.

‍

En el segundo encuentro, los participantes aprendieron sobre el sistema en el que se enmarca el proceso de digitalización de la seguridad y, mediante un ejercicio lúdico, identificaron a los actores institucionales y no institucionales más relevantes, su posición dentro del sistema, sus puntos de contacto y tensiones. La conclusión de este ejercicio colectivo es la creación performativa de una sociedad, construida colectivamente, que identifica las potencialidades y los riesgos que conlleva la introducción de nuevas tecnologías en ella. En otras palabras, pasamos de la posición individual del primer encuentro a una posición más integradora.

‍

La tercera reunión consistió en la observación de un caso práctico, en el que se evidenció la materialización del fenómeno de interés. En este caso, se visitó el Sistema Integrado de Emergencias de Medellín (SIES-M), lugar que alberga el sistema de recepción de llamadas de emergencia y el sistema de videovigilancia de la ciudad. Estar presente permitió contrastar las posturas y visiones sobre la digitalización de la seguridad, construidas en ambas reuniones, con sus aplicaciones reales. Esto refuerza algunas de las conclusiones de los participantes, pero también abre la puerta a nuevas preguntas y perspectivas que quizás no se consideraron al inicio de este proceso.

‍

Este recorrido de enunciación, desahogo, representación y observación conduce naturalmente al cuarto encuentro, dedicado a la reflexión sobre lo vivido. Aquí, los participantes llegaron con una pregunta fundamental que sirvió para llevar a cabo una discusión mucho más amplia: ¿Cuánto de mi privacidad y libertad individual estoy dispuesto a sacrificar por la seguridad y el bien común? Mediante un ejercicio de plena presencia y cocreación lúdica, se discutieron este y otros aspectos relacionados, de los cuales se recogieron los aspectos más relevantes y se llegaron a conclusiones conjuntas.

‍

Esto quedó plasmado en un documento escrito, llamado “documento mártir” porque en una reunión final los participantes tuvieron la oportunidad de leerlo, revisarlo, subrayarlo, reconstruir algunas de las partes con las que no estaban del todo de acuerdo y añadir otros aspectos que pudieran haber sido omitidos.

‍

La última versión, que no pretende agotar la discusión sobre el objeto de estudio, reúne todas las voces de los participantes, sin que ninguna prevalezca sobre las demás. Aquí desarrollamos las reflexiones más significativas generadas en el proceso sobre los efectos de la digitalización de la seguridad en el contrato social de los medellinenses. Estas reflexiones, de forma muy general, pueden resumirse en dos frases:

‍

Un fragmento de una canción de Jorge Drexler: “La máquina la hace el hombre, y es lo que el hombre hace con ella”,

Una frase del poeta y crítico literario Jorge Gaitán Durán:

‍

"Todo edificio estético [social en este caso] se basa en un proyecto ético. Los fallos en la conducta vital corrompen las posibilidades de la conducta creativa [social]".

‍

En este ejercicio de construcción ciudadana, nadie cuestionó la utilidad de la digitalización de la seguridad, materializada en la ubicación de cámaras o en la implementación de herramientas de Big Data y Machine Learning, para la prevención y contención de la delincuencia. Estas herramientas han demostrado ser eficaces como método de protección, ya que disuaden a posibles delincuentes, registran actos delictivos y pueden servir como prueba en caso de injusticia o abuso.

‍

“No hay que tener miedo a ser grabado si se puede contribuir a una consolidación efectiva de la Seguridad Ciudadana”.

‍

Los debates en torno a la digitalización de la seguridad toman un nuevo rumbo, pasando de la cuestión de la utilidad de las tecnologías a la de su necesidad o propósito. El "¿Por qué?" y "¿Para qué?" de la digitalización se refiere a toda una conversación sobre principios, en la que los participantes rescataron algunos como la confianza , la compasión y la ética . Esta última se mencionó en cinco de los documentos de conclusiones elaborados al final de la actividad presencial plenaria (cuarta reunión). Algunas de las menciones fueron:

‍

• Que los datos recolectados puedan ir de la mano no sólo con la seguridad sino también con la construcción de una sociedad ética.

• La Administración Pública debe regir su actuación con base en la ética y el respeto al otro, dejando de lado intereses mercantiles y performativos.

• Cámaras y vigilancia con ética profesional.

• La herramienta sin criterios éticos no resuelve.

‍

Partiendo de esta afirmación: «Las herramientas en sí no son buenas ni malas. Lo relevante es el uso que se les da; en este caso, el uso y manejo ético de la información y los datos es útil para prevenir posibles daños», podemos formular la siguiente tesis o lema, de la que se derivan otras ramificaciones:

‍

Es necesario establecer un protocolo que garantice la ética en el uso de herramientas tecnológicas.

En primer lugar, es importante definir las directrices éticas básicas en entornos digitales. Se destacó la necesidad de orientarlas hacia el tipo de sociedad que necesitamos o imaginamos. En este caso, un enfoque deseable podría ser el adoptado en Corea del Sur, que puede resumirse en cuatro principios:

1) Responsabilidad de los usuarios de regular el uso; 2) Responsabilidad de evaluar el impacto social negativo de la IA y los robots en los proveedores; 3) Responsabilidad de los desarrolladores de eliminar sesgos y características discriminatorias en la IA; y 4) Insta a desarrollar IA y robots que no presenten características antisociales. En general, la mayoría de las políticas y principios éticos en Corea del Sur enfatizan el equilibrio entre la protección de la dignidad humana y el bien común, y reafirman la idea de que estas son herramientas destinadas a proteger la dignidad humana y promover el bien común.

‍

Las intervenciones y acuerdos de los participantes estuvieron estrechamente relacionados con el párrafo anterior, pero no directamente influenciados por él. Por lo tanto, se concluye que las políticas públicas orientadas a la digitalización de la seguridad deben construirse sobre la base de protocolos o directrices de acción que garanticen, entre otros, los siguientes puntos:

‍

Transparencia en el uso de la información recopilada: la información debe utilizarse para los fines previstos, la prevención y contención de actos delictivos y la garantía de los derechos humanos. Además, los ciudadanos tienen derecho a saber qué se hace con su información.

• Interconectividad entre las instituciones que recopilan información: para garantizar una mayor eficiencia en la prevención y contención de actos delictivos u otros problemas, estas instituciones deben contar con criterios previos y sólidos para el análisis y la ejecución. Esto también implica buscar un equilibrio entre la excesiva centralización y la descentralización de la información recopilada.

• Componente educativo de los funcionarios: quienes utilizan herramientas tecnológicas deben ser capacitados en los límites éticos y legales de la vigilancia ciudadana.

• Formación ciudadana en tecnologías: es fundamental que los ciudadanos puedan formarse un criterio respecto de estas tecnologías y que puedan ser críticos respecto de su uso.

No las utilicen para limitar el ejercicio ciudadano de su derecho a la ciudad: nadie debe sentirse obligado a actuar de forma distinta a la que piensa. Herramientas tecnológicas como las cámaras no deben utilizarse para disuadir a la gente de realizar actos como marchas y manifestaciones ciudadanas.

‍

También es importante destacar, como mencionó el filósofo y profesor de la Universidad EAFIT, Jonathan Echeverri Álvarez, en un debate reciente sobre ética en entornos digitales, que este protocolo no puede limitarse a un simple código ético sin efectos observables. Un gran reto es convertirlo en una cuestión cultural cuyos efectos se traduzcan en cambios de conducta y comportamiento por parte de los agentes institucionales y la ciudadanía en general.

‍

El principio del contrato social generalmente implica la renuncia a ciertas libertades individuales, bajo la garantía de la salvaguardia estatal de la integridad personal y la propiedad privada. Por lo tanto, cuando la seguridad o la protección contra la delincuencia se limitan a la imposición de limitaciones a la autonomía individual, la relación entre el Estado y la ciudadanía se fragmenta y se ve amenazada. Un protocolo ético correctamente aplicado serviría para reconstruir esta relación y daría paso al segundo lema:

‍

"Lo opuesto a la seguridad no es la inseguridad, sino la desconfianza".

‍

La palabra confianza fue mencionada ocho veces por los participantes de la reunión presencial plenaria; por lo tanto, surge como la condición más importante para garantizar el respeto del contrato social en tiempos de digitalización de la seguridad. Un protocolo ético en el uso de las tecnologías es un primer paso para reconstruir la confianza, que en algunos casos se ha visto vulnerada. Esto se refleja en la conclusión de uno de los participantes: «Lograr la confianza de la ciudadanía en la cámara, donde el buen uso depende del equipo humano que la respalda».

‍

Una de las maneras más creativas, en línea con la participación ciudadana, sugerida para fortalecer la confianza en las instituciones es promover que «la posibilidad de que los usuarios participen en el diagnóstico y las soluciones puede contribuir a una mayor confianza en las decisiones digitales». Esto se refiere, a su vez, al concepto de seguridad como construcción colectiva y, de nuevo, a la necesidad de un protocolo ético para el manejo de estas herramientas digitales.

‍

En tercer lugar, la necesidad de una definición más integral de seguridad que trascienda la mera contención de la delincuencia es otra de las tesis más relevantes identificadas por los asistentes a este espacio de cocreación y plena presencia. La seguridad en el siglo XXI, ante el auge de las herramientas digitales, no puede seguir entendiéndose únicamente como la garantía de la ausencia de delito o el castigo de los posibles infractores. Existen otras dimensiones que deben integrarse en la agenda pública y que, a su vez, preceden (y condicionan) todo el debate sobre la digitalización de la seguridad y el contrato social. Así pues, el lema al que llegaron los participantes es:

‍

Es necesario humanizar el concepto de seguridad

‍

Una categoría mencionada en una de las hojas de conclusiones es la Seguridad Humana. Este concepto, desarrollado por las Naciones Unidas en la década de 1980, buscaba desplazar el enfoque de la protección de los Estados nacionales a la protección de las personas, con una comprensión de la protección estrechamente vinculada a las nociones de desarrollo humano.

‍

Según este enfoque, existen siete dimensiones de seguridad que el Estado debe garantizar a sus ciudadanos: económica, alimentaria, sanitaria, ambiental, personal, comunitaria y política; y, en ocasiones, se considera una octava dimensión: la seguridad de las mujeres. Una de las intervenciones en la reunión plenaria mencionó lo siguiente:

‍

“No se puede hablar de mecanismos sofisticados de seguridad digital en la ciudad (sus centralidades) cuando en las laderas o periferias no se satisfacen servicios más sencillos de resolver”.

‍

Se hace evidente entonces la necesidad de garantizar otras dimensiones de la seguridad, como la económica y la comunitaria en este caso, antes de debatir la conveniencia de la digitalización de la seguridad o su análisis. Otra visión más integral se refleja en la siguiente conclusión de un participante:

‍

“La seguridad no solo se relaciona o define a partir de la vigilancia y el control, es importante acercarla a la convivencia, la confianza y la garantía de los derechos fundamentales para la vida digna y el desarrollo territorial de las comunidades”.

‍

Como si se tratara de una trama, el párrafo anterior entrelaza los principios rectores de los tres lemas mencionados: una nueva noción de seguridad, confianza y ética. Esta interrelación se traduce en un enfoque en la garantía de los derechos humanos, así como en la priorización de mayores niveles de desarrollo comunitario. Además, se destaca un cuarto y muy importante lema sobre el papel de las tecnologías en la sociedad, que puede resumirse de la siguiente manera:

‍

La coexistencia es otra forma de seguridad.

‍

Por lo tanto, es necesario que las herramientas digitales, además de contener la ocurrencia de actos delictivos, con base en el protocolo ético ya mencionado, garanticen, entre otras cosas, nuevas formas de convivencia, de reconocernos en la diversidad para armonizar la convivencia desde las singularidades, y generen una mayor apropiación ciudadana de los espacios públicos. «La convivencia es clave para la seguridad; es necesario recuperar la confianza. La seguridad es garantía de derechos».

‍

En la última reunión, donde los participantes leyeron críticamente el texto que incluía la construcción colectiva, se hicieron recomendaciones y ajustes que se incluyeron en esta versión final. Además, surgió un nuevo lema que no se había incluido previamente:

‍

La seguridad no depende tanto del ciudadano como de las instituciones.

‍

La seguridad, además de ser una construcción colectiva, es un proceso de corresponsabilidad en el que cada individuo es responsable de que los demás ciudadanos se sientan seguros e integrados en un proceso de construcción de la convivencia. Sin embargo, el principal responsable de las políticas de seguridad, la prevención del delito y el uso ético de las herramientas tecnológicas para contener la delincuencia es el Estado.

‍

Es evidente que no existe debate sobre la utilidad de las herramientas tecnológicas aplicadas a la seguridad. El debate más valioso gira en torno a la relación de confianza entre la ciudadanía y el Estado, las nociones de seguridad, el fortalecimiento de la convivencia, las garantías éticas en el uso de estas herramientas y el concepto de corresponsabilidad. Una de las conclusiones que sintetiza todo esto podría ser:

Las cámaras y la tecnología son un apoyo político; no son la herramienta principal, y, por lo tanto, requieren políticas complementarias que promuevan la seguridad humana, la convivencia y el desarrollo socioeconómico. Esos deben ser los esfuerzos principales.

‍

Finalmente, dada la multitud de voces que se expresan en este ejercicio, surgen algunas preguntas aún sin respuesta, tan necesarias como los eslóganes, para comprender plenamente los efectos de la digitalización de la seguridad en el contrato social. Algunas de ellas son:

‍

• Dentro de un protocolo de uso y creación de herramientas tecnológicas, ¿se puede contemplar el respeto a la esfera privada de la vida de los usuarios?

• ¿Cuál es la forma más eficaz de crear conciencia sobre las políticas y protocolos de uso de datos, teniendo en cuenta que la forma en que se informa y se promueve no es visible y contraproducente?

• ¿Cuál es la transacción de ganancias entre el uso y la venta de datos, 

• Si soy titular de mis datos, ¿puedo decidir si se venden o no?

‍

Y quizás lo más importante: ¿quién debería responder a estas preguntas?

‍