Bingo de integridad digital

¿Qué tienen en común las bases de datos de Medellín, las estaciones de tren de Ginebra y los reglamentos de Nairobi? Parece el comienzo de un chiste sin sentido. En el Instituto Edgelands, sin embargo, esto simboliza un hilo común de cómo las ciudades de todo el mundo han estado utilizando la IA y las tecnologías de reconocimiento facial para mitigar -con muy poco éxito probado y transparencia- las amenazas a la seguridad, muchas veces en detrimento de las libertades civiles y la seguridad.

‍

Este fue el tema principal de nuestro diálogo digital interurbano Edgelands, un espacio de consenso y generación de ideas que reunió a investigadores, políticos y expertos en seguridad de cuatro ciudades en las que se ha implantado Edgelands: Medellín, Ginebra, Nairobi y Houston. La primera convocatoria de este nuevo proyecto comienza con una tarea sencilla: encontrar puntos en común. Cuando hablamos de herramientas urbanas, espacio digital e infraestructuras, ¿de qué estamos hablando exactamente?

‍

Para sentar las bases de los próximos diálogos que se celebrarán a finales de este año, iniciamos nuestro proyecto con una intensa partida de bingo sobre integridad digital, reuniendo los cuatro temas a través de los cuales analizamos la integridad digital ( inteligencia artificial, transparencia, responsabilidades de las partes interesadas y soberanía digital ) y las tres dimensiones con las que explorarlos ( herramientas urbanas, espacio digital e infraestructura):

‍

‍

A primera vista, aunque los temas y dimensiones son fundamentales para estructurar mejor una conversación compleja, todos ellos están entrelazados. Parecía preferible poner estos conceptos en ejemplos concretos para comprender mejor cómo funcionan en cada una de las ciudades Edgelands.

‍

Al hablar de inteligencia artificial, por ejemplo, la mayoría de los ejemplos estaban relacionados con tecnologías de reconocimiento facial. Nuestro equipo de Medellín informó de que, aunque el gobierno local lo utiliza sistemáticamente en el sistema de seguridad de la ciudad, no existe una base de datos faciales en Colombia, por lo que no está claro con qué se cotejan estos datos. Los representantes de Ginebra mencionaron que recientemente ha habido un debate público sobre la instalación de tecnología de reconocimiento facial en las estaciones de tren suizas. En Nairobi, aunque el público es consciente de que la tecnología de Inteligencia Artificial se está utilizando en la infraestructura gubernamental, aún no existen normativas ni políticas al respecto. También hay un debate en curso en Medellín sobre la posibilidad de utilizar la Inteligencia Artificial para regular el uso de aplicaciones internacionales como Airbnb, con el fin de garantizar la seguridad de los turistas que visitan la ciudad, pero también proteger a sus ciudadanos contra las prácticas turísticas depredadoras. Otro tema de debate interesante es la reciente colaboración entre Open AI y el periódico Le Monde: ¿en qué consiste exactamente esta colaboración? ¿Cómo afectará a las noticias que consumimos?

‍

La transparencia es un tema más directo, pero Nairobi planteó una cuestión interesante: ¿y si los ciudadanos no están necesariamente interesados en la transparencia de los datos, cuando se sienten más seguros dejando las cosas como están? El equipo mundial también puso sobre la mesa el hecho de que lugares como Helsinki y Ámsterdam están creando registros de transparencia: bases de datos de software y tecnologías que se utilizan para la vigilancia en las ciudades, de modo que los ciudadanos puedan acceder fácilmente a esta información.

‍

En cuanto a las responsabilidades de las partes interesadas, los debates más interesantes giraron en torno al tema de los espacios digitales: ¿quién es responsable de lo que ocurre en línea, por ejemplo en caso de ciberacoso o deepfakes? Es importante comprender las funciones y responsabilidades de las plataformas y los gobiernos, así como de los ciudadanos, las fuerzas de seguridad, las escuelas, los tutores y los padres.

‍

Por último, la soberanía digital es una cuestión compleja en sí misma, y por mucho que se concrete con ejemplos, estas situaciones tampoco son fáciles de entender: Nairobi tiene un excelente ejemplo de herramientas como e-citizen y e-teams, que utiliza el Gobierno pero son de propiedad privada: ¿a quién pertenecen los datos y dónde se almacenan? En la misma línea, también hablamos del uso de tecnologías en la nube, donde los datos se almacenan en centros de datos de propiedad privada, normalmente situados en un país extranjero: ¿deberían los gobiernos confiar en estos servicios para almacenar datos sobre los ciudadanos y el funcionamiento del gobierno? ¿Cómo podemos debatir sobre ética y confidencialidad cuando entidades privadas poseen información sobre poblaciones enteras, incluidos registros sanitarios y documentos de identidad? También es importante preguntarse qué ocurre con los medios informales de contrato social cuando la tecnología digital se hace cargo de las transacciones financieras más pequeñas, por ejemplo, como forma de rastrear los pagos de impuestos y la información personal.

‍

Está claro que existen numerosos enfoques sobre las cuestiones de la seguridad, las tecnologías digitales y la integridad digital, así como muchas formas concretas en que estos temas afectan a nuestras vidas, quizá mucho más de lo que creemos. Como se señaló durante la conversación y también se debatió en profundidad durante nuestro Simposio de Medellín, el concepto de confianza parece estar en el centro de muchas de estas cuestiones y ser un componente esencial de la sensación de seguridad. Esperamos seguir desarrollando estas conversaciones a lo largo del año.

‍

En nuestro próximo diálogo, participaremos en el festival Explore Geneva para debatir sobre el uso de la inteligencia artificial para proporcionar seguridad como servicio público con invitados especiales de cada una de las ciudades de Edgeland. Permanezca atento para ver nuestro panel en directo el 27 de abril, y suscríbase a nuestro boletín para mantenerse al día de las novedades de nuestro proyecto-Intercity Virtual Pop-up Dialogues.

‍