Bingo de integridad digital
En el primer diálogo digital interurbano de Edgelands, los participantes debatieron sobre los usos de la IA y el reconocimiento facial en las cuatro ciudades que el instituto ha puesto en marcha.
Foto: Anwar Hakim para Unsplash
¿Qué tienen en común las bases de datos de Medellín, las estaciones de tren de Ginebra y las regulaciones de Nairobi? Suena como el comienzo de una broma sin sentido. En el Instituto Edgelands, sin embargo, esto simboliza un hilo común de cómo las ciudades de todo el mundo han estado utilizando la IA y las tecnologías de reconocimiento facial para mitigar, con muy poco éxito y transparencia probados, las amenazas a la seguridad, muchas veces en detrimento de las libertades civiles y la seguridad.
Este fue el tema principal de nuestro diálogo interurbano digital de Edgelands, un espacio de consenso y generación de ideas que reunió a investigadores, expertos en políticas y seguridad en cuatro ciudades donde ha aparecido Edgelands: Medellín, Ginebra, Nairobi y Houston. La primera convocatoria de este nuevo proyecto comienza con una tarea sencilla: encontrar puntos en común. Cuando hablamos de herramientas de ciudad, espacio digital e infraestructura, ¿de qué estamos hablando exactamente?
Como una forma de sentar las bases para los próximos diálogos que se celebrarán a finales de este año, iniciamos nuestro proyecto con un intenso juego de bingo de integridad digital, reuniendo los cuatro temas a través de los cuales analizamos la integridad digital - I.A., Transparencia, Responsabilidades de los Grupos de Interés y Soberanía Digital - y las tres dimensiones con las que explorarlos - Herramientas de la Ciudad, Espacio Digital, e Infraestructura:
A primera vista, aunque los temas y las dimensiones son fundamentales para estructurar mejor una conversación compleja, todos están entrelazados. Parecía preferible poner estos conceptos en ejemplos concretos para comprender mejor cómo funcionan en cada una de las ciudades de Edgelands.
Cuando se habla de inteligencia artificial, por ejemplo, la mayoría de los ejemplos estaban relacionados con las tecnologías de reconocimiento facial. Nuestro equipo de Medellín informó que, a pesar de que el gobierno local lo está utilizando constantemente en el sistema de seguridad de la ciudad, no existe una base de datos facial en Colombia, por lo que no está claro con qué se están comparando estos datos. Los representantes de Ginebra mencionaron que recientemente ha habido un debate público sobre la instalación de tecnología de reconocimiento facial en las estaciones de tren suizas. En Nairobi, a pesar de que el público es consciente de que la tecnología de IA se está utilizando para la infraestructura gubernamental, aún no existen regulaciones o políticas al respecto. También hay un debate en curso en Medellín sobre la posibilidad de utilizar la IA para regular el uso de aplicaciones internacionales como Airbnb con el fin de garantizar la seguridad de los turistas que visitan la ciudad, pero también proteger a sus ciudadanos contra las prácticas turísticas depredadoras. Otro tema interesante de debate es una reciente colaboración entre Open AI y el periódico Le Monde: ¿de qué se trata exactamente esta colaboración? ¿Cómo afectará a las noticias que consumimos?
La transparencia es un tema más sencillo, pero Nairobi planteó un punto interesante: ¿qué pasa si los ciudadanos no están necesariamente interesados en la transparencia de los datos, cuando se sienten más seguros dejando las cosas como están? El equipo global también puso sobre la mesa el hecho de que lugares como Helsinki y Ámsterdam están creando registros de transparencia: bases de datos de software y tecnologías que se utilizan para la vigilancia en las ciudades para que las personas puedan tener fácil acceso a esta información.
En lo que respecta a las responsabilidades de las partes interesadas, las discusiones más interesantes se produjeron en torno al tema de los espacios digitales: ¿quién es responsable de lo que sucede en línea, por ejemplo, en el caso del ciberacoso o los deepfakes? Es importante comprender los roles y responsabilidades de las plataformas y los gobiernos, así como de los ciudadanos, las fuerzas de seguridad, las escuelas, los tutores y los padres.
Por último, la soberanía digital es un tema complejo en sí mismo, y por mucho que se concrete con ejemplos, estas situaciones tampoco son fáciles de entender: Nairobi tiene un excelente ejemplo de herramientas como e-citizen y e-teams, que son utilizadas por el gobierno pero son de propiedad privada: ¿quién es el propietario de los datos y dónde se almacenan? En la misma línea, también hablamos sobre el uso de tecnologías en la nube, donde los datos se almacenan en centros de datos de propiedad privada, generalmente ubicados en un país extranjero: ¿deberían los gobiernos confiar en estos servicios para almacenar datos sobre los ciudadanos y el funcionamiento del gobierno? ¿Cómo podemos discutir la ética y la confidencialidad cuando entidades privadas poseen información sobre poblaciones enteras, incluidos registros de salud y documentos de identificación? También es importante preguntarse qué sucede con los medios informales de contrato social cuando la tecnología digital se hace cargo de las transacciones financieras más pequeñas, por ejemplo, como una forma de rastrear los pagos de impuestos y la información personal.
Está claro que existen numerosos enfoques para las cuestiones de seguridad, tecnologías digitales e integridad digital, así como muchas formas concretas en que estos temas afectan nuestras vidas, tal vez mucho más de lo que creemos. Como se señaló durante la conversación y también se discutió profundamente durante nuestro Simposio de Medellín, el concepto de confianza parece estar en el corazón de muchos de estos temas y es un componente esencial de la sensación de seguridad. Esperamos seguir desarrollando estas conversaciones a lo largo del año.
Para nuestro próximo diálogo, participaremos en el festival Explore Geneva para discutir el uso de la IA para brindar seguridad como servicio público con invitados especiales de cada una de las ciudades de Edgeland. Estén atentos para ver nuestro panel en vivo el 27 de abril y suscríbanse a nuestro boletín para mantenerse al día con los desarrollos de nuestro proyecto: Intercity Virtual Pop-up Dialogues.
