Barcelona, Londres y Ámsterdam han presentado el Observatorio Global de Inteligencia Artificial, una nueva herramienta para facilitar la aplicación de sistemas éticos de IA en las ciudades. Esta iniciativa se enmarca en la Coalición de Ciudades por los Derechos Digitales (CC4DR) y cuenta con la colaboración de ONU-Hábitat y el CIDOB-Centro de Asuntos Internacionales de Barcelona.
En el marco de la Coalición de Ciudades por los Derechos Digitales, fundada en 2018 por Barcelona, Ámsterdam y Nueva York, se ha dado a conocer el nuevo Observatorio Global de Inteligencia Artificial al conjunto de más de 50 urbes mundiales que actualmente forman parte de la red que trabaja local e internacionalmente para obtener un modelo tecnológico justo, ético y democrático en las ciudades.
La creación de esta herramienta para controlar la aplicación ética de la IA en los servicios públicos forma parte de la Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial, impulsada por el Ayuntamiento de Barcelona.
Objetivos del Observatorio Global de Inteligencia Artificial
Muchas ciudades de la coalición CC4DR ya han comenzado a desarrollar e implementar sus propias estrategias de IA, orientadas a regular el uso de esta tecnología en los servicios municipales y a promover modelos éticos, transparentes y responsables. En este sentido, el Observatorio Global de Inteligencia Artificial busca garantizar el respeto de los principios del humanismo tecnológico, los derechos digitales y las tecnologías democráticas.
Los objetivos del Observatorio son realizar el seguimiento de la regulación, desarrollo y despliegue de la IA en las urbes miembros de la Coalición de Ciudades por los Derechos Digitales; producir y actualizar estándares de políticas para regulaciones y aplicaciones éticas en inteligencia artificial en las ciudades; identificar las barreras que impiden el desarrollo de un uso justo, transparente y responsable de la IA en las zonas urbanas; y contextualizar las contribuciones urbanas a la inteligencia artificial global y las tendencias tecnológicas.
Plan de trabajo para 2021
El plan de trabajo del Observatorio para 2021 consistirá en dar a conocer los resultados de un informe sobre la gobernanza ética de los algoritmos en las ciudades, que analizará los mecanismos implementados por los gobiernos locales para desplegar modelos éticos de IA, tales como registros algorítmicos y mecanismos de visión humana. El estudio propondrá un marco analítico para evaluar estas políticas en base a un conjunto de criterios de equidad y transparencia, y con modelos auditables a través del fomento de las tecnologías y el software libre y el conocimiento abierto.
También contempla un Atlas en línea de buenas prácticas en inteligencia artificial urbana, que incluirá fichas sobre casos específicos de aplicación de soluciones de IA éticas a las políticas urbanas de sectores como movilidad, gestión de residuos, agua y saneamiento, o turismo.
Por último, el plan de acción incluye un informe temático sobre el uso del reconocimiento facial en el espacio público. Este estudio propondrá un conjunto de criterios para evaluar la naturaleza ética y responsable de estos sistemas.