El Ayuntamiento de Barcelona ha aprobado el documento interno ‘Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos’ con la finalidad de garantizar que cualquier sistema de inteligencia artificial (IA) que se implante en los servicios municipales se utilice de acuerdo con estándares legales, éticos y técnicos.
El protocolo para implantar con garantías la IA en los servicios municipales de Barcelona define los mecanismos para proteger los derechos de la ciudadanía en el proceso de licitación e implementación de estos sistemas. Así, combina el proceso de contratación pública, el ciclo de vida de un sistema algorítmico, los mecanismos de protección de datos existentes en el consistorio y los estándares éticos definidos por distintas administraciones y organizaciones.
Se basa en la propuesta de regulación de la Comisión Europea, que establece diferentes tipos de actuaciones de garantía de derechos según el nivel de riesgo del sistema de IA. Los de riesgo inaceptable, que suponen una amenaza clara para la seguridad y los derechos de las personas, son rechazados automáticamente.
Para los sistemas algorítmicos de alto riesgo, que tienen un impacto directo en los derechos fundamentales, el protocolo prevé una serie de mecanismos de garantía más estrictos que para los considerados de riesgo limitado o mínimo. Por ejemplo, los estudios de impacto algorítmico elaborados por un consejo asesor externo o la creación de mecanismos de comunicación y transparencia, como los registros de algoritmos.
Registro público de algoritmos y consejo asesor externo
El protocolo ‘Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos’ se enmarca en la medida de gobierno de la estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial, aprobada en abril de 2021.
Esta medida incluye cerca de 20 actuaciones para afrontar el despliegue de la IA en los servicios municipales. En concreto, la actuación 6 que ahora se desarrolla con el nuevo documento interno, prevé la definición de metodologías de trabajo y protocolos.
Durante el año 2023 se activarán otras actuaciones de la medida de gobierno. Se creará el registro público de algoritmos y un consejo asesor externo que, entre otras tareas, elaborará los estudios de impacto algorítmico definidos en el documento.