El proyecto europeo Etapas (Ethical Technology Adoption in Public Administration Services) ha probado tecnologías de big data, robótica e inteligencia artificial (IA) en el sector público en cuatro casos de uso en Italia, Noruega y Grecia. El marco integral y la metodología de evaluación resultantes del proyecto para el uso responsable de estas tecnologías disruptivas ha conducido a herramientas modulares listas para su comercialización y adaptadas a las necesidades de las administraciones y los proveedores de servicios públicos.
Las tecnologías disruptivas pueden mejorar notablemente la eficiencia de los servicios públicos, pero las ciudades se enfrentan a desafíos éticos, jurídicos o sociales, lo que ralentiza su adopción.
El proyecto Etapas, que se ha desarrollado entre el 1 de noviembre de 2020 y el 31 de octubre de 2023, ha publicado recientemente sus resultados. Ha creado un marco integral y una metodología de evaluación con la que medir y mitigar los riesgos éticos y jurídicos relacionados con la adopción de estas tecnologías en las administraciones públicas. El principal objetivo era permitir que el sector público europeo pudiera hacer un mejor uso de las nuevas tecnologías y propuestas innovadoras, mejorar la eficacia operativa, reducir los costes de gestión y aumentar la confianza y el compromiso de la población.
Liderado por el Ministerio de Economía y Finanzas de Italia, el proyecto ha contado con la participación de 14 socios de Italia, Dinamarca, Noruega, Grecia, Bélgica, Suecia, Francia y Austria, y con un presupuesto de 3.292.936,25 euros financiados por el programa Horizonte 2020 de la Unión Europea.
Marco para el uso responsable de las tecnologías disruptivas
Entre las barreras para la adopción de las tecnologías disruptivas en la administración, figuran la falta de recursos y de confianza en las tecnologías emergentes. En este sentido, la cocreación con el sector público ha permitido al equipo de Etapas construir una base ética y fácil de usar para el despliegue de tecnología disruptiva.
El marco para el uso responsable de las tecnologías disruptivas es la base conceptual del proyecto. Las consideraciones éticas desempeñan un papel fundamental a la hora de orientar el uso de estas tecnologías por parte del sector público, que abarcan responsabilidades en ámbitos clave como la privacidad, la seguridad, la equidad y la transparencia. Para cada principio ético, el proyecto ha determinado los resultados potenciales asociados a la tecnología en diferentes casos de uso.
Este marco tiene varios componentes construidos sobre la base de los principios éticos, incluidos un análisis del marco jurídico europeo y un código de conducta. Un marco detalla 34 riesgos estructurados en ocho categorías y otro contiene un cuestionario e indicadores computacionales a medida.
Partiendo de una base ética, el proyecto ha desarrollado herramientas de software de apoyo a las administraciones públicas, como es el caso de la metodología y la plataforma de Etapas, fáciles de usar y con un método paso a paso, que ya están listas para su comercialización.
Casos de uso en Italia, Noruega y Grecia
La tecnología del proyecto Etapas se ha validado a través de cuatro casos de uso en Italia, Noruega y Grecia. En cada uno de ellos se ha explorado una aplicación diferente.
Italia ha acogido dos pilotos. El primero ha consistido en la publicación y difusión de datos masivos en la plataforma de open data NoiPA por parte de la Dirección de Sistemas de Información e Innovación (DSII) del Ministerio de Economía y Hacienda. Se ha hecho de forma anonimizada y agregada para que no se divulgue ninguna información personal. Al tratarse de datos sensibles, se requieren altos estándares de protección de la privacidad, pues los avances tecnológicos podrían permitir la identificación de información personal incluso en datos anonimizados.
Como resultado, se han identificado posibles riesgos e impactos éticos y se han abordado acciones de mitigación y recomendaciones. Entre otras cosas, se ha actualizado la política de privacidad, se ha integrado una interfaz fácil de usar con información clave sobre los conjuntos de datos y se realizan pruebas regularmente para detectar las posibles vulnerabilidades del sistema y garantizar la seguridad.
En el segundo piloto de Italia varios robots han ayudado a la rehabilitación médica de pacientes. El robot explica la prueba a realizar para evaluar la capacidad de caminar, navega por el entorno y responde a posibles preguntas. Además, mide las mejoras en el rendimiento y promueve el compromiso y la motivación de los pacientes. La evaluación cualitativa realizada ha obtenido resultados prometedores en términos de usabilidad y aceptabilidad de la solución robótica en entornos de rehabilitación.
En el caso de Noruega, un chatbot basado en inteligencia artificial llamado Kari ha sido diseñado para su uso por parte de los gobiernos locales con el objetivo de dar respuesta, con un lenguaje natural, a las preguntas de la ciudadanía. Actualmente, está disponible en 80 municipios noruegos y en proceso de implementación en otros países como Suecia, Finlandia y Dinamarca.
Por último, en la ciudad griega de Katerini se ha utilizado la IA para identificar y eliminar de manera automática información falsa en fuentes de noticias y redes sociales, con la mayor transparencia posible, así como para priorizar los problemas emergentes. Entre sus principales resultados, se ha incrementado la transparencia, se ha conseguido proteger a la administración y a sus habitantes de la desinformación, se ha aumentado la conciencia pública sobre los riesgos relacionados con las noticias falsas y se ha optimizado el proceso de toma de decisiones.
Desafíos éticos de las tecnologías disruptivas
Cada caso de uso se diseñó para plantear diferentes desafíos éticos. La falta de transparencia y el riesgo de las noticias falsas en el piloto griego o el peligro de divulgar información personal con el uso del big data, así como los problemas éticos y jurídicos relacionados con la interacción verbal y física, la salud psicológica y la gestión de datos en los casos de Italia.
Aunque la base de datos de Kari es una de las mayores del mundo, muchos ciudadanos han compartido información personal con el chatbot, en algunos casos expresando incluso su deseo de hacerse daño. En este sentido, esta tecnología requiere la implementación de procedimientos seguros de gestión de datos y anonimización y una supervisión exhaustiva para proteger a los usuarios.
En definitiva, el proyecto Etapas ha identificado una serie de áreas de mejora para acelerar el despliegue de tecnología disruptiva en el sector público de manera responsable y en cumplimiento con la legislación vigente, como la necesidad de agilizar los mecanismos de respuesta, ofrecer interfaces en idiomas distintos al inglés, mantenerse al día de las nuevas tecnologías e integrarlas en los procesos existentes.