El informe ‘Tendencias globales en la gobernanza de la IA: Desarrollo de enfoques nacionales’ del Grupo Banco Mundial analiza cómo distintos países están desarrollando estrategias para la gobernanza de la inteligencia artificial (IA). Se examinan los marcos regulatorios, principios éticos y enfoques nacionales adoptados en torno al desarrollo y aplicación de la IA. También se abordan desafíos como la privacidad de los datos, la transparencia de los algoritmos y la equidad en el acceso a tecnologías avanzadas. El objetivo es ayudar a los formuladores de políticas a tener una visión general del panorama mundial para crear sus propios marcos de gobernanza de la IA.
A medida que la inteligencia artificial se extiende en todo el mundo, la necesidad de una gobernanza eficaz se hace más urgente. El rápido avance de esta tecnología en sectores como la administración pública, la salud, las finanzas o la agricultura presenta tanto oportunidades como riesgos.
Garantizar que la IA se desarrolle e implemente de manera ética, transparente y responsable requiere marcos de gobernanza sólidos capaces de seguir el ritmo de la evolución tecnológica. El informe del Grupo Banco Mundial explora el panorama emergente en este sentido, abordando consideraciones clave, desafíos y enfoques globales.
Según el documento, las distintas disciplinas de IA tienen un gran potencial transformador, pero algunos retos son mantenerse al día de los avances tecnológicos, la experiencia técnica limitada y las lagunas de conocimiento, las necesidades específicas sectoriales, la coordinación interjurisdiccional, la complejidad de las cadenas de suministro de IA y el equilibrio entre innovación y mitigación de riesgos.
Existe un consenso global en torno a la necesidad de una gobernanza sólida de la inteligencia artificial para generar confianza y garantizar beneficios sin causar perjuicios. Algunos marcos clave son la resolución de la Asamblea General de las Naciones Unidas sobre una IA confiable, el informe del Órgano Asesor de la ONU ‘Gobernando la IA para la Humanidad’ o el Informe sobre el Desarrollo Mundial 2021 del Banco Mundial.
Innovación en inteligencia artificial y mitigación de riesgos
El informe afirma que la IA puede desbloquear nuevas oportunidades para el desarrollo sostenible y que una adopción responsable conducirá a un crecimiento inclusivo y al desarrollo de economías emergentes. Además, tiene el potencial de mejorar la eficiencia, la optimización y la transparencia en diversos sectores.
Entre los elementos necesarios para el desarrollo de ecosistemas locales de IA responsables, el documento menciona una infraestructura digital fiable que proporcione una conexión rápida a Internet, sistemas de gestión y almacenamiento de datos avanzados, dispositivos y potencia computacional. También medidas que favorezcan el desarrollo digital, la inversión en talento local, un suministro eléctrico estable y suficiente, y el fomento de la innovación mediante la colaboración público-privada y políticas de apoyo
Se destaca la necesidad de fomentar la innovación en IA mitigando riesgos como el sesgo, la discriminación, la desigualdad, las violaciones de la privacidad y los derechos de autor, la falta de transparencia, los malos usos, los efectos sobre el medioambiente, las vulnerabilidades de ciberseguridad, el impacto psicológico o los riesgos geopolíticos o de la automatización del trabajo, enfatizando la importancia del crecimiento sostenible y una gobernanza responsable de la IA.
Los sistemas de IA dependen de grandes cantidades de datos para funcionar de manera eficaz y precisa. Sin embargo, las lagunas en los conjuntos de datos, en particular para comunidades específicas e idiomas menos comunes, pueden reforzar los sesgos. Además, esta dependencia de los datos genera inquietudes en cuanto a la privacidad y seguridad, a lo que se suma la preocupación por el consumo de agua y energía de la IA.
Herramientas de gobernanza de la IA
El informe describe cuatro herramientas de gobernanza que los países pueden adaptar a sus contextos, ilustradas con ejemplos de países: autogobierno industrial (estándares éticos comerciales voluntarios), derecho blando (principios no vinculantes y normas técnicas), sandboxes o entornos de pruebas regulatorios y derecho duro (leyes e instrumentos legales vinculantes).
Los marcos de gobernanza contribuyen a la seguridad y privacidad de los datos para proteger información sensible, a conseguir prácticas de datos inclusivas para asegurar modelos de inteligencia artificial justos y a lograr sistemas de IA transparentes para la rendición de cuentas. La regulación efectiva tiene como resultado confianza e innovación.
Iniciativas en países de todo el mundo
Según los datos del informe, más de 70 países han publicado ya iniciativas y políticas de inteligencia artificial, y otros muchos están en proceso. Entre las leyes blandas, se han elaborado los principios de regulación de la IA (Reino Unido), la Declaración de Derechos en torno a la IA de la Casa Blanca (Estados Unidos), los principios éticos voluntarios de la IA (Australia) y el modelo de marco de gobernanza para la IA generativa (Singapur).
Los sandboxes regulatorios ofrecen entornos controlados y con plazos definidos para desarrollar, probar y validar nuevos productos y tecnologías. Algunos ejemplos incluidos en el documento son el de Colombia, sobre privacidad por diseño y por defecto en proyectos de IA; el de Brasil, para la IA y la protección de datos; los de la Unión Europea y el conjunto de herramientas AI Verify de Singapur.
Entre las leyes duras, figura la Ley de IA de la UE, el Convenio Marco del Consejo de Europa, las legislaciones de Brasil y Chile, la ley sobre herramientas automatizadas para la toma de decisiones laborales de Nueva York y la normativa sobre algoritmos de recomendación, tecnologías de síntesis profunda e IA generativa de China.
Asimismo, el informe desgrana una serie de ejemplos de todo el mundo de implementación de la inteligencia artificial. Es el caso del AI Safety Institute del Reino Unido, con tres funciones principales: realizar evaluaciones de seguridad de sistemas avanzados de IA, impulsar la investigación en seguridad de la IA y facilitar el intercambio de conocimientos con partes interesadas nacionales e internacionales.
Por su parte, la AI Mission de la India tiene la capacidad computacional como requisito previo para el desarrollo de la inteligencia artificial e incluye un ecosistema de computación de IA escalable de alta calidad, el desarrollo de un mercado de IA que proporcione modelos preentrenados a los agentes innovadores, un hub de innovación centrado en modelos de lenguaje multimodal (LMM), una plataforma de conjuntos de datos, una iniciativa de desarrollo de aplicaciones de IA, un programa de formación y una aceleradora de start-ups tecnológicas.
Corea del Sur aparece con su proyecto Data Dam, que ya ha conseguido resultados prometedores. Para mejorar la infraestructura de datos y fomentar la innovación en IA y big data, integra información de múltiples fuentes para hacerla accesibles a través de una plataforma centralizada. Otras características clave son la creación de un centro de IA, la implementación de medidas robustas para la privacidad y seguridad de los datos, y el enfoque en mejorar los servicios de sectores como el transporte, la salud y las finanzas.
En cuanto a Singapur, ha establecido directrices para probar y desplegar vehículos autónomos. En este sentido, ha implementado un entorno de pruebas regulatorio para facilitar el desarrollo y la integración segura de estos vehículos. El país también ha lanzado un programa de formación en IA.
También se detalla la Estrategia Nacional de Inteligencia Artificial de Nigeria, que creará un grupo de expertos, desarrollará principios éticos nacionales e implementará reformas legislativas para garantizar un desarrollo responsable y ético de la IA. Con el fin de desarrollar un marco de gobernanza sólido, desarrollará principios para guiar el desarrollo, implementación y uso de la IA, así como establecerá un organismo regulador y marcos políticos y de gestión de riesgos.
La política nacional de inteligencia artificial de Ruanda se centra en la alfabetización y habilidades en materia de IA, la capacidad de computación, la infraestructura confiable, una estrategia de datos robusta, la adopción segura de esta tecnología en el sector público y privado, y la ética.
Otros ejemplos son los chatbots impulsados por IA como Somanasi, en Kenia, que ayudan a superar las brechas de aprendizaje; la Estrategia de IA de Estonia, que apoya una regulación centrada en el ser humano de manera fiable, ética y en cumplimiento con los derechos fundamentales; y la estrategia de Emiratos Árabes Unidos, que pone el foco en la transparencia, la rendición de cuentas y la justicia.
En definitiva, el informe concluye que algunas claves para abordar los riesgos de la inteligencia artificial son la adopción de un enfoque de gobernanza coordinado, holístico y multisectorial, la promoción de la colaboración internacional y tener en cuenta las consideraciones específicas de cada sector.
Antes de adoptar un enfoque, es necesario considerar el contexto local y las prioridades políticas, la madurez del ecosistema de IA, el marco legal y regulatorio, y los recursos y capacidades públicas, todo esto para extender los beneficios de la inteligencia artificial a nivel global.