IA responsable en la cooperación internacional: el enfoque a nivel de todo el grupo de GOPA

Un socio gubernamental pregunta: ¿puede la IA reducir el tiempo que se tarda en responder a la solicitud de un ciudadano de semanas a horas? Un ministerio de Energía quiere saber si el aprendizaje automático puede mantener la estabilidad de la red eléctrica a medida que aumentan las energías renovables. Un servicio de extensión agrícola necesita llegar al doble de agricultores sin duplicar su plantilla.

No se trata de preguntas hipotéticas. Nos llegan con regularidad de socios de toda África, Asia, los Balcanes y América Latina. Cada una de ellas conlleva una segunda pregunta implícita: ¿podemos hacerlo de forma responsable?

GOPA quiere que la respuesta a ambas sea «sí», pero solo bajo condiciones específicas. La IA debe integrarse en las instituciones, no limitarse a demostrarse en proyectos piloto. Las soluciones deben funcionar dentro de las limitaciones reales: conectividad, diversidad lingüística, equipos técnicos reducidos, sistemas heredados. Y la experimentación no debe generar una deuda técnica, jurídica o ética oculta.

Por eso GOPA creó el AI Studio en 2023: un centro para todo el grupo destinado a identificar en qué ámbitos la IA aporta un valor añadido genuino y a garantizar que las nuevas aplicaciones se desarrollen bajo exigentes estándares de gobernanza. El marco descrito en este artículo se está implantando en todos los proyectos de GOPA y seguirá evolucionando a medida que avancen la normativa y la práctica.

GOPA's AI work references four layers of regulation:

1. EU AI Act – risk classification, transparency and conformity requirements
2. GDPR – data protection by design and by default
3. OECD AI Principles – accountability, transparency, security, human oversight
4. Partner-country law – local data protection, sectoral regulation, institutional mandates

These frameworks provide a common language for EU donors and international organisations. They also future-proof solutions against tightening regulation.

However, many partners outside the EU are not bound by EU law and do not want to navigate it. GOPA addresses this through a two-track approach:

• Internal compliance: GOPA is designing its policies, processes and tools so they are compatible with EU AI Act and GDPR requirements.
• External adaptation: GOPA translates these principles into locally relevant safeguards, so partners benefit from robust governance without unnecessary bureaucracy.

The result: GOPA does the regulatory work once; partners focus on solving problems. 

AI Studio actúa como infraestructura compartida para todas las unidades de negocio de GOPA. Ofrece:

• conocimientos especializados en ingeniería de datos y aprendizaje automático,
• directrices de seguridad y gobernanza, y
• plantillas estandarizadas para la evaluación de riesgos y la documentación.

Las unidades de negocio aportan sus conocimientos sectoriales: cómo gestionan los operadores de red el equilibrio de carga, qué pasos son importantes en los procedimientos judiciales, cómo determinan los sistemas de protección social el derecho a las prestaciones, cómo llegan los asesores agrícolas a las comunidades remotas y cómo las estrategias de comunicación llegan a públicos diversos y captan su interés.

Cuando surge una aplicación de IA, el Studio y el equipo sectorial se plantean tres preguntas:

1. ¿Es la IA la herramienta adecuada? ¿Podrían lograrse los mismos resultados con análisis más sencillos o rediseñando los procesos?
2. ¿Qué cambia para las personas y las instituciones? ¿Quién utiliza la herramienta? ¿Quién sigue siendo responsable de las decisiones?
3. ¿Qué significa «responsable» en este contexto? ¿Qué normas se aplican: las de la UE, las locales o ambas?

Este enfoque mantiene la innovación anclada en la realidad operativa.

1. La responsabilidad humana por diseño

La IA respalda las decisiones; no asume la responsabilidad. GOPA aplica tres reglas:

• Los componentes de IA señalan, sugieren o priorizan, pero no deciden de forma autónoma en contextos delicados.
• Las funciones están claramente definidas: qué pasos están automatizados, cuáles siguen siendo competencia humana y en qué casos es posible la escalación.
• Las acciones significativas asistidas por IA son rastreables a través de registros y documentación.

Ejemplo: integridad en la contratación pública

GOPA lleva más de dos décadas apoyando la reforma de la contratación pública en el sudeste asiático, África y los Balcanes. En un sistema de contratación asistido por IA, los algoritmos pueden señalar patrones inusuales en miles de licitaciones: anomalías en los precios, concentraciones temporales o concentración de proveedores. Según el enfoque de GOPA, se trata de alertas para los auditores, no de sanciones automatizadas. Los expertos humanos revisan el contexto, aplican la legislación nacional y deciden el seguimiento a dar.

Para los donantes de la UE, esto se ajusta a los requisitos de alto riesgo de la Ley de IA. Para las autoridades locales, ofrece una garantía práctica: la IA hace que el trabajo de auditoría sea más específico sin sustituir el criterio jurídico.

2. Respeto por los datos y la privacidad

Los datos suelen ser el elemento más sensible de cualquier proyecto de IA. GOPA utiliza las garantías del RGPD como referencia de calidad a la hora de diseñar soluciones de IA y las adapta a los marcos normativos locales:

• recoger únicamente los datos que sean realmente necesarios (minimización de datos),
• indica claramente para qué fines se utilizan los datos (limitación de la finalidad),
• mantiene los datos personales y sensibles seguros y con acceso controlado, y
• elimina o anonimiza los datos que ya no son necesarios (limitación del almacenamiento).

La función de GOPA es traducir los principios de privacidad en decisiones de diseño concretas, de modo que los socios no tengan que convertirse en expertos en la legislación de la UE sobre protección de datos.

Ejemplo: asesoramiento agrícola

Una herramienta digital de asesoramiento para agricultores podría necesitar información sobre la ubicación, los cultivos y el tamaño de la explotación, pero no nombres ni direcciones precisas. El enfoque de GOPA: tratar los datos en dispositivos o servidores locales siempre que sea posible, seudonimizar los datos que deban transmitirse y aplicar normas claras de conservación para que los historiales detallados no se conserven más tiempo del necesario.

3. Equidad y contexto local

Los modelos de IA pueden comportarse de forma diferente según el idioma, la región o el grupo demográfico. El compromiso de GOPA no es prometer una neutralidad perfecta, sino hacer que los sesgos sean visibles, manejables y reducibles.

En la práctica:

• probar las herramientas con diferentes grupos de usuarios e idiomas, siempre que los datos lo permitan,
• comprobar no solo el rendimiento técnico, sino también el tono, la exhaustividad y la coherencia, y
• documentar las limitaciones conocidas en términos que puedan entender los responsables de la toma de decisiones sin conocimientos técnicos.

Ejemplo: servicios ciudadanos multilingües

Al probar un chatbot de servicios al ciudadano multilingüe, GOPA podría descubrir que las respuestas en un idioma de amplia difusión son más detalladas que las que se ofrecen en un idioma local. Según el enfoque de GOPA, esto da lugar a medidas correctivas: ajustar los datos de entrenamiento, utilizar modelos lingüísticos especializados o incorporar mecanismos compensatorios, como la posibilidad de derivar fácilmente la consulta a agentes humanos. Se trata tanto de garantizar un acceso equitativo a la información y la comunicación como del rendimiento técnico.

4. Tecnología eficiente y sostenible

La IA no es automáticamente la mejor opción ni la más sostenible. Los modelos de gran tamaño y las arquitecturas complejas pueden resultar costosos, difíciles de mantener y consumir mucha energía.

GOPA se compromete a:

• empezar por la solución más sencilla que resuelva el problema de forma fiable,
• elegir modelos e infraestructura que los socios locales puedan gestionar de forma realista, y
• tener en cuenta las implicaciones energéticas y de costes a la hora de comparar opciones técnicas.

A veces, la respuesta correcta no es «más IA», sino un proceso más claro, un modelo más pequeño o un sistema de información convencional. Esto es especialmente importante cuando los presupuestos y la capacidad técnica son limitados.

GOPA's structure makes this approach possible. The AI Studio works with teams that have operated on the ground for years and bring deep knowledge of institutions, sectors and audiences in partner countries.

On this basis, GOPA teams are exploring and designing AI applications across five areas: 

• Energy and infrastructure: Renewable production forecasting, grid optimisation, predictive maintenance
• Governance and public finance: Procurement data analysis, legislative drafting support, citizen information services
• Agriculture and environment: Satellite data integration for climate resilience, advisory system enhancement
• Education and social development: Language tools, skills matching, data-driven monitoring and evaluation
• Communications and stakeholder engagement: Multilingual content adaptation, summarising complex reports for different audiences, synthesis of feedback from consultations to inform programme communication 

Each application will test and refine the governance approach, generating lessons for different country contexts as concepts move into implementation. When donors and partners ask how GOPA manages AI risks, the answer is not a generic framework but a conversation grounded in specific institutions, processes and legal contexts. 

GOPA no considera que la gobernanza de la IA sea una limitación para la innovación. Es, por el contrario, la condición necesaria para una innovación sostenida en entornos complejos.

Los clientes —ministerios, instituciones de la UE, organizaciones internacionales, bancos de desarrollo y operadores privados— no deberían tener que elegir entre aplicaciones ambiciosas de IA y obligaciones de rendición de cuentas. Partiendo de normas como la Ley de IA de la UE y el RGPD, y adaptándolas a las realidades locales, GOPA pretende ofrecer ambas cosas: una IA que ofrezca resultados dentro de un marco de garantías exigentes.

El AI Studio está empezando a materializar esto mediante evaluaciones de preparación, marcos de gobernanza y proyectos piloto específicos para cada sector. El enfoque seguirá evolucionando a medida que se desarrolle la normativa y la práctica genere nuevas lecciones, pero la dirección es clara.

El objetivo es utilizar la IA allí donde realmente ayude a las instituciones y a las comunidades, de formas que GOPA y sus socios puedan respaldar.