IA responsable en la cooperación internacional: El enfoque del grupo GOPA

Un socio gubernamental pregunta: ¿puede la IA acortar de semanas a horas el tiempo que se tarda en responder a una solicitud de un ciudadano? Un ministerio de energía quiere saber si el aprendizaje automático puede mantener estable la red a medida que aumentan las energías renovables. Un servicio de extensión agraria necesita llegar al doble de agricultores sin duplicar su personal.

No son preguntas hipotéticas. Llegan regularmente de socios de África, Asia, los Balcanes y América Latina. Cada una lleva implícita una segunda pregunta: ¿podemos hacerlo de forma responsable?

GOPA quiere que la respuesta a ambas sea afirmativa, pero sólo en determinadas condiciones. La IA debe integrarse en las instituciones, no sólo demostrarse en proyectos piloto. Las soluciones deben funcionar con limitaciones reales: conectividad, diversidad lingüística, equipos técnicos limitados, sistemas heredados. Y la experimentación no debe crear deudas técnicas, jurídicas o éticas ocultas.

Por este motivo, GOPA creó el AI Studio en 2023: un centro para todo el grupo con el fin de identificar los ámbitos en los que la IA aporta un verdadero valor añadido y garantizar que las nuevas aplicaciones se desarrollen con arreglo a normas de gobernanza exigentes. El marco descrito en este artículo se está implantando en todos los proyectos de GOPA y seguirá evolucionando a medida que se desarrollen la normativa y la práctica.

El trabajo de GOPA en materia de IA hace referencia a cuatro niveles de regulación:

1. Ley de IA de la UE - clasificación de riesgos, transparencia y requisitos de conformidad
2. GDPR - protección de datos desde el diseño y por defecto
3. Principios de IA de la OCDE: responsabilidad, transparencia, seguridad y supervisión humana.
4. Legislación de los países socios: protección de datos local, normativa sectorial, mandatos institucionales.

Estos marcos proporcionan un lenguaje común para los donantes de la UE y las organizaciones internacionales. Además, ofrecen soluciones de futuro frente al endurecimiento de la normativa.

Sin embargo, muchos socios de fuera de la UE no están sujetos a la legislación de la UE y no quieren navegar por ella. GOPA aborda esta cuestión mediante un planteamiento doble:

• Cumplimiento interno: GOPA está diseñando sus políticas, procesos y herramientas para que sean compatibles con la Ley de IA de la UE y los requisitos del GDPR.
• Adaptación externa: GOPA traduce estos principios en salvaguardas localmente relevantes, para que los socios se beneficien de una gobernanza sólida sin burocracia innecesaria.

El resultado: GOPA hace el trabajo normativo una vez; los socios se centran en resolver problemas.

El AI Studio sirve de infraestructura compartida entre las unidades de negocio de GOPA. Proporciona

• experiencia en ingeniería de datos y aprendizaje automático,
• directrices de seguridad y gobernanza, y
• plantillas normalizadas para la evaluación de riesgos y la documentación.

Las unidades de negocio aportan conocimientos sectoriales: cómo los operadores de red gestionan el equilibrio de la carga, qué pasos son importantes en los procedimientos judiciales, cómo los sistemas de protección social determinan la elegibilidad, cómo los asesores agrícolas llegan a las comunidades remotas, cómo las estrategias de comunicación alcanzan e involucran a diversas audiencias.

Cuando surge una aplicación de IA, el estudio y el equipo sectorial se plantean tres preguntas:

1. ¿Es la IA la herramienta adecuada? ¿Podría un análisis más sencillo o un rediseño de los procesos lograr el mismo resultado?
2. ¿Qué cambia para las personas y las instituciones? ¿Quién utiliza la herramienta? ¿Quién sigue siendo responsable de las decisiones?
3. ¿Qué significa "responsable" en este caso? ¿Qué normas se aplican: las de la UE, las locales o ambas?

Este planteamiento mantiene la innovación anclada en la realidad operativa.

1. Responsabilidad humana por diseño

La IA apoya las decisiones; no conlleva responsabilidad. GOPA aplica tres reglas:

• Los componentes de IA señalan, sugieren o priorizan; no deciden de forma autónoma en contextos delicados.
• Las funciones son explícitas: qué pasos se automatizan, cuáles siguen siendo humanos, dónde es posible la escalada.
• Las acciones significativas asistidas por IA pueden rastrearse mediante registros y documentación.

Ejemplo: integridad de la contratación pública

GOPA lleva más de dos décadas apoyando la reforma de la contratación pública en el Sudeste Asiático, África y los Balcanes. En un sistema de contratación pública asistido por IA, los algoritmos pueden detectar patrones inusuales en miles de licitaciones: anomalías en los precios, agrupaciones temporales, concentración de proveedores. Según el enfoque de GOPA, se trata de alertas para los auditores, no de sanciones automatizadas. Expertos humanos revisan el contexto, aplican la legislación nacional y deciden el seguimiento.

Para los donantes de la UE, esto se ajusta a los requisitos de alto riesgo de la Ley de IA. Para las autoridades locales, ofrece una salvaguardia práctica: La IA hace que el trabajo de auditoría sea más específico sin sustituir el juicio jurídico.

2. Respeto de los datos y la privacidad

Los datos suelen ser el elemento más sensible de cualquier proyecto de IA. GOPA utiliza salvaguardias a nivel del GDPR como referencia de calidad a la hora de diseñar soluciones de IA y las adapta a los marcos locales:

• recopilar únicamente los datos que realmente se necesitan (minimización de datos)
• indicar claramente para qué fines se utilizan los datos (limitación de la finalidad),
• mantener la seguridad y el control de acceso a los datos personales y sensibles, y
• eliminar o anonimizar los datos que ya no sean necesarios (limitación del almacenamiento).

El papel de GOPA es traducir los principios de privacidad en opciones concretas de diseño, por lo que los socios no necesitan convertirse en expertos en legislación de datos de la UE.

Ejemplo: asesoramiento agrícola

Una herramienta digital de asesoramiento a los agricultores puede necesitar información sobre ubicación, cultivos y tamaño de la explotación, pero no nombres ni direcciones precisas. El planteamiento de GOPA: procesar los datos en dispositivos o servidores locales siempre que sea posible, seudonimizar los datos que deban transmitirse, aplicar normas claras de conservación para que los historiales detallados no se conserven más tiempo del necesario.

3. Equidad y contexto local

Los modelos de IA pueden comportarse de forma diferente según el idioma, la región o el grupo demográfico. El compromiso de GOPA no es prometer una neutralidad perfecta, sino hacer que los sesgos sean visibles, manejables y reducibles.

En la práctica:

• probar las herramientas en distintos grupos de usuarios e idiomas cuando los datos lo permitan,
• comprobar no sólo el rendimiento técnico, sino también el tono, la integridad y la coherencia, y
• documentar las limitaciones conocidas en términos comprensibles para los responsables no técnicos.

Ejemplo: servicios multilingües al ciudadano

Al probar un chatbot multilingüe de atención al ciudadano, GOPA puede descubrir que las respuestas en una lengua muy hablada son más detalladas que las de una lengua local. Según el planteamiento de GOPA, esto desencadena una acción correctiva: ajuste de los datos de formación, uso de modelos lingüísticos especializados o creación de mecanismos compensatorios, como la escalada fácil a agentes humanos. Se trata tanto del acceso equitativo a la información y la comunicación como del rendimiento técnico.

4. Tecnología ligera y sostenible

La IA no es automáticamente la mejor opción ni la más sostenible. Los grandes modelos y las arquitecturas complejas pueden ser caros, difíciles de mantener y consumir mucha energía.

GOPA se compromete a

• empezar con la solución más sencilla que resuelva el problema de forma fiable,
• elegir modelos e infraestructuras que los socios locales puedan explotar de forma realista, y
• tener en cuenta las implicaciones energéticas y de costes al comparar las opciones técnicas.

A veces la respuesta correcta no es "más IA", sino un proceso más claro, un modelo más pequeño o un sistema de información convencional. Esto es especialmente importante cuando los presupuestos y la capacidad técnica son limitados.

La estructura de GOPA hace posible este enfoque. El AI Studio trabaja con equipos que llevan años operando sobre el terreno y aportan un profundo conocimiento de las instituciones, los sectores y el público de los países socios.

Sobre esta base, los equipos de GOPA están explorando y diseñando aplicaciones de IA en cinco áreas:

• Energía e infraestructuras: Previsión de la producción renovable, optimización de la red y mantenimiento predictivo.
• Gobernanza y finanzas públicas: Análisis de datos sobre contratación pública, apoyo a la redacción legislativa, servicios de información al ciudadano.
• Agricultura y medio ambiente: Integración de datos de satélite para la resistencia climática, mejora del sistema de asesoramiento
• Educación y desarrollo social: Herramientas lingüísticas, adecuación de competencias, seguimiento y evaluación basados en datos
• Comunicación y participación de las partes interesadas: Adaptación de contenidos multilingües, síntesis de informes complejos para distintos públicos, síntesis de los resultados de las consultas para orientar la comunicación de los programas.

Cada aplicación pondrá a prueba y perfeccionará el enfoque de gobernanza, generando lecciones para los diferentes contextos nacionales a medida que los conceptos avanzan hacia la aplicación. Cuando los donantes y socios preguntan cómo gestiona GOPA los riesgos de la IA, la respuesta no es un marco genérico, sino una conversación basada en instituciones, procesos y contextos jurídicos específicos.

GOPA no trata la gobernanza de la IA como una limitación a la innovación. Es la condición para sostenida innovación en entornos complejos.

Los clientes – ministerios gubernamentales, instituciones de la UE, organizaciones internacionales, bancos de desarrollo, operadores privados – no deberían tener que elegir entre ambiciosas aplicaciones de IA y obligaciones de rendición de cuentas. Basándose en normas como la Ley de IA de la UE y el GDPR, y adaptándolas a las realidades locales, GOPA pretende ofrecer ambas cosas: IA que ofrece resultados dentro de salvaguardas exigentes.

El AI Studio está empezando a concretar esto a través de evaluaciones de preparación, marcos de gobernanza y proyectos piloto en sectores específicos. El enfoque seguirá evolucionando a medida que se desarrolle la normativa y la práctica genere nuevas lecciones, pero la dirección está clara.

El objetivo es utilizar la IA allí donde realmente ayude a las instituciones y comunidades, de forma que GOPA y sus socios puedan respaldarla.