Un socio gubernamental pregunta: ¿puede la IA reducir de semanas a horas el tiempo necesario para responder a la solicitud de un ciudadano? Un ministerio de Energía quiere saber si el aprendizaje automático puede mantener estable la red a medida que crecen las renovables. Un servicio de extensión agraria necesita llegar al doble de agricultores sin duplicar su plantilla.
No son preguntas hipotéticas. Nos llegan con regularidad de socios de África, Asia, los Balcanes y América Latina. Cada una lleva implícita una segunda pregunta: ¿podemos hacerlo de forma responsable?
GOPA quiere que la respuesta sea afirmativa en ambos casos, pero solo bajo condiciones concretas. La IA debe estar integrada en las instituciones, no únicamente demostrada en proyectos piloto. Las soluciones tienen que funcionar con las restricciones reales: conectividad, diversidad lingüística, equipos técnicos limitados, sistemas heredados. Y la experimentación no debe generar deuda técnica, jurídica o ética oculta.
Por eso GOPA creó el AI Studio en 2023: un centro para todo el grupo encargado de identificar dónde aporta la IA un valor real y de garantizar que las nuevas aplicaciones se desarrollen con estándares de gobernanza exigentes. El marco que describe este artículo se está desplegando en los proyectos de GOPA y seguirá evolucionando conforme avancen la normativa y la práctica.
Las normas como brújula
El trabajo de GOPA en materia de IA se apoya en cuatro niveles normativos:
- Reglamento Europeo de IA (AI Act): clasificación de riesgos y requisitos de transparencia y conformidad
- RGPD: protección de datos desde el diseño y por defecto
- Principios de la OCDE sobre IA: rendición de cuentas, transparencia, seguridad y supervisión humana
- Derecho de los países socios: protección de datos local, regulación sectorial, mandatos institucionales
Estos marcos ofrecen un lenguaje común a los donantes europeos y a las organizaciones internacionales. Además, protegen las soluciones frente a un endurecimiento futuro de la normativa.
Ahora bien, muchos socios de fuera de la UE no están sujetos al derecho europeo ni desean lidiar con él. GOPA responde a ello con un enfoque de doble vía:
- Cumplimiento interno: GOPA diseña sus políticas, procesos y herramientas para que sean compatibles con los requisitos del AI Act y del RGPD.
- Adaptación externa: GOPA traduce esos principios en salvaguardas pertinentes en el contexto local, de modo que los socios se beneficien de una gobernanza sólida sin burocracia innecesaria.
El resultado: GOPA hace el trabajo normativo una sola vez y los socios se concentran en resolver problemas.
Cómo funciona el AI Studio
El AI Studio actúa como infraestructura compartida entre las unidades de negocio de GOPA. Aporta:
- experiencia en ingeniería de datos y aprendizaje automático,
- directrices de seguridad y gobernanza, y
- plantillas normalizadas de evaluación de riesgos y documentación.
Las unidades de negocio aportan el conocimiento sectorial: cómo gestionan los operadores de red el equilibrio de carga, qué pasos importan en los procedimientos judiciales, cómo determinan la elegibilidad los sistemas de protección social, cómo llegan los asesores agrarios a las comunidades remotas, cómo alcanzan e implican las estrategias de comunicación a públicos diversos.
Cuando surge una posible aplicación de IA, el Studio y el equipo sectorial trabajan sobre tres preguntas:
- ¿Es la IA la herramienta adecuada? ¿Podrían un análisis más sencillo o un rediseño del proceso lograr el mismo resultado?
- ¿Qué cambia para las personas y las instituciones? ¿Quién usa la herramienta? ¿Quién sigue siendo responsable de las decisiones?
- ¿Qué significa aquí «responsable»? ¿Qué normas se aplican: europeas, locales o ambas?
Este enfoque mantiene la innovación anclada en la realidad operativa.
Cuatro compromisos de diseño
Estos compromisos están llamados a definir cómo diseña y despliega GOPA la IA en todos los sectores y territorios.
- Responsabilidad humana desde el diseño
La IA respalda las decisiones; no asume la responsabilidad. GOPA aplica tres reglas:
- Los componentes de IA señalan, sugieren o priorizan; no deciden de forma autónoma en contextos sensibles.
- Los papeles son explícitos: qué pasos se automatizan, cuáles siguen en manos humanas y dónde cabe una escalada.
- Las actuaciones relevantes asistidas por IA son trazables mediante registros y documentación.
Ejemplo: integridad en la contratación pública
GOPA acompaña la reforma de la contratación pública en el Sudeste Asiático, África y los Balcanes desde hace más de dos décadas. En un sistema de contratación asistido por IA, los algoritmos pueden señalar patrones inusuales en miles de licitaciones: anomalías de precio, concentraciones temporales, concentración de proveedores. Con el enfoque de GOPA, se trata de alertas para los auditores, no de sanciones automáticas. Son expertos humanos quienes examinan el contexto, aplican la legislación nacional y deciden el seguimiento.
Para los donantes europeos, esto encaja con los requisitos del AI Act para los sistemas de alto riesgo. Para las autoridades locales, supone una salvaguarda práctica: la IA orienta mejor el trabajo de auditoría sin sustituir el criterio jurídico.
- Respeto por los datos y la privacidad
Los datos suelen ser el elemento más sensible de cualquier proyecto de IA. GOPA toma las garantías del RGPD como referencia de calidad al diseñar soluciones de IA y las adapta a los marcos locales:
- recoger solo los datos realmente necesarios (minimización de datos),
- indicar con claridad para qué fines se utilizan los datos (limitación de la finalidad),
- mantener los datos personales y sensibles protegidos y con acceso controlado, y
- suprimir o anonimizar los datos que ya no se necesiten (limitación del plazo de conservación).
El papel de GOPA consiste en traducir los principios de privacidad en decisiones concretas de diseño, para que sus socios no tengan que convertirse en especialistas en derecho europeo de datos.
Ejemplo: asesoramiento agrario
Una herramienta digital de asesoramiento para agricultores puede necesitar información sobre ubicación, cultivos y tamaño de la explotación, pero no nombres ni direcciones exactas. El enfoque de GOPA: procesar los datos en los propios dispositivos o en servidores locales siempre que sea posible, seudonimizar los datos que deban transmitirse y aplicar reglas de conservación claras para que los historiales detallados no se guarden más tiempo del necesario.
- Equidad y contexto local
Los modelos de IA pueden comportarse de forma distinta según la lengua, la región o el grupo de población. GOPA no se compromete a garantizar una neutralidad perfecta, sino a hacer que los sesgos sean visibles, gestionables y reducibles.
En la práctica:
- probar las herramientas con distintos grupos de usuarios y en distintas lenguas siempre que los datos lo permitan,
- comprobar no solo el rendimiento técnico, sino también el tono, la exhaustividad y la coherencia, y
- documentar las limitaciones conocidas en términos comprensibles para responsables sin formación técnica.
Ejemplo: servicios multilingües de atención ciudadana
Al probar un asistente conversacional multilingüe de atención ciudadana, GOPA podría constatar que las respuestas en una lengua muy extendida son más detalladas que las formuladas en una lengua local. Con el enfoque de GOPA, esa constatación activa medidas correctoras: ajustar los datos de entrenamiento, recurrir a modelos lingüísticos especializados o incorporar mecanismos compensatorios, como un traspaso sencillo a un agente humano. Esto tiene tanto que ver con el acceso equitativo a la información y a la comunicación como con el rendimiento técnico.
- Tecnología sobria y sostenible
La IA no es automáticamente la mejor opción ni la más sostenible. Los modelos de gran tamaño y las arquitecturas complejas pueden resultar caros, difíciles de mantener e intensivos en energía.
GOPA se compromete a:
- empezar por la solución más sencilla que resuelva el problema de forma fiable,
- elegir modelos e infraestructuras que los socios locales puedan operar de manera realista, y
- tener en cuenta las implicaciones energéticas y de coste al comparar opciones técnicas.
A veces la respuesta correcta no es «más IA», sino un proceso más claro, un modelo más pequeño o un sistema de información convencional. Esto resulta especialmente importante allí donde los presupuestos y la capacidad técnica son limitados.
Experiencia sectorial y prioridades actuales
La estructura de GOPA hace posible este enfoque. El AI Studio trabaja con equipos que llevan años sobre el terreno y que conocen a fondo las instituciones, los sectores y los públicos de los países socios.
Sobre esa base, los equipos de GOPA exploran y diseñan aplicaciones de IA en cinco ámbitos:
- Energía e infraestructuras: previsión de la producción renovable, optimización de redes, mantenimiento predictivo
- Gobernanza y finanzas públicas: análisis de datos de contratación pública, apoyo a la redacción normativa, servicios de información a la ciudadanía
- Agricultura y medio ambiente: integración de datos satelitales para la resiliencia climática, mejora de los sistemas de asesoramiento
- Educación y desarrollo social: herramientas lingüísticas, emparejamiento entre competencias y puestos, seguimiento y evaluación basados en datos
- Comunicación y diálogo con las partes interesadas: adaptación multilingüe de contenidos, síntesis de informes complejos para distintos públicos, sistematización de las aportaciones de las consultas para orientar la comunicación de los programas
Cada aplicación pondrá a prueba y afinará el enfoque de gobernanza y generará aprendizajes para distintos contextos nacionales a medida que los conceptos pasen a la ejecución. Cuando los donantes y los socios preguntan cómo gestiona GOPA los riesgos de la IA, la respuesta no es un marco genérico, sino una conversación anclada en instituciones, procesos y contextos jurídicos concretos.
Conclusión: ambición con salvaguardas
GOPA no entiende la gobernanza de la IA como un freno a la innovación. Es la condición para innovar de forma sostenida en entornos complejos.
Los clientes, ya sean ministerios, instituciones europeas, organizaciones internacionales, bancos de desarrollo u operadores privados, no deberían tener que elegir entre aplicaciones de IA ambiciosas y sus obligaciones de rendición de cuentas. Apoyándose en normas como el AI Act y el RGPD y adaptándolas a las realidades locales, GOPA aspira a ofrecer ambas cosas: una IA que produce resultados dentro de salvaguardas exigentes.
El AI Studio está empezando a concretar esta apuesta mediante diagnósticos de madurez, marcos de gobernanza y pilotos sectoriales. El enfoque seguirá evolucionando conforme avance la normativa y la práctica genere nuevos aprendizajes, pero la dirección está clara.
El objetivo es usar la IA allí donde ayuda de verdad a las instituciones y a las comunidades, de un modo que GOPA y sus socios puedan defender.