Une IA responsable dans le cadre de la coopération internationale : l'approche à l'échelle du groupe adoptée par GOPA

Un partenaire gouvernemental pose la question suivante : l’IA peut-elle réduire le délai de réponse à une demande de citoyen de plusieurs semaines à quelques heures ? Un ministère de l’Énergie souhaite savoir si l’apprentissage automatique peut garantir la stabilité du réseau électrique à mesure que les énergies renouvelables se développent. Un service de vulgarisation agricole doit toucher deux fois plus d’agriculteurs sans doubler ses effectifs.

Ce ne sont pas là des questions hypothétiques. Elles nous parviennent régulièrement de la part de partenaires en Afrique, en Asie, dans les Balkans et en Amérique latine. Chacune d’entre elles comporte une deuxième question implicite : pouvons-nous y parvenir de manière responsable ?

GOPA souhaite que la réponse à ces deux questions soit « oui » – mais uniquement sous certaines conditions. L’IA doit être intégrée au sein des institutions, et non pas simplement testée dans le cadre de projets pilotes. Les solutions doivent fonctionner dans le respect des contraintes réelles : connectivité, diversité linguistique, équipes techniques limitées, systèmes hérités. Et l’expérimentation ne doit pas engendrer de dette technique, juridique ou éthique cachée.

C’est pourquoi GOPA a créé l’AI Studio en 2023 : une plateforme à l’échelle du groupe visant à identifier les domaines dans lesquels l’IA apporte une véritable valeur ajoutée et à garantir que les nouvelles applications soient développées selon des normes de gouvernance rigoureuses. Le cadre décrit dans cet article est en cours de déploiement dans l’ensemble des projets GOPA et continuera d’évoluer au fur et à mesure que la réglementation et les pratiques se développent.

Les travaux de la GOPA en matière d'IA s'appuient sur quatre niveaux de réglementation :

1. Loi européenne sur l’IA – classification des risques, transparence et exigences de conformité
2. RGPD – protection des données dès la conception et par défaut
3. Principes de l’OCDE en matière d’IA – responsabilité, transparence, sécurité, contrôle humain
4. Législation des pays partenaires – protection locale des données, réglementation sectorielle, mandats institutionnels

Ces cadres fournissent un langage commun aux bailleurs de fonds de l’UE et aux organisations internationales. Ils garantissent également la pérennité des solutions face au durcissement de la réglementation.

Cependant, de nombreux partenaires hors de l’UE ne sont pas liés par le droit européen et ne souhaitent pas s’y conformer. Le GOPA répond à cette situation par une approche à deux volets :

• Conformité interne : GOPA conçoit ses politiques, ses processus et ses outils de manière à ce qu’ils soient compatibles avec les exigences de la loi européenne sur l’IA et du RGPD.
• Adaptation externe : GOPA traduit ces principes en garanties adaptées au contexte local, afin que les partenaires bénéficient d’une gouvernance solide sans bureaucratie inutile.

Résultat : GOPA se charge une seule fois des aspects réglementaires ; les partenaires se concentrent sur la résolution des problèmes.

L'AI Studio fait office d'infrastructure partagée entre les différentes unités opérationnelles de GOPA. Il offre :

• une expertise en ingénierie des données et en apprentissage automatique,
• des directives en matière de sécurité et de gouvernance, ainsi que
• des modèles standardisés pour l’évaluation des risques et la documentation.

Les unités opérationnelles apportent leur connaissance sectorielle : comment les gestionnaires de réseau gèrent l’équilibrage de la charge, quelles étapes sont cruciales dans les procédures judiciaires, comment les systèmes de protection sociale déterminent l’éligibilité, comment les conseillers agricoles atteignent les communautés isolées, comment les stratégies de communication touchent et mobilisent des publics divers.

Lorsqu’une application d’IA voit le jour, le Studio et l’équipe sectorielle se penchent sur trois questions :

1. L’IA est-elle l’outil approprié ? Des analyses plus simples ou une refonte des processus permettraient-elles d’obtenir le même résultat ?
2. Quels changements cela implique-t-il pour les personnes et les institutions ? Qui utilise l’outil ? Qui reste responsable des décisions ?
3. Que signifie « responsable » dans ce contexte ? Quelles normes s’appliquent : celles de l’UE, les normes locales, ou les deux ?

Cette approche permet de maintenir l’innovation ancrée dans la réalité opérationnelle.

1. La responsabilité humaine par conception

L’IA aide à la prise de décision ; elle n’assume aucune responsabilité. GOPA applique trois règles :

• Les composants d’IA signalent, suggèrent ou hiérarchisent – ils ne prennent pas de décisions de manière autonome dans des contextes sensibles.
• Les rôles sont clairement définis : quelles étapes sont automatisées, lesquelles restent du ressort de l’humain, et dans quels cas une escalade est possible.
• Les actions importantes assistées par l’IA sont traçables grâce à des journaux et à la documentation.

Exemple : l’intégrité des marchés publics

GOPA soutient la réforme des marchés publics en Asie du Sud-Est, en Afrique et dans les Balkans depuis plus de deux décennies. Dans un système de passation de marchés assisté par l’IA, les algorithmes peuvent signaler des schémas inhabituels parmi des milliers d’appels d’offres : anomalies de prix, regroupements temporels, concentration des fournisseurs. Dans l’approche de GOPA, il s’agit d’alertes destinées aux auditeurs, et non de sanctions automatisées. Des experts humains examinent le contexte, appliquent la législation nationale et décident des mesures à prendre.

Pour les bailleurs de fonds de l’UE, cela s’aligne sur les exigences relatives aux risques élevés de la loi sur l’IA. Pour les autorités locales, cela offre une garantie pratique : l’IA rend le travail d’audit plus ciblé sans se substituer au jugement juridique.

2. Respect des données et de la vie privée

Les données constituent souvent l’élément le plus sensible de tout projet d’IA. GOPA utilise les garanties prévues par le RGPD comme référence de qualité lors de la conception de solutions d’IA et les adapte aux cadres réglementaires locaux :

• ne collecter que les données réellement nécessaires (minimisation des données),
• indiquer clairement à quelles fins les données sont utilisées (limitation de la finalité),
• assurer la sécurité des données à caractère personnel et sensibles et en contrôler l’accès, et
• supprimer ou anonymiser les données qui ne sont plus nécessaires (limitation de la durée de conservation).

Le rôle de GOPA est de traduire les principes de protection de la vie privée en choix de conception concrets, afin que ses partenaires n’aient pas besoin de devenir des experts en droit européen des données.

Exemple : conseil agricole

Un outil numérique de conseil destiné aux agriculteurs peut nécessiter des informations sur la localisation, les cultures et la taille de l’exploitation, mais pas les noms ni les adresses précises. L’approche de GOPA : traiter les données sur des appareils ou des serveurs locaux dans la mesure du possible, pseudonymiser les données qui doivent être transmises, appliquer des règles de conservation claires afin que les historiques détaillés ne soient pas conservés plus longtemps que nécessaire.

3. Équité et contexte local

Les modèles d’IA peuvent se comporter différemment selon les langues, les régions ou les groupes démographiques. L’engagement de GOPA n’est pas de promettre une neutralité parfaite, mais de rendre les biais visibles, gérables et réductibles.

Concrètement :

• tester les outils sur différents groupes d’utilisateurs et dans différentes langues lorsque les données le permettent,
• vérifier non seulement les performances techniques, mais aussi le ton, l’exhaustivité et la cohérence, et
• documenter les limites connues dans des termes compréhensibles par des décideurs non techniciens.

Exemple : services aux citoyens multilingues

Lors du test d’un chatbot multilingue dédié aux services aux citoyens, GOPA pourrait constater que les réponses dans une langue largement parlée sont plus détaillées que celles dans une langue locale. Dans le cadre de l’approche de GOPA, cela déclenche des mesures correctives : ajustement des données d’entraînement, utilisation de modèles linguistiques spécialisés ou mise en place de mécanismes de compensation tels qu’un transfert aisé vers des agents humains. Il s’agit autant d’un accès équitable à l’information et à la communication que de performances techniques.

4. Une technologie allégée et durable

L'IA n'est pas automatiquement la meilleure option ni la plus durable. Les grands modèles et les architectures complexes peuvent être coûteux, difficiles à entretenir et très gourmands en énergie.

GOPA s'engage à :

• commencer par la solution la plus simple qui résout le problème de manière fiable,
• choisir des modèles et une infrastructure que les partenaires locaux peuvent réellement exploiter, et
• prendre en compte les implications en termes d’énergie et de coûts lors de la comparaison des options techniques.

Parfois, la bonne réponse n’est pas « plus d’IA », mais un processus plus clair, un modèle plus petit ou un système d’information classique. Cela est particulièrement important lorsque les budgets et les capacités techniques sont limités.

GOPA's structure makes this approach possible. The AI Studio works with teams that have operated on the ground for years and bring deep knowledge of institutions, sectors and audiences in partner countries.

On this basis, GOPA teams are exploring and designing AI applications across five areas: 

• Energy and infrastructure: Renewable production forecasting, grid optimisation, predictive maintenance
• Governance and public finance: Procurement data analysis, legislative drafting support, citizen information services
• Agriculture and environment: Satellite data integration for climate resilience, advisory system enhancement
• Education and social development: Language tools, skills matching, data-driven monitoring and evaluation
• Communications and stakeholder engagement: Multilingual content adaptation, summarising complex reports for different audiences, synthesis of feedback from consultations to inform programme communication 

Each application will test and refine the governance approach, generating lessons for different country contexts as concepts move into implementation. When donors and partners ask how GOPA manages AI risks, the answer is not a generic framework but a conversation grounded in specific institutions, processes and legal contexts. 

GOPA ne considère pas la gouvernance de l’IA comme une contrainte à l’innovation. Elle constitue au contraire la condition préalable à une innovation durable dans des environnements complexes.

Les clients – ministères, institutions de l’UE, organisations internationales, banques de développement, opérateurs privés – ne devraient pas avoir à choisir entre des applications ambitieuses de l’IA et des obligations de responsabilité. En s’appuyant sur des normes telles que la loi européenne sur l’IA et le RGPD, et en les adaptant aux réalités locales, GOPA vise à offrir les deux : une IA qui produit des résultats tout en respectant des garanties rigoureuses.

L’AI Studio commence à concrétiser cette approche par le biais d’évaluations de l’état de préparation, de cadres de gouvernance et de projets pilotes spécifiques à chaque secteur. Cette approche continuera d’évoluer à mesure que la réglementation se développe et que la pratique apporte de nouveaux enseignements – mais la direction à suivre est claire.

L’objectif est d’utiliser l’IA là où elle aide véritablement les institutions et les communautés, selon des modalités que GOPA et ses partenaires peuvent soutenir.