L'IA responsable dans la coopération internationale : L'approche de la GOPA à l'échelle du groupe

Un partenaire gouvernemental s'interroge : l'IA peut-elle réduire le temps de réponse à une demande d'un citoyen de plusieurs semaines à quelques heures ? Un ministère de l'énergie veut savoir si l'apprentissage automatique peut assurer la stabilité du réseau à mesure que les énergies renouvelables se développent. Un service de vulgarisation agricole doit atteindre deux fois plus d'agriculteurs sans doubler son personnel.

Ces questions ne sont pas hypothétiques. Elles nous parviennent régulièrement de nos partenaires d'Afrique, d'Asie, des Balkans et d'Amérique latine. Chacune d'entre elles s'accompagne d'une deuxième question implicite : pouvons-nous le faire de manière responsable ?

La GOPA souhaite que la réponse à ces deux questions soit positive, mais seulement dans des conditions spécifiques. L'IA doit être intégrée dans les institutions, et pas seulement démontrée dans des projets pilotes. Les solutions doivent fonctionner avec des contraintes réelles : connectivité, diversité des langues, équipes techniques limitées, systèmes existants. Et l'expérimentation ne doit pas créer de dettes techniques, juridiques ou éthiques cachées.

C'est pourquoi la GOPA a créé l'AI Studio en 2023 : un centre à l'échelle du groupe pour identifier les domaines où l'IA apporte une véritable valeur ajoutée et pour s'assurer que les nouvelles applications sont développées dans le respect de normes de gouvernance exigeantes. Le cadre décrit dans cet article est en cours de déploiement dans les projets de la GOPA et continuera d'évoluer au fur et à mesure que la réglementation et les pratiques se développeront.

Les travaux de la GOPA sur l'IA font référence à quatre niveaux de réglementation :

1. Loi européenne sur l'IA - classification des risques, transparence et exigences de conformité
2. GDPR - protection des données dès la conception et par défaut
3. Principes de l'OCDE en matière d'IA - responsabilité, transparence, sécurité, surveillance humaine
4. Législation des pays partenaires - protection des données locales, réglementation sectorielle, mandats institutionnels.

Ces cadres fournissent un langage commun aux donateurs de l'UE et aux organisations internationales. Ils protègent également les solutions contre le durcissement de la réglementation.

Cependant, de nombreux partenaires en dehors de l'UE ne sont pas liés par la législation européenne et ne souhaitent pas s'y conformer. La GOPA s'attaque à ce problème en adoptant une approche à deux niveaux :

• La conformité interne : La GOPA conçoit ses politiques, processus et outils de manière à ce qu'ils soient compatibles avec la loi européenne sur l'IA et les exigences du GDPR.
• Adaptation externe : La GOPA traduit ces principes en garanties pertinentes au niveau local, de sorte que les partenaires bénéficient d'une gouvernance solide sans bureaucratie inutile.

Le résultat : La GOPA fait le travail réglementaire une seule fois ; les partenaires se concentrent sur la résolution des problèmes.

Le studio d'IA sert d'infrastructure partagée entre les unités commerciales de la GOPA. Il fournit :

• une expertise en matière d'ingénierie des données et d'apprentissage automatique
• des lignes directrices en matière de sécurité et de gouvernance
• des modèles standardisés pour l'évaluation des risques et la documentation.

Les unités opérationnelles apportent leurs connaissances sectorielles : comment les opérateurs de réseaux électriques gèrent l'équilibrage des charges, quelles sont les étapes importantes dans les procédures judiciaires, comment les systèmes de protection sociale déterminent l'éligibilité, comment les conseillers agricoles atteignent les communautés éloignées, comment les stratégies de communication atteignent et engagent divers publics.

Lorsqu'une application d'IA émerge, le Studio et l'équipe sectorielle se posent trois questions :

1. L'IA est-elle le bon outil ? Des analyses plus simples ou une refonte des processus permettraient-elles d'obtenir le même résultat ?
2. Qu'est-ce qui change pour les personnes et les institutions ? Qui utilise l'outil ? Qui reste responsable des décisions ?
3. Qu'entend-on par "responsable" ? Quelles sont les normes applicables - européennes, locales ou les deux ?

Cette approche permet d'ancrer l'innovation dans la réalité opérationnelle.

1. La responsabilité humaine dès la conception

L'IA aide à prendre des décisions ; elle n'est pas responsable. La GOPA applique trois règles :

• Les composants de l'IA signalent, suggèrent ou établissent des priorités - ils ne décident pas de manière autonome dans des contextes sensibles.
• Les rôles sont explicites : quelles sont les étapes automatisées, quelles sont celles qui restent humaines, où une escalade est possible.
• Les actions significatives assistées par l'IA sont traçables grâce aux journaux et à la documentation.

Exemple : intégrité des marchés publics

La GOPA soutient la réforme des marchés publics en Asie du Sud-Est, en Afrique et dans les Balkans depuis plus de vingt ans. Dans un système de passation de marchés soutenu par l'IA, les algorithmes peuvent repérer des schémas inhabituels dans des milliers d'appels d'offres - anomalies de prix, grappes de dates, concentration de fournisseurs. Selon l'approche de la GOPA, il s'agit d'alertes pour les auditeurs et non de sanctions automatisées. Des experts humains examinent le contexte, appliquent la législation nationale et décident du suivi.

Pour les donateurs de l'UE, cette approche s'aligne sur les exigences de la loi sur l'IA en matière de risques élevés. Pour les autorités locales, il s'agit d'une garantie pratique : L'IA permet de mieux cibler le travail d'audit sans pour autant remplacer le jugement juridique.

2. Respect des données et de la vie privée

Les données sont souvent l'élément le plus sensible de tout projet d'IA. La GOPA utilise les garanties du GDPR comme référence de qualité lors de la conception de solutions d'IA et les adapte aux cadres locaux :

• ne collecter que les données réellement nécessaires (minimisation des données),
• indiquer clairement à quelles fins les données sont utilisées (limitation de la finalité),
• sécuriser les données personnelles et sensibles et en contrôler l'accès, et
• supprimer ou anonymiser les données qui ne sont plus nécessaires (limitation du stockage).

Le rôle de la GOPA est de traduire les principes de protection de la vie privée en choix de conception concrets, de sorte que les partenaires n'ont pas besoin de devenir des experts en matière de législation européenne sur les données.

Exemple : conseil agricole

Un outil numérique de conseil aux agriculteurs peut avoir besoin d'informations sur l'emplacement, les cultures et la taille de l'exploitation, mais pas de noms ni d'adresses précises. L'approche de la GOPA : traiter les données sur des appareils ou des serveurs locaux dans la mesure du possible, pseudonymiser les données qui doivent être transmises, appliquer des règles de conservation claires afin que les historiques détaillés ne soient pas conservés plus longtemps que nécessaire.

3. Équité et contexte local

Les modèles d'IA peuvent se comporter différemment selon les langues, les régions ou les groupes démographiques. L'engagement de la GOPA n'est pas de promettre une neutralité parfaite, mais de rendre les préjugés visibles, gérables et réductibles.

En pratique :

• tester les outils sur différents groupes d'utilisateurs et différentes langues lorsque les données le permettent,
• vérifier non seulement les performances techniques, mais aussi le ton, l'exhaustivité et la cohérence, et
• documenter les limites connues en termes compréhensibles pour les décideurs non techniques.

Exemple : services multilingues aux citoyens

Lors du test d'un chatbot multilingue de service aux citoyens, la GOPA peut constater que les réponses dans une langue largement répandue sont plus détaillées que celles dans une langue locale. Selon l'approche de la GOPA, cela déclenche des mesures correctives : ajustement des données de formation, utilisation de modèles linguistiques spécialisés ou mise en place de mécanismes compensatoires tels qu'une escalade facile vers des agents humains. Il s'agit autant d'un accès équitable à l'information et à la communication que de performances techniques.

4. Technologie allégée et durable

L'IA n'est pas automatiquement l'option la meilleure ou la plus durable. Les grands modèles et les architectures complexes peuvent être coûteux, difficiles à entretenir et gourmands en énergie.

La GOPA s'engage à

• commencer par la solution la plus simple qui résout le problème de manière fiable,
• choisir des modèles et des infrastructures que les partenaires locaux peuvent exploiter de manière réaliste, et
• prendre en compte les implications en termes d'énergie et de coûts lors de la comparaison des options techniques.

Parfois, la bonne réponse n'est pas "plus d'IA", mais un processus plus clair, un modèle plus petit ou un système d'information conventionnel. Cela est particulièrement important lorsque les budgets et les capacités techniques sont limités.

La structure de la GOPA rend cette approche possible. L'AI Studio travaille avec des équipes qui travaillent sur le terrain depuis des années et qui ont une connaissance approfondie des institutions, des secteurs et des publics dans les pays partenaires.

Sur cette base, les équipes de la GOPA explorent et conçoivent des applications d'IA dans cinq domaines :

• L'énergie et les infrastructures : Prévision de la production d'énergie renouvelable, optimisation du réseau, maintenance prédictive.
• Gouvernance et finances publiques : Analyse des données relatives aux marchés publics, aide à la rédaction législative, services d'information aux citoyens
• Agriculture et environnement : Intégration de données satellitaires pour la résilience climatique, amélioration des systèmes de conseil
• Éducation et développement social : Outils linguistiques, adéquation des compétences, suivi et évaluation fondés sur des données
• Communication et engagement des parties prenantes : Adaptation du contenu multilingue, résumé de rapports complexes pour différents publics, synthèse du retour d'information des consultations pour informer la communication du programme.

Chaque application permettra de tester et d'affiner l'approche de la gouvernance, en tirant des enseignements pour les différents contextes nationaux à mesure que les concepts passent à la mise en œuvre. Lorsque les donateurs et les partenaires demandent comment la GOPA gère les risques liés à l'IA, la réponse n'est pas un cadre générique mais une conversation ancrée dans des institutions, des processus et des contextes juridiques spécifiques.

La GOPA ne considère pas la gouvernance de l'IA comme une contrainte pour l'innovation. Elle est la condition d'une innovation durable dans des environnements complexes.

Les clients - ministères, institutions européennes, organisations internationales, banques de développement, opérateurs privés - ne devraient pas avoir à choisir entre des applications d'IA ambitieuses et des obligations de responsabilité. En s'appuyant sur des normes telles que la loi européenne sur l'IA et le GDPR, et en les adaptant aux réalités locales, la GOPA vise à offrir les deux : Une IA qui donne des résultats dans le cadre de garanties exigeantes.

L'AI Studio commence à concrétiser cet objectif par des évaluations de l'état de préparation, des cadres de gouvernance et des projets pilotes sectoriels. L'approche continuera d'évoluer au fur et à mesure que la réglementation se développe et que la pratique génère de nouveaux enseignements, mais la direction est claire.

L'objectif est d'utiliser l'IA là où elle aide réellement les institutions et les communautés, d'une manière que la GOPA et ses partenaires peuvent soutenir.