Intelligence artificielle et apprentissage automatique

Ce Ligne directrice aide les autorités contractantes à intégrer les technologies d'intelligence artificielle (IA) et d'apprentissage automatique (AA) à leurs besoins et processus d'approvisionnement. Compte tenu que les solutions d'IA/AA peuvent améliorer un large éventail d'applications, ce document vise à fournir une approche complète et progressive pour aider les autorités contractantes à adapter leurs modèles d'approvisionnement existants et à intégrer les fonctionnalités de l’IA/AA aux solutions qu'elles jugent appropriées.

Artificial Intelligence and Machine Learning

1. Définition et applications des outils d'IA/AA aux LDT

L'intelligence artificielle (IA) et l'apprentissage automatique (AA) peuvent accompagner les villes dans leur processus décisionnel grâce à des outils avancés et des modèles basés sur les données. Ces technologies permettent aux collectivités d'analyser de vastes volumes de données, d'identifier des tendances et d'en tirer des enseignements exploitables, optimisant ainsi les processus de gestion urbaine et favorisant l'innovation. En intégrant l'IA et l'AA aux jumeaux numériques locaux (LDT), les villes peuvent créer des systèmes dynamiques et réactifs qui s'adaptent aux conditions changeantes et favorisent la prise de décision en temps réel.

Les technologies d'IA/AA ont de nombreuses applications dans les initiatives de villes intelligentes, notamment la maintenance prédictive, l'optimisation des transports et la gestion intelligente du trafic, le contrôle de la qualité de l'air et la modélisation prédictive, la gestion des ressources et l'engagement citoyen. Les systèmes basés sur l'IA améliorent l'efficacité opérationnelle en automatisant les tâches routinières et en fournissant des recommandations intelligentes, tandis que les modèles d'apprentissage automatique apprennent et améliorent continuellement leurs performances grâce aux nouvelles données.

Selon la loi européenne sur l'intelligence artificielle, un « système d'IA désigne un système basé sur une machine qui est conçu pour fonctionner selon différents niveaux d'autonomie et capable de s’adapter après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu'il reçoit, comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels. » En d'autres termes, l'IA implique le développement de systèmes capables d'effectuer des tâches qui requièrent généralement l'intelligence humaine, comme le raisonnement, l'apprentissage et la prise de décision. L'IA offre un potentiel de transformation pour les villes, permettant l'automatisation des processus et la prise de décision intelligente dans des domaines tels que la gestion du trafic, la distribution d'énergie et la sécurité publique. Les systèmes d'IA peuvent analyser diverses sources de données, notamment les capteurs IdO et les archives, afin de fournir aux collectivités des informations prédictives et des solutions automatisées adaptées à leurs besoins spécifiques.

Une sous-catégorie de l'IA, l'apprentissage automatique se concentre sur le développement d'algorithmes permettant aux systèmes d'apprendre à partir des données et d'améliorer progressivement leurs performances. Les outils d'apprentissage automatique permettent aux villes d'extraire des modèles et des tendances précieux d'ensembles de données complexes, facilitant ainsi la prise de décision fondée sur les données dans divers domaines. Les modèles d'apprentissage automatique peuvent prédire les schémas de consommation énergétique, identifier les anomalies dans le fonctionnement des infrastructures et optimiser les services publics à partir de données historiques et en temps réel par exemple. En exploitant l'apprentissage automatique, les villes peuvent améliorer l'adaptabilité et l'efficacité de leurs écosystèmes numériques.

2. Comprendre et identifier les objectifs et les outils axés sur l'IA/AA en vue d’un approvisionnement

Pour réussir l'intégration de l'IA et du ML aux plateformes LDT ou aux solutions associées, il est essentiel pour les villes de bien comprendre leurs objectifs en matière d'IA et de ML. Identifier ces objectifs signifie déterminer les besoins et les objectifs spécifiques de la communauté, tels que l'amélioration de l'analyse des données, l'optimisation de la prise de décision ou l'automatisation des flux de travail. Ces objectifs guideront le choix des outils et technologies d'IA et de ML appropriés, en veillant à leur adéquation avec la vision stratégique de la ville.

Voici les étapes clés pour comprendre et identifier les objectifs axés sur l’IA/AA :

Évaluation des capacités actuelles : Évaluer les systèmes et les processus existants afin d'identifier les lacunes où l'IA/AA peut apporter une valeur ajoutée. Déterminer si des capacités d'analyse avancée, de modélisation prédictive ou de traitement du langage naturel sont nécessaires, par exemple.
Définition des cas d’utilisation : Établir des cas d'utilisation spécifiques où l'IA/AA peut répondre aux défis opérationnels ou améliorer la prestation de services. L'optimisation du trafic, l'efficacité énergétique ou l'engagement citoyen via des chatbots figurent parmi les cas d'usage possibles.
Participation des parties prenantes : Collaborer avec les parties prenantes concernées, telles que les scientifiques des données, les équipes informatiques et les décideurs, pour définir les priorités et garantir la cohérence en fonction des besoins de la ville.
Évaluation de la technologie : Identifier les outils, plateformes et algorithmes d'IA/AA les mieux adaptés aux cas d'usage définis, dont l'évaluation de facteurs tels que l'évolutivité, l'interopérabilité et la facilité d'intégration aux systèmes existants.
Fixer des objectifs mesurables : Définir des indicateurs clés de performance (ICP) pour mesurer la réussite de la mise en œuvre de l'IA/AA. L'amélioration de la précision, les économies de coûts ou la satisfaction des utilisateurs figurent parmi les exemples d'ICP.

En suivant ces étapes, les villes peuvent définir efficacement leurs objectifs liés à l’IA/AA et acheter des outils adaptés à leurs besoins.

3. Exigences supplémentaires en matière d'IA/AA à intégrer dans les modèles d'approvisionnement pertinents

L'intégration de composants d'IA/AA dans les services applicatifs exige des villes qu'elles prennent en compte des exigences supplémentaires. Ces exigences garantissent l'intégration efficace des technologies d'IA/AA dans les solutions et la fourniture des avantages escomptés. L'adaptation des modèles pour ces marchés publics nécessite l'harmonisation des accords de niveau de service (Service Level Agreements, SLA ), du contexte technique, des exigences fonctionnelles, techniques et juridiques, ainsi que d'autres sections pertinentes des documents d'appel d'offres, afin d'intégrer correctement les capacités uniques de l'IA/AA.

Les villes doivent adapter soigneusement les modèles pour tenir compte de ces aspects, en veillant à ce que les solutions d'IA/AA répondent aux exigences actuelles et restent flexibles pour des améliorations futures. En intégrant ces considérations dans les modèles d'approvisionnement, les villes peuvent favoriser l'adoption réussie des technologies d'IA/AA dans leurs infrastructures numériques. Cependant, les exigences techniques et fonctionnelles suivantes sont destinées à servir de référence aux autorités contractantes. Ces exigences ne sont pas exhaustives et peuvent ne pas répondre pleinement aux besoins ou circonstances spécifiques de chaque contexte d'approvisionnement. Il est conseillé aux autorités contractantes d'examiner attentivement, d'adapter et de personnaliser les exigences fournies afin de s'assurer qu'elles correspondent aux objectifs, aux contraintes et aux priorités opérationnelles de leurs projets spécifiques.

Voici un aperçu des exigences techniques et fonctionnelles suivies par les cadres juridiques.

Cadre technique

3.1 Exigences techniques et fonctionnelles

Exigences de test des modèles et algorithmes d'IA/AA au sein du LDT :

Objectif:

La ville/les utilisateurs de modèles et d’algorithmes d’IA/AA doivent avoir une compréhension claire de l’objectif à atteindre par un modèle d’IA/AA (c’est-à-dire, que la ville désire-t-elle que ce modèle prédise ?).
Les objectifs de la ville/des utilisateurs des modèles et algorithmes d’IA/AA doivent correspondre aux données disponibles pour la formation, la validation et les tests (c’est-à-dire que les données doivent pouvoir prendre en charge les prédictions souhaitées).
Les modèles/algorithmes d’IA/AA doivent être en phase avec les données disponibles et les objectifs de la ville afin de pouvoir fournir des résultats fiables et compréhensibles.

Données:

Les modèles et les algorithmes d'IA/AA doivent toujours utiliser les données locales de la ville correspondante à des fins de formation, de validation et de test, dans la mesure du possible, afin de représenter au mieux la réalité locale que la ville souhaite d’explorer et de formuler des prédictions.
La solution d’IA/AA doit utiliser des données de formation diverses, représentatives du contexte local qu’elle est censée représenter et qui sont régulièrement évaluées pour détecter d’éventuels biais.

Autoapprentissage : Les modèles et algorithmes d’IA/AA doivent être capables d’apprendre et de s’adapter en fonction des entrées de données en temps réel afin de soutenir l’amélioration continue des modèles et des algorithmes.

Surveillance humaine : Le système d'IA doit intégrer des solutions permettant une supervision humaine afin de maintenir l'autonomie humaine et de réduire les impacts potentiellement négatifs (grâce à une combinaison d'approches humaines dans la boucle (HIL), d’approches humaines sur la boucle (HOL), d’approches humaines aux commandes (HIC) ou d'autres approches reconnues et acceptées comme références, par exemple).

Explicabilité :

Dans la mesure du possible, la solution d’IA doit permettre aux utilisateurs de comprendre pourquoi un modèle donné a mené à une sortie ou une décision particulière (et quelle combinaison de facteurs d’entrée a contribué à ce dernier).
Les modèles d'IA/AA doivent être conçus autant que possible avec des contraintes d'interprétabilité (fournir une meilleure compréhension de la manière dont les prédictions sont faites en expliquant clairement comment les variables sont conjointement liées pour former la prédiction final d'un modèle, par exemple).
Les modèles/algorithmes de boîte noire ne doivent pas être prioritaires si des modèles interprétables techniquement équivalents et précis existent pour les mêmes fins.

Traçabilité :

La solution d’IA doit fournir des fonctionnalités de traçabilité afin que les utilisateurs puissent suivre ses prévisions et ses processus autant que possible.
La solution d’IA doit faciliter la traçabilité et l’auditabilité de ses modèles/algorithmes, en aidant les utilisateurs à comprendre les résultats des modèles et comment des modifications peuvent être réalisées (si nécessaire).

Transparence :

Une solution d’IA doit communiquer clairement et proactivement ses capacités et ses limites aux utilisateurs, leur permettant de définir des attentes réalistes quant à son utilisation.
Une solution d’IA/AA doit informer de manière transparente aux utilisateurs qu’ils interagissent avec ou utilisent les résultats d’un système/modèle d’IA.
Les processus et modèles d’IA/AA doivent être rendus transparents et dotés d’une documentation suffisante afin de permettre aux utilisateurs de comprendre quelles données (et comment) sont collectées et traitées par les modèles.

Justice :

Le développement et l'utilisation de modèles/algorithmes d'IA doivent obéir à des principes d'équité (c'est-à-dire que les solutions basées sur l'IA ayant pour objectif de garantir une répartition égale et juste des avantages et des coûts liés à l'objectif des modèles d'IA, et que les groupes et les individus ne subissent pas de préjugés injustes, de discrimination ou de stigmatisation - les systèmes d'IA ne doivent ni causer ni aggraver les dommages).
La solution d'IA doit intégrer des mesures d'équité dans les modèles afin d'évaluer l'impact des prédictions sur différents sous-groupes (l'égalité des chances, l'impact diffus, la parité démographique ou d'autres mesures d'équité reconnues et acceptées comme références, par exemple).
La solution d’IA doit permettre l’application de contraintes afin de minimiser les disparités potentielles dans les résultats entre les groupes démographiques (ou d’autres groupes d’intérêt) pendant la formation et l’application.
Les systèmes/modèles d'IA doivent intégrer des principes de proportionnalité concernant les moyens et les fins entre les intérêts concurrents potentiels liés aux modèles (la collecte de données doit être limitée à ce qui est strictement nécessaire, en respectant les droits et la vie privée des individus, et les approches qui ont le moins d'impact sur les droits fondamentaux et les normes éthiques doivent être prioritaires autant que possible par exemple).

Robustesse :

La solution d’IA/AA doit être capable de gérer des conditions exceptionnelles, telles que des anomalies d’entrée ou des attaques malveillantes potentielles, tout en minimisant le risque de causer des dommages involontaires en raison de ses modèles.
Le système d'IA doit mettre en œuvre des mesures de sécurité robustes pour garantir la sécurité des données, des modèles et de l'infrastructure de support contre d'éventuelles attaques malveillantes (cryptage AES-256, contrôle d'accès basé sur les rôles (RBAC) robuste, utilisation de l'apprentissage fédéré, mécanismes de détection contradictoires ou autres mesures reconnues et acceptées comme références, par exemple).
Les systèmes d'IA doivent inclure des mesures de sécurité capables d’activer des plans de secours en cas de problème ou de dysfonctionnement (passer de modèles statistiques à des modèles basés sur des règles, bloquer les décisions jusqu'à ce qu'une intervention humaine soit effectuée, par exemple).

Performance :

Les modèles d'IA/AA doivent être capables de fournir des mesures de performance robustes afin d'évaluer la capacité des modèles à faire des prédictions ou à classer des données (exactitude, précision, rappel, perte logarithmique, matrice de confusion ou autres reconnus et acceptés comme références selon le type de modèles utilisés, par exemple)
Les modèles d'IA/AA devraient être capables de fournir des niveaux de vraisemblance/confiance dans les cas om lesquels il existe une incertitude liée aux résultats du modèle.

Confidentialité : Les systèmes d'IA doivent mettre en œuvre des solutions entièrement conformes aux politiques et législations applicables tout au long du cycle de vie d'un système (RGPD, loi sur l'IA, règlement ePrivacy de l'UE (en cours de discussion) ou autres politiques et législations applicables).

Veuillez noter que ces exigences peuvent être intégrées à n'importe quel modèle, à l'exception des modèles d'infrastructure réseau et d'appareils IdO, en tenant compte des adaptations requises.

3.2 Mécanismes d'interopérabilité minimale (MIM)

En intégrant des modèles d'approvisionnement pour garantir l'adoption réussie des technologies d'IA/AA dans les infrastructures numériques, les villes doivent également prendre en compte les mécanismes d'interopérabilité minimale (MIM) afin de garantir une interopérabilité suffisante des données, des systèmes et des services, notamment dans les solutions de ville intelligente. Plus précisément, les villes peuvent se référer à MIM5 : une Intelligence artificielle juste et transparente produit par l'OASC (Open And Agile Smart Cities). En raison du cadre de refonte des MIM 2024/25, à l’heure actuelle une transition est en cours vers une approche plus globale, axée sur « l’IA interopérable ». Pour de plus amples informations, vous pouvez consulter le Ligne directrice sur la conformité aux MIM, aux normes, aux caractéristiques et aux certifications.

3.3 Critères d'évaluation et d'attribution

Cette section du Ligne directrice vise à fournir des informations et des options possibles de développement d'appels d'offres, en comblant les lacunes dans les exigences techniques et fonctionnelles spécifiques des solutions d'IA et d’AA.
Par conséquent, pour l'évaluation et l'identification des critères d'attribution, de sélection et de développement, veuillez vous référer aux exigences techniques et fonctionnelles mentionnées ci-dessus dans la section 3.1., comme exigences techniques et fonctionnelles minimales, servant de facto de caractéristiques techniques, à intégrer ensuite au modèle choisi parmi ceux disponibles.
Par ailleurs, si le modèle le plus approprié est choisi parmi les options disponibles, il peut ne pas être nécessaire de fournir d'exigences techniques/fonctionnelles spécifiques. Dans ce cas, des critères discrétionnaires supplémentaires peuvent être intégrés à la section « Critères d'évaluation et d'attribution » de l'offre (« L'offre comprend-elle des solutions d'IA et d'apprentissage automatique pour l'application concernée en complément par exemple ? » – si un soumissionnaire fournit des solutions d'IA et d'apprentissage automatique, une note supplémentaire lui sera attribuée, basée sur l'évaluation de sa proposition effectuée par l'autorité compétente elle-même).

Cadre juridique

Tout en intégrant des modèles d’approvisionnement pour garantir l'adoption réussie des technologies d'IA/AA, les villes doivent également se conformer au cadre juridique de l'UE. Cela signifie se conformer aux lois, réglementations et directives européennes pertinentes afin de garantir l'intégration éthique, transparente et légale de l'IA/AA aux infrastructures numériques.

Les villes et les collectivités peuvent également bénéficier d’une aide supplémentaire en consultant la directive sur le cadre juridique de l’UE relatif aux produits et services numériques pertinents pour les LDT, qui offre un aperçu des exigences de conformité pour les processus d’approvisionnement impliquant des technologies d’IA/AA.

De plus, les villes peuvent se référer à la Clauses contractuelles sur les types d’IA de l’UE , disponibles sur Living-in.EU, afin de garantir la normalisation et l'harmonisation juridique lors de la rédaction des contrats relatifs aux solutions d'IA. Ces ressources fournissent des outils pratiques pour s'y retrouver dans le paysage juridique et favoriser la confiance et la transparence dans le cadre du déploiement de l'IA.