Guide sur les responsabilités ministérielles en matière d’IA

Fonctions des dirigeants principaux des données et des dirigeants principaux de l’information des ministères

Pour une mise en œuvre réussie de l’IA, il faut une approche multidisciplinaire qui combine les technologies, les données, les politiques et l’expertise en la matière. En raison de leur rôle dans l’analyse des données et la science des données, dont l’IA, les dirigeantes principales et dirigeants principaux des données (DPD) des ministères devraient jouer un rôle de premier plan dans l’adoption de l’IA et dans la gouvernance et les politiques ministérielles en matière d’IA.

Selon la Directive sur les services et le numérique, les DPI sont responsables de la gestion stratégique des technologies de l’information (TI), de l’information et des données. Le présent guide ne modifie en rien cet instrument de politique et ne la remplace pas, mais il renforce l’importance des DPD des ministères et de leur participation au déploiement responsable de l’IA. S’il n’y a pas de DPD au sein du ministère, le présent guide s’applique à la personne chargée de la gestion de la gouvernance et de l’analyse des données ou de l’adaptation au numérique du ministère.

Les ministères devraient s’efforcer d’élaborer leur propre stratégie en matière d’IA afin d’orienter leurs efforts en matière d’adoption et de gestion de l’IA. Ces stratégies doivent s’aligner sur l’orientation du GC et décrire une vision pour transformer les ministères en ministères axés sur l’IA, au sein desquels le personnel dispose des moyens nécessaires pour tirer parti de l’IA de manière responsable pour obtenir des informations, accroître l’efficacité opérationnelle et améliorer les programmes et les services.

Possibilités opérationnelles et rendement des investissements

Avant de mettre en place des solutions d’IA, les ministères devraient s’assurer que l’IA est le bon outil pour répondre à leurs besoins. Les DPD des ministères peuvent aider les spécialistes en matière de politiques, de programmes et de prestation de services à trouver des possibilités de tirer parti de l’IA en tant que technologie appropriée pour répondre aux besoins opérationnels et à s’assurer que toutes les conditions préalables à la réussite peuvent être remplies.

Les possibilités propices à l’adoption de l’IA doivent :

• apporter clairement une valeur opérationnelle ajoutée, tout en améliorant l’efficacité, l’efficience et (ou) la productivité du ministère;
• être réalisables;
• être évaluées pour en déterminer le degré d’évolutivité.

Le rendement des solutions d’IA mises en œuvre devrait être mesuré tout au long de leur cycle de vie.

Maturité

Les ministères qui envisagent l’adoption de l’IA se situeront à différents niveaux de maturité en matière de données, de technologie et de politique. Avant de se lancer dans un projet, les ministères qui envisagent des projets d’IA devraient examiner leur structure de gouvernance des données en place et leurs ressources de données, et consulter le ou la DPD de leur ministère au sujet de la maturité de leurs données.

Les ressources de données pertinentes devront être bien organisées et de bonne qualité pour être utilisés avec des solutions d’IA. Le cas échéant, les outils d’IA peuvent soutenir de manière responsable la maturité des données en générant des données synthétiques pour enrichir les jeux de données, tout en protégeant la vie privée et la diversité sans compromettre l’information sensible. Ils peuvent également améliorer la qualité des données grâce à :

• des processus de nettoyage automatisés;
• la détection d’anomalies en dehors des fourchettes acceptables;
• la détection et la correction des erreurs pour préserver l’intégrité des données.

De plus, les informations produites par l’IA peuvent faciliter une meilleure prise de décision, permettant ainsi aux ministères de faire une meilleure utilisation de leurs ressources de données.

Lorsque le degré de maturité des données n’est pas assez élevé pour l’IA, les ministères devraient envisager d’utiliser des outils moins exigeants en données, comme l’automatisation des procédés robotisés, jusqu’à ce que les conditions requises pour l’IA soient réunies.

Gouvernance et gestion des risques

Une IA mal régie peut amplifier les risques pour l’équité, la vie privée, la sécurité et la conformité juridique, ce qui peut entraîner des résultats biaisés et nuire à la réputation.

Avant d’adopter l’IA, les ministères devraient prendre connaissance de la Directive sur la prise de décisions automatisée et du Guide sur l’utilisation de l’intelligence artificielle générative afin de comprendre les risques auxquels ils s’exposent et d’assurer l’utilisation responsable des solutions d’IA. De plus, ils doivent examiner les politiques sur la protection de la vie privée et la sécurité, en plus de consulter leur DPD ainsi que les équipes chargées de la protection de la vie privée, de la sécurité, des questions de droit, de l’éthique des données et de l’équité pour déterminer les évaluations et mesures d’atténuation qui s’imposent.

Les facteurs à prendre en compte et le degré de consultation requis varieront selon l’outil d’IA ou le cas d’utilisation. De manière générale, un projet à haut risque et à fort impact, comme la modélisation prédictive qui comprend l’utilisation de renseignements personnels, devra faire l’objet d’une consultation approfondie tout au long du cycle de vie du projet auprès du ou de la DPD du ministère et des équipes chargées de la protection de la vie privée et de la sécurité.

Les ministères devraient mettre en place de solides processus de suivi, d’évaluation et de surveillance pour promouvoir les cas d’utilisation prometteurs de l’IA et optimiser les avantages de celle-ci dans l’ensemble des politiques et services.

Les ministères devraient s’engager en faveur d’un développement responsable et éthique de l’IA, qui tient compte de la diversité des expériences et des besoins de leur clientèle, des parties concernées et de leur personnel. L’adoption d’une approche centrée sur l’humain pour élaborer des initiatives liées à l’IA :

• favorise l’équité, l’inclusion et la transparence;
• aide à s’assurer que les populations défavorisées ne sont pas touchées négativement.

Une solide gouvernance de l’IA intègre des garde-fous qui garantissent que les décisions relevant de l’IA prennent en compte les éléments essentiels, notamment les droits de la personne, la vie privée, l’éthique, la sécurité et l’utilisation de données fiables, tout en s’alignant sur les priorités ministérielles.

Capacité

Les ministères devront prendre les mesures nécessaires pour attirer, perfectionner, maintenir en poste ou recycler le personnel possédant des compétences particulières pour réussir l’adoption de l’IA. Bien que les compétences requises varient selon que l’IA est développée en interne ou confiée à des fournisseurs externes, elles peuvent comprendre :

• des compétences techniques comme celles liées à la programmation, la modélisation, la gestion des données, la science des données et l’analyse;
• des compétences non techniques complémentaires comme celles liées à la prestation de services, la conception de projet, la gestion de projet, l’éthique et l’approvisionnement.

Pour réussir, les ministères ne devraient pas investir dans la technologie s’ils ne disposent pas de la capacité nécessaire pour comprendre, élaborer et gérer le projet. D’ici là, les ministères devraient donner la priorité au renforcement des capacités et à l’amélioration des compétences du personnel, tout en utilisant des outils gratuits et peu coûteux, comme les outils d’IA générative en ligne, pour expérimenter selon une approche fondée sur les risques.

Dans un premier temps, les ministères devraient consulter la Stratégie d’hébergement d’applications 2024 du GC pour soutenir ces efforts. L’École de la fonction publique du Canada, les ministères et des tiers fournisseurs de services offrent également des cours, des communautés de pratique et des événements sur l’IA qui peuvent contribuer à améliorer les connaissances en matière d’IA.

Il est également important de tenir compte de la capacité du ministère à intégrer des solutions d’IA dans l’ensemble de son architecture de TI intégrée. Les ministères devraient s’aligner sur le Cadre de l’architecture intégrée du gouvernement du Canada afin de s’assurer que leurs initiatives numériques sont compatibles avec les architectures intégrées dans les domaines opérationnels, de l’information, des applications, de la technologie et de la sécurité.

L’IA ne devrait pas être considéré comme un moyen de remplacer le personnel. Les ministères devraient plutôt évaluer les outils et les solutions d’IA en fonction de leur potentiel à permettre au personnel, aux ministères et à la population canadienne d’en faire plus de façon plus rapide et plus efficace, et à libérer le personnel pour qu’il se consacre à des tâches stimulantes, complexes et créatives dans lesquelles les êtres humains excellent. Au fil du temps, certaines de ces tâches répétitives seront remplacées par un travail de plus grande valeur, ce qui nécessitera des changements dans les modèles opérationnels du GC et dans le mode de fonctionnement de son personnel.

Infrastructure

Des problèmes comme les systèmes vieillissants et la dépendance vis-à-vis de fournisseurs peuvent entraver l’intégration de l’IA en limitant l’interopérabilité des systèmes, l’accès aux données ou l’apport de modifications. Les ministères dont l’infrastructure est vieillissante devront déterminer si les outils d’IA peuvent être intégrés aux systèmes existants sans coûts excessifs, sans solutions de contournement ou sans déstabilisation des systèmes. Si l’intégration s’avère trop coûteuse ou trop complexe, les ministères peuvent envisager des solutions de type logiciel-service (SaaS), qui nécessitent une intégration minimale aux systèmes jusqu’à la modernisation de leur infrastructure, mais ils doivent s’assurer que celles-ci répondent aux exigences en matière de sécurité, de protection de la vie privée et de souveraineté des données.