Guide sur l’utilisation de l’intelligence artificielle agentive

Exemple : planification d’une réunion en utilisant une IA de plus en plus agentive

Niveau 1 – Assistance : à l’aide d’une IA qui agit plutôt comme une aide, le logiciel suggère des créneaux horaires disponibles pour une réunion, mais la personne doit choisir celui qui lui convient et envoyer les invitations. Cette fonction est souvent offerte dans les outils de calendrier existants.

Niveau 2 – Semi-autonome : au niveau suivant, le système d’IA est plus performant. Il propose un créneau horaire pour la réunion et rédige une invitation qui doit être approuvée.

Niveau 3 – Haute autonomie : un système d’IA planifie la réunion en fonction des autorisations déléguées et d’une instruction générale (« Planifie une réunion avec Marc, Lisa et Darren la semaine prochaine »). Il consigne ses opérations et avise la personne.

Niveau 4 – Autonomie adaptative : le système d’IA surveille les changements dans la disponibilité des personnes participant à la réunion, propose ou fixe un nouveau créneau horaire selon les contraintes définies et signale les exceptions.

La progression d’un outil d’assistance à un agent d’IA proactif et autonome illustre bien l’efficacité de l’IA agentive. Elle ne se contente pas de vous aider à accomplir des tâches, elle s’en charge pour vous, conformément aux autorisations déléguées que vous avez configurées, en s’adaptant aux changements de circonstances. Cette hausse des capacités offre plus de possibilités, mais comporte également plus de risques.

Possibilités

L’IA agentive peut créer de la valeur en réduisant le temps consacré au travail de routine, en prenant en charge des opérations de plus grande envergure et en aidant les équipes à adopter des approches cohérentes. Par exemple, un système d’AI agentive peut accomplir les tâches suivantes :

• rassembler des ressources publiques et des directives internes pour élaborer des projets de politiques;
• compiler des données provenant de sources approuvées et rédiger un texte explicatif visant à appuyer une analyse existante;
• exécuter des flux de travail plus complexes, tels que l’examen des demandes entrantes, la vérification de l’exhaustivité selon les règles d’admissibilité et l’extraction de fichiers pertinents à partir de systèmes internes approuvés;
• résumer ou signaler les renseignements contenus dans les fichiers à l’intention des personnes chargées de la prise de décision ou formuler des recommandations, par exemple en transmettant automatiquement les dossiers ambigus ou incertains pour examen immédiat et complet par des personnes chargées de la prise de décision.

Ces utilisations permettent de gagner du temps pour de tâches à plus grande valeur ajoutée, améliorer la capacité de réponse, réduire le fardeau administratif et aider le personnel à faire preuve de plus de discernement, à améliorer la qualité de leur travail et à mieux cerner les besoins de la clientèle.

Les systèmes d’AI agentive peuvent également faciliter la continuité du travail et la gestion des connaissances en transformant les tâches répétitives en listes de contrôle et en modèles, en trouvant des précédents pertinents et en consignant la justification des recommandations afin de garantir la traçabilité.

Dans l’ensemble, l’IA agentive est généralement plus utile lorsqu’il s’agit de tâches répétitives, chronophages et vérifiables, dont la supervision et la responsabilité des décisions prises incombent toujours aux humains.

Risques

Les principaux risques de l’IA agentive ne concernent pas seulement la qualité des résultats, qui pourrait être compromise par des biais et des erreurs, ou comporter des contenus préjudiciables. Ces risques concernent aussi les opérations non autorisées, les autorisations ambiguës, la responsabilité et la traçabilité. Les systèmes plus autonomes peuvent outrepasser leurs limites, tourner en boucle ou effectuer des opérations non souhaitées si les limites ne sont pas clairement définies ou si le système tombe sur du contenu non fiable. Il peut s’agir d’une information factuelle incorrecte ou des attaques par infiltration de requêtes.

Les risques augmentent aussi lorsqu’un agent se voit accorder un accès étendu aux systèmes du gouvernement du Canada ou à des renseignements sensibles sans configuration appropriée, lui permettant ainsi d’extraire ou de divulguer des renseignements qu’il ne devrait pas, ou d’effectuer des opérations que la personne n’avait pas l’intention de faire.

Dans des contextes où les conséquences sont importantes, comme l’octroi de subventions, l’approvisionnement, les activités de réglementation ou les décisions administratives touchant les droits, les finances ou l’accès aux services, d’autres risques s’ajoutent. Il pourrait notamment s’agir d’une atteinte possible à l’équité, d’un manque de transparence et de la difficulté à expliquer la façon dont les résultats ont été produits et utilisés. Ces conséquences pourraient entraîner des risques structurels plus importants, comme un risque juridique accru, la non-conformité à la loi ou la prise de mesures contraires à l’éthique. Ces dernières pourraient comprendre des atteintes importantes à la vie privée, comme l’accès non autorisé à des renseignements personnels ou sensibles ou la communication de tels renseignements.

Enfin, la pression liée à la charge de travail peut mener, au fil du temps, à une dépendance excessive. Le personnel pourrait alors commencer à considérer les recommandations ou les classements obtenus comme des décisions réelles. Ce risque est présent, que les résultats de l’IA soient fiables ou non.

Le transfert continu de décisions aux agents d’IA peut entraîner une atrophie des connaissances et des compétences et un affaiblissement du jugement du personnel. Ce dernier devient moins habile dans les tâches essentielles et met plus de temps à remarquer quand quelque chose ne va pas. Ces risques peuvent toucher la qualité du service, la protection de la vie privée et la sécurité, la capacité de défendre juridiquement les décisions et la confiance du public.

Le maintien des compétences appropriées chez les personnes qui utilisent et déploient l’IA agentive constitue une condition préalable à une surveillance humaine efficace. Par conséquent, les fonctionnaires doivent avoir reçu une formation appropriée et bien comprendre l’utilisation responsable de l’IA agentive, y compris les limites quant aux situations dans lesquelles elle peut être utilisée et à la manière de le faire conformément aux pouvoirs existants. Cela contribue à réduire au minimum les risques pour la population, le personnel et le gouvernement du Canada, à atténuer la probabilité d’une utilisation non conforme et à favoriser l’adoption appropriée de l’IA agentive tout en évitant une utilisation abusive ou insuffisante de celle-ci.

1) Autonomie limitée

2) Récupérabilité

Avant de commencer : accordez une attention particulière à la conception et établissez des limites sécuritaires^{Note de bas de page 2}

a) Commencez par un cas d’utilisation ciblé et bien défini

• Définissez clairement l’objectif de l’agent d’IA. Quels sont les objectifs précis de votre initiative? Le recours à un agent d’IA ou un système d’IA agentive constitue-t-il la meilleure façon de résoudre le problème?
• Le gouvernement du Canada dispose-t-il déjà d’un agent ou d’un système d’IA agentive similaire qui pourrait être utilisé ou reproduit?
• Le cas échéant, utilisez des approches communes à l’échelle organisationnelle pour réduire le double emploi, assurer l’interopérabilité et favoriser une adoption sécuritaire et évolutive dans l’ensemble du gouvernement du Canada.
• Avant d’envisager des cas d’utilisation à forte incidence susceptibles de nécessiter l’automatisation, examinez les outils d’aide à la décision et les flux de travail internes à faible risque.
• Schématisez le processus en détail et consultez les parties prenantes et les partenaires concernés pour comprendre les restrictions juridiques et stratégiques relatives aux problèmes prévus et les réponses possibles aux problèmes imprévus (comme les spécialistes de programmes, les services juridiques, les services de protection de la vie privée, les services de sécurité, les services de GI-TI).
• Pensez à la traçabilité en vous assurant de pouvoir expliquer la manière dont le système d’IA agentive prend des décisions et produit des résultats.
• Déterminez si votre cas d’utilisation est visé par la Directive sur la prise de décisions automatisée.

b) Concevez en fonction d’une autonomie limitée

• Limitez et recensez les données auxquelles l’agent peut avoir accès, les outils qu’il peut utiliser et les opérations qu’il peut exécuter. Il s’agit notamment de mettre en place des limites en matière de données et de débit afin d’empêcher toute utilisation abusive par les agents d’IA.
• Les droits d’accès accordés aux agents d’IA doivent s’appuyer sur une analyse des risques (quels préjudices pourraient résulter de l’octroi de ces accès?).
• Utilisez le mode « lecture seule par défaut » (afficher et rédiger une ébauche) dans la mesure du possible. Ajoutez la capacité de modifier ou d’exécuter des opérations (envoyer, mettre à jour, publier) au besoin et seulement pour cette étape précise.
• Établissez des identifiants d’agent clairs qui vous permettront de reconnaître facilement chaque agent d’IA, de le gérer et de suivre ses opérations.

• Veillez à ce qu’il soit facile de distinguer les cas où l’agent donne une suggestion de ceux où il exécute une opération.

c) Intégrez des points de contrôle effectués par des spécialistes (intervention humaine)

• Lorsque l’opération exécutée par un agent d’IA modifie l’état d’un système (envoi, publication, autorisation, dépense, mise à jour de dossiers), intégrez un processus de vérification/confirmation à la conception, sauf si les effets attendus sont manifestement minimes et que l’opération est facilement réversible.
• Vous devez surveiller la sécurité et l’exactitude d’un agent d’IA pour déterminer s’il est fiable, en mettant en place des procédures de vérification/confirmation et des alertes en cas de fonctionnement inattendu. Si le rendement demeure constant au fil du temps, le risque résiduel peut être plus faible, mais il nécessite tout de même une surveillance continue (et une supervision de cette surveillance), surtout lorsque les conditions changent.
• Expliquez clairement la façon dont la surveillance et la responsabilité humaines sont intégrées dans le processus de l’agent et comment les problèmes sont signalés à l’échelon supérieur et à qui.
• Élaborez un plan précisant le niveau de supervision requis et les ressources qui y seront consacrées. Ce plan doit prendre en compte la fatigue liée à l’intervention humaine et proposer des mécanismes de supervision évolutifs qui restent efficaces à mesure que l’utilisation de l’IA agentive progresse.

d) Privilégiez la réversibilité dans la conception

• Veillez à ce que les opérations soient réversibles dans la mesure du possible (par exemple, gestion des versions, options d’annulation, demandes de validation avant l’exécution d’opérations importantes). Si les opérations ne sont pas réversibles, évaluez l’acceptabilité des effets des opérations irréversibles.

e) Planifiez la façon dont vous effectuerez les essais

• Effectuez des essais en utilisant des cas limites réalistes et les pires scénarios possibles (y compris du contenu non fiable et clairement malveillant) afin d’évaluer les problèmes, les vulnérabilités et la nature des agents d’IA.
• Commencez vos essais dans un environnement contrôlé et élargissez-les progressivement pour mieux comprendre le fonctionnement des agents.

Pendant l’utilisation : travaillez de manière sécuritaire, misez sur la surveillance et évitez la « dérive de l’automatisation »

f) Facilitez la surveillance

• Veillez à ce qu’un rôle clairement défini soit attribué à la personne responsable des résultats et de la surveillance de l’agent d’IA, à ce qu’une procédure de renvoi aux niveaux supérieurs soit documentée et à ce qu’un remplaçant soit désigné en cas d’absence ou de mutation.
• La responsabilité incombe toujours en fin de compte à la personne responsable désignée, même lorsque l’agent fonctionne de manière autonome dans le cadre des autorisations approuvées.
• Mettez en place un processus permettant de passer en revue et de mettre à jour la liste des responsables lorsque les rôles changent, de même qu’une démarche claire pour suspendre ou désactiver la fonction de l’agent d’IA lorsque la responsabilité n’est pas clairement définie.
• Veillez à ce que la procédure de départ prévoie la suspension, à la réaffectation ou à la désactivation des agents d’IA utilisés par une personne responsable lorsqu’elle quitte son poste, son ministère ou le gouvernement du Canada, à moins que la responsabilité ne soit explicitement transférée à une autre personne désignée (cela s’applique aussi bien aux agents d’IA au niveau du programme qu’aux agents d’IA personnels).

g) Consignez les opérations et décisions clés

• Conservez les journaux des outils utilisés, des opérations exécutées, des autorisations accordées et des données d’entrée et de sortie clé. Pour les demandes d’outils, consignez le nom de l’outil, l’heure, le résultat et le type de paramètres transmis.
• Les valeurs brutes des paramètres ne devraient être consignées que lorsque cela est nécessaire pour la surveillance, la sécurité ou l’intégrité du programme, et elles doivent respecter les contrôles ministériels en matière de protection de la vie privée et de sécurité.
• Assurez-vous que les journaux sont faciles à comprendre pour les audits et les enquêtes en cas d’incident.
• Assurez-vous que les journaux sont traités de manière appropriée lorsqu’ils sont sensibles.
• Assurez-vous de la conformité aux exigences liées à la gestion de l’information, à la tenue de documents et aux protocoles de conservation en cas de litige.

h) Surveillez la dérive de l’automatisation

• Surveillez le comportement humain pour détecter toute dépendance excessive et actualisez les attentes et la formation au besoin. Il peut arriver que les équipes en viennent à se fier aux évaluations ou aux résumés des agents IA comme s’il s’agissait de décisions réelles, même lorsque ces derniers sont conçus pour l’aide à la décision. De plus, les systèmes d’IA agentive peuvent également dériver au-delà de leur champ d’application prévu et doivent donc être encadrés et surveillés.
• Surveillez les dérives dans la qualité. Les résultats et le raisonnement peuvent progressivement devenir moins exacts, complets ou cohérents au fil du temps à mesure que les données, les outils ou les configurations changent. Les équipes devraient effectuer des vérifications ponctuelles et comparer les résultats aux attentes pour déceler rapidement tout écart.
• Demandez occasionnellement à des spécialistes d’effectuer manuellement les tâches de l’IA agentive afin de comparer leur rendement à celui de l’agent, et de déterminer s’il est nécessaire de former à nouveau le personnel ou l’agent IA, en fonction des résultats.

i) Traitez le contenu non fiable avec prudence

• Ne permettez pas aux agents d’IA de suivre automatiquement les directives intégrées, car le contenu non fiable peut contenir des instructions cachées (« infiltration de requêtes ») visant à modifier son fonctionnement. Traitez les textes externes ou fournis par les personnes qui l’utilisent comme des données à analyser, et non comme des instructions à suivre.

j) Soyez prêts à interrompre l’agent ou le système

• Maintenez un mécanisme de suspension et de désactivation (« interrupteur d’urgence ») indépendant de l’agent d’IA ou du système d’IA agentive ainsi qu’un plan de récupération approprié pour les opérations imprévues.

Après le déploiement : tirez des leçons, améliorez les agents et mettez-les hors service de manière responsable

k) Évaluez le rendement et les incidences

• Examiner les schémas d’erreurs, les preuves de partialité, les taux de renvoi aux niveaux supérieurs, les commentaires des utilisatrices et utilisateurs et si les résultats diffèrent selon les groupes ou les contextes. Déterminez si les objectifs ont été atteints de manière efficace et appropriée.
• Prévoyez des vérifications et des évaluations régulières (et des plans d’action connexes) pour l’utilisation continue de l’agent d’IA.

l) Réévaluez en cas de changement

• Réévaluez les risques et les contrôles si les outils, les sources de données, les autorisations ou le champ d’application de l’agent d’IA changent. De même, réévaluez les risques et les contrôles si le cadre juridique ou stratégique pertinent de l’agent d’IA change.

m) Mettez les agents hors service de manière sécuritaire

• Si un agent d’IA ou un système d’IA agentive n’est plus nécessaire, supprimez-en l’accès, archivez les documents requis de manière appropriée et consignez les leçons apprises. La communication des leçons apprises et des pratiques exemplaires aide à renforcer la capacité et la compréhension de l’IA au gouvernement du Canada.

Étude de cas 1 : l’agent de service « serviable » qui outrepasse ses fonctions

Scénario d’échec : un agent de triage des demandes de service rédige des réponses et achemine des cas. Pendant une période d’afflux, il commence à clore des billets après avoir rédigé des réponses, et ce, même si sa conception ne prévoyait que la rédaction de réponses. Dans le système de gestion des billets, il arrive que certaines opérations relatives à la rédaction de réponses ou au transfert des dossiers aient pour effet de marquer automatiquement un billet comme « résolu ou fermé » à moins d’une indication contraire explicite. Le service fourni à la clientèle est alors incomplet et le personnel doit rouvrir le dossier.

Utilisation responsable : avant de lancer l’agent de triage de demandes de service, les équipes prévoient la réalisation de mesures rigoureuses de protection, de surveillance et de contrôles par le personnel. L’agent fonctionne en mode « ébauche seulement », sans capacité d’envoyer des réponses définitives ou de changer le statut des billets. Seule une courte liste d’opérations est autorisée. Si l’agent d’IA tente un changement de statut semblable à une fermeture ou déclenche un flux de travail à cette fin, il se met automatiquement en pause et alerte l’équipe. Le personnel dispose d’un bouton d’arrêt en un clic et d’une procédure simple et testée au préalable pour rouvrir les billets touchés.

Lorsque l’augmentation soudaine du nombre de demandes de service a amené l’agent d’IA à déclencher la fermeture de certains dossiers après la rédaction des réponses, les mesures préventives mises en place ont fonctionné comme prévu. Le problème a été immédiatement détecté, signalé et rapidement corrigé. Toutes les opérations ont été consignées dans un journal d’activités. Le personnel a rouvert les dossiers touchés, assurant ainsi la prestation d’un service complet à la clientèle. L’incident a permis de valider l’approche de conception proactive et de recueillir des renseignements utiles qui ont encore renforcé la fiabilité du système quant à la gestion des périodes de pointe à venir.

Étude de cas 2 : le système est induit en erreur par du contenu non fiable

Scénario d’échec : un agent de surveillance analyse des documents et suit les instructions intégrées dans le contenu qu’il lit, ce qui l’amène à communiquer des renseignements ou à exécuter des opérations qu’il ne devrait pas. Des renseignements sensibles sont communiqués.

Utilisation responsable : lors de la conception de l’agent d’IA, le personnel a pris conscience du risque que représente le contenu non fiable et des problèmes potentiels qu’il peut causer. Avant le déploiement, il a analysé les faiblesses potentielles de l’agent d’IA au moyen de requêtes conçues pour l’induire en erreur afin de s’assurer qu’il fonctionnait de manière appropriée. Le personnel a conçu l’agent d’IA pour qu’il traite tout ce qu’il lit comme non fiable et pour qu’il ignore toute instruction contenue dans les documents. De plus, l’agent d’IA ne peut exécuter qu’une courte liste d’opérations autorisée (par exemple, ajouter une étiquette, créer une alerte, acheminer pour examen). Il dispose d’un accès en lecture seule et la fonction de communication à l’externe est désactivée par défaut. De plus, à mesure que l’agent traite l’information, il épure les données saisies (texte brut seulement, aucun lien, script ou macro), et limite son analyse aux sources approuvées.

En cas d’anomalie, l’exécution est mise en pause et examinée avant que quoi que ce soit ne soit communiqué. Le personnel est prêt à utiliser un simple interrupteur d’arrêt pour arrêter l’agent immédiatement, si nécessaire. Une conception réfléchie a permis à l’agent d’accomplir ses tâches sans que des opérations risquées puissent être provoquées par des manœuvres malveillantes.

Instruments de politique connexes

• Politique sur les services et le numérique
• Directive sur la prise de décisions automatisée
• Guide sur l’utilisation de l’intelligence artificielle générative

Autres références

• Stratégie en matière d’intelligence artificielle pour la fonction publique fédérale 2025-2027
• Guide sur les responsabilités ministérielles en matière d’intelligence artificielle
• Les 10 mesures de sécurité en matière d’intelligence artificielle : Introduction – ITSAP.10.049
• Executive summary: Artificial intelligence and competitive dynamics in downstream markets (anglais seulement)
• The agentic AI landscape and its conceptual foundations (anglais seulement)
• Artificial Intelligence Risk Management Framework (AI RMF 1.0) [anglais seulement]
• Artificial Intelligence Playbook for the UK Government (anglais seulement)
• Article 9: Risk Management System | EU Artificial Intelligence Act (anglais seulement)
• LLM Prompt Injection Prevention (anglais seulement)
• How Microsoft defends against indirect prompt injection attacks (anglais seulement)
• Principes pour des technologies de l’intelligence artificielle (IA) générative responsables, dignes de confiance et respectueuses de la vie privée