Résumé de la réunion du Groupe consultatif sur la transparence de la sécurité nationale (GCT-SN) – Le 10 mars 2023

Par vidéoconférence

Membres présents :

• Lesley Soper (coprésidente)
• Jeffrey Roy
• Stéphane Leman-Langlois
• Mary Francoli (coprésidente)
• Lorelei Williams
• Rizwan Mohammad
• Amira Elghawaby

Membres absents :

• Daniel Jean
• Chantal Bernier
• John Ariyo
• Jillian Stirk

Thème de la réunion :

• « L'utilisation d'outils numériques pour la protection de la sécurité nationale »

Invités et conférenciers :

• Wendy Cukier – Fondatrice et directrice des études, Diversity Institute, directrice des études, Women Entrepreneurship Knowledge Hub, et responsable de la recherche, Centre des Compétences futures
• Sarah Shoker – chercheure scientifique à OpenAI

Membres du milieu de la sécurité nationale présents (en tant qu'observateurs) :

Agence des services frontaliers du Canada (ASFC), Centre de la sécurité des télécommunications (CST), Centre d'analyse des opérations et déclarations financières du Canada (CANAFE), Affaires mondiales Canada (AMC), Sécurité publique Canada (SP), Gendarmerie royale du Canada (GRC), Transports Canada (TC), Service canadien du renseignement de sécurité (SCRS), Secrétariat du Conseil du Trésor du Canada (SCT), Forces armées canadiennes (FAC), ministère de la Défense nationale (MDN).

Ordre du jour :

• Ouverture de la réunion et présentations
• Discussion avec les conférencières invitées : L'utilisation d'outils numériques pour la protection de la sécurité nationale
• Échanges privés du GCT – SN

Résumé de la réunion :

La vingt-quatrième réunion virtuelle du GCT – SN a eu lieu le 10 mars 2023. Elle avait pour thème « L'utilisation d'outils numériques pour la protection de la sécurité nationale ». L'objectif principal était d'examiner des mesures pouvant être prises pour veiller à ce que le milieu de la sécurité nationale améliore ses connaissances des outils numériques en cette ère de changements technologiques rapides, ainsi que sa capacité de les utiliser. Les conférencières invitées ont également abordé la façon dont la méthode de l'ACS+ peut réduire les conséquences néfastes des nouvelles technologies sur les différentes collectivités.

Principaux points à retenir de la discussion :

• Au début de la discussion, les conférencières invitées parlent des conséquences sur le développement organisationnel que peuvent avoir les lacunes en matière de diversité au sein du milieu de la sécurité nationale. Les institutions responsables de la SN ont de la difficulté à bien comprendre les défis que représente le rythme des changements technologiques et à y faire face. Cela est particulièrement manifeste dans les processus d'embauche et de recrutement.
• Les conférencières invitées affirment la nécessité d'établir un objectif concret à long terme pour parvenir à combler ces lacunes. Il s'agirait notamment d'établir un lien de confiance avec les collectivités marginalisées, et de réévaluer les exigences du bilinguisme dans le recrutement d'employés issus de groupes en quête d'équité.
• Les membres du GCT – SN mettent en relief la ségrégation professionnelle présente au sein des systèmes bureaucratiques, en particulier à la haute direction. Ce problème pourrait être résolu en modifiant les initiatives d'embauche de nouveaux membres et en veillant à ce que la fonction publique soit représentative de la société canadienne.
• Les membres du GCT – SN soulèvent également la question de la diversité religieuse au sein des entreprises, notamment la manière dont les Canadiens musulmans subissent les conséquences de la technologie et de son utilisation accrue. Certains membres constatent que lorsque la question de la sécurité nationale est abordée, il n'est pas rare de voir des formes d'islamophobie se manifester.
• Les conférencières invitées proposent deux solutions pour s'attaquer au problème :
• Adopter une approche qui tienne compte des traumatismes lorsqu'on travaille avec des groupes qui ont déjà fait l'objet de discrimination intergénérationnelle;
• S'assurer que les programmes sont conçus selon une approche inclusive dans chacun des aspects de leur structure. Cela devrait comprendre des éléments tels que la langue utilisée dans la description de travail, le traitement des candidats au cours des entrevues et l'interprétation des comportements.
• La discussion porte ensuite sur l'examen des risques associés aux outils d'AI qu'utilisent les organismes de sécurité nationale. Les conférencières invitées soulignent que l'intégration des outils d'IA dans les applications et les outils d'apprentissage des langues a tendance à favoriser les préjugés. Les facteurs tels que l'emplacement géographique, la taille de la collectivité et les dialectes représentent des obstacles directs au rendement de l'IA.
• La confiance et la dépendance envers les outils d'IA, ainsi que la mésinformation, la désinformation et la malinformation, suscitent également des préoccupations. Comme il n'existe aucun code régissant l'utilisation des outils d'IA, celle-ci peut représenter des risques pour les responsables du gouvernement à la recherche de façon d'atténuer les menaces à la cohésion sociale.
• À la question concernant les méthodes que pourraient utiliser les administrations internationales pour surveiller les algorithmes et se prémunir contre les préjugés associés à l'IA, les conférencières invitées proposent de recourir à des organismes de vérification des algorithmes et d'examen externe. Grâce à ces méthodes, les vérificateurs externes peuvent accéder aux systèmes d'IA pour suivre le niveau de téléchargement et de téléversement de documents. Cela aiderait à définir les lacunes ou les préjugés au sein du système, et ainsi permettre la prise de mesures correctives.
• À la fin de la discussion, les membres du GCT – SN réitèrent l'importance de la responsabilisation dans la correction des lacunes en matière de diversité au sein des processus d'emploi bureaucratiques et dans l'utilisation des outils d'IA. Ils insistent sur le besoin de prendre de telles mesures non seulement en améliorant les systèmes internes d'examen, mais également au moyen de consultations élargies auprès des intervenants externes.