Transparence relativement aux instruments médicaux utilisant l’apprentissage machine : Principes directeurs

Sur cette page

Contexte

En 2021, Santé Canada, la Food and Drug Administration (FDA) des États-Unis et la Medicines and Healthcare products Regulatory Agency (MHRA) du Royaume-Uni ont déterminé ensemble 10 principes directeurs relatifs aux bonnes pratiques d’apprentissage machine (BPAM). Les BPAM soutiennent le développement de technologies d'intelligence artificielle et d'apprentissage machine sécuritaires, efficaces et de grande qualité capables d’apprendre en situations réelles et, dans certains cas, d’améliorer la performance des instruments.

Pour en savoir plus :

Santé Canada, la FDA et la MHRA ont également défini des principes directeurs en matière de transparence relativement aux instruments médicaux utilisant l’apprentissage machine. Ces principes directeurs s’appuient sur ceux liés aux BPAM, en particulier le :

Même si les principes directeurs présentés ici favorisent la transparence relativement aux instruments médicaux utilisant l’apprentissage machine, il convient de considérer la transparence comme une bonne pratique à adopter pour tous les instruments médicaux.

Dans le présent document, le terme « transparence » désigne la mesure dans laquelle les informations appropriées sur un instrument médical utilisant l’apprentissage machine (notamment son utilisation prévue, son développement, ses performances et, lorsqu’elle est disponible, la logique sous-jacente) sont clairement communiquées aux publics concernés. Par « logique », on entend les informations sur la manière dont un résultat a été obtenu ou le fondement d’une décision ou d’une action. La mesure dans laquelle cette logique peut être expliquée d’une manière compréhensible est l’« explicabilité ». La logique et l’explicabilité sont des aspects de la transparence.

Une transparence efficace :

Une autre notion importante liée à la transparence est la « conception centrée sur l’opérateur humain ». Celle-ci est un processus itératif qui a trait à l’ensemble de l’expérience de l’utilisateur et fait intervenir les parties concernées tout au long de la conception et du développement. Cette approche peut être utilisée pour aider à :

Renseignez-vous davantage à propos de la conception centrée sur l’opérateur humain.

Principes directeurs

Les principes directeurs en matière de transparence relativement aux instruments médicaux utilisant l’apprentissage machine sont les suivants :

Qui? : Publics concernés

La transparence est pertinente pour :

Pourquoi? : Motivation

La transparence est essentielle aux soins centrés sur le patient ainsi qu’à l’assurance de l’innocuité et de l’efficacité d’un instrument.

Pour se servir des instruments médicaux utilisant l’apprentissage machine, il faut parfois comprendre des informations complexes et propres au contexte. Des informations transparentes peuvent aider à repérer et à évaluer les risques et les avantages de l’instrument. Elles peuvent aussi aider à en assurer une utilisation sécuritaire et efficace.

Une transparence efficace qui aide les parties à prendre des décisions éclairées peut faciliter la gestion des risques. Par exemple, une utilisation prévue claire aide à comprendre si l’instrument est destiné à informer ou à remplacer le jugement d’un professionnel de la santé.

La transparence permet aux parties de détecter les erreurs ou la baisse des performances et d’enquêter à ce sujet. Elle peut également favoriser l’équité en santé, car connaître le fonctionnement et la mise au point d’un instrument peut aider à déterminer les biais et à évaluer si un système ou un résultat est justifiable.

Le maintien de la transparence au fil du temps peut contribuer à l’entretien d’un instrument et à sa sûreté continue.

La communication transparente et cohérente des informations, notamment des lacunes connues, peut avoir de nombreux avantages. Elle améliore la fluidité et l’efficacité de l’utilisation des instruments médicaux utilisant l’apprentissage machine. Elle peut également renforcer la confiance dans la technologie, de même qu’encourager l’adoption des technologies bénéfiques et en faciliter l’accès.

Quoi? : Informations pertinentes

Le type d’information qu’il convient de communiquer variera parmi la gamme d’instruments médicaux utilisant l’apprentissage machine. Tout dépendra des avantages et des risques de chaque instrument médical utilisant l’apprentissage machine et des besoins des utilisateurs prévus.

Une bonne pratique consiste à fournir des informations qui permettent de mieux comprendre l’instrument et l’usage auquel il est destiné. Une description claire et précise d’un instrument comprend généralement :

Une autre bonne pratique consiste à expliquer comment l’instrument s’intègre dans le flux de travail des soins de santé. Il s’agit entre autres de présenter les données d’entrée et de sortie prévues. Il convient également de décrire les répercussions prévues des résultats sur les décisions ou les actions en matière de soins de santé, ou sur le jugement d’un professionnel de la santé.

Des détails sur les performances, les avantages et les risques de l’instrument peuvent aider à déterminer la meilleure façon de l’utiliser. Des informations sur les activités de gestion des risques tout au long du cycle de vie de l’instrument, comme les stratégies de gestion des biais, peuvent également s’avérer utiles.

Il est pertinent de préciser le fondement des résultats d’un instrument ou de fournir d’autres informations qui expliquent comment l’instrument médical utilisant l’apprentissage machine obtient ses résultats (la « logique » du modèle), si ces informations sont disponibles et faciles à comprendre. L’accès à ces informations permet d’évaluer de manière critique l’instrument et ses résultats lors de la prise de décisions concernant les soins aux patients.

Il convient aussi de fournir de l’information sur le développement du produit et les activités de gestion des risques tout au long du cycle de vie de l’instrument. Des informations pertinentes :

La communication des limitations cliniquement pertinentes, des lacunes dans l’information ou des contre-indications particulières est également une bonne pratique. Parmi ces éléments, on compte :

Il peut également être utile d’indiquer la manière dont la sûreté et l’efficacité de l’instrument sont maintenues tout au long du cycle de vie du produit, par exemple :

Où? : Emplacement des informations

L’interface utilisateur permet d’accéder aux informations relatives à l’instrument. Cette interface comprend tous les éléments de l’instrument avec lesquels l’utilisateur interagit (ceux qu’il voit, entend et touche). Par exemple, l’entraînement, les commandes physiques, les éléments d’affichage, l’emballage, l’étiquetage et les alertes font partie de l’interface utilisateur.

Une bonne pratique consiste à optimiser l’utilisation de l’interface du logiciel afin que les informations qu’elle transmet s’adaptent en fonction de l’utilisateur. L’interface peut permettre de personnaliser l’information, de l’adapter et d’en assurer la réciprocité. Diverses modalités (audio, vidéo, texte à l’écran, alertes, diagrammes, dispositifs de sécurité logicielle, bibliothèques de documents, etc.) peuvent répondre aux besoins de l’utilisateur.

Quand? : Calendrier des communications

Tenir compte des besoins en information à chaque étape du cycle de vie total du produit peut soutenir une transparence réussie. Des informations détaillées sur les instruments peuvent être nécessaires lorsqu’il s’agit de déterminer s’il convient d’acquérir ou de mettre en œuvre un instrument, et s’il convient de l’utiliser et de quelle manière.

Il peut également être utile de fournir des avis en temps opportun lorsque l’instrument est mis à jour ou modifié ou lorsque de nouvelles informations sur l’instrument sont découvertes. On pourra fournir des informations ciblées, telles que des instructions ou des avertissements à l’écran :

Comment? : Méthodes utilisées à l’appui de la transparence

La communication d’informations sur les instruments médicaux utilisant l’apprentissage machine exige une compréhension globale des utilisateurs, des environnements et des flux de travail. Les principes de la conception centrée sur l’opérateur humain permettent la compréhension et l’intégration de ces éléments.

La conception centrée sur l’opérateur humain consiste à intégrer une perspective centrée sur la personne qui est itérative, qui prend en compte l’ensemble de l’expérience de l’utilisateur et qui fait intervenir les parties concernées tout au long de la conception et du développement. Elle suppose des activités de conception, de validation, de suivi et de communication réactives et itératives. Par exemple, il est plus facile d’accéder aux informations et de les utiliser si les éléments suivants sont pris en compte :

Dans certains cas, il peut être pertinent d’utiliser un langage simple pour faciliter la compréhension de l’instrument et son utilisation. Il se peut aussi qu’un langage technique soit approprié pour les utilisateurs cliniques spécialisés.

Ces principes directeurs en matière de transparence sont résumés dans le tableau 1.

Tableau 1 : Résumé des principes directeurs en matière de transparence
Qui? : Publics concernés

La transparence concerne toutes les parties intervenant dans les soins de santé au patient, notamment :

  • l’utilisateur de l’instrument ou le bénéficiaire des soins dispensés grâce à l’instrument
  • les personnes qui prennent des décisions concernant l’instrument à l’appui des résultats pour le patient
Pourquoi? : Motivation

La transparence favorise :

  • une utilisation sécuritaire et efficace
  • les soins centrés sur le patient
  • la détermination et l’évaluation des risques et des avantages d’un instrument
  • la prise de décisions et la gestion des risques éclairées
  • l’entretien de l’instrument et la détection des erreurs ou de la dégradation des performances
  • l’équité en matière de santé par la détermination des biais
  • une meilleure maîtrise des instruments médicaux utilisant l’apprentissage machine et une plus grande confiance dans leur utilisation, une plus grande adoption de la technologie
Quoi? : Informations pertinentes

Pour que l’instrument médical utilisant l’apprentissage machine soit bien compris, il faut communiquer des informations pertinentes sur :

  • la caractérisation de l’instrument et l’utilisation prévue
  • la manière dont l’instrument s’intègre dans le flux de travail des soins de santé, notamment son incidence prévue sur le jugement d’un professionnel de la santé
  • la performance de l’instrument
  • les avantages et les risques de l’instrument
  • les activités de développement de produits et de gestion des risques tout au long du cycle de vie
  • la logique du modèle, lorsque disponible
  • les limites de l’instrument, dont les biais, les intervalles de confiance et les lacunes dans la caractérisation des données
  • la manière dont la sûreté et l’efficacité sont maintenues tout au long du cycle de vie
Où? : Emplacement des informations

Maximiser l’utilité de l’interface utilisateur d’un logiciel peut :

  • accroître la pertinence des informations fournies
  • permettre de personnaliser l’information, de l’adapter et d’en assurer la réciprocité
  • répondre aux besoins de l’utilisateur par diverses modalités
Quand? : Calendrier des communications

Une communication en temps utile peut permettre une transparence réussie, par exemple :

  • en tenant compte des besoins d’information aux différents stades du cycle de vie total du produit
  • en fournissant des notifications sur les mises à jour des instruments
  • en communiquant des informations ciblées lorsque cela est nécessaire au cours du flux de travail
Comment? : Méthodes utilisées à l’appui de la transparence

Les principes de conception centrés sur l’opérateur humain peuvent soutenir la transparence

Ces principes directeurs se veulent des éléments à prendre en compte lors de l’adoption et de la promotion de bonnes pratiques en matière de transparence. La poursuite des échanges sur ce sujet peut orienter de façon concertée l’élaboration, la mise en œuvre et l’itération de bonnes pratiques en matière de transparence et de normes consensuelles dans ce domaine qui évolue rapidement.

Nous joindre

Nous vous invitons à nous faire part de manière continue de vos commentaires au moyen du registre public FDA-2019-N-1185 (en anglais seulement). Nous avons hâte de collaborer avec vous sur ce sujet.

Vous pouvez aussi envoyer un courriel directement aux différents partenaires aux adresses de courriel suivantes :

Détails de la page

Date de modification :