Intelligence artificielle : Proposition d'un nouveau cadre réglementaire

Publié le 13/06/2019 à 00:20

Par GOWLING WLG

Alors que les entreprises privées et les organismes gouvernementaux continuent d'envisager les perspectives prometteuses et les défis liés aux produits dotés d'intelligence artificielle (IA) qui prolifèrent sur le marché, il n'est pas étonnant que la réglementation de ces produits suscite de plus en plus d'inquiétude.

En effet, il devient de plus en plus évident que ce genre de produits devra être assujetti à de nouveaux règlements, mais qu'il faudra aussi adopter une approche complètement différente en ce qui a trait aux approbations réglementaires y afférentes : en plus du processus d'approbation standard préalable à la mise en marché, il sera nécessaire d'adopter également un processus de surveillance des produits tout au long de leur cycle de vie.

L'agence américaine des produits alimentaires et médicamenteux, la Food and Drug Administration (FDA), a récemment publié un communiqué de presse (en anglais seulement) et un document de travail (en anglais seulement) dans lesquels on propose justement un cadre réglementaire visant les dispositifs médicaux dotés d'IA. Plus particulièrement, l'agence souhaite explorer les algorithmes d'apprentissage continu ou « adaptatifs » par opposition aux algorithmes déterministes, ces derniers ayant déjà fait l'objet d'une approbation.

La FDA envisage la possibilité de continuer à sanctionner les logiciels constituant des dispositifs médicaux (ou software as a medical device) dotés d'IA ou de fonctionnalités d'apprentissage automatique afin qu'ils puissent développer leurs capacités après l'obtention des approbations réglementaires initiales. Ce processus d'approbation réglementaire proposé se poursuivrait par la surveillance de ces logiciels pour en évaluer la performance en situation réelle et ainsi s'assurer qu'ils continuent de performer conformément à un plan préétabli de contrôle des changements afin de garantir la sûreté du logiciel.

Le document de travail de 20 pages qui accompagne le communiqué de presse présente un intérêt particulier. On y affirme notamment que compte tenu de la nature évolutive des logiciels susmentionnés, le processus d'approbation préalable à la mise en marché (dans le cadre duquel une seule autorisation est délivrée avant le déploiement d'un produit) s'avère inapproprié. On recommande donc une approche réglementaire visant l'intégralité du cycle de vie du produit afin d'en permettre l'amélioration continue tout en protégeant la sécurité des utilisateurs. L'adoption d'une telle approche pourrait nécessiter l'obtention de nouveaux pouvoirs légaux. Le document catégorise les types de modifications pouvant découler de l'IA ou des fonctionnalités d'apprentissage automatique au cours du cycle de vie d'un produit.

Une telle approche réglementaire serait fondée sur les principes suivants :

a. établir des attentes claires quant aux systèmes de contrôle de la qualité et aux bonnes pratiques d'apprentissage automatique;

b. effectuer un examen préalable à la mise en marché afin de démontrer la sûreté et l'efficacité du produit et établir des attentes claires quant à la gestion des risques liés à la sécurité des patients tout au long du cycle de vie du produit;

c. exiger que les fabricants assurent la surveillance des dispositifs médicaux dotés d'IA et la gestion des risques liés à la sécurité des patients; et

d. faire preuve de transparence envers les utilisateurs et la FDA au moyen de rapports sur la performance du produit en situation réelle et après sa commercialisation, afin d'en garantir la sûreté et l'efficacité.

Le document de travail présente une analyse détaillée de ces principes de même que des organigrammes illustrant comment se déroulerait le processus d'évaluation et de surveillance continue. En annexe du document, on trouve en outre des exemples hypothétiques de produits, des recommandations sur le mode d'évaluation de ceux-ci, et des propositions d'éléments à inclure dans un protocole de mise en œuvre des modifications de l'algorithme, notamment un plan de gestion des données, des protocoles pour le recyclage et l'optimisation de l'algorithme, ainsi que des protocoles et procédures d'évaluation de la performance décrivant la façon dont les algorithmes actualisés des dispositifs médicaux seront évalués, distribués et communiqués après leur publication.

Le document de travail se termine par une série de questions de la FDA destinées aux parties intéressées en vue d'obtenir leur point de vue.

Le cadre réglementaire proposé et les éléments de l'analyse proposée constituent une série d'étapes et de considérations détaillées ayant fait l'objet d'une réflexion poussée. En outre, il semble qu'un tel cadre réglementaire pourrait s'appliquer non seulement aux logiciels médicaux, mais à d'autres types de produits également. En effet, l'approche consistant à réglementer un produit logiciel de façon continue tout au long de son cycle de vie après l'approbation réglementaire préalable à la mise en marché (en fonction de critères d'évaluation rationnels) pourrait vraisemblablement s'appliquer à d'autres secteurs d'activité. Ce cadre pourrait donc servir d'approche modèle pour réglementer l'IA.

Au Canada, dans le budget fédéral de 2019 il a été fait vaguement allusion à un bac à sable réglementaire qui permettrait à Santé Canada d'envisager la réglementation des dispositifs médicaux dotés d'IA. Malheureusement, le Canada n'est pas parvenu à jeter les bases d'un cadre réglementaire aussi élaboré et solide que celui proposé par la FDA à l'égard de l'IA dans le domaine de la santé.

Pour en savoir plus, veuillez contacter l'équipe du secteur Technologie ou Sciences de la vie de Gowling WLG.

À la une

À surveiller: Stella-Jones, Exxon et Cree

Que faire avec les titres de Stella-Jones, Exxon et Cree? Voici quelques recommandations d’analystes .

La limite du tout-faire-soi-même

Mieux vaut parfois s'en remettre, pour un temps du moins, aux lumières d'un professionnel.

10 choses à savoir mercredi

Après les fausses nouvelles, les faux livres, les mégots, enjeu de la décennie, vendez vos déchets de plastique!