Evaluation des technologies de santé en France. Quels sont les critères spécifiques d’évaluation des dispositifs médicaux embarquant de l'intelligence artificielle et comment les évaluer ?

Outre les critères standards (techniques, cliniques et médico-économiques) d'évaluation des dispositifs médicaux (DM), de nouveaux besoins spécifiques ont été répertoriés pour évaluer l'intelligence artificielle (IA) en santé. En améliorant la méthodologie d'évaluation et la conception des études, l'objectif est de permettre aux patients d'accéder à ces technologies de manière plus rapide et plus fiable. Si la performance des modèles a été privilégiée par rapport à la compréhension des algorithmes, l'incapacité à les interpréter et les expliquer soulève de sérieuses préoccupations en termes d'éthique, d'acceptabilité et de confiance dans ces technologies. Le concept d'IA explicable semble être particulièrement pertinent pour aborder les questions d'acceptabilité de l'IA par les patients et les professionnels de la santé. L'objectif de ce travail est de préciser les différents concepts essentiels au développement d'un DM embarquant de l'IA et de mettre en lumière comment la performance, l'interprétabilité et l'explicabilité constituent des critères prépondérants de l’évaluation de l'IA en santé. Une revue de la littérature sur les guidelines spécifiques aux DM avec IA a été réalisée et des recommandations sur les critères réglementaires et technologiques ont été proposés. Tout d'abord, les définitions de l'interprétabilité et de l'explicabilité ont mis en évidence la nécessité pour les acteurs de la santé de parler le même langage et de partager une taxonomie commune. La Haute Autorité de santé (HAS, France) a défini des critères autour de ces notions. Des recommandations sont données sur comment et quand évaluer les performances en fonction de la structure du modèle et des données disponibles. De plus, si l'interprétabilité et l'explicabilité sont difficiles à définir mathématiquement, des méthodes de mesure ont été répertoriées pour soutenir leur évaluation. Cette étude fournit des éléments permettant d'anticiper les exigences réglementaires pour les acteurs développant des DM basés sur l'IA et de soutenir les attentes des institutions vis-à-vis des enjeux émergents de l'IA. Evaluation ; Dispositifs médicaux ; Aide à la décision ; Intelligence artificielle ; Algorithme Les auteurs déclarent ne pas avoir de liens d'intérêts.