Quand l’IA en santé “se trompe” ou induit en erreur (médicale), qui est responsable ?

Quid si un diagnostic, un traitement, un geste médical reposant, en tout ou en partie, sur un “avis” généré par un outil ou une solution IA s’avère erroné ? Qui en porte la responsabilité – moralement mais aussi légalement ? Le médecin ou professionnel de santé, l’établissement de soins, le concepteur de la solution IA, l’installateur ou l’intégrateur, l’assureur (celui qui couvre l’utilisateur ou le fournisseur ?) ? 

Question ô combien complexe et encore relativement nébuleuse.

C’était en tout cas le thème d’une intervention par une spécialiste en enjeux assurantiels en matière de responsabilité médicale lors de la Journée régionale de la Fédération hospitalière de France Provence-Alpes-Côte d’Azur, mi-octobre.

Elle a commencé par lister les types de risques induits par l’intelligence artificielle en santé (hallucinations des outils, biais de réponse, élargissement du risque de cyber-attaque et potentielle sur-utilisation de l’assistance entraînant une perte de compétence médicale).

En France, depuis la loi du 4 mars 2002 relative aux droits des malades et à la qualité du système de santé, a-t-elle rappelé, “si l’IA induit le médecin en erreur, la responsabilité incombe au médecin et à son établissement, la décision finale étant considérée comme étant celle du professionnel de santé”. Le risque est couvert par les assurances du fournisseur (ou fabricant). Mais les choses se compliquent en cas de recours à des “dispositifs” médicaux appuyés sur l’IA. La jurisprudence française veut en effet qu’en matière de produits de santé, l’établissement soit civilement responsable sans faute (1) en cas de défectuosité du produit.

Bagarre d’assurances et de responsabilité en perspective. Ce qui l’amenait à rappeler que le véritable enjeu est de “tracer de façon claire dans le dossier médical pourquoi tel choix a été fait, telle décision a été prise”.

(1) La responsabilité sans faute est un régime de responsabilité où l’indemnisation d’un dommage ne nécessite pas de prouver une faute de l’auteur du dommage, mais plutôt un lien de causalité entre ce dommage et une activité imputable à cet auteur.

Source : TICsanté.