Patient Numérique

Comment s’assurer que les algorithmes et outils IA (dans l’acceptation large du terme “intelligence artificielle”) répondent à des critères vérifiables garantissant leur pertinence, précision et “honnêteté” ? Comment en arriver à une “IA de confiance”, interprétable ou, à tout le moins, compréhensible et “déchiffrable” ?

Ce débat n’est pas neuf en matière d’“intelligence artificielle”, en particulier dans le secteur de la santé. Outre-Quiévrain, la société Ethik-IA, apôtre précoce de l’“IA de confiance”, a récemment formulé, de concert avec le groupe de réflexion, une proposition visant à “établir une politique publique de déploiement d’une intelligence artificielle de confiance pour la prévention et à l’accès à la santé”.

Une politique publique de santé “en faveur de l’intégration et du déploiement rapides de dispositifs d’IA de confiance” est jugée indispensable compte tenu du contexte et des perspectives : « La pression de la demande d’usages […] risque pourtant de conduire à une diffusion non maîtrisée de ces outils. Un tel mouvement, assorti de problématiques médicales potentielles évidentes, se doublerait de risques de perte de souveraineté numérique pour notre système de santé et d’un approfondissement des inégalités d’accès à l’innovation. »

Pour donner naissance et mettre en place une telle politique, les deux organismes proposent que l’Etat français (mais potentiellement d’autres pays…) :

• – constitue un « conseil stratégique de l’IA » avec pour mission de “structurer la politique publique d’accompagnement de la diffusion de l’IA”
• – mette en place un “observatoire”, pour la diffusion des cas d’usage et le suivi des effets médico-économiques 
• – intègre la dimension de l’IA dans les budgets publics et lois de financement en définissant “un modèle médico-économique ternaire de diffusion de l’IA en santé distinguant IA de pilotage des fonctions supports, IA d’amélioration de l’organisation médicale et IA de prévention et de santé publique”
• – favorise la promotion et l’adoption des nouvelles démarches assistées par IA en veillant à “valoriser” (lisez : prévoir un soutien financier) « le temps médical dédié à la construction des méthodologies de supervision et le développement de plateformes de conformité”.

Dans les recommandations, il est également question d’un soutien au développement de plateformes d’accès à l’IA et de démarche au long cours pour sensibiliser à l’IA dès la formation initiale des professionnels de santé.

Le texte du rapport et de la proposition conjointe d’Ethik-IA et de Terra Nova, intitulée “IA et santé : pourquoi l’action publique ne peut plus attendre”, peut être consultée via ce lien.