Patient Numérique

Peu de temps avant que ne se tienne à Londres le “sommet mondial” consacré à l’Intelligence Artificielle, à ses perspectives et risques induits, l’OMS avait publié un “guide” destiné aux gouvernements et aux autorités de réglementation, consacré à la conception et à l’utilisation de l’IA en santé. Un “guide” qui reconnaît les avantages potentiels de ces nouvelles technologies mais met également en garde contre ses aléas et ses dérives potentielles. Une piqûre de rappel, en quelque sorte.

L’OMS souligne par exemple que “l’IA est déployée rapidement, parfois sans compréhension adéquate de la manière dont fonctionnent ces technologies, « qui peuvent soit bénéficier soit être préjudiciables aux utilisateurs », qu’il s’agisse des patients ou des professionnels, a averti l’OMS.

A ne pas sous-estimer ou transvaser vers le dossier Pertes et oublis. Tout en soupesant les avantages potentiels, incontestables selon l’OMS qui, dans le même avis, soulignait les perspectives nouvelles qu’ouvre l’IA dans les domaines de l’IA des essais cliniques, du diagnostic (ou de l’aide au diagnostic), de la mise au point de protocoles de traitement et d’enrichissement des connaissances et compétences médicales.

Principales recommandations, voire admonestations, de l’OMS :

• définition et mise en oeuvre d’un “cadre légal solide”, d’une régulation efficace
• collaboration entre régulateurs, patients, gouvernements et professionnels de santé
• validation externe des données
• évaluation des systèmes afin d’éviter les erreurs et les préjugés
• nécessité de surveiller et de bannir toute collecte non éthique de données (avec nécessaire consentement des personnes concernées en amont de la collecte de données privées), de lutter et contrecarrer les menaces en matière de cybersécurité, d’“amplification des préjugés et de la désinformation”. Des préjugés induits par exemple par des lacunes, des erreurs, voire des biais volontaires introduits dans les données servant à entraîner les modèles IA, ou encore par une mauvaise prise en compte de la diversité des populations. “Il faut s’assurer que l’ensemble des données soit intentionnellement conçu pour être représentatif.”

Ce guide est publié deux ans après que l’OMS ait sorti son premier “rapport mondial sur l’intelligence artificielle appliquée à la santé”. Rapport qui, à l’époque, proposait six “principes directeurs” pour la conception et l’utilisation de l’intelligence artificielle en santé :

• protéger l’autonomie de l’être humain
• promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public
• garantir la transparence, la clarté et l’intelligibilité
• encourager la responsabilité et l’obligation de rendre des comptes
• garantir l’inclusion et l’équité
• promouvoir une IA réactive et durable.

OMS: “Les systèmes d’intelligence artificielle dépendent des données d’entraînement qu’ils utilisent pour leur apprentissage. C’est pourquoi une meilleure règlementation peut contribuer à gérer les risques et le danger de voir les préjugés présents dans les données existantes amplifiés par l’IA.”