Patient Numérique

L’Organisation Mondiale de la Santé a publié, fin juin, un premier rapport sur l’intelligence artificielle appliquée dans le domaine de la santé et, plus particulièrement, sur les aspects d’éthique et de gouvernance qu’elle suppose.

Intitulé “Ethics and governance of artificial intelligence for health”, le rapport reconnaît un “immense potentiel” à l’IA mais met en garde contre ses “effets préjudiciables”. Le rapport se veut dès lors un “guide précieux pour les pays qui souhaitent maximiser les avantages de l’IA, tout en en minimisant les risques et en en évitant les pièges.”

Au rayon perspectives prometteuses, l’OMS énumère une série d’opportunités: amélioration de la rapidité et la précision de diagnostic et de dépistage des maladies ; facilitation des soins cliniques ; renforcement de la recherche et de la mise au point de médicaments ; soutien pour la santé publique (surveillance des maladies, riposte aux flambées épidémiques, gestion des systèmes de santé ; meilleure maîtrise des soins de santé par les patients…

Mais le rapport aligne aussi les écueils et dangers: attention à ne pas “surestimer les avantages de l’IA, en particulier lorsqu’elle vient supplanter des investissements et des stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle”.

Autres risques mis en avant: collecte et utilisation contraires à l’éthique de données relatives à la santé, biais dans les algorithmes (par exemple “les systèmes entraînés principalement à partir de données recueillies auprès d’individus vivant dans des pays à revenu élevé risquent de ne pas bien fonctionner pour les populations des pays à revenu faible ou intermédiaire”), risques pour la sécurité des patients, la cybersécurité et l’environnement.

Six principes directeurs

Le rapport de l’OMS insiste sur le fait que “guidés par les lois et obligations existantes en matière de droits humains, ainsi que par les nouvelles lois et politiques qui garantissent des principes éthiques, les gouvernements, les prestataires et les concepteurs doivent collaborer de sorte à tenir compte des problèmes d’éthique et de droits humains à chaque étape de la conception, du développement et du déploiement d’une technologie s’appuyant sur l’intelligence artificielle”.

Pour “atténuer les risques et maximiser les opportunités intrinsèques”, l’OMS recommande dès lors d’observer et de mettre en oeuvre six principes directeurs:
– protéger l’autonomie de l’être humain – les individus restant maîtres des systèmes de soins de santé et des décisions médicales, et des cadres juridiques appropriés doivent garantir vie privée et confidentialité et veiller à un consentement éclairé valide de la part du patient
– promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public – “respect des obligations réglementaires en matière de sécurité, de précision et d’efficacité de l’IA pour des utilisations ou des indications bien définies”
– garantir la transparence, la clarté et l’intelligibilité – accès aisé à des “informations suffisantes avant la conception ou le déploiement d’une technologie d’IA” pour permettre “une consultation et un débat publics constructifs”
– encourager la responsabilité et l’obligation de rendre des comptes – avec “utilisation dans des conditions appropriées et par des personnes dûment formées”, et possibilité pour des “individus et groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation”
– garantir l’inclusion et l’équité – “indépendamment de l’âge, du sexe, du genre, des revenus, de la race, de l’origine ethnique, de l’orientation sexuelle, des capacités ou d’autres caractéristiques protégées par les codes relatifs aux droits humains”
– promouvoir une IA réactive et durable – avec “évaluation continue et transparente des applications de l’IA en situation réelle” par les concepteurs, développeurs et utilisateurs.

Le rapport “Ethics and governance of artificial intelligence for health”peut être téléchargé via le site de l’OMS.