Patient Numérique

L’Académie française de médecine a publié, début mars 2024, un rapport sur l’usage de l’intelligence artificielle générative dans le monde de la santé (potentiels de progrès, exemples de domaines intéressants, questions éthiques, possibilités pouvant être mises en oeuvre à court terme), émettant par la même occasion quelques recommandations portant sur ces intelligences artificielles génératives (IAgen).

L’Académie commence par resituer la nature de l’IA générative, ce qui la distingue à la fois d’autres “intelligences artificielles” ou outils d’automatisation et du mode de fonctionnement de l’intelligence “naturelle”. “Les SIAgen [systèmes d’intelligence artificielle générative] fonctionnent à partir d’auto-apprentissage basé sur un nombre extrêmement élevé d’exemples, ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et un système de valeurs. 

Cela leur permet de trouver un mot à partir du précédent et du contexte et de générer des textes avec une grande rapidité mais sans qu’actuellement les sources des textes générés soient connues. Même si association de mots ne signifie pas automatiquement causalité, les résultats impressionnent par la fréquence élevée de réponses pertinentes, au risque de méconnaitre les erreurs souvent appelées “hallucinations”.

Une validation humaine est donc toujours nécessaire.”

Les dix recommandations émises par l’Académie, outre-Quiévrain :

1. – formation de tous les professionnels de santé à l’usage des Systèmes d’Intelligence Artificielle Générative (SIAGen).
2. – nécessité de généraliser l’usage des SIAgen à les professionnels de santé : “il serait contraire à l’éthique de se passer de l’aide de ces outils”
3. – éviter absolument de communiquer les données personnelles des patients et des professionnels de santé à des SIAgen “dont la maîtrise en France ou en Europe n’est pas clairement établie”
4. – obligation d’une supervision humaine et préservation, voire renforcement, du temps consacré au colloque singulier patient/soignant, “quels que soient les systèmes numériques utilisés”
5. – balisage précis de la responsabilité des acteurs, concepteurs, utilisateurs, par le biais d’une réglementation “prenant rapidement en compte le règlement européen sur l’IA pour les systèmes numériques en santé”
6. – priorité absolue à accorder à la  cybersécurité des établissements de santé et des plateformes de données de santé
7. – indispensable garantie de la propriété intellectuelle des données servant à l’apprentissage, “notamment celle des publications scientifiques”
8. – nécessité d’un soutien appuyé pour les recherches sur les applications en santé des SIAGen, que ce soit au niveau de l’Hexagone ou de l’Europe, “afin de réduire la dépendance aux entreprises étrangères et de progresser vers une souveraineté numérique européenne”
9. – respect des principes éthiques lors du recours aux SIAgen
10. – évaluation précise et prise en compte, dans l’évaluation de l’impact environnemental du système de santé, des impacts environnementaux et énergétiques de la conception, de la mise en œuvre et de l’utilisation des SIAgen en santé.

Le rapport “Systèmes d’IA générative en santé : enjeux et perspectives” de l’Académie française de médecine est disponible sur le site de l’Académie.

Source: LaDépêche.fr