Assistants numériques en santé : petit rappel de précautions à prendre

Dans une tribune publiée sur le site français Egora, Rémy Teston, consultant digital et expert en e-santé, revient sur les avantages et risques induits potentiels par les assistants numériques IA, outils de ce qu’on appelle désormais l’“IA ambiante”, dans le secteur de la santé.

Utilisés afin de soulager le travail administratif (prise de note, élaboration de compte-rendus et/ou de synthèses, structuration d’informations, analyse de dossier médical, etc.) dans une recherche d’optimisation du temps et de l’efficacité, ces assistants numériques automatisés ont certes bien des attraits mais doivent être utilisés avec prudence.

“Automatiser la documentation médicale ne signifie évidemment pas automatiser la responsabilité. Une note produite par une IA peut être très convaincante tout en comportant une omission, une formulation ambiguë ou une information erronée.

Plus les assistants deviennent invisibles dans le quotidien clinique, plus plusieurs questions deviennent centrales : consentement et information du patient, confidentialité des échanges, hébergement et traitement des données, traçabilité, intégration au dossier médical, cybersécurité, qualité des résumés générés et responsabilité en cas d’erreur.

Et surtout : le professionnel doit rester capable de distinguer ce qu’il sait de ce que son assistant lui suggère. Le paradoxe est là.
Pour réellement faire gagner du temps, l’IA doit devenir suffisamment fiable pour nécessiter moins de contrôle. Mais en santé, elle ne peut jamais devenir suffisamment invisible pour que l’on cesse de la contrôler.”

Un petit rappel pas inutile…

Tribune publiée sous le titre “Assistants IA en santé : la nouvelle bataille du temps médical”

Source : egora.fr