Ne pas ignorer les dépendances, qu’implique l’IA pour le secteur des soins

A l’occasion du congrès de l’APSSIS (Association pour la sécurité des systèmes d’information de santé) organisé au Mans (France) en juin, le Dr Ophélie Coelho, chercheuse en géopolitique du numérique, soulignait le “risque de dépendances invisibles” qu’implique le recours à l’intelligence artificielle par les professionnels et établissements de santé.

Dépendances voire asservissement…

Elle prenait le simple exemple de la génération automatique d’un compte-rendu : “une partie de la maîtrise technique quitte l’organisation. Les compétences internes, les réglages, la continuité de service et le contrôle des infrastructures dépendent progressivement d’acteurs externes”. Et ce, en raison d’une “chaîne de services largement externalisée”, avec des “fournisseurs qui opèrent des briques souvent invisibles, parfois éloignées du contrat directement signé par l’établissement”.

Son conseil aux décideurs hospitaliers et responsables informatiques ? “Ne pas s’arrêter au premier niveau d’information fourni par l’éditeur ou le prestataire” et “remonter les chaînes techniques le plus en amont possible”.

Autre risque souligné par un autre intervenant au congrès : l’accélération de délégation de tâches et rôles en raison de la perception de plus en plus généralisée que l’IA simplifie et opère plus efficacement (dans certaines circonstances) que l’humain. Gare alors à la précipitation et à l’oubli de certaines mesures de précaution : “lorsque les outils contribuent à accélérer l’analyse, à réduire certaines erreurs ou à traiter des volumes d’informations inaccessibles à l’échelle humaine, leur adoption devient difficile à différer.” Or, l’humain demeure essentiel : “les professionnels de santé doivent se recentrer sur ce que l’IA ne sait pas accomplir seule : l’urgence, la confiance et la proximité, c’est-à-dire les dimensions où l’intervention humaine reste irremplaçable.”

Source : Egora