Patient Numérique

Le média américain Politico semble avoir récemment donné un grand coup de pied dans la fourmilière en publiant un article sur les dérives, potentielles mais aussi déjà bien réelles, de l’usage de l’IA comme aide au diagnostic et aux traitements médicaux.

Le média, dont l’article a largement été répercuté par des confrères, a ainsi fait s’allumer bien des loupiotes d’alarme, poussant certains commentateurs à considérer qu’on est peut-être au stade de la “one malpractice suit away from becoming a major medical and regulatory scandal” – l’ombre menaçante d’un premier procès pour faute professionnelle qui risque évidemment d’en inspirer d’autres et de plonger le monde médical (en tout cas américain) dans la tourmente…

Les professionnels et chercheurs interrogés par Politico n’ont pas mâché leurs mots. Ainsi un chercheur en santé publique de l’université de Californie à San Diego a résumé le problème comme suit : « La charrue a désormais tellement d’avance sur les boeufs qu’on en est arrivé à une situation où on se demande comment la redresser sans tomber dans le ravin ».

Les Etats-Unis seraient-ils en train de se demander s’ils ne devraient pas s’inspirer de l’Europe et de son projet de législation sur l’intelligence artificielle (encore à adapter, sans doute, plus étroitement aux contraintes du secteur médical) ? 

Certains semblent en tout cas avoir pris conscience de la nécessité de prévoir une législation spécifique (à l’IA en général et de ses particularités en matière de santé) – notamment en raison de l’évolution constante des modèles d’IA, sous l’effet de l’ajout, de la suppression ou modification des données sous-jacentes, des adaptations, réécritures et bidouillages d’algorithme, etc. etc. Mais la résistance (pour utiliser un terme édulcoré) restera grande dans de nombreux milieux.

Politico s’interroge par ailleurs : comment la FDA peut-elle intervenir alors qu’elle manque de moyens (humains et financiers) ? Un refinancement s’impose, qui soit par ailleurs rendu récurrent et à long terme, mais il risque d’être gigantesque vu l’ampleur du chantier IA. Sans oublier l’incertitude politique.

L’une des pistes évoquées est de confier une partie du travail de veille, de signalement et d’analyse à des facultés de médecine et centres de santé universitaires, à charge pour eux de créer des laboratoires spécialisés « qui procéderaient à des audits permanents des performances des outils de soins de santé basés sur l’IA ».

Une piste, analyse Politico, non dépourvue d’embûches : son financement, la confiance à générer auprès du public et des utilisateurs, la localisation géographique de ces labos (afin que leurs analyses « tiennent compte fidèlement des implications des actions de l’IA parmi des communautés diverses et variées, en ce compris les milieux plus défavorisés »).

Autant de pierres d’achoppements, de questionnements et de considérations qui sont certes plus spécifiques à la réalité américaine mais qui ont également des accents plus universels…

Source: futurism.com