Gadget bien-être ou dispositif médical de bon aloi ? Le flou artistique demeure, voire se densifie

Dans un article d’opinion publié sur le site Mediapart, intitulé “Votre corps, leur algorithme” (sous-titre : “Le dilemme intime de la santé connectée”), Romain Leclaire, podcasteur spécialisé en nouvelles technologies et en culture numérique, fondateur du subreddit r/actuctech, se penchait récemment sur la question sensible de l’influence des algorithmes – et donc des “plates-formes” – sur la “valeur” et le point d’ancrage du contrôle des données de santé de chacun(e) d’entre nous à l’avenir.

Il comparait pour ce faire les approches commerciales et les intentions sous-jacentes de deux sociétés américaines, toutes deux investies sur le marché de la santé – Google et Whoop -, afin de démontrer les risques que cela représente potentiellement ou délibérément pour ces données hyper-sensibles, personnelles et… “juteuses”.

Un véritable enjeu de société, soulignait-il d’emblée.

D’un côté, la solution Fitbit Air et le “service” d’assistant virtuel Google Health Coach de Google. De l’autre, le bracelet Whoop et la plateforme HealthEx pour des “consultations vidéo à la demande avec des cliniciens agréés”.

Produit à prix cassé chez Google mais avec l’intention de “vous vendre la couche d’intelligence artificielle qui surplombe vos données”. Chez Whoop, la solution (produit et abonnement pour contact avec un clinicien) est sensiblement plus coûteuse. Whoop “parie que l’expertise humaine justifie un prix premium”.

Mais, hors toute considération financière, quelle est la différence ? “Un clinicien peut poser des questions de suivi, identifier des schémas qui nécessitent un contexte humain qu’un chatbot ignore, et surtout, il porte la responsabilité professionnelle inhérente à sa licence médicale. Une intelligence artificielle peut vous signaler que la variabilité de votre fréquence cardiaque est en baisse, mais seul un médecin peut véritablement vous expliquer pourquoi avec la nuance requise.”

Romain Leclaire va plus loin dans son analyse pour aborder le sujet de la “zone grise réglementaire” qui prévaut en Europe, “zone grise” qui ne permet pas de distinguer où se situe la véritable “ligne rouge” entre simple (ou prétendu) gadget et véritable dispositif médical, sujet à législation (plus) stricte.

“Le texte du règlement européen sur les dispositifs médicaux (RDM) impose des évaluations cliniques drastiques, mais uniquement si le produit revendique une finalité médicale stricte. Le vide juridique dans lequel s’engouffrent ces entreprises se situe de manière exacte dans l’espace sémantique entre le bien-être et la médecine.”

Ce qui convient parfaitement à Google qui prétend que sa solution ne fait que “suggérer” mais qui place Whoop dans une situation plus problématique puisqu’il y a intervention de cliniciens.

Romain Leclaire : “Google veut devenir le cerveau artificiel qui s’interpose entre chaque capteur et chacune de vos décisions de santé. Personnellement, l’idée de confier l’analyse de ma physiologie à une boîte noire algorithmique me met profondément mal à l’aise.”

Lien vers le billet de blog “Votre corps, leur algorithme” sur Mediapart.