Comment l’AI Act influence-t-il la qualité de l’information en santé à l’âge de l’IA – Jérémie Thomas – Symposium Metz 2026
Jérémie Thomas, qui intervient pour Ethik-IA aux côtés de David Gruson, ouvre la deuxième intervention de l’Atelier 3 par un constat : l’IA en santé se déploie à toute vitesse, parfois de manière désynchronisée selon les territoires, et les risques associés sont rarement anticipés à leur juste mesure. Ces risques se situent à la fois en amont — conception des modèles, qualité et représentativité des données d’entraînement, problème de boîte noire, hallucinations algorithmiques — et en aval, dans les résultats produits et leur impact clinique. À ces risques techniques s’ajoutent des risques juridiques et assurantiels pour les médecins et les établissements qui déploient ces outils.
L’AI Act européen, entré en vigueur pour les dispositifs à haut risque à l’été 2025, propose une réponse graduée. Les dispositifs médicaux et tout ce qui touche au diagnostic relèvent automatiquement de la catégorie « haut risque », assortie d’exigences précises : gouvernance des données, traçabilité, documentation, transparence et — point central — supervision humaine. À la différence du RGPD, parfois perçu comme un frein à l’innovation, l’AI Act se veut un cadre de confiance qui favorise le développement responsable des outils. Côté français, la Haute Autorité de Santé a intégré depuis septembre 2025 des critères relatifs à l’IA dans sa procédure de certification, demandant aux établissements de mettre en place politiques de gouvernance, chartes éthiques et cartographies d’usage — y compris pour les outils non médicaux comme ChatGPT, dont l’usage par les soignants explose sans cadre formel (40 000 requêtes médicales un seul mois d’août).
La supervision humaine, principe directeur, ne consiste pas à placer un médecin derrière chaque résultat d’IA — ce qui annulerait l’apport sur les territoires en sous-densité médicale. Elle consiste à mettre en place des collèges d’experts qui, à échéance régulière, comparent les écarts entre l’IA et le jugement humain pour identifier les biais et suivre l’évolution sur la durée. L’exemple du déploiement de Dental Monitoring avec l’Union Française des Soins Bucco-Dentaires, encadré par un collège de garantie humaine trimestriel depuis quatre ans, illustre cette approche : elle a permis d’améliorer continuellement l’algorithme, d’optimiser les échantillons de contrôle et de garantir la qualité du diagnostic. Le label Ethik-IA, reconnu par la HAS, s’inscrit dans cette logique. Cinq piliers résument l’éthique opérationnelle attendue : transparence, supervision humaine, traçabilité, consentement, qualité des données.
Les slides de cette intervention : ouvrir la présentation →