Deux experts rappellent les grands pièges IA à éviter pour un professionnel de santé

Sujet désormais incontournable, l’utilisation de l’intelligence artificielle dans le domaine de la santé était tout naturellement au menu de la 8ème édition des Assises de l’eSanté, organisée par Vivalia et la Province du Luxembourg.

L’angle choisi par un duo d’orateurs (le docteur Tatiana Revenco, de l’ULB, experte en protection des données dans le secteur de la santé et des sciences de la vie, et Matteo Capriulo, avocat au Bareau de Bruxelles et chercheur à l’UMons) fut celui des pièges (majeurs) à éviter par les professionnels de santé. A savoir :

• recourir à des données patients réels, données sensibles et identifiables (noms, dates de naissance…), lors de l’utilisation d’un LLM (grand modèle de langage IA), en particulier les LLM grand public du genre ChatGPT
• se contenter de la “garantie” qu’offre le marquage CE affublé par une solution ou dispositif de santé pour estimer que ce dernier est conforme aux disposition de l’AI Act européen
• considérer que respecter les règles du RGPD (règlement général sur la protection des données) suffit à être en règle par rapport aux dispositions de cette directive AI Act européenne alors qu’il n’en est rien (s’il y a un tronc commun, certains impératifs de l’un et l’autre sont spécifiques et doivent donc tous être respectés)
• ne pas passer en revue les “conclusions”, ne serait-ce qu’un “simple” compte rendu, généré par une solution IA
• omettre d’informer le patient sur le fait que tel examen, procédure ou avis a eu recours, ne fut-ce qu’en partie, à un outil d’intelligence artificielle
• ne pas s’assurer de la maîtrise et du contrôle des fichiers et données (stockage, pérennité, intégrité, non-violabilité, sécurité, conditions de réutilisation)
• Ne procéder à des formations ou (re)mises à niveau de connaissances et compétences que de manière épisodique (le processus doit être continu)

Source : Medi-Sphere