Envie de vous offrir une petite séance de frissons ? Ou de simple rappel des risques et écueils que le recours à l’intelligence artificielle peut, dans certains cas, faire subir dans le quotidien des professionnels de santé ? Une interview de Rémi Sentis, directeur de recherche émérite, président de l’Association française des scientifiques chrétiens et co-auteur de “La guerre des intelligences n’aura pas lieu”, interview publiée sur le site de GènEthiquee, est sans doute une lecture utile.

Sans verser dans le catastrophisme ou dans le rejet atrabilaire de l’utilité de l’IA, il rappelle certaines réalités :

• – la chaîne déstructurée de la responsabilité : confier une analyse, voire un diagnostic, à un algorithme dont on ne connaît ou ne comprend pas les tenants et aboutissants, c’est oublier que cet algorithme, que l’outil IA a été conçu par un humain (dont les motivations ou boussoles peuvent être de tous ordres), qu’il passe par diverses étapes – adaptations, mises à jour, personnalisation éventuelle, brassage par une base de données, que son utilisation finale peut être différente d’un individu à l’autre… qu’en est-il dans ce cas de la responsabilité médicale et de chaque maillon de la chaîne ?

• – attention au court-circuitage des circuits habituels, par exemple en laissant le soin à une infirmière de collecter des données (objectivées ou simplement déclaratives) du patient et de les injecter dans un outil IA à des fins de diagnostic, n’ayant pas été autrement validé.

Sans oublier le fait que, parfois, la santé est invoquée comme prétexte pour justifier les bienfaits et perspectives prometteuses – supposées ou réelles – de l’IA.

Rémi Sentis : “Le sujet des usages à prohiber ou réguler est très vaste. Il faut sans doute des règles mais il faut aussi de la morale, une morale fondée sur la notion de bien et de mal et sur la responsabilité des utilisateurs”.

L’interview touche également à des domaines tels que l’“augmentation” de l’humain, l’utilité potentielle des organoïdes (structures biologiques en trois dimensions qui reproduisent certaines fonctions d’un organe), ou encore l’IA biologique.

Lien vers l’interview.