La “transparence IA en santé” toujours en débat

L’une des conférences organisées à l’occasion du congrès HIMSS Europe qui s’est tenu à Paris à la mi-juin avait pour thème la “transparence de l’IA en santé”.

Quelle signification donner à ce concept de “transparence IA” ? Jusqu’où la pousser ? Est-ce de l’“ethics washing” ?

La “transparence” n’est-elle pas aussi le risque d’ouvrir la porte à des acteurs malintentionnés, une balle que le secteur de la santé se tirerait dans le pied pour cause de sécurité et de préservation de propriété intellectuelle amoindries ?

Autant de questions sur lesquelles des experts juridiques ou médicaux se sont penchés, exprimant des points de vue divers.

Comment définir la “transparence” en IA ? Explicabilité, traçabilité, auditabilité ? Pour le Dr Jessica Morley, chercheuse associée au Digital Ethics Center de l’université de Yale (Etats-Unis), “la transparence doit être fonctionnelle, contextualisée et compréhensible”.

D’autres intervenants se sont montrés plus en regard de l’opacité que l’on reproche parfois à l’IA, estimant que des algorithmes peuvent être totalement obscurs et inexplicables aux yeux des profanes ou des non-spécialistes et être néanmoins parfaitement efficaces et utiles. Faut-il réellement tout comprendre, tout pouvoir disséquer, pour accepter l’efficacité d’une solution ?

Selon le Dr Steffen Hess, à la tête du Health Data Lab au sein de l’Institut fédéral allemand des médicaments et dispositifs médicaux, la transparence commence par le bon choix des données sur lesquelles se nourrissent les algorithmes. “Cela suppose des garde-fous solides”.

Source : TICpharma