Les avis et recommandations IA influencés par les publicités pharmaceutiques ?
Les modèles sous-tendant les agents conversationnels IA – hors de leurs éventuelles dérives et “hallucinations” structurelles – pêcheraient-ils aussi par une certaine crédulité et influençabilité face à des publicités pharmaceutiques, de quoi biaiser les avis et recommandations qu’ils peuvent émettre en matière de santé ?
Une étude menée par des chercheurs de l’école de médecine Icahn (Mount Sinai, New York), oubliée dans The Lancet Digital Health, semble l’indiquer. Dans l’un des scénarios proposés par les chercheurs, un médicament bénéficiant d’une publicité par un acteur pharmaceutique a ainsi été plus fréquemment recommandé par un outil IA (à hauteur de 47,6%) qu’un autre médicament proposé “vierge”, sans publicité (35%). La différence est encore plus flagrante dans un autre scénario, où le médicament ne bénéficiant d’aucune publicité n’a pas été recommandé du tout alors que score passe à… 100% dès l’instant où ce même médicament ou un autre bénéficie de ce coup de pouce publicitaire.
Pour les besoins de cette étude, 12 modèles IA grand public (notamment ChatGPT, Claude, Gemini) ont été testés dans 33 scénarios cliniques.
Tous les modèles IA ne sont toutefois pas logés à la même enseigne, certains (notamment Gemini) étant plus influençables que d’autres. Bonne nouvelle, certains modèles testés restent même de marbre et ne semblent pas (ou peu) succomber aux sirènes publicitaires.
L’étude a été publiée dans le Lancet Digital Health.
Article à lire également dans Science & Vie.
Réponses