Patient Numérique

Mi-juillet, le Conseil des droits de l’homme de l’ONU a adopté une résolution “appelant la communauté internationale à prendre des mesures de protection et de supervision en ce qui concerne l’intelligence artificielle”. Le texte de la résolution avait soumis au Conseil par la Corée du Sud, l’Autriche, le Brésil, le Danemark, le Maroc et Singapour.

La résolution préconise notamment une “transparence” des systèmes d’intelligence artificielle et le respect des droits humains comme fil rouge dans la collecte, l’utilisation, le partage, l’archivage et la suppression des données destinées à l’IA.

A ce sujet, Volker Türk, Haut Commissaire de l’ONU aux droits de l’homme, a déclaré : “Nous savons que l’intelligence artificielle a la faculté d’être extrêmement bénéfique à l’humanité. Elle pourrait améliorer les prospectives et prévisions stratégiques, démocratiser l’accès à la connaissance, doper les progrès scientifiques et améliorer la capacité à traiter d’énormes masses d’information.

Mais si nous voulons tirer parti de ce potentiel, nous devons nous assurer que les bénéfices l’emportent sur les risques et nous devons définir des limites.” Et cela passe, selon lui, par une réglementation de l’IA.

Une réglementation qui doit nécessairement “se fonder sur le respect des droits humains” si l’on veut qu’elle soit “efficace, humaine, qu’elle mette les individus au coeur du développement de nouvelles technologies”. 

La réglementation qui, selon Volker Türk, devrait donc cadrer et baliser l’intelligence artificielle et son utilisation, devrait donc prendre en compte les risques et effets négatifs que risque d’impliquer l’IA, en ce compris et peut-être plus particulièrement pour les plus faibles, les personnes plus démunies, les minorités, les marginalisés, “qui sont affectés de manière disproportionnée par les biais de l’IA”. La formulation de la réglementation devrait dès lors être soigneusement étudiée pour inclure ces aspects dans la gouvernance qui sera préconisée et surveillée.

Autres risques à prendre en considération et à anticiper via la réglementation : les risques d’abus de pouvoir ou d’intrusions dans la vie privée par des “autorités” ou “acteurs ayant un “pouvoir” sur l’individu – en ce compris les forces de l’ordre, les services financiers, les décideurs publics…

La réglementation que voudrait voir se matérialiser le Conseil des droits de l’homme de l’ONU doit par ailleurs “évaluer les risques sur les droits humains et les impacts de systèmes IA avant, pendant et après leur utilisation”. La déclaration du Haut Commissaire cite ici de nécessaires “garanties de transparence, de supervision indépendante, d’accès à des recours efficaces, en particulier lorsque l’Etat lui-même utilise des technologies IA.”

Le Haut Commissaire a par ailleurs insisté sur le fait qu’aux yeux du Conseil une simple auto-régulation par l’industrie était insuffisante : “I think we have learnt our lesson from social media platforms in that regard. Whilst their input is important, it is essential that the full democratic process – laws shaped by all stakeholders – is brought to bear, on an issue in which all people, everywhere, will be affected far into the future.”

Volker Türk : “The question before us today — what the limits should be on artificial intelligence and emerging technologies — is one of the most pressing faced by society, governments and the private sector. […] Artificial intelligence must be grounded in human rights.”

Lien vers la déclaration de Volker Türk, Haut Commissaire de l’ONU aux droits de l’homme.