Intelligence artificielle : limiter les risques et maximiser les opportunités pour la santé (OMS)

L'intelligence artificielle (IA) recèle un énorme potentiel pour améliorer la santé de millions de personnes dans le monde si l'éthique et les droits de l'homme sont au cœur de sa conception, de son déploiement et de son utilisation, a indiqué dans un nouveau rapport l’OMS, l’Organisation mondiale de la santé.

« Comme toute nouvelle technologie, l'intelligence artificielle peut aussi en être fait mauvais usage et elle peut entraîner des effets préjudiciables », a indiqué Tedros Adhanom Ghebreyesus, Directeur général de l'OMS.

Pour réglementer et gouverner l'IA, l'OMS a publié de nouvelles orientations qui proposent six principes pour limiter les risques et maximiser les opportunités intrinsèques à l'intelligence artificielle pour la santé.

Gouverner l'intelligence artificielle

Le rapport de l'OMS intitulé Éthique et gouvernance de l'intelligence artificielle pour la santé souligne que l'IA peut être utilisée, et l'est déjà dans certains pays riches, pour améliorer la rapidité et la précision du diagnostic et du dépistage des maladies, pour faciliter les soins cliniques, pour renforcer la recherche en santé et la mise au point de médicaments, et pour soutenir diverses interventions de santé publique, comme la surveillance des maladies, la riposte aux flambées épidémiques et la gestion des systèmes de santé.

L'intelligence artificielle pourrait également permettre aux patients de mieux contrôler leurs propres soins de santé et de mieux comprendre l’évolution de leurs besoins. Elle pourrait faciliter l’accès aux services de santé dans les pays disposant de peu de ressources et dans les communautés rurales, où les patients peinent souvent à accéder aux agents de santé ou au personnel médical.

Toutefois, le rapport met en garde contre une surestimation de ses avantages pour la santé, notamment au détriment des investissements et des stratégies de base nécessaires pour parvenir à une couverture sanitaire universelle.

Des défis à relever

Le nouveau rapport de l'OMS souligne que les opportunités sont liées à des défis et à des risques et met en garde contre la collecte et l'utilisation non éthiques des données de santé, les biais encodés dans les algorithmes et les risques pour la sécurité des patients, la cybersécurité et l'environnement.

En outre, elle avertit que les systèmes formés principalement à partir de données recueillies auprès d'individus dans les pays à revenu élevé risquent de ne pas être performants pour les individus dans les milieux à revenu faible ou intermédiaire.

Dans ce contexte, l'OMS soutient que les systèmes d'IA doivent être soigneusement conçus pour refléter la diversité des contextes socio-économiques et sanitaires et être accompagnés d'une formation aux compétences numériques, d'un engagement communautaire et d’une sensibilisation.

Cela est particulièrement important pour les travailleurs de la santé qui ont besoin d'une formation ou d'un recyclage numérique pour faire face à des machines qui pourraient remettre en question la prise de décision et l'autonomie des prestataires et des patients.

Unsplash/Michael Dziedzic

L'intelligence artificielle pourrait avoir des effets négatifs, voire catastrophiques si elle est utilisée sans prendre suffisamment en compte la manière dont elle affecte les droits humains

Six principes directeurs

Six principes ont été développés par l’OMS qui guideront les travaux futurs de l’agence de la santé en vue de garantir que le plein potentiel de l’IA en matière de soins de santé et de santé publique soit mis au service du bien de tous.

Ainsi le premier principe directeur est de protéger l'autonomie humaine pour que les personnes puissent garder le contrôle des systèmes de soins de santé et des décisions médicales.

En effet, la vie privée et la confidentialité doivent être protégées et les patients doivent donner un consentement éclairé valide au moyen de cadres juridiques appropriés en matière de protection des données.

Afin de promouvoir le bien-être humain et l'intérêt public, le deuxième principe invite les concepteurs d'IA à garantir les exigences réglementaires en matière de sécurité, de précision et d'efficacité, y compris les mesures de contrôle de la qualité.

Le troisième principe indique qu’il faut garantir la transparence, la clarté et l’intelligibilité. Les informations doivent être publiées ou documentées avant la conception ou le déploiement de la technologie d'IA, être facilement accessibles et permettre une consultation et un débat publics constructifs sur sa conception et son utilisation.

Bien que les technologies d'IA effectuent des tâches spécifiques, le quatrième principe insiste sur le fait qu’elles doivent être utilisées de manière responsable, dans des conditions appropriées, par des personnes correctement formées. Des mécanismes efficaces doivent être mis en place pour permettre aux individus et aux groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation.

Le cinquième principe consiste à garantir l'inclusion et l'équité afin que l'IA pour la santé soit accessible au plus grand nombre de personnes possible, indépendamment de l'âge, du sexe, de l'origine ethnique ou d'autres caractéristiques protégées par les codes relatifs aux droits humains.

Enfin, il est important de promouvoir une IA réactive et durable. Le dernier principe invite donc les concepteurs, les développeurs et les utilisateurs à évaluer de manière transparente les applications lors de leur utilisation réelle afin de déterminer si l'IA répond de manière adéquate et appropriée aux attentes et aux exigences.  

Les systèmes d’IA devraient également être conçus de sorte à réduire au minimum leurs conséquences environnementales et à accroître leur efficacité énergétique. Les gouvernements et les entreprises devraient anticiper les bouleversements qui seront occasionnés au niveau du travail, notamment la formation des agents de santé qui devront se familiariser avec l’utilisation des systèmes d’IA, et les pertes d’emploi que le recours à des systèmes automatisés est susceptible d’engendrer.