Séminaire interne # 6 :
Enjeux éthiques des usages de l’IA en santé

Responsables du séminaire

Pr. Thierry Ménissier, directeur de la chaire « Éthique & IA »
Pr. Fabienne Martin-Juchat
Dr. Ambre Davat

Objectif du séminaire

L’objectif de ce séminaire est d’aborder dans un cadre pluridisciplinaire les enjeux éthiques de l’intelligence artificielle (y compris le numérique) dans le domaine de la santé. Nous invitons à y participer des intervenants qui développent ou utilisent à un degré ou à un autre ces nouvelles technologies : médecins, soignants, informaticiens, designers, investisseurs, patients et citoyens. Accueillant ces diverses parties prenantes, le séminaire a pour ambition de confronter les grandes ambitions liées au développement de l’IA en santé, aux réalités des vécus sur le terrain. Les sujets abordés concerneront notamment :

• La relation entre l’éthique et les méthodes de conception des dispositifs médicaux et dispositifs de e-santé basés sur l’IA ;
• l’usage de ces dispositifs dans la pratique médicale et le traitement des maladies, en regard des différentes normativités qu’elles impliquent (déontologie des professions de santé, lois et règlementations, éthique du care, etc.) ;
• la définition, la collecte et la gestion des données de santé et la nécessité de déterminer la meilleure éthique du numérique et de la donnée possible ;
• les nouvelles représentations du corps et de la santé produites par ces technologies, en prêtant attention aussi bien à l’évolution des concepts fondamentaux de l’éthique (tels que l’agentivité et la responsabilité, l’autonomie des patients et l’autorité de la science) qu’aux enjeux éthiques, politiques, anthropologiques et esthétiques.

Présentation détaillée du séminaire

Présentée parfois comme la quatrième révolution industrielle, l’intelligence artificielle suscite à la fois espoirs et inquiétudes, en particulier dans le domaine de la santé. Les algorithmes de deep learning, après avoir bouleversé le domaine de la reconnaissance d’images, font désormais leurs preuves dans l’aide au diagnostic. Le big data permet de développer de nouveaux modèles épidémiologiques, et d’envisager des campagnes de prévention et de dépistage personnalisées. Grâce à la miniaturisation de l’électronique, de nouveaux objets connectés ont pu apparaître, y compris implants et prothèses intelligentes, conçues pour soutenir voire remplacer un organe défaillant. Et depuis longtemps, sous diverses formes, la robotique a fait son entrée à l’hôpital, d’abord dans les blocs opératoires pour améliorer la précision des gestes chirurgicaux, puis dans les couloirs et même les chambres des patients, pour accompagner le travail des infirmiers et aides-soignants.

Au-delà de la performance technique de ces systèmes d’IA, il est fondamental de s’intéresser dès leur conception aux interactions entre humains et algorithmes, qui détermine l’usage en vie réelle de ces technologies. Si l’IA permet parfois de gagner du temps ou de faire progresser les connaissances médicales, elle bouleverse les organisations et transforme à la fois les métiers du soin et les traitements disponibles. En pratique, l’analyse coût-bénéfice de ces technologies est très difficile, en particulier si elle englobe l’impact environnemental. Ainsi la conception et l’évaluation des systèmes d’IA rendent nécessaires un décloisonnement des disciplines, et une coopération inédite de la part de différents acteurs issus à la fois de la médecine, de l’ingénierie et des sciences humaines et sociales.

Une autre question centrale est celle de la gestion des données personnelles. En effet, le succès de l’intelligence artificielle repose sur de grandes bases de données, ce qui nécessite un important travail de collecte et de maintenance. Dans le cas de la santé, ces données sont particulièrement sensibles pour ce qu’elles révèlent de leur propriétaire. Elles représentent un enjeu important, en termes de respect de la vie privée et d’accès à l’information pour les patients.

Par ailleurs, nos conceptions de la santé, de la maladie, du handicap, ou encore de la relation patient-médecin évoluent au contact des systèmes d’IA. Ainsi les technologies de quantified self et de calcul de risques individuels pourraient encourager la prévention, mais font également craindre une disparition des caisses d’assurance collectives, remplacées par des caisses d’épargne où chaque citoyen économiserait en prévision de ses futures dépenses de santé. De même, on peut se demander si l’IA permet aux médecins de consacrer plus de temps à la relation avec leurs patients, ou au contraire si elle les en éloigne, l’interface numérique se substituant progressivement au corps du patient.

À travers l’expérience des différents intervenants, il s’agit donc de réfléchir aux conditions dans lesquelles l’IA améliore le soin, et favorise l’encapacitation des différents acteurs de la santé. Au vu des transformations en cours, la réflexion éthique liée au déploiement de ces nouvelles technologies en santé ne peut prendre une forme univoque : compte tenu de la variété des pratiques dynamisées par l’innovation, elle constitue même un véritable chantier, auquel le séminaire entend œuvrer.

Cette réflexion éthique se comprend nécessairement au croisement des quatre formes de discours qui, actuellement, conjuguent leurs tentatives afin d’accompagner l’IA grâce à l’éthique : l’éthique algorithmique (ou Computer ethics) qui entend élaborer des systèmes d’algorithmes « explicables », « transparents » et « équitables » ; l’éthique de la robotique (Artificial ethics) qui réfléchit notamment à la capacité des systèmes technologiques d’augmenter l’autonomie humaine grâce à l’interaction de machines qui deviennent de véritables artefacts sociaux ; l’éthique du numérique et de la donnée (Digital ethics), qui entreprend de concevoir les valeurs et les règles adaptées à un usage des réseaux et des data à la fois efficace, respectueux des personnes et juste ; enfin, l’éthique des usages de l’IA (que nous proposons de nommer « UX IA ethics »), qui observe et décrit les cas d’usage afin de concevoir, de mettre en œuvre et de tester les protocoles permettant de développer des pratiques de soin et de santé technologiquement assistées conformes aux valeurs éthiques.

Le séminaire a pour ambition d’interroger les pratiques au prisme des quatre formes actuelles de l’éthique de l’IA, afin de faire progresser l’éthique de l’IA en santé.

Modalités

Chaque séance du séminaire dure 1h30. Elle commence par un exposé de 30 à 45 min, suivi d’une discussion avec les participants.

Ce séminaire constitue un espace de travail et d’échanges pluri et interdisciplinaires. L’objectif est de présenter une éthique en cours d’élaboration, basée sur les pratiques, plutôt que d’exposer des résultats.

Entrée libre et gratuite sur inscription par envoi d’un courriel à ambre.davat@univ-grenoble-alpes.fr