L'adaptation de la responsabilité aux défis de l'IA

La gouvernance et l’éthique de l’intelligence artificielle s’intéressent particulièrement à la notion de responsabilité. Celle-ci peut être subdivisée en plusieurs notions, telles que la redevabilité, la fiabilité et l’imputabilité. Les contours légaux et juridiques de ces notions doivent être identifiés afin d’être effectivement mis en œuvre dans le cadre de la régulation de l’intelligence artificielle. Par ailleurs, la philosophie des technologies s’est également penchée sur la notion de responsabilité, que ce soit avec des philosophes comme Hannah Arendt, Hans Jonas ou Günther Anders. L’intérêt de ce corpus d’auteurs est qu’ils se connaissaient, ce qui a permis un développement mutuel de leurs travaux et une cohérence méthodologique. Plus précisément, la Déclaration de Montréal sur l’IA responsable stipule que le développement et l’utilisation des systèmes d’intelligence artificielle ne doivent pas contribuer à la déresponsabilisation des êtres humains lorsqu’une décision est prise. Parmi les enjeux liés à la Déclaration de Montréal, on retrouve la gestion de la ville intelligente, du monde professionnel et des objets connectés. On peut également ajouter les secteurs de l’éducation, de la justice, de la police prédictive, de l’armée et de la santé. Une série de propositions énumère des solutions pour éviter cette déresponsabilisation, comme l’attribution de la responsabilité aux seuls humains, la prise de décision uniquement humaine pour les décisions liées à la qualité de vie ou à la réputation d’une personne, ou les décisions impliquant un risque de mort pour les humains. Les questions de responsabilité environnementale peuvent également être abordées. Malheureusement, il est possible que des scandales majeurs liés au déploiement de l’IA viennent ébranler la confiance du public dans cette technologie, ce qu’il convient d’anticiper afin d’en atténuer les risques. L’objectif de cette recherche qui sera menée à Montréal du 18 septembre au 11 décembre 2023 sous la supervision de Marc-Antoine Dilhac est d’étudier l’impact réel de la Déclaration de Montréal sur les acteurs de l’IA, en particulier au Québec. Une meilleure connaissance de l’impact de ce type de déclaration permettrait de mieux diffuser les principes de bonne gouvernance auprès des acteurs concernés, de mieux les mettre en œuvre dans les entreprises et les institutions, et de distinguer correctement la part liée à l’éthique ou au droit pour la mise en œuvre de bonnes pratiques.