Dispositifs, pouvoirs & IA

Responsable Thierry Ménissier & Eugène Favier-Baron

L’intelligence artificielle se situe à la confluence de plusieurs logiques dont aucune n’est indépendante du phénomène du pouvoir. Ainsi, en tant que forme particulière de pensée et d’action sur le monde, l’informatique manifeste le pouvoir de créer des systèmes d’algorithmes. Ceux-ci, une fois déployés dans des programmes variés, agissent sur la société de diverses manières : par exemple, ils créent des data utiles pour la connaissance et l’expertise en tous domaines possibles, ou encore ils sont implémentés dans des dispositifs robotiques plus ou moins autonomes. Sur un autre plan, ces différentes manifestations de l’IA sont permises par des organisations privées et publiques (dans les rôles de financeurs, de développeurs et de prescripteurs), qui sont des puissances sociales actives. Enfin, les effets de l’IA se font sentir, de manière directe et indirecte, et parfois très subtile, dans les pratiques courantes des usagers.

Permise par des pouvoirs, l’IA est-elle-même un pouvoir qui agit et permet d’agir sur les conduites individuelles, et qui tend à façonner les comportements collectifs. Une éthique de l’IA digne de ce nom doit prendre en considération ces phénomènes : le respect des valeurs démocratiques, qui doit guider une éthique du savoir informatique et de ses effets, s’assortit donc nécessairement d’une compréhension socio-économique et d’une approche en termes de pensée politique.

Ce programme se donne pour premier objectif d’identifier les formes de pouvoir liées à l’IA, en les pensant à partir des dispositifs qui la soutiennent et l’intègrent – par exemple les formes socio-économiques et politiques qui la favorisent –, et de ceux qu’elle engendre par elle-même, depuis sa conception jusqu’à ses implémentations. Les sujets abordés par ce programme sont notamment :

La manière dont l’informatique contemporaine se trouve plus ou moins liée au projet cybernétique, dont on peut au moins dire qu’il a engendré la première vision systématique d’une organisation basée sur la circulation de l’information ; comment, en particulier, le projet de société porté par la cybernétique, induit le modèle d’une société pacifiée, intégralement assistée par des machines automatiques, par exemple via la blockchain ou l’« Internet des objets » (IoT).
La puissance de calcul, la production et la gestion des data comme modalités de mise en forme de l’action publique,
- dans le contexte de l’usage de ces technologies par l’Etat et par conséquent de la possible transformation de l’action publique,
- ce qui invite à l’invention de nouvelles conceptualités pour en rendre compte,
- et compte tenu de la tendance de fond d’une transformation des manières d’agir de la puissance publique sur la longue durée, attirée par « la politique des grands nombres » (selon l’expression de Desrosières 2010 pour qualifier le poids croissant de la statistique).
L’action des systèmes d’information intégrant de l’IA au sein des entreprises, et leur effet sur la stratégie de ces dernières, sur l’administration de leurs personnels et sur la gestion de leurs ressources matérielles et immatérielles.
L’influence de l’économie digitale sur les comportements dans le cadre du « capitalisme de surveillance » (Zuboff 2019), à savoir plus précisément :
L’effet des systèmes d’IA sur les conduites humaines, que ce soit
- en termes d’influence des plateformes et des applications, tout particulièrement à travers l’effet des algorithmes de recommandation et des nudges (Thaler & Sunstein 2004), ce qui conduit à l’émergence de formes originales d’assujettissement, tel que le « paternalisme libéral »,
- en matière d’interaction humains-machines dans l’observation des comportements assistés par la robotique anthropomorphe et non-anthropomorphe.