« IA : Que faire de la transparence technique ?»

Le déploiement de processus algorithmiques capables d’apprendre à partir de données et de participer activement à une pluralité de pratiques sociales (dépistage de cancers, évaluation du crédit, recommandation de contenus culturels, etc.) pose la question de leur « transparence ». Mais la teneur de ce terme, dont l’attrait semble irrésistible et la valeur irréfutable depuis une vingtaine d’années, est loin d’être aussi évidente qu’il n’y paraît. En effet, il semblerait qu’on soit face à une double transparence, caractérisée par une tension encore peu ou faiblement problématisée.
D’une part, les systèmes algorithmiques apprenants (machine learning) avec lesquels nous interagissons dans un nombre croissant de domaines sont encore largement conçus selon un idéal de transparence que l’on pourrait qualifier de phénoménologique (M. Wheeler ; D. Ihde ; M. Heidegger). De ce point de vue, l’objet technique qui fonctionne normalement, qui remplit sa fonction, est celui qui s’efface dans l’action, qui disparaît du champ de perception immédiat pour ouvrir des possibilités d’action amplifiées. Ainsi, nous n’avons pas conscience du crayon lorsque nous écrivons normalement mais uniquement lorsque la mine se brise ; de même les lunettes de vue ne sont perceptibles qu’à partir du moment où elles présentent une anomalie qui gêne la vue normale. On voit cette logique se transposer au niveau du design de systèmes algorithmiques qui soient ergonomiques et user-friendly. L’objet technique est censé être aussi discret que possible, voire invisible, c’est-à-dire que l’on doit pouvoir voir à travers lorsque nous agissons avec lui. On retrouve cette logique à l’oeuvre dans le célèbre PageRank de Google qui demande explicitement aux éditeurs de contenus de ne pas prendre en compte les critères de l’algorithme dans leurs publications, de faire comme s’ils agissaient « naturellement » (D. Cardon). La même logique se rejoue sur les plateformes comme YouTube, Amazon ou Netflix dont l’action de recommandation est censée être aussi fluide et imperceptible que possible (T. Reigeluth). La question est de savoir si le critère normatif mis en avant par le paradigme de la transparence phénoménologique est réellement transférable ou même désirable lorsqu’il s’agit d’objets techniques qui ne sont pas de simples instruments pour nos sens et nos organes, mais des systèmes faisant preuve d’une certaine autonomie (M. Wheeler) et inventivité normative, en ce qu’ils transforment les pratiques sociales dans lesquelles ils sont déployés (J. Grosman et T. Reigeluth). En d’autres termes, on est en droit de se demander si l’enjeu majeur ne consiste pas plutôt, à rebours de cette première tendance, à rendre les systèmes techniques aussi perceptibles que possible, ou du moins à repenser la manière dont ils se présentent à nous dans l’action.
D’autre part, les critiques – provenant pour la plupart des sciences humaines et sociales ou de la théorie du droit – préconisent que les effets normatifs produits par ces systèmes (biais, discriminations, etc.) soient rendus lisibles et transparente (N. Diakopoulos ; F. Pasquale, C. Sandvig), dans un mode de gouvernement faisant la part belle à la reddition des comptes (accountability). Toutefois, rien ne nous dit qu’une telle exigence soit suffisante pour gouverner la complexité de ces systèmes techniques, qu’elle nous permette d’accéder à une vérité plus profonde que celle qui se joue dans les effets normatifs (bien réels au demeurant) qu’ils produisent. Le paradoxe de la plupart de ces critiques « sociales » est qu’elles reproduisent une idée de transparence des états cognitifs, mise en avant par certaines approches des sciences cognitives et neurologiques, selon laquelle il existerait une correspondance observable entre un comportement et un état cognitif cérébral. Or, lorsque les ingénieurs qui programment ces algorithmes ont eux-mêmes du mal à rendre compte précisément des raisons pour lesquelles les systèmes algorithmiques ont produit telle ou telle sortie problématique sur le plan social ou éthique, la question se pose de savoir si le fait de pouvoir « ouvrir la boîte noire » servira à quelque chose. Et quand bien même cela serait utile, voire nécessaire, il n’est pas certain que cela soit suffisant pour gouverner ces systèmes (J. Burrell). En effet, en tant que mode de gouvernement, la transparence pose une série de difficultés et de limites qu’il s’agit de penser : surcharge informationnelle, règne de l’expertise, mise à plat et indistinction des enjeux politiques, difficulté à cerner le public concerné par la transparence, sur-responsabilisation des ressources et compétences individuelles à décoder l’information (M. Ananny et K. Crawford ; T. Berns).
Le risque alors serait que la transparence soit finalement une exigence relativement faible ou lâche, qui s’apparente davantage à un mot d’ordre avec lequel tout le monde est, dans l’absolu, d’accord. En effet, qui s’opposerait à la transparence, quand celle-ci est devenue synonyme de bonne gouvernance, voire de démocratie ? Bien plus : comment arriver à une norme politique forte qui soit techniquement efficace et actionnable ? Dès lors, la question suivante se pose : que doit-on faire de la transparence ? Ce colloque propose de répondre à cette question à partir de la pluralité des cadres théoriques et des domaines scientifiques concernés par la question de la transparence des systèmes algorithmiques apprenants : sciences cognitives, philosophie politique et des techniques, informatique, sociologie, anthropologie, sciences de l’information et de la communication, sciences de gestion, théorie du droit, etc. Les langues du colloque sont le français et l’anglais, il est fortement conseillé aux participant.e.s qui proposent une intervention en anglais d’avoir une compréhension passive du français.