Facing the Automation of State Bureaucracies: Accommodation or Refusal? Face à l'automatisation des bureaucraties d'État, l'accommodement ou le refus ? En Fr

Résumé En Fr

While applied computer science has entered a new phase with the progress made in so-called "artificial intelligence" technologies, this chapter starts from the observation that state bureaucracies are becoming increasingly automated in various fields of public policy. In the face of the mounting resistance and concerns raised by this new socio-technical paradigm, many stakeholders have been pushing for new regulations consisting in ensuring the transparency, "explicability" and "auditability" of algorithms, or minimising the risks for fundamental rights through so-called "privacy-by-design" methods and ethical charters intended for developers. Now, it is striking to note the similarities between these policy responses and the regulations adopted during the first cycle of computerisation, in the 1960s and 1970s. In order to highlight this "eternal return" of these routinised modes of management of computer-related controversies, this chapter aims to situate the current process of automation of public bureaucracies in a longer history of the state and information technologies. It goes on to argue that the procedural focus through which many stakeholders are trying to ward off the dangers of new computer technologies risks not only ending in failure, but that it also eludes many of the democratic stakes raised by the spread of digital technologies within public bureaucracies and across the social world more broadly.

Alors que l’informatique appliquée est entrée dans une nouvelle phase de son histoire à la suite des progrès réalisés dans les techniques dites d’« intelligence artificielle », ce chapitre part du constat d’une automatisation croissante des bureaucraties d’État dans différents champs des politiques publiques. Face aux résistances et aux enjeux politiques soulevés par cette nouvelle donne socio-technique, on assiste au retour en force de réglementations consistant à garantir la transparence, l’« explicabilité » et l’« auditabilité » des algorithmes, ou encore à réduire autant que faire se peut les risques pour les droits fondamentaux au travers d’approches dites de « privacy-by-design » et de chartes éthiques à l’attention des développeurs. Or, il est frappant de constater les similitudes entre ces préconisations et les règles adoptées à l’époque du premier cycle d’informatisation de la société, dans les années 1960-1970. Afin de mettre en évidence cet « éternel retour » de modes devenus routiniers de gestion des controverses liées au numérique, ce chapitre propose de replacer l’automatisation actuelle des bureaucraties publiques dans une histoire plus longue de l’État et de l’informatique. Il s’agit ainsi de montrer que cette focale procédurale par laquelle on tente aujourd’hui de conjurer les dangers de l’informatique risque non seulement de se solder par un échec, mais qu’elle élude aussi nombre des enjeux démocratiques soulevés par la démultiplication des technologies numériques au sein des administrations et, plus largement, dans l’ensemble du monde social.