Transparence des algorithmes face à l'Open Data : Quel statut pour les données d'apprentissage ?

Résumé En Fr

Public administration's reliance on software algorithms brings the risk of obfuscating the factual and legal basis of administrative decisions. In accordance with the principles of open data, new rules have been introduced to preserve the transparency of algorithmic decisions; yet nothing has been said concerning the data that will influence these algorithms. This article investigates the issues stemming from the use of algorithms in the public administration, and underlines the need to guarantee not only access to the source code of these algorithms, but also access to the databases on which they have been trained.

L'utilisation d'algorithmes informatiques au sein des administrations publiques risque d'obfusquer les fondements factuels et juridiques des décisions administratives. Dans l'effort de respecter les principes d'un gouvernement ouvert (open data), le législateur s'est jusqu'à présent focalisé sur la transparence de la décision algorithmique, mais rien n'est précisé sur les données qui vont influencer ces algorithmes. Cet article s'intéresse aux problématiques liées à l'application d'algorithmes dans les décisions administratives, et souligne la nécessité de garantir non seulement l'accès au code source de ces algorithmes, mais aussi l'accès aux bases de données qui les ont entraînés.