Un rapport de recherche sur la transparence des décisions publiques automatisées.

Les chercheureuses Denis Merigoux, Marie Alauzen, Justine Banuls, Louis Gesbert et Émile Rolley publient en libre accès un rapport intitulé “De la transparence à l’explicabilité automatisée des algorithmes : comprendre les obstacles informatiques, juridiques et organisationnels“.

Résumé : “Les algorithmes publics ou traitements informatiques opérés par les administrations sont soumis à des obligations de transparence et d’explicabilité. Ces obligations ont été mises en place pour justifier les décisions prises par ces algorithmes et garantir leur redevabilité vis-à-vis des personnes concernées. Ce rapport de recherche vise à explorer les obstacles informatiques, juridiques et organisationnels, qui entravent la mise en œuvre de la redevabilité et propose d’élargir la conception de l’explicabilité, afin de la rendre plus opérationnalisable par les administrations. Partant d’un état de l’art de l’explicabilité des décisions automatisées ajusté aux spécificités administratives, nous avons initié une enquête exploratoire sur l’algorithme de calcul des aides au logement de la Caisse nationale d’allocations familiales et conçu, à partir de ce diagnostic, trois prototypes testant la faisabilité de la production automatique d’explications de qualité. Nous montrons ainsi que l’utilité des explications est tout aussi cruciale d’un point de vue externe — pour les citoyennes et les institutions de contrôle — que d’un point de vue interne à l’administration — afin d’assurer la fiabilité du système d’information au gré des évolutions. Nous recommandons que la technologie de la décision automatisée et celle de son explication partagent une infrastructure commune, s’appuyant sur la lettre du droit.”

A l’occasion de cette parution, ils diffusent leurs résultats dans une tribune intitulée “L’opacité autour des décisions administratives automatisées n’est pas une fatalité”, dans laquelle ielles insistent sur la dimension éminemment politique de la transparence des algorithmes.

Dossier d’ATD-Quart Monde sur la dématérialisation à France Travail

L’association ATD-Quart Monde consacre le numéro de son Journal de mars 2024 au processus de dématérialisation à France Travail. Intitulé “Accès aux droits : les risques d’une dématérialisation à marche forcée“, ce dossier pointe le risque de déshumanisation qui se dissimule derrière l’argument de la simplification.

Une ordonnance consacrée à l’accessibilité des services publics.

Une ordonnance du 6 septembre 2023 renforce les obligations d’accessibilité des démarches dématérialisées, introduisant notamment des sanctions en cas de défaut de conformité des services aux obligations qui leur sont imposées.

Une évolution nécessaire au regard de la très faible accessibilité des services publics aux personnes handicapées.

Numérisation du livret de formation au Code de la route

Un arrêté du 19 décembre 2023 impose la numérisation du livret de formation au Code de la route pour toutes les inscriptions postérieures au 1er janvier 2024. Aucune exception n’est prévue à cette dématérialisation. Tout au plus l’arrêté précise-t-il qu’ “en cas de perte de l’accès au livret numérique, un nouvel accès sera ouvert à l’élève conducteur, avec l’aide de l’enseignant ou de l’accompagnateur“.

Dématérialisation des données de la CAF et algorithme de contrôle.

L’association la Quadrature du net, en collaboration avec les collectifs Stop Contrôles et Changer de Cap, publie son analyse de l’algorithme utilisé entre 2020 et 2018 par la CAF pour, à partir des données dématérialisées des allocataires, mener un profilage des personnes qui, selon elle, seraient les plus susceptibles de fraude.

La presse se fait écho de ce travail : le Monde publie à ce propos sa propre enquête ; l’Humanité proposant également un résumé de ce travail, en libre accès.

Décision du tribunal administratif de Créteil annulant le téléservice obligatoire à la préfecture des Hauts-de-Seine

Dans une décision du 30 novembre 2023, téléchargeable ci-dessous, le tribunal administratif de Créteil annule le dispositif de mise en place obligatoire d’un téléservice pour les demandes de titres de séjour qui ne sont pas concernés par l’ANEF.

Reprenant le raisonnement posé par le Conseil d’Etat dans son avis du 3 juin 2022, le tribunal affirme qu’ “eu égard aux caractéristiques du public concerné, à la diversité et à la complexité des situations des demandeurs et aux conséquences qu’a sur la situation d’un étranger, notamment sur son droit à se maintenir en France et, dans certains cas, à y travailler, l’enregistrement de sa demande, il incombe à l’autorité administrative, lorsqu’elle impose le recours à un téléservice pour l’obtention de certains titres de séjour, de prévoir les dispositions nécessaires pour que bénéficient d’un accompagnement les personnes qui ne disposent pas d’un accès aux outils numériques ou qui rencontrent des difficultés soit dans leur utilisation, soit dans l’accomplissement des démarches administratives. Il lui incombe, en outre, pour les mêmes motifs, de garantir la possibilité de recourir à des mesures alternatives ou de substitution pour le cas où certains demandeurs se heurteraient, malgré cet accompagnement, à l’impossibilité de recourir au téléservice pour des raisons tenant à la conception de cet outil ou à son mode de fonctionnement.”

En l’occurrence, il constate que “si le préfet des Hauts-de-Seine se prévaut de la mise en place de mesures alternatives de pré-démarche afin de saisir l’administration, à savoir notamment la mise en place de point d’accueil numérique, de services civiques dédiés à l’accueil des usagers, d’un référent numérique, de l’existence d’un site internet ou encore du signalement des usagers placés dans une situation particulière qui sont convoqués directement par les « responsables accueil », il n’établit pas de l’effectivité de ces mesures qui ne peuvent être regardées comme des mesures alternatives ou de substitution effectives à la prise de rendez-vous et au dépôt de demandes de titre de séjour par voie électronique.

Adoption en première lecture d’une proposition de loi visant la réouverture des guichets physiques pour l’accès aux services publics

Une proposition de loi, téléchargeable ci-dessous, avait été déposée devant l’Assemblée nationale le 17 octobre 2023. Défendue par la députée Danièle Obono, la proposition a été adoptée par la représentation nationale le 30 novembre 2023 lors de la niche parlementaire du groupe LFI. Le texte final est disponible ici et est désormais transmise au Sénat.

Nouvelle extension des usages de l’ANEF.

Un arrêté du 28 septembre 2023 élargit les cas dans lesquels les personnes étrangères doivent recourir à la plateforme ANEF pour solliciter la délivrance et le renouvellement de leurs titres de séjour.

Cette extension concerne les personnes sollicitant un titre de séjour pour soins, les personnes sous ordonnance de protection, les victime de traite, les mineur·es étranger·ères isolé·es placé·es auprès de l’Aide sociale à l’enfance avant l’âge de 16 ans et les titulaires de rentes d’accident du travail ou de maladie professionnelle avec un taux d’incapacité d’au moins 20 %.

Article sur la digitalisation des registres de vote au Cameroun

Pour AOC, le socio-anthropoloque Georges Macaire Eyenga signe un article sur les conséquences du choix qu’à fait le Cameroun de créer des registres de vote digitalisés, fondés sur la biométrie.

Intitulé “Digitalisation versus droits humains et éthique ?”, l’article est ainsi résumé par l’auteur : “Dans le discours officiel des bureaucraties ou des promoteurs des nouvelles technologies, la digitalisation est présentée comme une innovation technique destinée à transformer la vie professionnelle et quotidienne de milliers d’individus. Ainsi, depuis 2012, le gouvernement camerounais a adopté des technologies biométriques pour produire un registre de vote sécurisé. Cependant, cette digitalisation, se faisant au moyen de procédures standardisées, ne prend pas toujours en compte la diversité des situations, refoulant par là même de nombreuses personnes des registres de vote.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search