Un rapport de recherche sur la transparence des décisions publiques automatisées.

Les chercheureuses Denis Merigoux, Marie Alauzen, Justine Banuls, Louis Gesbert et Émile Rolley publient en libre accès un rapport intitulé “De la transparence à l’explicabilité automatisée des algorithmes : comprendre les obstacles informatiques, juridiques et organisationnels“.

Résumé : “Les algorithmes publics ou traitements informatiques opérés par les administrations sont soumis à des obligations de transparence et d’explicabilité. Ces obligations ont été mises en place pour justifier les décisions prises par ces algorithmes et garantir leur redevabilité vis-à-vis des personnes concernées. Ce rapport de recherche vise à explorer les obstacles informatiques, juridiques et organisationnels, qui entravent la mise en œuvre de la redevabilité et propose d’élargir la conception de l’explicabilité, afin de la rendre plus opérationnalisable par les administrations. Partant d’un état de l’art de l’explicabilité des décisions automatisées ajusté aux spécificités administratives, nous avons initié une enquête exploratoire sur l’algorithme de calcul des aides au logement de la Caisse nationale d’allocations familiales et conçu, à partir de ce diagnostic, trois prototypes testant la faisabilité de la production automatique d’explications de qualité. Nous montrons ainsi que l’utilité des explications est tout aussi cruciale d’un point de vue externe — pour les citoyennes et les institutions de contrôle — que d’un point de vue interne à l’administration — afin d’assurer la fiabilité du système d’information au gré des évolutions. Nous recommandons que la technologie de la décision automatisée et celle de son explication partagent une infrastructure commune, s’appuyant sur la lettre du droit.”

A l’occasion de cette parution, ils diffusent leurs résultats dans une tribune intitulée “L’opacité autour des décisions administratives automatisées n’est pas une fatalité”, dans laquelle ielles insistent sur la dimension éminemment politique de la transparence des algorithmes.

Dématérialisation des données de la CAF et algorithme de contrôle.

L’association la Quadrature du net, en collaboration avec les collectifs Stop Contrôles et Changer de Cap, publie son analyse de l’algorithme utilisé entre 2020 et 2018 par la CAF pour, à partir des données dématérialisées des allocataires, mener un profilage des personnes qui, selon elle, seraient les plus susceptibles de fraude.

La presse se fait écho de ce travail : le Monde publie à ce propos sa propre enquête ; l’Humanité proposant également un résumé de ce travail, en libre accès.

Proposition pour améliorer le service des CAF : le numérique au cœur des exigences associatives.

Un collectifs interassociatif publie une plateforme de six propositions pour “Remettre l’humain et le droit au cœur de l’action des CAF”.

Intitulée Changer de cap, cette publication évoque notamment, parmi les sujets prioritaires, l’exigence de “mettre les capacités du numérique au service de la relation humaine” :
Nous demandons l’application de la loi, du RGPD et des avis de la CNIL. Les paramétrages des programmes informatiques, de calcul comme de simulation, doivent intégrer les dispositions légales. Un débat public doit être organisé d’urgence pour faire toute la transparence sur les marchés passés avec les prestataires privés, leurs objectifs et leur contenu. Nous demandons la réappropriation du numérique comme un commun par la remise en place d’équipes stables interne, animées par une éthique du service public, suffisamment nombreuses pour développer les applications, mais aussi contrôler les prestataires, cogérer les erreurs et les évolutions dans la transparence en y associant toutes les parties en cause, notamment les usagers pour les interfaces et des juristes pour l’élaboration des programmes.”

Un rapport associatif dénonce des contrôles Caf “automatisés” et “ciblés sur les plus précaires”

A la suite d’un appel à témoignages et d’un forum en ligne (“Algorithme et contrôle social”) le 24 février dernier, le collectif Changer de Cap a élaboré un dossier dense et très documenté relatif aux contrôles effectués par les Caf.

Prêtant une attention particulière aux usages de l’outil numérique dans ces contrôles, le collectif associatif dénonce, entre autres, “des procédures automatisées et un gigantesque algorithme générant des dizaines de milliers de contrôles”, “Un contrôle social ciblé sur les plus précaires” (les trois-quarts des témoignages reçus concernent des femmes seules en situation de précarité), des “absences d’interlocuteurs, erreurs répétées : une administration désorganisée par la numérisation”.

Parmi les propositions avancées, on relèvera en particulier la dernière: il est possible de concevoir une utilisation alternative des capacités démultipliées de calcul et de traitement des données, en les utilisant comme des Communs, en faisant par exemple des algorithmes des outils pour généraliser l’accès effectif de tous à leurs droits, tout en respectant le droit de chacun à l’intimité. C’est sur ce point que nous souhaitons travailler en commun avec tous ceux qui s’élèvent contre l’emprise totale, voire totalitaire du numérique sur nos vies et sur la société”.

A lire sur le site de l’association.

Caf.fr : nouveau système d’identification aux services numériques des Caf. De nouveaux obstacles à l’accès aux droits (notamment pour les étrangers).

Depuis le 9 octobre, toutes les Caf de France ont mis en place “un nouveau service d’identification permettant notamment de se connecter avec son numéro de sécurité sociale aux services de la CAF, au lieu du traditionnel numéro d’allocataire”, a indiqué la CNAF dans un communiqué. Comment accéder à son compte ? La Voix du Nord explique les changements.

Courant octobre, un bug informatique a affecté l’accès au système (voir par exemple La Dépêche du jeudi 14 octobre 2021).

Comme l’ont très vite remarqué les personnes concernées et les acteurs qui les accompagnent dans leurs démarches, le nouveau système est inaccessible aux personnes sans numéro de sécurité sociale définitif (NIR) : le numéro de sécurité sociale provisoire (NIA) n’est pas utilisable (Fédération des acteurs de la solidarité, 2 nov. 2021 : voir dans cet article un contact associatif sur cette problématique). Les craintes sont grandes que l’accès aux droits soit bloqué pendant plusieurs mois pour ces personnes (c’est le cas, par exemple, des réfugiés ou des bénéficiaires de la protection subsidiaire, mais plus largement de nombreuses personnes sont concernées). Contactée par la Fédération des acteurs de la solidarité, la CNAF demande aux usagers de contacter les Caf par téléphone (3230) ou de transmettre les documents par mail – car dans les faits, le module de prise de rendez-vous en ligne via le site caf.fr n’offre que rarement des créneaux disponibles, selon les acteurs de terrain.

Selon Mediapart, cela impacterait 68 000 allocataires (estimation CNAF). De son côté, la CNAF assure que l’accès aux prestations continue d’être garanti. Mais la réalité semble toute autre : « si les gens ne sont pas accompagnés par un travailleur social ou un proche qui n’hésite pas à chercher à contourner le truc, je pense que c’est très difficile, ils passent à côté de leurs droits car les demandes de prestations sociales ne sont pas rétroactives », explique une agente d’une CAF.

Sur l’obtention du NIR, et les problèmes d’accès aux droits, voir cette page http://www.gisti.org/spip.php?article5939 et en particulier la note Comede/Gisti suivante : Prestations de sécurité sociale : justification de l’identité et procédure d’identification, note pratique, Comede/Gisti, janvier 2021 http://www.gisti.org/spip.php?article6550

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search