On connaissait déjà les algorithmes qui décident si vous méritez un prêt bancaire ou une place en école. La CAF et l’Assurance maladie ont, elles aussi, leurs systèmes de notation pour repérer les dossiers à risque, avec tous les risques éthiques dont on a déjà parlé. Cette fois, c’est au tour de France Travail de soumettre votre profil à l’IA.
Un algorithme entraîné sur 60 000 contrôles
Dans un article publié le 20 juillet 2026, en collaboration avec la cellule investigation de Radio France, l’association La Quadrature du Net a mis la main sur un document pour le moins problématique. Daté du 10 décembre 2025 et présenté au comité d’éthique IA de France Travail, il détaille le fonctionnement d’un algorithme de ciblage du Contrôle de la Recherche d’Emploi, abrégé en CRE.
L’idée derrière l’outil ? Utiliser l’intelligence artificielle pour repérer, sans intervention humaine, les dossiers qui méritent un examen approfondi. Concrètement, l’algorithme cherche à prédire quels demandeurs d’emploi manqueraient à leurs obligations de recherche active. Pour y parvenir, il a été entraîné sur une base de 60 000 contrôles passés, chaque profil ayant été étiqueté « suspect » ou « non suspect » par les équipes de l’institution.
Le tri automatisé repose sur 26 variables : ancienneté d’inscription, niveau de formation, historique des manquements, activités déclarées, et une série d’autres critères que France Travail se garde bien de détailler. Pour l’instant, le dispositif est testé sur les profils des personnes en rupture conventionnelle. Mais l’institution ne compte pas s’arrêter là : elle veut étendre le modèle à d’autres publics, avec l’ambition de transmettre chaque mois des listes de contrôle ciblées, directement issues du calcul algorithmique, aux agents chargés des vérifications.
Le calendrier ne doit rien au hasard. Depuis le 1er janvier 2026, l’inscription à France Travail est devenue obligatoire pour les allocataires du RSA. Ce sont donc plus de 6 millions de personnes en recherche d’emploi qui pourraient, chaque mois, voir leur dossier passé au crible par cet outil, avec à la clé un risque bien réel de radiation ou de suspension des allocations pour celles et ceux jugés « suspects » par l’IA.
Une boîte noire qui inquiète
France Travail défend son algorithme en vantant des critères plus objectifs. Sauf que La Quadrature du Net pointe une opacité totale : l’institution refuse de communiquer le code source de ses intelligences artificielles, rendant impossible tout audit indépendant des biais éventuels. Rappelons toutefois que ce type de dérive n’a rien d’inédit. La CAF a été épinglée à plusieurs reprises pour son algorithme de notation des allocataires, tout comme l’Assurance maladie sur d’autres dispositifs de contrôle. Si les algorithmes n’ont, par définition, pas de préjugés, ils sont toutefois entrainés sur des données humaines, qui elles en sont pétries.
Autre motif d’inquiétude, et non des moindres : La Quadrature du Net évoque la possible arrivée d’une IA générative capable de suggérer directement des décisions aux contrôleurs. Un pas de plus vers une automatisation intégrale du contrôle social, où l’agent humain ne ferait plus que valider ce que la machine a déjà tranché.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
