Les demandeurs d’emploi surveillés par des algorithmes : France Travail au centre des critiques

France Travail, l’organisme en charge de la gestion des demandeurs d’emploi, est aujourd’hui scruté pour ses méthodes de surveillance algorithmique.

L’association de défense des droits numériques, la Quadrature du Net, lance une vive critique contre l’utilisation croissante d’algorithmes pour évaluer et catégoriser les chômeurs. Ces outils évaluent tout, du score de suspicion à la score d’employabilité, visant à optimiser le travail des conseillers.

Utilisation controversée des algorithmes dans le suivi des chômeurs

L’essor de l’utilisation controversée des algorithmes dans la gestion des demandeurs d’emploi par France Travail a suscité de vives réactions. Ces outils, élaborés pour optimiser le travail des conseillers, utilisent des scores de suspicion et des scores d’employabilité, censés évaluer l’honnêteté et l’attractivité des chômeurs sur le marché du travail. Cette méthode de profilage algorithmique pose de sérieuses questions éthiques.

La critique de la Quadrature du Net soulève un débat nécessaire sur l’application de l’éthique de l’IA dans les politiques publiques. En confiant à des algorithmes la tâche de classer les individus, on risque de transformer une démarche initialement destinée à aider en un outil de jugement impersonnel. Cette technologie, bien qu’avancée, doit être utilisée avec prudence pour éviter de compromettre le droit fondamental à une prise en charge équitable et humaine.

• Évaluation de l’honnêteté des chômeurs par des scores de suspicion,
• Utilisation de scores d’employabilité pour juger de l’attractivité sur le marché du travail,
• Risques de déshumanisation dans le traitement des demandeurs d’emploi,
• Questions éthiques soulevées par l’utilisation intensive de l’IA,
• Nécessité d’un débat sur l’équilibre entre technologie et éthique dans le service public.

Impact des classifications automatiques sur les demandeurs d’emploi

Les classifications automatiques mises en œuvre par France Travail peuvent entraîner une stigmatisation et une standardisation de l’accompagnement des chômeurs. En catégorisant les personnes en situation de « perte de confiance », en « besoin de redynamisation » ou à « risque de dispersion », ces systèmes algorithmiques risquent de simplifier excessivement la complexité des parcours individuels.

Cette approche peut non seulement affecter négativement la perception du public sur les chômeurs mais aussi altérer la qualité du soutien qu’ils reçoivent. Le danger est que ces étiquettes algorithmiques déterminent les opportunités et le type d’assistance offerts, plutôt que les besoins réels et spécifiques de chaque personne. La personnalisation de l’accompagnement, indispensable à l’efficacité de l’aide apportée, doit rester une priorité.

La classification algorithmique risque de transformer la perception sociale des demandeurs d'emploi, les réduisant à des statistiques plutôt qu'à des individus avec des histoires uniques.

Les enjeux éthiques et sociaux du contrôle algorithmique

L’adoption croissante du contrôle algorithmique dans la gestion des demandeurs d’emploi chez France Travail incarne une forme de surveillance de masse qui pose de graves questions éthiques. Le caractère intrusif de ces outils risque de conduire à une déshumanisation du service public, où les chômeurs sont perçus et traités comme des ensembles de données plutôt que des citoyens avec des droits.

Le risque d’une gestion algorithmique sans contrôles adéquats est que les décisions concernant les vies des personnes soient prises sans contexte humain suffisant. Ce type de gestion pourrait non seulement nuire aux personnes concernés mais aussi miner la confiance dans les institutions publiques. La défense des droits des chômeurs doit rester au cœur des préoccupations lors de l’implémentation de nouvelles technologies.

La réponse institutionnelle face aux critiques

En réponse aux critiques, Thibaut Guilluy, directeur général de France Travail, a souligné que l’utilisation des algorithmes était destinée à soutenir et non à remplacer le travail des conseillers. Selon lui, ces outils doivent permettre une aide à la décision, libérant ainsi du temps pour un accompagnement personnalisé. Mais cette déclaration ne répond pas complètement aux inquiétudes concernant la lutte contre la fraude et les risques de profilage excessif.

Le directeur a aussi mentionné une charte éthique, censée garantir un cadre de confiance respectueux des valeurs de France Travail. Cette initiative est indispensable, mais son efficacité reste à prouver dans la pratique. La distinction entre la mission légale de contrôle et la surveillance excessive est fine, et nécessite une vigilance constante pour ne pas basculer vers une intrusion démesurée dans la vie des personnes.

Les risques liés à l’automatisation des décisions de sanctions

L’introduction de nouvelles formes de sanctions, telles que la « suspension remobilisation », soulevées par Thibaut Guilluy, montre une tendance vers une automatisation des décisions de sanctions. Ces mesures, bien que présentées comme des moyens de motivation, pourraient avoir des conséquences néfastes si elles sont appliquées sans discernement humain approprié.

Ce système pourrait particulièrement affecter les populations en situation précaire, renforçant le contrôle social sur ceux déjà en situation vulnérable. Les applications numériques utilisées pour gérer ces processus augmentent les risques d’erreurs et de jugements injustes, posant un défi majeur à l’équité du système.

Dialogue nécessaire entre technologie et respect des droits humains

Maintenir un dialogue ouvert entre les institutions publiques, les défenseurs des droits, les usagers et les représentants du personnel est nacessaire pour équilibrer les avantages potentiels de la technologie avec les impératifs éthiques. Cet échange constant peut aider à trouver le juste milieu entre efficacité et respect des droits humains.

L’enjeu est de créer un service public efficace tout en garantissant que l’usage des technologies respecte les libertés individuelles et ne creuse pas davantage le fossé entre différentes strates sociales. La réussite de cette intégration technologique sera déterminante pour l’avenir des services publics et pour la confiance que le public leur accorde.