Dans l’univers du système de notation chinois

Caméra de vidéosurveillance via Nick Loggie/Unsplash

L’intelligence Artificielle et le Big Data ont permis au concept du crédit social de se développer dans certaines contrées chinoises. Un pas de plus vers la réalisation du récit dystopique de George Orwell “1984” ?

Non, vous n’êtes pas en train de regarder un nouvel épisode de Black Mirror. La série hollywoodienne avait marqué de nombreux aficionados avec son épisode “Nosedive” décrivant une société hypocrite et superficielle au travers un système de notation des citoyens. Depuis 2014, le gouvernement chinois travaille sur la mise en place d’un projet grandeur nature se rapprochant très fortement du scénario de Black Mirror. La mise en place de ce projet a pour objectif de noter les entreprises ainsi que les concitoyens chinois sur la base de leurs actions du quotidien. Pour Lin Junyue, l’un des théoriciens de crédit social en Chine “ce projet jouera un rôle important pour la reconstruction morale de la société chinoise ». Le fantasme que beaucoup projette sur le concept du crédit social en Chine est-il proche de la réalité ?

Comment cela fonctionne ?

Dans un premier temps, essayons de comprendre le fonctionnement de ce nouveau projet. La notation se base sur un ensemble d’informations récoltées et stockées dans des bases de données privées partagées avec l’État chinois. Ces données sont par la suite soumises à un algorithme d’intelligence artificielle permettant d’attribuer des points afin de calculer une note. Ce système de notation est à la fois destiné à mieux surveiller les entreprises mais aussi et surtout les citoyens. Dans une société à la surveillance déjà très ancrée et développée, le crédit social fait office d’un élargissement d’une dictature numérique que beaucoup considèrent comme extrêmement dangereux.

Les entreprises au cœur de ce nouveau système

A l’origine, cette nouvelle gouvernance avait pour objectif principal de faire respecter les lois. En effet, contrairement à ce que nous pourrions penser d’un régime autoritaire, le Président Xi Jinping et son gouvernement ont beaucoup de mal à faire respecter les législations en vigueur, notamment de la part des industriels. Ce système de notation des entreprises a pour but de diminuer les violations commises par ces dernières notamment au niveau des lois environnementales mais aussi du droit du travail. C’est ainsi que plus de 33 millions d’entreprises chinoises ont déjà été notées en 2019

Concrètement, les entreprises doivent répondre à de nombreux critères (plus de 300) dont des obligations douanières, environnementales et fiscales. L’ensemble des résultats obtenus donnent lieu à une note allant de A (“excellent”) à D (« dangereuse »). L’inquiétude est grandissante, notamment pour certains secteurs qui partiront d’office avec un handicap difficilement surmontable. Pour exemple, seuls 98 sur plus de 19 000 entreprises du secteur du charbon ont obtenu une note “A”. Une mauvaise notation peut ainsi avoir des conséquences catastrophiques pour les entreprises. Désormais, une épée de Damoclès plane au-dessus des acteurs de l’industrie avec des potentielles coupures d’aides sociales, l’interdiction d’internationalisation des entreprises mal notées ou même l’impossibilité pour ces dernières d’accéder aux marchés publics.


Ce sujet inquiète bien évidemment les grandes instances internationales. C’est à ce titre que la Chambre de Commerce Européenne à indiquer que le nouveau système de notation “pourrait décider de la vie et de la mort des entreprises Européenne en Chine”.

Les citoyens chinois aussi visés par le système de notation

En phase de test, Lin Junyue explique que les villes choisissent elles-mêmes les objectifs sur lesquels elles souhaitent améliorer les résultats. “À Suqian, le respect du code de la route est apparu comme essentiel dans la notation. À Rongcheng, on se concentre sur la moralité, le civisme.” La vidéosurveillance est une technologie très développée (600 millions de caméras installées) en Chine et c’est principalement au travers de cela que le gouvernement traque les mauvais comportements. La majorité de ces installations est dotée de reconnaissance faciale et permet aussi de déterminer les comportements sortant de l’ordinaire (brusques changements de température, accélérations de la démarche…) afin de débusquer de potentiels hors la loi.

Plusieurs technologies de notation sont mises à disposition des villes pour leur permettre d’être efficace dans la traque aux mauvais comportements. Par exemple, Sesame Credit (développé par une filiale du conglomérat Alibaba et associé au gouvernement chinois) est un crédit privé se basant sur AliPay et notant les utilisateurs selon leurs habitudes de consommation, leurs remboursements des prêts, leur patrimoine immobilier, leur niveau d’étude ou même leurs loisirs personnels. Ainsi, l’un des responsables de la technologie chez Ant Financial explique “qu’une personne qui joue 10 heures par jour aux jeux vidéos sera considérée comme paresseuse alors qu’une personne achetant régulièrement des couches pour bébé sera perçue comme plus responsable.” L’accès au crédit sera donc évidemment plus compliqué pour la première personne. 

De nombreux autres exemples voient le jour dont certains donnent des frissons. Xu Xiaodong, célèbre combattant MMA est l’une des victimes de ces nouvelles mesures. Il a fait grandement parler de lui après de multiples critiques du Kung Fu en indiquant que ce n’était pas un « vrai art martial » en le comparant au MMA. Dans l’Empire du Milieu où le Kung Fu fait partie intégrante de la culture, ces critiques n’ont pas fait bonne presse. Plusieurs combats ont été organisés entre Xu Xiaodong et des maîtres Kung Fu. A chaque fois, le combattant MMA est sorti vainqueur du duel. Depuis, il a été condamné devant un tribunal Chinois à verser 400 000 yuan. Pire encore, son score est descendu à D, le catégorisant d’office comme “mauvais citoyen”. Les conséquences sont désastreuses pour ce dernier car cette note est synonyme d’impossibilité de voyager en avion ni en train, de refus dans des hôtels, restaurants et boîtes de nuit de standing et sa descendance ne pourra pas avoir accès à un bon nombre d’écoles privées. Son cas ne fait pas exception puisque d’après un rapport publié en 2019, 23 millions de chinois « mal notés » avaient été interdits de voyage.

Quid de l’Occident ?

Ce système est-il viable pour les pays de l’Occident ? A première vue, il paraît compliqué de voir ce type de projet mis en place dans un état démocratique comme la France. En effet, très attaché à nos libertés individuelles sur lesquelles se sont construites notre histoire, l’arrivée du crédit social apparaîtrait comme une menace et une atteinte réelle à ces libertés. Mais est-ce vraiment impossible ? Pas tout à fait. Notre attachement à nos libertés individuelles et au respect de notre vie privée à déjà été érodée depuis l’arrivée de nouvelles technologies. Pour la grande majorité des solutions digitales que nous utilisons au quotidien, nous partageons de nombreuses données sur nos habitudes de consommation, notre localisation géographique, nos goûts et bien d’autres choses. Avec l’utilisation de ces informations, les entreprises du numérique peuvent lire dans chacun de nous comme dans un livre ouvert. Nous sommes prêts à rogner sur nos une partie de nos libertés en contrepartie d’un mode de vie plus connecté et ouvrant de nombreuses portes vers une vie simplifiée. Il ne serait donc pas illogique de penser qu’à moindre échelle, un projet identique au crédit social pourrait aussi se développer en Occident. Plusieurs pays, souvent catégorisés comme des dictatures, basent de plus en plus leur politique sociale sur le modèle chinois et cela questionne le futur de nos libertés individuelles. 

Des innovations technologiques privées partageant la même logique de récompense et punition ont vu le jour en France depuis quelques années. Dans le secteur de l’assurance, de plus en plus de boîtiers connectés aux voitures permettent d’analyser nos manières de conduire. Plus les données récoltées estiment que vous conduisez bien (freinage, virages, accélération…), plus vous économiserez sur le prix de votre assurance automobile. Même si nous sommes encore très loin de ce que le gouvernement chinois met en place, nous verrons si nos démocraties cèdent à ce type de système de notation dans les prochaines années.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *