Zone Franche - blog de Gilles Martin

Pour faire respecter la loi, et considérant que la nature humaine est principalement animée par des intérêts égoïstes, un bon système inventé de longue date est celui de manipuler ces intérêts à travers des châtiments et des récompenses.

C’est comme ça qu’on enlève des points de permis aux mauvais conducteurs qui se sont faits surprendre par les radars en excès de vitesse (ça ne date que de juillet 1992 en France).

Mais ce système de points peut aussi jouer avec la réputation : on a des points sur TripAdvisor pour le restaurant, mais aussi dans des like sur les réseaux sociaux. C’est devenu universel. C’est la course aux « like ».

Quand on pense au phénomène, on pense bien sûr aussi à la Chine, qui a sophistiqué le système avec le mécanisme de crédit social.  On peut en retracer le développement dans la contribution de Séverine Arsène, du Medialab de Sciences Po, dans le recueil « Penser en Chine » sous la direction d’Anne Cheng.  

Cela date du début des années 2000, pour rendre plus efficace le « gouvernement par la loi », en codifiant les règles pour apporter plus de prévisibilité, de clarté et de confiance dans les relations sociales et économiques.

Et ce qui permet de construire ce gouvernement c’est bien sûr la disposition d’une masse importante de données sur les citoyens et aussi les entreprises. Il consiste donc à construire des barèmes pour permettre d’évaluer le « crédit » des résidents dans une ville (ce sont les municipalités qui ont mis en place ces systèmes de points). Ces barèmes peuvent comprendre des dizaines voire de centaines d’indicateurs issus des données. En fait, ces systèmes, paradoxalement, n’ont pas grand-chose à voir avec l’intelligence artificielle, mais sont construits à partir de données disponibles dans les administrations (Impôts, Transports, …), mettant en évidence des défauts de paiement, ou des infractions à la règlementation, qui font l’objet de sanctions. Ce qui est subtil, c’est l’établissement de « listes noires » sur les citoyens sanctionnés qui sont rendues publiques. Cela vaut aussi pour les entreprises. Les individus et entreprises sur liste noire peuvent alors faire l’objet de contrôles plus fréquents, se voir interdire certains emplois, voire être soumis à des restrictions concernant les dépenses somptuaires (acheter un billet d’avion, jouer au golf). Le fait de rendre ces listes publiques a pour but d’utiliser la réputation comme levier pour convaincre les citoyens de mieux respecter la loi.

Séverine Arsène cite le « Rapport d’analyse annuel sur les listes noires de personnes malhonnêtes » de 2018, produit par le Centre national chinois d’information sur le Crédit social public. Le système de sanctions a permis de mettre sur listes noires 3 594 000 entités (individus ou entreprises), dont un million a l’interdiction de participer à des appels d’offres. Du côté des tribunaux, ce sont 17,46 millions de personnes a qui il a été interdit de réserver des billets d’avion.

Le système est moins high-tech qu’il n’y paraît. Il n’utile pratiquement pas les technologies de Big Data, ou l’intelligence artificielle. Il utilise des données déjà collectées par les administrations dans le cours normal de leurs activités, qui peuvent quand même représenter des centaines de points de données pour un individu. L’intervention humaine, et non la machine, est partout : établissement des barèmes dans les systèmes de notes de crédit personnel, seuil de gravité des délits qui conduisent à l’inscription sur les listes noires. Les notes de crédit personnel sont donc établies à partir de barèmes très simples, et non par des algorithmes, comme nombreux le suspectent sans trop bien connaître le système.

Par ailleurs, des entreprises privées ont mis en place un « marché » du Crédit social, en proposant des services commerciaux et facultatifs de notes de crédit personnel, qui ressemblent à des programmes de fidélité et viennent ainsi compléter la fonction de signal exercée par les notes de crédit public (ça se rapproche de ce que l’on constate ailleurs dans le monde, y compris en France). Des entreprises privées ont aussi développé des solutions pour la gestion et la visualisation des données. Exemple d’une application qui permet de visualiser sur une carte les restaurants qui n’ont pas respecté la règlementation sur l’hygiène.

On peut évidemment se poser la question de savoir si ces systèmes encouragent vraiment les citoyens à corriger leurs comportements vis-à-vis de la loi. Séverine Arsène met en doute l’efficacité, considérant qu’une grande partie des délits sont d’ordre économique (non-paiement de factures, emprunts ou amendes) et que l’exclusion de nouvelles opportunités rend en fait encore plus difficile l’exécution des mesures demandées (sauf à considérer que le fait de ne pas payer les factures correspond exclusivement à une mauvaise volonté).

En fait, ce que l’on observe dans le monde des plateformes numériques et réseaux sociaux ressemble un peu, dans son principe, à ce régime chinois finalement. Comme le souligne l’auteur : « La prolifération des bases de données et la croissance exponentielle des capacités de calcul, le rôle croissant des sociétés privées dans la maîtrise de ces instruments, et le manque de contrôle démocratique sur leur capacité d’influence, constituent des tendances préoccupantes dont la Chine nous montre l’une des facettes possibles ».

Peut-être que ce qui se passe en Chine n’est que l’anticipation d’une voie que nous allons aussi connaître (que nous connaissons déjà ?), le marché privé prenant la place, avec les mêmes intentions, que le Crédit social public. Ou un mélange des deux.

De quoi nous interroger sur le rôle que la manipulation de la réputation va avoir sur l’autodiscipline et les comportements des citoyens et des consommateurs, mais aussi, bien sûr dans le domaine politique.

2024 va être passionnante, non ?