La croyance que tout est mesurable
24 mars 2014
Rappelons-nous Minority Report,le film de Spielberg où l'on arrête un criminel avant qu'il puisse commettre le crime. Grâce à leur capacité à prévoir le futur, les agents de Précrime arrêtent en effet les criminels avant qu'ils commettent leurs crimes. C'est comme ça que Washington, en 2054, a réussi à éradiquer la criminalité.
On pourrait se demander si ce n'est pas un tel monde que nous prépare le "Big Data" : cette confiance dans les chiffres, les analyses de données, pour prévoir et deviner les comportements, ceux des consommateurs, mais pourquoi pas ceux des futurs criminels, n'est-elle pas en train de nier toute liberté humaine. Sans aller jusqu'aux affaires criminelles, que dire des analyses de données qui décident qu'on vous accorde un prêt ou non, une assurance maladie complémentaire, comme c'est déjà le cas. Ce sont les données qui décident pour vous, et non plus nu banquier ou un assureur.
Certains pensent que le risque est réel, et ptroposent dès aujourd'hui des moyens pour s'en protéger.
Viktor Mayer-Scönberger et Kenneth Cukier (oui, encore eux) imaginent qu'une profession va se développer : celle des "auditeurs" de systèmes de données, ils les appellent les "algorythmists". Ils pourront être internes ou externes, et pourront être saisis pour des recours en cas de litige entre les organismes qui utilisent ces systèmes de données pour décider et les individus ou entreprises victimes de ces décisions un peu trop automatiques.
Mais une autre catégorie de personnes a aussi besoin d'être protégée : celle des personnes qui pensent que tout ne peut pas être déterminé par les données et la quantification.
Parmi ces personnes, Jean-Paul Allouche, mathématicien et directeur de recherche au CNRS, qui a quitté avec fracas la société mathématique de France. Il a publié dans Le Monde fin janvier une tribune sur le sujet, comme un cri d'alarme : Non, tout ne peut pas être quantifiable : "Connaître n'est pas mesurer".
Cette croyance que pour connaître il faut mesurer, elle a la vie dure. Et c'est le combat de Jean-Paul Allouche.
On connaît ce credo des contrôleurs de gestion : ce que tu ne mesures pas, tu ne peux pas agir dessus. C'est paraît-il le philosophe Léon Brunschvicg (1869-1944) qui est à l'origine de la formule : Connaître, c'est mesurer. Avec les "Big Data", on est servis. Mais que faire des choses qui ne sont pas immédiatement quantifiables, et qui relêvent de la "qualité"? La réponse, ce sont les "indices", indice du coût de la vie, indice de la qualité de la vie, indice du bonheur, indice de l'espérance de vie. Et c'est preécisément contre ces indices que s'énerve Jean-Paul Allouche.Car ces indices, que l'on ne remet jamais en cause, sont le résultat de manipulations qui ne "mesurent" pas grand chose de trés scientifique.
Par exemple le "salaire moyen des fonctionnaires", que l'on va utiliser pour le comparer au "salaire moyen des autres salariés" (le privé), pour montrer qu'il est supérieur (quel scandale ! ), sans trop chercher à savoir si il est calculé "à diplôme égal" (ce qui n'est généralement pas le cas).
Pourtant ces mesures de la qualité par les indices sont devenues monnaie courante : les universités dans le classement de Shangaï, le bonheur par des indices composites, la qualité de vie pour classer les villes ( sui amène à classer au top des villes fleuries et au bon air, mais où l'on s'ennuie le soir et où l'on ne rencontre que des vieux). Pour Jean-Paul Allouche, tous ces indices sont des "fariboles, sornettes et billevesées". Car avec ces indices de "qualité", les agents s'efforcent d'améliorer non pas la qualité mais plutôt l'indice qui prétend la mesurer.
Pour lui, le danger est bien plus grand qu'on ne le pense, cer non seulement ces indices ne mesurent rien de sèrieux, mais, pire, ils induisent des comportements néfastes.
Il tire quelques exemples savoureux du livre de Maya Beauvallet, "les stratégies absurdes. Comment faire pire en croyant faire mieux".
Ainsi cette mesure pour éviter que les parents ne viennent chercher leurs enfants à la crèche trop tard : le directeur décide de faire payer une amende proportionnelle au retard pour les retardataires. Résultat les retards explosent car les parents ont vite calculé que l'amende coûte moins cher qu'une baby-sitter.
Autres comportements pervers : ceux des "adorateurs de l'indice" qui vont tout faire pour s'y conformer.
" Une fois la mesure(ou l'indice) choisie et son infaillibilité posée en principe absolu et incontestable, se développe toute une confrérie d'adorateurs de l'indice qui, sous couvert de respecter les critères d'optimisation venus "d'en haut", donnent libre cours à leur autoritarisme haineux, faux prophètes d'une religion qu'ils cherchent à imposer comme une eschatologie ou un messianisme prétendument aussi souhaitables qu'inévitables".
Jean-Paul ne donne pas trop d'illustrations mais on voit bien qui il vise : tous ces calculs de "performance" dans la police, l'éducation, la justice, la santé, etc...Et le mal ne se réduit pas à la sphère publique. Les inventeurs d'indices, comme leurs "adorateurs", se développent en tous milieux.
Jean-Paul Allouche appelle cela la "caporalisation " de la société, intoxiquée par les "vérificateurs maniaques de bas étage".
Avec une telle charge, peut-être que l'on va faire un peu plus attention aux risques de cette croyance du "tout quantifiable".
A moins que quelqu'un invente un "indice" pour la mesurer et la contrôler...
AÏE !