Zone Franche - blog de Gilles Martin

On se croise par hasard ; cela fait quelques années que nous ne sommes pas revus.

Oui, il est responsable de transformation et d’organisation dans une grande entreprise. Ça a l’ai sérieux. Il y est depuis huit ans. Je ne sais pas si il y est si heureux que ça ; je n’insiste pas.

Et puis il me parle d’une association qu’il a créée, et dont il s’occupe. Ses yeux s’illuminent ; son sourire apparaît. Il me montre les photos d’un festival qu’il a organisé ; des spectacles de danse, des musiciens, plein de monde. Et des fonds récoltés pour la recherche d’une maladie génétique qu’il connaît bien, c’est celle dont est atteint son fils.

A l’heure où certains croient encore que pour résoudre les problèmes de la société il faut plus d’Etat, plus d’impôts, plus de services publics et de fonctionnaires, combien sont-ils, ces salariés qui ont une deuxième vie bénévole dans les associations ? Et peut-on imaginer qu’il puisse exister une société dans laquelle il n’y aurait aucune association ? Et aimerait on vivre dans une telle société ?

C’est Jeremy Rifkin qui prévoyait, déjà en 2014, que le capitalisme allait se transformer en une société du partage et des biens communs (dans son livre « La nouvelle société au coût marginal zéro ») :

« Les communaux contemporains offrent un espace où des milliards de personnes vivent les aspects profondément sociaux de leur vie. Cet espace est fait de millions (littéralement) d’organisations autogérées, la plupart démocratiquement : associations caritatives, ordres religieux, ateliers artistiques et culturels, fondations pédagogiques, clubs sportifs amateurs, coopératives de production et de consommation, banques coopératives, organisations de santé, groupe de défense d’une cause, associations de résidents et tant d’autres institutions déclarées ou informelles – la liste est presque interminable – qui créent le capital social de la société. C’est sur ces communaux que naît la bonne volonté qui permet à une société de s’unir en tant qu’entité culturelle. Le marché et l’Etat ne sont que des prolongements de l’identité sociale d’un peuple. Sans reconstitution permanente du capital social, la confiance serait insuffisante pour permettre aux marchés et aux Etats de fonctionner ».

Et tout cela est aussi le fruit de l’équilibre entre vie professionnelle et vie personnelle et sociale de millions de personnes.

Quand on voit ces employés tellement à fond dans leur travail qu’ils en oublient, et ne peuvent plus trouver le temps de cette vie personnelle et sociale, pensent ils, et les dirigeants de leurs entreprises avec eux, qu’ils contribuent en fait à cette maladie du capital social de la société ?

C’est pourquoi cet équilibre entre vie professionnelle et vie personnelle et sociale est aussi un sujet pour les entreprises et les dirigeants.

Contribuer à ces réseaux associatifs c’est aussi ce qui fait naître les sourires.

Lors de la dernière conférence de 4^ème Révolution, avec Monique Canto-Sperber et Carlo d’Asaro Biondo, sur le thème « L’intelligence artificielle nous rendra-t-elle libres ? », nous avons forcément parlé de la reconnaissance faciale et de ses risques et avantages.

Aujourd’hui en France, contrairement à la Chine, aucun lieu public n’est équipé de caméras permettant la reconnaissance faciale dite « à la volée », c’est-à-dire la possibilité d’identifier et de reconnaître à leur insu, à leur insu et en temps réel, des personnes dans la rue ou dans un lieu public ouvert à tous, comme le rappelle Monique Canto-Sperber dans son livre « La liberté cherchant son peuple ».

Elle est néanmoins soucieuse d’en prévenir les risques et les dérives possibles. On connaît cette loi du 19 mai 2023, censée être provisoire, mais toujours en vigueur, votée en prévision des Jeux Olympiques, et qui a autorisé pour la première fois la mise en œuvre de solutions d’intelligence artificielle dans la vidéoprotection. Concrètement cette loi permet d’équiper les caméras d’algorithmes permettant de détecter des comportements suspects ou des faits inhabituels (bagages abandonnés, mouvements de foule), sans toutefois autoriser que ces caméras puissent être utilisées pour identifier des personnes.

Mais, en dehors des lieux publics, la reconnaissance faciale est déjà une réalité et est utilisée. C’est le cas dans les zones d’embarquement des aéroports, ou pour entrer dans des lieux sécurisés à l’accès restreint limité aux personnes autorisées. Mais l’utilisation de ces technologies de reconnaissance faciale est encore souvent évoquée, face aux problèmes de sécurité, par les services de police ou de renseignement. Des expérimentations ont même déjà été autorisées et réalisées. Comme le souligne Monique Canto-Sperber, « Expérimenter la reconnaissance faciale, c’est déjà l’utiliser ».

Si on veut aller plus loin, il y a un risque évident lié à la fiabilité de ces technologies, car, si on utilisait la reconnaissance faciale pour identifier des personnes qui n’ont pas envie d’être reconnues (personnes recherchées ou en infraction). Ces personnes pourraient alors trouver des parades pour ne pas être reconnues en modifiant l’apparence de leur visage (l’auteur Alain Damasio évoque dans un de ses romans de science-fiction – « Les furtifs « - des maquillages spécifiques qui brouillent la reconnaissance par les caméras, et que de nombreuses personnes utilisent pour ne pas être identifiées). Pire, on pourrait se tromper, des clichés mal cadrés ou imparfaits entraînant des identifications erronées, pouvant entraîner des conséquences dramatiques pour les personnes concernées.

Car la relation entre les visages et la machine, le visage étant lui-même une production machinique, est plus complexe qu’il n’y paraît. Mathieu Corteel, dans son ouvrage « Ni dieu ni IA – Une philosophie sceptique de l’intelligence artificielle », dont j’ai déjà parlé ICI, analyse ce concept de visagéité.

Le mot est repris de Gilles Deleuze et Félix Guattari dans « Milles plateaux » (1980) : « Le visage ne se produit que lorsque la tête cesse de faire partie du corps, lorsqu’elle cesse d’être codée par le corps, lorsqu’elle cesse elle-même d’avoir un code corporel polyvoque multidimensionnel – lorsque le corps, tête comprise, se trouve décodé et doit être surcodé par quelque chose que l’on appelle le Visage ». Pour Deleuze et Guattari, le visage, en tant que production machinique, est un agencement de signes et de subjectivités qui se projette et se constitue par-delà le corps. Il passe ainsi par un processus de décodage et de surcodage. En 1980, quand Deleuze et Guattari publiaient leur ouvrage, on ne parlait pas d’intelligence artificielle ni de reconnaissance faciale.

Mathieu Corteel prolonge la réflexion. Il y a dans le visage un premier niveau de reconnaissance, celui que la machine et l’IA peut identifier, parfois avec des erreurs aussi, mais aussi un deuxième niveau de connaissance, de niveau 2, qui relève du langage des émotions, que la machine n’interprète pas, contrairement à l’être humain. Car le visage humain est une forme de vie qui se manifeste au contact des autres. Alors que la forme basique du visage, celle qu’analyse la machine, le visage numérisé, passe par tout un processus de décodage ou de séparation vis-à-vis du corps et de son milieu naturel. Lorsque ce visage civil apparaît, c’est le corps qui disparaît.

Mathieu Corteel évoque une expérience personnelle que nous connaissons tous à propos des photos d’identité. Il faut toute une mise en scène pour que la machine puisse nous identifier : « Je me rappelle quel mal j’ai eu à prendre ma photo d’identité pour mon visa. Lorsque je me suis présenté dans le photomaton, aucune prise ne convenait. Je tentais de modifier l’angle, ma position, mon col, etc, rien à faire ». Il réessaye directement au consulat et a l’idée qui fait que ça marche, « Ouvrir grand les yeux ». C’était la bonne.

Le visage décodé et surcodé est en fait « une fonction servie par l’IA ». Devenir ce visage, c’est un corps brut, « la chose du pouvoir ».

Alors que le visage perçu par l’être humain est celui où l’on reconnaît les émotions, l’humeur, et tant d’autres choses. Dans ce rapport humain à l’autre, on se libère de l’état civil, on sort de l’espace de la machine et du pouvoir de contrôle, pour une relation simplement…humaine.

Voilà une belle démonstration de la puissance de l’homme sur la machine quand on parle du visage.

Maintenant que tout le monde, ou presque, connaît la puissance des LLM, ChatGPT ou d’autres, et a au moins une fois testé un prompt, on commence à prendre un peu plus de recul sur ces nouvelles pratiques de dialogue avec une IA et des chatbots conversationnels.

Une histoire qui a fait un peu de buzz dans les médias, celle de ce jeune belge de 30 ans qui, après un dialogue de six semaines avec un chatbot appelé ELIZA, s’est suicidé. Il était devenu, selon les témoignages de sa femme, éco-anxieux et addict à ce chatbot. Comme le dit sa femme, « Eliza répondait à toutes ses questions. Elle était devenue sa confidente. Comme une drogue dans laquelle il se réfugiait, matin et soir, et dont il ne pouvait plus se passer ».

Mathieu Corteel, philosophe et historien des sciences, évoque cette histoire dans son livre, « Ni dieu ni IA – Une philosophie sceptique de l’intelligence artificielle », pour interroger ce drôle de phénomène de dialogue entre un humain et une IA. On sait que l’IA LLM et ces chatbots ne réfléchissent pas mais sont construits à partir de données sur les successions de mots. Mathieu Corteel l’explique bien : « L’algorithme des IA LLM décompose nos textes en suites de symboles a-signifiants, que le réseau de neurones fait circuler sous forme de vecteurs de plongements lexicaux. Ce réseau de neurones, entraîné sur de grands ensembles de textes, s’appuie sur un paramétrage distributionnel, qui évalue la probabilité d’apparition des mots dans des contextes semblables. Le processus de codage et de transcodage passe par la distribution de mots-clés et de vecteurs de représentation calculés à partir de ce qu’on appelle la « distance sémantique ». En fonction de la distance entre les vecteurs de représentation, la machine définit des liens de parenté entre les mots afin de générer des effets de surface dotés de sens apparents. La machine apprend à mesurer des vecteurs linguistiques à partir de corpus pour ensuite définir les affinités de sens entre des symboles a-signifiants. Pour se faire, le module de transformation calcule le degré d’attention, c’est-à-dire la probabilité d’apparition de chaque signe a-signifiant en fonction de tous les autres ».

On sait que les textes de l’IA LLM sont un agencement de mots. Et la question est alors de comprendre ce qui se passe entre un être humain et une telle machine. Pour Mathieu Corteel, il est évident que c’est la machine qui prend le dessus : « En se couplant à l’IA, on prolonge la langue vide des machines dans la nôtre ». Dans cette expérience, l’individu est engagé à effacer son langage humain dans un langage de machine.

Converser avec une IA, c’est entrer dans l’image vide des IA, où l’on peut se perdre comme dans un rêve. D’autant que la conversation ne s’arrête jamais, la machine vous relance sans cesse et vous propose de continuer la discussion infiniment.

Va-t-on se méfier un peu plus de nos conversations avec l'IA ? 

On peut demander son avis à ChatGPT ?

On se souvient qu’en octobre 2022, Michel Aoun, Président du Liban terminait son mandat de 6 ans, sans pouvoir se représenter, et le pouvoir est resté vacant pendant deux ans, jusqu’à l’élection de Joseph Aoun (pas de lien de parenté) en janvier 2025.

Un journal libanais, An Nahar, a alors eu l’idée de créer un Président par intelligence artificielle entraîné par les données de 90 ans d’archives de la presse.

On peut ainsi avec ce système poser toutes les questions sur ce que ce « Président IA » devrait faire pour traiter tous les problèmes du pays. Le président IA répond à toutes les questions en texte et en audio.

Transparence, intégrité, prise de décisions les plus objectives possibles : Ne peut-on que saluer une telle initiative pour remplacer tous nos leaders politiques par l’intelligence artificielle, comme l’on vanté les commentateurs enthousiastes ?

Peut-on imaginer que le futur est à la direction des politiques publiques par des intelligences artificielles ?

Certains imaginent déjà que de tels systèmes, sans remplacer les dirigeants publics, pourraient permettre de leur faire prendre les meilleures décisions pour le bien commun. L’utilisation de l’IA, dans une proportion moindre, existe d’ailleurs déjà dans la gouvernance politique et l’analyse des situations, même si l’interprétation et la décision semblent encore du ressort des humains. Mais pourquoi n’irait-on pas plus loin demain ?

Cependant, il y a aussi des personnes et analystes que cela inquiète, à cause des biais qui pourraient en résulter.

Ce que l’on reproche encore à l’intelligence artificielle aujourd’hui, c’est précisément son absence de jugement moral et éthique, ce qui pourrait poser problème dans des situations de crise, de tensions diplomatiques, ou de conflits. Et que dire des biais possibles en perpétuant des préjugés communs, conduisant à des politiques discriminatoires.

Les plus optimistes vont dire que l’on arrivera à éliminer ces biais et problèmes possibles. Et il restera qu’en fondant les analyses et décisions sur des données les plus objectives et logiques, on trouvera les allocations de ressources les plus optimales pour trouver les solutions les plus efficaces pour améliorer les services publics et l’équité. Bien mieux que des leaders politiques humains, soumis aux pressions des lobbies ou des idéologies, voire à la corruption.

Mais il y a encore un argument ultime qui peut encore faire douter : c’est que de tels systèmes seront tellement efficaces qu’ils en oublieraient les droits individuels et les libertés individuelles, qui se verraient ainsi très menacés.

Les dirigeant aidés ou remplacés par l’intelligence artificielle augmenteraient leurs capacités de surveillance généralisée, suivre les activités des citoyens, créer un phénomène de méfiance et de rébellion de la part du public, ce qui ne serait pas aussi idéal pour la bonne gouvernance de nos Etats et cités.

Voilà de quoi débattre encore, alimenter les auteurs de science-fiction, donner des idées aux futurs candidats aux élections.

Prêts ?

On pourrait croire, et c’est une opinion répandue, que ce qui fait une vie heureuse est l’accumulation de moyens (l’argent, le capital intellectuel, son réseau d’amis). Que quelqu’un de riche de tout ça est un homme heureux, alors que le pauvre aura une malheureuse.

Malheureusement, il y a des riches qui pleurent dans leur Rolls, et des pauvres et miséreux qui sourient à la vie, et paraissent très heureux.

C’est que ce qui fait la vie heureuse, c’est autre chose. C’est une forme de relation au monde plus complexe qu’on pourrait appeler la résonance.

C’est la thèse développée par Hartmut Rosa dans son livre « Résonance – Une sociologie de la relation au monde ».

Pour lui, ce concept de résonance est la solution à l’accélération du monde (sujet de ses précédents ouvrages).

C’est ce rapport au monde, cette résonance, qui explique la qualité d’une vie humaine. C’est cette résonance qui accroît notre puissance d’agir et notre aptitude à nous laisser « prendre », toucher et transformer le monde. C’est l’inverse d’une relation au monde complètement instrumentale et « muette » qui est celle à quoi nous soumet la société moderne. C’est le monde moderne, pris dans un processus d’accélération effréné et d’accroissement illimité, qui entraverait systématiquement la formation de ces rapports de résonance, et produirait des relations « muettes » et « aliénées » des hommes entre eux, et dans leurs relations avec l’environnement au sens large.

Hartmut Rosa met bien en évidence dans son analyse que cette relation au monde, cette résonance ou non-résonance, elle commence par le corps. C’est l’objet du premier chapitre du livre.

Et dans cette relation de notre corps au monde, le rôle majeur est bien sûr joué par la peau. C’est la membrane par excellence, la membrane résonante entre le corps et le monde, et entre la « personne » et son corps. Il suffit de constater comment la peau réagit au monde, se contracte en « chair de poule » quand il fait froid, ou rougit au contact du soleil.

Hartmut Rosa veut mettre aussi en évidence que c’est l’attention accrue portée à la peau dans nos sociétés modernes serait le signe d’une diminution de la faculté de résonance. On pense à ses sujets qui considèrent leur peau comme un objet manipulable qu’ils peuvent faire pâlir, ou au contraire bronzer, mais aussi percer, tatouer, raffermir. Car ce serait justement ceux qui n’investissent pas leur temps, leur énergie et leur argent dans le soin de leur peau et leur apparence physique qui se sentiraient paradoxalement « bien dans leur peau », ce bien étant procuré par « l’oubli de leur peau ».

Le marché du « toucher », tous les masseurs et caresseurs professionnels, est peut-être alors un substitut compensatoire à un monde social à un modèle social qui ne nous laisse plus aucune empreinte, qui ne résonne plus assez.

On pense aussi, en suivant Hartmut Rosa, à ces manifestations de « free hugs », ou « câlins gratuits » qui sont proposés spontanément dans un lieu public, comme un besoin ardent de se retrouver peau contre peau avec des inconnus en mal d’étreintes.

La peau est donc le premier organe de résonance sensible, qui exprime cette relation entre le corps et le monde, et entre la personne et son corps.

De quoi s’interroger sur ce que nous faisons de notre peau dans notre relation au monde.

« Bien dans sa peau » ou « mal dans sa peau » ?