Zone Franche - blog de Gilles Martin

Après un moment d’admiration et d’ébahissement face à l’intelligence artificielle façon ChatGPT, voilà que s’élèvent les voix de ceux qui commencent à douter de ce qu’ils voient comme un fantasme.

On pourrait comparer à ce qui était reproché à l’écriture par Socrate dans le « Phèdre » de Platon : Pour Socrate, l’écriture est inhumaine, car elle prétend établir en dehors de l’esprit ce qui ne peut être en réalité que dans l’esprit. L’écriture n’est qu’une chose, un produit manufacturé. Autre critique de Socrate : l’écriture détruit la mémoire. Les utilisateurs de l’écriture perdront peu à peu la mémoire à force de compter sur une ressource externe pour parer à leur manque de ressources internes. L’écriture affaiblit l’esprit.

Socrate avait ainsi prédit que l’écriture allait changer le monde, en détruisant celui de l’oral et de la mémoire dans lequel il vivait.

Les Socrate d’aujourd’hui adressent les mêmes prédictions à ChatGPT.

C’est Gaspard Koenig qui, dans une récente tribune des Echos, comparait Copilot, autre IA LLM, à un « waze de la pensée » : « Confier l'expression de soi à un robot constitue le dernier degré de la servitude volontaire. Signer un e-mail qu'on n'a pas rédigé, c'est abdiquer toute dignité ».

« Pour l'écriture comme pour le reste, il est naïf de croire que l'IA nous épargnera les tâches subalternes en nous offrant tout le loisir de déployer notre génie dans de nobles et mystérieuses activités. Car c'est précisément dans le ciselage besogneux du mot, dans l'élimination patiente de la répétition, dans l'abîme méditatif de la virgule, que se forge un style singulier. Ce sont à travers les innombrables erreurs et errements des manuscrits de jeunesse que l'on apprend à confectionner sa propre langue ».

Autre vision, celle de l’auteur américain Richard Powers, dont j’ai déjà parlé ICI, et qui s’entretient avec Alexandre Lacroix dans le dernier numéro de « Philosophie Magazine » :

« A mon avis, un abîme croissant va séparer les gens qui comprennent comment ces machines fonctionnent, qui savent les programmer, et ceux qui n’ont même pas encore pris conscience de leur existence ».

« Le progrès de l’IA va entériner la victoire définitive du capital sur le travail. Celui qui a les capitaux pour investir dans l’IA, qui est propriétaire de la technologie, sera en même temps détenteur du travail automatisé, puisqu’un très grand nombre de tâches vont être confiées aux machines. L’instabilité de ce système est pourtant évidente : quelques capitalistes seront richissimes, ils seront à la tête de monopoles immenses. Mais ce qui va gripper le système, c’est qu’à force d’automatisation des tâches, ils redistribueront toujours moins de leur capital accumulé en salaires, ce qui fait qu’il y aura de moins en moins de pouvoir d’achat pour absorber leurs services et leurs marchandises. Au bout du compte, il est prévisible que nous allions vers des révoltes sociales violentes. Et la question n’est pas de savoir si ce futur est désirable ou non. C’est ce qui est en train d’arriver, et nous y allons rapidement. Un projectile immensément puissant a été lancé sur le monde et nous ne pouvons plus l’arrêter ».

De quoi rester optimiste !

C’est son quatorzième roman, mais le premier que je découvre.

Il s’agit de « Playground », traduit par « Un jeu sans fin » en français, de Richard Powers.

C’est un gros roman de plus de 400 pages, avec des histoires qui se croisent, des personnages dont on suit l’existence tout au long de leur vie. On y découvre cette île du Pacifique, Makatea, qui a été colonisée par les Français, et a été un temps une richesse d’exploitation du phosphate. Mais les mines se sont taries, et l’île se retrouve en 2020 avec 90 habitants, et des infrastructures livrées à la jungle.

Et ça parle aussi d’intelligence artificielle qui est aujourd’hui devenue un héros obligé de nombreuses œuvres de fiction.

Car un milliardaire a l’heureuse idée d’imaginer construire une ville flottante au large de Makatea, ce genre de ville libertarienne en dehors de tout État ; et forcément cela aura un impact sur l’économie de cette île perdue.

Et pour convaincre les habitants de Makatea, qui vont voter pour ou contre ce projet dans leur île, il leur propose une intelligence artificielle, un genre de chatbot perfectionné, appelée Profunda. Les habitants peuvent l’interroger à l’infini pour tout savoir du projet, oralement, car la machine comprend leurs paroles, elle génère des plans et des images en 3D, elle répond à toutes les questions.

Au début les habitants posent des questions pour tenter de piéger la machine, en demandant des informations qu’ils connaissent déjà, comme la superficie de l’île, le nombre d’habitants, des informations sur son histoire. La machine sait tout. Alors ils passent à des vraies questions sur ce qu’ils ne connaissent pas et veulent savoir. Et la machine a réponse à tout.

Et les questions se font de plus en plus précises.

« Avec un tel tirant d’eau, est-ce que ces bateaux ne vont pas bousiller le récif ? ».

Et vient la réponse : « La réponse de Profunda surprit tout le monde. Loin d’édulcorer les faits, elle concéda qu’en effet le projet d’implantation maritime modifierait le lagon, le récif et toute leur population. Elle spécula sur la nature et l’ampleur de cette modification, presque en philosophe. Elle employa les termes « coût » et « dommages », et tenta d’évaluer, en francs Pacifique, le manque à gagner pour l’île que représenterait cette perte de ressources, tout en avertissant que ses estimations étaient au mieux approximatives ».

Une petite fille de l’assistance a alors cette remarque : « Si les créatures du récif doivent en souffrir, est-ce qu’elles ne devraient pas elles aussi avoir le droit de voter ? ».

Et Profunda a bien sûr une réponse aussi, qui laisse l’assistance muette : « Profunda se lança dans un développement sur les droits des animaux, leur statut légal, leur reconnaissance comme personnes morales. Elle admit que de nombreuses espèces à l’intelligence développée peuplaient les fonds marins entourant l’île. Elle évoqua les problèmes inhérents à une culture où seuls les humains étaient considérés comme sacrés ou importants. Elle souligna que dans les cultures fondatrices de la Polynésie, d’autres créatures possédaient un caractère divin et un génie propre ».

C’est comme une prise de conscience : « Sur chaque visage se dessinait la même prise de conscience : ils pouvaient demander à ce monstre n’importe quoi. Et la réponse serait aussi imprévisible que le permettaient des dizaines de milliards de pages de connaissance humaine ».

Voilà bien tracé tout le romanesque de l’intelligence artificielle, les admirations et les peurs qu’elle génère, les questions qu’elle soulève, et la place des humains. Car cette communauté de Makatea va quand même voter, avec le choix de chaque humain qui la compose.

Pour connaître le résultat, et tout le pitch génial de ce roman, il ne vous reste plus qu’à le lire.

Les romans sont peut-être les meilleurs compagnons pour réfléchir aux enjeux de l’intelligence artificielle.

Pour changer le monde, sauver la planète, éliminer les inégalités, supprimer la pauvreté, les idées ne manquent pas, et la littérature est abondante, ainsi que les déclarations de politiques exaltés.

Rien de dangereux, sauf quand cela devient une sorte de maladie mentale, celle qui atteint ceux qui sont tellement convaincus d’avoir trouvé (ou même simplement de pouvoir trouver) la solution définitive et totale, et se consacrent à en convaincre les autres, de manière parfois agressive. 

C’est ce que Paul Watzlawick et l’école de Palo-Alto ont identifié dès les années 70 comme ce qu’ils ont appelé le « syndrome d’Utopie ». C’est une maladie car celui qui en est atteint souffre précisément de cette quête sans fin qui l’obsède d’une solution définitive et parfaite à des problèmes du monde et de la société, solution qui par nature n’existe pas.

Une des formes de ce syndrome d’Utopie analysée par Watzlawick est ce qu’il appelle la forme « projective » : elle est constituée par une attitude de rigueur morale reposant sur la conviction d’avoir trouvé la vérité. En général, cela s’approche d’une construction imaginaire d’une société idéale conçue sans trop réfléchir au changement « réel » qui permettrait de passer de l’état existant et critiquable à l’état imaginé. A ce titre, elle peut viser, par la mobilisation des imaginaires, à faire advenir ce qu’elle prédit par le fait de le prédire. C’est ce que l’on pratique encore parfois dans les entreprises avec la réalisation et la formalisation de ce qu’on a appelé les « projets d’entreprise », avec plus ou moins de bonheur.

Mais dans une forme plus dangereuse, ce syndrome d’utopie projective devient une mission pour celui qui est sûr de détenir la vérité pour changer le monde, mission de transformer le monde en convertissant les autres. Son idée est de persuader avec l’espoir que la vérité qu’il détient, une fois rendue sensible, apparaîtra forcément à tous les hommes de bonne volonté.

Et donc, conclusion logique, et c’est là qu’est le drame, ceux qui ne veulent pas se convertir, ou même refusent d’écouter, sont obligatoirement de mauvaise foi. Au point qu’il devient nécessaire, pour le bien de l’humanité, de les détruire. Car ceux qui ont tort, et ne s’en rendent pas compte, ce sont toujours les autres, ou la société.

Toujours dans ces situations, les prémisses sur lesquels le syndrome d’utopie se fonde sont considérées comme plus réelles que la réalité : si je veux ordonner le monde selon mon idéal et que ça ne marche pas, je ne vais pas réexaminer mon idéal, mais accuser l’extérieur, ou la société. Watzlawick cite par exemple les maoïstes et les marxistes qui expliquaient que si la société soviétique n’avait pas réussi à créer la société idéale sans classe, c’était parce que la pure doctrine était tombée dans des mains impures, et non parce que, peut-être, le marxisme pourrait contenir quelque chose de fondamentalement faux.

On pourrait voir le même phénomène, toujours d’actualité, où, pour résoudre un problème dans nos services publics, que l’on ne trouve pas conformes à notre idéal, il faut « plus d’argent » et « plus de moyens », ou « un plus grand projet ».

Ce que Watzlawick résume en « plus de la même chose ».

Pour mieux comprendre les affres et conflits intérieurs de ceux qui veulent sauver la planète ou sauver le monde, ou toute autre cause idéale, en détruisant ceux qui n’ont pas les mêmes « vérités », la lecture ou relecture de Watzlawick peut être salutaire, car il ne semble pas que ce syndrome d’utopie et ses manifestations parfois violentes envers les autres ait véritablement disparu.

L’intelligence collective a encore du chemin à faire pour empêcher les conséquences négatives de ce syndrome.

Quand on observe les tendances qui font la mode, il y a des indices qui nous alertent que quelque chose se passe. Et cela constitue des signaux faibles pour ceux qui veulent toujours s’adapter.

Ainsi l’année 2023 est celle où, pour la première fois dans l’histoire, la production de vins blancs est passée devant celle des rouges en France.

Alors, forcément, les producteurs de vins rouges s’en sont ému, et se sont mis à réfléchir à planter des cépages blancs à la place des noirs.

C’était l’objet d’un dossier très documenté du Monde du samedi 1^er mars.

Les chiffres parlent : Selon la direction générale des douanes et droits indirects, le blanc a représenté en 2023 13,5 millions d’hectolitres, en hausse de 10% par rapport à 2022, alors que la production de rouges a, elle, reculé de 11% à 12,8 millions d’hectolitres.

Mais la transition devrait prendre du temps car pour le moment les vignes plantées en raisins rouges font 65%, contre 35% pour les blancs (les vins rosés sont aussi faits avec des cépages rouges).

Et puis, ce qui prend du temps, c’est aussi le temps de développement (une vigne prend quatre ans au minimum avant de donner des fruits), et aussi l’enregistrement à l’INAO (Institut national de l’origine et de la qualité).

C’est le genre de tendance que l’entreprise doit avoir anticipé le plus tôt possible.

D’ailleurs cette tendance pour les vins blancs ne date pas de 2023, et était déjà constatée dans les modes de vie et de consommation, notamment ceux des nouvelles générations.

Les études ont montré une tendance de consommation de vins plus légers et rafraîchissants, moins tanniques et moins alcoolisés. Ce sont les 18 – 39 ans qui marquent cette préférence pour les bouteilles à 12° plutôt qu’à 14°. Et puis, autre phénomène, les réseaux sociaux qui influencent aussi en popularisant le verre de rosé ou de blanc en terrasse.

En perte de vitesse, les vins bien lourds pour les repas de fête ou en famille. On préfère les apéritifs informels entre copains, et moins au restaurant, et plus au bar, moins en mangeant et plus en grignotant. Là encore, de quoi donner des idées pour de nouveaux styles d’établissements.

Autre phénomène, c’est l’évolution du vocabulaire du vin lui-même. Le critique américain Kermit Lynch, cité par le dossier du Monde, fait remarquer que, dans les années 70, le vin était surtout comparé à un homme, on parlait de sa puissance ; et maintenant on y trouve des notes de fruits ou de fleurs. Ce qui indique l'influence des femmes, et il y a de plus en plus de vignerons qui sont des vigneronnes.

Alors, les vignerons sont à l’œuvre. On va bientôt pouvoir déguster des Médoc blancs (L’INAO a donné son accord en 2023, pour un dossier déposé en 2019, et on attend encore la décision du ministère de l’Agriculture). Il y avait déjà des médocs blancs, mais en vins de France. Là on va avoir des AOC.

Même chose en Corbières (les surfaces consacrées aux cépages rouges ont chuté de 28% en dix ans), où l’on arrache les vignes en rouge pour planter des cépages pour les blancs. Idem à Rasteau, en Beaujolais ou en Minervois.

C’est ce qu’on appelle déjà une révolution blanche.

Il y a des révolutions plus agréables que d'autres...