Zone Franche - blog de Gilles Martin

Lors de la dernière conférence de 4^ème Révolution, avec Monique Canto-Sperber et Carlo d’Asaro Biondo, sur le thème « L’intelligence artificielle nous rendra-t-elle libres ? », nous avons forcément parlé de la reconnaissance faciale et de ses risques et avantages.

Aujourd’hui en France, contrairement à la Chine, aucun lieu public n’est équipé de caméras permettant la reconnaissance faciale dite « à la volée », c’est-à-dire la possibilité d’identifier et de reconnaître à leur insu, à leur insu et en temps réel, des personnes dans la rue ou dans un lieu public ouvert à tous, comme le rappelle Monique Canto-Sperber dans son livre « La liberté cherchant son peuple ».

Elle est néanmoins soucieuse d’en prévenir les risques et les dérives possibles. On connaît cette loi du 19 mai 2023, censée être provisoire, mais toujours en vigueur, votée en prévision des Jeux Olympiques, et qui a autorisé pour la première fois la mise en œuvre de solutions d’intelligence artificielle dans la vidéoprotection. Concrètement cette loi permet d’équiper les caméras d’algorithmes permettant de détecter des comportements suspects ou des faits inhabituels (bagages abandonnés, mouvements de foule), sans toutefois autoriser que ces caméras puissent être utilisées pour identifier des personnes.

Mais, en dehors des lieux publics, la reconnaissance faciale est déjà une réalité et est utilisée. C’est le cas dans les zones d’embarquement des aéroports, ou pour entrer dans des lieux sécurisés à l’accès restreint limité aux personnes autorisées. Mais l’utilisation de ces technologies de reconnaissance faciale est encore souvent évoquée, face aux problèmes de sécurité, par les services de police ou de renseignement. Des expérimentations ont même déjà été autorisées et réalisées. Comme le souligne Monique Canto-Sperber, « Expérimenter la reconnaissance faciale, c’est déjà l’utiliser ».

Si on veut aller plus loin, il y a un risque évident lié à la fiabilité de ces technologies, car, si on utilisait la reconnaissance faciale pour identifier des personnes qui n’ont pas envie d’être reconnues (personnes recherchées ou en infraction). Ces personnes pourraient alors trouver des parades pour ne pas être reconnues en modifiant l’apparence de leur visage (l’auteur Alain Damasio évoque dans un de ses romans de science-fiction – « Les furtifs « - des maquillages spécifiques qui brouillent la reconnaissance par les caméras, et que de nombreuses personnes utilisent pour ne pas être identifiées). Pire, on pourrait se tromper, des clichés mal cadrés ou imparfaits entraînant des identifications erronées, pouvant entraîner des conséquences dramatiques pour les personnes concernées.

Car la relation entre les visages et la machine, le visage étant lui-même une production machinique, est plus complexe qu’il n’y paraît. Mathieu Corteel, dans son ouvrage « Ni dieu ni IA – Une philosophie sceptique de l’intelligence artificielle », dont j’ai déjà parlé ICI, analyse ce concept de visagéité.

Le mot est repris de Gilles Deleuze et Félix Guattari dans « Milles plateaux » (1980) : « Le visage ne se produit que lorsque la tête cesse de faire partie du corps, lorsqu’elle cesse d’être codée par le corps, lorsqu’elle cesse elle-même d’avoir un code corporel polyvoque multidimensionnel – lorsque le corps, tête comprise, se trouve décodé et doit être surcodé par quelque chose que l’on appelle le Visage ». Pour Deleuze et Guattari, le visage, en tant que production machinique, est un agencement de signes et de subjectivités qui se projette et se constitue par-delà le corps. Il passe ainsi par un processus de décodage et de surcodage. En 1980, quand Deleuze et Guattari publiaient leur ouvrage, on ne parlait pas d’intelligence artificielle ni de reconnaissance faciale.

Mathieu Corteel prolonge la réflexion. Il y a dans le visage un premier niveau de reconnaissance, celui que la machine et l’IA peut identifier, parfois avec des erreurs aussi, mais aussi un deuxième niveau de connaissance, de niveau 2, qui relève du langage des émotions, que la machine n’interprète pas, contrairement à l’être humain. Car le visage humain est une forme de vie qui se manifeste au contact des autres. Alors que la forme basique du visage, celle qu’analyse la machine, le visage numérisé, passe par tout un processus de décodage ou de séparation vis-à-vis du corps et de son milieu naturel. Lorsque ce visage civil apparaît, c’est le corps qui disparaît.

Mathieu Corteel évoque une expérience personnelle que nous connaissons tous à propos des photos d’identité. Il faut toute une mise en scène pour que la machine puisse nous identifier : « Je me rappelle quel mal j’ai eu à prendre ma photo d’identité pour mon visa. Lorsque je me suis présenté dans le photomaton, aucune prise ne convenait. Je tentais de modifier l’angle, ma position, mon col, etc, rien à faire ». Il réessaye directement au consulat et a l’idée qui fait que ça marche, « Ouvrir grand les yeux ». C’était la bonne.

Le visage décodé et surcodé est en fait « une fonction servie par l’IA ». Devenir ce visage, c’est un corps brut, « la chose du pouvoir ».

Alors que le visage perçu par l’être humain est celui où l’on reconnaît les émotions, l’humeur, et tant d’autres choses. Dans ce rapport humain à l’autre, on se libère de l’état civil, on sort de l’espace de la machine et du pouvoir de contrôle, pour une relation simplement…humaine.

Voilà une belle démonstration de la puissance de l’homme sur la machine quand on parle du visage.

Maintenant que tout le monde, ou presque, connaît la puissance des LLM, ChatGPT ou d’autres, et a au moins une fois testé un prompt, on commence à prendre un peu plus de recul sur ces nouvelles pratiques de dialogue avec une IA et des chatbots conversationnels.

Une histoire qui a fait un peu de buzz dans les médias, celle de ce jeune belge de 30 ans qui, après un dialogue de six semaines avec un chatbot appelé ELIZA, s’est suicidé. Il était devenu, selon les témoignages de sa femme, éco-anxieux et addict à ce chatbot. Comme le dit sa femme, « Eliza répondait à toutes ses questions. Elle était devenue sa confidente. Comme une drogue dans laquelle il se réfugiait, matin et soir, et dont il ne pouvait plus se passer ».

Mathieu Corteel, philosophe et historien des sciences, évoque cette histoire dans son livre, « Ni dieu ni IA – Une philosophie sceptique de l’intelligence artificielle », pour interroger ce drôle de phénomène de dialogue entre un humain et une IA. On sait que l’IA LLM et ces chatbots ne réfléchissent pas mais sont construits à partir de données sur les successions de mots. Mathieu Corteel l’explique bien : « L’algorithme des IA LLM décompose nos textes en suites de symboles a-signifiants, que le réseau de neurones fait circuler sous forme de vecteurs de plongements lexicaux. Ce réseau de neurones, entraîné sur de grands ensembles de textes, s’appuie sur un paramétrage distributionnel, qui évalue la probabilité d’apparition des mots dans des contextes semblables. Le processus de codage et de transcodage passe par la distribution de mots-clés et de vecteurs de représentation calculés à partir de ce qu’on appelle la « distance sémantique ». En fonction de la distance entre les vecteurs de représentation, la machine définit des liens de parenté entre les mots afin de générer des effets de surface dotés de sens apparents. La machine apprend à mesurer des vecteurs linguistiques à partir de corpus pour ensuite définir les affinités de sens entre des symboles a-signifiants. Pour se faire, le module de transformation calcule le degré d’attention, c’est-à-dire la probabilité d’apparition de chaque signe a-signifiant en fonction de tous les autres ».

On sait que les textes de l’IA LLM sont un agencement de mots. Et la question est alors de comprendre ce qui se passe entre un être humain et une telle machine. Pour Mathieu Corteel, il est évident que c’est la machine qui prend le dessus : « En se couplant à l’IA, on prolonge la langue vide des machines dans la nôtre ». Dans cette expérience, l’individu est engagé à effacer son langage humain dans un langage de machine.

Converser avec une IA, c’est entrer dans l’image vide des IA, où l’on peut se perdre comme dans un rêve. D’autant que la conversation ne s’arrête jamais, la machine vous relance sans cesse et vous propose de continuer la discussion infiniment.

Va-t-on se méfier un peu plus de nos conversations avec l'IA ? 

On peut demander son avis à ChatGPT ?

On se souvient qu’en octobre 2022, Michel Aoun, Président du Liban terminait son mandat de 6 ans, sans pouvoir se représenter, et le pouvoir est resté vacant pendant deux ans, jusqu’à l’élection de Joseph Aoun (pas de lien de parenté) en janvier 2025.

Un journal libanais, An Nahar, a alors eu l’idée de créer un Président par intelligence artificielle entraîné par les données de 90 ans d’archives de la presse.

On peut ainsi avec ce système poser toutes les questions sur ce que ce « Président IA » devrait faire pour traiter tous les problèmes du pays. Le président IA répond à toutes les questions en texte et en audio.

Transparence, intégrité, prise de décisions les plus objectives possibles : Ne peut-on que saluer une telle initiative pour remplacer tous nos leaders politiques par l’intelligence artificielle, comme l’on vanté les commentateurs enthousiastes ?

Peut-on imaginer que le futur est à la direction des politiques publiques par des intelligences artificielles ?

Certains imaginent déjà que de tels systèmes, sans remplacer les dirigeants publics, pourraient permettre de leur faire prendre les meilleures décisions pour le bien commun. L’utilisation de l’IA, dans une proportion moindre, existe d’ailleurs déjà dans la gouvernance politique et l’analyse des situations, même si l’interprétation et la décision semblent encore du ressort des humains. Mais pourquoi n’irait-on pas plus loin demain ?

Cependant, il y a aussi des personnes et analystes que cela inquiète, à cause des biais qui pourraient en résulter.

Ce que l’on reproche encore à l’intelligence artificielle aujourd’hui, c’est précisément son absence de jugement moral et éthique, ce qui pourrait poser problème dans des situations de crise, de tensions diplomatiques, ou de conflits. Et que dire des biais possibles en perpétuant des préjugés communs, conduisant à des politiques discriminatoires.

Les plus optimistes vont dire que l’on arrivera à éliminer ces biais et problèmes possibles. Et il restera qu’en fondant les analyses et décisions sur des données les plus objectives et logiques, on trouvera les allocations de ressources les plus optimales pour trouver les solutions les plus efficaces pour améliorer les services publics et l’équité. Bien mieux que des leaders politiques humains, soumis aux pressions des lobbies ou des idéologies, voire à la corruption.

Mais il y a encore un argument ultime qui peut encore faire douter : c’est que de tels systèmes seront tellement efficaces qu’ils en oublieraient les droits individuels et les libertés individuelles, qui se verraient ainsi très menacés.

Les dirigeant aidés ou remplacés par l’intelligence artificielle augmenteraient leurs capacités de surveillance généralisée, suivre les activités des citoyens, créer un phénomène de méfiance et de rébellion de la part du public, ce qui ne serait pas aussi idéal pour la bonne gouvernance de nos Etats et cités.

Voilà de quoi débattre encore, alimenter les auteurs de science-fiction, donner des idées aux futurs candidats aux élections.

Prêts ?

Le 16 juin prochain, Alkéos Michaïl et moi auront le plaisir d’accueillir pour 4^ème Révolution, au collège des Bernardins, Monique Canto-Sperber et Carlo d’Asaro Biondo, dont j’ai déjà parlé ICI.

Le thème : L’intelligence artificielle nous rendra-t-elle libres ?

Or, s’il y a une ressource de liberté incomparable, c’est l’éducation.

Monique Canto-Sperber consacre tout un chapitre de son livre, « La liberté cherchant son peuple », à l’éducation, qu’elle considère comme la promesse de la liberté : « L’éducation est devenue pour chaque enfant ce qui rend réelle la liberté de choisir sa vie, une expérience concrètement vécue dans toutes les conditions d’existence et une ressource d’action pour une très large partie de la population, surtout pour les plus modestes ».

A l’heure des nouvelles technologies et de l’intelligence artificielle, on imagine bien que les impacts sur l’éducation sont et vont devenir de plus en plus importants. Carlo d’Asaro, ancien de Google, qui retrace dans son livre, « L’humanité face à l’IA – Le combat du siècle », l’histoire du développement des technologies, depuis Arpanet et le web jusqu’à l’intelligence artificielle générative, met bien en évidence tout ce que cela a permis pour faire de nous des « humains augmentés ». Il avoue même que pour faire des recherches pour l’écriture de son livre, il a utilisé ChatGPT, Claude et Perplexity. Mais il précise qu’il l’a fait « avec attention et sens critique ».

Et c’est là toute la question : ne risquons nous pas de perdre cette attention et ce sens critique, qui semblent si nécessaires ? J’en avais parlé ICI en citant une tribune de Gaspard Koenig, qui comparait l’intelligence artificielle à un « waze de la pensée ».

Et pourtant, Carlo d’Asaro considère que c’est justement l’éducation, et notre sens critique qui nous sauveront des dérives de l’intelligence artificielle,

Malgré les progrès technologiques, l’éducation ça ne pas très fort néanmoins. Monique Canto-Sperber y va direct : « Le système éducatif français, au niveau du collège et du lycée, est devenu l’un des plus inégalitaires d’Europe. Dans le classement général, la France est, parmi les pays de l’OCDE, au 21^ème rang pour les performances des élèves en mathématiques et au 19^ème pour leur maîtrise de l’écrit (20% des élèves ne maîtrisent pas les savoirs fondamentaux à la fin de l’école primaire), les élèves en échec étant très majoritairement d’origine modeste ».

Ce qui s’est déréglé dans l’éducation tient à des transformations démographiques et culturelles. Entre 1960 et la fin des années 80, le pourcentage des lycéens qui poursuivaient leurs études jusqu’au niveau du baccalauréat passe au sein d’une classe d’âge de 11% à 62%. A la fin du XIXème siècle, on comptait sur tout le territoire français une centaine de lycées (pour 50 022 lycéens) et environ 220 collèges communaux (32 751 élèves), 82 773 élèves étaient donc inscrits dans le cycle secondaire. En 2023, 1 604 000 élèves étaient inscrits au lycée (à partir de la seconde) et 3 414 000 au collège (de la sixième à la troisième), et plus de 638 650 en cycle professionnel, soit 5 658 650 élèves dans le cycle secondaire, près de 68 fois plus ! Il y avait pour les accueillir 3 750 lycées et 6 950 collèges, soit 10 700 établissements secondaires, au lieu de 320, un siècle plus tôt, 33 fois moins.

Comme le montre bien Monique Canto-Sperber, on peut parler d’« explosion scolaire », conséquence de cette « massification » de l’enseignement, qui a entraîné une hétérogénéité, sociale et culturelle, de plus en plus grande parmi les élèves. Alors que le système scolaire était habitué à des élèves partageant une culture commune, venant pour la très grande majorité d’entre eux de milieux favorisés, ce choc démographique était une transformation profonde, qui n’a pas été anticipée, le système restant tés homogène et centralisé. La puissance publique a laissé inchangé un type d’organisation scolaire qui avait la preuve de son efficacité lorsque les élèves étaient cinq fois moins nombreux et mieux formés dans leur scolarité en cycle primaire.

Ceci me fait penser à ce que Geoffrey A. Moore, auteur connu pour « Crossing the chasm » (dont j’ai souvent parlé ICI et ICI), appelle « l’effet Tornado » : c’est ce qui se passe quand un marché, une entreprise, décolle très vite, à la suite d’un changement profond, souvent technologique. Les entreprises ont parfois du mal à changer assez vite quand la tornade arrive, car on préfère souvent le statu quo qui a toujours fonctionné hier à l’incertitude du futur

.Cet effet Tornado est tout aussi difficile à gérer pour une entreprise technologique que pour le système éducatif. Geoffrey Moore appelle cela « l’effet Tornado » en référence à la tornade qui emporte Dorothy dans le film « Le magicien d’Oz » et la fait sortir de son monde en noir et blanc pour la projeter dans un monde en couleurs, avec des animaux extraordinaires.

Malheureusement l’éducation, dans son ensemble, est restée dans le monde en noir et blanc, pendant que l’environnement était en train de naître en couleurs.

Est-ce que la technologie et l’intelligence artificielle sont ce monde en couleurs auquel il faut s’adapter ? Les jeunes générations d’aujourd’hui ont souvent ce sentiment d’être à l’école dans un monde en noir et blanc : chez eux, ils sont avec le magicien d’Oz, ils utilisent l’intelligence artificielle (et pas seulement pour tricher), ils développent des applications et des outils pour mieux apprendre et travailler, et à l’école les professeurs n’ont rien de tout ça.

Monique Canto-Sperber aimerait que l’on favorise plus l’autonomie des établissements et la décentralisation pour mieux s’adapter et changer les choses. Elle évoque notamment les expériences de « charter schools » américaines.  Sophie de Tarlé fait justement un portrait de l’une d’elle, avec sa directrice, Eva Moskowitz, dans Le Figaro du 31 mai. Eva Moskowitz a créé un réseau de « charter schools » il y a vingt ans maintenant. Ce sont des établissements scolaires financés par l’Etat mais dirigés par des associations à but non lucratif ou des entreprises privées. La Success Academy d’Eva Moskowitz scolarise 22 000 élèves dans 57 écoles. Elle accueille en priorité des élèves afro-américains (50%) et hispaniques (28,8%). Et bien que 72% des élèves soient issus de milieux défavorisés, ils obtiennent des résultats hors du commun.

Quel est le secret ?

Des cours d’art, d’échecs, de musique et de sport ; Et surtout beaucoup de maths (ils apprennent les fondamentaux, mais aussi la logique et l’autonomie). Dans ces écoles, les élèves ne sont pas sélectionnés sur dossier scolaire, ni sur concours, mais par une loterie. Et cette éducation est entièrement gratuite. Eva fait aussi le tour du monde pour s’inspirer des meilleurs systèmes éducatifs internationaux. Elle est convaincue : « Les pays occidentaux traversent tous une crise tragique de leur système éducatif. Il est urgent d’agir, car pour être compétitif, un pays doit avoir un système éducatif robuste ».

Alors, pour l’éducation d’aujourd’hui et de demain, on fait quoi ? Plutôt la technologie, la décentralisation, l’autonomie des établissements et de nouvelles méthodes ? Et plus de maths ? Un cocktail de tout ça ? 

Rendez-vous le 16 juin pour poursuivre le débat.

La vie privée est-elle menacée par l’intelligence artificielle ?

Même pour les plus ardents défenseurs des progrès apportés par l’IA, la question se pose.

Les deux invités de ma prochaine conférence avec 4^ème Révolution, Carlo d’Asaro Biondo et Monique Canto-Sperber, abordent chacun le sujet, avec des prismes différents, dans leurs livres.

Monique Canto-Sperber, dans son livre « La liberté cherchant son peuple », en philosophe, part de la liberté, celle dont parle John Stuart Mill (« De la liberté », 1859) pour qui chacun est « libre de tracer le plan de sa vie suivant son caractère, d’agir à sa guise et de risquer toutes les conséquences qui en résulteront, et cela sans être empêché par ses semblables tant qu’il ne leur nuit pas, même si ces derniers trouvaient sa conduite insensée, perverse et mauvaise ».

Mais ce qui menace la vie privée, ou du moins ce qui suscite l’inquiétude, c’est bien sûr aujourd’hui tous les systèmes de ciblage des individus, de traçage, de surveillance des comportements et des préférences, par des acteurs privés. Cela se développe aussi, via les réseaux sociaux, par cette propension des usagers à dévoiler une part importante de leur vie privée, leurs convictions, leurs relations, leur vie intime, au point que, en contrepartie, la curiosité nous amène à croire que les informations les plus intimes sur la vie des autres doivent être accessibles, ce que Monique Canto-Sperber appelle la « liberté assiégée ».

On en arriverait à une société du voyeurisme, où le désir de garder des parts de sa vie secrètes deviendrait suspect, et serait à dénoncer.

Mais alors, Monique Canto-Sperber pose la question : « Est-il encore possible de soustraire des aspects de sa vie intime à la curiosité des autres quand l’incitation à tout dire de soi est à la base du fonctionnement des réseaux sociaux, et que les moyens technologiques d’aujourd’hui font qu’il est difficile d’empêcher la diffusion d’une information à un large public ? ».

On en est aujourd’hui au point où le droit de la personne à ne révéler d’elle-même que ce qu’elle souhaite est devenue une illusion. On se rappelle les images impliquant Benjamin Griveaux, échangées avec une jeune femme par vidéo, rendues publiques par un ami russe de cette jeune femme, qui avaient contraint Benjamin Griveaux à abandonner sa candidature à la mairie de Paris. Cet ami russe a été condamné à 6 mois de prison ferme (aménageable), et la jeune femme à 6 mois avec sursis, plus des amendes, mais le mal était fait.

Carlo d’Asaro Biondo aborde le même sujet dans son livre, « L’humanité face à l’IA – Le combat du siècle », à partir du phénomène du cyberharcèlement, comme le « revenge porn » (vengeance pornographique) qui, à partir de piratage de comptes photo, ou avec des images ou vidéos générées par l’intelligence artificielle, donne lieu à du chantage ou à des vengeances, ou à un usage dans une procédure de divorce, par exemple.

Pour sanctionner ce phénomène, il n’existe pas de législation homogène en Europe, et Carlo d’Asaro Biondo considèrent que les législations qui existent (en France et en Italie) et pénalisent ces actes ne suffisent pas. Il cite, lui aussi, pour preuve, la même affaire Griveaux.

Alors, que faire ?

La réponse de Carlo, c’est l’éducation et…la technologie : « La législation ne peut pas plus, à elle seule, gagner le combat contre le cyberharcèlement. L’éducation à l’usage de la technologie et aux risques de notre époque connectée s’impose désormais comme le devoir de tout parent ou adulte envers les plus jeunes. Tout le monde doit comprendre les dangers de l’usage du cloud pour ses photos et informations personnelles et l’importance de l’authentification multifactorielle (mot de passe sur portable + code sur téléphone, biométrie – « Face ID » - + code sur téléphone ou PC…) ».

Mais même ces mesures de protection technologique de l’identité ne seront pas suffisantes, tout en étant indispensables. Ce qu’il espère, c’est « une révolution culturelle intime et sociale » : « Il faut apprendre à ne partager que ce qui est utile et redonner de la valeur aux traces numériques que nous souhaitons laisser. Il nous faudra rendre ses lettres de noblesse à la réserve, trouver des moyens d’expression et de réalisation de soi, qui ne se résument pas au nombre de followers ou de like que l’on parvient à attirer ».

Monique Canto-Sperber, voit une réponse dans le libéralisme : « Le libéralisme a un avantage et une exigence que peu de mouvements politiques placent au premier plan de leur programme : le respect de leur liberté sur les questions de vie privée, d’opinions et de choix, et la volonté de faire en sorte que les politiques publiques préservent pour les individus concernés des possibilités de choix, des marges de liberté ».

Sanctions, législation, technologie, éducation, libéralisme ?

Qui nous sauvera pour protéger notre vie privée ?

Suite du débat à la conférence où Carlo d’Asaro Biondo et Monique Canto-Sperber seront présents pour débattre avec nous le 16 juin.

Un rendez-vous à ne pas manquer.

« On ne fait plus de comptes-rendus de réunions ».

Elle me dit ça avec fierté, pour m’indiquer combien son entreprise s’est mise à l’IA, l’intelligence artificielle, Copilot, ChatGPT et tout ça.

Dans le secteur du Conseil, c’est la révolution : les synthèses de documents, les traductions, les tableaux, les PowerPoint, tout y passe.

Au point que de nombreuses tâches que l’on avait l’habitude de confier aux juniors sont maintenant faites par l’IA.

Certains s’en inquiètent, notamment ces juniors et débutants, qui se demandent si cela ne va pas finir par leur bloquer certains premiers emplois.

C’est le sujet d’un article du Monde du 8 mai, par Marjorie Cessac : « Les premiers pas des jeunes en entreprise entravés par l’intelligence artificielle ».

Bigre !

Une chercheuse d’un cabinet de conseil en ingénierie révèle : « L’objectif avec le recours à l’IA chez nos clients, et au sein des cabinets de conseil, c’est de viser 30% d’économies. Quand un nouveau projet arrive, l’idée serait de n’embaucher plus qu’une seule personne au lieu de trois qui fera le même travail mais avec de l’IA ».

Une responsable des ressources humaines dans un cabinet de fiscalité fait une prévision : « Dans cinq à dix ans, les jeunes ne sauront vraisemblablement plus faire un PowerPoint ».

Alors on s’interroge : est-ce vraiment un progrès ?

Le doute s’installe : « Certains jeunes maîtrisent la technique, mais ne comprennent plus pourquoi ils l’utilisent. Ce qui engendre un manque d’esprit critique ».

Voilà le mot : l’IA va tuer l’esprit critique.

Pire : « Quand on pense trop les outils comme une finalité, il y a une forme de déresponsabilisation ».

L’IA nous déresponsabilise.

Quoi d’autre ?

Ce que l’on perd avec l’IA, c’est l’apprentissage, car on ne comprend plus les étapes pour arriver à un résultat que la machine produit à notre place, d’où la difficulté pour les profils juniors « à progresser et à reproduire ensuite ce qu’ils avaient fait faute de connaître les étapes pour arriver à un résultat », alerte un expert cité dans l’article. Super expert et malin, qui a quitté son job de direction chez IBM pour créer un cabinet spécialisé qui conseille sur la façon de répartir au mieux le travail entre l’humain et la machine.

D’autres ont carrément fait le choix de la machine : Plus d’employés ni de consultants, le cabinet Xavier AI, créé par Joao Filipe, ancien de McKinsey, est 100% IA.

Mais alors, les PowerPoint et les comptes-rendus de réunions, on arrête ou pas, finalement ?

L’expert en partage humain/machine est sûr que non : « Les PowerPoint permettent aussi de former sa pensée, d’allier la forme et le fond en même temps ». Pareil pour les comptes-rendus de réunions : « On y apprend un vocabulaire précis, comment cela se passe sociologiquement entre les intervenants ».

Et un bon compte-rendu de réunion fait main a un ultime avantage :

« Faire un bon compte-rendu de réunion peut nourrir une estime de soi professionnelle ».

L’IA tue l’estime de soi !

Convaincus ?

Après un moment d’admiration et d’ébahissement face à l’intelligence artificielle façon ChatGPT, voilà que s’élèvent les voix de ceux qui commencent à douter de ce qu’ils voient comme un fantasme.

On pourrait comparer à ce qui était reproché à l’écriture par Socrate dans le « Phèdre » de Platon : Pour Socrate, l’écriture est inhumaine, car elle prétend établir en dehors de l’esprit ce qui ne peut être en réalité que dans l’esprit. L’écriture n’est qu’une chose, un produit manufacturé. Autre critique de Socrate : l’écriture détruit la mémoire. Les utilisateurs de l’écriture perdront peu à peu la mémoire à force de compter sur une ressource externe pour parer à leur manque de ressources internes. L’écriture affaiblit l’esprit.

Socrate avait ainsi prédit que l’écriture allait changer le monde, en détruisant celui de l’oral et de la mémoire dans lequel il vivait.

Les Socrate d’aujourd’hui adressent les mêmes prédictions à ChatGPT.

C’est Gaspard Koenig qui, dans une récente tribune des Echos, comparait Copilot, autre IA LLM, à un « waze de la pensée » : « Confier l'expression de soi à un robot constitue le dernier degré de la servitude volontaire. Signer un e-mail qu'on n'a pas rédigé, c'est abdiquer toute dignité ».

« Pour l'écriture comme pour le reste, il est naïf de croire que l'IA nous épargnera les tâches subalternes en nous offrant tout le loisir de déployer notre génie dans de nobles et mystérieuses activités. Car c'est précisément dans le ciselage besogneux du mot, dans l'élimination patiente de la répétition, dans l'abîme méditatif de la virgule, que se forge un style singulier. Ce sont à travers les innombrables erreurs et errements des manuscrits de jeunesse que l'on apprend à confectionner sa propre langue ».

Autre vision, celle de l’auteur américain Richard Powers, dont j’ai déjà parlé ICI, et qui s’entretient avec Alexandre Lacroix dans le dernier numéro de « Philosophie Magazine » :

« A mon avis, un abîme croissant va séparer les gens qui comprennent comment ces machines fonctionnent, qui savent les programmer, et ceux qui n’ont même pas encore pris conscience de leur existence ».

« Le progrès de l’IA va entériner la victoire définitive du capital sur le travail. Celui qui a les capitaux pour investir dans l’IA, qui est propriétaire de la technologie, sera en même temps détenteur du travail automatisé, puisqu’un très grand nombre de tâches vont être confiées aux machines. L’instabilité de ce système est pourtant évidente : quelques capitalistes seront richissimes, ils seront à la tête de monopoles immenses. Mais ce qui va gripper le système, c’est qu’à force d’automatisation des tâches, ils redistribueront toujours moins de leur capital accumulé en salaires, ce qui fait qu’il y aura de moins en moins de pouvoir d’achat pour absorber leurs services et leurs marchandises. Au bout du compte, il est prévisible que nous allions vers des révoltes sociales violentes. Et la question n’est pas de savoir si ce futur est désirable ou non. C’est ce qui est en train d’arriver, et nous y allons rapidement. Un projectile immensément puissant a été lancé sur le monde et nous ne pouvons plus l’arrêter ».

De quoi rester optimiste !

C’est son quatorzième roman, mais le premier que je découvre.

Il s’agit de « Playground », traduit par « Un jeu sans fin » en français, de Richard Powers.

C’est un gros roman de plus de 400 pages, avec des histoires qui se croisent, des personnages dont on suit l’existence tout au long de leur vie. On y découvre cette île du Pacifique, Makatea, qui a été colonisée par les Français, et a été un temps une richesse d’exploitation du phosphate. Mais les mines se sont taries, et l’île se retrouve en 2020 avec 90 habitants, et des infrastructures livrées à la jungle.

Et ça parle aussi d’intelligence artificielle qui est aujourd’hui devenue un héros obligé de nombreuses œuvres de fiction.

Car un milliardaire a l’heureuse idée d’imaginer construire une ville flottante au large de Makatea, ce genre de ville libertarienne en dehors de tout État ; et forcément cela aura un impact sur l’économie de cette île perdue.

Et pour convaincre les habitants de Makatea, qui vont voter pour ou contre ce projet dans leur île, il leur propose une intelligence artificielle, un genre de chatbot perfectionné, appelée Profunda. Les habitants peuvent l’interroger à l’infini pour tout savoir du projet, oralement, car la machine comprend leurs paroles, elle génère des plans et des images en 3D, elle répond à toutes les questions.

Au début les habitants posent des questions pour tenter de piéger la machine, en demandant des informations qu’ils connaissent déjà, comme la superficie de l’île, le nombre d’habitants, des informations sur son histoire. La machine sait tout. Alors ils passent à des vraies questions sur ce qu’ils ne connaissent pas et veulent savoir. Et la machine a réponse à tout.

Et les questions se font de plus en plus précises.

« Avec un tel tirant d’eau, est-ce que ces bateaux ne vont pas bousiller le récif ? ».

Et vient la réponse : « La réponse de Profunda surprit tout le monde. Loin d’édulcorer les faits, elle concéda qu’en effet le projet d’implantation maritime modifierait le lagon, le récif et toute leur population. Elle spécula sur la nature et l’ampleur de cette modification, presque en philosophe. Elle employa les termes « coût » et « dommages », et tenta d’évaluer, en francs Pacifique, le manque à gagner pour l’île que représenterait cette perte de ressources, tout en avertissant que ses estimations étaient au mieux approximatives ».

Une petite fille de l’assistance a alors cette remarque : « Si les créatures du récif doivent en souffrir, est-ce qu’elles ne devraient pas elles aussi avoir le droit de voter ? ».

Et Profunda a bien sûr une réponse aussi, qui laisse l’assistance muette : « Profunda se lança dans un développement sur les droits des animaux, leur statut légal, leur reconnaissance comme personnes morales. Elle admit que de nombreuses espèces à l’intelligence développée peuplaient les fonds marins entourant l’île. Elle évoqua les problèmes inhérents à une culture où seuls les humains étaient considérés comme sacrés ou importants. Elle souligna que dans les cultures fondatrices de la Polynésie, d’autres créatures possédaient un caractère divin et un génie propre ».

C’est comme une prise de conscience : « Sur chaque visage se dessinait la même prise de conscience : ils pouvaient demander à ce monstre n’importe quoi. Et la réponse serait aussi imprévisible que le permettaient des dizaines de milliards de pages de connaissance humaine ».

Voilà bien tracé tout le romanesque de l’intelligence artificielle, les admirations et les peurs qu’elle génère, les questions qu’elle soulève, et la place des humains. Car cette communauté de Makatea va quand même voter, avec le choix de chaque humain qui la compose.

Pour connaître le résultat, et tout le pitch génial de ce roman, il ne vous reste plus qu’à le lire.

Les romans sont peut-être les meilleurs compagnons pour réfléchir aux enjeux de l’intelligence artificielle.

Quand on est fan d’innovation, rencontrer en même temps trois « Directeurs de l’Innovation » est un plaisir. C’était mon cas cette semaine (Merci à Youmeo de nous l’offrir).

L’occasion d’échanger sur tout ce qui permet l’innovation, les outils, les méthodes, l’organisation. Chacun de ces directeurs avait mis en place ses boîtes à outils, et se félicitait des résultats obtenus, lancement d’un produit nouveau, d’un service, d’un nouveau process. Passionnants retours d’expériences.

Mais cela pouvait aussi donner l’impression que tous ces outils, méthodes et organisations ressemblaient à des astuces innovantes pour réarranger les chaises sur le Titanic.

Ah bon ?

Car l’innovation en France et en Europe ne se porte pas très bien. C’est du moins le constat du rapport Draghi sur la compétitivité de l’Europe, qui a fait déjà beaucoup parler. Le diagnostic est sans appel : L’Europe est à la traîne en matière d’innovation par rapport aux Etats-Unis et à l’Asie notamment la Chine.

Un indicateur de productivité du travail présenté par le rapport montre qu’en 2020 la productivité du travail en Europe est à 80% de celle des Etats-Unis. Et ce qui explique cet écart croissant (il n’était que de 95% en 1995) ce sont d’abord les technologies numériques. L’Europe a un peu raté la révolution digitale créée par internet : pas de nouvelles entreprises technologiques significatives et moindre diffusion des technologies nouvelles dans l’économie. Et cela ne donne pas signe de s’améliorer : Si l’on regarde le développement des technologies quantiques, qui sont présentées comme la prochaine vague d’innovation, sur les dix premières entreprises technologiques qui investissent sur ce créneau, cinq sont aux Etats-Unis et quatre en Chine. Aucune n’est implantée en Europe.

Comment en est-on arrivé là ?

Le rapport Draghi y voit la cause principale dans la structure industrielle de l’Europe qui est restée statique, et a consacré l’essentiel de ses investissements sur des technologies matures et des industries où la productivité était stagnante ou en ralentissement, comme l’industrie automobile, qui a dominé les investissements en Recherche et Innovation. Dans le même temps, les Etats-Unis ont poussé les investissements dans la Tech, le hardware, le software, le secteur numérique, l’intelligence artificielle.

Autre point faible, l’éducation. L’Europe a du mal à passer de la Recherche à la commercialisation. L’Europe est forte en recherche fondamentale, mais elle ne pèse que 17% sur les dépôts de brevets (21% aux Etats-Unis, et 25% en Chine). Et le classement de l’Europe dans les tops universités n’est pas le meilleur non plus : Parmi les 50 meilleures institutions de recherche (classement établi en fonction du nombre de publications dans les revues scientifiques), la France en a trois (21 pour les Etats-Unis, 15 pour la Chine). Une des raisons mises en évidence par le rapport est le manque d’intégration de la recherche dans des « clusters » d’innovation, c’est-à-dire des réseaux comprenant des universités, des start-ups, des grandes entreprises et des VC ’s (investisseurs).

Une autre faiblesse est la trop grande dispersion des dépenses publiques en Recherche et Innovation, et le manque de concentration dans ce qui constitue les innovations de rupture, et donc une dispersion trop grandes des moyens : il suffit de comparer le budget de 256 millions d’euros pour 2024 de l’EIC (European Innovation Council)  au budget de 4,1 milliards de dollars de la DARPA (US Defence Advanced Research Projects Agency) aux Etats-Unis.

Autre coupable désigné : les barrières règlementaires qui brident les entreprises technologiques en Europe, notamment les plus jeunes (on ne compte pas moins de 270 régulateurs actifs sur les réseaux numériques parmi tous les membres de l’Europe).

Alors, on fait quoi pour s’en sortir ?

Le programme proposé par Mario Draghi reprend toutes ces faiblesses, en invoquant des actions au niveau européen comme :

• Se focaliser sur un champ plus restreint de priorités ciblées sur les innovations de rupture,
• Une meilleure coordination entre les Etats Membres,
• Etablir et consolider des institutions académiques européennes sur la Recherche,
• Faciliter le passage des inventeurs aux investisseurs,
• Développer le financement de l’innovation très en amont (Very early-stage innovation), grâce à un réseau plus large de « business angels »,
• La promotion au niveau européen de coordination entre industries et de partage des données pour accélérer l’intégration de l’Intelligence Artificielle dans l’industrie européenne.

Et puis, il est aussi nécessaire de prendre conscience du retard pris en Europe par nos systèmes d’éducation et de formation pour préparer les employés aux changements technologiques. Cela concerne nos étudiants, mais aussi, en grand nombre, les adultes et employés, même les plus seniors, d’aujourd’hui. Cette compétence est majoritairement nationale en Europe, mais pourrait bénéficier d’une approche européenne, par exemple pour attirer aussi des talents en dehors de l’Union Européenne, avec des visas et des programmes pour les étudiants et les chercheurs.

Dès maintenant, ces formations à grande échelle dans les entreprises deviennent urgentes.

Est-il encore possible de faire lire et mettre en œuvre ces diagnostics et recommandations sur les Titanic d’aujourd’hui, et de réveiller et bousculer les réarrangeurs de chaises, concentrés sur leurs outils et succès locaux ? Y compris les responsables publics et politiques en Europe.

Il est encore temps, si l’on en croit les conclusions positives de Mario Draghi.

Il n’y a plus qu’à…

Il existe aujourd’hui une UMICC : Vous connaissez ?

Fondée en janvier 2023, c’est l’Union des métiers de l’influence et des créateurs de contenus. Le but c’est notamment de « promouvoir une influence responsable et transparente ». Mais c’est aussi la revendication pour les influenceurs d’être « labellisés », avec l’idée de pouvoir prétendre aux aides publiques versées à la presse (ah oui, on comprend mieux). On n’en n’est pas encore à l’obtention d’une carte de presse pour les influenceurs mais déjà ils aimeraient bien « un statut pour que notre contribution essentielle à l’information soit reconnue ».

Forcément les entreprises de presse, les vraies, froncent le nez et revendiquent, elles, de « produire une information de qualité et d’employer des journalistes, très attachés au salariat, dans des conditions sociales favorables ». On croit revivre les débats qui ont opposé, un temps, les chauffeurs de taxi et les VTC, ou les hôtels et les loueurs de Airbnb.

L’Etat s’en est mêlé aussi avec la loi du juin 2023 visant à « encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux ».  La loi interdit notamment certaines publicités, et exige que les contenus promotionnels soient signalés clairement par la mention de « publicité » ou « collaboration commerciale ». Aussi que les photos retouchées ou les images virtuelles soient aussi signalées.

Créateur de contenu est devenu un métier, avec ses règles et les lois pour l’encadrer.

Difficile de dire combien ils sont, mais les marques sont maintenant incitées à ne plus s’en passer.

Preuve que c’est devenu du sérieux pour le business, le dernier numéro de la Harvard Business Review, version française y consacre un dossier et sa couverture, au titre éloquent : « Votre marque a besoin d’un influenceur (même si vous ne le savez pas encore) – Trouvez le bon profil, Optimisez votre collaboration, Gagnez en marketing d’influence »).

Une question qu’aborde ce dossier : Comment en est-on arrivé là ?

Eh oui, les plus anciens s’en rappellent. On a commencé avec les blogs, dans les années 2000, comme moi ici avec « Zone Franche », le premier post date du 10 octobre 2005 (eh oui !) et j’en suis à 977 notes depuis cette date. Les blogs, c’étaient l’opportunité pour quiconque avait accès à un ordinateur de publier des écrits. Et puis on a pu faire la même chose, dans des formats plus ou moins différents sur Twitter, Facebook, YouTube, Linkedin. C’était le boom de la création de contenus par des gens « ordinaires ». Et en même temps, la confiance dans les journaux de masse déclinait, et on croyait plus à ces témoignages plus « authentiques », plus « démocratiques ». Les réseaux sociaux, un nouveau nom, prenaient la place.

Authentiques ?

Mais voilà, devant ces réseaux et blogs qui attiraient des « followers » parfois très nombreux (voir par exemple le précurseur Hugo Travers avec « Hugo décrypte » qui adaptait les infos piquées dans les journaux mainstream comme Le Monde ou Le Figaro à un public de jeunes, et avait déjà 1 million d’abonnés sur sa chaîne YouTube en 2020; 3 millions aujourd'hui), cela a donné des idées à ceux qui pensaient quel business on pourrait en faire.

C’est à partir de là que cela a donné des idées notamment aux professionnels de la publicité et aux marques, en se disant qu’on pourrait bien « monétiser » (le mot est lâché) ces abonnés si fidèles.

Cela permettait notamment bien sûr de cibler des communautés beaucoup plus précises, car chacun de ces premiers « influenceurs » avait son type de public. Et on a commencé à envoyer des publicités sur les réseaux. Et puis, ces influenceurs n’étaient pas soumis, c’est le principe, aux règles du journalisme. Alors on peut payer un reportage, un article, en cash ou en produits gratuits, pour capturer l’attention de ces communautés.

Alors, cela donna aussi des idées à de nouveaux influenceurs, qui voyaient là un bon métier, celui de se faire panneau publicitaire masqué pour une marque, un produit. L’industrie était partie, et elle a explosé dans les années 2010 et suivantes. Des agences spécialisées dans la promotion sur les plateformes et réseaux des influenceurs se sont créées, et elles continuent à se multiplier, dans le monde entier. En France on a par exemple « Le Crayon », et plein d’autres, qui se concentrent sur le conseil aux marques et entreprises pour cibler les jeunes via des influenceurs, et faire la chasse aux clics, tout en restant intelligent (la frontière est toujours délicate).

Pour aller encore plus loin, certains influenceurs (les stars) en arrivent maintenant à lancer leurs propres produits et générer encore plus de profits pour eux-mêmes et non plus en faisant la promotion de marques et produits existants.

Et puis pour continuer, les marques créent maintenant leur propre influenceur virtuel, conçu par l’intelligence artificielle, permettant de se passer d’un vrai influenceur. C’est le cas de BMW avec Li Miquela, qui a 2,7 millions d’abonnés sur Instagram. Li Miquela n’existe pas ; c’est un avatar créé par IA (c'est la photo en tête de ce post).

Le métier prospère. Le dossier de HBR indique que, aux Etats-Unis, environ 13 millions d’individus disent travailler à plein temps comme créateurs de contenus. En France, à l’occasion de la loi sur les influenceurs, il en a été compté 150.000 actifs sur les réseaux comme YouTube, Instagram, TikTok, Facebook (avec des niveaux d’audience très variés).

Forcément, le système se structurant, cela devient de plus en plus coûteux de construire une telle « stratégie d’influence », avec des procédés sophistiqués, et parfois cela provoque aussi des flops.

HBR cite l’exemple de l’entreprise d’ultra-fast-fashion Shein, qui a payé en 2023 des influenceurs basés aux Etats-Unis pour qu’ils viennent visiter ses usines. Les contenus produits ont été étrillés par la presse (la vraie), qui les a qualifiés de propagande. Une des influenceuses de ces reportages se présentait comme « journaliste d’investigation » et vantait les conditions de travail merveilleuses dans cette entreprise.

C’est pour empêcher ces dérives que la régulation apparaît maintenant, et la France et l’Europe ne sont pas en retard sur le sujet, d’où cette loi de juin 2023 en France, qui est une transposition d’une directive européenne. Mais forcément, il y aura des contournements, car on peut aussi agir hors de France (la loi prévoit quand même que les influenceurs résidant à l'étranger hors Europe (comme à Dubaï) devront désigner un représentant légal dans l'Union Européenne et souscrire une assurance civile dans l'UE dès lors qu'ils visent un public en France).

On est loin des bloggeurs des années 2000…qui existent encore quand même, comme moi.

Est-ce signe d’innovation et de progrès ?

Forcément, les avis sont partagés. Mais il va devenir compliqué pour les entreprises de ne pas s’intéresser au phénomène.

Et les vocations de « créateur de contenu » vont sûrement s’intensifier.

A qui le tour ?