Zone Franche - blog de Gilles Martin

Maintenant que tout le monde, ou presque, connaît la puissance des LLM, ChatGPT ou d’autres, et a au moins une fois testé un prompt, on commence à prendre un peu plus de recul sur ces nouvelles pratiques de dialogue avec une IA et des chatbots conversationnels.

Une histoire qui a fait un peu de buzz dans les médias, celle de ce jeune belge de 30 ans qui, après un dialogue de six semaines avec un chatbot appelé ELIZA, s’est suicidé. Il était devenu, selon les témoignages de sa femme, éco-anxieux et addict à ce chatbot. Comme le dit sa femme, « Eliza répondait à toutes ses questions. Elle était devenue sa confidente. Comme une drogue dans laquelle il se réfugiait, matin et soir, et dont il ne pouvait plus se passer ».

Mathieu Corteel, philosophe et historien des sciences, évoque cette histoire dans son livre, « Ni dieu ni IA – Une philosophie sceptique de l’intelligence artificielle », pour interroger ce drôle de phénomène de dialogue entre un humain et une IA. On sait que l’IA LLM et ces chatbots ne réfléchissent pas mais sont construits à partir de données sur les successions de mots. Mathieu Corteel l’explique bien : « L’algorithme des IA LLM décompose nos textes en suites de symboles a-signifiants, que le réseau de neurones fait circuler sous forme de vecteurs de plongements lexicaux. Ce réseau de neurones, entraîné sur de grands ensembles de textes, s’appuie sur un paramétrage distributionnel, qui évalue la probabilité d’apparition des mots dans des contextes semblables. Le processus de codage et de transcodage passe par la distribution de mots-clés et de vecteurs de représentation calculés à partir de ce qu’on appelle la « distance sémantique ». En fonction de la distance entre les vecteurs de représentation, la machine définit des liens de parenté entre les mots afin de générer des effets de surface dotés de sens apparents. La machine apprend à mesurer des vecteurs linguistiques à partir de corpus pour ensuite définir les affinités de sens entre des symboles a-signifiants. Pour se faire, le module de transformation calcule le degré d’attention, c’est-à-dire la probabilité d’apparition de chaque signe a-signifiant en fonction de tous les autres ».

On sait que les textes de l’IA LLM sont un agencement de mots. Et la question est alors de comprendre ce qui se passe entre un être humain et une telle machine. Pour Mathieu Corteel, il est évident que c’est la machine qui prend le dessus : « En se couplant à l’IA, on prolonge la langue vide des machines dans la nôtre ». Dans cette expérience, l’individu est engagé à effacer son langage humain dans un langage de machine.

Converser avec une IA, c’est entrer dans l’image vide des IA, où l’on peut se perdre comme dans un rêve. D’autant que la conversation ne s’arrête jamais, la machine vous relance sans cesse et vous propose de continuer la discussion infiniment.

Va-t-on se méfier un peu plus de nos conversations avec l'IA ? 

On peut demander son avis à ChatGPT ?