On connaît les discours, les appels au secours, les alertes, sur la dévastation généralisée des écosystèmes, l'épuisement des ressources naturelles, le réchauffement climatique.

Au point pour certains de remettre en cause la course à la croissance at au progrès. La sortie de Camille Etienne, militante écologiste de 22 ans et porte-parole du mouvement "On est prêts", lors de l'Université du Medef (rebaptisée Renaissance des Entrepreneurs de France) fin août 2020, qui a osé affirmer qu'il faudrait  "oser réinventer tout ça; peut-être travailler moins, avec un peu plus de sens", a fait le tour des réseaux sociaux, et fait glousser les patrons présents à l'hippodrome de Longchamps pour y assister.

Bien sûr, pour d'autres, comme Emmanuel Macron, revenir en arrière, ce serait revenir à la lampe à huile et au modèle Amish, contre la 5G. Dans Le Monde du 25 septembre, une tribune est signée par quatre anciens conseillers politiques et juristes du numérique, se présentant astucieusement comme "amish du numérique" pour poser la question également :

" Alors que certains considèrent que toute innovation technologique est bonne par essence, nous nous demandons : est-ce que cette innovation va nous aider à mieux vivre ensemble ou bien est-ce qu'elle risque de nous désunir ? ". 

Un autre récit émerge depuis quelques années, et se répand aujourd'hui dans le monde des entreprises, qui se veut radicalement plus rassurant : Il annonce que, grâce justement à des progrès technologiques fulgurants, l'espèce humaine pourra bientôt connaître l'abondance, vivre longtemps et en bonne santé (la mort de la mort), et même conquérir l'espace pour s'y installer. ce futur heureux est celui désigné par le terme de "transhumanisme". 

Un chapitre du livre de recueil d'articles "Collapsus", de Laurent Testot et Laurent Aillet, rédigé par Gabriel Dorthe, universitaire suisse auteur d'une thèse sur le sujet que l'on peut trouver en intégralité ICI, vient nous rappeler que ce terme de "transhumanisme" a été employé dans les années 50 par le biologiste Julian Huxley, frère du romancier Aldous Huxley (oui, l'auteur du "Meilleur des mondes" que l'on relit beaucoup en ce moment), qui anticipait le développement des biotechnologies qui permettrait à l'humanité de prendre en charge sa propre évolution. L'ouvrage a pour titre singulier " New bottles for new wine". Il faudra ensuite plusieurs décennies pour imposer la forme en "-isme" du concept. C'est en 1998 qu'est fondée la "World Tranhumanist Association" (WTA), par deux philosophes, le Suédois Nick Bostrom et l'Anglais David Pearce, rebaptisée en 2002 "Humanity+". Des associations du même type se créent alors à travers le monde, dont celle française, fondée en 2010, l'Association française transhumaniste Technoprog ( AFT). 

Une charte "Déclaration transhumaniste" a même été rédigée en 1998 par la WTA, remaniée plusieurs fois, la dernière en 2012, que l'on trouvera ICI. 

Cette déclaration pose dans son article 1 que " L'humanité sera profondément affectée par la science et la technologie dans l'avenir. Nous envisageons la possibilité d'élargir le potentiel humain en surmontant le vieillissement, les lacunes cognitives, la souffrance involontaire, et notre isolement sur la planète Terre". 

 Elle en appelle ensuite à délibérer, en tant que citoyens, sur l'administration des conséquences des progrès envisagés, et à choisir les éléments à promouvoir. 

Cela n'empêche pas, encore un peu aujourd'hui, certains critiques de présenter ces "transhumanistes" comme de doux dingues, ou, pire, des milliardaires aux idées fumeuses qui voudraient servir leurs intérêts d'investisseurs. Un hebdomadaire s'en prenait cette semaine à des investisseurs comme Xavier Niel qui investit dans des nouvelles formes d'alimentation sans viande, avec des steaks conçus en laboratoires ("L'agriculture cellulaire") ou dans l'entreprise MotifIngredients, avec Jeff Bezos et Bill Gates, qui a pour objectif de fabriquer des alternatives de laboratoires à la viande, aux œufs ou au lait, les soupçonnant de soutenir les antispécistes et le référendum sur les animaux pour nous détourner plus vite de l'agriculture traditionnelle.

Le débat n'est pas fini, et est nourri cette semaine par un dossier du Monde de ce week-end (daté de Dimanche 27/09), "L'entreprise va-t-elle sauver le monde ?", présenté par Nicolas Santolaria, et dont j'ai repris l'image d'illustration pour ce post. Il évoque ces entreprises qui se désignent comme "Good" : Ce sont ces entreprises dont "le projet, les produits et les services s'inscrivent dans des objectifs d'accroissement du bien commun, en retenant quatre thématiques : la réduction de l'émission des gaz à effet de serre, l'éducation, la réduction des inégalités er la santé" (selon la définition d'un rapport de PwC sur le sujet). On est un cran en-dessous des visions transhumanistes, mais le projet relève du même genre d'optimisme. Ce "Good" désigne bien, comme le souligne avec un peu d'ironie Nicolas Santolaria, " une approche proactive, presque chevaleresque, du bien commun, soudain devenu le cœur incandescent du capitalisme." Cela a pris de l'ampleur avec ce mouvement d'entrepreneurs "Tech for Good France". 

Bon, le dossier donne aussi la parole aux sceptiques, comme le sociologue Marc Audétat, coauteur de l'ouvrage " Sciences et technologies émergentes : pourquoi tant de promesses ?" : " C'est marrant, ce terme, "la tech". C'est comme si on assimilait la technologie à une bonne copine, qui vous amène des solutions. On a beaucoup eu, ces dernières années, le sentiment d'une innovation sans progrès. L'intelligence artificielle, la disruption façon Uber, les GAFA ont fini par être perçus de façon très pessimiste, prédatrice et négative. Regardez la série "Black Mirror" : la technologie y incarne le méchant. Le "Good" est donc une réponse à ce climat délétère. En mariant la marchandise et le bien, cette nouvelle mythologie suscite des émotions positives qui permettent aux entreprises de s'insérer sur des marchés porteurs. C'est aussi une réponse à l'impuissance que l'on ressent tous, un discours éthique qui ne mange pas de pain et auquel les gens pourront adhérer facilement."

Alors, cette bonne copine va-t-elle sauver le monde, nous libérer et élargir notre potentiel humain, au point de surmonter le vieillissement, les lacunes cognitives et la souffrance ? 

Question de foi, ou de confiance.

Saint Thomas serait bien malheureux aujourd'hui. Lui qui ne croyait que ce qu'il voyait, il serait bien en peine de faire la différence entre les vérités et les fake news, y compris parmi les vidéos qui peuvent être contrefaites avec l'intelligence artificielle. On a la souvenir de cette vidéo "deepfake" de Barack Obama lui faisant dire les pires horreurs, et qui était un fake total.

C'est sur cette technologie que part le roman de Sabri Louatah, "404" qui est une science fiction, une dystopie, située dans un temps pas si lointain, en 2022. A cette date, les vidéos "deepfake" sont de mieux en mieux simulées grâce à l'intelligence artificielle et au deep learning, l'auteur les appelle des "mirages". Au point qu'on n'arrive plus à distinguer les vraies des fausses vidéos qui circulent sur les réseaux sociaux. Terminée la preuve par l'image. Saint Thomas est K.O. Le roman relate par exemple le récit d'une mère qui a perdu son enfant et qui refabrique grâce aux fausses vidéos permises par Facebook , et fabriquées à partir du stock de vidéos qu'elle possède de son enfant, des vidéos de cet enfant disparu en le faisant vieillir et grandir à l'image. 

L'auteur imagine qu'un nouvelle application de streaming est créée, il l'appelle "404", qui empêche d'éditer et d'enregistrer les flux vidéos , empêchant ainsi toute fabrication de "mirage" à partir de toute vidéo sur 404. C'est donc une vidéo inviolable, et non reproductible. Drôle d'application, qui ne serait finalement que l'équivalent de "la télévision avant le magnétoscope". Cela s'appelle "404" en rappel du message d'erreur 404 quand on n'accède pas au site demandé. 

Mais cette application va se révéler monstrueuse, car elle va offrir à ceux qui sont attirés par elle "le plaisir de se montrer sans conséquences", et donc de débiter les pires horreurs, ou les images les plus crues. On peut donc, en se connectant sur cette plateforme, "entendre ce que les gens disent quand ils savent que leurs paroles s'envoleront pour toujours"; car les vidéos sur 404 ne peuvent être vues qu'en direct, et non enregistrées; et donc on ne tiendra pas rigueur à ceux qui se lâcheront en propos racistes ou misogynes. Ainsi, au lieu de se sentir épié, surveillés ou policés sur Facebook, avec 404, on se sent libre. Ce que souhaite l'auteur de cette application 404 part d'un bon sentiment : il s'agit de libérer les gens de la "fréquentation du faux".

Mais, malgré ces bons sentiments, cette géniale idée de géniale application va tourner au cauchemar. L'application devient le lieu de rassemblement du communautarisme. Avec des "agoras" de débats de cette communauté des arabes vivant en France. L'auteur va jusqu'à imaginer qu'une région de France, l'Allier, au centre de l'hexagone, où les Français arabes se sont réfugiés, et où l'application "404" est lancée en priorité, comme un prototype, finit par envisager de demander son indépendance. 

Ce roman dystopique oblige à imaginer les conséquences du "règne du faux" que nous connaissons déjà aujourd'hui, et les pertes d'identité qui en découlent. Et nous rappelle aussi que les bonnes intentions peuvent parfois mal tourner.

Et pour troubler encore un peu Saint Thomas, la vidéo du fake Obama :

Avec le développement des systèmes qui traitent et analysent des masses de données, peut-on penser que la gestion de nos villes va substituer une gouvernance algorithmique à la gouvernance démocratique par des élus ? C’est la thèse de Shoshana Zuboff, auteur de « The age of surveillance capitalism : the fight for a human future at the new frontier of power ». Ce capitalisme de surveillance dont elle parle, c’est cette capacité à capter l’expérience humaine et d’en faire une matière première pour la transformer, grâce aux algorithmes d’intelligence artificielle, en prévisions comportementales qui pourront être monnayables sur un nouveau marché. C’est ce que font Google et Facebook avec les données fournies sur leurs plateformes. C’est Facebook qui a annoncé dans un memo de 2018, que son « IA Hub », qui traite quotidiennement des milliards de données est capable de produire « 6 millions de prédictions de comportement humain par seconde ». Whaou !

Alors, pour nos villes, à l’heure des élections municipales, comment ça marche ? C’est une filiale de Alphabet, holding de Google, Sidewalk Labs, qui installe des kiosques wifi gratuits dans les grandes villes, qui a proposé à la ville de Toronto de gérer son front de mer, dans une zone de la ville partiellement abandonnée  : cela consiste à s’approprier les données de tout ce qui s’y passe, et de gérer ces « urban data ». Ainsi tout ce qui se passe dans les appartements, les voitures, dans la rue, dans un café, que cela implique des êtres humains ou des machines, ou même des animaux, devient une « donnée urbaine » que l’on peut utiliser ; et rares sont ceux qui, comme Google, ou Amazon, sont capables de les traiter de manière efficace. L’objectif de Sidewalk Labs était d’en faire « le quartier le plus innovant du monde ». Après pas mal de discussions et résistances des locaux, plus la crise du covid-19, ce projet a finalement été abandonné par Google en mai dernier. Pour le moment. La ville du futur va encore attendre un peu, mais pas trop longtemps, à en croire Shoshana Zuboff. Et le CEO de Sidewalk Labs, Daniel L. Doctoroff, a lui-même déclaré que «  la crise sanitaire actuelle nous rend encore plus convaincus de l’importance de réimaginer les villes du futur ».

Car les progrès de l'intelligence artificielle ne s'arrêtent pas. Dans Le Figaro du 18 juin, Yann Le Cun, responsable de la recherche en intelligence artificielle chez Facebook et professeur à l'Université de New York donne sa vision des progrès à venir :

" La prochaine grande évolution de l'I.A consistera à la doter, grâce à l'apprentissage non supervisé, du sens commun. C'est ce qui permet à un bébé de comprendre dès le deuxième ou troisième essai qu'un objet tombe quand il le lâche. Nous y parviendrons à un horizon indéterminé, peut-être dans cinq ou vingt ans. Pour cela, il faut faire grossir la taille des réseaux neuronaux. Si cela marche, la machine pourra apprendre comment fonctionne le monde en regardant simplement des videos".

Dans une ville gouvernée par les algorithmes, les citoyens n’ont plus besoin de se réunir, ou les élus de délibérer, pour savoir comment vivre ensemble. Ce sont les algorithmes qui peuvent définir, et de manière optimale, par exemple le niveau de bruit acceptable. On passe ainsi à un nouveau modèle de société où, pour résoudre les problèmes, on ne table pas sur la démocratie et l’égalité, mais sur un savoir asymétrique et un pouvoir instrumental qui peut dicter l’harmonie à la société. C’est du moins ainsi que le présente Shoshana Zuboff ; on sent bien qu’elle n’aime pas trop ça.

Alors, entre Doctoroff et Zuboff, va-t-on devoir choisir son camp ?

Les prédictions sont ouvertes…Il doit bien exister un algorithme quelque part parmi les millions de prédictions produites pendant les secondes et minutes qu’il nous a fallu pour lire cet article.

Et les prochains maires de nos villes seront des machines qui regardent des videos...

Le perfectionnement continu des technologies numériques, et en particulier de l’intelligence artificielle, auquel nous assistons depuis le développement de l’internet, a fait émerger un concept original : la singularité.

La singularité, c’est cette période située dans le futur, très proche selon certains observateurs et chercheurs, pendant laquelle le rythme du changement technologique sera si rapide, et ses impacts tellement profonds, que la vie humaine en sera profondément et de manière irréversible, transformée. C’est un moment où l’accélération des technologies sera telle que les humains ne pourront plus l’assimiler et devront trouver de nouveaux modes de coopérations entre l’homme et les machines. C’est comme un point où les humains seront incapables de penser et comprendre suffisamment vite les changements pour rester dans la course.

Ceux qui ont compris et anticipent ce moment et toutes les transformations qu’il va falloir opérer dans nos organisations et dans notre vie elle-même, sont ceux qui s’appellent eux-mêmes les « singularitariens ». Ils ont compris les transformations qui s’annoncent et ont réfléchi à leurs implications pour eux, pour leur vie, et pour la vie de tous.

Le plus célèbre est sûrement Raymond Kurzweil, auteur de nombreux ouvrages sur le sujet, qui a été employé par Google en 2012 et devenu directeur de l’ingénierie pour conduire des projets sur l’apprentissage automatisé et le traitement automatique des langues.

L’idée de départ des singularitariens, c’est que la vitesse de changement de la technologie créée par les humains s’accélère et que la puissance de cette technologie se répand à une vitesse exponentielle. Or la perception de cette croissance exponentielle est difficile pour les humains habitués à voir le monde et son développement dans un mode plutôt linéaire. Avec le mode exponentiel, les technologies commencent leur développement presque imperceptiblement, et explosent ensuite rapidement, sans que l’on ne l’ait anticipé. Car la pensée humaine est extrêmement lente par rapport à la vitesse des machines. Les transactions réalisées par le cerveau humain sont plus lentes de plusieurs millions que les circuits électroniques contemporains. Ce qui rend notre capacité à processer de nouvelles informations très limitée par rapport à la croissance exponentielle des données et bases de données produites par les humains.

La Singularité est ce qui va nous permettre de dépasser ces limites de notre corps et de notre cerveau biologiques, grâce aux machines. Et ainsi de reprendre le pouvoir sur notre destin. Au point d’avoir dans les mains du pouvoir sur notre mortalité. D’ici la fin du XXIème siècle, la part non biologique de notre intelligence, celle aidée ou remplacée par les machines, sera des trillions de trillions plus importante que celle produite par l’intelligence humaine non aidée.

Pour comprendre et vivre en avance de phase ces transformations, le livre de référence de Ray Kurzweil reste «  The singularity is near », pourtant écrit en 2005, il y a 14 ans déjà.

Nous avons eu depuis la création de la « Singularity University » créée en 2008 par Raymond Kurzweil et Peter Diamandis, dont j’avais déjà parlé ici de son ouvrage « Abondance ».

Dans la vision « post-Singularity », on ne verra plus de différence entre l’humain et la machine, ou entre la réalité humaine et la réalité virtuelle. Nous sommes maintenant dans une époque où les humains travaillent avec des technologies de plus en plus avancées, pour eux-mêmes créer des technologies de nouvelle génération. Au point qu’au temps de la Singularité on ne distinguera plus la différence entre l’humain et la technologie. Non pas parce que les humains deviendront des machines, mais parce que les machines se comporteront comme des humains.

Reste à imaginer nos organisations et nos modes de fonctionnement dans cette ère de la singularité.

L’imagination, humaine, est aux commandes.

Avec le développement des nouvelles technologies, du monde des « Data », de l’intelligence artificielle, on parle de plus en plus des robots, et il s’en produit chaque jour de nouveaux. On connaît déjà Nao, Paro ou Pepper, qui accueillent les clients, avec plus ou moins de bonheur, dans les magasins ou les hôtels, mais aussi qui sont les compagnons des pensionnaires des maisons de retraites.

C’est une vieille histoire, cette fascination de l’homme pour donner vie à un compagnon artificiel. La littérature et le cinéma ont beaucoup aidé à développer cet objet de fantasmes.

Laurence Devillers, dans son ouvrage « Des robots et des hommes – Mythes, fantasmes et réalité », en retrace l’histoire et en éclaire les perspectives pour le futur, de plus en plus proche. Fascinant.

Déjà, d’où vient ce terme de robot ?

Laurence Devillers nous rappelle qu’il vient du tchèque robota, qui veut dire corvée. C’est l’idée que cette drôle de machine va travailler à notre place. Et donc générer cette peur qu’elle nous remplace. Mais c’est aussi une idée d’inspiration pour les artistes. Ainsi de la légende du sculpteur Pygmalion qui, ne trouvant pas de femme à son goût, crée une sculpture à l’image de la femme désirée. Et, Aphrodite ayant donné vie à cette sculpture, voilà notre sculpteur qui tombe amoureux de sa création. C’est le mythe classique de l’imitation de la nature par la technique, montrant la part de subjectivité dans l’apprentissage.

C’est aussi de ce mythe qu’est née la légende du Golem, née à Prague en 1580 : c’est le nom usuel pour désigner une créature humanoïde créée à partir de matière inerte par une sorte de magicien.

Mais derrière ce mythe, il y a aussi une angoisse, que l’on retrouve encore aujourd’hui avec nos robots contemporains.

Ainsi, le Golem, « embryon » en hébreu, est dans la mystique juive un être artificiel, dépourvu de libre arbitre et incapable de parole, qui est façonné pour assister ou défendre son créateur. Mais voilà, dans ce mythe, le temps passant, le Golem se montre de plus en plus violent dans Prague et terrorise la population. Alors le rabbin Maharal, son créateur, accepte de « désactiver le robot » en échange de l’amélioration de la situation de la communauté juive. Cette légende est une bonne illustration du rôle d’apprenti sorcier que nous pouvons avoir, et le risque de ne plus maîtriser nos créations ou inventions. On a encore ça aujourd’hui lorsque l’on parle de manipulations génétiques, et d’intelligence artificielle, et même avec la PMA et la GPA : la peur d’aller trop loin.

Laurent Testot, dans son récit «  Cataclysmes – Une histoire environnementale de l’humanité » nous donne un nouvel éclairage sur cette histoire de robots. Il raconte comment, dans les années 1815-1816, on assiste à un passage de relais entre la nature et l’humanité : c’est en gros à partir de ce moment que l’homme va devenir le principal agent de transformation du globe. A partir de 1818, l’humanité dans son ensemble va devenir l’agent géologique : c’est à partir de là que la révolution industrielle va initier cette émission massive de gaz à effet de serre d’origine humaine dont on parle tant aujourd’hui. L’humain monte en puissance dans le monde physique, et ça ne va plus s’arrêter.

Ce phénomène de prise de pouvoir par l’homme de la Nature est repris, voire précédé, par la fiction. Laurent Testot rappelle ce concours lancé en 1816 par Percy Shelley, son amante Mary Godwin, plus connue sous son nom ultérieur d’épouse, Mary Shelley, et Lord Byron qui partage avec le couple ses soirées mondaines sur le Lac Léman. Le temps est exécrable, cent trente jours de pluie entre avril et septembre. Le Lac Léman déborde et inonde Genève. Lord Byron s’extasie sur la puissance « tellurique » des tempêtes. Les tableaux de William Turner et d’autres peintres dévoilent des ciels au rouge surnaturels, dont des analyses récentes confirment la fidélité chromatique de leurs œuvres. On attribue cette situation à la grande quantité de matériaux projetés dans la stratosphère par l’explosion du Tambora ( volcan sur l’île indonésienne de Sumbawa) qui désintègre la montagne et la remplace par un cratère de six kilomètres de diamètre et profond de plus d’un kilomètre.

Ce concours est lancé alors que Percy, Mary et Byron débattent de leur obsession de fin du Monde dans leur chalet au-dessus du Lac Léman. Ce concours doit désigner celui qui saura le mieux dépeindre l’horreur entrevue derrière les trombes d’eau incessantes et le froid mordant de cet été 1816 ( la température a chuté de 1 à 7% selon les régions du monde, lors de cet été 1816 et on parlera en Europe de « l’année sans été »). Byron va dépeindre une apocalypse marquée par des journées crépusculaires, des guerres pour la nourriture, et une Terre stérilisée. Percy Shelley, persuadé que la Terre se refroidit, imagine les glaciers progresser et recouvrir la Terre. Mais c’est la jeune Mary Shelley qui va l’emporter avec sa nouvelle : Frankenstein ou le Prométhée moderne.

Cette nouvelle parle d’extinction de l’humanité, alors que la banquise recouvre le monde. Et aussi de la création par le Docteur Frankenstein d’une nouvelle espèce, potentiellement immortelle, animée par l’électricité dérobée à la foudre. C’est un Golem produit, non plus par la matière et la mystique, mais par la science. Alors que le rabbin avait la possibilité de « débrancher le Golem », le Docteur Frankenstein, dévoré par son ambition d’égaler Dieu, n’a pas prévu de coupe-circuit pour sa créature. Sa créature va lui échapper. Elle tente au début de s’intégrer à la population, mais est rejetée en raison de la peur qu’elle inspire. Et elle va donc se mettre à haïr les humains qui l’ostracisent, et en devenir meurtrière. Elle exige ensuite de son créateur qu’il fabrique une compagne pour briser sa solitude. Frankenstein acquiesce, avant de s’apercevoir que cela risque d’entraîner une descendance de sa créature qui supplantera l’humanité d’autant plus facilement que le froid croissant laisse les humains indifférents. Le Docteur détruit alors sa nouvelle création. Il meurt dans un monde glacé, en traquant la chose qu’il a façonnée.

C’est ainsi que Mary Godwin, dans ce récit sur fond de trouble climatique, pose, dès 1816, ce dilemme que nous vivons, et que nos descendants vivront encore plus, face à tous ces androïdes et intelligences artificielles qui pourraient être mieux adaptés que nous, les humains, à un monde altéré.

On retrouve cette histoire dans le roman de Marc Dugain, « Transparence », publié en mai dernier. Elle met en scène, dans un futur proche,  une société du Numérique, baptisée Endless, qui a créé un programme qui consiste à transplanter l’âme humaine dans une enveloppe corporelle artificielle. Ces robots copies conformes des humains seront à même de sauver l’humanité, en se comportant mieux que les humains eux-mêmes, et en étant immortels. La découverte est tellement révolutionnaire que Endless rachète Google. Un roman , bien que pas très bien écrit, qui fait réfléchir. 

Du Golem à Frankenstein, et aux robots modernes et futurs animés par l’intelligence artificielle, on n’a pas fini de projeter nos angoisses de fin de l’humanité dans le futur.