Qui gouverne et transforme la ville ?

VillenumeriqueC’était hier, c’était il y a longtemps… Question de perspective et de mesure du temps : C’est en 2007 qu’Apple lance son smartphone, et cet appareil va changer beaucoup de choses dans nos vies. Cet appareil va permettre de connecter en permanence les individus à internet, et donc permettre d’accéder à des services et à des informations en déplacement.

2008, c’est l’année à partir de laquelle on a estimé que plus de la moitié de la population mondiale vit dans des villes.

Et ces années sont donc un tournant dans la façon dont on va gérer et transformer les villes.

Et deux positions cohabitent dans la façon d’apprécier l’impact du numérique sur nos vies dans la ville : pour certains c’est un vecteur de progrès majeur, qui nous permet de résoudre des problèmes, de rendre le monde plus efficient, de proposer de nouveaux services. Alors que pour d’autres, c’est un risque pour la société, qui renforce la précarisation des individus, la surveillance généralisée, la marchandisation des services, la bureaucratisation des gouvernements.

Des auteurs, sociologues et chercheurs en sciences sociales, sous la direction d’Antoine Courmont et Patrick Le Galès, dans leur livre « Gouverner la ville numérique », en proposent une mise en perspective utile.

Leur conviction, c’est que les données sont au cœur de la transformation des villes. L’utilisation de données pour la gestion et la construction d’outils et d’instruments de pilotage ne date pas d’hier, ni de 2007-2008, mais on constate qu’il y a eu un changement de dimension avec ce qu’on appelle les « Big data ». Avec ce phénomène de multiplication des données en très grand nombre, celles-ci deviennent une ressource économique. Elles fournissent des traces enregistrant nos pratiques individuelles et circulent au sein et entre les organisations. Antoine Courmont et Patrick Le Galès y voient ce qu’ils appellent une transformation des relations entre les acteurs de la gouvernance urbaine.

Ce qu’ils appellent la gouvernance, c’est « un processus de coordination d’acteurs, de groupes sociaux, d’institutions, pour atteindre des buts discutés et définis collectivement, et donc agréger des acteurs, donner une direction à la société et exercer une forme de contrainte ».

En posant le sujet de la gouvernance comme un jeu d’acteurs multiples, les auteurs s’écartent donc d’une vision traditionnelle de l’action publique, qui donnait un rôle prééminent aux gouvernants et aux élites dans l’organisation et le pilotage de la société, dans une approche que l’on pourrait dire « top – down ». Dans leur approche, les élus et la régulation politique ne sont qu’un facteur parmi d’autres, au point de se voir reprocher de sembler minimiser le rôle primordial de ceux qu’on appelle les « politiques « .

Car ce qu’elles mettent en évidence, c’est le fait que d’innombrables actions des individus produisent aussi des transformations des villes, formelles ou informelles, qui échappent au gouvernement et aux élus.

On pense bien sûr aux développement des plateformes comme Airbnb, Uber ou Waze, qui influencent directement les pratiques urbaines, en dehors de toute régulation politique. Waze va diriger les déplacements de chaque individu, contrairement à une régulation centralisée qui réorganise la circulation de manière collective en ouvrant ou fermant les voies de circulation pour tous. Au point de créer des conflits et mésaventures, comme celle restée célèbre en 2017, en Californie : Alors que la région est frappée par des incendies dramatiques, les routes qui restent sécurisées se trouvent encombrées, alors que les routes en zones dangereuses sont vides et interdites à la circulation ; Mais l’algorithme de Waze va justement proposer aux automobilistes des itinéraires qui vont les mener sur ces routes dangereuses, à proximité directe des incendies, car l’algorithme calcule le parcours à partir des données du trafic pour optimiser la durée du trajet en temps réel, sans intégrer, dans ce cas précis, des préoccupations relevant de la sécurité.

Les moteurs de recherche et les réseaux sociaux ont aussi leur influence, en modifiant la mise en scène de la vie urbaine et les interactions sociales. Ils permettent de créer des communautés virtuelles qui organisent la vie nocturne urbaine. On l’a vu encore récemment en France avec les regroupements de foules importantes pour faire la fête dans des lieux parisiens extérieurs publics, après le déconfinement, en prenant de cours les policiers.

Dans l’espace urbain, le numérique peut aussi être facteur de cloisonnement des interactions, de polarisation accrue, de dépendance. Les interactions dépendant aussi des questions de sécurité, on a vu de nombreux investissements numériques dans les villes sur ces questions de sécurité. On parle moins de « smart city », qui n’a pas toujours convaincu, mais de « safe city ». Ce sont les acteurs privés du numérique qui apportent les solutions, et notamment les firmes chinoises comme ZTE et Huawei, qui intègrent les caméras de surveillance, la reconnaissance faciale, analyses de données en temps réel, caméras embarquées dans des drones de surveillance, solutions intégrées au sein de plateformes et algorithmes de profilage. Les technologies permettent maintenant de mettre en place des systèmes de « gestion urbaine prédictive », qui dirige le déploiement des patrouilles de police dans le temps et l’espace en fonction du repérage anticipé des « points chauds ». Là encore, ce sont des entreprises privées qui ont mis au point les solutions et offrent leurs services, avec un marketing sophistiqué, aux gouvernements et collectivités.

L’entreprise célèbre pour avoir commercialisé la solution à la police de Los Angeles est Predpol. Mais la police de Los Angeles a arrêté ce programme en avril 2020, officiellement pour des raisons de contraintes budgétaires liées au Covid, mais aussi parce qu’elle avait subi des critiques d’activistes reprochant au programme et aux algorithmes des biais qui stigmatisaient les communautés noires et latino-américaines. Par contre, la ville de Séoul a mis en œuvre une solution similaire, toujours opérationnelle. En France, ces solutions ne sont pas encore utilisées, mais des expérimentations sont à l’étude.

Ainsi, pour des usages de régulation des flux, la RATP a obtenu l’autorisation de la CNIL pour expérimenter un système de mesure de l’affluence sur les quais de la ligne 14 de la station Gare de Lyon à l’aide de caméras dopées à l’intelligence artificielle, avec l’objectif de fluidifier la fréquentation de la ligne. L’idée est de partager un taux de saturation pour informer les voyageurs sur des écrans à disposition, et proposer des solutions alternatives.

Avec le développement du numérique urbain, le discours globalisateur et centralisateur cède du pouvoir à un réseau d’acteurs associatifs et des habitants qui créent ensemble des biens communs, élaborent de nouvelles solutions, délibèrent, refont du politique en dehors des institutions. Le mouvement de l’économie sociale et solidaire se renforce par les réseaux sociaux et les initiatives solidaires locales. Il appelle à des systèmes ouverts, décentralisés, gratuits, horizontaux, et à des initiatives citoyennes et démocratiques.

Comme le disent les auteurs, les technologies numériques peuvent faire penser à « Big Brother is watching you », mais elles permettent aussi aux citoyens de s’organiser sans les autorités « officielles ».

De quoi débattre sur comment gouverner et transformer, aujourd’hui et demain, les villes de plus en plus numériques. 


Les data vont-elles tuer les managers et les consultants ?

WorkerIl y a maintenant environ trente ans, parler d’automatisation et de systèmes d’informations, c’était parler des ERP (Enterprise Resource Planning), en français les PGI ( Progiciel de Gestion Intégrée), permettant de gérer l’ensemble des processus de l’entreprise. SAP, ORACLE et autres BAAN en étaient les rois, et les consultants ont développés des practices puissantes pour s’imposer comme maîtres d’ouvrages ou maîtres d’œuvre de tels progiciels. D’où aussi ce rapprochement entre les entreprises de Conseil et les leaders de ces technologies. Ainsi se sont déployées des entreprises comme Accenture, Cap Gemini, et même IBM, qui a racheté l’activité de Conseil de Pwc, à l’époque, 2002, pour un prix considéré comme modique de 3,5 milliards de dollars, tout cela dans un contexte où les nouvelles législations interdisent aux entreprises d’audit d’exercer des activités de Consulting pour les mêmes clients. C’était le début, pour le Métier du Conseil, du divorce de l’Audit et du mariage avec les Technologies.

Ces systèmes ont amené avec eux des gains de productivité et d’efficience dans les entreprises. Les emplois touchés ont été essentiellement des emplois de tâches administratives, et des emplois d’exécution. On a reconfiguré les processus, éliminant les gaspillages, avec des approches méthodologiques anciennes, inspirées de Toyota, de Lean Management. C’était aussi l’époque des BPR (Business Process Reengineering), dont les gourous étaient Michael Hammer et James Champy, où il ne s’agissait plus d’amélioration continue et de Lean, mais de tout casser pour tout refaire. Tout le monde s’y mettait, y compris les consultants bien sûr, en lisant comme une bible « Reengineering the Corporation » des deux auteurs (  best-seller des années 90). La méthode du consultant et du manager lui-même ne changeait pas trop : interviews, analyses, réunions pour décrire et imaginer les processus (un bon « brown paper » et formalisation du « As Is » et du « To Be »), plans d’actions, tout ça restait à peu près identique. L’expertise consistait à maîtriser ces types d’analyses et de diagnostic par processus. C’est l’expertise humaine qui créait la valeur et la façon de gérer ce changement, on disait plutôt « Transformation », le mot allait faire fureur dans les comités de Direction. On ne comptait plus les « programmes de transformation ». Et ça dure encore. Même Emmanuel Macron avait présenté son programme en 2017 comme un programme de transformation de la France (c’était avant la Covid…).

Mais voilà que nous connaissons une nouvelle vague aujourd’hui, depuis une dizaine d’années, et qui enfle de manière exponentielle. Il ne s’agit plus des processus de base et des tâches administratives, mais maintenant des activités des travailleurs intellectuels, en imitant les capacités qu’ils utilisent dans l’exécution de leurs activités professionnelles. Et l’on cherche alors, grâce à de nouvelles technologies et en repensant les processus, à obtenir un produit fini (par exemple un rapport d’activité, un diagnostic, une décision) engendrant le moins d’intervention humaine possible. Et ainsi augmenter la vitesse des processus (plus besoin de ces réunions où l’on discute pour analyser et décider trop longuement), réduire les coûts, améliorer la conformité et la qualité, faire moins ou plus du tout d’erreurs, et aussi optimiser les résultats des décisions. In fine l’objectif est d’améliorer aussi la satisfaction des clients et des collaborateurs en augmentant les revenus. On appelle cet ensemble de technologies « l’automatisation intelligente », qui se concentre donc sur l’automatisation du travail effectué par les travailleurs intellectuels, dont le principal capital est la connaissance. Cela concerne tous les travailleurs dont le métier est de penser pour vivre. Cela concerne par exemple les programmeurs, mais aussi les médecins, les pharmaciens, les ingénieurs, les architectes, les avocats, les scientifiques, les designers, les experts-comptables. Et on comprend assez vite que cela va sûrement concerner aussi les consultants eux-mêmes. Une nouvelle révolution est en marche.

Cette « automatisation intelligente » ( on va dire l’AI, à ne pas confondre avec l’IA – Intelligence Artificielle- qui n’est qu’une des composantes de l’AI), devient le nouveau « buzz word » pour désigner tout ce qui va permettre de créer des « travailleurs numériques » (programmes d’automatisation) qui permettent d’imiter les actions effectuées par les travailleurs intellectuels. Cela concerne toutes les tâches qui utilisent nos capacités humaines : voir, entendre, parler, lire, comprendre, agir, réagir et apprendre. L’AI est cette combinaison de technologies qui reproduisent des capacités humaines pour effectuer des processus au nom des travailleurs humains. Il ne s’agit pas de complètement remplacer l’humain, mais de créer une nouvelle main d’œuvre numérique qui va pouvoir s’associer avec l’humain. On parlera aussi d’ « hyper-automatisation ». Le terme a été placé en première place en 2019, par le Gartner Group, des 10 meilleures tendances technologiques stratégiques.

Ce nouveau monde est, bien sûr, permis aussi par l’abondance des données générées et disponibles dans nos systèmes d’informations, les réseaux sociaux, le web, et aussi celles récupérées par les objets connectés. A chaque seconde, nous générons des données qui sont toutes stockées quelque part, parfois contre notre gré. C’est pourquoi l’Automatisation Intelligente va créer cette possibilité d’analyser des millions de points de données en quelques minutes et de générer des informations à partir d’eux ( par exemple pour identifier les comportements des clients ayant un impact direct sur les revenus).

L’idée est de créer des processus métier sans contact (donc nécessitant une interaction ou une intervention humaine réduites au minimum, voire complètement supprimée). C’est la perfection ultime de ces systèmes, qu’on appelle « straight-through processes ».

Si la tête nous tourne, submergé par toutes les implications d’une telle révolution, le livre de Pascal Bornet, co-écrit avec Jan Barkin et Jochen Wirtz, « Automatisation Intelligente – Bienvenue dans le monde de l’hyper-automatisation », est sûrement une boussole de référence pour nous aider à comprendre et surtout à ne pas se laisser dépasser par cette nouvelle vague, qui va changer nos vies, et aussi, comme le croient les auteurs, très optimistes, «  rendre notre monde plus humain », paradoxalement, car il s'agit en fait de "sortir le robot de l'humain" c'est à dire de sortir de l'humain tout ce qu'on peut faire faire à la machine pour garder à 100% ce que l'humain sait mieux faire que la machine. 

Le livre permet de parcourir toutes les technologies et leurs usages pour la vision, l’exécution, le langage, penser et apprendre. Et d’imaginer que le travailleur de 2020, avec son ordinateur et son téléphone, sera bientôt à trouver dans les musées, comme le montre l’image en tête de cet article, et reproduite dans le livre.

Car toutes les technologies évoquées ne sont pas de la science-fiction, mais déjà disponibles et utilisables, qui plus est économiquement attractives, car disponibles à un coût raisonnable au regard du retour sur investissement, généralement de moins d’un an.

Pour « Voir », qui correspond aux yeux de la main d’œuvre numérique, nous avons les technologies de reconnaissance optique des caractères (OCR), la reconnaissance intelligente des caractères ( ICR), l’analyse d’images et de vidéos, et la biométrie. Tout cela pour capturer et traiter les documents, et générer des informations à partir d’images et de vidéos et en discernant les identités.

Pour l’ »Exécution », c’est-à-dire les mains et les jambes de la main d’œuvre numérique, nous avons tout ce qui permet le workflow intelligent, les plateforme low-code (qui permettent aux utilisateurs professionnels de développer leurs propres programmes en utilisant un environnement de développement visuel et intuitif), l’automatisation des processus robotiques (appelée RPA, Robotic Automatisation Process, elle couvre toutes les actions qu’une personne peut faire sur un ordinateur à l’aide d’une souris ou d’un clavier, et qui peut être remplacé par ce type de « software robot »).

Pour le « langage », qui correspond aux oreilles et à la bouche de la main d’œuvre numérique, et permet aux machines de lire, parler, écrire, interagir, interpréter et tirer un sens du langage humain, la technologie principale est le traitement du langage naturel (NLP, pour Natural Language Processing), mais aussi la génération automatique de textes (GAT, ou NLG, pour Natural Language Generation). C’est ce qui permet d’élaborer des chatbots intelligents, de gérer des données non structurées, d’analyser les sentiments et des données vocales.

Pour « penser et apprendre », qui correspond au cerveau de la main d’œuvre numérique, on a les technologies qui permettent de créer des informations pour soutenir la prise de décision. Cela comprend l’analyse mais aussi la prédiction. C’est aussi la possibilité de déclencher des actions automatiques (si la machine détecte un comportement frauduleux, elle envoie un message automatique au gestionnaire du client pour lui réclamer une enquête). Les technologies concernées comprennent la gestion du big data, le machine learning, et la visualisation des données. Les décisions peuvent être prises directement par la machine (machine learning) ou par des humains aidés par la machine (visualisation des données).

C’est sûr qu’il va falloir un changement des états d’esprit et des habitudes pour travailler avec les yeux, les mains, les jambes, les oreilles, la bouche et le cerveau de ces nouveaux collègues que sont ces « travailleurs numériques », qui voient, sentent, comprennent et décident plus vite et mieux que nous en certaines circonstances. Les managers, chefs de projets et les consultants vont devoir revoir leurs pratiques. Probablement que les nouvelles générations apprendront plus vite. Et les plus expérimentés, ceux qui sont dans un rôle de « counsellor » inspiré, sauront manager et apporter un service, une écoute active, et une capacité à comprendre, sur démultipliés grâce à ces équipes mixtes de travailleurs humains et de travailleurs numériques. Ce sont sûrement les « experts » habitués à leurs ordinateurs, aux analyses limitées à leur propre intuition ou expertise (« j’ai déjà vu le même problème ailleurs, je connais »), qui ont ancré les habitudes de conduire leurs entretiens, brainstorming et ateliers avec du papier et des crayons, quelques tableurs et Google Search, qui vont avoir le plus besoin de se remettre en cause, au risque de s’acheminer vers le musée, car trop lents, trop chers, et moins pertinents dans leurs méthodes de travail.

Il y a de quoi avoir peur de l’avenir, souhaiter que le monde d’avant dure encore un petit peu, pour ne pas perdre pied et la face. Il y a aussi de quoi être excité et avoir envie de passer au plus vite dans ce nouveau monde, d’être capable de monter des projets encore plus ambitieux et encore plus utiles pour les progrès et le bien-être de l’humanité.

A chacun de choisir son camp. Mais on risque très bientôt de n’avoir plus vraiment le choix.


La bonne copine

GOODOn connaît les discours, les appels au secours, les alertes, sur la dévastation généralisée des écosystèmes, l'épuisement des ressources naturelles, le réchauffement climatique.

Au point pour certains de remettre en cause la course à la croissance at au progrès. La sortie de Camille Etienne, militante écologiste de 22 ans et porte-parole du mouvement "On est prêts", lors de l'Université du Medef (rebaptisée Renaissance des Entrepreneurs de France) fin août 2020, qui a osé affirmer qu'il faudrait  "oser réinventer tout ça; peut-être travailler moins, avec un peu plus de sens", a fait le tour des réseaux sociaux, et fait glousser les patrons présents à l'hippodrome de Longchamps pour y assister.

Bien sûr, pour d'autres, comme Emmanuel Macron, revenir en arrière, ce serait revenir à la lampe à huile et au modèle Amish, contre la 5G. Dans Le Monde du 25 septembre, une tribune est signée par quatre anciens conseillers politiques et juristes du numérique, se présentant astucieusement comme "amish du numérique" pour poser la question également :

" Alors que certains considèrent que toute innovation technologique est bonne par essence, nous nous demandons : est-ce que cette innovation va nous aider à mieux vivre ensemble ou bien est-ce qu'elle risque de nous désunir ? ". 

Un autre récit émerge depuis quelques années, et se répand aujourd'hui dans le monde des entreprises, qui se veut radicalement plus rassurant : Il annonce que, grâce justement à des progrès technologiques fulgurants, l'espèce humaine pourra bientôt connaître l'abondance, vivre longtemps et en bonne santé (la mort de la mort), et même conquérir l'espace pour s'y installer. ce futur heureux est celui désigné par le terme de "transhumanisme"

Un chapitre du livre de recueil d'articles "Collapsus", de Laurent Testot et Laurent Aillet, rédigé par Gabriel Dorthe, universitaire suisse auteur d'une thèse sur le sujet que l'on peut trouver en intégralité ICI, vient nous rappeler que ce terme de "transhumanisme" a été employé dans les années 50 par le biologiste Julian Huxley, frère du romancier Aldous Huxley (oui, l'auteur du "Meilleur des mondes" que l'on relit beaucoup en ce moment), qui anticipait le développement des biotechnologies qui permettrait à l'humanité de prendre en charge sa propre évolution. L'ouvrage a pour titre singulier " New bottles for new wine". Il faudra ensuite plusieurs décennies pour imposer la forme en "-isme" du concept. C'est en 1998 qu'est fondée la "World Tranhumanist Association" (WTA), par deux philosophes, le Suédois Nick Bostrom et l'Anglais David Pearce, rebaptisée en 2002 "Humanity+". Des associations du même type se créent alors à travers le monde, dont celle française, fondée en 2010, l'Association française transhumaniste Technoprog ( AFT). 

Une charte "Déclaration transhumaniste" a même été rédigée en 1998 par la WTA, remaniée plusieurs fois, la dernière en 2012, que l'on trouvera ICI

Cette déclaration pose dans son article 1 que " L'humanité sera profondément affectée par la science et la technologie dans l'avenir. Nous envisageons la possibilité d'élargir le potentiel humain en surmontant le vieillissement, les lacunes cognitives, la souffrance involontaire, et notre isolement sur la planète Terre". 

 Elle en appelle ensuite à délibérer, en tant que citoyens, sur l'administration des conséquences des progrès envisagés, et à choisir les éléments à promouvoir. 

Cela n'empêche pas, encore un peu aujourd'hui, certains critiques de présenter ces "transhumanistes" comme de doux dingues, ou, pire, des milliardaires aux idées fumeuses qui voudraient servir leurs intérêts d'investisseurs. Un hebdomadaire s'en prenait cette semaine à des investisseurs comme Xavier Niel qui investit dans des nouvelles formes d'alimentation sans viande, avec des steaks conçus en laboratoires ("L'agriculture cellulaire") ou dans l'entreprise MotifIngredients, avec Jeff Bezos et Bill Gates, qui a pour objectif de fabriquer des alternatives de laboratoires à la viande, aux œufs ou au lait, les soupçonnant de soutenir les antispécistes et le référendum sur les animaux pour nous détourner plus vite de l'agriculture traditionnelle.

Le débat n'est pas fini, et est nourri cette semaine par un dossier du Monde de ce week-end (daté de Dimanche 27/09), "L'entreprise va-t-elle sauver le monde ?", présenté par Nicolas Santolaria, et dont j'ai repris l'image d'illustration pour ce post. Il évoque ces entreprises qui se désignent comme "Good" : Ce sont ces entreprises dont "le projet, les produits et les services s'inscrivent dans des objectifs d'accroissement du bien commun, en retenant quatre thématiques : la réduction de l'émission des gaz à effet de serre, l'éducation, la réduction des inégalités er la santé" (selon la définition d'un rapport de PwC sur le sujet). On est un cran en-dessous des visions transhumanistes, mais le projet relève du même genre d'optimisme. Ce "Good" désigne bien, comme le souligne avec un peu d'ironie Nicolas Santolaria, " une approche proactive, presque chevaleresque, du bien commun, soudain devenu le cœur incandescent du capitalisme." Cela a pris de l'ampleur avec ce mouvement d'entrepreneurs "Tech for Good France". 

Bon, le dossier donne aussi la parole aux sceptiques, comme le sociologue Marc Audétat, coauteur de l'ouvrage " Sciences et technologies émergentes : pourquoi tant de promesses ?" : " C'est marrant, ce terme, "la tech". C'est comme si on assimilait la technologie à une bonne copine, qui vous amène des solutions. On a beaucoup eu, ces dernières années, le sentiment d'une innovation sans progrès. L'intelligence artificielle, la disruption façon Uber, les GAFA ont fini par être perçus de façon très pessimiste, prédatrice et négative. Regardez la série "Black Mirror" : la technologie y incarne le méchant. Le "Good" est donc une réponse à ce climat délétère. En mariant la marchandise et le bien, cette nouvelle mythologie suscite des émotions positives qui permettent aux entreprises de s'insérer sur des marchés porteurs. C'est aussi une réponse à l'impuissance que l'on ressent tous, un discours éthique qui ne mange pas de pain et auquel les gens pourront adhérer facilement."

Alors, cette bonne copine va-t-elle sauver le monde, nous libérer et élargir notre potentiel humain, au point de surmonter le vieillissement, les lacunes cognitives et la souffrance ? 

Question de foi, ou de confiance.


Saint Thomas n'y croit plus

SaintthomasSaint Thomas serait bien malheureux aujourd'hui. Lui qui ne croyait que ce qu'il voyait, il serait bien en peine de faire la différence entre les vérités et les fake news, y compris parmi les vidéos qui peuvent être contrefaites avec l'intelligence artificielle. On a la souvenir de cette vidéo "deepfake" de Barack Obama lui faisant dire les pires horreurs, et qui était un fake total.

C'est sur cette technologie que part le roman de Sabri Louatah, "404" qui est une science fiction, une dystopie, située dans un temps pas si lointain, en 2022. A cette date, les vidéos "deepfake" sont de mieux en mieux simulées grâce à l'intelligence artificielle et au deep learning, l'auteur les appelle des "mirages". Au point qu'on n'arrive plus à distinguer les vraies des fausses vidéos qui circulent sur les réseaux sociaux. Terminée la preuve par l'image. Saint Thomas est K.O. Le roman relate par exemple le récit d'une mère qui a perdu son enfant et qui refabrique grâce aux fausses vidéos permises par Facebook , et fabriquées à partir du stock de vidéos qu'elle possède de son enfant, des vidéos de cet enfant disparu en le faisant vieillir et grandir à l'image. 

L'auteur imagine qu'un nouvelle application de streaming est créée, il l'appelle "404", qui empêche d'éditer et d'enregistrer les flux vidéos , empêchant ainsi toute fabrication de "mirage" à partir de toute vidéo sur 404. C'est donc une vidéo inviolable, et non reproductible. Drôle d'application, qui ne serait finalement que l'équivalent de "la télévision avant le magnétoscope". Cela s'appelle "404" en rappel du message d'erreur 404 quand on n'accède pas au site demandé. 

Mais cette application va se révéler monstrueuse, car elle va offrir à ceux qui sont attirés par elle "le plaisir de se montrer sans conséquences", et donc de débiter les pires horreurs, ou les images les plus crues. On peut donc, en se connectant sur cette plateforme, "entendre ce que les gens disent quand ils savent que leurs paroles s'envoleront pour toujours"; car les vidéos sur 404 ne peuvent être vues qu'en direct, et non enregistrées; et donc on ne tiendra pas rigueur à ceux qui se lâcheront en propos racistes ou misogynes. Ainsi, au lieu de se sentir épié, surveillés ou policés sur Facebook, avec 404, on se sent libre. Ce que souhaite l'auteur de cette application 404 part d'un bon sentiment : il s'agit de libérer les gens de la "fréquentation du faux".

Mais, malgré ces bons sentiments, cette géniale idée de géniale application va tourner au cauchemar. L'application devient le lieu de rassemblement du communautarisme. Avec des "agoras" de débats de cette communauté des arabes vivant en France. L'auteur va jusqu'à imaginer qu'une région de France, l'Allier, au centre de l'hexagone, où les Français arabes se sont réfugiés, et où l'application "404" est lancée en priorité, comme un prototype, finit par envisager de demander son indépendance. 

Ce roman dystopique oblige à imaginer les conséquences du "règne du faux" que nous connaissons déjà aujourd'hui, et les pertes d'identité qui en découlent. Et nous rappelle aussi que les bonnes intentions peuvent parfois mal tourner.

Et pour troubler encore un peu Saint Thomas, la vidéo du fake Obama :


Six millions de prédictions de comportement humain par seconde : Gouvernance algorithmique

ALGOSAvec le développement des systèmes qui traitent et analysent des masses de données, peut-on penser que la gestion de nos villes va substituer une gouvernance algorithmique à la gouvernance démocratique par des élus ? C’est la thèse de Shoshana Zuboff, auteur de « The age of surveillance capitalism : the fight for a human future at the new frontier of power ». Ce capitalisme de surveillance dont elle parle, c’est cette capacité à capter l’expérience humaine et d’en faire une matière première pour la transformer, grâce aux algorithmes d’intelligence artificielle, en prévisions comportementales qui pourront être monnayables sur un nouveau marché. C’est ce que font Google et Facebook avec les données fournies sur leurs plateformes. C’est Facebook qui a annoncé dans un memo de 2018, que son « IA Hub », qui traite quotidiennement des milliards de données est capable de produire « 6 millions de prédictions de comportement humain par seconde ». Whaou !

Alors, pour nos villes, à l’heure des élections municipales, comment ça marche ? C’est une filiale de Alphabet, holding de Google, Sidewalk Labs, qui installe des kiosques wifi gratuits dans les grandes villes, qui a proposé à la ville de Toronto de gérer son front de mer, dans une zone de la ville partiellement abandonnée  : cela consiste à s’approprier les données de tout ce qui s’y passe, et de gérer ces « urban data ». Ainsi tout ce qui se passe dans les appartements, les voitures, dans la rue, dans un café, que cela implique des êtres humains ou des machines, ou même des animaux, devient une « donnée urbaine » que l’on peut utiliser ; et rares sont ceux qui, comme Google, ou Amazon, sont capables de les traiter de manière efficace. L’objectif de Sidewalk Labs était d’en faire « le quartier le plus innovant du monde ». Après pas mal de discussions et résistances des locaux, plus la crise du covid-19, ce projet a finalement été abandonné par Google en mai dernier. Pour le moment. La ville du futur va encore attendre un peu, mais pas trop longtemps, à en croire Shoshana Zuboff. Et le CEO de Sidewalk Labs, Daniel L. Doctoroff, a lui-même déclaré que «  la crise sanitaire actuelle nous rend encore plus convaincus de l’importance de réimaginer les villes du futur ».

Car les progrès de l'intelligence artificielle ne s'arrêtent pas. Dans Le Figaro du 18 juin, Yann Le Cun, responsable de la recherche en intelligence artificielle chez Facebook et professeur à l'Université de New York donne sa vision des progrès à venir :

" La prochaine grande évolution de l'I.A consistera à la doter, grâce à l'apprentissage non supervisé, du sens commun. C'est ce qui permet à un bébé de comprendre dès le deuxième ou troisième essai qu'un objet tombe quand il le lâche. Nous y parviendrons à un horizon indéterminé, peut-être dans cinq ou vingt ans. Pour cela, il faut faire grossir la taille des réseaux neuronaux. Si cela marche, la machine pourra apprendre comment fonctionne le monde en regardant simplement des videos".

Dans une ville gouvernée par les algorithmes, les citoyens n’ont plus besoin de se réunir, ou les élus de délibérer, pour savoir comment vivre ensemble. Ce sont les algorithmes qui peuvent définir, et de manière optimale, par exemple le niveau de bruit acceptable. On passe ainsi à un nouveau modèle de société où, pour résoudre les problèmes, on ne table pas sur la démocratie et l’égalité, mais sur un savoir asymétrique et un pouvoir instrumental qui peut dicter l’harmonie à la société. C’est du moins ainsi que le présente Shoshana Zuboff ; on sent bien qu’elle n’aime pas trop ça.

Alors, entre Doctoroff et Zuboff, va-t-on devoir choisir son camp ?

Les prédictions sont ouvertes…Il doit bien exister un algorithme quelque part parmi les millions de prédictions produites pendant les secondes et minutes qu’il nous a fallu pour lire cet article.

Et les prochains maires de nos villes seront des machines qui regardent des videos...


Singularitariens

SingularityLe perfectionnement continu des technologies numériques, et en particulier de l’intelligence artificielle, auquel nous assistons depuis le développement de l’internet, a fait émerger un concept original : la singularité.

La singularité, c’est cette période située dans le futur, très proche selon certains observateurs et chercheurs, pendant laquelle le rythme du changement technologique sera si rapide, et ses impacts tellement profonds, que la vie humaine en sera profondément et de manière irréversible, transformée. C’est un moment où l’accélération des technologies sera telle que les humains ne pourront plus l’assimiler et devront trouver de nouveaux modes de coopérations entre l’homme et les machines. C’est comme un point où les humains seront incapables de penser et comprendre suffisamment vite les changements pour rester dans la course.

Ceux qui ont compris et anticipent ce moment et toutes les transformations qu’il va falloir opérer dans nos organisations et dans notre vie elle-même, sont ceux qui s’appellent eux-mêmes les « singularitariens ». Ils ont compris les transformations qui s’annoncent et ont réfléchi à leurs implications pour eux, pour leur vie, et pour la vie de tous.

Le plus célèbre est sûrement Raymond Kurzweil, auteur de nombreux ouvrages sur le sujet, qui a été employé par Google en 2012 et devenu directeur de l’ingénierie pour conduire des projets sur l’apprentissage automatisé et le traitement automatique des langues.

L’idée de départ des singularitariens, c’est que la vitesse de changement de la technologie créée par les humains s’accélère et que la puissance de cette technologie se répand à une vitesse exponentielle. Or la perception de cette croissance exponentielle est difficile pour les humains habitués à voir le monde et son développement dans un mode plutôt linéaire. Avec le mode exponentiel, les technologies commencent leur développement presque imperceptiblement, et explosent ensuite rapidement, sans que l’on ne l’ait anticipé. Car la pensée humaine est extrêmement lente par rapport à la vitesse des machines. Les transactions réalisées par le cerveau humain sont plus lentes de plusieurs millions que les circuits électroniques contemporains. Ce qui rend notre capacité à processer de nouvelles informations très limitée par rapport à la croissance exponentielle des données et bases de données produites par les humains.

La Singularité est ce qui va nous permettre de dépasser ces limites de notre corps et de notre cerveau biologiques, grâce aux machines. Et ainsi de reprendre le pouvoir sur notre destin. Au point d’avoir dans les mains du pouvoir sur notre mortalité. D’ici la fin du XXIème siècle, la part non biologique de notre intelligence, celle aidée ou remplacée par les machines, sera des trillions de trillions plus importante que celle produite par l’intelligence humaine non aidée.

Pour comprendre et vivre en avance de phase ces transformations, le livre de référence de Ray Kurzweil reste «  The singularity is near », pourtant écrit en 2005, il y a 14 ans déjà.

Nous avons eu depuis la création de la « Singularity University » créée en 2008 par Raymond Kurzweil et Peter Diamandis, dont j’avais déjà parlé ici de son ouvrage « Abondance ».

Dans la vision « post-Singularity », on ne verra plus de différence entre l’humain et la machine, ou entre la réalité humaine et la réalité virtuelle. Nous sommes maintenant dans une époque où les humains travaillent avec des technologies de plus en plus avancées, pour eux-mêmes créer des technologies de nouvelle génération. Au point qu’au temps de la Singularité on ne distinguera plus la différence entre l’humain et la technologie. Non pas parce que les humains deviendront des machines, mais parce que les machines se comporteront comme des humains.

Reste à imaginer nos organisations et nos modes de fonctionnement dans cette ère de la singularité.

L’imagination, humaine, est aux commandes.


Robots : le frisson de l'angoisse du futur

RobotsAvec le développement des nouvelles technologies, du monde des « Data », de l’intelligence artificielle, on parle de plus en plus des robots, et il s’en produit chaque jour de nouveaux. On connaît déjà Nao, Paro ou Pepper, qui accueillent les clients, avec plus ou moins de bonheur, dans les magasins ou les hôtels, mais aussi qui sont les compagnons des pensionnaires des maisons de retraites.

C’est une vieille histoire, cette fascination de l’homme pour donner vie à un compagnon artificiel. La littérature et le cinéma ont beaucoup aidé à développer cet objet de fantasmes.

Laurence Devillers, dans son ouvrage « Des robots et des hommes – Mythes, fantasmes et réalité », en retrace l’histoire et en éclaire les perspectives pour le futur, de plus en plus proche. Fascinant.

Déjà, d’où vient ce terme de robot ?

Laurence Devillers nous rappelle qu’il vient du tchèque robota, qui veut dire corvée. C’est l’idée que cette drôle de machine va travailler à notre place. Et donc générer cette peur qu’elle nous remplace. Mais c’est aussi une idée d’inspiration pour les artistes. Ainsi de la légende du sculpteur Pygmalion qui, ne trouvant pas de femme à son goût, crée une sculpture à l’image de la femme désirée. Et, Aphrodite ayant donné vie à cette sculpture, voilà notre sculpteur qui tombe amoureux de sa création. C’est le mythe classique de l’imitation de la nature par la technique, montrant la part de subjectivité dans l’apprentissage.

C’est aussi de ce mythe qu’est née la légende du Golem, née à Prague en 1580 : c’est le nom usuel pour désigner une créature humanoïde créée à partir de matière inerte par une sorte de magicien.

Mais derrière ce mythe, il y a aussi une angoisse, que l’on retrouve encore aujourd’hui avec nos robots contemporains.

Ainsi, le Golem, « embryon » en hébreu, est dans la mystique juive un être artificiel, dépourvu de libre arbitre et incapable de parole, qui est façonné pour assister ou défendre son créateur. Mais voilà, dans ce mythe, le temps passant, le Golem se montre de plus en plus violent dans Prague et terrorise la population. Alors le rabbin Maharal, son créateur, accepte de « désactiver le robot » en échange de l’amélioration de la situation de la communauté juive. Cette légende est une bonne illustration du rôle d’apprenti sorcier que nous pouvons avoir, et le risque de ne plus maîtriser nos créations ou inventions. On a encore ça aujourd’hui lorsque l’on parle de manipulations génétiques, et d’intelligence artificielle, et même avec la PMA et la GPA : la peur d’aller trop loin.

Laurent Testot, dans son récit «  Cataclysmes – Une histoire environnementale de l’humanité » nous donne un nouvel éclairage sur cette histoire de robots. Il raconte comment, dans les années 1815-1816, on assiste à un passage de relais entre la nature et l’humanité : c’est en gros à partir de ce moment que l’homme va devenir le principal agent de transformation du globe. A partir de 1818, l’humanité dans son ensemble va devenir l’agent géologique : c’est à partir de là que la révolution industrielle va initier cette émission massive de gaz à effet de serre d’origine humaine dont on parle tant aujourd’hui. L’humain monte en puissance dans le monde physique, et ça ne va plus s’arrêter.

Ce phénomène de prise de pouvoir par l’homme de la Nature est repris, voire précédé, par la fiction. Laurent Testot rappelle ce concours lancé en 1816 par Percy Shelley, son amante Mary Godwin, plus connue sous son nom ultérieur d’épouse, Mary Shelley, et Lord Byron qui partage avec le couple ses soirées mondaines sur le Lac Léman. Le temps est exécrable, cent trente jours de pluie entre avril et septembre. Le Lac Léman déborde et inonde Genève. Lord Byron s’extasie sur la puissance « tellurique » des tempêtes. Les tableaux de William Turner et d’autres peintres dévoilent des ciels au rouge surnaturels, dont des analyses récentes confirment la fidélité chromatique de leurs œuvres. On attribue cette situation à la grande quantité de matériaux projetés dans la stratosphère par l’explosion du Tambora ( volcan sur l’île indonésienne de Sumbawa) qui désintègre la montagne et la remplace par un cratère de six kilomètres de diamètre et profond de plus d’un kilomètre.

Ce concours est lancé alors que Percy, Mary et Byron débattent de leur obsession de fin du Monde dans leur chalet au-dessus du Lac Léman. Ce concours doit désigner celui qui saura le mieux dépeindre l’horreur entrevue derrière les trombes d’eau incessantes et le froid mordant de cet été 1816 ( la température a chuté de 1 à 7% selon les régions du monde, lors de cet été 1816 et on parlera en Europe de « l’année sans été »). Byron va dépeindre une apocalypse marquée par des journées crépusculaires, des guerres pour la nourriture, et une Terre stérilisée. Percy Shelley, persuadé que la Terre se refroidit, imagine les glaciers progresser et recouvrir la Terre. Mais c’est la jeune Mary Shelley qui va l’emporter avec sa nouvelle : Frankenstein ou le Prométhée moderne.

Cette nouvelle parle d’extinction de l’humanité, alors que la banquise recouvre le monde. Et aussi de la création par le Docteur Frankenstein d’une nouvelle espèce, potentiellement immortelle, animée par l’électricité dérobée à la foudre. C’est un Golem produit, non plus par la matière et la mystique, mais par la science. Alors que le rabbin avait la possibilité de « débrancher le Golem », le Docteur Frankenstein, dévoré par son ambition d’égaler Dieu, n’a pas prévu de coupe-circuit pour sa créature. Sa créature va lui échapper. Elle tente au début de s’intégrer à la population, mais est rejetée en raison de la peur qu’elle inspire. Et elle va donc se mettre à haïr les humains qui l’ostracisent, et en devenir meurtrière. Elle exige ensuite de son créateur qu’il fabrique une compagne pour briser sa solitude. Frankenstein acquiesce, avant de s’apercevoir que cela risque d’entraîner une descendance de sa créature qui supplantera l’humanité d’autant plus facilement que le froid croissant laisse les humains indifférents. Le Docteur détruit alors sa nouvelle création. Il meurt dans un monde glacé, en traquant la chose qu’il a façonnée.

C’est ainsi que Mary Godwin, dans ce récit sur fond de trouble climatique, pose, dès 1816, ce dilemme que nous vivons, et que nos descendants vivront encore plus, face à tous ces androïdes et intelligences artificielles qui pourraient être mieux adaptés que nous, les humains, à un monde altéré.

On retrouve cette histoire dans le roman de Marc Dugain, « Transparence », publié en mai dernier. Elle met en scène, dans un futur proche,  une société du Numérique, baptisée Endless, qui a créé un programme qui consiste à transplanter l’âme humaine dans une enveloppe corporelle artificielle. Ces robots copies conformes des humains seront à même de sauver l’humanité, en se comportant mieux que les humains eux-mêmes, et en étant immortels. La découverte est tellement révolutionnaire que Endless rachète Google. Un roman , bien que pas très bien écrit, qui fait réfléchir. 

Du Golem à Frankenstein, et aux robots modernes et futurs animés par l’intelligence artificielle, on n’a pas fini de projeter nos angoisses de fin de l’humanité dans le futur.