Zone Franche - blog de Gilles Martin

L’intelligence artificielle, c’est le sujet qui donne envie et soif de progrès technologiques, avec toutes les opportunités dans la santé (diagnostics de maladies, prévention, soin), ou pour augmenter les capacités de l'homme en général ; Mais c'est aussi le sujet qui fait peur, notamment d’être hypersurveillés, ou remplacés par des robots.

C’est le thème du roman de deux auteurs américains, Peter Singer, consultant pour le Département d’Etat US, et August Cole, un des organisateurs du Pentagon Next Tech Project, « Control ». C’est un thriller qui vise aussi à nous montrer que « L’ère de l’IA et de l’hypersurveillance a déjà commencé ».

Car si l’histoire est une fiction, toutes les technologies et outils qui y sont évoqués sont bien réels et existent tous déjà. Le livre montre leur utilisation au maximum, et comprend une annexe de notes qui renvoient à des publications ou liens web sur les technologies évoquées.

Et alors, à lire tout ça, certains pourront avoir peur en effet. L’histoire est celle d’un agent du FBI assisté dans ses activités par un robot qui analyse en temps réel un grand nombre de données. L’agent FBI et les acteurs du roman sont équipés de montres connectées, mais aussi de lunettes connectées permettant d’analyser l’environnement en temps réel. Et on peut voir la différence entre ceux qui sont équipés de ce genre de lunettes et ceux qui en sont restés au smartphone : « Les plus âgés et les plus pauvres avançaient tête basse, le nez sur leur écran, tandis que le territoire virtuel était l’apanage des jeunes et des plus riches qui embrassaient l’espace d’un regard vide, plongés dans une réalité personnalisée via leurs Viz Glass ».

Avec ces technologies et ces outils, l’homme devient un « homme augmenté » en coopération permanente avec le robot. L’agent du FBI est accompagné par un de ces robots, qui devient son assistant (jusqu’à ce que soit l’inverse ?) et apprend en même temps qu’il suit et aide l’agent dans ses tâches. Ce robot devient le complément de l’homme pour le rendre plus efficace et plus fort.

On rencontre aussi dans ce roman ceux qui veulent se dissimuler des outils de surveillance : «Le look de cette jeune fille n’était qu’un simple déguisement antisystème. Les cheveux décoiffés et un maquillage réfléchissant asymétrique capable de dérouter les caméras de reconnaissance faciale – dans son cas, une figure géométrique à sept côtés sur la joue gauche, et la moitié d’un damier sur la droite. Des boucles d’oreilles rondes, en verre bleu, avec un étrange motif gravé dessus, très probablement une sorte d’image contradictoire destinée à tromper les logiciels de reconnaissance des objets en leur faisant croire qu’ils voyaient une grenouille ou une tortue ». Ces techniques de piège existent bien.

Mais on trouve aussi, bien sûr des écrans sur les réfrigérateurs qui vous indiquent sans ouvrir la porte ce qu’il y a à l’intérieur, et ce qu’il faut réapprovisionner.

Les robots sont partout, même dans un « club libertin robotique » où l’on peut faire plein de choses avec des robots à image humaine ou non, et même leur taper dessus pour les détruire et assouvir une violence rentrée (ça rappelle la série Westworld).

L’intelligence artificielle a aussi déjà perturbé les emplois. Un des personnages a fait des études d’avocat, mais n’a plus de travail, car, pour régler les litiges, et définir les résultats d’un procès éventuel, l’intelligence artificielle fournit le résultat certain, donc plus besoin d’avocat ou de procès dans la plupart des cas. Le personnage s’est reconverti dans des séances d’écoute par téléphone de personnes âgées solitaires qui s’ennuient.

A la fin du roman les auteurs expliquent leur démarche : « Ce roman s’attaque à des problèmes bien réels auxquels nous seront confrontés dans les années à venir ». Le but du livre est « d’encourager la réflexion autour des épineux problèmes liés aux rapports entre nouvelles technologies et société, qui ne seront bientôt que trop réels ».

Ils considèrent que grâce à la fiction et aux notes, qui permettent d’en apprendre davantage au sujet de telle ou telle technologie, nous nous sentirons « investi d’un nouveau savoir à l’heure d’affronter ces enjeux dans la vraie vie ».C’est plutôt réussi, et la lecture de ce roman en vaut la peine, pour mettre à jour nos savoirs.

Qu’en penser alors ?

Cette histoire d’ « homme augmenté », c’est aussi le sujet d’un petit livre aux éditions de l’aube ( « L’homme augmenté – cyborgs, fictions, metavers ») avec des contributions de divers auteurs. Jean-Michel Besnier, philosophe et professeur émérite à Sorbonne-Université, nous aide à prendre de la hauteur sur le phénomène, en interrogeant le "portrait du transhumaniste". 

En bon philosophe, il commence par la thèse (accrochez-vous) : « A la sélection naturelle du plus viable succède ainsi la sélection du plus fort grâce aux technologies et, de cette relève, nous pouvons espérer l’émergence de l’espèce la mieux adaptée. On l’aura deviné : notre humain augmenté se fait fort d’anticiper cette émergence, et son triomphe consacrera bientôt l’obsolescence de l’humain, resté étranger aux sophistications techniques… Quelques technophiles échevelés donnent déjà le ton : il est grand temps de choisir entre l’humain et le chimpanzé ! Ou bien l’aventure qui propulsera une espèce héritière de l’hybridation de l’humain et de la machine, ou bien le parc zoologique qui abritera les derniers spécimens d’une humanité périmée… ».  

Doit-on y croire ? Voilà l’antithèse du philosophe :

« En attendant, je me demande si l’humain augmenté ne fait pas déjà le singe. Pas seulement avec ses gadgets : sa montre connectée, ses biocapteurs, son casque de réalité virtuelle ou ses exosquelettes, mais surtout avec ses refrains apocalyptiques évoquant la colonisation de l’espace ou le téléchargement du cerveau dans le cyberespace pour échapper à l’anéantissement ! La panoplie du transhumanisme s’enrichit au gré des innovations et des fantasmes qui les propagent sur le marché fréquenté par les nantis de la planète ».

L’auteur voit un signe avant-coureur de la tendance dans l’obsession de la santé parfaite que l’on constate aujourd’hui : « Il ne suffit évidemment pas d’être privé de maladie , encore faut-il attirer sur soi tout ce qui met l’existence à l’abri de l’usure et du risque associé au fait de vivre. La moindre ride sur le visage, l’apparition de taches sur les mains, les signes annonciateurs d’un surpoids sont déjà des offenses qui ne sauraient résister à la cosmétologie ou au fitness ».

Pour en conclure que « l’humain augmenté couve dans le nid bordé par les hygiénistes de tous poils. On le voit partout braver ses contemporains en exhibant son physique épargné, croit-il, par le vieillissement ».

Finalement, l’homme augmenté est-il plus libre ? Ou le contraire ?

«L’engouement pour l’homme augmenté signale la dernière version de la servitude volontaire : réclamer toujours davantage de moyens technologiques pour être un animal laborans efficace, proactif et infatigable…Faute de vouloir imaginer ce qui serait le mieux, on préfèrera encourager la production du plus, du toujours plus ! Non pas « améliorer » mais « augmenter… ». ».

Veut-on du plus ou du mieux ? Être libre ou en servitude ?

C’est l’homme qui décidera de l’avenir.

Ou est-ce déjà trop tard ?

La question reste ouverte.