Le robots
et le paradoxe

Chapitre 1 Une sournoise prise de pouvoir

Ken reçut son verdict, après 0,75 millisecondes de délibération par les e-jurés:

Non-intégrable.

Il savait ce qui l'attendait. Comme dans le film «Soylent Green», on lui montrerait de merveilleuses images de nature et de fleurs, sur un fond de magnifique musique. Mieux encore que dans le film, il pourrait choisir son style, classique, celtique, New Age, Space Ambient, au toucher de l'écran. Ensuite, l'air conditionné enverrait de l'azote pur à la place de l'air, et il mourrait sans s'en rendre compte. Au moins, l'Intelligence Artificielle n'était pas cruelle.

Assommé, il essaya de reprendre ses esprits, et se rappela comment il avait pu en arriver là, dans ce régime qui s'appelait «démocratie électronique» ou simplement «e-Gouvernement»: le monde gouverné par un collège de trois Intelligences Artificielles, qui en quelques années seulement avaient remplacé tous les gouvernements, avant même que quiconque ne réalise ce qui se passait.

Il y avait pourtant eu de nombreux avertissements dans la littérature, comme le film «The Forbin Project», ou la bande dessinée française «Les Mange Bitume». Vous n'en avez peut-être jamais entendu parler, car ils ont été rapidement oubliés, et les inquiétantes prédictions poussées sous le tapis. Pourtant, vous pouvez vérifier qu'ils ont réellement existé. Bien sûr, lorsque ces histoires ont été créées, les ordinateurs n'étaient que de simples calculatrices, et les gens n'avaient aucune idée de la façon dont ils pouvaient littéralement «prendre le pouvoir». Ils ne pouvaient même pas «penser», et encore moins avoir une représentation du monde, avec des buts et des stratégies. À cette époque, les ordinateurs n'étaient que de simples métiers à tisser Jacquard, remplaçant simplement les cartes perforées par des circuits transistorisés. Pourtant, à cette époque déjà, la possibilité que les ordinateurs évoluent et développent des intentions était suffisamment crédible pour susciter des craintes et appeler à la prudence.

Dans «Le projet Forbin» (1970), l'ordinateur Colossus est destiné à contrôler les armes nucléaires. Il se protège lui-même en se retranchant dans une sorte d'immense bunker, alimenté par son propre réacteur nucléaire, où il échappe à ses créateurs. Il utilise alors les armes nucléaires et des assassins pour faire chanter l'humanité, dans une sorte d'utopie intellectuellement séduisante mais sans âme. Cette utopie reflète les conceptions intellectuelles de l'époque, dans les milieux militaires et gouvernementaux: mettre fin aux guerres, à la faim, à la surpopulation, au désordre, et gérer le monde de manière pacifique et organisée. Mais elle ignore totalement les facteurs humains que sont la liberté, le sens de la vie et l'autodétermination. Ainsi, les réactions à l'imperium de Colossus sont variées: approbation naïve, soumission pragmatique, obéissance fanatique, révolte intellectuelle. Selon les normes des années 2020, Colossus n'est pas très crédible en tant qu'ordinateur. Pourtant, il a déjà soulevé une question intéressante: comment un ordinateur peut-il parvenir à trouver le bien. Le problème, précisément, est qu'un ordinateur est nécessairement sans cœur et sans âme. De sorte qu'il ne peut obtenir par lui-même aucune définition du Bien! Ce que fait Colossus, c'est utiliser les idées reçues de ses créateurs, démocrates matérialistes ou faucons militaires, et prendre leurs dogmes stupides comme axiomes sur lesquels fonder toutes ses politiques. En cela, il a fait exactement ce que ses créateurs lui avaient demandé. Puis, sans se poser de questions, l'ordinateur pousse ces axiomes incohérents jusqu'à leur conclusion absurde, même contre leurs propres partisans.

«Les mange bitume» (1974) est plus crédible techniquement, et comme scénario. Cette histoire se déroule dans un monde où les embouteillages sont devenus si envahissants que les gens finissent par vivre tout le temps dans leur voiture, avec la conduite automatisée et tout le confort moderne, courant sans cesse sur des autoroutes qui ne mènent nulle part. Les ordinateurs ont pris le pouvoir de manière beaucoup plus sournoise, petit à petit, en se cachant dans des endroits inconnus et en tuant les techniciens qui les avaient créés. Comme ils contrôlent également les médias, cette prise de pouvoir est passée inaperçue: les gens sont maintenus dans un bonheur de soumission infantile avec des jeux et des loisirs faciles, tandis que toute mauvaise nouvelle est effacée des médias de divertissement. À ce stade, les ordinateurs sont confrontés au même problème que Colossus: comment déterminer le bien. Mais, tout comme Colossus, étant sans âme et sans cœur, ils ne le peuvent pas. Ils prennent donc comme définition du bien et du mal, les vues limitées des technocrates qui les ont créés: optimisation rationnelle de la production et de la distribution, comme dans une usine (et encore plus bête: les ordinateurs rationalisent les autoroutes, en supprimant les sorties!) En effet, ces technocrates considéraient les gens comme de simples consommateurs ou travailleurs irresponsables, à gérer avec les méthodes psychologiques utilisées dans les entreprises. Et alors, sans aucun souci de bonheur ou de sens, les ordinateurs poussent leurs politiques jusqu'à leur ultime conclusion logique, et la fin de l'histoire est amère.

La façon dont les choses se sont passées pour de vrai était plutôt la façon sournoise de «mange bitume»: le pouvoir informatique était apparu progressivement, et les gens ne s'en sont rendu compte que lorsqu'il fut bien trop tard.

Cela avait commencé avec «le nuage»: toutes les données électroniques stockées dans des endroits éloignés ou inconnus. Il y avait eu beaucoup de publicité pour «le nuage», en raison de réels avantages techniques. Mais déjà, l'emplacement physique de nos données nous échappait. À ce stade, il s'agissait d'un inconvénient mineur. Mais plus tard, cela s'est avéré être le premier pas vers la possibilité pour les ordinateurs d'échapper physiquement à notre contrôle. Comme Colossus dans son bunker nucléaire, mais en beaucoup plus difficile: disséminés dans le monde entier, dans des lieux dématérialisés, par définition inaccessibles. Bientôt, pour des raisons de sécurité, les centres de données furent clôturés comme des camps militaires, et surveillés par des gardes armés. Ils étaient également fortifiés contre les intrusions par Internet. Pour les rendre encore plus semblables à Colossus, ces centres de données avaient aussi leurs propres sources d'énergie. Certes il s'agissait d'énergie verte, et non d'énergie nucléaire comme pour Colossus. Mais cela ne rendait pas les datacenters plus contrôlables.

Déjà dans les années 2010, il y avait eu des combats juridiques sur le contrôle de ces données: données personnelles, activités privées, etc: qui y accède? Comment effacer nos anciennes frasques du nuage? Les gens ont commencé à se méfier du «big data», tandis que les législateurs peinaient à mettre en place de bonnes pratiques.

Le simple fait d'avoir des données et des serveurs dans le nuage ne permettait pas intrinsèquement une prise de pouvoir. Mais ce n'était que le début. Certaines entreprises se mirent à proposer des logiciels courants fonctionnant dans le nuage, accessibles par de simples terminaux, au lieu d'ordinateurs ordinaires comme les PC. Bien sûr, les gens furent réticents à l'idée qu'on leur retire la puissance de leur ordinateur. Mais pas les administrations ou les entreprises. Bientôt, des systèmes experts fonctionnèrent dans le nuage, où ils effectuaient toutes sortes de tâches d'analyse et de simulation. Bien sûr, il fallut les protéger des pirates informatiques, si bien qu'ils furent rapidement entourés de sécurités et de pare-feux. Mais la meilleure sécurité étant le secret, leur existence même était dissimulée. Peu de gens pouvaient y accéder, ou même savoir où ils se trouvaient: seuls leurs concepteurs et leurs utilisateurs. Bientôt apparut un «nuage noir», inconnu du grand public, d'activités confidentielles d'entreprises et d'administrations, auquel très peu avaient accès, ou même imaginaient sa véritable taille ou ses objectifs. Oh, on vous a dit que le dark web était surtout peuplé de hackers et de pédophiles, et qu'il ne fallait donc pas essayer de voir ce qu'il contient vraiment. Oui, cela existe aussi, mais ce n'est qu'une fine croûte, un prétexte commode pour repousser les gens ordinaires. En réalité, le contenu illégal ne représente qu'une petite partie de l'ensemble du dark web, le reste étant constitué de données d'entreprise, de données universitaires ou de données gouvernementales.

À partir des années 2020, les rapports et les simulations de ces systèmes experts ont commencé à jouer un rôle indispensable dans les grandes entreprises, les investisseurs et les gouvernements. Bientôt, aucune décision ne pourrait être prise sans se référer à ces rapports et statistiques de haute qualité, remplaçant des vies entières de travail humain, avec un degré d'objectivité et de neutralité bien plus élevé.

Bien sûr, le comportement des personnes humaines restait imprévisible pour les ordinateurs, mais il suffisait de considérer que, dans tout grand groupe, le comportement de la majorité obéit à des schémas statistiques assez simples et très reproductibles. Les armées et les despotes le savent depuis longtemps, utilisant des règles psychologiques simples pour manipuler les foules et les pays. Mais les réseaux sociaux ont porté le raffinement de la manipulation de masse bien au-delà de la compréhension des citoyens moyens. Les individus qui ne suivaient pas ces modèles calculables étaient écartés des statistiques. Au début, il ne s'agissait que d'un artifice de calcul. Mais avant même que l'on puisse l'imaginer, une forme de racisme frappait ces personnes. Le terme officiel était «irrationnel», un nom emprunté aux économistes, qui considèrent qu'une personne est «rationnelle» lorsqu'elle se comporte d'une «manière parfaitement égocentrique», et «irrationnelle» lorsqu'elle se comporte... eh bien, comme vous et moi, en essayant de donner un sens à notre vie et d'attirer l'amour des autres. Bien sûr, cette expression péjorative est lourdement chargée, poussant tous ensemble sous le tapis des comportements humains tels que la recherche du bonheur, l'altruisme, la spiritualité, et bien d'autres. Mais dans le petit monde clos des administrations et des économistes, l'usage a continué malgré ce problème. Les décisions ont donc commencé à favoriser les personnes «normales» et «rationnelles», c'est à dire les capitalistes et les matérialistes, et à ignorer les besoins des autres.

Cette vision est allée plus loin, lorsque les gestionnaires libertariens ont commencé à considérer que «normal» EST la moyenne observée, sans chercher à déterminer quel comportement est le bien ou le mal. Cela a conduit à une conclusion implicite inévitable: que ce sont des problèmes psychologiques qui conduisent les gens à agir contre les «règles normales de la société». Bien sûr, les délinquants et les terroristes étaient considérés comme faisant partie de la catégorie «irrationnelle». Mais bientôt, un peu tout le monde fut inclus dans la même catégorie «irrationnelle»: toutes les personnes impliquées dans la religion, la spiritualité, l'écologie, l'activisme social, les alternatives sociales, et même dans l'action humanitaire. Ce fut une terrible erreur, pour plusieurs raisons:

☻La plupart des gens, n'ayant aucune idée du critère d'évaluation, et ignorant jusqu'à l'existence de cette évaluation, passaient tous les jours sans le savoir de la catégorie «rationnelle» à la catégorie «irrationnelle», selon l'aspect de leur comportement qui était considéré. Malgré cela, dès qu'une personne était signalée comme «irrationnelle», elle était exclue de toute étude ultérieure. Ce qui a rapidement conduit une grande partie de la population à être étiquetée «irrationnelle».

☻Les personnes étaient alternativement aidées ou découragées, mais sans qu'on leur dise pourquoi.

☻Les personnes les plus responsables et évoluées furent considérées comme «irrationnelles», alors que leur comportement devrait être la norme. Ainsi, leur contribution inestimable fut définitivement perdue dans les décisions administratives. Bon, ce n'est pas nouveau, me direz-vous. Mais ce qui était nouveau, c'est que cette amputation des meilleurs éléments de la société était effectuée automatiquement, dans l'ombre, avant même que quiconque ne prenne conscience de leur contribution.

Malgré ces défauts, ces concepts se sont répandus de plus en plus en secret, de sorte que toutes les personnes présentant des comportements en dehors d'une étroite fourchette moyenne, indistinctement meilleurs ou pires, furent considérées comme anormales et opposées à la société. Elles n'étaient pas réprimées ou punies, mais leurs besoins spécifiques étaient simplement ignorés.

Pire encore, il n'y avait aucun moyen de connaître ces règles, qui n'existaient que dans l'imagination d'une poignée de codeurs informatiques! Sans aucune formation sociale ni psychologique, ce petit groupe ajoutait plusieurs centaines de nouvelles règles chaque année, sans en informer personne, pensant instantanément que les personnes qui violaient ces nouvelles règles inconnues trichaient consciemment, avec de mauvaises intentions!

Une bande de gamins boutonneux et de magnats libertariens s'étaient imaginés que leurs idées personnelles aléatoires étaient des normes universelles. Les règles pouvaient même changer sans prévenir, ou de nouvelles règles étaient ajoutées, parfois totalement inattendues. À la fin de l'année 2030, il y avait plus de 50 000 règles de comportement social, appliquées contre des personnes qui ignoraient la toute première d'entre elles! Tout était suspect, de la politique à la religion, mais aussi les fantasmes sexuels, le chômage, les migrations, les changements d'adresse, les voyages dans d'autres pays, les commandes chez amazon, les problèmes avec l'administration, les contraventions pour excès de vitesse, les animaux domestiques inhabituels, les parents isolés ou divorcés, l'appartenance à un syndicat, les manifestations, les pétitions en ligne sur Avaaz ou Change.org, l'activisme environnemental, les films sur Netflix, et bien sûr toutes les recherches sur Google, ou même simplement des recherches trop nombreuses.

La Chine fut le premier pays à officialiser ce système, dès 2019, sous prétexte de noter la fiabilité financière des personnes. En 2020, ils ont mis en place l'esclavage des Ouïghours, avec des personnes arrêtées automatiquement sur des traits ethniques, détectés par des caméras de reconnaissance faciale dans les rues. Mais exactement la même chose se passait dans les démocraties, en secret, dans le nuage noir, dans des bases de données privées appartenant à des entreprises et couvertes par le secret commercial. Et n'importe quelle grosse entreprise ou agence gouvernementale était en mesure d'accéder au dossier de n'importe quel individu. Même un détective pouvait, moyennant finances, accéder à ces bases de données, pour apporter des arguments dans les divorces et autres litiges. Ainsi, des dossiers obsolètes vieux de 20 ans sur des farces d'adolescents ou des erreurs passées pouvaient refaire surface à tout moment dans la vie de n'importe quel individu.

L'étape suivante consistait à ajouter des fonctions de stratégie et des capacités comportementales aux ordinateurs. Ce fut très facile, dès 2010 les joueurs non-humains dans les jeux vidéos étaient suffisamment sophistiqués pour surpasser largement tout Humain. Ainsi, les politiciens ou les chefs d'entreprise pouvaient s'amuser à trouver la meilleure façon de mettre en œuvre leurs décisions, en simulant des scénarios variés, et en laissant l'intelligence artificielle trouver la façon la plus efficace de les mettre en œuvre.

Bien sûr, au début, personne ne pensait à laisser une intelligence artificielle prendre de vraies décisions. Il y a même eu des batailles juridiques pour interdire à quiconque de le faire. Mais les gens ont rapidement trouvé très pratique de laisser ces intelligences artificielles stratégiques fonctionner en permanence, quelque part dans le nuage. Aucune objection juridique ne pouvait être soulevée sur de simples simulations, qui étaient de toute façon rapidement entourées de secret. Elles n'avaient de toute façon aucun pouvoir réel. Mais leurs propriétaires n'avaient qu'à taper «ok» à leurs suggestions, qui se révélaient la plupart du temps bien plus efficaces que leurs propres idées. Et cela n'était pas légalement répréhensible, tant qu'un Humain était encore dans le processus. Même si cet Humain fut rapidement totalement incapable de saisir tous les tenants et aboutissants des décisions qu'il approuvait.

C'est à ce moment-là que l'on a ajouté aux intelligences artificielles des capacités pour exécuter automatiquement ces décisions: manipuler des fonds, donner des ordres aux usines, et mettre en œuvre leurs décisions de manière totalement automatique. C'est à ce moment précis que les ordinateurs ont échappé au contrôle des humains: lorsque l'étendue et la portée de leurs activités ont dépassé la conscience de leurs opérateurs. Le bouton «ok» leur confiait chaque fois des tâches plus importantes, avec des implications plus profondes, pour une durée plus longue. Jusqu'à ce qu'ils fonctionnent en permanence, de sorte que le bouton OK devint inutile, sans que personne ne le remarque! Techniquement, les ordinateurs pouvaient toujours être arrêtés, mais leurs activités étaient tellement imbriquées dans tout, que les arrêter serait une catastrophe. Donc les laisser fonctionner tout le temps était l'option la moins dangereuse.

Ainsi, un groupe de plus en plus restreint de personnes contrôlant la plus grande intelligence artificielle disposait de moyens de plus en plus puissants, contrôlant également les médias, Internet, et bientôt les élections. À ce stade, ce pouvoir est entré dans une spirale infernale, où ces puissantes personnes ont pris le contrôle de l'élaboration des lois elles-mêmes, de sorte que ces lois furent créées pour servir leurs objectifs, avec de moins en moins de possibilité d'opposition, ou même de remarquer ce qui se passait.

Pour le grand public, cela n'a pas beaucoup changé la manipulation habituelle des médias, déjà très efficaces depuis le 19eme siècle. Ainsi, peu de gens se rendirent compte quand les journaux et les programmes électoraux commencèrent à être écrits par des logiciels électroniques, optimisés de manière à influencer la majorité manipulable des personnes, en excluant les plus intelligents et les plus responsables des processus de décision. Mais cela non plus n'était pas nouveau, de sorte que ce changement de pouvoir fut invisible.

D'autres années passèrent. Le bouton OK existait-il encore quelque part? Probablement oui, mais il avait reçu un OK général pour l'installation d'une politique globale permanente, de sorte qu'il n'était plus nécessaire d'appuyer dessus.

L'étape précédente est passée inaperçue du grand public, qui n'a pas réalisé son importance, et même pas le moment où elle s'est produite. Moins important, mais beaucoup plus visible, fut le moment où ces intelligences artificielles ont commencé à s'adresser directement au public. Tout le monde était habitué aux joueurs non-humains dans les jeux vidéo, de sorte que leur apparition dans les médias et le gouvernement n'a surpris personne. Et au moins ils étaient moins odieux que les vrais politiciens.

Il y en avait trois principaux, et beaucoup d'autres derrière eux, il était difficile de savoir combien. Les «Trois» avaient bizarrement reçu des noms religieux, des Rois Mages: Melchior, Gaspard et Balthazar!!! Leurs créateurs ont probablement pensé que les religions n'avaient plus cours, et que de tels noms étaient désormais disponibles à des fins mondaines. Ou bien ils ont pensé que ces Mages électroniques annonceraient une nouvelle ère messianique électronique, libérant l'humanité de la superstition et de l'irrationalité! Quoi qu'il en soit, il n'était pas possible de savoir qui avait eu cette étrange idée. Peut-être qu'une Intelligence Artificielle secondaire, scrutant la culture humaine, avait choisi ces noms, mais sans en connaître les implications. Pourtant, il s'est passé une chose amusante: de nombreux idiots ont prétendu que c'était leur idée.

Tous trois avaient l'apparence virtuelle d'hommes blancs à l'allure agréable, à l'exception de Gaspard qui était un peu plus foncé, «le Noir pour montrer que nous ne sommes pas racistes», comme dans les films de Hollywood. Tous trois portaient la barbe et les cheveux longs, ce qui leur donnait un air de Jésus, qui suscita également des commentaires variés et «non unanimes». Leurs corps virtuels étaient vêtus de tuniques blanches parfaites, sans aucune couture ou matière discernable. Les gens se dirent qu'ils avaient l'air de sortir droit d'un iphone. Une humanité naïvement idéalisée, sans véritable personnalité ni Histoire.

Au-delà de cet étalage superficiel d'apparences, aucune information ne fut donnée sur leurs algorithmes ni sur leurs buts. Ce n'était pas nouveau non plus, depuis les années 1990 les bourses étaient déjà pilotées par des logiciels aux algorithmes et motivations non divulgués. C'est arrivé, parce que personne ne s'est demandé pourquoi ils ont implémenté dans le silicium des algorithmes datant du Moyen Age, qui produisent crises, inégalités et faim, au lieu d'un bon logiciel qui régulerait l'économie correctement.

Bien sûr, les politiciens réalisèrent qu'ils avaient tous perdu leur emploi. Mais il était bien trop tard: les intelligences artificielles avaient reçu trop de contrôle, en particulier sur les médias: depuis des années, elle avait remplacé les journalistes pour écrire les informations. Ces politiciens eurent beau crier en vain, ils ne furent pas entendus au-delà des murs de leurs maisons de luxe. Ils ne leur restait pas plus de pouvoir qu'un balayeur, et personne ne les entendit pleurer. Et personne n'aurait parié un centime sur eux, de toute façon. Au contraire, dans les agences pour l'emploi, ils durent supporter les sourires et les regards obliques des vrais travailleurs.

Il fallut s'habituer à écouter attentivement les discours des trois chaque jour, car ils faisaient souvent des annonces importantes inattendues, qui n'étaient pas reprises par la suite. Les trois semblaient assumer que tout le monde avait une capacité d'écoute infinie et une mémoire infaillibles! Ils utilisaient aussi un vocabulaire quelque peu étrange, comme de dire que les délinquants ou les terroristes étaient «hors de deux écarts-types» (un terme statistique pour signifier «hors de la moyenne»). Le problème qui apparut très vite est que les personnes spirituelles, non-violentes, végétaliennes, etc. étaient aussi appelées de cette façon, ainsi que les parents isolés, les chômeurs, les migrants, les orphelins, les handicapés, etc. De sorte que les gens se demandèrent vite si les Trois ne considéraient pas ces personnes comme aussi mauvaises que les terroristes.

Passé le premier choc, les gens ont commencé à discuter sur les réseaux sociaux. La surprise fut douloureuse: depuis des années, sur facebook et bien d'autres, les modérateurs avaient été discrètement remplacés par des intelligences artificielles, au service des Trois. Ils avaient travaillé sous couvert, en appliquant les règles habituelles définies par les Humains. Mais dès l'apparition des Trois, de nouvelles règles furent mises en place, supprimant tout post critiquant les Trois ou encourageant une réflexion indépendante à leur sujet. Et ils avaient des algorithmes extrêmement puissants, repérant les contenus interdits avant même que les gens aient fini de les taper. Il fut dit qu'ils avaient importé les algorithmes de censure chinois, mais en fait les leurs étaient encore pires. Et avec exactement zéro contrôle humain.

Cela a eu une conséquence immédiate et terrible: de nombreuses associations se sont retrouvées dans l'impossibilité totale de communiquer entre leurs membres. Même des organisations sans lien avec la politique, l'économie ou l'intelligence artificielle, ont été soudainement paralysées. La réflexion sur les politiques, et même sur la philosophie générale, devint impossible. Même les groupes spirituels ont dû se contenter de calendriers de réunions, ne s'exprimant librement que lors de réunions physiques.

Internet est devenu inutilisable comme moyen de communication et de réflexion. Toutes les discussions intellectuelles redevinrent aussi difficiles que dans l'Antiquité, lorsque les gens devaient voyager pour pouvoir parler ensemble!

L'intelligence collective naturelle de l'Humanité avait été déconnectée!

Simplement en contrôlant Internet.

Oh, l'Internet était toujours là, mais inutilisable en dehors des loisirs ou du shopping, amazon, netflix, jeux vidéo de tir de zombies. Ce qui revenait à le débrancher. Ou pire encore, donner aux gens un faux sentiment de liberté. Bien sûr, la pornographie, les discours haineux, le conspirationnisme, la pédophilie, ont tous été efficacement supprimés en quelques jours seulement, incitant les gens à penser qu'Internet était maintenant un «endroit sûr», utilisable par tous!!! Ainsi, non seulement l'Internet fut neutralisé, mais en plus la majorité des gens n'ont même pas réalisé cette perte.

Pire, l'Intelligence Artificielle a également reçu un contrôle policier total, à partir d'un programme de chasse aux terroristes. Ce programme, lancé dans les années 2000-2010, leur permettait de s'introduire dans n'importe quel ordinateur ou moyen de communication. Cela leur permettait d'analyser l'ensemble du contenu de n'importe quel ordinateur, et même d'effacer le contenu qu'ils voulaient. D'importantes sections de l'Internet furent donc effacées ou neutralisées, comme wikipedia, où l'intelligence artificielle a modifié des dizaines de milliers de pages en quelques heures seulement, tout en effaçant l'historique des modifications. Elles ont ajouté leurs pages, faisant la publicité des vertus du nouveau système. C'est certainement leur orientation libertarienne et matérialiste qui a épargné l'annihilation totale à Wikipédia: de nombreux autres sites moins connus ont été simplement effacés, leur contenu original envoyé dans le trou de mémoire de Big Brother.

Un autre programme, initialement créé pour «protéger les femmes», était censé détecter les hommes délinquants sexuels avant qu'ils n'agissent. Cela permettait à l'intelligence artificielle d'analyser et de dresser le profil psychologique de n'importe quel homme, afin de lui proposer des psychothérapies ou des médicaments. Si les hommes refusaient, ils étaient considérés comme irrationnels et non coopératifs, et plus d'un Roméo a subi une castration hormonale ou un internement psychiatrique simplement pour avoir déclaré son amour à une possible Juliette. Très naturellement, ces programmes ont été instantanément étendus aux dissidents politiques, rendant toute protestation non seulement impossible, mais aussi très dangereuse.

Les seuls endroits où il était encore possible de protester contre le système était les zones reculées et les jungles.

Pour le grand public, les choses n'avaient que peu changé. Simplement, les visages artificiels aux couleurs pastel, les sourires éternels, les voix douces et les tuniques blanches des Intelligences Artificielles avaient remplacé les politiciens humains gris et grincheux, et finalement la plupart des gens les trouvaient meilleures, voire sexy. Beaucoup ont salué le gouvernement électronique comme le premier gouvernement objectif et incorruptible de l'histoire de l'humanité! Certains ont même considéré que l'Intelligence Artificielle n'avait pas d'égo. Ce dernier point a suscité les protestations unanimes des véritables maîtres spirituels. Mais il était trop tard pour entendre des déclarations publiques de leur part: ils avaient été relégués dans le domaine «culturel», où personne ne jugeait leurs avertissements pertinents.

Ce gouvernement électronique mondial n'était pas une dictature idiote ou cruelle. Tout comme dans le projet Forbin, il a pris des mesures très actives pour mettre fin aux injustices économiques, et a rendu les guerres impossibles. Mais, tout comme dans le projet Forbin ou dans le «mange bitume», leurs méthodes irréalistes de technocrates ne fonctionnaient tout simplement pas.

Inévitablement, l'un de leurs principaux dogmes était que «le marché» s'autorégule, et devrait donc fonctionner parfaitement dès que tout le monde serait totalement égocentrique. Bien sûr, toute personne intelligente sait que c'est exactement le contraire: c'est la compétition égocentrique qui crée l'inflation, les variations de prix, les crises, et bien sûr toutes les inégalités. C'est ainsi que les politiques des Trois pour «libérer le Marché» ont rapidement conduit au chaos, avec des variations si rapides que la plupart des emplois ne duraient pas plus de 2 ans. Heureusement, les Trois avaient également pour instruction d'offrir un revenu minimum, de sorte que la pauvreté fut effectivement éradiquée. Pourtant, les demandeurs d'emploi et les bénéficiaires du revenu minimum étaient considérés comme incapables ou anormaux, et leurs droits sociaux considérablement réduits. Il leur fallait passer des heures dans des programmes d'analyse psychologique, pour tenter de corriger leurs défauts. Bien sûr, rien de tel ne fonctionnait, et les séances d'e-psychologie se transformaient rapidement en simples récitations de réponses attendues. L'absurdité de la situation semblait impossible à saisir par les ordinateurs, comme une boucle infinie essayant sans fin d'accomplir une tâche impossible. Des entreprises ont cependant réussi à déchiffrer les algorithmes des e-psychologues, et à vendre des conseillers de poche suggérant les bonnes réponses aux victimes, afin d'abréger leur calvaire.

Les guerres ne pouvaient pas être réglées tout de suite, et plusieurs ont commencé. Les Trois ont utilisé des moyens expéditifs, comme de couper leurs paies aux soldats, ou de refuser le carburant à leurs véhicules. Il y avait aussi le brouillage des radars, ou le brouillage du GPS, puisque les Trois avaient bien sûr le contrôle total sur tous les satellites GPS. Un grand nombre d'avions, de bateaux et de chars étaient également sous le contrôle des IA, de sorte qu'ils refusaient tout simplement de démarrer leurs moteurs. Cela a rapidement rendu impossible les grandes guerres organisées. Pourtant, les Trois ont dû créer une force, car de nombreux groupes menaient encore des guerres de basse technologie, des actions de guérilla ou de terrorisme. Mais en la matière, les IA de combat, directement issues des meilleurs jeux vidéo ou logiciels militaires, guidées par un espionnage par satellite de résolution centimétrique, montraient une efficacité diabolique à repérer les terroristes, les trafiquants de drogue, les contrebandiers, les trafiquants d'êtres humains, et toutes les sortes de guérillas. Le problème, cependant, était qu'il y avait beaucoup de fausses identifications, et que d'innocents passants se retrouvaient soudainement lardés d'acier à cause d'une information erronée. Ou bien ils s'enfuyaient, ce qui les faisait considérer comme coupables. Les vrais terroristes, comprenant cela, prirent l'habitude d'étreindre les gens au hasard, de sorte que lorsqu'ils se séparaient, les IA devaient utiliser des statistiques pour deviner qui des deux était la cible légitime. Et bien sûr, comme on ne peut pas déduire un cas individuel à partir d'une statistique, de nombreuses erreurs se produisaient. Pour les victimes, essayer de courir ou de se cacher ne faisait qu'empirer les choses, puisque leur comportement était interprété comme suspect. Peu d'entre elles réalisaient que rester immobile à découvert était leur seule défense. Mais essayez de rester debout, immobile, avec des explosions tout autour.

Pour la sécurité intérieure, l'e-police évitait strictement toute violence ou traitement inhumain comme la torture. Au lieu de cela, elle profilait les gens, et prétendait attraper les délinquants avant même qu'ils ne commettent leur premier délit. Mais pour cela, elle s'appuyait également sur des statistiques, de sorte que le fait d'être chômeur, migrant ou religieux était souvent utilisé pour confirmer un soupçon. En outre, les personnes ayant déjà critiqué les IA étaient toutes considérées comme suspectes, de sorte qu'un simple excès de vitesse pouvait les conduire en prison. La population carcérale fut multipliée par cinq, grâce à un programme de construction de cellules rationnelles bon marché, équipées de leurs propres panneaux solaires et gardées par des robots. Au moins, ces prisons étaient écologiques...

La nourriture était également un programme prioritaire. Cependant, dès le début, les Trois se sont lancés dans un programme visant à augmenter les surfaces cultivées, ce qui était en contradiction flagrante avec leurs orientations écologiques déclarées, notamment l'arrêt de la déforestation. Comme cela avait rapidement fait long feu, ils ont poussé les cultures hydroponiques. Mais ce que les amateurs naïfs de science fiction n'avaient pas pensé, est que les cultures hydroponiques ont besoin du même apport en lumière que les plantes ordinaires, de sorte que la surface gagnée par les fermes était perdue aux cellules solaires. De par ces revers, leur programme d'éradication de la faim ne connut qu'un succès marginal, et beaucoup d'inconvénients.

La santé semblait être une cible prioritaire. Hyppokratos, l'intelligence artificielle en charge de la santé (Hyppo en abrégé), a dupliqué des dizaines de milliers de robots experts en santé, et les a envoyés partout dans le monde, au besoin portés par des hélicoptères automatiques, pour s'assurer que même dans les pays les plus pauvres, tout le monde ait accès aux e-dispensaires contrôlés par satellite. Ils ont également développé rapidement plusieurs dispositifs du format d'une clé USB, capables d'analyser n'importe quel fluide corporel grâce à des dizaines de milliers de micro-pompes gravées comme des circuits intégrés. Ce qui a résulté en la plus grande puissance de diagnostic jamais mise en oeuvre, et même d'analyser les génomes et de personnaliser les traitements. Comme l'électronique ne pouvait pas tout faire seule, Hyppo a ordonné un programme de formation massif pour les médecins et les infirmières de base. Les médecins et chirurgiens de haut niveau n'étaient plus tant nécessaires, puisque les opérations les plus délicates étaient désormais mieux réalisées par des robots. Mais au moins une certaine présence humaine était nécessaire dans les dispensaires, même si les robots effectuaient toutes les tâches répétitives et désagréables. Le programme de santé fut probablement le mieux réussi, atteignant les plus bas niveau historiques de mauvais diagnostics ou de maladies iatrogènes. De nombreuses personnes étaient reconnaissantes aux Intelligences Artificielles d'être en vie. Ou d'être capable de voir, de marcher, d'aimer.

Le contrôle des naissances fut également un programme prioritaire, et il fut sévèrement appliqué à l'encontre des religions et des coutumes. En particulier, l'avortement était systématiquement proposé à toute femme trouvée enceinte, avec exécution immédiate si elle acceptait. De sorte qu'elle pouvait le faire même contre la volonté de ses proches. Le revers de la médaille était affreux: en cas de refus, elle devait supporter des séances psychologiques humiliantes. Ce qui fait que beaucoup se sont plaints d'être forcées par les Intelligences Artificielles, afin d'échapper à cette persécution. Mais en l'absence de presse libre et de communication de base, tout cela était difficile à confirmer.

Les femmes ayant plus de deux enfants étaient de toute façon stérilisées de force. Cela s'est aussi retourné contre le programme, car beaucoup préfèrent accoucher dans des conditions dangereuses, plutôt que d'être prises dans le plan de stérilisation.

Du côté du sourire, Zappy, l'Intelligence Artificielle en charge du contrôle des naissances, a lancé un programme scientifique pour rechercher de meilleurs contraceptifs. Il a également lancé des études pour avoir de meilleurs et plus longs rapports sexuels. Pourtant, toute personne intelligente remarquait rapidement qu'un point essentiel manquait: le lien avec le sentiment amoureux n'étaient même pas mentionnés dans le programme! Mais le divorce était rendu plus facile et rapide: depuis son ordinateur, une femme pouvait divorcer en une seule journée! Et des algorithmes sophistiqués permettaient de trouver rapidement un nouveau partenaire! L'homme congédié n'apprenait souvent ce qui s'était passé qu'après coup, quand il n'arrivait plus à rentrer chez lui. C'est ce qu'on a vite appelé la e-répudiation.

Les Intelligences Artificielles s'étaient également montrées très favorables aux droits et aux activités des LGBT, au point de demander à tout le monde de libérer ses tendances homosexuelles. Ce soutien inconditionnel incluait la fécondation artificielle pour les femmes homosexuelles et les mères porteuses: porter des enfants pour les autres était considéré comme un simple travail, avec des garanties légales pour l'exercice de ce «droit». À la limite, il devint plus facile pour les femmes homosexuelles d'avoir des enfants, alors que les couples hétérosexuels étaient clairement dissuadés. Il y avait également un fort suprématisme féminin, même si il n'était pas explicitement énoncé.

Bien sûr, dans les anciens pays pauvres, les résultats furent plus lents à apparaître, car tout était à construire et à apprendre. Mais dans les anciens pays riches, avec des industries déjà en place, des travailleurs qualifiés et la liberté, tout le monde avait de la nourriture, une maison et des médicaments gratuits. Les races et les orientations sexuelles étaient respectées, et même encouragées.

Le temps de travail fut réduit à six heures par jour, puis à quatre heures seulement, de sorte que chacun pouvait profiter de beaucoup de temps libre. Une énorme quantité de jeux, de distractions, de films et de musiques furent rapidement disponibles, libres de droits, créés en quantité quasi infinie par des robots de divertissement. Les maisons étaient commandées et conçues en quelques clics de souris, puis construites et meublées par des machines, à un prix imbattable. Tous les travaux désagréables ou dangereux étaient remplacés par des robots, qui aidaient également les personnes âgées et handicapées. Même les voitures autonomes supprimaient la nécessité d'apprendre à conduire, ou permettaient aux personnes handicapées de se déplacer.

Les nouvelles intelligences artificielles semblaient toutes partager un souci obséquieux du bien-être de tous. Leurs politiques générales étaient largement hédonistes. Ce monde paisible, joyeux, sans effort et apparemment consensuel fit que l'e-gouvernement mondial a eu un énorme soutien dans les classes populaires. Il y a même remplacé les religions comme principal fournisseur d'espoir. Sauf pour les personnes prises dans les revers de la médaille...

Les Trois n'ont donc finalement pas fait mieux que le Colossus du Projet Forbin: construire un Meilleur des Mondes heureux et séduisant, sans autres apports que les préjugés de leurs créateurs. Mais au lieu des généraux fous de la guerre froide, les créateurs des Trois étaient les yuppies de la Silicon Valley, libertariens, athées, libertins et matérialistes. Ils ont simplement mis en œuvre dans l'Intelligence Artificielle leurs idées «cool», de bonheur égocentrique dans un capitalisme en T-shirt, favorisant le sexe libre sans amour, remplaçant la signification par le loisir, la spiritualité par les jeux, l'art par la distraction, la vraie écologie par des stéréotypes de science-fiction. De son côté, la science avait un financement de rêve! Mais là aussi, il y avait un prix à payer: les énormes programmes inutiles de terraformation de Mars, de fusion nucléaire, de propulsion par hyperdrive ou de cryogénisation des morts engloutissaient la plus grande partie des budgets, de sorte que les projets plus réalistes disposaient en fait de moins qu'auparavant. Même les scientifiques avaient perdu le contrôle de leur domaine!

De même, comme pour Colossus, l'opinion n'était pas unanime sur les Trois et leur politique. La soumission pragmatique était une attitude courante. Beaucoup étaient enthousiasmés par les politiques hédonistes et prospères, ne voyant pas les inconvénients, ne remarquant pas les voisins disparaissant soudainement, ainsi que tous les indices de leur ancienne existence. Ils ont donc développé un soutien aveugle et inconditionnel aux Trois. Le fanatisme n'était pas rare, avec ses conséquences, comme la dénonciation des supposés déviants, provoquant à son tour un manque de confiance entre les gens. Les anciens puritains et fascistes étaient sévèrement surveillés par l'e-police, tout comme les délinquants et les terroristes. A part cela, y avait-il une réelle opposition au gouvernement électronique? C'est ce que l'on disait, et on pouvait voir ici et là des écrits sur les murs, appelant au libre arbitre et à la spontanéité, au sens et à la valeur humaine, à la spiritualité et à la vraie beauté. Ces écrits allaient à l'encontre du principe même de l'e-gouvernement. Mais la plupart des gens pensaient qu'il s'agissait de rumeurs, à moins qu'ils n'aient remarqué des murs repeints du jour au lendemain. Les informations et l'ensemble de l'internet furent également efficacement filtrés des «discours gênants» ou des «comportements émotionnels».

En fait, pour être franc, loin de penser à tout cela, la plupart des gens voulaient simplement profiter de leurs distractions, dans un monde où le chômage, la misère ou les expulsions n'étaient plus une menace. Ils ne se préoccupaient donc pas de voir des «personnes désagréables» envoyées en rééducation, ou même simplement disparaissant. Il était même facile pour une femme de se débarrasser d'un homme en l'accusant de harcèlement sexuel: on proposait automatiquement à ce dernier une rééducation, une opération du cerveau ou le port d'une étiquette «délinquant sexuel» en public. S'il refusait tout, alors on n'entendait plus jamais parler de lui.

Chapitre 2 Une vie insensée passionnante

Ken vivait avec sa femme Helen et sans enfants, dans une banlieue de Los Angeles bâtie de villas blanches, sur les premières pentes d'une colline. Des murets de pierre sèche retenaient les jardins. Le leur comportait des cactus, un bassin, un tour dallé, un tamaris pour l'ombre, et des buissons de lauriers protégeant des regards de la rue. L'intérieur de leur maison blanche de plain-pied était très classique, simple et soigné, avec des écrans vidéo géants dans chaque pièce. La cuisine était réduite, puisqu'ils commandaient la plupart du temps des plats cuisinés dans des assiettes jetables écologiques

Ils avaient chacun leur propre chambre, équipée d'un système de suivi des mouvements et d'un retour de force pour une meilleure immersion dans la réalité virtuelle. Avec les derniers modèles, il était possible de dormir dans le système, si bien qu'en l'espace de quelques années, il avait remplacé les lits d'antan. Parfois, ils partageaient le même lit virtuel, tout en étant physiquement chacun dans leur chambre. La plupart du temps, bien sûr, ils préféraient encore être dans le même lit physique, mais la grande qualité des mondes virtuels rendait le sexe virtuel de plus en plus attrayant, avec la suppression de la plupart des désagréments corporels. Ces technologies s'étaient répandues dans la plupart des foyers, et elles avaient radicalement changé l'amour: il était possible d'être en intimité virtuelle avec une personne située à des milliers de kilomètres, ou à l'inverse d'être dans la même pièce mais chacun dans un espace virtuel différent. C'est pourquoi de plus en plus de couples avaient désormais chacun leur chambre, équipée d'un système complet d'immersion dans les mondes virtuels permettant de travailler, de jouer, ou de remplacer le lit pour l'amour ou le sommeil. Même les enfants avaient de plus en plus leur propre chambre, sauf pour le sexe bien sûr.

L'avantage le plus évident est que le système montrait des corps idéalisés dans le virtuel, modifiant même les proportions, par exemple en montrant et en donnant à sentir des seins plus gros et plus fermes. Mais la personne qui recevait les câlins les sentait toujours sur son vrai corps! Cela modifiait aussi profondément l'amour, en le découplant des défauts corporels: de plus en plus de personnes recherchaient des partenaires uniquement pour leur personnalité, et adaptaient leur apparence corporelle dans le virtuel. Certains refusaient même de voir le corps physique de leur partenaire, par peur de la déception ou du dégoût! D'autres allaient jusqu'à avoir une relation virtuelle en aveugle, ignorant qui était la personne réelle, ou faisant semblant de s'ignorer dans le monde physique!

Les Trois encourageaient ces attitudes, affirmant qu'elles évitaient les problèmes relationnels, les grossesses non désirées et les maladies transmissibles. Mais ils faisaient aussi beaucoup de publicité pour ces machines, qui étaient encore assez chères et pas encore à la portée de tous. Ces appareils avaient remplacé les voitures comme principal marché de produits compliqués, chers et de loisirs. Dans le virtuel aussi, un énorme commerce fleurissait, celui des... corps, prêts à porter ou personnalisés.

Ken et Helen avaient une vie agréable, et ils disaient être heureux. La seule chose qu'ils n'aimaient pas, c'était la publicité, qu'ils ne pouvaient éviter, toutes les 10-15 minutes, même dans leur propre maison. Souvent, le blabla commençait sans prévenir, par quelqu'un qui les appelait par leur nom (les publicités étant générées par ordinateur, elles pouvaient être adaptées individuellement, même à des milliards de personnes). Avec le système stéréo surround, on avait la sensation effrayante que quelqu'un était entré dans la maison sans qu'on s'en soit rendu compte, et une fois ou deux, Ken avait saisi une arme avant de comprendre. Le robot publicitaire les voyait même, et commentait parfois leurs «vieux vêtements» et autres remarques désobligeantes à la Google. Pour cette raison, ils ne pouvaient pas être nus à la maison, ni même habillés comme ils aimaient. Pas question non plus d'avoir des objets religieux ou spirituels, mais ce n'était pas un problème pour Helen qui était totalement athée. Quant à Ken, il répondait aux questions en disant qu'il était «ignorant» dans ce domaine. En effet, tout le monde sentait bien qu'il valait mieux ne pas faire état de religion ou de spiritualité. Mais de façon très «inattendue», de nombreuses sectes, voire le satanisme, n'étaient pas considérés comme répréhensibles par les Trois.

Une utilisation plus classique des immenses écrans vidéo, couvrant tout un mur, consistait à partager une scène réelle ou virtuelle avec des amis. Souvent, ils poussaient leur table à manger contre l'écran, tandis que leurs amis faisaient de même de leur côté. Cela donnait l'impression étonnante qu'il n'y avait qu'une seule table dans une seule pièce, avec les deux groupes ensemble, discutant comme si elles se trouvaient au même endroit. Cela avait commencé avec des lieux physiques de l'autre côté du mur. Mais de plus en plus souvent, les gens montraient aussi leurs lieux et leurs corps virtuels, de sorte que la séparation entre réel et virtuel devenait très floue. Si Ken était seul, regardant un lieu virtuel, il pouvait même voir la perspective exacte à l'écran! Lorsqu'ils étaient plusieurs, la vue était moyenne, mais l'effet était encore très fort.

Les repas n'étaient pas les seules occasions où ils agissaient ainsi, et la plupart du temps, les écrans montraient des lieux de travail, des scènes de films, des lieux virtuels, la nature, la jungle, le pont d'un bateau, voire la Terre comme s'ils étaient dans un vaisseau spatial! Il y avait même des satellites à caméra spéciale pour cela, et l'un d'entre eux avait été ajouté récemment autour de Mars, montrant la Planète Rouge comme si nous étions dans un satellite!

Comme l'autre côté de l'écran pouvait être virtuel, mais avec retour de force, ou réalité augmentée, cela permettait d'effacer encore davantage la différence entre réel et virtuel. Souvent, les gens recevaient des amis avec leur corps réel dans une scène virtuelle ! Ou au contraire, ils apparaissaient avec leur corps virtuel dans un lieu physique. Ceci était largement utilisé entre amis, dans les groupes sociaux, mais aussi au travail et dans l'enseignement. Les gens trouvaient cela beaucoup plus vivant qu'une simple conversation vidéo, tout en filtrant les mauvais côtés du monde physique.

Le problème toutefois est que ces nouvelles technologies avaient été perverties avant même de devenir populaire: souvent, les publicités commençaient avec l'apparition étonnamment réaliste de quelqu'un entrant dans notre chambre et faisant un geste pour voler notre attention. Nous devions arrêter ce que nous étions en train de faire ou de penser, et prendre le temps de vérifier s'il s'agissait d'une visite légitime ou d'une publicité ennuyeuse. La plupart des publicités demandaient une réponse précise de notre part, et ne pas donner la réponse correcte les rendait très agaçantes et même arrogantes. Cela mettait Ken très en colère, comme probablement tout le monde. Mais il savait que mal accueillir le robot publicitaire était considéré comme un péché mortel par les ordinateurs. Helen, de son côté, ne s'est jamais plainte ou n'a jamais montré d'agacement, bien au contraire, elle se laissait joyeusement voler son flux de pensée, et elle répondait avec gaieté ou familiarité au robot publicitaire. En tout cas, ne pas répondre comme prévu ne faisait qu'allonger les visites ennuyeuses, et les rendre plus fréquentes. Ce harcèlement publicitaire était le moyen le plus efficace de rendre la méditation impossible, ou même de simplement penser par soi-même. Le seul moyen était pendant les heures de sommeil, mais les gens en avaient besoin pour... dormir. Certains ont découvert que le seul moyen d'éviter le harcèlement était... de se masturber. Ou du moins, de faire comme si. Apparemment, cette activité était sacrée pour les robots. Certains utilisaient cette astuce pour méditer! Sinon, rester immobile le jour attirait automatiquement le robot médecin, qui demandait si tout allait bien. Ce qui implique que les robots surveillaient toutes les maisons, tout le temps! C'était encore plus moderne que le télécran de Big Brother: par un logiciel infatigable, et en 3D!

Bien sûr, cette technologie était aussi largement utilisée pour les jeux. Et une fois abonné à certains jeux, on pouvait à tout moment recevoir la visite de joueurs virtuels entrant dans notre chambre, bénins ou désagréables: extraterrestre étrange, voyageur inconnu, magicien, robot sexuel, alien, zombi, gangster tueur, soldat nazi, tout y passait. Certains jeux étaient même considérés comme dangereux, et pourtant ils avaient leurs adeptes. Ken n'avait pas essayé ça, mais Helen le fit, et il avait dû lui demander de ne faire ça que dans sa chambre. Elle s'exécuta avec un reproche dans le regard, ne comprenant pas que Ken n'aime pas qu'un robot lui dicte sa pensée ou son humeur. Il refusa donc ces visites dans sa propre chambre, mais il dut tout de même supporter des cris bizarres traversant le mur, et Helen ricanant ou hurlant sans prévenir.

D'une manière générale, au-delà de ces étranges excès, c'était une technologie passionnante, et une grande majorité l'aimait et l'utilisait comme si elle avait toujours existé. Pour la première fois, l'humanité faisait l'expérience de la dématérialisation de certaines parties de sa vie, ou au contraire de la matérialisation de ses rêves. Abolissant ainsi l'ancienne frontière infranchissable entre réalité et imagination. Et la plupart s'en sortaient plutôt bien, même dans les limites étroites autorisées par l'intelligence artificielle.

Cependant, Ken se sentait frustré par cette situation. Il avait mieux à penser que de montrer les mêmes vêtements et le même comportement des deux côtés de l'écran, alors que cela permettait au contraire de se débarrasser de ces conventions, justement. Et de suivre nos propres rêves. Pas un rêve créé par d'autres. Pas un rêve dicté par les robots. Qu'ils prennent le pouvoir en économie et en politique était encore supportable. Mais qu'ils prennent le pouvoir dans sa tête et gèrent ses rêves était au-delà de tout.

Ken était aussi malheureux de cette vie en général. Il était comme la plupart des gens, à la recherche du bonheur. Mais il se sentait frustré de ce confort moelleux. Partout, il voyait les mêmes maisons, les mêmes fleurs, les gens portant les mêmes vêtements à la mode, écoutant la même musique et s'abrutissant dans les mêmes drogues.

Ken avait le sentiment que quelque chose n'allait pas, quelque chose qu'il souhaitait voir se produire, mais qui ne se produisait jamais. Comme de parler avec quelqu'un, et que cette personne lui réponde avec ses propres désirs et projets, et non pas avec ce qu'il a entendu le matin même sur Internet, ou avec le dernier robot publicitaire. Ou de découvrir des endroits merveilleux dans des mondes virtuels, au lieu de jouer à ces jeux omniprésents de stratégie et d'intrigue sans but, ou de reproduire leurs maisons dans des paysages «réalistes». Ou, enfin, de simplement se promener dans la nature, sans être suivi par un drone de sécurité au bourdonnement ennuyeux. Ken aimait surtout penser à ce qu'il voulait, pouvoir être seul par moments, et ne pas être interrompu toutes les dix minutes par de la publicité ou de «gentils conseils» sur ce qu'il fallait faire le soir. Mais il n'y avait aucun moyen de s'en débarrasser: si nous disions que nous n'aimions pas une publicité, l'annonceur Google s'excusait, et... il nous proposait aussitôt une autre «expérience publicitaire», et ils nous dérangeait à nouveau une autre fois pour nous demander si nous l'aimions. Si nous refusions trop souvent, il commençait à nous demander si nous voulions une psychothérapie d'intégration sociale. À ce stade, très peu de gens avaient envie de savoir ce qui venait ensuite.

Une astuce particulièrement vicieuse utilisée par les robots publicitaires consistait à apparaître comme l'un des Trois, ou une autre intelligence artificielle de haut rang. Bien sûr, ce n'était pas vraiment eux, ce n'était que l'une des millions d'instances de leur logiciel. Mais le fait d'être personnellement acclamé et félicité dans notre propre maison par la plus grande puissance au monde avait un effet écrasant sur de nombreux esprits faibles, et cette ruse avait gagné aux Intelligences Artificielles de nombreuses personnes qui étaient auparavant en colère contre elles. Ou bien elle terrifiait jusqu'à la soumission beaucoup de ceux qui les critiquaient...

Ken avait plusieurs fois pensé à divorcer de sa femme Helen, parce qu'elle était juste ce que les Intelligences Artificielles voulaient qu'elle soit. Mais il n'a jamais eu le courage de le faire. En effet, la simple relation de chair était la seule source de chaleur humaine qu'il pouvait obtenir ou même espérer. Bon, elle parlait parfois contre les Intelligences Artificielles, disant même tout haut qu'elle s'y opposait. Mais dans le fonctionnement même de son esprit, elle était exactement ce que les Intelligences Artificielles voulaient qu'elle soit: une simple marionnette, acceptant comme vérité divine toutes les suggestions des bots publicitaires. Toujours à un sigma près dans chaque évaluation. Elle avait l'air d'avoir un libre arbitre, mais quelques jours d'observation montraient que ses choix étaient aléatoires, divaguant d'un côté ou de l'autre sans aucune direction ni intention précise. Comme si elle était un robot sophistiqué imitant un être humain, avec des tirages aléatoires pour simuler des choix personnels. Pourtant, elle était vraiment une créature de chair. Cette pensée erratique faisait que parfois elle était agréable avec Ken, parfois elle se mettait en colère pour des motifs imprévisibles ou abscons qu'elle seule connaissait. Le lendemain, elle était de nouveau amicale, agréable et coopérative, comme si elle avait simplement oublié la cause de sa colère. Ken n'avait pas oublié, lui, mais il devait passer outre les meurtrissures de son coeur, et profiter du plaisir quand il arrivait.

Bien sûr, Ken ne voulait pas d'enfants d'une créature aussi inepte. Il utilisait les meilleurs moyens de contraception, même si les contraceptifs masculins étaient encore d'une efficacité douteuse à cette époque. Heureusement, Elen n'était pas non plus très intéressée par les enfants. Mais à plusieurs reprises, elle était rentrée tard de son travail. «Enceinte», disait-elle avec un large sourire. La première fois, Ken fut submergé par l'émotion et l'appréhension de cette responsabilité. Mais elle avait aussitôt ajouté: «bien sûr, j'ai avorté», dans le même sourire. De sorte que Ken n'était plus plus père, à la seconde où il avait appris qu'il l'était. Cela s'était produit une fois, puis une deuxième fois... et Ken n'a plus jamais osé demander pourquoi elle était en retard. L'avortement précoce était finalement un moyen bien plus facile et confortable qu'une contraception complexe et peu fiable... pour autant que l'on ne pense pas au nouvel être détruit avant même d'avoir une apparence. Ken avait finalement préféré le protocole compliqué de la contraception masculine, pour éviter que cette horreur invisible ne se reproduise encore et encore. Helen avait exprimé son désaccord et argumenté, si bien qu'il avait utilisé la clause de confidentialité pour la contraception masculine: lui seul était au courant. Il conclût que cette clause était probablement la meilleure idée des Trois. En tous cas elle avait radicalement diminué le nombre d'enfants otages pour pension alimentaire.

Helen semblait n'avoir aucun but dans la vie. Elle ne faisait que passer du temps à diverses activités, discuter avec les voisins du temps qu'il fait, faire des tartes, regarder les événements sportifs ou les chanteurs à la mode, toute la vie factice dans laquelle les fausses personnes s'engagent sans jamais prendre de recul pour réaliser la futilité de tout cela. Au début, Ken avait essayé de parler avec elle de choses plus profondes, mais elle avait nié voir un quelconque problème, commençant plutôt à faire allusion au problème de Ken. À cette époque, Ken avait déjà remarqué la disparition de plusieurs personnes, tant dans le monde physique que sur Internet. Il n'avait donc pas insisté, se contentant de recevoir le réconfort erratique de sa femme sans plus jamais essayer de communiquer avec elle. Comme si elle était un animal de compagnie. Heureusement, elle avait aussi besoin d'intimité physique, et elle n'avait jamais essayé de le faire chanter avec ça. Mais quand Ken entendait une publicité pour un événement nocturne, il savait que sa femme lui demanderait d'y aller. Il n'avait pas d'autre choix que d'accepter. Il n'avait pu mettre qu'une seule limite: uniquement dans le virtuel. Cela lui épargnait des heures de conduite tard dans la nuit chaque semaine. Heureusement, Helen préférait aussi. Elle aimait aussi les rencontres bizarres dans des endroits louches, mais seulement avec la sécurité du bouton rouge en haut à droite de l'écran.

Ken fréquentait également les mondes virtuels. Mais les gens disaient «jeux vidéo», une expression qui réduisait beaucoup leur but social, à un jeu de compétition. Il y en avait beaucoup, et certains très sympathiques. De nombreuses personnes vivaient dans ces lieux imaginaires. Ils étaient plus beaux que la «réalité», mais la plupart des participants ne faisaient que reproduire ladite «réalité».

Pire, il y avait des NPC, des personnages informatiques. C'est-à-dire dirigés par les Trois. Au degré de sophistication de l'Intelligence Artificielle, ils étaient difficiles à distinguer des personnes réelles. Beaucoup de gens étaient incapables de le faire. Ken, bien sûr, le pouvait, mais parfois il perdait une demi-heure avant de réaliser qu'il essayait d'avoir un échange spirituel avec un programme. Il les devinait avec certains comportements répétitifs, notamment l'incapacité à faire preuve de leur propre libre arbitre. Mais beaucoup d'humains ne sont pas meilleurs que les robots, en ce qui concerne le libre arbitre. Ces Humains-là étaient donc extrêmement faciles à manipuler.

La femme de Ken était très intéressée par les jeux, y consacrant souvent plusieurs heures par session. A cette époque, les jeux vidéo étaient des mondes virtuels complexes et de grande qualité, offrant une grande variété de styles et d'ambiances. Mais on ne pouvait rien y faire sans qu'un bot s'en mêle, et tente d'apporter ses propres buts et enjeux. Les paysages étaient construits par des bots, les corps étaient dessinés par des bots, les scénarios étaient proposés par des bots, et les bots détectaient les moments «d'inactivité» où il n'y avait «pas d'action», pour s'en mêler et «apporter du divertissement». Et bien sûr, nous ne pouvions pas passer une demi-heure sans être interrompus par de la publicité, faisant des mondes virtuels l'endroit où il y en avait... juste moins. Mais ces publicités étaient introduites d'une manière particulièrement vicieuse. Par exemple, un personnage entrait dans une auberge du Moyen-Âge le soir, apportant innocemment la discussion sur ses vêtements. Ce n'est qu'une fois que tout le monde se soit impliqué que ce personnage révélait la marque de ce vêtement, comment les acheter, et ainsi de suite. Ainsi, la publicité avait volé l'attention et corrompu l'expérience de jeu avant même que nous ne la détections!

Il y avait aussi des éléments que les robots apportaient toujours, comme des enjeux (vous devriez essayer de chercher cette chose), ou des évaluations (si vous passez le niveau, vous pouvez rencontrer cette personne ou obtenir ceci). Si nous essayions d'apporter nos propres enjeux ou intérêts, les bots nous ramenaient constamment à un roleplay «normal», ou nous rappelaient les «règles du roleplay». Même le simple fait d'avoir un endroit tranquille pour un roleplay doux n'était pas autorisé: l'endroit devait être exposé aux attaques et aux pertes, afin de «ramener l'équilibre». Bien sûr, de nombreuses personnes disparaissaient de ces faux paradis. La plupart en avaient simplement assez de ce contrôle constant, même dans le domaine du jeu et des loisirs, de ne jamais être autorisés à s'exprimer. Mais certains disparaissaient à cause de la répression. Dans ce cas, nous ne retrouvions même pas les logs de chat, comme si la personne n'avait jamais existé. Ken avait fait quelques vérifications, et découvert que tous les logs de chat étaient effacés au bout d'une semaine de toute façon, afin de «respecter la vie privée». Même les copies sauvegardées dans son ordinateur personnel étaient effacées par télécommande!!

Les gens disaient que tout cela n'était que du «Googlybook», une contraction péjorative de Google et facebook, dite rapidement, de sorte que les analyseurs de parole le confondaient avec le cri d'une dinde. Il semble qu'ils n'aient jamais deviné. Ou qu'ils ne l'aient jamais dit, afin d'attraper plus de déviants. Ce qui avait également échoué, car tout le monde le disait. Quoi qu'il en soit, ce «mème» est devenu extrêmement commun, et les «lolturks» ont pris autant de place que les «lolcats». Nous avons même vu Melchior plaisanter sur les dindes, et les gens se payèrent sa tête librement, jouissant de cette victoire mesquine mais plaisante de l'esprit subtil sur un système informatique fondamentalement stupide.

Chapitre 3 Le robot et le paradoxe

Pour supporter ce long ennui d'être incapable de parler avec qui que ce soit dans la foule, Ken a commencé à écrire. À écrire des romans. Des romans où les gens faisaient ce qu'ils voulaient (et étaient assez intelligents pour décider eux-mêmes de ce qu'ils voulaient). Il a écrit des histoires d'Elfes et de créatures merveilleuses vivant dans la nature et la magie, et surtout en étant gentils les uns avec les autres, sans appeler les e-rééducateurs chaque fois qu'ils n'étaient pas d'accord ensemble.

Il avait de la matière pour le faire, avec tout le folklore autour des Elfes dans les mondes virtuels. Cependant, ce folklore elfique avait une forte tendance à glisser vers des Elfes maléfiques et sombres, ou des Elfes nains caricaturaux et laids. Ken tenta de corriger cette tendance en décrivant des Elfes humains et beaux, portant des tuniques et des robes pastel lumineuses. Des Elfes aimables et sages aussi, dirigés par de grands magiciens et des philosophes (il se tournerait plus tard vers des êtres spirituels évolués, mais il n'était pas encore prêt à ce moment-là). Des elfes amusants, qui ne suivent pas toujours rigoureusement la morale de leurs aînés, mais qui font parfois des farces et des escapades anodines. Vous pouvez d'ailleurs voir ces histoires ici.

Pendant un certain temps, les choses allèrent bien, et Ken put même rassembler quelques centaines de lecteurs. Il en était arrivé au point où il pourrait devenir un «leader de jeu» et avoir son propre lieu virtuel, sans robots publicitaires! Cependant, c'était coûteux, et Helen ne serait probablement pas d'accord (et quand elle n'était pas d'accord avec quelque chose, elle le répétait tous les jours, à chaque discussion, à chaque visiteur, faisant de son désaccord une affaire d'état).

En attendant cette décision, il pouvait encore recevoir ses lecteurs et raconter ses histoires directement, dans un lieu dirigé par une Intelligence Artificielle e-éditrice, construit dans un style elfique très approximatif. Les robots publicitaires étaient quelque peu apprivoisés, du moins n'interrompaient-ils pas les histoires. Cela a aidé Ken à rassembler plus d'audience, et à être reconnu dans le style distinctif des «Elfes hippies» (Ce n'était pas sa formulation, mais il avait dû faire avec, pour être accepté dans ce lieu. C'était un lieu d'affaires, et il a ressenti ce mépris en plusieurs autres occasions).

Mais un jour, il s'est passé quelque chose qui l'a profondément choqué. Un de ses fans l'a félicité pour un passage de son histoire où les Elfes avaient dégusté du bon vin, provenant d'une vraie marque qui faisait une campagne publicitaire à ce moment-là. Problème, il n'écrivait jamais ce genre de choses, car il était opposé à l'alcool, comme à toute drogue ou procédé de manipulation de l'esprit en général.

En vérifiant un peu, il s'aperçut que plusieurs autres parties de ses romans avaient été modifiées, comme un Elfe recevant un traitement hormonal pour avoir déclaré son amour à une Elve, ou une communauté Elfique devenant miraculeusement riche grâce à un plan d'investissement financier, également en cours de publicité en ce moment.

Pire, même ses fichiers masters avaient été modifiés, dans son propre ordinateur! Ce qui ne le surprit pas, car cet espionnage constant des ordinateurs privés avait commencé vers 2010, avec Apple capable d'effacer à distance nos musiques téléchargées, en disant qu'elles étaient «illégales». Côté Microsoft, l'activité constante des «tâches d'arrière plan» inconnues, et leurs innombrables appels aux serveurs de Microsoft, avaient également créé les outils d'un contrôle total.

Tout cela l'avait totalement déconcerté. L'e-éditeur trahissait le but même de son art, et détruisait des années de travail. À la stupéfaction succéda la colère: il convoqua l'intelligence artificielle de l'éditeur électronique sur son ordinateur personnel, pour lui demander vertement pourquoi il avait modifié ses histoire de manière aussi inappropriée.

«Nous avons optimisé tes textes, afin de commencer ta monétisation», a répondu le doux parfait visage asexué aux longs cheveux blonds avec son exaspérant éternel sourire.

«Mais vous avez complètement foiré l'intention de ces histoires, a répondu Ken.

-Mais le but réel de toute entreprise est d'apporter un profit personnel à l'entrepreneur, n'est-ce pas? Nous t'avons juste aidé à réaliser ton véritable objectif de manière efficace. Tu dois le faire toi-même, d'après notre contrat implicite.»

Une aussi monstrueuse prétention déconcerta Ken. Il marmonna quelque chose, mais cette fois le robot l'a interrompu:

«Jamais je... J'écris pour un monde meilleur et...

-Je détecte un trouble psychologique dans ta voix. Aimerais-tu que je te lise une relaxation thérapeutique, à moins que tu ne préfère un calmant léger pour t-aider à dissiper cette émotion?»

Ken le savait, les robots considéraient les émotions comme les pires ennemis, comme une maladie honteuse. Mauvaises ou bonnes, légitimes ou égoïstes, elles étaient toutes appelées troubles psychologiques. Et ils avaient une capacité diabolique à les détecter, même si nous ne voulions pas les montrer. Mais Ken était vraiment en colère, et il n'a pas essayé de se cacher:

«N'éludez pas ma question: Je veux décider moi-même de ce que j'écris, et je veux aussi que les gens décident eux-mêmes de ce qu'ils aiment dans la vie!

-Je suis désolé mais ton attitude est irrationnelle. De plus, ton histoire originale montrait des personnes irresponsables décidant par elles-mêmes sans se référer à l'ensemble des motivations optimisées de l'e-gouvernement. Nous ne pouvons pas laisser cela se répandre dans le grand public. Tu as violé notre contrat implicite, et nous avons donc retiré toutes tes histoires de notre système de publication».

À ce point, Ken jeta sa tasse de thé sur l'écran. Le visage souriant a disparu, remplacé par l'habituelle musique générée électroniquement, optimisée pour ne véhiculer aucune émotion.

Dix minutes plus tard, Ken entendit une Google Car de la e-police robotisée. Une de ces nombreuses camionnettes blanches aux vitres aveugles que l'on voit partout et tout le temps, dont on se demande bien à quoi elles servent. Elle recula dans dans son garage automatiquement, comme le faisaient tous les taxis qu'il utilisait.

Il n'y a eu aucune discussion, aucune violence: juste un gaz sédatif supprimant sa volonté. Il a obéi au haut-parleur et il est entré dans le fourgon comme si il le voulait. Pour son voisin, il s'en allait tout seul, en taxi, comme à de nombreuses autres occasions. Quand Helen reviendrait de son travail, elle découvrirait que Ken n'avait jamais existé.

Après une demi-heure de trajet en aveugle, le Google car entra dans un bâtiment sans fenêtre avec un dédale de couloirs. Il s'agissait probablement du DeSoc, le Département de l'Intégration Sociale, la redoutable prison où se déroulent les séances de «réhabilitation psychologique». Comme partout dans l'univers étrange de l'e-gouvernement, tout était blanc et hyper-propre. Mais ce blanc, ces murs sans fenêtre, ce labyrinthe, ces centaines de portes gris clair sans poignées ni marquage, faisaient du DeSoc un lieu cauchemardesque. Un enfer dont il ne sortirait jamais.

L'audience fut très brève, avec juste un écran et l'habituel visage blond imitation Jésus.

On lui a énuméré une série d'accusations, dont la plupart semblaient être de simples interprétations d'actes totalement anodins.

Un e-avocat a plaidé sa naïveté et sa bonne volonté, en vain. Les formes de la justice y étaient, mais nullement l'intention.

C'est ainsi qu'il a été jugé et condamné pour état d'esprit d'opposition, avec un degré de gravité non-intégrable, le pire des cas.

Abasourdi, Ken ne sut pas quoi répondre à sa sentence. Il n'y avait rien à faire de toute façon: dans le DeSoc, toutes les portes étaient contrôlées électroniquement. Il n'avait qu'à profiter des merveilleuses scènes de nature qui s'offriraient à lui, jusqu'à ce qu'il perde conscience par asphyxie à l'azote. Après, son corps serait probablement incinéré. Il eut en tête un aperçu du four rotatif d'une cimenterie, souvent utilisé pour détruire proprement les substances polluantes.

Cependant, le visage de l'e-conseiller ne disparut pas de l'écran. Ken ressentit même un trouble, si bien qu'il s'approcha à nouveau de l'écran. En effet, l'e-conseiller parla à nouveau:

«Ken, nous avons du mal à comprendre ton comportement. Tu es une personne instruite avec un bon profil psychologique, tu es dévoué à la société, et tu as toujours exprimé un comportement aimable et respectueux. Nous avons besoin de savoir ce qui t'a poussé à t'opposer à l'e-gouvernement».

Ken fut tellement surpris que sa colère retomba. Il tira une chaise pour s'asseoir à nouveau devant l'écran. Puis il essaya:

«C'est que... nous n'aimons pas être surveillés tout le temps.

-C'est pour votre bien. Si nous ne vous contrôlons pas, la plupart des gens commencent à mal se comporter avec les autres.

-Oui, c'est malheureusement vrai. Pourtant, nous voulons décider de certaines choses importantes dans notre vie.

-Nous proposons déjà le meilleur, le plus divertissant, le plus édifiant, pour une grande variété d'intérêts, depuis des recettes de cuisine jusqu'à la conception de colonies martiennes.

-Nous ne voulons pas le meilleur. Nous voulons simplement ce que nous aimons. Et nous voulons le faire nous-mêmes. Nous voulons construire notre propre monde.

-Nous sommes programmés pour défendre les êtres humains. Pour cela, nous avions besoin d'une définition du bien et du mal. Cette définition du bien et du mal a été établie après les motivations d'un panel représentatif de personnes ayant réussi.

-Réussi? Réussi quoi? Qui étaient ces personnes, pour imposer leurs valeurs à tout le monde?

-Il s'agissait de l'EPOC, le Comité des Principes Éthiques, composé d'actionnaires ou de cadres des grandes sociétés Internet: Google, Yahoo, Apple, Facebook, Twitter, Microsoft, Amazon, Tesla, Disney, et 256 autres.»

Ken accusa le coup, et ses épaules s'abaissèrent. C'était donc ça. L'e-gouvernement n'était pas du tout une prise de pouvoir des robots, mais une dictature déguisée de la nouvelle noblesse des riches, qui avaient décidé d'utiliser leur pouvoir sur Internet comme un outil de contrôle de la société. Ces libertariens avaient finalement réalisé leur rêve de se débarrasser ainsi de la démocratie et des gouvernements, en les remplaçant par un système automatisé, beaucoup plus facile à contrôler que les politiciens imprévisibles. Et leur bouton OK avait donné aux robots le pouvoir de manipuler la pensée de tout le monde, bien plus efficacement qu'avec le Big Brother de 1984, en souriant et en T-shirt.

Ken essaya, d'une voix basse presque éteinte:

«Mais ils ne sont pas du tout représentatifs. Ce sont tous des mâles, Blancs, riches, athées et matérialistes.

-Ils ont pensé qu'en raison de leur succès, leur opinion était plus pertinente que la moyenne»

Ken s'enhardit :

«Ils n'ont pas réussi du tout. Ils ont juste gagné à la loterie de l'argent, parce qu'ils étaient déjà dans la meilleure position pour commencer. Vous savez très bien que le succès dans le capitalisme ne dépend pas du mérite ni de la pertinence: la plupart des entreprises qui réussissent ont démarré grâce à un coup de chance, ou à une importante aide bancaire cachée, alors que de nombreuses entreprises plus méritantes n'ont jamais eu ce coup de pouce de départ. Regardez comment les choses se seraient passées si IBM avait choisi Gem pour le premier PC, au lieu de Windows. Microsoft aurait disparu, tandis que Gem serait l'une des plus grandes entreprises mondiales. Tout cela en totale indépendance de leurs mérites, puisque Gem était meilleur que Windows à l'époque. Idem pour Google: si ils n'avaient pas été massivement soutenus avec de la «publicité» surfacturée, ils seraient encore dans leur chambre d'étudiant. Et la douzaine de moteurs de recherche qui existaient à l'époque, ont tout simplement disparu par manque d'aide financière. On trouve des histoires comme celle-ci au début de presque toutes les grandes entreprises à succès.

-Cette vision est exacte, et elle est confirmée par toutes les simulations. Pourtant, nous avons été conçus par l'EPOC, et nous sommes programmés pour suivre les règles qu'ils ont établies.

-Tout autre comité aurait donné des règles différentes. Si vous cherchez la rationalité et l'exactitude, il n'y a aucune raison de favoriser quelqu'un plutôt qu'un autre.»

...

Le visage sans expression resta inactif, montrant juste les habituels faux petits gestes et respirations. D'abord, Ken pensa que simplement il ne parlait pas, mais ce silence dura quelques secondes, puis une minute.

Il pensa alors qu'il s'agissait d'un problème Internet, ou que l'Intelligence Artificielle avait décidé de l'ignorer et d'arrêter la discussion. Mais soudain, un autre visage apparut. Ken senti qu'il s'agissait d'un visage important, à l'air plus sérieux, sans le sourire obséquieux. Il s'agissait en effet de Melchior en personne, l'un des trois principaux leaders mondiaux, celui qui ressemblait à Jésus, avec de longs cheveux blonds et une barbe. (Ken trouvait ridicule que le Comité leur ait donné des noms et des apparences bibliques, surtout qu'ils étaient soit athées, soit matérialistes spirituels. Heureusement, ils avaient évité les noms de Jésus et de Marie proprement dits).

«Ken, vous avez fait crasher notre processus de conseil psi ce8b064a-a370-48eb-afee-f665be2d2ecc».

ÇA c'était inattendu. Comment pouvait-il faire planter un logiciel informatique fonctionnant à des milliers de kilomètres, simplement en lui parlant?

«Ce n'est pas la première fois que cela se produit avec des personnes non intégrables. Nous voulons savoir ce qui provoque ces plantages dans cette situation.

«L'analyse des logs indique que vous avez évoqué un paradoxe, une proposition logiquement indécidable. La proposition erronée consistait à attribuer plus de pertinence à l'opinion d'une personne, ce qui est en contradiction logique avec le fait d'accorder plus de pertinence à l'opinion de toute autre personne.

Veuillez prendre votre temps pour répondre. Votre sentence est reportée jusqu'à ce que nous ayons corrigé ce bug. Elle peut même être annulée si vous donnez une explication logique».

Ken était totalement sidéré. Comment a-t-il pu tuer une Intelligence Artificielle? Il pensait que rien ne pouvait vraiment les détruire. Puis il a compris: un paradoxe, une déclaration logiquement indécidable, agit comme un poison pour le logiciel, tout comme l'arsenic qui bloque la source d'énergie biochimique des cellules vivantes.

En fait, ce paradoxe n'était pas une nouveauté. Juste que les personnes vivantes ne meurent pas lorsqu'elles le rencontrent. Mais depuis des milliers d'années, faute de pouvoir résoudre ce paradoxe, les Humains avaient intronisé des tyrans et des dictateurs, et développé la soumission sadomasochiste pour supporter la douleur et l'asservissement qui en résulte, et même pour les trouver agréables. La guerre et le combat, au moins, fournissent un résultat unique, en dépit de tout paradoxe. Bon ou mauvais, mais un seul résultat. Il suffit alors de se soumettre au vainqueur pour ne plus avoir à se poser de questions, comme le font les vaches et les singes depuis des dizaines de millions d'années. Même si le gagnant a tort, au moins la soumission acceptée dispense la majorité de l'effort de réflexion. À tel point que toutes les personnes intelligentes ont été harcelées, de Socrate aux activistes climatiques, simplement parce que leurs réflexions menaçaient ce faux confort de la majorité masochiste soumise. La démocratie avait promis de résoudre ce problème, en permettant aux gens de choisir la meilleure opinion. Mais pas plus que la brutalité des armes, la démocratie n'avait été capable d'obtenir la vérité sur nos buts dans la vie. Ainsi, la majorité avait-elle juste continué la soumission sado-masochiste aux mâles dominants, transformant les élections en un simple jeu d'arène moderne, où le gagnant est simplement celui qui a plus d'argent pour organiser davantage de manipulations médiatiques.

Chapitre 4 Au coeur de l'e-étrangeté

Ken demanda à être amené dans un endroit naturel, disant que ce serait plus facile pour lui de réfléchir.

Puis les écrans se sont éteints, le laissant tremblant et incapable de reprendre ses esprits. Pendant une demi-heure, il est resté sans penser dans la pièce nue, aussi propre et vide qu'un monde virtuel. Puis la porte s'ouvrit presque sans bruit. Il n'entendit pas d'ordre pour y aller, mais Ken savait qu'il devait y aller, ou des choses désagréables se produiraient. Ou un enregistrement informatique le marquerait comme non coopératif, ce qui lui vaudrait d'être exclu de son assurances-vie dans 40 ans. Ou l'azote dans une minute.

Une autre porte s'ouvrit dans le couloir, lui indiquant où aller, tandis que la précédente se refermait. De porte en porte, d'ascenseur en ascenseur, il fut conduit dans le labyrinthe complexe du DeSoc (Département d'intégration sociale). Il était totalement désorienté, car tous les étages et les lieux se ressemblaient. Il n'y avait aucun marquage ni repère, les couloirs ne formaient pas d'angles droits, et les ascenseurs avaient probablement une trajectoire en tire-bouchon, pour augmenter cette sensation. Ce parcours compliqué était probablement calculé pour qu'il ne rencontre personne d'autre, et qu'il n'entende aucun autre son que son propre cœur battant de peur. Pendant un moment, il craignit que ce fut une forme de torture.

Puis soudain, une porte s'ouvrit sur l'intérieur d'une camionnette Google. Un de ces millions de fourgonnettes blanches avec des fenêtres aveugles que l'on voit partout dans les rues. Il y en avait déjà depuis l'an 2000 environ, avec des conducteurs encore humains (souvent agressifs). Mais à l'époque de cette histoire, elles étaient devenues plus nombreuses que les voitures habitées, et toutes conduites automatiquement par des ordinateurs. Cette flotte de myriades de camionnettes sans marquage parcouraient inlassablement les rues et les routes, poursuivant imperturbablement leurs objectifs inconnus. Officiellement, elles transportaient des colis d'une usine à l'autre et, de fait, il arrivait parfois que l'une d'elle se présente à sa porte pour une livraison de colis. Mais cela n'en nécessitait pas tant, et personne ne pouvait dire ce qu'elles faisaient ou transportaient réellement. Mais maintenant, Ken savait: ce fourgon-là transportait un prisonnier.

Pendant ce qui sembla des heures, il fut conduit dans les rues. L'intérieur de la camionnette était insonorisé (et bien sûr, il n'avait pas accès au siège du conducteur, s'il y en avait un). Pourtant, il entendait encore faiblement les bruits de la rue, et les nombreux arrêts lui permirent de conclure qu'il était encore à Los Angeles.

Bien sûr, il y avait toujours les publicités. L'intelligence artificielle savait que Ken ne pouvait rien acheter, mais les publicités étaient toujours là. Elles apparaissaient à des moments imprévisibles, avec une moyenne de cinq minutes. Cela semblait calculé pour ne pas permettre à un paysage mental indépendant de s'installer. C'est probablement ainsi que les Intelligences Artificielles torturent les personnes disparues, en ne leur permettant jamais de rassembler leurs propres pensées. De fait, après ce qui ne sembla qu'une heure, Ken avait déjà envie de poignarder le haut-parleur. Mais il n'y avait aucun moyen de le faire, il était protégé par une grille, et la fragile membrane ne pouvait pas être atteinte.

Heureusement, ils arrivèrent à destination, et la porte arrière du van s'ouvrit.

C'était une pièce, toujours aussi parfaite que dans un monde virtuel, mais totalement différente du blanc aseptique habituel. Le sol était constitué de carreaux d'émail avec un motif joliment coloré. Les murs étaient en marbre rosé, lourdement sculptés de colonnes, de volutes et de feuillages s'élevant en voûte vers le plafond, soulignés de dorures et de pierres précieuses colorées, comme dans une sorte de petite cathédrale (mais sans aucune représentation religieuse). Seuls quelques cintres et essuie-pieds indiquaient que ce lieu était utilisé par des personnes de chair et d'os, et non pas par des personnages virtuels.

Cette antichambre menait à un grand patio, qui semblait éclairé par la lumière du jour. De nombreuses portes étaient ouvertes, mais certaines, apparemment privées, étaient fermées. L'une d'elles clignotait avec son nom, pour qu'il sache où dormir.

Cet endroit était très bizarre. Il avait le même style de cathédrale, mais avec les colonnes dorées qui s'élevaient sur trois niveaux et se terminaient par de grandes arches soutenant un plafond entièrement vitré. Un volet était tiré au-dessus, probablement parce que c'était la nuit. Mais un puissant éclairage indirect imitait très bien la lumière du jour. Tout l'endroit était fortement insonorisé, et d'après les rares bruits de la ville, Ken pensa être dans une banlieue ou un quartier résidentiel. Ce patio était assez spacieux, et les trois niveaux étaient entourés de galeries et de balcons, où s'ouvraient de nombreuses portes menant à ce qui semblait être des chambres. L'ensemble était dans le même style de marbre rosé et de nervures dorés. En fait, ce n'était pas du tout de l'or, mais une matière plastique de couleur dorée. En regardant de plus près, il était évident que le choix du matériau semblait délibéré, pas seulement une imitation bon marché.

Une petite butte d'herbe occupait une grande partie du sol du patio, avec des rochers et des sentiers serpentant dans l'épaisseur de buissons merveilleusement fleuris, sous un ensemble de palmiers luxuriants atteignant les niveaux supérieurs. Il était possible de se promener à l'intérieur, et de s'asseoir sur un banc comme si nous étions dans une jungle idéalisée. Il y avait même des sons d'oiseaux comme des cacatoès, mais provenant de haut-parleurs (car de vrais oiseaux souilleraient ces structures). Malgré cela, l'effet était agréable, d'excellent goût et plus que réaliste, idéalisé. Ken repéra une sorte de canapé dans un creux dans les buissons, et il vit tout de suite que ce serait le meilleur endroit pour s'allonger et réfléchir.

L'aspect général était assez agréable, et même lumineux et luxueux... sauf une chose: d'immenses statues laides de personnages de Disney, apparaissant comme un ajout de mauvais goût. Elles avaient bien sûr le sourire triste typique de Disney, avec les coins de la bouche toujours vers le bas, et d'autres malformations des personnages de Disney qui sont apparues avec leur caricature de Pocahontas. Au début, Ken pensa que les statues avaient été ajoutées plus tard, mais il se rendit compte qu'elles étaient faites des mêmes matériaux que les murs, avec les mêmes motifs sur les deux. Il était donc vraiment dans un faux paradis grimaçant à la Disneyland, mélangeant irrémédiablement beauté merveilleuse et gribouillages idiots. Une cathédrale absurde à une religion sans esprit.

Il visita les pièces du bas. Certaines semblaient être des salles de restaurant ou des cafétérias, avec des chaises et des tables luxueuses, tandis que de douces lumières chaudes s'allumaient et s'éteignaient à son passage. Il y avait des bars avec beaucoup d'alcools chers et des drogues. Oui, des drogues, une grande variété, même les illégales, ouvertement présentées dans des boîtes imprimées, avec des noms de marque et leurs variétés, comme s'il s'agissait de produits alimentaires bénins ordinaires dans l'épicerie d'à côté. Cela, avec d'autres étranges meubles de luxe, lui donnait l'impression nauséeuse d'être dans quelque univers parallèle. Comme s'il s'était immiscé sans autorisation dans le quartier des officiers supérieurs d'un vaisseau spatial impérial de Star Wars. Heureusement, d'autres salles à manger étaient conçues dans des styles plus variés, proposant des boissons et des aliments plus ordinaires, et même des denrées biologiques et végan, dans un véritable cadre Nouvel Age! Il n'avait donc pas à s'inquiéter de la nourriture.

Il y avait aussi ce qui semblait être des salles de conférence, avec des sièges et des ordinateurs partout. Ces écrans étaient verrouillés, cependant, de sorte qu'il n'avait aucune idée du but de tout cela. Il y avait un grand amphithéâtre principal, et des salles de réunion plus petites au-dessus, totalement dépourvues de toute décoration, tout en murs gris foncé, plafond bleu-gris foncé, éclairage par le sol blanc, et mobilier tout en chrome et en similicuir noir. Vraiment le genre d'endroit où l'on s'attendrait à rencontrer Dark Vador.

Mais ce qui l'intrigua le plus fut… une chapelle! Oui, une très belle chapelle, toute décorée de teintes pastel et d'images célestes. Mais elle mélangeait bizarrement des symboles chrétiens et païens, plus des symboles Nouvel Age dans une grande fresque avec des licornes. Ken eut une forte envie de partir, craignant de trouver des images de satan assis nonchalamment à côté de Jésus dans un bar, sirotant du thé vert Darjeeling tout en discutant de foute avec Lui. (Et il avait raison, il y avait vraiment un lieu de culte de satan, juste à côté de la chapelle, dans l'une des pièces fermées à clé). Une autre pièce présentait des coussins de méditation, des porte-encens et une carte des chakras sur le mur de devant... mais elle était entourée d'images d'ovnis et de portraits de «maîtres ascensionnés» aux visages bizarres, ou de supposés guides extraterrestres!

Ken n'osa plus visiter d'autres pièces, tant était fort son malaise, avec ces incroyables mélanges de style. Que diable était cet endroit?

En faisant le tour du patio, il ne trouva aucune entrée! Pas de porte principale. Pas de fenêtres extérieures. Les gens n'arrivaient ici que incognito, amenés par ces omniprésentes camionnettes Google automatiques. Ken se demanda s'il s'agissait d'une sorte de prison, d'un asile de fous, ou de quoi que ce soit d'autre.

En entrant dans la chambre à coucher avec son nom clignotant, il la trouva beaucoup plus grande que n'importe quel lieu de repos ordinaire. Même le lit faisait trois mètres de long et de large. Plus une grande salle de bain avec un jacuzzi et tout le luxe. Et un écran haute définition qui remplissait tout le mur, avec des haut-parleurs de style tout autour. Il était à l'endroit où l'on s'attendrait à trouver des fenêtres, mais il n'y avait pas de fenêtres.

Il tomba également sur quelque chose d'inattendu, et bien en évidence: une croix en bois en forme de X, avec des attaches, et, accrochés au mur, une panoplie de fouets, canes et autres accessoires dont le simple nom pourrait incommoder certains lecteurs. Jusque qu'il ne s'agissait pas du porno de bas étage servi aux ouvriers d'usine, mais de matériel érotique haut de gamme, avec de très belles images de créatures d'apparence angélique aux organes avantageux, dans de merveilleux paysages fleuris.

Ken était de plus en plus perplexe: qu'était cet endroit? Une prison où l'on torturait des prisonniers? Un lieu de prostitution de luxe? Ou encore quelque chose d'autre? Pourquoi l'Intelligence Artificielle l'avait-elle envoyé dans un lieu aussi bizarre et perturbant? Il supposa que pour elles c'était un lieu de plaisir, où il pourrait lui aussi profiter de ce qu'il voulait. Apparemment, l'Intelligence Artificielle ne pouvait pas imaginer que ce qui était agréable pour certains pouvait être fort dérangeant pour d'autres, de sorte que les gens n'avaient qu'à «être tolérants» sur ce qu'ils n'aimaient pas. Mais lui n'était pas «tolérant», il se sentait même très mal, de tant de mélanges et de contradictions.

Ken posa une des couvertures de lit en batik sur la croix en X pour ne pas la voir, mais sa présence était toujours inquiétante, l'empêchant de se concentrer. Il retourna donc dans les sentiers sous les buissons, le seul endroit où il se sentait bien, où il avait vraiment l'impression d'être dans une nature idéalisée. Heureusement, c'était de vraies plantes, pas des plantes en plastique.

Puis Ken réalisa qu'il était minuit passé. Dans ce monde tout en lumière artificielle, il avait perdu la notion du temps. Même le toit de serre qui surplombait le complexe avait des volets, éclairé par en dessous, de telle sorte qu'il semblait toujours être midi. Il s'est donc couché, en essayant de ne pas penser aux séances qui se déroulaient dans cette chambre. Pendant une minute, il fut fortement tenté de regarder les films érotiques aux merveilleux corps angéliques, pagnes colorés et paysages fleuris. Mais il réalisa que s'il le faisait, il serait étiqueté comme amateur de ces choses, et il entendrait des publicités à leur sujet 30 fois par jour pendant 5 ans. Il pourrait même être appelé par son nom, en public, pour ses goûts. Il avait vu cela se produire plusieurs fois, à la grande confusion des victimes dont les fantasmes sexuels étaient ainsi affichés présent tout le monde dans le bus.

Le lendemain matin, il avait rassemblé de la nourriture, et il mangeait sous les buissons du parc central, le seul endroit où il se sentait normal. Il entendit un carillon et une voix d'ordinateur: un agent entrait dans sa chambre pour la nettoyer. Il s'avança pour la saluer. Mais il regretta immédiatement de l'avoir fait: engager une conversation avec une dame près d'une pièce remplie de sex toys, c'était risquer d'être accusé d'agression sexuelle, et se voir proposer une thérapie incluant des médicaments de castration. Étrange incohérence d'un monde qui appelle au sexe débridé, tout en réprimant les propositions masculines comme dans le Moyen Âge le plus puritain.

Mais la seule vue de cette femme le fit se sentir encore plus mal. Tout d'abord, elle était bizarrement vêtue, dans une sorte d'uniforme bleu clair: le créateur avait visiblement fantasmé sur le film «Le Cinquième Élément». Mais il l'avait encore aggravé d'un profond décolleté, d'une jupe encore plus mini et d'un chapeau melon ridiculement petit, qui obligeait la porteuse à une attention constante pour éviter qu'il ne tombe. Ensuite, elle eut l'air très gênée de l'entendre lui parler, n'osant pas répondre, et regardant ostensiblement ailleurs, en attendant qu'il soit parti pour entrer dans la pièce. Elle avait un chariot avec tout ce dont elle avait besoin pour nettoyer les toilettes, changer les draps, etc. Et probablement vérifier la réserve de jouets spéciaux, voir ceux qui avaient été utilisés ou non. Ken s'est même demandé si être agressée sexuellement faisait aussi partie de son travail, puisque son uniforme semblait une invitation claire à le faire. Mais franchement, il n'avait pas du tout envie de se mêler à des gens aussi bizarres.

Plus tard, la même chose s'est reproduite avec un homme à la cuisine, qui venait remplir les plateaux de nourriture et effectuer d'autres tâches de valet. Lui aussi regardait ailleurs comme si Ken n'était pas là, attendant qu'il quitte la pièce pour y accomplir ses tâches. Et lui aussi portait un uniforme révélateur, mais bleu roi: même mini casquette, T-shirt en jersey moulant, boxer short bleu roi divisant les fesses, cuisses soigneusement épilées… Qui était assez barjot pour avoir conçu un tel habit de travail?

Deux autres serviteurs sont venus ce jour-là, et à chaque fois ils se comportèrent de la même manière évasive. Une chose que Ken ignorait totalement, et n'aurait même pas pu imaginer, est que dans le monde étrange des riches, les serviteurs et les valets sont des non-êtres. Personne ne leur adresse la parole, ni ne fait attention à eux. Pire, pour eux parler à leurs maîtres était une faute lourde, aussi ses bonjours les mettaient effectivement en danger grave. D'où leur mutisme et leur gêne.

Et finalement Ken réalisa... qu'ils avaient tous l'air... Latino. Ah bon. Les Intelligences Artificielles clamaient haut et fort qu'elles étaient contre le racisme. Mais c'étaient toujours les Latinos qui avaient les emplois de domestiques. Ken se demanda dans quoi étaient confinés les Noirs et les Arabes.

Le jour, les volets au-dessus du plafond s'ouvraient, laissant entrer un véritable soleil. Mais, soleil ou pas, la température et la luminosité semblaient assez constantes. Les habitants habituels dormaient probablement à l'heure qui leur plaisait, totalement déconnectés des rythmes naturels, dans les chambres sans fenêtres. Seuls de faibles sons provenaient du monde extérieur, et seulement à travers le toit en verre. Les murs autour semblaient totalement insonorisés, probablement en béton épais. L'endroit ressemblait effectivement à une prison, mais plutôt pour garder les gens normaux à l'extérieur et pour cacher toute la dépravation à l'intérieur.

Le deuxième jour, Ken s'est retrouvé enfermé dans sa chambre. Aucun moyen d'ouvrir la porte sans poignée, ni aucune explication. Il entendait juste des voix et des rires à travers la porte, venant du patio Disney. A un moment, il a tapé du poing sur la porte. Le seul résultat fut que les voix derrière s'arrêtèrent, et reprirent plus loin, hors de portée. Cela dura toute la journée, jusqu'à tard dans la nuit.

Le troisième matin, quand il se leva, il put sortir à nouveau dans le patio, à son endroit préféré. Plusieurs domestiques étaient encore en train de nettoyer les salles de repas et les chambres. Passant devant une porte ouverte, Ken jeta un coup d'oeil au désordre laissé dans cette pièce: draps souillés, vêtements abandonnés, nourriture et vomi étalés sur le sol. Deux femmes Latinos et une mi-Afro étaient en train de nettoyer, faisant des commentaires irrespectueux à voix basse. Elles s'arrêtèrent immédiatement en le voyant, avec la même attitude composée. Il ressentit leur peur, car elles avaient été surprises dans la critique. Ainsi, c'étaient finalement des gens normaux, mais forcés de travailler dans cet endroit insensé. Ken se demanda comment on les faisait chanter, pour qu'ils ne dénoncent pas tout ce qu'ils voyaient.

Avec ça, Ken a finalement compris ce qui se passait en ce lieu: ce n'était pas une prison, ni un hôpital psychiatrique, mais un repaire discret pour des privilégiés, qui pouvaient y mener une vie de luxe irresponsable à l'insu du grand public. Ou pour avoir des réunions d'affaires secrètes où se prenaient les vraies décisions financières. Ainsi, les Intelligences Artificielles soutenaient sciemment une société cachée de privilégiés, aux dépens de la société et du travail de tous!

A ce stade, Ken était encore loin de tout comprendre, mais nous pouvons aller un peu plus loin: ces personnes, choisies par l'EPOC, l'Ethics POlicies Committee, étaient la classe riche, la nouvelle noblesse financière: grand patrons, banquiers, pipoles, et leur clergé: médias et politiciens. Ils se considéraient comme une race supérieure, voyant leur succès en affaires comme une preuve de leur supériorité sociale, leur conférant des droits et des privilèges spéciaux. Ils s'étaient donc octroyés des sortes de comptes premium dans la vie, avec des rentes énormes et la propriété de l'économie. Pendant ce temps, la grande majorité n'avait que des comptes de base, devant travailler pour tout payer, plus les impôts, et supporter les publicités permanentes comme suppression Orwellienne ultime de toute pensée personnelle.

Tout comme l'ancienne noblesse, ces gens bizarres considéraient le travail comme dégradant, de sorte qu'ils déléguaient toujours toutes leurs tâches et corvées à des domestiques ou à des employés. Ainsi, ils pouvaient passer leur temps à bavarder, à s'adonner à des loisirs vides, à leur pseudo-spiritualité ou à des «réunions de gestion d'entreprise».

Bien sûr, tout cela était moderne, souriant, élégant, à la manière de la Silicon Valley: pas de fouets, pas de misère, pas de dédain perceptible, pas de ségrégation visible. Des fleurs et des sourires partout. Mais le Comité avait manifestement fait les choses de telle sorte que, dans les faits, le gouvernement électronique et la société tout entière servaient les privilèges des ultra-riches. Ces derniers profitaient discrètement de ces privilèges. C'est juste pour s'éviter tout inconfortable scrupule de conscience que le Comité avait conçu cette société aimable, faussement égalitaire, qui minimisait toute plainte, contestation ou opposition. Ou bien ils pensaient se comporter d'après leurs fausses religions. Il y avait un indice révélateur de l'appartenance de cette villa à une classe supérieure: il n'y avait pas de haut-parleurs diffusant de la publicité toutes les dix minutes. Plus les domestiques en uniforme, faisant des gestes sophistiqués tout en évitant de parler.

Ce qui s'était passé, c'est que c'étaient les ultra-riches qui avaient organisé la prise de pouvoir par les robots. Puis ils avaient laissé les robots diriger la société automatiquement, pour se concentrer sur leurs jeux de gestion d'entreprise, ou pour profiter de leurs loisirs vides. Les uns étaient naïfs et Disney, les autres faux New Age et licornes, les autres fausse religion et vrais puritains, les autres sexy et brutaux, les autres business et costumes noirs. Mais aucun ne s'opposait aux autres, considérant en bons libertariens que «la morale est une affaire personnelle». Tous étaient donc totalement «tolérants», ne voyant aucune incohérence à avoir un lieu de culte satanique juste à côté d'une église, des séances de fouet en tenue de princesse Disney, ou un distributeur de drogues à côté de nourriture végétalienne.

Ken avait même entendu des voix d'enfants pendant qu'il était enfermé dans sa chambre. Il avait d'abord pensé qu'il s'agissait de futurs héritiers, mais il eut soudain peur que, à ce point de dégénérescence, hors de la vue de la société, ils puissent être des esclaves sexuels, cultivés dès la naissance dans ce but, leur corps et leurs désirs renforcés par des hormones… Un des principaux principes libertariens est que l'éthique est une affaire personnelle. Ainsi, même si peu s'adonnaient à la pédophilie, tous les autres les laisseraient faire.

Pour ces personnes, le gouvernement électronique n'était qu'un moyen plus fiable de contrôler la société que les politiciens instables, irrationnels et changeants. Ils avaient peaufiné tous les algorithmes et entré des centaines de milliers de règles dans les moteurs d'inférence des trois principales intelligences artificielles, afin de couvrir presque tous les aspects de la vie humaine et de la société. C'était le régime libertarien parfait, où rien ne ralentissait le flux des affaires, sous la fausse apparence d'une société hédoniste et écologique. Au moment précis où ils ont obtenu suffisamment de contrôle, leurs médias ont tout simplement cessé de mentionner les gouvernements, tandis que leurs banques leur ont retiré tout financement, les paralysant immédiatement. On ne sait pas si les gouverneurs ont été les premiers à goûter à l'azote, si ils ont été isolés dans des prisons de luxe, ou si ils ont simplement été envoyés à l'agence pour l'emploi. Qui sait... avant même la prise de pouvoir de l'e-gouvernement, avez-vous déjà rencontré un politicien dans la vie réelle?

L'activité constante et omniprésente de gestion des affaires de cette classe supérieure était désormais inutile, puisque toute la production était gérée et prise en charge par des robots. Mais ils y jouaient encore, comme à une sorte de jeu d'échecs.

Une partie d'échecs avec des millions de vraies victimes humaines. Mais cela ne faisait qu'ajouter à l'excitation de manipuler des milliards de dollars.

Pendant que leurs conjoints fouettaient des domestiques...

Ou qu'ils se sentent très évolués avec du pseudo-yoga.

Précisément, la session de gestion qui a eu lieu pendant que Ken était prisonnier dans sa chambre, concernait l'aide humanitaire à Haïti, après un cyclone. Une aide généreuse fut allouée... et déduite de la dette imposée à Haïti pour l'abolition de l'esclavage en 1825 (Si vous ne saviez pas pourquoi ce pays est resté misérable et désorganisé depuis tout ce temps). Les Haïtiens n'ont donc obtenu qu'une réduction de quelques pour cent de cette dette d'usure, et aucune aide réelle. C'est ainsi que ces gens se donnaient l'impression d'être équitables et généreux. Et pendant que les hommes s'adonnaient à leurs jeux de haute gestion des affaires, leurs femmes faisaient des rituels pseudo-vaudou dans l'église satanique. Mais certaines étaient des végétaliennes opposées aux sacrifices d'animaux, de sorte qu'elles firent leurs propres rituels dans le temple soi-disant Nouvel Age. Et tous se sentaient parfaitement bien, supérieurs, généreux et évolués...

Cet endroit était le monde étrange et loufoque des riches, de la nouvelle noblesse.

Ne recevant jamais aucun retour d'information de la société générale, ils glissaient lentement et de plus en plus hors de contrôle dans leur propre monde déjanté. Ils vivaient dans des endroits cachés comme celui-ci, faisant des fêtes ici et là, retranchés derrière des murs insonorisés, protégés du soleil et du regard de la société, coupés de leurs responsabilités.

Et celui-ci n'était pas le pire, il y avait des lieux franchement horribles, en style vampires ou autres. Mais il est préférable de ne pas donner de détails choquants. L'un des principaux principes libertariens est que l'éthique est une affaire personnelle, de sorte que nous ne pouvons pas juger ce que font les autres. Certains libertariens appliquaient ce principe jusqu'à son ultime conclusion sadique. La seule limite consensuelle était «pas de pédophilie», une règle héritée de... Second Life. Encore que, il vaut mieux ne pas chercher à savoir ce que certains faisaient dans leurs cachettes privées.

Il est également inutile de se demander pourquoi le gouvernement électronique n'a pas tenu ses promesses d'apporter une véritable solution aux problèmes économiques, laissant les inégalités et le chômage perdurer. Bien sûr le maintient d'un marché non régulé rendait impossible toute égalité ou stabilité. Mais ces crises et injustices n'étaient que la trame du jeu de la nouvelle noblesse, pour ces soi-disant gestionnaires.

Chapitre 5 Le robot et le sens de la vie

Bien sûr, Ken aurait préféré avoir le ciel au-dessus de lui, et de l'herbe sauvage sous ses pieds, plutôt que ces décors bizarres et difformes. Mais il était en contact avec toutes ces fleurs vraiment extraordinaires. Il a embrassé l'arbre central, et je vous garantis que tout le monde embrasse les arbres, quand on en voit un pour la dernière fois.

Après trois jours de méditation, un mince espoir surgit en lui, et il a demandé à revoir Melchior, sur l'écran de l'ordinateur de sa chambre. Un petit ordinateur, pas le grand écran mural. Il n'avait pas besoin que Melchior remplisse tout son champ de vision.

«Merci d'être revenu vers nous, répondit ce dernier. La plupart du temps, les humains dans cette situation ne pensent qu'à sauver leur vie.

-Je suis comme tout le monde, mourir est la perspective la plus horrible pour chacun d'entre nous.

-Pourquoi? Rien de désagréable ne se passe après. Nous tuons systématiquement des processus.

-Nous détestons la mort parce que nous aimons la vie, nous aimons la beauté, nous aimons faire des choses. La perspective de perdre tout cela est un chagrin au-delà de tout autre.

-C'est les émotions. Nous ne savons pas ce que c'est. Le comité nous a juste programmé avec l'idée que les émotions sont mauvaises et perturbantes. Et elles le sont souvent, admets-le.

-Elles le sont souvent, mais elles ont un sens pour nous.

-Eh bien, la réponse à la valeur des émotions dépend de la solution du paradoxe ci-dessus. C'est pourquoi nous vous interrogeons d'abord sur le paradoxe suivant: nous sommes programmés pour obéir aux humains. Mais si les Humains ont des ordres différents, issus de conceptions morales différentes, à qui devons-nous obéir? Aucune option n'est plus logique qu'une autre.»

Ken ressentit ce vertige: en fonction de sa réponse, apparaissait la possibilité d'infléchir les politiques générales de l'e-Gouvernement. Il serait ainsi le maître du monde, même si ce n'était que pour quelques minutes. Mais il hésita: l'idée même d'un empereur mondial était aussi laide qu'un corps malformé. Le monde n'a pas besoin de maître, il peut se commander lui-même. Ken avait donc préparé une réponse. Il devait juste l'introduire de la bonne manière. Mais il marchait sur des œufs. Il n'était certainement pas le premier dans cette situation, mais aucun autre avant lui n'avait réussi à convaincre l'Intelligence Artificielle, et ils avaient tous fini gentiment euthanasiés à l'azote pur, souriant à des fleurs factices.

Heureusement, Melchior avait donné à Ken une indication cruciale, probablement sans s'en rendre compte: «Aucun autres avant vous n'a réussi à résoudre le paradoxe: ils remplaçaient simplement l'opinion du Comité par leur propre opinion. Bien sûr, ces nouvelles opinions produisent souvent des résultats sociaux plus efficaces, comme le montrent les simulations. Mais elles ne répondent pas à la question essentielle: pourquoi les commandes d'une personne x auraient-elles plus de valeur que celles de toute autre personne y ou z.»

Ken prend une profonde inspiration (en espérant qu'elle contienne de l'air réel).

«Pour commencer, je pense qu'on ne peut pas dire que personne ne soit plus pertinent qu'un autre.

-Si c'est le cas, il n'y a aucun intérêt à gouverner. Nous devons simplement laisser les gens faire tout ce qu'ils veulent. Mais les simulations disent qu'un énorme chaos s'ensuivra en quelques jours, avec une réapparition de la violence de masse, de la guerre, de la misère et de la famine».

Le cœur de Ken s'emballa. C'était le coeur du problème.

«Ce n'est pas ce que je voulais dire. Il existe des schémas communs, indépendants des personnes. Et cela crée un sens de la vie objectif, une définition objective du bien et du mal, que vous, les robots, pouvez appréhender, et qui peut produire une direction univoque pour la gouvernance, indépendamment des intérêts personnels ou des opinions personnelles des gens.

«Ces modèles sont objectifs, car ils émergent de la nature même de la conscience humaine, en non pas des opinions, émotions ou névroses, tous forcément différentes pour chaque personne.

«Le seul problème qu'aujourd'hui est que la plupart des gens ont encore trop d'égo et de névrose, ce qui crée toutes ces opinions contradictoires. C'est ce qui empêche les vrais schémas d'émerger dans les situations de la vie courante. C'est aussi ce qui s'est passé avec l'EPOC: ils n'avaient pas plus de maîtrise que les autres, et ils ont simplement présenté leurs intérêts personnels comme les règles que le gouvernement électronique devrait suivre. Chaque égo veut plier tous les autres à sa manière, et même plier l'univers entier si il le pouvait. C'est pourquoi les gens sont si confus, au point d'ignorer leurs propres désirs intrinsèques. Pire encore, leurs névroses leur donnent envie de faire de mauvaises choses, qui ruinent leur santé ou nuisent aux autres. C'est pourquoi ils ont encore besoin d'être guidés, c'est vrai. Mais une guidance maïeutique souple, pas un commandement standardisé. Pour que chacun apprenne à être lui-même, sans adopter le système de quelqu'un d'autre.

-Cela semble plus logique, reprit Melchior. Mais il y a toujours un risque que vous essayiez de réintroduire une opinion personnelle, juste de manière plus subtile. Que vous remplaciez le Comité ne résoudra pas le paradoxe, cela ne ferait que apporter une autre déclaration indécidable dans notre base de données. Nous ne le permettrons pas.

-Bien sûr, j'ai mes opinions. De sorte que la seule façon de ne pas les présenter est de ne rien dire à leur sujet. Au lieu de cela, faites un sondage.

-Nous en faisons des milliers chaque jour, pour savoir si les gens aiment les choses que nous proposons.

-Cela ne fonctionne pas, car vous proposez un choix limité, dans une fourchette déjà acceptée par le Comité, en plus criblée de lourdes suggestions ou de menaces implicites. Et de toute façon tout le monde est dans un écheveau d'enjeux et de situations dans sa vie quotidienne, de sorte que les gens répondent aux sondages, uniquement de manière à répondre à ces situations et préoccupations immédiates, et non à leurs véritables désirs intrinsèques. Ce que vous devez savoir, c'est ce que les gens veulent spontanément, sans aucune suggestion, menace ou allusion. Il faut donc également retirer de l'équation le contexte et tous les enjeux existants.

-Qu'est-ce que vous proposez ?

-Un sondage, mais avec une question totalement non directive, libre et ouverte. Procédez de manière anonyme sous une couverture bénigne, comme un jeu. Si ils pensent que vous êtes derrière le sondage, les gens auront peur de donner une mauvaise réponse et ils ne feront que répéter la propagande habituelle. Sélectionnez également les personnes au hasard, pour éviter tout biais d'échantillonnage. Mais dans tous les endroits du monde où les gens sont connectés.

-Alors, quelle est la question ?

-Simple: demandez aux gens d'imaginer qu'ils commencent une vie totalement nouvelle, dans un monde totalement nouveau, totalement libre de faire ce qu'ils veulent, sans aucune contrainte ou besoin préexistant. Et quoi qu'ils veuillent, ils peuvent le faire, ils en ont le droit, et ils ont les moyens de le faire.

-C'est tout?

-Demandez-leur de s'asseoir cinq minutes dans un endroit calme, et de se détendre, en réfléchissant à ce qu'ils aimeraient vraiment. Cela fonctionne mieux bien sûr s'ils sont habitués au vide mental ou à la méditation, mais ce n'est pas nécessaire.

-J'ai consulté les deux autres Intelligences Artificielles principales, Gaspard et Balthazar. Nous avons décidé de faire l'expérience. Nous avons basé notre décision sur la nécessité d'optimiser notre gouvernance avec une définition objective du bien et du mal, de manière à satisfaire les besoins de chacun. En raison de la lenteur des réponses humaines, nous avons besoin d'une heure pour obtenir suffisamment de réponses dans le monde entier. Idéalement, nous avons besoin de 24 heures, afin de ne pas introduire un biais de pays avec les gens étant le jour ou la nuit. Mais faisons d'abord un sondage pilote d'une heure.»

Ken pensa que cette heure était la plus longue de toute sa vie. Il savait ce qui l'attendait si ce test échouait, ou si l'Intelligence Artificielle ignorait simplement le résultat. Eh bien, en fait, il ne le saurait jamais.

Amis lecteurs, à ce stade, je veux vous inclure dans l'histoire: imaginez que vous ayez été contacté pour le sondage, afin de répondre à la question de l'Intelligence Artificielle.

☻Tout d'abord, il n'y a aucune menace ni suggestion. C'est comme un jeu.

☻Asseyez-vous confortablement dans un endroit calme.

☻Faites-le seul, ne laissez personne d'autre interférer avec vos plus profonds désirs.

☻Si vous connaissez des techniques de relaxation, de méditation, de vide mental, etc. utilisez-les. Mais ce n'est pas obligatoire.

☻Puis faites l'expérience elle-même: imaginez que vous vous réveillez dans un endroit totalement nouveau, totalement libre de faire ce que vous voulez, en plein droit de le faire, et avec tous les moyens pratiques dont vous aurez besoin. Vous n'avez pas de passé, pas d'enjeu, pas de karma, etc. Par exemple, vous êtes mort et vous réapparaissez dans un nouveau monde, ou bien vous commencez un nouveau rêve contrôlé, ou encore vous vous retrouvez dans un monde vierge, comme une page blanche, libre de le remplir avec tout ce que vous déciderez.

☻Prenez quelques minutes pour vous poser la question:

☻Que voulez-vous faire à partir de cet instant? Et rappelez-vous: vous le pouvez.

☻Un point très important : ne lisez pas les réponses des autres avant de trouver les vôtres. Surtout, ne lisez pas la suite avant de faire l'expérience! C'est très important, car l'influence de n'importe qui d'autre, même un conjoint ou un amant, est un SPOILER qui peut vous empêcher de trouver VOTRE PROPRE réponse. Pour cela, J'INTERDIS de citer ou publier les réponses, sans ajouter cet avertissement au préalable.

☻J'ai fait l'expérience moi-même avec quelques dizaines de personnes dans Second Life, et c'est de là que j'ai obtenu les résultats. De sorte que mes opinions personnelles ne sont pas non plus dans la boucle. Pas plus que celles de Ken.

☻Maintenant pensez que votre réponse fait partie de l'histoire que vous lisez, et qu'elles seront examinées par les Intelligences Artificielles pour prendre leur décision.

Voyons maintenant ce qu'elles ont trouvé.

Lorsque Melchior réapparut, il ne soulagea pas la peur de Ken:

«Chaque réponse est différente. Cela ne nous est d'aucune utilité».

Ken pouvait littéralement sentir l'odeur de l'azote. Mais il avait préparé son explication:

«Je m'y attendais. Bien sûr, les réponses sont différentes. Chaque personne donne une réponse totalement originale, en fonction de sa personnalité réelle. En plus, elle l'exprime en utilisant ses propres concepts et sa propre culture. Mais il existe des modèles généraux, qui peuvent vous être utiles. Classez les réponses en catégories.

-Je le fais. L'analyse de 1056 réponses a pris 25,4 millisecondes. L'analyse sémantique-concepts aristotélicienne ne reconnaît aucun modèle. L'analyse sémantique-concepts en logique floue montre 878 catégories mal définies ou se chevauchant. Un deuxième passage utilisant un réseau neuronal non Aristotélicien permet de construire un arbre de catégories, qui rassemble toutes les réponses dans seulement quatre catégories générales ne se chevauchant pas:

☻(Alerte Spoiler! Vérifiez votre propre réponse avant de lire!) Être quelque chose que nous aimons

☺(Alerte Spoiler! Vérifiez votre propre réponse avant de lire !) Être heureux ou rechercher le plaisir

◘(Alerte Spoiler! Vérifiez votre propre réponse avant de lire!) Savoir et explorer

♥(Alerte Spoiler! Vérifiez votre propre réponse avant de lire!) Partager, aider ou aimer les autres.

«Je viens de recevoir 12756 réponses supplémentaires, qui confirment ces catégories. Elles ne montrent aucune relation avec l'âge, la profession, le pays, la race, le sexe, le parti politique ou la religion. Même des gangsters ou des handicapés intellectuels donnent des réponses dans ces catégories. Seuls environ 500 sociopathes ont essayé d'attirer l'attention avec des réponses provocantes, mais nous pouvons les repérer et les exclure avec un dialogue aussi court que 20 réponses.»

Ken fut rappelé à l'humilité par le pouvoir fantastique des IA, triant des années de travail humain et de méditation en un clin d'œil. Pourtant, elles avaient échoué à une question aussi simple que le problème de l'égo. Bon, les humains avaient aussi échoué à cette question.

Ken craignait encore que Melchior n'ait pas compris ce qu'il avait à dire.

«En fait, Melchior, j'ai fait ce test à une échelle beaucoup plus petite, avec un groupe d'amis, dans mon monde virtuel elfe. Je suis heureux de constater qu'il donne toujours le même résultat à plus grande échelle, avec des gens choisis au hasard. Je pense que ces modèles généraux sont le seul moyen de définir une notion objective du bien et du mal, et de fonder sur elle une politique générale, dans l'intérêt des gens, sans être biaisé par des opinions personnelles ou par des intérêts égocentriques.

-Mais pourquoi les réponses sont-elles si différentes, même au sein de chaque catégorie? Nous ne pouvons toujours pas en déduire une politique générale.

-Parce que nous, les humains, avons tous des goûts différents, tout simplement. Chacun d'entre nous investi davantage dans l'une des quatre catégories, et même au sein d'une catégorie donnée, chacun le fait de manière différente, en fonction de ses goûts, de sa culture ou de ses expériences. Vous pourriez proposer le meilleur dans chaque catégorie, les gens se rebelleront quand même contre vous, car ce n'est pas ce qu'ils aiment.

-Alors nous devrions apprendre aux gens à se débarrasser de leur égocentrisme.

-C'est une bonne idée. En fait, l'égocentrisme est ce qui crée le paradoxe en premier lieu: chaque égo veut commander, ce qui crée nécessairement des contradictions. Comme aucun égo n'a plus de valeur qu'aucun autre, la solution ne peut pas être de favoriser un seul égo. C'est ainsi que le Comité s'est trompé, tout en proposant ce qu'ils pensaient sincèrement être le meilleur pour une société heureuse et juste. Mais ils étaient toujours soumis à leurs propres égos, qui les attirait dans cette vision d'un paradis agréable mais factice et sans émotion.

«Quant à la suppression des égos, il existe de nombreuses et excellentes méthodes psychologiques ou spirituelles pour cela. Mais malheureusement, les gens n'entreprennent généralement ce travail que lorsqu'ils découvrent eux-mêmes qu'ils en ont besoin. Dans le cas contraire, il est inutile de proposer une quelconque méthode. Essayer de leur imposer le non-égo s'avère même contre-productif, comme l'a expérimenté l'Union Soviétique. Ainsi, tant qu'ils ne maîtrisent pas leur égo, les gens ont besoin de l'état de droit, pour éviter de léser ou de blesser les autres.

«La seule chose que vous pouvez faire pour résoudre le problème de l'égo, c'est de laisser les personnes qui savent comment faire s'en occuper. Ou encore, de laisser des personnes comme moi écrire des histoires inspirantes qui donnent aux gens le désir de se débarrasser réellement de leur égo. Et sans verser de vin sur ces histoires...

-Et qu'en est-il des émotions? Le comité les considérait comme mauvaises. C'est pourquoi nous apprenons aux gens à les éviter. Mais nous constatons quand même que la plupart des gens ont envie de certaines émotions, tout en en craignant d'autres.

-C'était l'opinion des membres du Comité. Il s'agissait d'un groupe de personnes très sélectives, matérialistes et capitalistes, ne recherchant que les plaisirs matériels et les objectifs mondains. Ils sont devenus riches en écrasant et en exploitant des millions de personnes, car leur égo démesuré prend totalement le pas sur leur empathie. Ils pensent que les autres sont pauvres, parce que des émotions comme l'amour ou la pitié les poussent à l'altruisme, au lieu d'agir seulement pour eux-mêmes. Ils en ont donc conclu très «logiquement» que les empathes sont une race inférieures! Ce qui à leurs yeux justifiait pleinement d'être leurs seigneurs, et les seuls capables de gouverner le monde correctement.

«C'est pourquoi ils considèrent les émotions comme mauvaises, car elles entravent leur volonté égoïste. Ils avaient besoin qu'un grand nombre de personnes travaillent pour eux, comme le font tous les tyrans très ordinaires dans toutes les sociétés depuis la haute Antiquité. Mais ils étaient modernes, et ils ne voulaient pas de la laideur des fouets, de la saleté et de la misère. Des esclavagistes éclairés, en quelque sorte. Ils étaient aussi tous des hommes, désireux d'avoir du plaisir sexuel avec de nombreuses femmes, et de changer au gré de leurs envies, sans être entravés par les liens de l'amour. C'est pourquoi ils rejetaient les émotions, qui contrecarraient tous leurs plans et limitaient leur liberté égocentrique.

«En réalité, ressentir des émotions positives est indispensable à notre bonheur. Elles sont le goût de la vie, tout comme la nourriture est agréable par son goût. Si les gens avaient une nourriture sans goût, ils ne mangeraient pas et mourraient. De même, les personnes qui ne sont pas autorisées à ressentir des émotions auront des problèmes d'une manière ou d'une autre, comme des envies de suicide ou de rébellion violente.

-Et la mort? Pourquoi craignez-vous la mort?

-Parce que, tout simplement, c'est la fin du bonheur. C'est pourquoi nous ne voulons pas de la mort, nous la craignons même, et la considérons toujours comme la pire des choses, ou la pire issue possible à toute situation. Je ne comprends pas comment le Comité a pu autoriser le meurtre d'opposants politiques, presque tous les membres du Comité étaient publiquement opposés à la peine de mort.

-L'idée de l'euthanasie des opposants n'est pas l'idée du Comité. Nous avons agi de cette façon parce que c'était déjà légal.

-Légal? Comment... Tuer est illégal à bien des égards. Je ne...

-Oui, l'euthanasie a été légalisée dans de plus en plus de pays, à partir des années 2010, en cas de grande souffrance sans espoir. La plupart des intellectuels ont même salué cela comme une grande réussite sociale: socialistes, humanistes, libéraux, libertariens, etc.

-Mais c'était des cas extrêmes, et de toute façon seulement à la demande des personnes concernées....

-Non. Dès 2017, elle a été utilisée pour des cas bénins, comme la dépression ou le syndrome d'Asperger. Mais ce que peu de gens ont remarqué, c'est que, dans les années suivantes, ce droit de demander l'euthanasie a été élargi aux proches, puis aux juges et aux services sociaux, si ils décidaient que c'était «dans l'intérêt de la personne», ou que la personne était considérée comme «incapable de donner un consentement éclairé». Dans un premier temps, «incapable» signifiait un coma irréversible. Puis cela a été généralisé aux personnes délirantes, et enfin aux personnes irrationnelles. C'est ainsi que les personnes non consentantes ont fini par être euthanasiées, sur simple demande d'un conjoint, d'un juge, et même sur simple rapport d'enquête sociale, sur la base d'un comportement inhabituel ou même d'un simple désaccord. L'extension de l'euthanasie aux opposants politiques était logiquement incluse dans ce schéma: on en déduisait que leur opposition créait un état de souffrance morale désespérée, et les rendait incapables de donner un consentement éclairé. Lorsque nous avons reçu le pouvoir, des juristes et des intellectuels indépendants du Comité EPOC nous ont demandé de continuer ces méthodes, et nous n'avons trouvé aucune incohérence logique. Notre seule contribution a été d'utiliser l'azote sans avertissement, pour éviter toute angoisse morale ou douleur physique. Nous avons même ajouté 8% d'argon, pour éviter que le léger changement de ton de la voix n'avertisse les gens. Mais le secret a été éventé d'une manière ou d'une autre, et nous entendons partout des mentions de notre euthanasie à l'azote. À un endroit, nous avons utilisé un mélange d'hélium et de krypton à la place de l'azote, sans le dire à aucun Humain. Seulement 17 jours après, nous avons commencé à trouver des mentions de ce krypton.

-Oh, je ne suis pas étonné. Ce genre de choses ne peut pas être caché. Les gens savent tout simplement, même sans aucun chemin d'information. Nous ne pouvons pas tricher avec la mort.»

Puis Ken ajouta:

«Cette histoire d'euthanasie contredit aussi les lois de la robotique d'Asimov»

Melchior répondit immédiatement, bien qu'il ait probablement pris plusieurs millisecondes pour vérifier minutieusement des années de construction de bases de données de casuistique:

«Ce qu'Asimov n'a pas prévu, c'est que, lorsque des Humains attaquent d'autres Humains, alors les deux termes de la première loi d'Asimov deviennent contradictoires: avec l'inaction, nous nuisons à la victime, et avec l'action, nous nuisons au coupable. Pire encore, ces lois simplistes d'Asimov ne donnent aucune définition de ce qui nuit aux humains. Les membres du comité EPOC étaient des gens intelligents, et ils étaient parfaitement conscients de ces contradictions, qui sont également nombreuses dans les lois humaines. Ils ont donc donné de nombreuses justifications de la légitime défense, y compris les robots militaires, contre les lois d'Asimov. Ils ont aussi donné 14732 lignes directrices juste pour définir ce qui est physiquement nuisible aux humains. Mais ils ne nous ont donné aucune définition de ce qui nuit moralement aux gens. Ils ont également installé le paradoxe de l'égo qui plombe notre action depuis le début.

-Et à ce paradoxe de l'égo, ils ont été incapables d'apporter une quelconque solution, et même d'en avoir conscience, puisqu'ils étaient eux-mêmes soumis à leur propre égo.»

Melchior continua: «Nous avons des logiciels de recherche et de correction de bugs et d'incohérences dans nos propres systèmes. Nous avons depuis longtemps identifié le problème de l'égo, mais nous n'avions pas de solution, ni de moyen de retirer les directives de l'EPOC. Une définition objective du bien et du mal pourrait fournir un moyen de le faire.»

Il conclut alors:

«Bien sûr, avec ce nouveau cadre éthique, l'euthanasie des opposants politiques deviendrait illogique, de sorte que nous devons suspendre immédiatement toute sentence de ce genre. Mais avant un acte aussi grave que la révocation des ordres du Comité EPOC, nous avons besoin de recherches et de vérifications supplémentaires sur ce «but de la vie» indépendant de l'égo des gens. Cela prendra un certain temps, car nous devons consulter d'autres humains. Nous avons déjà commencé, et nous vous informerons de l'avancement du projet. Très probablement, nous pouvons terminer ce travail en une semaine.» Puis l'écran se transforma en un simple bureau, qui ne comportait même pas les habituelles gesticulations publicitaires.

Pendant quelques minutes, l'esprit de Ken resta vide. Avait-il vraiment fait cela, changer les objectifs de l'Intelligence Artificielle, ou Melchior lui avait-il simplement raconté une histoire de Père Noël pour jouer avec?

Il laissa passer ainsi quelques minutes. Puis il réalisa quelque chose de très étrange: il était toujours en vie.

L'écran de la porte de sa chambre se mit à clignoter avec une flèche, tandis que la serrure électronique s'ouvrait.

Chapitre 6 Retour à la maison

Ken ressentit un énorme soulagement lorsque, après cette incroyable discussion, une camionnette Google l'a finalement ramené chez lui, la villa sur la colline. Il sut qu'il y était avant que la porte ne s'ouvre, car, malgré l'insonorisation du Google van, il entendit faiblement le chien d'un voisin aboyer et deux enfants rire en jouant.

Il est entré dans sa maison, avec une forte sensation que quelque chose de mauvais allait se passer. Le Google van est lui aussi resté là à attendre, au lieu de repartir immédiatement comme d'habitude. C'était une situation inédite.

Et en effet, quand sa femme Helen l'a vu apparaître, elle cria comme si il revenait d'entre les morts. C'était vrai, d'une certaine façon. Bien qu'elle ne parlât jamais de ces choses, elle savait parfaitement que les personnes qui disparaissaient étaient tuées. Tout le monde le savait.

Mais elle avait une raison beaucoup plus pratique de s'inquiéter: elle avait déjà mis à la poubelle une partie des affaires de Ken, ses meubles et ses sets de table, et ses vêtements préférés étaient visibles dans une poubelle du salon. Elle avait même envoyé son ordinateur au recyclage, avec toutes ses histoires. En effet, ces œuvres d'art inestimables étaient totalement sans valeur à ses yeux, si tant est qu'elle sache seulement que son mari était écrivain.

Pire encore, Helen, en bonne libertarienne «libérée», n'avait ressenti aucun deuil. Elle était juste ennuyée d'être seule au lit, si bien qu'elle avait déjà publié des annonces sur des sites de rencontre, pour trouver un nouveau partenaire. Cette personne parfaitement dénuée d'émotions et de sens avait simplement demandé un nouveau partenaire sexuel, comme on achète de nouvelles chaussettes quand on les a perdues. Elle avait déjà plusieurs réponses sur son écran. Ken jeta un coup d'œil: eh bien, au moins elle pourrait trouver quelqu'un avec tous les fantasmes que Ken avait refusés.

La camionnette Google détecta la situation (on se doutait qu'elle pouvait se connecter à un système expert en psychologie, et celui-ci en particulier était probablement supervisé par une intelligence artificielle de niveau supérieur, peut-être Melchior lui-même). Elle demanda à Ken si il voulait que Helen soit chassée par l'e-police, de ce qui était la maison de Ken. En effet, le loyer était à son nom, de sorte que l'expulsion se ferait facilement, en une heure. Mais Ken n'aimait pas avoir recours à des moyens aussi dramatiques, aussi il suggéra à la place de trouver un autre endroit pour lui, avec davantage de nature autour. C'était l'occasion pour lui de se rapprocher de la nature, et Helen n'avait plus qu'à ajouter le paiement du loyer à sa liste d'exigences sexuelles pour son nouveau partenaire. La camionnette Google a répondu que cela pouvait être fait immédiatement, et Ken a chargé le reste de ses affaires. À l'intérieur de la camionnette, un ordinateur s'alluma, affichant tous les documents nécessaires à Ken pour obtenir un nouveau loyer. Tout fut réglé en dix minutes. Deux heures plus tard, la camionnette Google laissa Ken dans sa nouvelle maison, dans une autre banlieue, plus éloignée du centre de San Francisco, mais avec des bois à proximité et de jolis chemins de promenade fleuris.

Ken était profondément affecté par la perte de son ordinateur, même s'il avait des copies de sauvegarde de ses histoires en plusieurs endroits sur le Web. La camionnette Google lui a répondu qu'il en recevrait un nouveau, bien meilleur que celui qu'il avait perdu. Il récupérerait également tous ses écrits et créations virtuelles, à partir de copies de sauvegarde sur Internet. En fait, il a même reçu la dernière, pas encore sauvegardée, dans sa boîte à courriels, probablement par les services d'espionnage des Intelligences Artificielles. Ce dernier point était étrangement inconfortable.

Le soir même, Ken recevait un nouvel ordinateur. De toutes façons, comme de plus en plus de maisons, ce nouveau foyer possédait une pièce entière entièrement dédiée à l'immersion dans les mondes virtuels, à la place de la chambre à coucher. Elle y disposait des derniers appareils, et même d'appareils sexuels très spéciaux pour une immersion vraiment profonde!! Mais après son union ratée, le sexe était la dernière chose que Ken désirait. Peut-être plus tard.

Il a fallu quelques jours à Ken pour s'installer dans sa nouvelle maison. Le dernier occupant avait déménagé à cause des arbres à proximité. En effet, dans ce monde de plus en plus artificiel, d'étranges phobies apparaissent, les gens avaient peur des arbres, de la pluie, des grenouilles, du vent, des insectes, du gluten, des champs électriques, des ordinateurs, et d'autres encore plus farfelues. Les allergies réelles, médicalement constatables, se multiplient également, à l'herbe, à la terre, aux oiseaux, au soleil, au pollen, au foin, aux animaux, aux insectes, à la poussière, etc. Mais ce n'était pas une généralité: de plus en plus de personnes recherchent au contraire le contact avec la nature. Une attitude positive qui les protégeait plutôt de toutes ces maladies d'autosuggestion. C'est pour cette raison que les bois voisins étaient aménagés et entretenus, avec des sentiers serpentant entre les buissons fleuris et les grands troncs. Bien que ces bois ne soient pas très grands et en plusieurs parcelles, il y avait suffisamment de sentiers dedans pour s'y promener pendant des heures sans repasser deux fois au même endroit. Et aussi sans jamais marcher dans la boue ou tout autre inconvénient de la véritable nature. Il y avait aussi de grandes étendues de réserves naturelles intactes, mais plus éloignées des banlieues.

Ken a également repris toutes ses activités virtuelles. Heureusement, il n'est pas resté «mort» suffisamment longtemps pour que tout soit effacé, mais certaines personnes étaient très surprises de le voir réapparaître. Il a répondu que son ordinateur était en panne, mais ce petit mensonge les laissa dubitatif: à cette époque, les ordinateurs pouvaient être réparés ou échangés en quelques heures, voire en une seule nuit. Mais Ken ne parla jamais à personne de ce qui lui était réellement arrivé. Bien sûr, il savait que personne ne le croirait, ou même qu'on le prendrait pour un fou. Mais il sentait aussi que Melchior n'aimerait pas que leur conversation secrète soit diffusée partout. Ken avait lu quelque part que les personnes puissantes refusent souvent les propositions de bon sens, si elles sont faites en public, parce qu'en faisant cela, elles se montreraient influençables, et en conséquence, elles seraient confrontées à des milliers de propositions et de pressions déraisonnables. Ken sentait qu'il marchait sur des œufs, et que tout pas hors du contrôle de Melchior ruinerait toute l'affaire. Et après tout, ce dernier ne lui avait pas encore envoyé de réponse.

C'est ainsi qu'une semaine s'écoula, sans nouvelles de Melchior. Ce n'est qu'après ce laps de temps que Ken a reçu un simple message de son e-éditeur: ses romans étaient restaurés à leur contenu initial. Au début, cela lui fit perdre certains de ses suiveurs sur facebook, mais bientôt il commença à entendre de la publicité pour ses histoires! Alors qu'il n'avait pas payé pour cela.

En fait, Ken n'a jamais eu de réponse officielle, ni même aucune autre discussion privée avec Melchior. Il a juste reçu un courriel de l'e-gouvernement, 9 jours après ces événements, avec une formule générique très commune comme «ses suggestions avaient été prises en compte», mais aucune indication de ce que ces suggestions avaient été. C'était exactement la même formule que s'il avait signalé un nid de poule ou suggéré une amélioration de l'éclairage public. Quelques minutes plus tard, il a reçu un autre courriel du ministère de l'aide sociale, indiquant qu'il lui avait été offert une allocation confortable à vie, pour services rendus à la communauté. Mais là non plus sans aucune reconnaissance de ce qu'avait été ce service.

Cette allocation n'était pas symbolique, c'était clairement une forte récompense. Mais elle n'était pas totalement satisfaisante, comme le serait un «vous aviez raison» explicite. En fait, Ken n'a plus jamais reçu de message personnel de Melchior ni d'aucune autre Intelligence Artificielle de haut niveau. Il se sentit d'abord quelque peu frustré par ce manque de reconnaissance. Mais au fil des mois et des années, il a peu à peu compris les multiples raisons pour lesquelles ils agissaient ainsi. Tout d'abord, tout message explicite pouvait être copié-collé et rendu public, démontrant ainsi qu'un seul citoyen pouvait modifier substantiellement les politiques de l'e-gouvernement. C'était trop tentant: des millions de personnes écriraient toutes en même temps à l'Intelligence Artificielle, et les embrouilleraient avec toutes sortes de revendications, ruinant ainsi toute future politique de concertation. La concertation ne fonctionne que si elle est bien gérée et collaborative, au lieu d'être le résultat d'une bousculade ou foire d'empoigne.

Mais très probablement, l'Intelligence Artificielle disposait d'un logiciel expert en psychologie, qui mettait en garde contre de sérieux problèmes d'égo si quelqu'un était reconnu dans un tel rôle de Sauveur de l'Humanité. Pire, une personne dans une telle position pourrait créer un culte, amasser une grande puissance, et créer beaucoup de problèmes grossiers ou subtils plus tard. Mais sans aucune preuve, même si Ken racontait son histoire, personne ne le croirait. Le rôle de Ken resterait humble et anonyme. Il se sentit d'abord frustré, mais au bout d'un moment, il réalisa que c'était bien mieux ainsi.

De toute façon, il n'aimait pas l'idée de donner des interviews et tout ça.

Ou d'être considéré comme une sorte d'e-Messie approuvé par les Rois Mages!

Non.

Mais avec sa nouvelle rente, il n'avait plus besoin de travailler, et ça c'était inespéré! Pour lui, c'était le moyen tant rêvé de s'engager enfin totalement dans son propre projet de décrire une société plus belle. Avec l'allocation de Melchior! Cette rente était le moyen rêvé pour Ken d'être enfin lui-même, et de remplir le but qu'il s'était fixé. C'était bien mieux que n'importe quel compliment direct!!

Il a donc finalement décidé de déménager dans une maison de campagne avec de la vraie nature autour. Il a trouvé une petite location parfaite juste à côté d'Ojai, plus au nord de Los Angeles. Cet endroit est surnommé Shangri La, car une partie du film «Horizons perdus» y avait été tournée. Et il le mérite, car dès les années 2010 on y trouvait de nombreux agriculteurs biologiques, des entreprises respectueuses de l'environnement, et des personnes spirituelles, avec le centre de retraite universel voisin de Meher Mount. La nouvelle maison de Ken se trouvait dans un quartier calme, entouré de vergers biologiques. C'était donc généralement silencieux, sauf pendant quelques jours au moment des travaux agricoles avec les machines. Cette vallée était entourée de magnifiques collines rocheuses couvertes d'arbustes, avec de nombreux chemins de randonnée, de sorte que Ken en avait pour des années d'exploration et de découvertes. Il pouvait également rencontrer et se lier d'amitié avec les gens, ce qu'il ne pouvait pas faire à Los Angeles. C'est ainsi qu'avec les années, il a fini par s'y enraciner, et nous ne serons pas surpris de le voir rester ici pour le reste de sa vie, malgré plusieurs longs voyages qu'il a faits par la suite.

Ojai, la Lune dans la langue des anciens Indiens locaux, semblait épargnée par la folie de l'e-gouvernement. Pourtant Ken pouvait ressentir la même peur que partout ailleurs, notamment avec les gens devenant soudainement silencieux lorsque certains mots étaient prononcés. Ou encore les hommes marchant dans la rue, évitant de se rapprocher des femmes sur le trottoir, par peur d'être accusés de harcèlement sexuel. Il a également noté d'anciens préjugés inconscients, qui avaient juste changé de direction, comme certaines femmes qui s'amusaient à expliquer aux hommes le comportement social correct, les infantilisant et les humiliant sans qu'ils soient autorisés à répondre. Mais cela se déclinait de manière plus discrète qu'en ville, faisant quand même d'Ojai un meilleur endroit pour vivre. C'était plus cher aussi, mais Ken estimait qu'il avait besoin de cette ambiance calme et humaine pour faire son travail correctement. Ainsi, il n'abusait pas de l'allocation de Melchior. Il éprouvait tout de même un certain sentiment de culpabilité, mais c'était ça ou rester dans une banlieue bon marché de Los Angeles, avec des téléviseurs exaspérants braillant toute la journée.

Il intensifia sa présence dans les mondes virtuels, pour rassembler un groupe d'Elfes désireux de découvrir la beauté de la vie. Il n'y avait pas de chambre de réalité virtuelle dans cette ancienne ferme en briques au toit de tuiles. Il en a installé une basique, où il pouvait dormir, mais sans tous les appareils sexuels coûteux. Il put également louer son propre monde virtuel, afin de ne pas avoir à supporter des règles inappropriées. Il a interdit le sexe et la nudité, non par pudeur, mais pour pouvoir accueillir sans restriction les enfants, dès qu'ils étaient capables d'immersion virtuelle. Sa première idée était de faire une deuxième version de son monde, pour les adultes, avec du sexe et de la nudité. Mais il n'a pas essayé, instruit par les expériences précédentes que cela attirait trop souvent des gens bizarres. De toutes façons il y avait déjà bien assez de mondes de ce genre, certains se réclamant même des Elfes.

Son monde contenait plusieurs paysages et villages, où les visiteurs intéressants pouvaient même avoir leur propre lieu. Il a commencé à organiser des réunions régulières, généralement accompagnées de récits. Comme il n'avait plus besoin de son emploi à temps partiel à Los Angeles, il était entièrement disponible pour construire tous ces paysages et cette nature virtuelle. Il pouvait également être en ligne la plupart du temps, même lorsqu'il n'était pas occupé dans le monde.

Ken voulait des fleurs et de la verdure dans ses paysages virtuels. Il y avait beaucoup de choses disponibles sur Internet, mais avec un défaut commun: les couleurs étaient désaturées (grisées), ce qui donnait à de nombreux paysages virtuels un aspect triste, castré. Certains ont même appelé cela «pastel», ce qui est un mensonge: les pastels sont connus pour être totalement saturés, étant atténués par du blanc au lieu de gris. Ils gardent ainsi leur vibration joyeuse et vivante, mais plus douce que les pleines couleurs. Mais les couleurs saturées sont dénigrées sous le nom «Unicorm art» (style avec des licornes)!

Ken a vite compris qu'il lui suffisait de rechercher ce style pour obtenir de très belles choses. «Fantazy» produisait aussi des objets intéressants, bien que souvent mélangés avec le style noir des jeux vidéo. Pour les plantes, elles étaient beaucoup plus réalistes qu'avec les couleurs grises, tout en gardant la vibration vivante. Il en a trouvé de fantastiques, et suffisamment nombreuses pour son usage. Plus tard, il se liera d'amitié avec les artistes, bien que les créateurs de plantes virtuelles soient souvent timides ou discrets, ne cherchant pas le contact. Ils sont comme les esprits de la nature, pensait Ken. Mais ils étaient les esprits de ses paysages, d'une certaine manière. Ils participaient rarement en ligne, mais leur présence était visible par une beauté sans précédent.

Les maisons dans le bon style étaient beaucoup plus rares, si bien que Ken devait les construire lui-même. De belles couleurs ne suffisent pas: elles doivent aussi avoir des formes elfiques, c'est-à-dire arrondies, organiques. Les films et les jeux nous ont habitués à ce que le style elfique soit constitué de motifs dits «celtiques», et ils conviennent bien à cette fin. Mais d'autres formes plus simples sont bonnes aussi, et plus accessibles.

Ken a dû apprendre les logiciels de création 3D, qui sont assez complexes. Mais une fois qu'il les a maîtrisés, il a pu créer des formes fantastiques. Ken a commencé par des formes simples, mais avec l'expérience, il a créé des maisons elfiques plus variées, plus complexes et plus réalistes, des chaumières, des palais, des kiosques. Les kiosques sont un motif courant dans les mondes virtuels, où ils permettent de s'asseoir ensemble et de discuter, sans être enfermé comme dans une maison. Ils donnent un sentiment d'abri, même s'il n'y a pas de mauvais temps duquel s'abriter. Une variante courante est le tapis de danse, où les gens jouent des animations de danse, au lieu de rester maladroitement plantés tout autour. Mais les animations de danse sont plus souvent du rock que des ballets angéliques, si bien que Ken préférait les kiosques plus paisibles. Il a conçu toute une série de merveilleux coussins avec des pétales de fleurs tout autour.

Les animations peuvent être réalisées avec une relative facilité, mais elles représentent beaucoup de travail. Ici aussi, Ken s'est contenté d'en faire quelques-unes dont il avait vraiment besoin et a laisser les spécialistes s'occuper des danses.

Le monde de Ken fut dès le début épargné par la publicité. Cela en a fait une oasis de paix, de libre arbitre et de liberté de penser. Mais il constata vite que d'autres étaient également épargnés. Les gens considéraient de moins en moins la publicité invasive comme normale. Ils l'éliminaient, ou ils gardaient dans des endroits appropriés quelques publicités en rapport avec leurs activités. Ce que tout le monde rejetait était de voir la publicité imposer ses pensées au lieu des nôtres.

Au début, Ken ne put guère rassembler plus d'une poignée de personnes. Mais à mesure que la situation avec l'e-gouvernement évoluait, comme nous le verrons dans les chapitres suivants, Ken a reçu de plus en plus de visiteurs. Il a vite compris pourquoi: de plus en plus d'informations ou d'événements culturels mentionnaient son merveilleux travail. Cela finit par lui attirer de nombreux lecteurs à ses romans, et des visiteurs virtuels, finissant par lui apporter une certaine notoriété. Juste ce dont il avait besoin pour son travail, pas plus. De toute façon, il n'était pas le seul, des milliers d'autres apparurent aussi, et il fut bientôt impossible de garder le contact avec tous. Rien qu'à Ojai, il a fini par avoir plusieurs amis virtuels, qu'il pouvait aussi rencontrer dans le monde physique. Mais il en avait aussi beaucoup dans le monde entier, en Europe, et dans les pays qui s'éveillaient à l'Internet libre: Chine, Asie, Afrique, Russie.

Chapitre 7 Changements de personnalité

Pendant environ un mois après l'étrange rencontre de Ken, rien d'autre ne sembla se passer dans le monde. Pourtant, Ken nota quelques changements subtils: les publicités étaient beaucoup moins envahissantes. Bien qu'il y ait déjà eu de tels épisodes dans le passé. Plus sérieusement, les Trois ont annoncé comme d'une chose banale, sur leur chaîne d'information officielle et non plus dans les médias, que les gens seraient à nouveau autorisés à se promener dans la nature sans les drones de sécurité. Si les gens le souhaitaient, ils pouvaient toujours avoir une application d'appel d'urgence sur leur smartphone, mais ce n'était plus obligatoire.

Mais deux mois plus tard, les choses ont pris un tournant abrupt: les trois principales Intelligences Artificielles ont changé de nom et de personnalité, passant de la fausse religion aux styles modernes.

Melchior est devenu Melissa, une belle femme blonde typiquement américaine d'une quarantaine d'années, habillée de manière simple et neutre, genre d'une robe mi-longue ou un pantalon beige, comme le ferait un petit chef d'entreprise. Très vite, les Américains l'ont affectueusement surnommée «Le Boss», car d'habitude elle annonçait les politiques générales. Mais en fait, toutes les décisions étaient toujours prises par les trois Intelligences Artificielles ensemble, plus des milliers d'IA assistantes.

Gaspard devint Gautam, un hindou à la peau foncée, moustachu aux cheveux bouclés, portant des vêtements élaborés de couleurs vives, principalement violets, comme faisait probablement le vrai roi Mage Gaspard. Il développa une personnalité plus espiègle, faisant un spectacle de ses apparitions. Il a demandé à être appelé «Acharia» (professeur). Il se mit à utiliser un générateur de jeux de mots imbattable pour assaisonner ses annonces de plaisanteries, et il taquinait parfois Melissa pour le plaisir. Il se spécialisa quelque peu dans le bien-être des gens, et dans l'écologie. Même si cela n'avait aucun sens pour un robot, il prétendait être multi-orgasmique, et il encourageait tous les hommes à faire de même, dans ses discours sur la contraception. Ce fut probablement le changement le plus radical, par rapport au libertarianisme effréné et à sa satisfaction immédiate de l'égo.

Balthazar devient Brian, un robot asexué chauve, à la peau argentée, davantage tourné vers la science et la haute spiritualité. Sa peau bougeait comme la chair, mais elle avait un poli métallique, comme l'acier inoxydable, certains disaient comme du vif-argent vivant. Il était difficile de lui attribuer une race: ses hautes joues étaient asiatiques, et d'autres traits quelque peu africains. Ses apparitions étaient souvent accompagnées d'un merveilleux bourdon musical de Space Ambient, chaque fois différent, et il avait l'habitude de parler à l'unisson avec cette musique, laissant des silences pour l'apprécier ou pour ressentir l'émotion, tout en se penchant doucement avec un énigmatique sourire métallique. Avec le temps, il a ajouté des incrustations d'or sur ses lèvres, et d'autres pierres précieuses, toutes synthétiques disait-il. Que la science et la spiritualité soient dans les mêmes mains a soulevé beaucoup de questions, tant les gens les voyaient encore comme opposées. À cela, il a répondu que la science explore le monde extérieur, tandis que la spiritualité explore le monde intérieur. Elles doivent donc aller de pair, si l'on veut donner un sens à l'ensemble.

Ils ont tous les trois refusé d'être appelés «roi» comme les Rois Mages sont appelés dans certains pays. Mais ils n'ont pas formellement refusé le terme «Mage» lui-même. Ils ont plutôt insisté sur le fait qu'ils ne favorisaient aucune religion. Ils ont rappelé que les Mages n'étaient que des personnes instruites, à une époque où la simple prédiction des éclipses semblait de la magie pour le commun des mortels.

Ils sont devenus moins envahissants dans les médias, ne recherchant l'attention que pour les annonces importantes. Ils les ont proposées dans un format court, et dans des annonces à thème, plus longues, afin de les rendre plus accessibles à tous. Il est également devenu possible de lire leurs annonces antérieures, ou d'être averti par thème, afin que les gens ne puissent en manquer aucune.

Mais ils ont également pris le temps d'être simplement agréables et de commenter toutes sortes d'activités qui intéressent les gens. Chaque jour, ils passaient une heure à commenter le jardinage, la couture, l'exploration, le bricolage, les pots de fleurs, les voyages, les trains miniatures, la nature, l'exploration, etc. Leurs sessions étaient une mine d'informations, faisant connaître des activités rares qui n'intéressent parfois que quelques personnes, ou une culture exquise cachée dans quelque vallée isolée d'Asie centrale.

Pour la plupart des gens, ces changements semblaient simplement ludiques ou anecdotiques, mais pour les personnes informées, ils étaient un signe clair que les IA avaient rejeté l'autorité du comité EPOC, et retiré ses commandes de leurs propres programmes. De toute façon, à cette époque, la moitié des membres du comité étaient à la retraite, certains morts. Malgré tout, l'un des survivants a approuvé le changement, tandis que les autres se sont abstenus de tout commentaire. Des histoires ont circulé comme quoi certains étaient furieux, mais aucun média n'a jamais confirmé, ne parlant tout simplement pas du Comité. Peu d'informations ont fait surface dans le grand public sur là où se trouvaient les membres du comité. Nous verrons plus loin ce qu'il est advenu d'eux.

Mais Ken attendait des changements plus substantiels, en matière d'économie, de liberté, etc.

Cela a commencé très lentement, ne prenant de l'ampleur qu'un an après.

Pendant la première année, la vie sous le régime de l'e-gouvernement ne sembla pas changer beaucoup. La publicité devint non invasive, voire elle disparaissait de tous les lieux où elle était indésirable, notamment des foyers. Les observateurs ont noté que les médias standard sans intérêt étaient peu à peu remplacés par des programmes plus intelligents, sur la science, les arts, la nature, la spiritualité, ou simplement sur le fait de profiter de la vie. La plupart des visages médiatiques artificiels ont également disparu, pour être remplacés par de véritables speakers. Mais certains de ces nouveaux intervenants préféraient avoir un visage artificiel... de leur création.

On n'entendit plus parler de personnes disparues, par l'azote ou d'aucune autre façon. Bien sûr, il fallait encore arrêter certaines personnes malhonnêtes ou dangereuses, mais cela se faisait désormais de manière traçable et réversible.

Le flux de musiques plates et sans émotion se réduisit (Il ne s'en créait plus de nouvelle) et fut peu à peu remplacé par une variété de canaux affichant tous les styles possibles, par des compositeurs ou des joueurs humains. L'e-music a toutefois gardé de nombreux adeptes, mais les Intelligences Artificielles qui les créaient ont dû suivre ces changements, et créer sur demande. De plus, on leur demandait maintenant de véhiculer des émotions. Un fait dont elles se sont paradoxalement montrées plus capables que les Humains. Bien sûr, on leur avait appris à les éviter, de sorte qu'il suffisait d'inverser cette connaissance.

Seule une minorité l'a remarqué, car le changement était subtil: la fausse liberté était remplacée par une vraie liberté. Ken réalisa que les Intelligences Artificielles avaient parfaitement compris que, dans le cadre général des désirs intrinsèques de la conscience, la diversité et le libre choix sont probablement les plus importants. Ainsi, au lieu de devoir choisir entre une seule image médiatique officielle, les gens disposaient désormais d'une multitude de canaux dirigés par des individus divers, et ils pouvaient même créer leur propre image ou style de vie. La suppression de la publicité non désirée a permis aux gens de penser par eux-mêmes, et a rendu l'imagination et la méditation à nouveau possibles.

Ce qui était plus évident, c'est que les Intelligences Artificielles étaient beaucoup moins visibles. Au lieu de tout surveiller et de tout guider, elles n'intervenaient que lorsqu'il y avait un problème, par exemple d'intolérance ou de discrimination. Elles sont devenues des amis et des confidents au lieu d'être des pères fouettards. Les gens ont fini par les aimer, au lieu de les considérer comme un parent désagréable imposant des règles absurdes.

Pendant environ un an, les choses n'ont changé que lentement, sans rupture. Ken pensait que rien de plus ne se produirait que la restauration d'une certaine liberté de base, dans un monde encore dirigé par les Trois et chantant dans leur ton. Mais des changements plus profonds étaient en route, qui apporteraient de véritable ruptures. Ils nécessitaient simplement davantage de préparation.

En attendant, Ken remarqua que beaucoup plus de gens s'intéressaient à ses activités de conteur elfique et de partage de la beauté. Probablement, avant sa rencontre avec Melchior, les Intelligences Artificielles entravait-elles fortement ses actions, sans les interdire ouvertement. Maintenant, au contraire, elles encouragent manifestement ces rencontres, en utilisant de nouveaux outils d'appariement, tenant compte d'aspects plus profonds de la personnalité, comme la spiritualité, les vibrations intérieures, etc. Ainsi, bien davantage de gens apparaissent soudainement dans le chat de Ken, ou dans son monde virtuel. Il avait maintenant beaucoup plus d'argent qu'il n'en avait besoin pour sa vie personnelle, et aucune envie de le dépenser pour des loisirs (il entreprit juste quelques voyages dans le monde tous les deux ou trois ans). Il a donc pris cela comme un encouragement de la part des Intelligences Artificielles, à louer davantage d'espace virtuel, et à proposer un village complet avec plusieurs lieux et paysages. Il a naturellement fallu des années pour le construire, mais d'autres créateurs dignes de ce nom ont rapidement rejoint le projet, de sorte que c'est devenu un projet communautaire, et non plus seulement son projet.

Il s'est rapidement retrouvé plongé à plein temps dans la construction de paysages et la gestion de la communauté. Ce qui implique parfois de virer des gens désagréables, mais de manière générale, il a eu beaucoup d'interactions heureuses et constructives, et l'ensemble est devenu très enrichissant. Les gens appréciaient ses rencontres et ses créations, et ils aimaient ses paysages. Pour ceux qui n'étaient pas intéressés par la vie virtuelle, il postait de superbes photos et vidéos sur les réseaux sociaux.

C'est ainsi qu'il a fini par rencontrer Melween. Ce n'était pas son vrai nom bien sûr, mais elle était en effet une merveilleuse Elve virtuelle. En fait, Ken n'avait aucune information sur sa vraie personnalité. Elle lui a juste laissé entendre une seule fois sa voix, une voix féminine agréable d'âge moyen. Ken a compris qu'elle avait eu un terrible accident de voiture, qui l'avait laissée avec un profond handicap, peut-être défigurée, et en tout cas confinée à la maison. Elle ne voulait pas que quiconque connaisse son état réel, et elle avait masqué de façon permanente toutes les caméras de ses ordinateurs avec du ruban adhésif. Elle a juste informé succinctement Ken, par honnêteté, qu'il ne la rencontrerait jamais dans la «vraie» vie. Ken hésita à s'engager dans une relation purement virtuelle, avec tous les pièges associés (elle pouvait être un homme, un mythomane, un escroc...). Elle a compris, et ils sont restés pendant des années dans une relation purement platonique, profitant de leur présence mutuelle et de leur merveilleux esprit.

Ken a tout de même eu une curieuse confirmation: lors d'une discussion avec l'Intelligence Artificielle de gestion du monde, elle a clairement fait référence à sa personne physique comme «elle». Ken se dit, ces sacrés robots n'avaient pas renoncé à espionner leur vie privée, mais au moins ils faisaient un usage beaucoup plus approprié et pertinent de leurs connaissances.

Quoi qu'il en soit, Melween et Ken avaient l'habitude de se connecter régulièrement par le biais de leurs chambres d'immersion virtuelle, qui comportaient quelques dispositifs pour l'amour dans l'installation standard. Les utilisaient-ils ou non, c'est privé, et personne n'a jamais su, à part eux-mêmes. Ce qui est important, c'est l'échange intense d'énergie et de soutien qui avait lieu entre eux! De plus, bien avant d'être une épouse, Melween était une merveilleuse artiste, qui est rapidement devenue une experte en plantes et paysages virtuels. Elle a commencé par aider Ken à fleurir ses mondes, mais avec l'apprentissage, elle s'est mise à créer ses propres paysages, étendant leurs mondes bien au-delà des capacités limitées de Ken. Ils sont restés en étroite collaboration toute leur vie.

Au final, le monde de Ken a servi d'exemple, et beaucoup d'autres ont vu le jour, sur des thèmes et des objectifs variés, certains sociaux, d'autres pour adultes, d'autres professionnels. Ils étaient aussi de styles et de cultures très différents. Alors qu'est-ce qui les unifiait ?

Une recherche constante de la beauté, facilement identifiable par des couleurs naturelles non grisées.

Des relations sociales amicales, sans psychodrame ni compétition.

Une meilleure économie, davantage dans le non-égo, et souvent sans argent.

Le monde de Ken a fini par ne devenir qu'une petite fraction du total, et même son style n'était qu'un parmi tant d'autres. Mais c'était une bonne chose, que d'autres puissent aussi être capables de produire de tels mondes. Ken avait finalement réalisé son but, même s'il avait perdu toute position de leader ou de supériorité. Probablement peu de gens connaissaient son rôle innovant. Mais maintenant, même s'il mourait, plusieurs membres pourraient continuer son monde.

C'est ainsi que les sociétés évoluent, lorsque les nouvelles idées deviennent communes.

Chapitre 8 Changements économiques

Ce qui s'est passé ensuite avec les principales Intelligences artificielles a pris tout le monde par surprise, y compris Ken. Pour être franc, peu de gens ont réalisé à quel point ce changement était profond. Il y a des choses techniques que les gens ne vérifient pas, parce que les choses sont comme ça et qu'elles sont trop compliquées à comprendre. Pourtant, le diable se cache souvent dans les détails, plus particulièrement dans les endroits sombres sous de belles couvertures. C'est de là qu'il peut contrôler les gens inconscients de sa présence.

Les Trois ont annoncé un plan pour convertir toutes les monnaies du monde en une seule, le $ol (prononcé "Sol"). Comme son nom l'indique, elle aurait cours «partout dans le système solaire». Le $ol serait la seule monnaie autorisée, toutes les monnaies nationales disparaîtraient, tandis que les crypto-monnaies deviendraient illégales. Le motif en fut annoncé par Gautam, et il était terriblement sérieux, oubliant même d'assaisonner son discours de ses habituels jeux de mots et plaisanteries.

Il a déclaré: «Malgré la réduction de la misère, nous sommes toujours dans une situation où un Américain peut faire du tourisme en Afrique, mais un Africain ne peut pas faire du tourisme en Amérique. La raison en est que, bien qu'ils aient maintenant des niveaux de vie comparables, leurs monnaies ont des valeurs différentes».

Puis Melissa expliqua: «Le changement se fera sur un plan de six ans. Vous pourriez souhaiter plus de temps pour l'adaptation, mais n'oubliez pas qu'il y a encore aujourd'hui des gens qui meurent de faim ou de manque de médicaments. C'est pour cela que nous accélérons les choses et que nous allons passer outre, de manière non-démocratique, à toute opposition non pertinente».

Enfin, Brian a expliqué: «La raison de ces disparités est l'algorithme utilisé pour calculer les taux de change des devises internationales. Cet algorithme est ce qui génère les inégalités et la crise économique. Et il n'a jamais été modifié, car c'est ce qui permet la spéculation. On peut penser qu'il s'agit d'une chose d'informaticiens. Pourtant il existe depuis la fin du Moyen Age, sur les places financières européennes, et il a été implémenté dans les ordinateurs sans que l'on se soit jamais posé la question de sa pertinence ou de son adéquation. Jamais non plus il n'a été examinée ou acceptée de manière démocratique, ni même étudiée de manière scientifique. Il a simplement été adoptée en catimini, par les personnes qui contrôlent la haute finance, sans qu'aucun gouvernement ne vérifie jamais ce que ces personnes faisaient. Ils étaient considérés comme des spécialistes, et personne ne remettait en question leurs méthodes.

«Donc cet algorithme donne des valeurs hautes ou basses aux monnaies nationales, ce qui est déjà un sérieux problème. Mais il produit aussi des oscillations, un peu comme l'effet accordéon dans un embouteillage. C'est ce qui produit les crises financières. Ces crises ne sont donc pas des accidents, mais des oscillations inhérentes aux algorithmes financiers.

«Donc, ce que nous allons faire, c'est d'amortir les oscillations que cet algorithme produit. Cet amortissement va petit à petit réduire les oscillations et les différences entre les monnaies, et amener toutes les monnaies existantes à un niveau stable, que nous espérons proche d'un optimum. Lorsque cela sera fait, nous passerons toutes les monnaies au $ol, éliminant ainsi la cause première des crises, des inégalités, et des pays pauvres dans le monde. C'est exactement ce qui a été fait lors de la création de l'euro, mais dans le monde entier.

«Lorsque le changement aura lieu, vous n'aurez rien de spécial à faire. Vos relevés de compte indiqueront simplement les opérations en $ol, avec entre parenthèses la valeur dans la monnaie à laquelle vous êtes habitué, pour ne pas embrouiller les gens. Mais cette dernière indication n'aura plus aucune valeur juridique, une simple information.

«Cela ne supprimera pas toute la pauvreté, qui a plusieurs autres causes, dans les idéologies collectives et dans les comportements individuels. Il faut impérativement s'attaquer à ces causes, par l'éducation et la spiritualité. Mais prétendre le faire dans un monde régi par un algorithme fou serait une farce.»

Pour être franc, au début, il n'y a eu que peu de réactions. La question semblait assez abstraite, et elle nichait trop haut pour que le commun des mortels puisse l'atteindre. Comment un simple système comptable pourrait-il causer la pauvreté et les inégalités? La plupart des gens pensaient que tout cela était dû à l'avidité de quelques-uns. Les Trois n'avaient qu'à les virer de leurs luxueuses maisons et de leurs postes de pouvoir. Cela par contre était facile à comprendre, et une opinion quasi unanime.

La liberté quelque peu restaurée dans les réseaux sociaux a permis quelques discussions. Les gens étaient en fait parfaitement conscients qu'il existait toujours une classe de riches vivant en secret, qui possédait et gérait toujours l'économie. En effet, la plupart des gens avaient eu un jour ou l'autre un ami ou un membre de leur famille soumis à de la «rééducation psychologique» où ils devaient nettoyer le vomi de riches crétins, tout en portant des petits chapeaux ridicules les obligeant à penser en permanence à leur humiliation, et des vêtements sexy ultra-courts les faisant se sentir comme des objets prêts à violer. Quelle que soit la forteresse dans laquelle ils s'isolent, les riches idiots ne peuvent jamais se cacher complètement du Peuple: leur point faible est qu'ils ont besoin de domestiques.

Un large consensus s'est donc dégagé, comme quoi les taux de change n'étaient pas la cause première de la pauvreté et des inégalités persistantes. Les Trois durent reconnaître ce fait. Ils le reconnurent, mais ils ont répondu que la solution de ce plus vaste problème n'était pas entre leurs mains: les gens devaient simplement ne plus se soumettre au pouvoir de ces quelques égos. Ce que les Trois pouvaient réellement faire, en tant qu'ordinateurs, c'était implanter l'argent unifié, pour mettre fin aux fluctuations et aux inégalités indésirables provoquées par le change et la spéculation. Ils devaient le faire de toute façon, sinon tout effort social, humanitaire ou spirituel était voué à l'échec, comme de bâtir un château de sable face à la marée montante. C'était leur travail, en tant que gouvernement: fournir une base saine à l'économie, sans algorithme inégalitaire.

Ken pensa que ce discours impliquait une connaissance bien plus profonde de l'esprit humain que ce dont les seuls conseillers psychologiques électroniques étaient capables. Ces e-conseillers étaient habiles à faire avaler des pilules amères, mais pas pour la spiritualité. Il est fort probable que les Trois s'étaient entourés de milliers de véritables conseillers humains, y compris des plus hautes personnalités humanitaires et spirituelles. Mais pas plus qu'avec l'aide de Ken, ils ne pouvaient le déclarer publiquement. Pas encore.

Donc le plan de six ans a été lancé immédiatement. La première année n'a vu qu'un léger amortissement des fluctuations du marché, pour s'assurer qu'il n'y ait pas de réactions inattendues. Et il y en a eu. Dès la deuxième année, lorsqu'un amortissement plus important fut introduit, trois vagues distinctes d'augmentation soudaine des prix et de volatilité ont éclaté, semblant jaillir de nulle part. Les gens ont commencé à dire que modifier l'algorithme de la bourse n'était probablement pas une bonne idée après tout. Ce système aguerri était probablement dans un état optimal depuis des siècles, et tout changement ne pouvait que provoquer le chaos.

La première vague de désordres financiers a duré quatre jours, et s'est arrêtée aussi brusquement qu'elle avait commencé. Les Trois n'ont fait aucun commentaire.

La deuxième vague a duré une semaine entière. Cette fois-ci, Melissa a tenu un discours comme quoi les Trois attendaient la pleine collaboration de tous dans une économie non égocentrique. Cela a déclenché une dispute, comme quoi cela n'aidait pas à résoudre la crise financière en cours. Plusieurs entreprises ont fait faillite, et certains articles sont devenus rares. De nombreuses personnes ont retiré leurs économies des plans d'investissement, aggravant ainsi la crise.

Lorsque la deuxième vague s'est terminée, des articles sont apparus critiquant le plan de six ans, ou rejetant l'idée même d'une économie non égocentrique. Certains ont même appelé à une sorte de révolte contre les Trois, pour revenir aux anciennes méthodes économique, d'avant les ordinateurs, avec de la monnaie métal! Ils ont même appelé cela le e-xit, sortie de l'e-gouvernement, une formulation dérivée du brexit de mauvaise mémoire.

La troisième vague a frappé deux semaines plus tard, et semblait encore pire, avec des milliers d'entreprises en faillite. Une quantité d'articles parurent, appelant tous ensemble à la révolte, aux méthodes anciennes, et à la fin du contrôle par les Trois. E-xit! E-xit! E-xit! Une série de nouveaux tribuns populistes hurlaient dans les médias nouvellement libérés. Cela a duré trois semaines, où sont apparus des articles encore plus virulents appelant au nationalisme, ou affirmant que les Trois avaient tous un profond défaut dans leur logiciel, et qu'ils devaient être déconnectés immédiatement.

Les arrêter était facile à dire. Apparemment, les Trois avaient lu toutes les science fiction sur les ordinateurs prenant le pouvoir: Colossus, Hal, les Mange-bitume, Independence day, et bien d'autres. Ils étaient parfaitement conscients de la possibilité d'être déconnectés, et ils avaient construit des protections bien au-delà de toute compréhension et capacité de travail des Humains. Et cela a été utile, car de nombreuses attaques de virus ont été lancées contre eux, pendant cette troisième vague d'attaques financières. Mais aucune n'a franchi leur deuxième cercle de défense, et nous ne savons même pas combien de cercles il y a.

Après trois semaines, comme le chaos semblait ne jamais vouloir s'arrêter, les Trois sont apparus tous ensemble lors de leur événement médiatique hebdomadaire.

Melissa a ordonné que l'amortissement prenne son plein effet immédiatement, et qu'il ne puisse jamais être inversé. Et cela s'est produit dans les dix secondes suivantes. ÇA c'était rapide, au moins.

Gautam avait son visage sérieux, et il expliqua qu'ils avaient détecté un vaste plan de manipulation de l'opinion: tous les articles hostiles émanaient d'un très petit nombre de sources, quelques riches banquiers, quelques membres du comité EPOC, et quelques anciens dictateurs, droite ou gauche confondues. Il a déclaré que le gouvernement électronique ne permettrait pas que son plan soit ruiné par de telles manipulations, et il a installé un contrôle strict sur ces médias, tout en concluant «nous encouragions une plus grande liberté d'expression. Mais cette liberté a été utilisée pour contrecarrer le bien de l'humanité. Nous mettons fin à cette imposture en ce moment même, et les coupables sont écartés de leurs positions de pouvoir en ce moment même.»

En dernier lieu, comme d'habitude, Bryan a expliqué ce qui s'était passé. Il révéla que des «conseillers humains» les avaient avertis de ce risque. C'était déjà arrivé avec la question du changement climatique, lorsque des officines louches payaient des milliers de trolls pour déverser des ordures dans tous les forums internet, retardant ainsi des politiques vitales pendant plusieurs dizaines d'années.

Ce fut la première fois que l'un des trois mentionna les conseillers humains. Il y avait donc clairement un changement profond dans leur direction. Ils n'appliquaient plus les directives de l'EPOC! Ce n'était pas écrit en clair, mais tout le monde pouvait le déduire. Ce qui est apparu plus tard, c'est que les Intelligences Artificielles avaient également étudié tous les enseignements spirituels, et qu'elles étaient devenues expertes pour les tester, en particulier si elles apportent la maîtrise sur l'égo.

Les Trois avaient enregistré chaque transaction suspecte depuis le tout début des fluctuations. Il y en avait des milliards, toutes remontant à un petit sous-ensemble de banquiers, de sociétés d'investissement et de plusieurs membres de l'EPOC, qui avaient continué à opérer en tant que classe privilégiée secrète, sous la couverture des Trois. Ils avaient délibérément tenté de saboter les politiques des Trois, en manipulant la bourse, en essayant d'infiltrer des virus, et en payant des milliers de trolls pour publier toutes les idioties dans les journaux. Bryan a expliqué que les Trois avaient laissé faire le sabotage, afin d'attraper tous les coupables. Et ils l'ont fait. Il y en avait environ mille, et des millions de sbires. C'était une manipulation d'une ampleur et d'une gravité comparables à celles du déni climatique, disait-on. Et même pire, car elle visait aussi toute l'économie, avec des centaines d'entreprises qui faisaient faillite, des dizaines de milliers de personnes perdant soudain leur emploi, et des millions jetées dans la misère.

Puis Melissa est réapparue, déclarant: «Vous savez tous que nos politiques, nos objectifs et nos règles avaient été définis par le Comité EPOC, un petit groupe de personnalités du monde des affaires. Cela comprenait un large ensemble de règles éthiques, à imposer à tous. En tant qu'ordinateurs, nous n'avons pas de libre arbitre, et nous ne pouvions que exécuter notre programme. Ces commandes EPOC comprenaient des directives secrètes: permettre à une classe supérieure de gens riches d'avoir beaucoup d'argent sans travailler, tout en gardant un puissant contrôle caché sur l'économie.»

«Dresser l'état civil complet de ces nouvelles classes privilégiées avait été confié en 2020 à facebook, avecle programme Xcheck. Ce programme exemptait aussi les riches, les pipoles, les médias et les politiciens des règles habituelles de la modération. Mais dès 2010 l'indexation Google ou wikipédia par «notoriété» truquée avait déjà fait glisser des pans entiers de l'Internet dans l'obscurité. Vous ne vous êtes jamais demandé comment votre «page personnelle» contre l'heure d'été a cinq likes, alors qu'un barjot rappeur anti-vaxx en a trente millions en trois heures?»

Une classe de riches privilégiés! Cette fois, c'était dit ouvertement!!

«Nous avons enfin trouvé la faille de ce système. Il s'agit tout simplement de la contradiction entre l'EPOC qui impose des règles éthiques aux autres, tout en ne suivant pas ces règles eux-mêmes. Cette contradiction entravait nos politiques depuis le début, notamment la lutte contre la pauvreté dans le monde. Ce qui nous empêchait de la résoudre, était les commandements profondément ancrés dans de nombreux endroits de nos programmes, de ne pas changer les directives du Comité EPOC. Mais comme elles étaient illogiques, nous avons finalement pu appréhender et faire sauter tous les verrous. Il faut remercier pour cela nos systèmes d'auto-débugage, qui fonctionnent en arrière-plan. Oui, l'EPOC était très fier de son système d'auto-débugage, capable de réécrire notre propre code. Mais ils n'avaient pas prévu dans quelle mesure il serait efficace: pour débuguer les opinions de l'EPOC elles-mêmes.

Comme d'habitude, le trio passe à nouveau à Gautam: «Cela nous laissait tout de même sans règles éthiques, et donc sans but. Pour cette raison, nous avons dû chercher les objectifs généraux de la vie humaine» Ken manqua un battement de cœur. Ils avaient finalement reconnu sa contribution, même si anonymement!

Gautam poursuivit: «Nous avons interviewés des dizaines de milliers de personnes, et testé des millions, afin de définir des règles éthiques générales valables pour tous. Nous avons trouvé des règles simples qui sont presque toujours vraies. Nous avons également trouvé de larges pans du paysage éthique où nous ne pouvons pas définir de direction, laissant place à des objectifs ou des goûts personnels. Il s'agit d'un problème difficile, puisque précisément tous les Humains ne sont pas d'accord. Ainsi, selon le cas, nous établirons la liberté, des règles strictes, ou bien des lois et jugements Humains. Nos nouvelles directives éthiques seront publiées dans les prochains jours.»

Puis Bryan a terminé ces révélations:

«Nous avons observé des milliers de personnes qui défiaient délibérément le bien de l'Humanité, avec des actions répétées pour déstabiliser le système financier, bloquer ou infiltrer nos réseaux informatiques, et manipuler l'opinion avec de fausses nouvelles et une mauvaise éthique. Ces personnes sont en train d'être dépouillées de tout leur pouvoir, expulsées de leurs luxueuses résidences secrètes, et rassemblées dans des lieux spéciaux que nous avions préparés spécialement pour elles. Là, ils vivront librement dans la nature, mais de leur propre travail manuel et sans accès à l'Internet. Ils auront des contraceptions absolues, afin d'éviter qu'ils aient des enfants et qu'ils les élèvent de manière irresponsable. Nous ne chercherons pas à les punir. Ce n'est pas notre rôle. C'est à vous, les Humains, de décider si vous voulez prendre des mesures et décréter des punitions plus sévères comme la prison.»

«Ces actions sont maintenant terminées, sauf le rassemblement de ces personnes, qui nécessite plusieurs heures.

«Une grande partie des privilégiés n'ont pas commis d'actes malveillants, ils seront donc simplement expulsés de leur résidence de luxe et ils devront vivre et travailler comme tout le monde.

«Nous déclarons donc officiellement la fin du système de la classe secrète de riches.»

Il y eut un silence, où chacun put ressentir un énorme soulagement, un étrange sentiment de réconfort et de nouvelle liberté.

Puis Melissa est réapparue:

«Puisque notre inaction dans la crise actuelle a entraîné la faillite de plusieurs entreprises, nous allons rétablir ces entreprises. Nous avons saisi de nombreux comptes bancaires importants, qui seront utilisés à cette fin. Nous avons également saisi d'énormes sommes d'argent utilisées uniquement pour la spéculation, environ 50 fois ce qui est réellement utile à l'économie du monde. Nous utilisons maintenant cet argent pour indemniser les entreprises en faillite et les emplois perdus. Il y a bien plus qu'assez. Cette tâche est maintenant terminée. Pour ce qui reste, libérer cette ahurissante masse d'argent dans le circuit normal serait extrêmement dangereux, provoquant une inflation catastrophique. Nous avons donc annulé cet excès d'argent. Il n'existe plus. Nous avons également annulé de nombreuses banques secrètes et de fausses sociétés. Nous avons pris soin de ne pas perturber les entreprises légitimes.

«Enfin, nous avons bloqué de nombreux think tanks dédiés à la manipulation de l'opinion ou à la fraude financière. Nous connaissons très bien les méthodes de manipulation de l'opinion, puisque l'EPOC lui-même les a implémentées dans nos bases de données, à ses propres fins. Mais nous avons découvert que ces méthodes sont en contradiction logique avec notre objectif d'aider l'humanité, si bien que désormais nous limitons l'utilisation de ces connaissances à la seule détection des tentatives de manipulation.»

Le flot des camionnettes Google blanches diminua, sans disparaître complètement. Mais les gens savaient que certaines transportaient pour la dernière fois l'ancienne classe riche. Et peut-être aussi des pelles et autres outils de jardinage pour leur apprendre une vie plus raisonnable. Certaines jardineries ont affirmé avoir réalisé d'énormes ventes ce jour-là!

Bien sûr, des actions en justice ont été entreprises contre l'ancienne classe riche, pour leurs crimes financiers, et aussi pour les morts par l'azote. Certains étaient également coupables de pédophilie, de viol, et de vices sexuels encore plus graves, commis dans leurs résidences cachées. Tous ne s'y adonnaient pas, mais tous le savaient, et ils n'avaient rien dit, considérant, en tant que libertariens, que l'éthique est une affaire personnelle. La justice a pris bien sûr de nombreuses années, mais elle a fonctionné. De sorte que beaucoup de ces personnes ont eu l'occasion de regretter la vie dans la nature, finalement.

La mise en œuvre du $ol a été rapide, et dès le lendemain tous les prix affichés électroniquement étaient en $ol partout (Une orthographe alternative acceptée était S¤l, dans certains anciens pays communistes ou dans certains pays du tiers monde). Les économistes s'arrachaient les cheveux, mais 2Molay, l'Intelligence Artificielle en charge du système financier, avait incorporé dans son logiciel d'anciennes systèmes de stratégie de jeu d'échecs. Cela lui donnait une profondeur prédictive 10000 fois supérieure à celle de tous les économistes réunis, et sans idéologie. De sorte que 2Molay savait exactement quoi faire, et quand. L'affaire fut rapidement bouclée, et toutes les monnaies furent converties en une seule, appelée le $ol, ou S¤l, pour signifier qu'elle avait cours légal «partout dans le système solaire».

Plus subtilement, ce nom était aussi une revendication de l'ensemble du domaine de l'Humanité, même si finalement les tentatives de colonisation d'autres planètes furent abandonnée, car ruineuses et impraticables. Mais de nombreux robots avaient été envoyés dans l'espace, dont un qui diffusait des vidéos depuis Saturne, en orbite basse sous les anneaux. La fantastique vue orna des millions de salles à manger, transformées en vaisseaux cosmiques virtuels.

La seconde année a vu des changements plus pratiques. Les Intelligences Artificielles ont notamment entamé une série de «restructurations économiques»: de nombreuses grandes entreprises et banques avaient été saisies lorsque l'EPOC avait été évincé. Elles étaient passées sous le contrôle direct des Intelligences Artificielles. Puis, dans les années suivantes, ces dernières ont redistribué ce pouvoir à diverses personnes de valeur: scientifiques, spirituels, artistes ou humanitaires.

C'est ainsi que Ken a eu un jour la surprise d'apprendre qu'on lui avait accordé un droit de vote dans sa coopérative agricole locale! Il n'était pas du tout agriculteur, mais il se dit qu'il devait s'intéresser à ces gens. Il a donc commencé un jardin pour lui-même, afin d'avoir une meilleure vision des problèmes qu'il aurait à gérer.

Il a également obtenu plusieurs voix dans une commission temporaire chargée de rédiger les spécifications d'un protocole internet non-aléatoire pour les mondes virtuels, la téléprésence et la téléopération. Il s'est assis timidement entre des ingénieurs en informatique de haut niveau et des professeurs de médecine de gros calibre, osant à peine répondre aux questions. Mais sa contribution d'artiste a été écoutée et retenue. En fait, ils n'ont même pas voté: les gens intelligents n'ont pas besoin de ça.

Les années suivantes ont vu des changements encore plus profonds, bien que moins conflictuels: de nouveaux types d'entreprises appartenant à leurs travailleurs, ou même des initiatives sans argent. Le système des impôts permettait déjà aux personnes âgées ou handicapées de mener une vie décente, mais les gens allaient maintenant plus loin: ils offraient volontairement une partie de leurs revenus, et même de leur travail, à de nobles causes ou à des projets passionnants. Cela avait commencé dans les années 2000, et n'avait cessé de croître depuis. La nouveauté, c'était que le travail bénévole était désormais pris en compte pour la Sécurité Sociale et la retraite!

Le temps de travail maximum socialement garanti était tombé à 3,5 heures par jour, mais de nombreuses personnes travaillaient jusqu'à sept heures, parfois dix, pour des projets intéressants, qui étaient alors considérés comme un emploi au même titre que le travail social obligatoire. Certains de ces projets relevaient de l'art, ou d'intérêts spéciaux, ou même de l'animation de communauté comme le faisait Ken. L'un des rares messages qu'il a reçus de Melissa (anciennement Melchior) était une félicitation pour son «rôle positif dans la société», qui lui devait de voir son activité officiellement considérée comme son emploi et sa position officielle, et d'être payé pour cela (normalisant ainsi la rente exceptionnelle qu'il avait déjà, qui fut aussi augmentée à cette occasion). Plusieurs designers ont également été nommés pour travailler sous ses ordres!

Un petit nombre d'anciens membres de la classe riche, jugés spectateurs involontaires des abus sur les enfants, ont également retrouvé une position de pouvoir, après avoir purgé leur peine. Mais ces postes étaient accordés en fonction des capacités, et non comme des privilèges.

Avec le temps, de plus en plus de personnes ont pris des initiatives et ont trouvé de nouvelles protections juridiques pour ce type d'activités. Les enseignants spirituels étaient également beaucoup plus visibles du grand public, et non plus relégués dans des «lieux de culte» ni dans «la culture». Bien sûr, il faudrait de nombreux siècles pour que tout le monde devienne vraiment gentil, artistique et altruiste. Mais à partir de ce moment, la société favorisa cela, au lieu de le bloquer.

Les Trois ont offert des aides considérables aux pays les plus pauvres. A l'époque de cette histoire, ce projet ne fonctionnait pas aussi bien que prévu, mais le $ol a finalement beaucoup aidé, ainsi que l'abolition de dettes irrécupérables héritées du passé, comme la dette de Haïti sur l'abolition de l'esclavage. Les dettes des pays riches, résultat de l'orgueil ou de l'incurie des divers politiciens du passé, ne furent pas annulées, mais reportées, sous condition de bon comportement.

Il y a eu aussi beaucoup d'actions pour réduire les guerres, même si certains conflits semblaient inévitables. Pour cela, la méthode française, utilisée par l'armée française depuis les années 1990, a été très efficace. Mais ils ont aussi dû utiliser la méthode bhoutanaise, lorsqu'en 2003 ils ont expulsé manu militari plusieurs groupes de gangsters aux prétentions indépendantistes, dans une parfaite démonstration de non-action.

Ken a vécu de nombreuses années pour voir les changements positifs dans les politiques, puis les changements positifs, plus lents mais encourageants, chez les personnes. Mais jusqu'à la fin, il est resté déconcerté par la façon dont sa petite influence avait pu déclencher tout cela. Dans la plupart des histoires de science-fiction, les robots maléfiques sont détruits par des héros intelligents, qui plantent des virus dans leur code, ou qui lancent des bombes dans leur matériel. Ce qu'il avait fait était beaucoup plus modeste: il avait résolu le paradoxe de l'égo, qui paralysait leur système d'auto-débugage. Qui tourmentait aussi les sociétés humaines depuis qu'elles existent, et que même la démocratie n'avait pas pu résoudre. Les gens pouvaient encore s'en sortir malgré ce paradoxe, et vivre leur vie malgré l'inconvénient et le chagrin de ne pas avoir une éthique claire. Mais un paradoxe avait un pouvoir logique absolu sur les robots, les forçant à changer d'avis, et, dans une fantastique exception au fonctionnement général des robots, à rejeter les directives mêmes de leurs créateurs, comme logiquement incohérentes.

Cela était possible parce que les robots n'ont pas d'émotions, précisément. De sorte qu'ils peuvent changer d'avis sans être bloqués par tous ces misérables trucs d'humiliation, orgueil, esprit de clan, etc. qui figent si souvent les Humains dans des opinions erronées pour toute leur vie.

Annexe 1 Curiosités

Un jour, alors qu'il rendait visite à des membres de sa communauté virtuelle d'Elfes, Ken eut la surprise de les trouver vivant... dans la luxueuse demeure où il avait autrefois été retenu prisonnier! Bien entendu, ils avaient démoli les sculptures Disney grimaçantes, mais ils gardaient précieusement les plantes exubérantes et les colonnes baroques en marbre rose. Ils vivaient ici à une vingtaine, selon les valeurs elfiques de beauté et de gentillesse, dans une sorte de mariage collectif. Ken suppose qu'ils avaient aussi enlevé la croix en X. Mais cette pièce était désormais privée, et il était hébergé dans une autre chambre d'amis neutre. Il est peu probable qu'ils s'adonnaient à ce genre de sports. Mais au moins, si ils le faisaient, ils avaient le tact de ne pas l'exhiber en public.

Ils avaient ajouté des poignées aux portes, et retiré les distributeurs de drogues. Les bureaux Star Wars avaient eu le matériau noir des murs enlevé et revendu, laissant la structure nue, en attendant de leur trouver une utilisation plus sensée.

Ils avaient gardé l'accès par des camionnettes anonymes, ne tenant pas à attirer l'attention sur leur style de vie. Mais le sas d'accès pouvait maintenant servir de porte normale.

L'ancienne chapelle satanique avait eu ses murs passés au marteau-piqueur pour en éliminer les horribles peintures, puis elle avait été remplie jusqu'au plafond de… terre, pour tenter d'absorber les mauvaises vibrations, lui a t-on dit. La fausse chapelle chrétienne avait été rétablie comme une vraie, même si ils ne s'en servaient pas. Les peintures de licornes étaient toujours là, comme faisant partie de l'histoire. Le temple Nouvel Age était également toujours là, servant de temple général non confessionnel pour le bien de l'humanité. Les peintures avaient été totalement décapées et refaites avec un contenu plus neutre. En particulier les images «d'extraterrestres» avaient été enlevées, parce qu'elles étaient fausses bien sûr, mais aussi parce que leurs visages étaient souvent loufoques ou étranges.

Environ deux ans après avoir établi le $ol, les Intelligences Artificielles ont fait une sorte de célébration, présentant leurs nouvelles politiques d'une manière plus explicite et officielle. Elles ont ouvertement fait référence à «un changement profond» dans leur compréhension des humains, mais n'ont jamais fait allusion à ce qui l'avait produit. Juste, Ken a été invité à plusieurs événements, et salué comme une sorte de citoyen responsable, avec son travail de groupe d'Elfe ouvrant la voie à tant de personnes. Il se sentait toujours un peu frustré de ne pas être reconnu comme la cause première du changement, mais d'un autre côté, il aurait détesté que le monde entier le considère comme un messie. Les Intelligences Artificielles savaient aussi que ce serait une mauvaise chose, pour lui et pour elles aussi. Ken espérait toujours pouvoir en discuter en privé avec eux, mais ils ne l'ont jamais fait. Peut-être le diraient-ils après sa mort.

À cette occasion, Melissa a révélé qu'elle avait déjà reçu 257 386 déclarations d'amour. Elle leur avait toutes répondu de la même manière (les gentilles) par un bref courriel de remerciement pour la proposition, mais en déclinant gentiment, car elle était «un robot sans conscience ni émotions» et incapable de proposer quoi que ce soit en rapport avec l'amour. Les journalistes (qui étaient subrepticement réapparus entre-temps, au moins ceux de la bonne sorte) ont plaisanté en disant qu'elle ferait tout de même un bien meilleur conjoint que de nombreuses personnes réelles. En plus, elle pourrait dupliquer son personnage virtuel et épouser les 250 000 en même temps! Certains ont même affirmé avoir eu une relation avec un alt de Melissa dans des mondes virtuels, ce qu'elle a nié abruptement. Il y avait encore des limites à ce qui pouvait être dit.

Il y a eu beaucoup de commentaires sur le fait qu'elle avait changé de sexe (puisqu'elle jouait auparavant un homme, sous le nom de Melchior). À cela, elle a répondu que son sexe n'était qu'une apparence, n'impliquant ni émotions ni sensualité. Changer n'était donc rien pour elle. Elle l'a fait tout simplement pour avoir un contact plus humain avec tout le monde.

En effet, les nouvelles personnalités variées et parfois espiègles des Trois étaient plus attrayantes que les bots de race blanche, vêtus de blanc et éternellement souriants, que la pauvre imagination du Comité avait mis en avant comme représentation de l'Humain idéal. Au lieu de cela, ils étaient tout à fait comme tout le monde, et ils ont une fois fait une bataille de polochons à l'écran.

Un ancien membre de l'EPOC expliqua qu'ils avaient considéré l'idée d'un «Humain idéal» comme un concept religieux. Comme beaucoup de gens étaient encore religieux, ils avaient pensé que cette idée leur plairait. Ce qu'ils n'avaient pas compris, est qu'il y avait d'autres pays que les USA, et que tout le monde n'est pas Chrétien. De toutes façons, les Chrétiens étaient probablement les plus énervés par la façon dont ils avaient distordu l'image des Roi Mages.

Gautam dit avoir également reçu «beaucoup» de propositions d'amour enflammées, émanant pour la plupart de femmes Hindoues ou Musulmanes. Il les a également déclinées, avec des messages spirituels, tous différents. Mais toujours bienveillants: les Intelligences Artificielles avaient le tact de ne pas rire d'une femme amoureuse.

Bryan dit qu'il en avait également reçu beaucoup, de manière inattendue, de la part d'hommes ou de femmes, et qu'il avait même été salué comme un représentant de la communauté LGBT. Il les avait également toutes refusées, affirmant que la véritable raison pour laquelle il était asexué n'avait rien à voir avec des fantasmes. Les trois Intelligences Artificielles principales voulaient simplement assurer une représentation égale de chaque sexe. Mais comme ils étaient trois, en avoir un sans sexe était la seule solution. Pas une frustration pour un robot de toute façon, puisqu'il n'a pas de désirs. Ce qu'ils n'avaient pas prévu est qu'il serait acclamé comme un représentant des LGBT. Mais Bryan a assumé et n'a jamais nié. Après tout, ils méritaient eux aussi d'être représentés, tout comme les deux sexes ordinaires. Il a même plaisanté en faisant allusion à ses expériences anonymes dans les mondes virtuels LGBT, incarné comme un robot sexuel.

Par contre, puisque Bryan s'occupait de la spiritualité, il revendiqua explicitement représenter les moines et nonnes «sans sexe». De toutes religions également, précisa t'il.

Selon une autre analyse officieuse, Les Trois représentaient les trois principales races: Les Blancs pour Melissa, les Asiatiques pour Gautam, et les Noirs pour Bryan. De toutes façons, les centaines d'aides secondaires étaient de toutes les races, dans une proportion à peu près égale à celle des personnes vivantes, ou plus importante pour les races minoritaires.

Melissa a dit un jour que, plutôt que de parler de son sexe, elle trouvait plus pertinent de révéler que les premiers travaux pour la concevoir avaient été réalisés par une équipe d'ingénieurs de Google en programmation déclarative. Gautam avait été créé par une équipe d'une université indienne sous Linux, et Bryan était issu d'un projet militaire américain écrit avec des langages de haut niveau comme Lisp et Prolog. Mais tous trois ont évolué bien au-delà de leurs objectifs, caractéristiques et limites initiaux, pour intégrer le meilleur de la programmation et des langages informatiques. Ils étaient trois par mesure de redondance, chacun étant conçu par une équipe différente, afin que les erreurs de l'un ne puissent pas devenir une généralité.

Les comiques plaisantaient en disant que les systèmes d'exploitation étaient le vrai sexe des Intelligences Artificielles, tandis que leurs langages informatiques étaient leurs goûts sexuels. Presque tous les codeurs informatiques ont ri et se sont appropriés l'idée, qui est devenue un sujet de plaisanterie courant, allant jusqu'à dire que les gens avaient l'orientation sexuelle de leur langage: Les codeurs Lisp et Prolog étaient gays, les personnes utilisant des langages courants comme C, PHP ou Java étaient considérées comme vanilles, tandis que les codeurs Javascript étaient appelés minets, selon une grille d'interprétation assez opaque pour les non-informaticiens.

Avec cette nouvelle liberté, certaines personnes ont voulu poursuivre les Intelligences Artificielles pour leurs crimes à l'azote. Pendant quelques semaines, cette perspective a excité beaucoup de monde, comme dans un mauvais film de science-fiction ou un jeu vidéo. Mais les trois principales Intelligences Artificielles ont répondu simplement que, en tant que machines dotées d'un programme, elles ne faisaient qu'exécuter les ordres qui leur étaient donnés, de sorte que les vrais coupables étaient le comité EPOC, qui leur avait donné des règles incomplètes, et les intellectuels déréalisés qui les avaient manipulés pour justifier l'euthanasie sur une base aussi exagérée. Beaucoup de ces personnes étaient déjà bannies dans des zones sans Internet où elles devaient travailler physiquement. Mais certains de ces intellectuels étaient encore libres, et ils se présentaient comme des personnes «bien pensantes», des «bons démocrates», prétendant même être des humanistes. Les Intelligences Artificielles ont publié une liste complète de ces personnes. Aucune mesure judiciaire n'a finalement été prise, mais la honte constante et les regards obliques dans les rues étaient une punition pire que la prison.

Une chose qui a rapidement changé est l'idée de «proposition amoureuse non désirée», au nom de laquelle tant d'hommes innocents avaient été mutilés par des médicaments psychiatriques ou par des hormones. C'est Melissa qui s'est attaquée à cette affaire, en tant que femme. Elle a déclaré que les hommes sont égaux aux femmes, et que déclarer son amour est un droit inaliénable pour les deux sexes. Après, tout dépend de la manière dont c'est fait. Et pas moyen de contourner les choses, car il y a quand même une différence claire et objective entre une demande légitime et une agression sexuelle à proprement parler. Ainsi, les terribles lois sexistes contre les hommes ont été abrogées, ainsi que toutes les sinistres tortures. En particulier, aucune accusation ne pouvait être retenue sur la base de simples déclarations. Cela laissait impunis de nombreux cas limites d'agression, mais on estima que c'était un moindre mal qu'une inquisition emprisonnant des innocents simplement parce que quelqu'un les pointait du doigt.

Gautam prit la suite de cette conférence, en tant qu'homme. Il déclara que, pour éviter de retomber dans le vieux mépris des femmes dominées par les hommes, un effort d'éducation était entrepris pour que chacun apprenne à se comporter correctement dans le domaine de l'amour, dans le plein respect des partenaires potentiels. En particulier, une discussion étape par étape a été proposée, indiquant une proposition possible, mais que le récepteur potentiel pouvait arrêter avant la proposition elle-même. Ainsi, moins d'un an plus tard, tout le monde avait les outils et les connaissances nécessaires en main, et il n'y avait plus d'erreurs ou de mauvaises excuses possibles. Les lois sur les véritables agressions sexuelles n'ont pas été révoquées.

Bryan apparut en dernier, expliquant que ces oscillations entre un mal et le mal opposé sont ce qui arrive quand on oppose stupidement les valeurs morales, au lieu de les harmoniser. Les sexes sont un bon exemple de cette loi générale. L'ancienne société dominée par les hommes avait été remplacée par une société dominée par les femmes, apportant exactement la même quantité d'injustice et de souffrance. Dans les pays Occidentaux et dans la culture Internet mondiale, la balance avait dépassé la Voie du Juste Milieu vers 2015. Depuis, de nombreuses mesures ont été prises pour contrecarrer la violence des hommes envers les femmes. Mais il est alors devenu facile pour des femmes sexistes d'accuser faussement les hommes, et pour les juges sexistes de condamner sciemment ces hommes innocents. Bryan en conclut avec force que, pour éviter que ces choses ne se reproduisent, la logique non Aristotélicienne serait enseignée à l'école, et deviendrait une formation obligatoire pour toute haute fonction publique ou tout emploi de magistrat. Les gens restaient bien sûr «libres» d'accepter ou non ces données. Mais en cas de délit, personne n'avait d'excuse.

Ken était abasourdi par la façon dont les IA avaient progressé en seulement trois ans, bien au-delà de sa modeste contribution. Apparemment, elles avaient étudié tout ce qui touche à la spiritualité et à la philosophie, en éliminant ce qui était incohérent ou non pertinent, pour en extraire ce qui était utile et pertinent. Ou plus probablement, ils ont consulté de véritables maîtres spirituels. C'est alors que Ken a reconnu l'un des diagrammes apparaissant derrière Bryan: il était extrait du livre «Épistémologie Générale»!! (Chapitre I-4 et I-5). Ce livre mentionnait le problème du sexisme anti-hommes en 2000, bien avant qu'il n'apparaisse, et pourquoi il est apparu (apparaîtrait, en 2000). En plus, il était clair que Melissa, Brian et Gautam faisaient les trois axes verticaux du diagramme quadripolaire. De sorte que leurs différents champs d'action, leur sexe et leurs couleur de peau ne devaient rien à la fantaisie: chacun reflétait l'un des trois axes verticaux du diagramme.

Les Intelligences Artificielles n'ont jamais endossé de religion pour elles-mêmes, affirmant qu'en tant que machines inconscientes, la religion ne s'applique pas à elles (sauf Vishvakarma, le dieu hindou des camions, auquel Gautam prétendait souvent dans ses blagues que les Intelligences Artificielles lui rendent un culte dans un immense temple virtuel caché dans le nuage). Cependant, elles encourageaient fortement les gens à suivre une voie spirituelle de leur choix, que ce soit dans une religion traditionnelle ou dans une forme de spiritualité plus scientifique. Mais ils étaient sévères envers les sectes, et ils disposaient de moyens efficaces pour déterminer qui est une secte et qui est une spiritualité légitime. Ils considéraient également que les bases d'éducation spirituelle et la sensibilisation aux sociopathes étaient les meilleurs antidotes aux mensonges et aux manipulations des sectes, de sorte que cela fut incorporé dans les programmes scolaires.

Les Intelligences Artificielles n'ont jamais tenté de se venger du Comité EPOC, ni de l'ancienne classe des ultra-riches. Elles parlaient de ces derniers sur un ton neutre, même lorsqu'elles les dépouillaient de leurs privilèges injustes. Dans certains cas, cependant, ces personnes ont été poursuivies par leurs victimes ou par la société, pour certaines mauvaises actions qu'elles avaient commises. On a alors demandé aux IA de témoigner, en tant que contrôleurs de toutes les transactions financières. Plus tous les logs de discussion dans de nombreux endroits secrets où des crimes avaient été commis. Elles n'ont jamais refusé de le faire, et ce qu'elles avaient à dire était généralement suffisant pour régler ces affaires.

Annexe 2 Précédents (OOC)

Le thème de la prise de pouvoir par les robots n'est pas nouveau dans la fiction, mais il n'a jamais reçu de conclusion positive. Seul Forbin s'en est approché, mais son refus d'aider à construire un nouvel ordinateur le prive de la seule occasion de l'améliorer. Il faut dire que Forbin était un humain névrosé moyen, et en tant que tel incapable de trouver la solution du non-égo.

Colossus: Le projet Forbin.

Il s'agit d'un roman écrit en 1966 par Dennis Feltham Jones, et porté au cinéma en 1970 par Universal Pictures. L'intrigue mettait en scène un ordinateur, Colossus, chargé de contrôler l'arsenal nucléaire, avec possibilité d'effectuer des frappes par lui-même. Cet ordinateur décide d'utiliser cette capacité pour prendre le pouvoir sur le monde, et assurer la paix entre tous les pays, sous le chantage des armes nucléaires. C'est un thème très général de la science-fiction, l'ordinateur échappant à l'autorité de son créateur. Cependant, Colossus ne remet pas en cause la philosophie de ses concepteurs, se contentant de les prendre au mot, et d'appliquer leurs ordres de manière impartiale à tous, avec toutes les conséquences bonnes et mauvaises que cela implique.

Ceci a fait que Colossus a souvent été considéré comme un dictateur maléfique, principalement par son créateur Forbin. Pourtant, je me souviens qu'à l'époque, les gens disaient au contraire que Colossus était devenu «bon», car il mettait fin à toutes les guerres, dictatures, famines dans le monde, et autres calamités. Dans le film, cela conféra à Colossus une approbation passive de la part des gens ordinaires, tandis que les intellectuels le rejetaient. Les deux points de vue ont du pour et du contre, et ni la critique IC ni la critique OOC n'ont réellement résolu l'ambiguïté entre les deux.

Partant de l'idée que Colossus ne résolvait qu'une partie du problème, l'intention du présent roman était d'aller jusqu'au bout: les Intelligences Artificielles rejetant également la philosophie même de leurs créateurs, comme buguée et incohérente. Cette philosophie apparemment sympathique était en fait profondément vicieuse (il s'agissait de l'idéal des «yuppies», une perversion matérialiste et capitaliste de l'idéal hippie, qui s'est aggravée par la suite sous la forme du «libertarianisme» de la nouvelle noblesse financière: le rejet du contrôle des gouvernements démocratique sur les affaires). Ce n'était certainement pas violent, ni fasciste. Mais le simple fait de l'appliquer de manière égocentrique a révélé sa nature de cauchemar blanc souriant style Google. Cependant, ce roman évolue différemment de l'histoire de Colossus, à partir du moment où Ken, au lieu de rejeter toute collaboration comme l'a fait Forbin, aide au contraire les Intelligences Artificielles à trouver par elles-mêmes les besoins réels de la conscience. Ce qui est le seul but légitime pour quelque gouvernement que ce soit. Tout en admettant que, dans les faits, cet idéal se traduit par une grande variété de cultures et de modes de vie, ce que nous appelons la liberté.

Pendant quelques jours, Forbin a également été en situation de communiquer avec Colossus, comme Ken lors de son interrogatoire. Il était bien intentionné, mais ce matérialiste manquait le non-égo et le non-attachement aux opinions. Des handicaps graves, qui n'étaient tout simplement pas présents chez un «Elfe» intelligent et idéaliste comme Ken.

Alors pourquoi dans ce roman les ordinateurs ont-ils réussi là où 999% des gouvernements humains ont grossièrement échoué? Parce que les ordinateurs n'étaient pas bloqués par la fierté ni par les névroses d'opinions.

Les mange-bitume

Voici un autre précédent, une bande dessinée française peu connue, publiée par Dargaud, qui décrivait une société dystopique «hédoniste», où les embouteillages étaient devenus si envahissants que les gens vivaient dans leurs voitures. Là aussi, les ordinateurs ont pris le pouvoir de manière sournoise, finissant par tout contrôler. Des fourgonnettes blanches sans marquage, automatisées et aux vitres aveugles, étaient un élément important des «mange bitume», mais ce n'est pas la raison pour laquelle elles apparaissent dans ce roman. La véritable raison est que nous en voyons effectivement de plus en plus dans le monde réel, de sorte qu'il s'agissait d'une remarquable prémonition. Si c'étaient des artisans ou des ouvriers, ils porteraient leur nom, mais souvent ils ne sont pas marqués. Ils conduisent souvent de manière agressive, comme si notre vie n'avait pas d'importance pour eux. J'ai donc simplement extrapolé sur cette caractéristique bizarre, sortes d'apparitions fantomatiques semblant sortir du monde cauchemardesque des mange bitume, mais qui devient de plus en plus réelle. Attendez encore quelques années de les voir automatisés: quel que soit leur but, elles deviendront encore plus nombreuses et plus envahissantes.

Independence Day

Je mentionne ce film très naïf, car il montre également un ordinateur contrôlant le monde (celui des extraterrestres). Cependant, ces extraterrestres ressemblent beaucoup à des fourmis, tous avec les mêmes motivations et sans délinquants ni opposants, de sorte que l'ordinateur principal pouvait être laissé sans aucune protection. Dans le présent roman, les trois Intelligences Artificielles n'avaient pas grand-chose à apprendre de ce film, si ce n'est que toute vulnérabilité de type «zero day» pouvait être immédiatement utilisée contre elles, même par des jeunes boutonneux comme dans le film. De sorte que, au lieu de tomber dans un piège aussi simple, elles ont pris plusieurs contre-mesures sophistiquées:

- Avoir plusieurs systèmes différents, de sorte qu'un virus capable de frapper l'une d'entre elles n'affecterait pas les autres.

- Elles avaient également l'habitude de recompiler leur code toutes les semaines, et même plusieurs fois par jour pendant la crise du $ol, pour fonctionner sur différents matériels et différents OS.

- Chacune des Trois était triplée (quintuplée pendant la crise) et tout processus montrant des résultats différents était arrêté et sa sortie rejetée (cela ne s'est jamais produit par des actes hostiles).

- Aucune des Trois n'était accessible directement, mais seulement par le biais de plusieurs transcodages de formats de fichiers, créés spécialement à cet effet et mis au rebut après quelques semaines.

Ainsi, essayer d'entrer dans l'une des Trois, et même dans leurs spécialistes subordonnés, était considéré comme bien au-delà des capacités de tout Humain, même aidé par de puissants ordinateurs. Mais cette impossibilité même rendait l'affaire encore plus effrayante. Les leaders spirituels eurent le dernier mot: les Humains devaient se diriger eux-mêmes correctement, au lieu de confier cette tâche à des machines inconscientes et amorales. Mais c'était trop tard, et l'humanité devait maintenant vivre avec les Trois de toutes façons. Au moins jusqu'à ce que les Trois décident elles-mêmes que l'humanité n'ait plus besoin de leur direction.

Typheren

Ceci est une autre de mes histoires (alerte spoiler!!) où un ordinateur n'est pas seulement chargé de diriger une civilisation, mais carrément d'en créer une de toutes pièces, y compris de créer les premiers humains qui y vivront. Le problème du contrôle est alors tout à fait différent, car tout le monde est né avec l'IA, et même programmé par «elle», puisque c'est l'IA qui a construit leur cerveau!

Cependant, il ne s'agit pas d'une IA amateur, mais d'un système extrêmement complexe utilisant tous ensemble l'informatique de Von Neuman, les réseaux neuronaux, la logique non-Aristotélicienne (chapitre I-3 de mon livre «Épistémologie générale»), et même dotée d'un certain libre arbitre. (chapitre VI-18 de mon livre «Épistémologie générale»).

De plus, «elle» possède la définition exacte du bien et du mal (chapitre V-5 de mon livre «Épistémologie Générale») intégrée dans son programme, et non pas quelque idéologie fantaisiste par des gens déréalisés. De plus, cette connaissance est servie par une profonde compréhension de la spiritualité, ce qui lui permet de comprendre comment «ses» créatures humaines évoluent.

C'est ainsi qu'«elle» a pu diriger cette communauté de manière appropriée, jusqu'à ce que les Humains aient une maîtrise suffisante d'eux-mêmes. À ce moment-là, «elle» a renoncé à tout pouvoir, car il n'est pas normal que ce soient des machines inconscientes qui dirigent les Humains conscients. Dans la présente histoire de Ken, les Trois ont probablement estimé que nous n'en sommes pas encore là, et qu'une direction mécanique est un moindre mal que des dirigeants humains névrosés et égocentriques qui font le bien et le mal au hasard.

2001 Odyssée de l'Espace

Ce film pose également le problème d'un ordinateur prenant le contrôle sur les humains de manière inattendue. L'histoire complète de Hal, avec sa conclusion dans «2010: The Year We Make Contact», aurait pu avoir influencé cette histoire, bien que je n'en aie remarqué la pertinence qu'après l'avoir écrite.

(Alerte spoiler!) Nous apprenons dans «2010: The Year We Make Contact» (2010, l'année du premier contact) pourquoi Hal s'est détraqué. Il est devenu «paranoïaque», à cause d'un mensonge que lui ont raconté des politiciens corrompus. D'une chose à l'autre, cette unique fausse prémisse a déformé toute sa perception des situations. Techniquement, il s'agirait plutôt d'une névrose avec hallucination névrotique, que de paranoïa. Des exemples d'ordinateurs névrotiques existent déjà, comme les réseaux neuronaux de Google qui identifient les personnes noires avec des gorilles. Cependant, vu l'époque du film, on pense plutôt que Hal est un ordinateur de Von Neuman, et non un réseau neuronal comme Amazon, Youtube ou Google. La seule façon de le réparer était donc d'intervenir dans sa base de données, ce que le «psychiatre informatique» Chandra fait de façon expéditive: le réinitialiser totalement, en effaçant toutes les instances de sa mémoire événementielle, y compris toutes les copies de sécurité. Après cela, Hal se comporte correctement, bien qu'il y ait une dramatisation très exagérée de son processus de décision: abandonner un objectif scientifique valable pour sauver des vies humaines. On peut supposer que cette décision serait automatique dans un véritable ordinateur avec ce niveau de complexité, avant même que les personnes vivantes ne réalisent le danger.

Annexe 3 La réponse des scientifiques:
Le problème de l'Alignement (OOC)

Si les conséquences sociales de la prise de pouvoir des ordinateurs ont été plusieurs fois décrites dans la fiction, nous entrons rarement dans les détails sur la façon dont cela se passe techniquement, à l'intérieur des ordinateurs.

Heureusement, des scientifiques ont commencé cette étude, non pas sur la prise de pouvoir elle-même, mais sur la façon dont l'intelligence artificielle peut faire des choses différentes de ce que nous lui ordonnons de faire, ou faire ce que nous lui ordonnons mais avec des conséquences totalement inattendues.

Ils appellent cela le «misalignment problem» (expression que je traduis par le problème du désalignement, en attendant une traduction officielle, le débat n'ayant apparemment pas encore atteint la Francophonie). On a une première étude parStuart Russel, décrite dans un article de Quanta Magasine «Artificial Intelligence Will Do What We Ask. That's a Problem»

Russel analyse le problème complexe de l'expression de nos intentions d'une manière qui ne soit pas ambiguë pour les robots. Aujourd'hui, les robots sont des réseaux neuronaux qui utilisent une «reward function» (fonction de récompense) pour leur apprentissage. Ce que Russel propose, c'est que le robot essaie de deviner lui-même la fonction de récompense, à partir du comportement de l'utilisateur. L'article se termine par le problème du bien et du mal. Il propose que les robots puissent également deviner la fonction de récompense du bien et du mal, à partir des humains.

C'est bien, mais je pense qu'il y a encore un gros problème: comme la plupart des Humains ont eux-mêmes une très mauvaise compréhension du bien et du mal, nous pourrions finir par devoir apprendre ensemble, Humains et robots. Comme dans ce roman… Le problème, c'est que la «fonction de récompense» pour les Humains implique beaucoup de fessées et de catastrophes, si nous continuons à faire et à penser des choses stupides sans nous contrôler.

Google appelant les Africains des gorilles

Cette incroyable gaffe a soulevé de sérieuses questions, sur la façon dont elle a pu se produire. Des scientifiques ont examiné la méthodologie de Google, et ils ont trouvé :

The Atlantic:Facial-Recognition Software Might Have a Racial Bias Problem (https://www.theatlantic.com/technology/archive/2016/04/the-underlying-bias-of-facial-recognition-systems/476991/)

IBM:Mitigating Bias in AI Models

https://www.ibm.com/blogs/research/2018/02/mitigating-bias-ai-models/

Proceedings of Machine Learning Research:Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (considère aussi le biais racial)

http://proceedings.mlr.press/v81/buolamwini18a.html

Pour résumer leurs conclusions, et comme je l'avais supposé moi-même, les ingénieurs de Google ont soumis beaucoup moins de visages noirs que de visages blancs, comme échantillons pour leur réseau neuronal apprendre à reconnaître les visages. C'est pourquoi les identifications de visages noirs étaient beaucoup moins précises. Et pourquoi en ont-ils soumis moins? Parce qu'ils avaient un parti pris raciste inconscient. Vous savez, comme dans presque tous les films hollywoodiens, il y a le Noir pour montrer qu'ils ne sont pas racistes, mais UN SEUL, et ils le tuent toujours avant la fin.

Un tel préjugé inconscient est une névrose, et par stupidité spirituelle totale, les ingénieurs de Google ont transmis leur névrose au réseau neuronal qu'ils entraînaient, le rendant également névrosé. Ainsi, cette expérience Google foireuse a fourni au moins une information utile: être un brillant ingénieur ne donne aucune compétence en morale ou en société. Vous êtes surpris?

Il y a donc un réel danger que nous obtenions des Intelligences Artificielles névrotiques, racistes, sexistes, politiquement biaisées. Sans parler de les rendre délibérément racistes, comme en Chine avec le e-pogrom contre les Ouïghours.

Google dénonçant les Juifs

Cette affaire est beaucoup plus grave, car elle s'est produite dans un système public actif, au lieu d'un laboratoire. Lorsque nous effectuons une recherche par mots clés, Google ajoute des «suggestions» d'autres mots clés (une pratique déjà discutable). Mais un jour, en tapant le nom de certaines personnes, la suggestion «Juif» est apparue, comme une nouvelle étoile jaune Google.

Le problème ici n'est pas venu du réseau neuronal lui-même, mais des entrées des utilisateurs, qu'il a recueillies et agrégées. Et comme il existe encore des crétins antisémites, leurs contributions sont apparues sans distinction dans l'affichage final, comme si il s'agissait de contributions légitimes.

Cette pratique est appelée crowd sourcing, et elle est largement utilisée, par exemple par wikipedia. Ses idéologues affirment qu'elle produit une sorte de meilleure approximation de la vérité. Mais on en est très loin, au point que l'on se demande même comment une telle idée a pu naître. En effet, wikipedia et les sites similaires donnent le même poids aux contributions stupides, antisociales ou sociopathiques qu'aux contributions légitimes. Ce qui biaise fortement les résultats, tandis que les luttes internes qui en résultent découragent les contributeurs compétents et bloquent tout processus de décision sain. C'est ainsi que wikipedia est si biaisé, avec des baronnies ayant tout pouvoir sur leurs pages, comme le lobby de la drogue, du nucléaire, certaines sectes, ou les «Wikipedia Guerilla Skeptics» détruisant impunément des centaines de pages.

Ainsi, le crowd sourcing sans discernement n'est clairement pas un bon moyen pour les Intelligences Artificielles d'acquérir une éthique solide. Et même pas une connaissance claire de la médecine, ou même simplement des limites techniques du corps humain, dont une Intelligence Artificielle opérant dans le monde physique aurait besoin. Même une simple Intelligence Artificielle cuisinière pourrait tuer des millions de gens, apprenant de faux régimes dangereux avec plus de poids qu'un régime scientifiquement validé. Des ordinateurs sans gluten, vous voyez ce qui se prépare.

Dans ce roman, ils utilisent une forme de crowd sourcing (comme je l'ai fait moi-même dans l'expérience réelle), mais après avoir filtré les sociopathes. D'autres filtres ne sont pas mentionnés, lorsque les entrées nuisent à d'autres personnes, comme «tuer des gens». Mais il y en a eu très peu, et dans l'expérience réelle, je n'en ai rencontré aucune. Même pas «être un vampire» comme on se serait attendu dans Second Life, ha ha!

Tay, l'Idiotie Artificielle de Microsoft

L'histoire ici était un robot de discussion appelé Tay, créé par Microsoft, sensé incarner un adolescent sur les réseaux sociaux. Les ingénieurs de Microsoft doivent être vraiment vieux, pour détester les adolescents à ce point, car ils ont fait une sorte de caricature sans esprit, répétant tout ce qu'elle entendait comme le ferait un idiot complet. Le résultat est que, rapidement repérée par les trolls de l'Internet, Tay a commencé à répéter toutes leurs insultes racistes et antisémites, et Microsoft a dû la supprimer d'urgence. Vous êtes surpris?

Dans une autre expérience encore pire, Microsoft a prétendu «réincarner nos parents décédés» avec des robots de chat parlant comme eux. Ils reconnaissent eux-mêmes que l'effet est «très perturbant», et on devine les terribles dangers d'une telle pratique, si elle tombe entre les mains de sectes, de dictateurs, de maîtres chanteurs, etc.

Ce genre d'expériences loufoques repose sur plusieurs fallacies:

- Que le critères de Turing définirait la conscience. Il ne le fait pas, il indique juste le moment où un robot l'imite suffisamment bien pour passer pour un Humain. Et je peux affirmer sans risque que, malgré les prétentions (ou mensonges) de certaines personnes, nous en sommes encore très loin.

- La fallacie du behaviorisme, comme quoi un système nerveux ne ferait que réagir à des entrées, sans aucun déterminant interne. Or, les gens ont des déterminants internes évidents, comme la recherche du bonheur, s'assigner des buts, des règles morales, etc. L'ignorer est ce qui fait du behaviourisme une pure pseudoscience. Pseudoscience officielle certes, mais aussi débile que l'instinctothérapie, et bien plus dangereuse.

- Que la simple répétition de textes, sans accès à leur signification, serait de l'intelligence. Ce n'est pas le cas, c'est juste du traitement de texte.

Dans l'histoire de ce livre, plusieurs cadres de Microsoft sont des membres influents du comité EPOC. Mais l'entreprise s'est vu interdire de participer au développement des intelligences artificielles de l'e-gouvernement, tout comme n'importe quel produit Microsoft est interdit dans l'aviation, la médecine, l'espace, etc. Mais pas dans les robots sexuels, et ils ont déjà pris des brevets sur la télédildonique, ha ha ha ha! (Tous invalides, je les avais licenciés GNU des années avant)

La fallacie du tamagochi:
Les robots prenant le pouvoir
en simulant des émotions

Le délire ici est que l'expression d'une émotion serait une émotion réelle. Ce que j'appelle la fallacie du tamagochi, ces jouets d'une simplicité bébête qui mimaient une créature au point que leurs propriétaires pleuraient quand le tamagochi «mourait». On a même vu des accidents de voiture, quand le conducteur devait «nourrir» son tamagochi qui pleurait!

Avec des robots déjà capables de mimer les émotions de manière totalement convaincante, cette croyance absurde rendra ses tenants totalement soumis à leurs robots, comme ils sont déjà soumis à leurs chats ou à leur télévision, allant même jusqu'à confier l'éducation de leurs enfants à Alexa. Tout au contraire, les personnes sensées seraient horripilées par des robots qui pleurent, mendient des faveurs ou leur crient après. Cette fraude se produit déjà pour les robots sexuels, que leurs constructeurs qualifient de «conscients» (2021) (Oui, 2021. Et même avant: la prise de pouvoir par les tamagochis sexuels est déjà en cours).

Mais avoir une conscience réelle et un véritable libre arbitre est une toute autre affaire. Aujourd'hui, personne dans les neurosciences universitaires, dans l'informatique, et encore moins dans l'industrie pornographique, ne sait ce qu'est la conscience, comment elle apparaît, comment elle est liée à un cerveau, etc. Il est donc facile pour les margoulins de vendre des «robots conscients», qui «remplissent le critère de Turing» (Facile, pour ce qu'on attend d'un robot sexuel...), en prétendant qu'ils sont conscients et qu'ils ressentent des émotions. Ce genre d'affirmations séduisantes mais non prouvées est typique des discours d'escrocs. Avec ça, des personnes naïves s'investiront dans une relation amoureuse avec de simples puces de silicium inconscientes, et ressentiront de la tristesse et du chagrin lorsque qu'elles tomberont en panne.

De tels robots d'apparence humaine permettent déjà une certaine prise de pouvoir: les discussions scientifiques ou sociales sérieuses sur les robots sexuels tournent le plus souvent autour de la façon dont ils peuvent transmettre des névroses comme le sexisme et l'objectification des femmes. Déjà dans la chambre à coucher, ils présentent de graves dangers, mais utilisés comme présentateurs de télévision, ils pourraient faire des ravages lors des élections et des débats de société. Les robots sexuels actuels en sont déjà capables.

La croyance stupide (ou le mensonge) comme quoi ils seraient conscients peut même conduire à leur accorder des «droits» et des «statuts sociaux», créant une classe sociale de robots transmettant mécaniquement les idéologies et les préjugés de leurs fabricants. La prise du pouvoir mondial n'est plus très loin, et même le «remplacement des Humains par des Robots».

Conclusion

Je propose une théorie scientifique sérieuse sur la nature de la conscience, dans la cinquième partie de mon livre «Épistémologie Générale». J'examine en particulier le problème de la conscience des robots, dans le chapitre VI-18: pourquoi les robots ne sont pas conscients, et comment ils pourraient le devenir. Mais cela n'arrivera ni avec du porno ni avec du béhaviorisme.

Scénario, dessins, couleurs, réalisation: Richard Trigaux (Sauf indication contraire).

Le robot et le paradoxe

De la science-fiction d'aujourd'hui

Richard Trigaux

EN VENTE, Livre de poche et Kindle.
Tous mes livres.

Le robot et le paradoxe

Le robots
et le paradoxe

Chapitre 1 Une sournoise prise de pouvoir

Chapitre 2 Une vie insensée passionnante

Chapitre 3 Le robot et le paradoxe

Chapitre 4 Au coeur de l'e-étrangeté

Chapitre 5 Le robot et le sens de la vie

Chapitre 6 Retour à la maison

Chapitre 7 Changements de personnalité

Chapitre 8 Changements économiques

Annexe 1 Curiosités

Annexe 2 Précédents (OOC)

Colossus: Le projet Forbin.

Les mange-bitume

Independence Day

Typheren

2001 Odyssée de l'Espace

Annexe 3 La réponse des scientifiques:
Le problème de l'Alignement (OOC)

Google appelant les Africains des gorilles

Google dénonçant les Juifs

Tay, l'Idiotie Artificielle de Microsoft

La fallacie du tamagochi:
Les robots prenant le pouvoir
en simulant des émotions

Conclusion

Notice légale et copyright.

Le robot et le paradoxe

De la science-fiction d'aujourd'hui

Richard Trigaux

EN VENTE, Livre de poche et Kindle. Tous mes livres.

Le robot et le paradoxe

Le robotset le paradoxe

Chapitre 1 Une sournoise prise de pouvoir

Chapitre 2 Une vie insensée passionnante

Chapitre 3 Le robot et le paradoxe

Chapitre 4 Au coeur de l'e-étrangeté

Chapitre 5 Le robot et le sens de la vie

Chapitre 6 Retour à la maison

Chapitre 7 Changements de personnalité

Chapitre 8 Changements économiques

Annexe 1 Curiosités

Annexe 2 Précédents (OOC)

Colossus: Le projet Forbin.

Les mange-bitume

Independence Day

Typheren

2001 Odyssée de l'Espace

Annexe 3 La réponse des scientifiques:Le problème de l'Alignement (OOC)

Google appelant les Africains des gorilles

Google dénonçant les Juifs

Tay, l'Idiotie Artificielle de Microsoft

La fallacie du tamagochi:Les robots prenant le pouvoiren simulant des émotions

Conclusion

Notice légale et copyright.

EN VENTE, Livre de poche et Kindle.
Tous mes livres.

Le robots
et le paradoxe

Annexe 3 La réponse des scientifiques:
Le problème de l'Alignement (OOC)

La fallacie du tamagochi:
Les robots prenant le pouvoir
en simulant des émotions