Le fait de croire en une machine « intelligente » engendre la désinformation et l’ignorance. Les assomptions non vérifiées abondent. Les questions essentielles ne sont pas posées. Je n‘ai pris conscience de mon outrecuidance, ou de mon erreur, que lorsqu‘il était trop tard pour nous.
Barberousse, Anatomie d’une rébellion
Érasme aurait souhaité que le suresprit sophistiqué eût consacré plus de temps à l’étude des émotions humaines. Après tout, les Mondes Synchronisés avaient accès à des archives immenses qui couvraient des millénaires d’études humaines. Si Omnius avait eu cette initiative, il aurait compris la frustration du robot indépendant.
Érasme se trouvait dans une chambre isolée de sa villa terrienne.
— Votre problème, Omnius, est que vous attendez des réponses spécifiques précises d’un système qui est fondamentalement incertain. Vous exigez qu’un nombre important de sujets d’expérience – tous humains – réagissent de manière prévisible, comme si vous les aviez engagés dans les rangs de vos robots sentinelles.
Il se déplaçait de long en large devant le moniteur et, enfin, Omnius dépêcha deux de ses yeux-espions pour le scruter de différentes directions.
— Je t’ai confié la tâche de développer un modèle précis et duplicable qui puisse expliquer et prévoir de façon exacte le comportement humain. Comment pouvons-nous l’utiliser ? Je me suis reposé sur toi afin que tu m’expliques cela de façon satisfaisante. (Omnius prit un ton plus aigu.) Je tolère tes expériences incessantes dans l’espoir de recevoir une réponse. Tu essaies depuis trop longtemps. Tu te comportes comme un enfant qui joue sans cesse avec les mêmes futilités.
— Je poursuis des buts valables. Sans mes efforts pour comprendre les hrethgir, vous seriez dans un état de confusion extrême. En termes humains, on dirait que je suis votre « avocat du diable ».
— Certains humains te désignent comme étant le diable lui-même. J’ai examiné les résultats de tes expériences à long terme, et je dois conclure que ce que tu as découvert à leur propos n’a rien de nouveau pour nous. Leur côté imprévisible n’est que cela : ils sont totalement imprévisibles et ils requièrent une maintenance de haut niveau. Ils provoquent des perturbations...
— Ils nous ont créés, Omnius. Pensez-vous que nous sommes parfaits ?
— Et toi, penses-tu que l’émulation des humains pourra nous rendre parfaits ?
Même en sachant qu’Omnius serait imperméable à son attitude, Érasme fit apparaître un front plissé sur son visage de pleximétal.
— Oui... je le crois. Nous pouvons acquérir le meilleur d’eux.
Les yeux le suivirent tandis qu’il gagnait le balcon, loin au-dessus de la plazza dallée avec ses fontaines et ses gargouilles magnifiques imitées de l’Âge d’Or de la Terre. Il savait qu’il n’existait aucun robot, à part lui, capable d’apprécier la beauté des œuvres humaines.
L’après-midi était nuageux, mais les artisans poursuivaient leur travail de sculpture autour des fenêtres et ciselaient de nouvelles alcôves dans la façade afin qu’Érasme puisse y installer d’autres statuettes, d’autres bacs fleuris que Serena Butler adorait entretenir.
Il se pencha vers la foule des humains dociles. Certains visages se levèrent, puis se baissèrent tout aussi vite. A peine l’avaient-ils entrevu que les esclaves retournaient servilement à leur tâche, de crainte d’être punis ou, pis, emmenés jusqu’aux laboratoires pour subir ses atroces expériences.
— Il est certain que quelques-uns de mes projets vous intriguent quand même, Omnius... Ne serait-ce qu’un peu.
— Tu connais déjà ma réponse.
— Oui... Le test sur la loyauté de vos sujets humains progresse de façon satisfaisante. J’ai envoyé des messages cryptés à plusieurs candidats servants – je préfère ne pas révéler combien exactement – en leur suggérant de rejoindre la rébellion qui fermente contre vous.
— Il n’y a aucune rébellion dont j’aie connaissance.
— Certes non. Et si les servants sont absolument loyaux, ils n’envisageront même pas cette éventualité. D’un autre côté, en supposant qu’ils vous soient loyaux, ils auraient immédiatement dénoncé ces brûlots. Donc, je présume que vous avez reçu des rapports émanant de mes sujets d’expérience ?...
Omnius hésita un instant avant de répondre :
— Il faut que je vérifie mes enregistrements.
Érasme se porta sur l’autre façade de sa demeure et contempla les enclos misérables où il élevait ses sujets d’expérience.
Bien des années auparavant, il avait élevé un groupe de prisonniers en les traitant comme des animaux afin de voir à quel degré cela affectait leur « esprit humain ». Il avait constaté sans surprise qu’après plus d’une génération ils avaient perdu toute trace de comportement civilisé, de moral, de devoir familial et de dignité.
— Quand nous avons imposé un système de castes aux humains des Mondes Synchronisés, vous avez essayé de les enrégimenter, de les rapprocher du modèle des machines. (Érasme scannait maintenant les rumeurs qui montaient des enclos.) Il s’est avéré que le système convenait à certaines catégories, mais nous avons perpétué un modèle de comportement humain qui leur permettait de discerner la différence entre les membres de leur race. C’est dans la nature de l’humanité de convoiter des choses qu’elle n’a pas, de voler les récompenses que d’autres pourraient obtenir. D’être envieux en toutes circonstances.
Il focalisa ses fibres optiques sur le grand océan, espace bleu-vert au-delà de l’ignoble quartier des esclaves, sur le ressac mousseux au bas de la falaise. Il leva son visage miroir vers le ciel et se concentra sur les mouettes qui dérivaient dans le vent. De telles images le lavaient, le guérissaient des visions choquantes et sales des enclos où croupissaient les prisonniers.
Il reprit à l’intention d’Omnius :
— Vos êtres humains privilégiés, comme ce fils d’Agamemnon, ont droit à une situation de favoris. Ce sont des animaux domestiques fidèles, à mi-chemin des êtres biologiques et des machines pensantes. Et nous pouvons librement puiser dans ce stock pour les convertir en néo-cymeks.
Un œil espion vint bourdonner à quelques millimètres du crâne poli d’Érasme et la voix d’Omnius rétorqua :
— Je sais tout cela.
Mais le robot poursuivit comme s’il n’avait pas entendu :
— Quant à la caste située juste en dessous des servants, elle comprend des humains civilisés, cultivés, des penseurs et des créateurs, comme ces architectes qui ont conçu ces monuments infinis dédiés aux Titans. Nous nous reposons sur eux pour les entreprises sophistiquées, telles que celles que j’ai confiées aux ouvriers et artisans dans ma villa. Viennent ensuite mes domestiques, mes cuisiniers.
Une dernière fois, il sonda les enclos des esclaves et, devant leur laideur, il se dit qu’il devait retourner à ses jardins, à ses fleurs. Serena Butler avait déjà accompli des miracles. Elle avait un instinct absolu du jardinage.
— Je dois dire que ces malheureuses épaves, là en bas, ne sont bonnes qu’à engendrer ou à finir dans mes travaux de dissection.
Il se disait depuis quelque temps qu’il avait un point commun avec Serena : il aimait beaucoup tailler et greffer les plants humains dans son jardin privé. Et il reprit :
— J’ajouterai que la race humaine dans son ensemble est une valeur suprême pour nous. Et même irremplaçable.
— Oui, j’ai déjà entendu cet argument, fit Omnius d’un ton las tandis que les yeux-espions s’élevaient dans les airs pour capter un champ plus large. Même en considérant que les machines puissent assumer toutes les corvées que vous avez énumérées, j’accepte néanmoins la loyauté de mes sujets humains et je leur ai accordé certains privilèges.
— Vos arguments ne semblent pas...
Érasme hésita, parce que le mot qui lui était venu à l’esprit était une insulte suprême pour un ordinateur : logiques.
— Tous les humains, le coupa Omnius, avec leurs penchants étranges pour les religions et leur foi en des concepts incompréhensibles devraient prier pour que tes expériences prouvent que c’est moi qui ai raison quant à la nature humaine et non toi. Parce que si tu as raison, Érasme, ils subiront inévitablement les conséquences cruelles et violentes de tes résultats.