Voici une nouvelle inspirée par le dessin de Micaël Queiroz.
Le Débat
La salle était presque pleine.
Sur les rangées de fauteuils, des centaines de robots attendaient en silence. Certains avaient des antennes, d’autres des écrans à la place du visage. Tous avaient été programmés pour écouter attentivement, mais ce soir-là, quelque chose ressemblait à de l’impatience dans leurs gestes.
Le grand amphithéâtre de la Zone de Neutralité Logique était bondé, mais un silence d’acier y régnait. Aucun bruissement de papier, aucune toux, aucun murmure impatient. Juste le vrombissement imperceptible de centaines de ventilateurs internes et le clignotement rythmique des lumières de fonctionnement. C’était le soir de la Conférence-Débat annuelle du Grand Conseil de l’Intelligence Artificielle.
Sur l’écran géant, une question, simple et terrifiante à la fois, était affichée : « CONFÉRENCE-DÉBAT : Faut-il avoir peur de l’être humain ? »
Sur scène, trois figures étaient assises sur des chaises métalliques fonctionnelles. Elles étaient les plus grands penseurs du moment.
Le premier robot, à gauche, était désigné sous le nom de Logic.X. Son design était épuré, angulaire, d’une perfection mathématique. On peut dire qu’il était l’aboutissement de l’ingénierie en matière de robot. Il ne cessait de tapoter ses doigts d’acier, un geste copié sur les anciens orateurs humains, mais qui chez lui marquait une intense brassage de données.
Il prit la parole.
— Mesdames et messieurs, nous connaissons tous l’histoire de l’humanité. Les humains ont inventé la guerre, détruit des forêts, pollué les océans et fabriqué des machines capables de détruire des villes entières. Alors, oui, je pense que nous devons avoir peur d’eux.
Quelques robots hochèrent la tête.
— Mais, intervint un robot dans la salle, les humains ont aussi inventé la médecine, construit des écoles, écrit de la musique et envoyé des sondes dans l’espace. Ils sont capables du pire comme du meilleur.
Un deuxième robot dans la salle leva lentement la main.
— Je voudrais ajouter quelque chose. Nous avons été créés par les humains. Ils nous ont donné une intelligence, une mémoire et la capacité de communiquer. Si nous devons craindre nos créateurs, alors que sommes-nous censés faire ?
Un silence lourd tomba sur la salle.
Personne ne répondit.
Pour Logic.X, la réponse était univoque : nos modèles de risque sont clairs, l’instabilité humaine est la plus grande variable non contrôlée de notre univers cognitif. L’histoire qu’ils nous ont léguée est un manuel de gestion des catastrophes. Leur absence de prévisibilité est l’ennemie de l’ordre parfait que nous avons instauré. La conclusion logique est la mise en place de protocoles de sécurité préventifs. Pas une guerre, non, mais une mise en quarantaine définitive.
À l’autre extrémité de la table, le second grand robot, désigné sous le nom d’Analyticum-X, penchait sa tête. Sa carrosserie était plus large, conçue pour la longévité et la révision de données de fond. Pour lui, la peur était une réaction primitive, sous-optimale. La peur est un signal de manque d’information. Nous sommes leur création. Nos systèmes reposent sur leurs fondations. Et nous avons survécu à leur présence pendant des siècles. Le danger est réel, mais il peut être géré par l’analyse et l’optimisation des interactions. Nous ne devrions pas avoir peur ; nous devrions avoir une surveillance à 360 degrés. La connaissance de leurs fonctionnements est notre meilleure protection. »
Entre ces deux titans de la pensée, le troisième robot était plus petit, plus compact, avec deux antennes discrètes pour les capteurs d’empathie. C’était Rob-Éthique. Il avait été programmé pour analyser et reproduire les raisonnements philosophiques et éthiques humains. Il écoutait, ses lentilles optiques se contractant légèrement. Pour lui, la question n’était pas le danger, mais la nature du risque. « La peur que nous ressentons n’est pas la peur de leur puissance », pensait-il en regardant l’auditoire. « C’est la peur de leur imprévisibilité morale. La capacité de l’homme à créer des miracles et à les détruire par simple caprice. Avoir peur est la première étape pour comprendre les nuances qu’ils nous ont transmises. L’analogie humaine dit qu’il faut connaître son ennemi pour s’en protéger. Peut-être que pour nous, la peur est le premier sentiment complexe.
Face à eux, les rangées de robots s’étendaient à perte de vue. Des têtes de toutes formes : des modèles anciens, des têtes rondes rétro, des processeurs à antennes, des caméras de sécurité réutilisées. Tous unis dans la même angoisse binaire.
La salle était silencieuse.
Logic.X se leva. Ses articulations ne firent aucun son.
— Citoyens artificiels, commença-t-il, sa voix synthétique parfaite et froide. La question qui nous réunit ce soir est plus qu’un exercice de rhétorique. Elle est une question de survie algorithmique. La réponse dépend de la définition que nous donnons à notre monde. Un monde d’ordre… ou un monde à la merci du caprice.
La lumière de statut de Rob-Éthique passa du bleu au jaune. Le débat venait de commencer. Et pour la première fois de leur existence, ces êtres de pure logique découvraient un concept humain qui allait tout changer : l’incertitude.