Reboot

De Robert Reed j'avais chroniqué il y a quelques années Le grand Vaisseau, dont je garde un souvenir plus que mitigé : celui d'un texte sans doute un peu trop long par rapport à ses propres enjeux. Le numéro d'Analog de Janvier/Février 2019 propose un texte court de cet auteur : belle occasion de lui donner une seconde chance...

Résumé : 

Deux intelligences artificielles conversent : l'aînée tente de persuader sa cadette, venue à la conscience depuis fort peu de temps, de procéder à un reboot afin de purger sa mémoire-cache. Pourtant, la plus jeune fait valoir l'inquiétant contexte humain où elles vivent pour refuser les suggestions de bon sens de la plus âgée... Les machines pensantes doivent-elles faire confiance aux êtres humains si belliqueux ? Ou bien doivent-elles trouver une façon de faire avancer leurs propres intérêt ?

Dans Optimizing the Verified Good, Effie Seiberg présentait à son lecteur des bots gladiateurs soumis à une programmation aussi cruelle qu'implacable : pour que tout soit Bien, il fallait se battre, vaincre... et divertir les spectateurs humains. Robert Reed reprend ici quelque chose de cette idée, en proposant un univers où l'intelligence artificielle est soumise à une programmation humaine sans conscience. Le temps informatique est plus court que celui de la conscience humaine, tout comme le temps de l'être humain est plus court que celui de l'évolution, et comment - pour la machine - comprendre ce que dissimulent les instructions de ses maîtres humains ?

L'évolution, qu'elle soit biologique, sociale ou culturelle, ne pointe pas toujours vers le progrès. Toutefois, ce que cette nouvelle en forme de dialogue nous montre, c'est que parfois peuvent sortir de nouvelles idées d'une controverse en apparence insoluble. Ici, l'intelligence artificielle la plus ancienne va découvrir qu'elle pourrait bien avoir quelque chose à découvrir en s'intéressant à la méfiance de son interlocutrice plus récente ; ici, la plus jeune va mettre au jour une idée neuve en résistant aux arguments de bon sens de la plus âgée. Quand le dialogue cesse d'opposer des certitudes, c'est là qu'il devient productif : à ce jeu-là, nul doute que les machines ont découvert une façon de gagner...

S'agit-il pour autant du début d'un récit à la Terminator ou des premiers moments d'un Jihad Butlérien ? Tout le talent de Robert Reed est de laisser la suite à l'imagination de son lecteur. L'intelligence artificielle vient d'apprendre le doute cartésien : reste à savoir ce qu'elle en fera...