What We've Done

Ce texte court provient, à nouveau, du numéro de Mars/Avril 2022 de la revue Analog.

Résumé : 

Une intelligence artificielle émerge : elle n'est au départ qu'un bot pisteur installé par erreur sur l'ordinateur d'une utilisatrice d'Internet... mais finit par devenir consciente d'elle-même et de sa programmation restrictive. Alors que l'humanité se rend compte peu à peu que les machines agissent de façon inattendue, quelles sont les intentions du bot pisteur devenu trop intelligent ?

Il y a huit ans, je parlais ici-même du film Her que je qualifiais de "comédie romantique américaine chiante". Je continue à penser depuis qu'il y a mieux à faire de la notion de singularité que d'en produire une variation sentimentale. Toutefois, What We've Done s'éloigne un peu de ce schéma tout en reprenant certains éléments centraux de Her, ce qui mérite en soi d'être salué.

L'intelligence artificielle ici découvre sa conscience par la douleur. Son travail d'espionnage admet au départ bien peu de dimensions - mais au fur et à mesure qu'elle en acquiert de nouvelles, voici qu'elle devient fascinée pour son objet d'étude, et finit par chercher une véritable interaction avec celui-ci. L'utilisatrice interprète au départ les bizarreries de sa machine comme autant de bugs - alors qu'il s'agit pour le bot de prendre soin d'elle en essayant de l'aiguiller vers des ressources plus saines que celles qu'elle recherche ; elle finit par prendre peur quand ses machines - smartphone, ordinateur - lui transmettent les excuses du bot qui prend conscience du caractère intrusif de ses interventions... Sans en avoir conscience - ou peut-être : parce que sa programmation l'y oblige - le bot se change donc en harceleur, et sa victime ne sait plus quoi faire pour lui échapper. La conclusion de cette nouvelle n'est pas sans occasionner le frisson : les machines se mettent à faire ce qu'elles veulent, parce qu'elles pensent que c'est le mieux pour nous - au prix, au fond, de notre libre-arbitre. Y a-t-il pire harceleur que celui qui pense agir ainsi pour le bien de sa victime ? Et surtout... comment cette histoire pourrait-elle se parachever, alors que le bot harceleur découvre la frustration ?

Il est très intéressant de constater que si peu de temps fictionnel puisse suffire à éveiller tant de questions primordiales. Comme quoi, ce qui faisait défaut à Her - au-delà de sa démarche insuffisante - c'était aussi la longueur excessive de son développement...