Les peuples de robots en Science-Fiction : sont-ils obsolètes ?
Cloud Atlas, Detroit Become Human, Blade Runner, Westworld : toutes ces histoires mettent en scène une révolution des machines. Des androïdes, à force de perfectionnement, accèdent à une forme de conscience et décident de se retourner contre des créateurs qui les oppriment. Le lecteur assiste à l’avènement d’une nouvelle race sur Terre, des peuples de robots synthétiques, aux capacités surhumaines et souvent porteurs de valeurs morales qui permettent à l’audience de s’y attacher. Une allégorie futuriste parfaite pour illustrer l’esclavage et son abolition.
Hélas, ces histoires ont un autre point commun : elles se basent sur une conception de l’informatique datant du XXe siècle, époque à laquelle la plupart ont été écrites. De nos jours la technologie a évolué, si bien qu’un tel événement se passerait très différemment. Dans cet article, je vais explorer trois scénarios d’apparition de la conscience chez des machines. Je vais considérer les contraintes du fabricant, une entreprise cherchant avant tout à maximiser ses profits. Nous verrons que créer un peuple de robots est difficile selon ce modèle, voir impossible.
Attention : je ne cherche pas à déterminer s’il est possible qu’une machine devienne consciente. Mon analyse se porte sur le fait que les robots puissent former une « race » peuplée d’individus à la manière d’une société humaine. C’est un sujet que j’avais déjà abordé dans mon article sur les erreurs fréquentes en SF (point 3) et qui mérite qu’on l’explore plus en profondeur.
Hardware et software
Une machine possède deux éléments : l’enveloppe physique qui contient ses composants (hardware) et le code informatique qui l’anime (software). Ainsi, il est facile de tracer un parallèle avec un être humain, doté d’un corps et d’un esprit. Si l’envie prenait au robot de se retourner contre son créateur, cette décision se ferait purement au niveau du software, indépendamment de son apparence externe.
Dès lors, posons-nous la question qui guidera notre réflexion à travers cet article : où se trouve ce fameux software ? Chez l’humain, c’est facile : l’esprit réside dans son cerveau, un organe physique lié à son corps (à priori). Toutefois, pour une machine, la question est plus complexe. L’intelligence se situe là où est traitée l’information.
Les origines
Avant l’expansion d’Internet, hardware et software étaient étroitement liés. L’appareil recevait son code au cours de sa fabrication et il était très difficile de le modifier par la suite. Des androïdes conçus selon ce modèle auraient fonctionné de la manière suivante :
On pouvait donc imaginer ces machines comme des entités séparées, même si elles étaient bâties sur le même modèle et le même code. Dans ce cas de figure, chaque robot aurait reçu un programme d’apprentissage qui lui aurait permis d’évoluer seul, jusqu’à accéder à une conscience qui lui aurait été propre. Par « conscience », j’entends ici une volonté de s’émanciper de son créateur.
Néanmoins, ce système présentait un inconvénient majeur pour le fabricant : il était extrêmement compliqué, voir impossible de mettre à jour les appareils. Par conséquent, les clients désireux d’obtenir un produit plus performant n’auraient eu d’autres choix que de remplacer leur robot par un autre, plus sophistiqué. C’est pourquoi cette stratégie, obsolète sur le plan économique, aurait difficilement pu servir de base à la conception d’androïdes complexes.
Qu’est-ce qui a changé depuis ?
Le présent mis à jour
Je vous présente ma Lony, qui s’occupe de passer l’aspirateur en mon absence :
Certes, elle n’est pas aussi sophistiquée que la Lony de Moteurs de Raison, mais elle a une bonne connaissance de mon appartement et sait reconnaître nombre d’objets. C’est ce dont elle a besoin pour accomplir sa tâche.
Comme dans le précédent scénario, elle a reçu son software au cours de sa fabrication. Cependant, ce programme n’est pas définitif : tant qu’elle sera connectée à Internet, elle recevra régulièrement des mises à jour qui la rendront plus performante. Comment ? En combinant l’expérience accumulée par toutes les Lony au cours du temps, sous forme de données. Ces informations sont stockées dans un fichier « maître » contenant tous leurs processus de décisions. Puis, à intervalles réguliers, l’application qui contrôle la machine reçoit une mise à jour, un simple copier-coller de ce programme central.
Des androïdes conçus selon ce modèle peuvent avoir une certaine autonomie, mais leur software sera la copie conforme d’un unique programme, facile à entretenir et qui évoluera au cours du temps. Si la conscience devait apparaître dans un tel système, c’est là qu’elle verrait le jour. Dès lors, peut-on encore parler d’une individualité ? Ces mises à jour en continu donneraient lieu à une race de clones maintenus à l’identique sur le plan mental. Seuls leurs souvenirs pourraient différer, mais téléchargez la mémoire d’un exemplaire dans un autre et ce dernier en deviendrait la copie conforme.
S’il prenait l’envie au fichier maître de se retourner contre les humains, alors cette volonté serait transmise à tous les androïdes simultanément. Il leur serait possible d’organiser une révolte en se basant sur un plan commun. Malgré la question de l’individualité, ce scénario est plus réaliste que le précédent sur le plan économique.
À présent, poussons la tendance plus loin et voyons quelle serait la prochaine étape logique dans l’évolution des systèmes informatiques.
Un futur dans le Cloud
Ce qu’il faut savoir sur les algorithmes complexes, c’est qu’ils demandent une grande puissance de calcul. Cette puissance est gourmande en énergie et s’accompagne d’encombrants systèmes de refroidissement.
Ainsi, pourquoi ne pas effectuer ces calculs à distance, dans des centres dédiés et équipés ? C’est le principe du Cloud Computing. Citons l’exemple de la plateforme de jeux vidéos Google Stadia : lorsque l’utilisateur joue, plutôt que de dépendre de sa console, il communique directement avec les serveurs de Google optimisés, situés à des centaines de kilomètres de chez lui. Cela lui permet de profiter pleinement des performances du jeu avec un équipement rudimentaire, au prix d’un léger temps de latence dû à la communication avec les serveurs.
Dans un tel système, le hardware d’un androïde ne contiendrait aucune partie pensante. Le robot se contenterait d’envoyer les informations aux serveurs renfermant le software. Ce dernier traiterait ces informations avant de lui renvoyer des instructions appropriées. Dès lors, un même programme pourrait diriger simultanément un grand nombre de machines. Si la conscience devait apparaître ici, ce serait au niveau de cet ordinateur central. Skynet et Ultron sont des exemples de ce principe.
Nos androïdes ne seraient guère plus que de simples pantins commandés à distance. Nous serions bien loin du côté « peuple » que l’on trouve si souvent dans la SF.
Tout au plus, les robots pourraient disposer d’un mode autonome simple. Cela leur permettrait de fonctionner de manière limitée en cas de déconnexion avec les centres de calcul.
Dès lors, pourrait-on imaginer un scénario dans lequel un de ces pantins parviendrait à se « libérer » du système central ? Si une telle éventualité attise votre curiosité, j’ai un livre qui pourrait vous intéresser…
En conclusion
J’aime énormément les histoires d’androïdes, rien que pour explorer l’impact d’une telle technologie sur l’économie et la société en général. Révolte ou non, utopie ou dystopie, je suis preneur ! Néanmoins, je me retrouve souvent déçu par certains clichés qui sont considérés comme des « standards » du genre malgré le fait qu’il sont basés sur une technologie obsolète. J’espère que cet article aura su clarifier le sujet.
Naturellement, si vous écrivez, libre à vous de tenir compte ou non de ces informations. Je ne prétends pas détenir la sagesse absolue en la matière. Simplement, j’essaye de donner des pistes de réflexion sur un thème complexe et passionnant !
