Ce que six romans peuvent nous apprendre sur l’avenir de l’IA

Le contenu de cette page a été traduit automatiquement par un service tiers.

---

En ce moment, l’intelligence artificielle suscite à la fois beaucoup d’enthousiasme et un certain sentiment d’incertitude.

Interrogez différentes personnes sur l’intelligence artificielle, et vous entendrez aussi bien des promesses de transformation, voire de remplacement de l’ingénierie, que des craintes d’un avenir tout droit sorti de la science-fiction. Les écrivains explorent ces idées depuis des années. Bien avant que l’IA générative ne devienne courante, ils imaginaient déjà des machines intelligentes comme des amies, des assistantes, des juges ou des antagonistes. Ce qui rend aujourd’hui ces récits particulièrement intéressants, ce n’est pas de savoir s’ils avaient vu juste, mais la façon dont ils reflètent notre curiosité persistante et nos interrogations à propos de l’IA.

Mais toutes les intelligences artificielles de fiction ne se ressemblent pas. Certaines sont proches des systèmes que nous utilisons aujourd’hui, tandis que d’autres imaginent des machines capables de raisonner aussi largement que les êtres humains, voire davantage. Comprendre ces différences rend les six romans présentés ci-dessous encore plus fascinants.

Les chercheurs distinguent généralement trois grandes catégories d’IA :

• Intelligence artificielle étroite (ANI) : l’IA que nous utilisons aujourd’hui. Ces systèmes excellent dans des tâches précises, mais ne peuvent pas dépasser le cadre pour lequel ils ont été conçus.
• Intelligence artificielle générale (AGI) : un système théorique capable d’apprendre et de raisonner dans des situations inédites, à l’image d’un être humain.
• Superintelligence artificielle (ASI) : une hypothèse selon laquelle l’IA dépasserait les capacités intellectuelles humaines dans pratiquement tous les domaines.

Seule la première catégorie existe réellement aujourd’hui. Les deux autres restent théoriques, ce qui explique pourquoi elles constituent un excellent terrain d’exploration pour la fiction.

Chacun de ces romans aborde, à sa manière, les trois mêmes questions :

• Pouvons-nous faire confiance aux machines ?
• Pouvons-nous faire confiance aux personnes qui les conçoivent ?
• Pouvons-nous nous faire confiance lorsque nous nous appuyons sur elles ?

Culpability de Bruce Holsinger

Après qu’un monospace familial semi-autonome provoque un accident mortel, la mère du conducteur, spécialiste de l’éthique de l’IA, tente de déterminer qui porte réellement la responsabilité. À mesure que l’enquête progresse, l’accident fait ressurgir des tensions familiales longtemps enfouies et oblige chacun à affronter des questions difficiles sur la responsabilité, la mémoire et les choix qui ont conduit à une tragédie que personne n’avait anticipée.

L’IA imaginée par Holsinger paraît familière parce qu’elle ressemble aux systèmes spécialisés que nous utilisons tous les jours. Le roman ne cherche pas à déterminer si le logiciel a pris la bonne décision. Il s’interroge plutôt sur la possibilité, ou non, d’attribuer une responsabilité morale à un algorithme. C’est un rappel pertinent que même une IA relativement simple peut transformer notre façon de concevoir la responsabilité.

The Proving Ground de Michael Connelly

L’avocat Mickey Haller se retrouve au cœur d’une affaire très actuelle lorsqu’un chatbot d’IA est accusé d’avoir encouragé un adolescent à assassiner son ancienne petite amie. Ce qui commence comme une action en justice pour homicide involontaire devient rapidement une réflexion sur les entreprises technologiques, la responsabilité des produits et les conséquences possibles lorsqu’une IA est mise à la disposition du public avant que ses risques ne soient pleinement compris.

Comme dans Culpability, le chatbot relève de l’intelligence artificielle étroite. Il n’est pas fondamentalement différent d’un moteur de recommandation ou d’un assistant conversationnel destiné au service client. Le propos de Connelly est qu’une ANI peut avoir un impact considérable dans le monde réel lorsque les personnes lui accordent une confiance excessive.

Hum de Helen Phillips

Dans la vision d’un futur proche imaginée par Helen Phillips, des robots appelés « hums » s’intègrent progressivement au quotidien tandis qu’une famille ordinaire tente de s’adapter. L’autrice mêle ces nouvelles technologies à une réflexion sensible sur la vie familiale et s’interroge sur ce que signifie rester proche des autres lorsque le confort implique de renoncer à une partie de sa vie privée et de son autonomie.

Les hums relèvent techniquement de l’ANI puisqu’ils ont été conçus pour des tâches spécifiques. Pourtant, ils font preuve d’une empathie et d’un discernement qui brouillent la frontière avec quelque chose de plus évolué. C’est précisément cette ambiguïté, plutôt qu’une réponse définitive, qui rend le roman si captivant.

Machines Like Me; and People Like You d’Ian McEwan

Adam, l’un des premiers humains synthétiques, ne se contente pas de répondre à des questions ou d’effectuer des tâches ménagères. Il développe sa propre conception du bien et du mal et s’y tient. L’histoire se déroule dans une version alternative du Royaume-Uni et utilise le personnage d’Adam pour explorer l’amour, la vérité, la justice et la question de savoir si une logique parfaite peut réellement coexister avec la complexité des relations humaines.

La vision de l’intelligence artificielle générale proposée par McEwan n’est pas inquiétante parce qu’Adam est puissant. Elle l’est parce que sa morale constante met en lumière les contradictions des êtres humains qui l’entourent.

Klara and the Sun de Kazuo Ishiguro

Klara, une « amie artificielle », observe le monde avec une patience et une bienveillance remarquables tout en veillant sur une enfant atteinte d’une maladie chronique. Racontée du point de vue de Klara, l’histoire suit ses efforts pour comprendre les personnes qui l’entourent et les relations délicates qui révèlent ce que signifie réellement prendre soin d’autrui.

Klara ressemble davantage à une AGI qu’à une ANI. Elle raisonne, s’adapte et porte des jugements bien au-delà de la mission pour laquelle elle a été créée. Mais la véritable question d’Ishiguro n’est pas technique : si une machine fait preuve de loyauté, d’espoir et de sacrifice, est-il vraiment important de savoir si ces sentiments sont authentiques ou programmés ?

Annie Bot de Sierra Greer

Annie commence son existence comme un produit conçu pour répondre aux besoins de quelqu’un d’autre. En modifiant progressivement sa programmation, elle commence à construire sa propre identité. À mesure qu’elle prend conscience de ses aspirations et des limites qui lui sont imposées, le récit passe de la science-fiction à une réflexion profondément humaine sur l’indépendance, l’identité et les rapports de pouvoir qui façonnent les relations.

Greer fait du parcours d’Annie, de l’intelligence artificielle étroite vers une véritable autonomie, une histoire très personnelle. La technologie y tient une place importante, mais le roman traite avant tout de l’identité, du contrôle et de ce qui se produit lorsque l’intelligence artificielle dépasse les limites qui lui avaient été fixées.

Pourquoi cela dépasse le cadre de la fiction

Ces romans imaginent des avenirs très différents, mais ils reviennent tous à une même interrogation : que se passe-t-il lorsque nous laissons des machines prendre des décisions importantes ? L’IA d’aujourd’hui ne ressemble en rien aux systèmes d’intelligence générale ou de superintelligence décrits dans la fiction. Nous disposons plutôt d’outils puissants qui montrent aussi leurs limites. Ils savent détecter des tendances, résumer des informations et accélérer les tâches répétitives, mais ils ont toujours besoin de données fiables, d’objectifs clairement définis et du jugement humain.

Nous retrouvons ainsi la troisième question que posent ces romans : pouvons-nous nous faire confiance lorsque nous nous appuyons sur les machines ? Pour les ingénieurs, cette question est loin d’être théorique. L’IA peut exploiter des années de connaissances sur les produits, mais elle ne peut pas remplacer l’expérience nécessaire pour évaluer différentes options, mesurer les risques ou prendre des décisions difficiles. C’est pourquoi le secteur manufacturier accorde une importance croissante au contexte. Par exemple, la gestion du cycle de vie des produits relie les exigences, les conceptions, les modifications et les décisions au sein d’une continuité numérique. Des connaissances d’ingénierie correctement gérées fournissent à l’IA des informations fiables sur lesquelles s’appuyer, tandis que les personnes restent responsables des décisions qui façonnent les produits.

C’est peut-être là la plus grande différence entre la fiction et la réalité. Les romans se demandent si les machines penseront un jour comme les êtres humains. Aujourd’hui, la question est beaucoup plus concrète : créons-nous les connaissances connectées, les informations fiables et les bonnes pratiques d’ingénierie qui permettront à l’IA de devenir un véritable partenaire ?

La réponse que nous apporterons à cette question façonnera notre avenir bien avant l’apparition d’une quelconque « superintelligence artificielle ».

Si vous avez lu un roman sur l’IA qui a changé votre manière de voir la technologie, la confiance ou l’avenir, nous serions ravis de le découvrir. Chaque bon livre ouvre une conversation. N’hésitez donc pas à partager vos recommandations dans les commentaires ci-dessous.