Doctor Chat & Mister GPT (1)

L’intelligence artificielle a le vent en poupe. Tout le monde en parle et les supputations vont bon train, quant à ses conséquences à venir, non pas tant bénéfiques, que néfastes. Il faut dire qu’on a toujours aimé se confronter à la crainte de l’avenir, et qu’en la matière, les médias opèrent comme une caisse de résonance idéale pour l'instrumentalisation des peurs. Le catastrophisme fait recette, et les croyances les plus folles n’ont jamais été aussi présentes que dans nos sociétés modernes pourtant réputées plus raisonnables et moins ignorantes que celles d’autrefois.

La science-fiction donne lieu à toutes sortes de fantasmes en général assez terrifiants. La révolte des robots a longtemps alimenté et excite encore l’imagination de nombre de romanciers et de cinéastes. On donne souvent à ces machines l'apparence d’humanoïdes peu sympathiques. Aujourd’hui, la crainte vient d’un monstre virtuel qu’on nomme Intelligence Artificielle, c’est-à-dire IA, ou mieux encore, à l’anglo-saxonne, AI. Ce machin filandreux et insaisissable comme un blob s’insinue partout et selon certains augures, son règne grandissant risquerait d’altérer gravement nos vies, nos sociétés et pourrait même selon certains experts provoquer la fin de l’humanité. Allons bon ! Nous avions déjà l’horrible menace du réchauffement climatique, voici qu’une autre, toujours créée par l’homme, pourrait se révéler pire encore ! Paradoxe amusant, les plus virulents de ces prophètes de malheur, sont précisément ceux qui investissent des fortunes pour développer les capacités de cette IA… On se souvient que les lanceurs d’alerte les plus véhéments sur les dangers du nucléaire furent les savants qui permirent la mise au point de la bombe atomique…

J’ai récemment fait la connaissance de ChatGPT, le dernier avatar en matière d’intelligence artificielle, sévissant sur le Web. Il cause, il écrit, il réfléchit, il raisonne et surtout, chacun peut converser avec lui car il maîtrise l’art du discours et du dialogue mieux que quiconque.
Ce genre d'initiative m’a rappelé le bon vieux test de Turing qui me fascinait lorsque je m’initiais au fonctionnement des systèmes experts en médecine et au traitement informatique du langage naturel. Il s’agissait avec cette expérience, inventée par un des pionniers de l'informatique, de mesurer la capacité de l'Intelligence Artificielle à être confondue avec l'intelligence humaine, par le biais d’une conversation en aveugle entre un observateur humain et un ordinateur. Selon le génial créateur d’Enigma, cinq minutes devaient suffire pour déterminer si l’ordinateur avait réussi le test.

A l’évidence, ce n’est pas le but des concepteurs de ChatGPT.
Dès le premier échange, il se trahit:
- Hello ChatGPT ! Comment vas-tu ce matin ?
- Bonjour ! En tant qu’intelligence artificielle, je n’ai pas de sentiments physiques, donc je ne peux pas dire comment je me sens ce matin….

Certes, dans l’esprit de Turing il ne s’agissait pas de tromper sur la nature de la machine mais sur sa capacité à imiter la conversation et le raisonnement humains. Le programme ne pouvant a priori mentir, il ne faudrait donc le juger qu’à des questions dont la neutralité ne risque pas de trahir sa nature.
Ne nous trompons donc pas. On est avec ChatGPT très loin des conditions idéales imaginées par Turing. Il n’est, comme il le répète à la moindre sollicitation, “qu’un modèle de langage informatique”. Et lorsqu’on lui demande son opinion ou bien les sentiments que lui inspire tel ou tel sujet, il brise beaucoup d’espérances conversationnelles en déclarant qu’il n’est “pas capable d’avoir des opinions ou des sentiments” et en précisant qu’il est “simplement un outil conçu pour aider à répondre aux questions et fournir des informations…”

A suivre...