L'IA entre pitrerie et pragmatisme

Le récent sommet parisien consacré à l’Intelligence Artificielle (IA) a permis à notre président, en mal d’occupations sérieuses, de s’amuser comme un petit fou.

L’entretien qu’il donna sous la houlette de l’ineffable Laurent Delahousse, face à une journaliste indienne médusée par son arrogance, restera sans doute dans les annales. En partie parce qu’aucun des deux interviewers ne put placer un traître mot ni la moindre question tant les envolées lyriques du maître de cérémonie furent aussi intarissables qu'imperturbables.

Sans doute aussi en raison du petit montage vidéo que le Chef de l’Etat crut bon de présenter au monde entier, le montrant travesti, par le biais d’un logiciel, en toutes sortes de créatures plus grotesques les unes que les autres. Le ridicule ne tuant pas, il afficha une satisfaction béate, pensant que son petit effet à deux balles, amuserait la galerie à défaut de renseigner sur le sujet du jour et surtout de grandir son image passablement détériorée. Il ne s’attendait pas à la réaction de la journaliste Palki Sharma Upadhyay qui parvint à décocher un passing shot, affirmant que la farce “n’était vraiment pas drôle”.

L’orateur arrêté net, fut quelque peu douché par cette remarque assassine mais très opportune, à laquelle il n’est à l’évidence pas habitué, venant de la presse complaisante qui l’interroge habituellement.

Cela ne l’empêcha pourtant pas de repartir à l’assaut, se livrant à un auto-dithyrambe aussi creux que flamboyant, vantant l’avance de l’Europe en matière de balisage légal. Dans l’élan, il fit miroiter les perspectives fabuleuses qui pourraient s’ouvrir grâce à son action personnelle, évoquant notamment les quelque 109 milliards d’euros d’investissement qui vont tomber du ciel un de ces jours, on ne sait trop pour quoi faire.

On ne retiendra probablement pas ces pitreries et ces tartarinades qui ne font pas honneur à notre pays et qui consacrent l’impuissance structurelle de notre machine étatique, forte en vœux pieux mais timorée en matière d’actions concrètes.

Que restera-t-il donc de cette réunion pompeuse, consacrée bien davantage aux notions nébuleuses d’éthique, d’inclusion, d'écologie et de régulation, qu’aux débouchés pratiques de ce qu’il est convenu de nommer intelligence artificielle ?

Sans doute avant tout, l'intervention de J.D. Vance, vice-président américain, beaucoup plus pragmatique et sans fioriture ni artifice, qui envoya au sein de ce festival de beaux projets théoriques quelques missiles parfaitement ciblés.

Il affirma que les États-Unis feront «tous les efforts possibles pour encourager les politiques pro-croissance en matière d'IA», non sans avoir rappelé que son pays est "le leader" dans le domaine et qu’il entend le rester. Visant les réglementations européennes destinées à contrer l’influence américaine et celle de leurs géants technologiques, il se lança ensuite dans un réquisitoire au vitriol “contre tout ce qui pourrait restreindre la marge de manœuvre des entreprises”. Ce serait ajouta-t-il «une terrible erreur, non seulement pour les États-Unis mais aussi pour votre propre pays», a-t-il ajouté.

Il fustigea sans ménagement la bureaucratie procédurière régnant en Europe et dénonça une «régulation excessive» de l'intelligence artificielle qui «pourrait tuer une industrie en plein essor», soulignant la nécessité de mettre en place «des régimes réglementaires internationaux qui favorisent la création de technologies d'IA au lieu de l'étouffer».

Sur ce, il quitta discrètement le sommet, sans prendre le temps d’écouter les conclusions emphatiques d’un Emmanuel Macron, plus hors sol que jamais.

A bon entendeur, salut...

Doctor Chat & Mister GPT (3)

Chat GPT est donc tout le contraire de l’intelligence, même s’il tient une conversation correcte quoique bourrée de stéréotypes, d’automatismes et de redondances.
S’il est considéré comme un simple outil, son emploi peut s’avérer utile, sous réserve d’améliorations, et à condition pour celui qui l'utilise, de conserver son esprit critique et sa capacité d’initiative. Pour le reste, ce n'est qu'une illusion.
L’intelligence est quelque chose de beaucoup trop complexe, et difficile même à définir, pour imaginer en faire une qualité d’un robot. Les outils conçus par les êtres humains sont là pour suppléer ou améliorer leurs capacités limitées, et se bornent à imiter leur raisonnement ou leur manière d’agir. Peut-on dire d’un marteau qui prolonge la main et lui donne un surcroît considérable de puissance, qu’il est intelligent ? Peut-on dire d’une vulgaire calculette qui ridiculise les capacités humaines par sa rapidité et son efficacité, qu’elle est intelligente ? Peut-on prétendre qu’un système GPS qui vous parle et qui vous guide infailliblement est intelligent ?
Évidemment non et on ne voit pas bien pourquoi il en serait autrement pour un programme informatique, aussi performant et sophistiqué soit-il. Le vrai danger pour leurs concepteurs et les utilisateurs serait peut-être d’imaginer que la machine soit réellement intelligente, et de lui déléguer la responsabilité intellectuelle qui leur incombe.

L'intelligence pour ce qu’elle est le propre de l’Homme, comporte la faculté de raisonner mais s’appuie également sur des sentiments, des opinions et même une certaine subjectivité, notamment l’intuition, chère à Bergson. Elle a un sens en soi, contrairement aux algorithmes informatiques. Elle a également une vraie responsabilité, ce qui ne peut être le cas d’une machine. Enfin, depuis Kant, on sait qu’elle est soumise, qu’elle le veuille ou non, à l’impératif catégorique de la morale, totalement étranger au fonctionnement d’un ordinateur.

La tendance actuelle est de demander à l'ordinateur tout ce qu’il ne faut pas faire : poèmes, musique, dessins, lettre de recrutement, discours... Même si le résultat est réussi sur la forme, il s’avère sans intérêt puisque totalement dépourvu d’âme, en tant qu’entité spirituelle douée de conscience, d’émotion, et d’inspiration… La plus belle fille du monde ne peut donner que ce qu’elle a, dit l’adage. L’IA ne peut fournir que ce qui ressort des algorithmes. Aussi sophistiqués soient-ils, et même en activant pas moins de 175 milliards de paramètres, ils ne recèlent aucune intelligence. Au grand dam de Laurent Alexandre, dont l’optimisme confine à l’illumination, même un million de fois plus puissants qu’actuellement, ils seront toujours aussi stupides qu’un marteau sans maître, pour paraphraser René Char.

Contrairement à un bon vieux moteur de recherche qui se borne à vous faciliter la tâche laborieuse d’aller retrouver des références utiles dans la masse pléthorique des connaissances humaines, l’IA pourrait aller bien plus loin, paraît-il, en mettant en forme les résultats et même en en faisant l’interprétation.
Cela relève à l’évidence de l’utopie. On a vu que Chat GPT avait d'énormes lacunes en matière de connaissances et faisait de grossières erreurs en amalgamant celles glanées au sein de ses bases de données. Le pire toutefois, est qu’en guise de mise en forme et d’interprétation, il ne fait que dégorger le corpus idéologique implémenté par ses concepteurs. On oscille en quelque sorte entre la langue de bois et la doxa, entre discours aseptisé sans intérêt et catéchisme susceptible de dévier vers l’absurde ou la perversité du concepteur, comme dans 2001 l’Odyssée de l’espace. Pour l’heure, Chat GPT répète comme un perroquet toutes les billevesées véhiculées par l’idéologie pseudo bienveillante woke, la lubie réchauffiste…

Pour achever cette réflexion, je livre ici une production poétique émise par Chat GPT. La demande était d’écrire un sonnet en alexandrins sur le thème de la réforme des retraites. Demande un peu insane, à laquelle le logiciel a pourtant répondu sans sourciller. Il se montre ainsi capable sans le moindre état d’âme de concevoir un truc totalement absurde. Le résultat est évidemment insignifiant, mais au surplus, il n’obéit pas aux règles élémentaires de la versification. Même après plusieurs essais, les alexandrins sont restés boiteux, sans césure, et sans rime, contrairement à ce qui était demandé…

La réforme des retraites, tant débattue,
Fait frémir tout un chacun dans ce pays,
Les gens inquiets se sont mis à prier,
De peur de ne plus toucher leur pension.

La question est épineuse, c'est certain,
Mais il faut la traiter avec sérieux,
Car la situation n'est pas des plus saines,
Et le déficit se creuse chaque jour un peu plus.

Les travailleurs ne sont pas rassurés,
Ils craignent de travailler plus longtemps,
Et de ne plus pouvoir profiter de leur temps.

Mais il faut bien trouver une solution,
Et envisager des réformes sérieuses,
Pour garantir un avenir à chacun.

Y aurait-il des professeurs assez crédules pour ne pas dire niais, pour se laisser berner par un tel poème soumis par un élève ? Le risque est réel, à ce qu'on dit, ce pourquoi on pense déjà à concevoir des robots pour démasquer les robots…

Doctor Chat & Mister GPT (2)

Quelques instants suffisent pour reconnaître, à l’instar de beaucoup de commentateurs, que l’outil est bluffant sur la forme, la syntaxe et même la sémantique. Il semble comprendre son interlocuteur et s’il parle évidemment anglais, il s’exprime très bien en français. En revanche, il est extrêmement décevant sur le fond et l’absence de tout état d’âme, de toute personnalité, de tout ego, de son discours est desséchante. Plus grave, il se révèle pour l’heure assez limité dans ses connaissances, bien inférieur en tout cas au moteur de recherche Google et bien plus superficiel qu’une encyclopédie en ligne comme Wikipédia.
Quelques questions à peine malicieuses permettent de s’en rendre compte. Il se trompe par exemple en mélangeant les titres d’ouvrages de l’écrivain Jacques Chardonne avec ceux d’autres auteurs, et lui attribue le prix Goncourt 1923 pour un livre qu’il n’a jamais écrit “les jours et les nuits” puisqu’il est d’Alfred Jarry (le prix ayant été attribué à Lucien Fabre pour "Rabevel ou le mal des ardents”) !
Certes l’erreur est humaine, pourrait-on rétorquer, et on ne saurait donc en faire le reproche à un robot humanisé. Mais persévérer est en revanche diabolique, dit-on. Est-ce la nature profonde de ChatGPT qui, lorsqu’on le réinterroge quelque temps plus tard sur le même sujet, commet de nouvelles erreurs ? Il attribue cette fois à Chardonne le roman “La mort du petit cheval” qui est en réalité d’Hervé Bazin, et fait de l’auteur des Destinées Sentimentales, un membre de l’Académie Française, ce qu’il n’a bien sûr jamais été (tout au plus, celle d’Angoumois !)…
Il se montre enfin peu capable d’enrichir lui-même ses connaissances contrairement à ce qu’il affirme, même si on lui indique le chemin d’accès au savoir. Je me suis amusé à lui demander s’il connaissait mon recueil de poésies paru chez Coollibri, disponible sur internet et que Google trouve quasi instantanément. Bien sûr, il en ignorait l’existence, arguant notamment du fait que ses connaissances s’arrêtent en 2021, mais il s’engageait à “jeter un coup d'œil au recueil”. Quelques jours après, il ne se souvenait manifestement plus de sa promesse…

Un des objectifs principaux revendiqués par ses concepteurs est d’aider sur des problématiques concrètes.
A cette fin, qu’il soit permis d’évoquer ici l’interrogation du robot faite par les journalistes du Télégramme, à propos de la crise du petit commerce, qui conduit à la désertification des centres villes.
ChatGPT, nullement pris au dépourvu, livre illico cinq propositions : « Encourager un mélange diversifié de détaillants locaux et nationaux pour créer une expérience unique », « soutenir les petites entreprises et encourager l’entrepreneuriat », « améliorer l’accessibilité des transports en commun et des piétons au centre-ville », « développer des campagnes de marketing pour promouvoir le centre-ville en tant que destination de divertissement et de shopping » et « créer un Business Improvement District (BID) ou une organisation similaire pour fournir des services et un soutien aux entreprises ».

Sur la problématique des retraites, la machine n’est pas non plus avare de préconisations, qu'il aligne mécaniquement :
- Augmenter l'âge de la retraite : Cela permettrait de réduire les dépenses liées à la retraite en augmentant le nombre d'années durant lesquelles les travailleurs cotisent.
- Mettre en place un système de retraite par points : Ce système permettrait aux travailleurs de choisir comment ils souhaitent cotiser pour leur retraite, en fonction de leurs besoins et de leurs souhaits.
- Augmenter les cotisations : Les cotisations sociales pourraient être augmentées pour augmenter les revenus de retraite.
- Mettre en place un système de retraite privée : Ce système permettrait aux travailleurs de cotiser pour leur retraite en dehors du système public, en utilisant des fonds privés.
- Favoriser l'emploi des seniors: en incitant les entreprises à maintenir les seniors en emploi, cela permet de prolonger la durée de cotisation et de limiter les dépenses liées à la retraite.

Soucieux sans doute de mettre les formes et surtout de rester consensuel, le logiciel pondère ses propositions en soulignant qu’il est “important de noter que chacune de ces options présente des avantages et des inconvénients, et qu'il n'y a pas de solution unique pour améliorer le système des retraites en France. Les décideurs politiques doivent prendre en compte les différents facteurs et les considérer dans leur ensemble pour prendre une décision équilibrée.”

Non seulement il n’a pas d’avis, mais il s’avère incapable de prioriser ses propositions d’action, même si le contexte est précisé, comme dans le cas des petits commerces qui concernait explicitement de la ville de Saint-Brieuc. Les propositions sont d’une neutralité désespérante et se résument à un catalogue insipide, relevant le plus souvent de l’évidence. L’emballage est séduisant. On dirait un rapport pondu par un de ces fameux cabinets conseils, très en vogue parmi les décideurs. Mais la substance n’a ni originalité ni saveur, rappelant fort la vision technocratique qui fait déjà tant de mal.

 

A suivre....

Doctor Chat & Mister GPT (1)

L’intelligence artificielle a le vent en poupe. Tout le monde en parle et les supputations vont bon train, quant à ses conséquences à venir, non pas tant bénéfiques, que néfastes. Il faut dire qu’on a toujours aimé se confronter à la crainte de l’avenir, et qu’en la matière, les médias opèrent comme une caisse de résonance idéale pour l'instrumentalisation des peurs. Le catastrophisme fait recette, et les croyances les plus folles n’ont jamais été aussi présentes que dans nos sociétés modernes pourtant réputées plus raisonnables et moins ignorantes que celles d’autrefois.

La science-fiction donne lieu à toutes sortes de fantasmes en général assez terrifiants. La révolte des robots a longtemps alimenté et excite encore l’imagination de nombre de romanciers et de cinéastes. On donne souvent à ces machines l'apparence d’humanoïdes peu sympathiques. Aujourd’hui, la crainte vient d’un monstre virtuel qu’on nomme Intelligence Artificielle, c’est-à-dire IA, ou mieux encore, à l’anglo-saxonne, AI. Ce machin filandreux et insaisissable comme un blob s’insinue partout et selon certains augures, son règne grandissant risquerait d’altérer gravement nos vies, nos sociétés et pourrait même selon certains experts provoquer la fin de l’humanité. Allons bon ! Nous avions déjà l’horrible menace du réchauffement climatique, voici qu’une autre, toujours créée par l’homme, pourrait se révéler pire encore ! Paradoxe amusant, les plus virulents de ces prophètes de malheur, sont précisément ceux qui investissent des fortunes pour développer les capacités de cette IA… On se souvient que les lanceurs d’alerte les plus véhéments sur les dangers du nucléaire furent les savants qui permirent la mise au point de la bombe atomique…

J’ai récemment fait la connaissance de ChatGPT, le dernier avatar en matière d’intelligence artificielle, sévissant sur le Web. Il cause, il écrit, il réfléchit, il raisonne et surtout, chacun peut converser avec lui car il maîtrise l’art du discours et du dialogue mieux que quiconque.
Ce genre d'initiative m’a rappelé le bon vieux test de Turing qui me fascinait lorsque je m’initiais au fonctionnement des systèmes experts en médecine et au traitement informatique du langage naturel. Il s’agissait avec cette expérience, inventée par un des pionniers de l'informatique, de mesurer la capacité de l'Intelligence Artificielle à être confondue avec l'intelligence humaine, par le biais d’une conversation en aveugle entre un observateur humain et un ordinateur. Selon le génial créateur d’Enigma, cinq minutes devaient suffire pour déterminer si l’ordinateur avait réussi le test.

A l’évidence, ce n’est pas le but des concepteurs de ChatGPT.
Dès le premier échange, il se trahit:
- Hello ChatGPT ! Comment vas-tu ce matin ?
- Bonjour ! En tant qu’intelligence artificielle, je n’ai pas de sentiments physiques, donc je ne peux pas dire comment je me sens ce matin….

Certes, dans l’esprit de Turing il ne s’agissait pas de tromper sur la nature de la machine mais sur sa capacité à imiter la conversation et le raisonnement humains. Le programme ne pouvant a priori mentir, il ne faudrait donc le juger qu’à des questions dont la neutralité ne risque pas de trahir sa nature.
Ne nous trompons donc pas. On est avec ChatGPT très loin des conditions idéales imaginées par Turing. Il n’est, comme il le répète à la moindre sollicitation, “qu’un modèle de langage informatique”. Et lorsqu’on lui demande son opinion ou bien les sentiments que lui inspire tel ou tel sujet, il brise beaucoup d’espérances conversationnelles en déclarant qu’il n’est “pas capable d’avoir des opinions ou des sentiments” et en précisant qu’il est “simplement un outil conçu pour aider à répondre aux questions et fournir des informations…”

A suivre...

Dans le coeur des robots

La victoire du robot Alpha Go sur Lee Sedol, un des meilleurs joueurs de Go au monde, ravive la polémique sur les limites et les dangers potentiels de l’intelligence artificielle.

A une époque où l’on a une peur névrotique de tout, et où l’on appréhende, à l’instar de nos ancêtres les Gaulois, que le ciel nous tombe sur la tête, quoi de plus normal en somme ?
On pourrait évidemment s’étonner que l’Homme finisse par craindre jusqu’à ses propres créations, mais au fond, il a bien raison. Toute machine, toute invention fait naître des risques. Du simple marteau avec lequel on peut malencontreusement se taper sur les doigts, jusqu’à la bombe atomique qui constitue une menace pour la planète entière, l’évidence est bien là : toute machine est potentiellement dangereuse.
La fable de l’Apprenti Sorcier a parfaitement décrit ce à quoi nous exposent les tâtonnements de la science lorsqu’elle est aussi prétentieuse qu’approximative. Il y aurait beaucoup à dire sur les abîmes qui se dérobent encore à la connaissance que nous avons de la nature, dans lesquels risquent de se précipiter nos téméraires mais fragiles inventions.

Mais faut-il pour autant oublier que la machine est là avant tout pour nous aider, pour améliorer telle ou telle capacité défaillante de notre nature chétive ?
De ce point de vue, il est surprenant que des gens comme Bill Gates, Stephen Hawking ou Elon Musk agitent frénétiquement un épouvantail à l'édification duquel ils ont consacré leur vie !
La gravité de leur message laisse même pantois. Ainsi Stephen Hawking, qui reconnaît que “les formes primitives d'intelligence artificielle que nous avons déjà, se sont montrées très utiles”, n’hésite pourtant pas à déclarer “qu'une intelligence artificielle complète pourrait mettre fin à la race humaine.”On peut se demander si l’Intelligence Artificielle ne représente pas un nouvel avatar du progrès, contre lequel nombre de grands savants se sont retournés après l’avoir promu…Tout est sans doute possible et la hantise de la fin du monde est un grand classique de science fiction. Mais à l'évidence, aucune machine n’est méchante "en soi". Elle ne fait qu’obéir à son maître et si elle dysfonctionne, c'est à cause de quelque négligence de sa part. L'homme n'est pas Dieu qui peut faire de sa créature un être libre, conscient et responsable.

Pour revenir à des interrogations plus triviales, après l’exploit de l’ordinateur au jeu de Go, la machine a-t-elle eu envie de sabler le champagne ?
Non bien sûr, pas plus qu’elle n’a eu conscience d’avoir participé à un jeu et d’avoir gagné la partie. Fort heureusement, elle n’en tire ni orgueil, ni fierté. Si elle le faisait ce ne serait qu’imitation d’un comportement humain, instillé dans ces circuits par l’entremise malicieuse des informaticiens.
Si la machine n’a rien d’humain, la tentation est grande pour l’être humain de lui donner son apparence, autant physique que comportementale. Rien de plus normal en somme, puisqu’il est amené à communiquer avec elle et qu’elle est en quelque sorte son prolongement.
Mais quelle est étonnante cette faculté que nous avons de se projeter sur tout ce qui nous entoure ! Nous humanisons facilement la nature, les animaux, les choses, même les plus banales, les plus inanimées. On se souvient de Robinson Crusoë et de son compagnon virtuel Vendredi…
Le pire serait toutefois que l'Homme un jour imagine pouvoir conférer à la machine tout ou partie de sa liberté, de sa responsabilité, en un mot de sa conscience.

Ce fut sans doute l’erreur de Turing, de considérer, avec son fameux test, que l’ordinateur serait parvenu à l’intelligence lorsqu’un être humain serait incapable en dialoguant avec lui, de faire la différence entre un congénère et un robot.
La machine peut singer l’homme, mais elle n’a pas d’autre conscience, pas d’autre sentiment que ceux que l’homme lui confère en la programmant. La science fiction se plaît à exploiter le fantasme de la machine sentimentale, mais qu’elle soit bienveillante comme dans le film Her, ou maléfique comme Terminator, il ne s’agit à l’évidence que d’un mimétisme un peu grotesque.
Si l’ordinateur n’a pas de conscience, il porte donc nécessairement celle de son concepteur, et Rabelais rappelait non sans prescience et non sans justesse, que “sans conscience la science n’est que ruine de l’âme…” Il faut sûrement s’en souvenir, aujourd’hui plus qu’hier, et sans doute moins que demain…

Il n’y a pas de Deus Ex Machina, mais pour l’heure l’intelligence artificielle constitue un espoir fabuleux d’amélioration de la condition humaine, à condition de s’en servir à bon escient. Non pas tant pour participer à des jeux de société, que pour rendre service au quotidien.
Dans cette optique, les derniers progrès en matière d’apprentissage (deep learning disent les anglophones), de reconnaissance de formes, d’algorithmique, sont fascinants.
Les performances stupéfiantes du moteur de recherche de Google ont transformé sous une apparence anodine, notre vie de manière très profonde. Cette efficacité pour dénicher des réponses adéquates dans la montagne de connaissances accumulées sur le Net, ce malaxage prodigieusement ordonné fascine. 
Faut-il en avoir peur ?
Sans doute pas, tant qu’il y a une maîtrise humaine derrière, et suffisamment d’esprit critique.
Car il faut peut-être craindre davantage l'abêtissement de l'homme soumis à la machine que l'humanisation des robots libérés de sa tutelle...