Café philo: Intelligence artificielle ou bêtise humaine, Compiègne, le 3 juin 2023

Egalement débattu au Café philo de Crépy-en-Valois le 13 mai 2023

(Jean-Marc Bélot, prospectiviste et mythologue)

Les médias se passionnent pour l’intelligence artificielle ChatGPT lancée par Elon Musk. La Hubot Sophia, de Hanson Robotics, vous tient la conversation, parmi d’autres aptitudes. L’une d’elles pourrait animer un café-philo prochainement. C’est une question centrale aujourd’hui parmi les philosophes, dont les différents aspects vont vous être soumis pour discussion. Il avait été demandé une suite au Café Philo « Technologie ou société » du 8 décembre 2018, sur les technologies connectées, qui avait suscité beaucoup de débats. En voici l’occasion.

Introduction

Première partie: un air de déjà vu. Les médias se déchaînent actuellement sur l’intelligence artificielle, doit-on la craindre, va-t-elle nous remplacer ? Cela a un petit air de déjà vu.

• Il y a dix ans, les mêmes médias écharpaient les nanotechnologies. Il y a vingt ans les robots, qui allaient nous prendre nos emplois et nous remplacer. Bilan: les robots restent dans des niches limitées, la nanotechnologie ne réussit que dans l’électronique.
• Ce qui est sûr, dans les deux cas, c’est que ce sont des humains qui nous ont remplacés pour les utiliser, par centaines de milliers: les Chinois pour les usines robotisées, les Taiwanais pour la nano-électronique. La crainte de l’IA est-elle un marronnier, quel est le  réel danger ?

Deuxième partie: une IA agréable ou des personnes désagréables. Le philosophe Étienne Klein soulève cette option qui donne à réfléchir : « peut-être préférerons-nous nous entourer de robots sympathiques et prévenants plutôt que de personnes désagréables ».

• La bêtise concerne aussi l’IA car ce sont des humains qui la programment. On voit des intelligences artificielles reproduire bêtement des biais humains, car elles ont été entrainées avec des données générées par des humains. Elles sont donc tout aussi intelligentes… ou bêtes. Et on pourra parfois les battre.
• Une plaisanterie porte sur l’enfer français et l’enfer allemand. Une personne s’étant mal comportée arrive au purgatoire. Comme elle a des circonstances atténuantes, elle a le choix entre l’enfer français et l’enfer allemand. Elle demande une prévisite. Dans l’enfer allemand tout baigne, ça tourne, pas de panne. Dans l’enfer français, il demande à un pensionnaire: parfois il n’y a pas de feu, parfois il n’y a pas de fourches, parfois les diablotins sont en grève. En revenant à l’IA, il vaut mieux peut-être prendre une IA française.

Troisième partie de l’intro: qu’est réellement l’IA ? Ce n’est pas nouveau, on y travaille depuis 50 ans. Quand je suis entré en sixième, en septembre 1970, c’était la première année des 6èmes modernes. On y apprenait les mathématiques modernes.

• Au lieu de démarrer par les triangles rectangles ou non rectangles, on voyait la théorie des ensembles. Les éléments se regroupent ou non dans des sous-ensembles, des ensembles, y appartiennent, sont inclus ou exclus. Voilà, c’est une des bases de l’IA. On lui ingère des éléments issus d’observations, par exemple de caméras, et elle doit analyser si elle voit plutôt un chien ou plutôt un chat. Ou on lui ingère des données respiratoires d’un patient et elle doit choisir son mode d’assistance respiratoire.
• On avance jusqu’à la fin des années 80: les formes fractales, les réseaux neuronaux. Pour ceux qui connaissent, on a abouti  à la MindMap (carte mentale). Depuis, les IA s’échinent à améliorer leurs cartes mentales en fonction de données d’entrées. On appelle cela le Machine Learning
• Les plus snobs diront « Deep Learning » car on change d’échelle à chaque fois que l’informatique progresse en vitesse d’exécution et en quantité de mémoire. L’IA peut avaler davantage de données.

Voilà, je donne la parole à l’un ou l’une de vous qui voudra bien se lancer dans le débat.

Ce qui donne à penser que l’IA ne progresse pas aussi vite que l’on croit

Bizarre, ce sont ceux qui auraient le plus à gagner qui demandent à ralentir : Elon Musk (ChatGPT), Google (Bard), Bidu (Ernie Bot). Le Hubot Sophia de Hanson Robotics tient la conversation, mais l’un d’eux pourrait animer un café-philo ? Ne sont-ils pas prêts ? Bien loin de ce qu’ils annonçaient dans les médias il y a peu ?

• 18.4.2023 même-google-veut-qu’on-régule-l’ia-qu-est-ce-qu-on-attend
• Ceux qui utilisent le système IA des moteurs de recherche en posant des questions sont bien déçus
• Les systèmes marketing censés mettre en avant les produits que l’on voudrait acheter ont toujours un métro de retard. A chaque fois, cela propose un produit que l’on vient d’acheter, ne se basant que sur les recherches passées, incapables d’extrapoler par analogie. Si vous avez déjà acheté une voiture ou une paire de chaussures de course, c’est fait, vous n’allez pas en racheter une tout de suite.
• Pourquoi l’Intelligence Artificielle est nulle en trading ! – YouTube

Cedric Villani: On imagine le développement de technologies s’incarnant dans des robots capables de penser comme nous, et finalement mieux que nous. Qui pourraient nous survivre, et nous remplacer. On craint le saut qualitatif que constituerait l’émergence d’une IA capable de s’améliorer elle-même, jusqu’à dépasser l’homme. On craint les possibles actions néfastes de robots dotés d’une autonomie dépassant le seul champ technique, et capables de prendre des décisions d’ordre éthique, alors même qu’ils seraient dépourvus de conscience éthique. Mais l’intelligence se réduit-elle à la capacité de produire des opérations intellectuelles, et à la maîtrise de procédures efficaces ? L’intelligence artificielle est d’ordre technologique. « Ça marche » (pour opérer certains gestes intellectuels, et conduire efficacement certaines actions) est-il le dernier mot en matière d’intelligence ? (IA ou bêtise humaine)

Le terme « intelligence » est-il à sa place ? René Zazzo propose de rayer du vocabulaire le terme « intelligence ». Signifiant trop, il ne signifie rien. Il est pluriel: il faudrait considérer une dizaine d’intelligences différentes (le QI, le QE, etc). Bien plus, l’intelligence réside dans le bon usage de ses capacités cognitives. Il faut les utiliser à bon escient, au bon moment et convenablement.

Descartes l’avait vu: ce n’est pas assez d’avoir l’esprit bon, mais le principal est de l’appliquer bien (Discours de la méthode, première partie). L’intelligence n’est pas une « chose » que chacun posséderait plus ou moins: par la biologie (conception élitiste), par l’expérience (conception constructiviste) ou par l’effort (conception perfectionniste).

Alain voit l’intelligence, comme une capacité de conscience critique, résultat d’une conquête de tous les jours. « Chacun est juste aussi intelligent qu’il veut ». Georges Brassens: « Entre nous soit dit, bonnes gens,/Pour reconnaître/Que l’on n’est pas intelligent,/Il faudrait l’être. ». (Ceux qui ne pensent pas comme nous)

Ce qui donne à penser que l’IA prend de plus en plus de place 27 Intelligence artificielle ARTµZ 7.5.2023

Voitures connectées, assistants vocaux, médecine prédictive: l’intelligence artificielle est déjà présente dans notre société. Le chatbot ChatGPT se veut un tournant dans l’évolution. Va-t-elle nous enrichir ou nous remplacer ? Pour en débattre, Nora Hamadi a reçu:

• Anna Felländer, PDG d’Anch.IA, plateforme de gouvernance éthique autour de l’intelligence artificielle, voit cette technologie révolutionnaire, mais nécessitant un encadrement strict.
• Eric Sadin, philosophe et spécialiste du monde numérique, s’inquiète de l’usage “antihumaniste” de l’IA
• En Chine, aux Pays-Bas, en Serbie, des milliers de caméras capables de reconnaissance faciale via l’IA
• Theo Priestley, spécialiste du métavers, voit le lien étroit avec la science-fiction et une façon de nous enfermer dans des univers virtuels, les puissants se réservant l’univers réel
• L’intelligence artificielle bat le cerveau humain déjà depuis des années dans les jeux comme les échecs ou le jeu de Go (AlphaZero de Google) et dans le diagnostic comme le diagnostic médical. Elle rend de nombreux services dans des équipements comme les poumons artificiels.

L’homme augmenté, la machine augmentée, le contrôle du monde

Étienne Klein s’intéresse à l’homme augmenté. C’est-à-dire qu’on garde les humains et qu’on multiplie leurs capacités par l’ajout de capteurs, d’intelligence artificielle, d’actionneurs puissants comme les exosquelettes pour porter de lourdes charges. L’IA ne pouvant pas acquérir une conscience de soi, ni même des autres, la conscience vivante (humaine ou animale) reste nécessaire. Il n’a pas peur de l’IA en elle-même, mais de notre capacité à nous en servir intelligemment. Luc Ferry est un chantre de l’homme augmenté, chacun sa petite puce électronique implantée, sans mesurer les conséquences sur la liberté.

Yann Le Cun, lauréat du prix Turing 2018, patron IA de Facebook parle de machines apprenantes et intelligentes. En leur ajoutant des capteurs, en particulier des caméras ultra-rapides, elles pourront appréhender le monde réel. Elles disposeront d’une liberté d’action, des sortes d’assistant amélioré. Mais la machine cumulant toutes les aptitudes d’un humain, ce n’est pas pour demain. Elles ne peuvent réaliser qu’un nombre limité de tâches. Intelligence, en anglais, ne désigne que la capacité à analyser des données et à traiter des informations (exemple : l’Intelligence Service est le service d’espionnage anglais). En français, sa signification est beaucoup plus vaste : capacité à argumenter, à créer des concepts, à élaborer une pensée critique, voire une imagination. Si vous parlez de prise de contrôle du monde par les machines, je crois que nous dramatisons ! Nous avons tendance à confondre intelligence et domination. L’IA se concentrera sur les objectifs que nous lui aurons assignés. Donc je l’affirme : n’ayons pas peur du Terminator.

Michel Serres. S’il s’agit d’une machine dans une usine, au sein d’une chaîne, c’est une machine comme une autre. Cela peut libérer de certaines tâches qui étaient désagréables. Les algorithmes sont anciens, par exemple les recettes de cuisine. Si vous voulez réussir la tarte tatin, il faut suivre la recette. En devenez-vous l’esclave ? Oui, si vous désirez vous délecter. Non car vous n’êtes pas tenu de faire, à longueur de journée, des tartes Tatin. En termes d’impact sur la société, nous avons des raisons d’être un peu plus inquiets. Les personnes très qualifiées vont pouvoir fabriquer et utiliser des robots. D’autres sauront les entretenir ou les utiliser dans les services à la personne. Mais la classe moyenne s’inquiète: les domaines dans lesquels elle travaille sont en passe d’être automatisés. Et il y a ceux qui, déjà avec les ordinateurs, n’arrivent pas vraiment à s’y adapter. Il y a une notion de dépassement. L’invention de l’écriture a créé un dépassement de l’homme. Vous n’avez pas lu l’ensemble de la Bibliothèque nationale, moi non plus. La mémoire de votre ordinateur est bien plus importante que la vôtre. Nous assistons à une accélération de ce dépassement, mais ce n’est pas une nouveauté. Nous sommes liés à de nombreuses technologies. La technologie nous dépasse presque toujours, mais elle nous aide. Si l’humanité doit disparaître, je pense que cela sera pour d’autres raisons que l’IA. Sans changement, sans transformation, toute entité est vouée à disparaitre. Il y a deux manières d’être sot, c’est de faire n’importe quoi ou de faire toujours la même chose. Une question est de savoir qui sera dépositaire de nos données. Ce que je trouve terrifiant, ce sont des robots que l’on rencontrerait dans la rue, qui auraient une forme humaine et que nous ne saurions pas reconnaître. Est-ce possible ? Je ne le sais pas. francetvinfo, mbadmb, lefigaro, philomag.com (Edgar Morin, pas eu le temps de voir)

Michel Onfray. On me reproche souvent d’être pessimiste. Je ne suis ni pessimiste ni optimiste, je suis tragique. Le tragique tente de voir le réel tel qu’il est. J’essaie de ne pas succomber à l’optimisme par exemple d’un Luc Ferry pour qui la multiplication des téléphones portables montre que le bonheur est dans le pré. L’augmentation du niveau de vie, la possibilité de vivre plus longtemps en bonne santé, il y a des progrès qu’il ne faudrait pas mépriser. On sait faire un Romanée-Conti artificiel à partir d’une spectrographie, une viande de bœuf artificielle, beaucoup d’objets artisanaux avec une imprimante 3D. Mais le transhumanisme, c’est un vrai danger de grand remplacement. Les grands des GAFAM veulent passer à la vraie âme matérielle, c’est un changement de paradigme et va vers un monde totalitaire, une civilisation totale qui fonctionnera sur l’ensemble de la planète avec d’immenses inégalités entre ceux qui auront accès et les autres. Un écueil est de ne pas renoncer à sa propre intelligence quand on utilise un outil avec IA, de ne pas lui déléguer notre propre intelligence. Michel Onfray va participer à une expérience avec un avatar de lui, qui aura ingurgité tous ses textes, pour voir à quoi il va être capable de répondre. On posera des questions à la machine, et en même temps à Michel Onfray en réel et on pourra comparer les réponses pour voir comment fonctionne l’intelligence Les menaces de l’IA, Sud Radio

Le vieux souhait de jouer à Dieu. Le Golem. Le risque d’apprenti-sorcier, de transgression

Nous sommes encore dans l’adolescence de l’humanité et nous voudrions chercher à nous échapper des exigences pesantes de notre condition, à prendre le temps de vitesse. La science commence à nous faire comprendre à quoi ressemble le monde, fait de vide et de vibration, mais nous ne sommes pas encore très loin, en particulier en ce qui concerne le monde immatériel : les phénomènes psychiques, transmission de pensée, vision à distance, les apparitions d’êtres surnaturels, les voyages vers l’au-delà. La technique commence à nous faire envisager les voyages extraplanétaires, les manipulations nucléaires et génétiques, l’informatique quantique, l’intelligence artificielle. Mais sommes-nous mûrs pour cela ? Visiblement non. Nous nous sommes découverts plein d’amis et d’ennemis à travers la planète avec lesquels nous jouons au plus fort, des efforts à somme négative, une perte d’énergie. La nature se charge déjà de nous rappeler qui est l’adulte et il va bien falloir rentrer dans le rang

Quand les philosophes débattent d’intelligence artificielle · iTPro.fr En résumé:

• Aristote: “Les amis, permettez-moi de vous rappeler que la connaissance ne peut être acquise que par l’expérience. Nous avons la capacité de raisonner et d’acquérir des connaissances au fil de notre vie. Or, l’intelligence artificielle n’est pas basée sur son expérience propre, mais sur des connaissances inculquées. Alors comment peut-on parler d’intelligence si elle ne s’appuie sur aucune expérience concrète du monde ?
• Platon: “La véritable connaissance ne peut être obtenue que par l’intellection directe des Formes éternelles qui transcendent notre monde sensible et permettent de comprendre la réalité ultime des choses. Si l’homme a cette capacité de raisonner, c’est parce qu’il est doté d’une âme immortelle qui a contemplé les Formes avant d’être incarnée. Par conséquent, ni l’intelligence artificielle, ni l’intelligence humaine, ne peuvent être considérées comme véritables formes de connaissance, ne reposant pas sur la contemplation des Formes éternelles.
• Spinoza: “ La question est plutôt de savoir comment l’homme peut trouver le bonheur et la liberté dans un monde qui n’a pas de finalité ou de dessein divin. La raison et la connaissance ne sont pas une fin en soi, mais un moyen de comprendre la nature et de vivre en harmonie avec elle. Et si l’intelligence artificielle peut nous aider à mieux comprendre la nature, alors pourquoi s’en priver ? Vous parlez de l’homme comme d’un être supérieur aux autres animaux. Il n’en est rien ! L’homme n’est pas distinct de la nature, comme les machines d’ailleurs. Si nous voulons vivre en harmonie avec la nature, nous devons apprendre à la comprendre et à la respecter, en utilisant toutes les connaissances et les outils à notre disposition. Aristote, tu te trompes en affirmant que la connaissance ne peut être acquise que par l’expérience. Elle peut être obtenue par la raison seule, à condition de partir de principes évidents et de suivre une méthode rigoureuse.
• Nietzsche : “Bonheur, liberté, nature… Bullshit ! Vous semblez croire que tout a une finalité, que tout est ordonné et que nous pouvons trouver le bonheur en suivant des règles établies. La vie est bien plus chaotique. L’homme est un animal enragé, toujours à la recherche de pouvoir et de domination. La nature elle-même est cruelle et indifférente à notre sort. Il n’y a pas de finalité, pas de sens, pas de vérité absolue. Tout n’est qu’un éternel devenir, un perpétuel mouvement. Alors l’intelligence artificielle, pourquoi s’en soucier ? Elle n’est qu’une autre manifestation de la volonté de puissance de l’homme. Nous la créons pour mieux nous dominer, pour mieux nous affirmer. Mais au final, cela ne nous apportera rien de plus que le néant. Rien ne compte vraiment, tout n’est qu’une illusion éphémère. Et si tu cherches vraiment quelque chose à quoi te raccrocher, alors ne cherche pas la vérité, mais la beauté. C’est la seule chose qui puisse encore nous émouvoir dans ce monde absurde.”

« Parmi toutes les variétés de l’intelligence découvertes jusqu’à présent, l’instinct est, de toutes, la plus intelligente. »

« Aimer ce qu’on ne verra jamais deux fois » (Alfred de Vigny)

Lire le texte d’Ata-ilah Khaouja Tout cela pour ça ! | LTE Magazine (3 mars 2023)

Parmi les points du débat:

• discernement, discernabilité entre humain et machine
• mimétisme, différence avec le libre-arbitre
• instinct
• innovation, en particulier liée à la survie, ruptures, événements inattendus
• grecs: l’intelligence est le travail de la tête; à différentier de l’intelligence du coeur de Rousseau, avec l’intelligence du corps, avec la mise en relation
• post-humanisme, obsolescence de l’homme, d’autres espèces ont déjà disparu, que va-t-on faire des hommes
• IA vue comme une nouvelle parole oraculaire
• Heidegger
• intelligence, en anglais, signifie renseignement et non pas pensée, intellect