Compte-rendu de la réunion du 6 février 2021 (en visioconférence Zoom)

 

 

La réunion a rassemblé 17 personnes (15 + 2 sur la fin)

Il faut signaler tout d'abord l'omission, dans la bibliographie du texte d'introduction, du sujet traité au Café-Débat le 5 mai 2019 par Daniel Soulat, dont on trouvera le texte et le compte-rendu ici : http://quentin-philo.eklablog.com/la-guerre-des-intelligences-aura-t-elle-lieu-a161935592. Les deux débats, bien que traitant tous deux de l'intelligence artificielle (IA) n'ont pas abordé le sujet tout à fait de la même façon et sont donc assez complémentaires. Toutes mes excuses à Daniel !

J'ai regroupé les interventions voisines un peu arbitrairement en six chapitres.

Les caractéristiques de l'intelligence humaine (IH)

Les intervenants se sont très majoritairement entendus pour dire que l'IH manque d'une définition claire, mais se caractérise, non seulement par l'existence de la capacité à raisonner, mais aussi par la présence d'autres facultés telles que la sensibilité, l'émotion¹, l'empathie, ainsi que par la plasticité du cerveau et l'universalité des sujets sur lesquels elle s'exerce. L'efficacité de la pensée humaine serait issue de la conjonction de ces différentes facultés et non de la seule pensée rationnelle, notamment parce que le siège de la logique et de l'émotion se situent au même endroit du cerveau, dans le lobe préfrontal.

A ceux qui évoquent l'intuition comme fondement du progrès, une personne indique que cela n'est que l'accumulation d'expériences, qu'elle n'existe pas en tant que telle. Il faut alors parler d'expertise, tout en se rappelant que personne n'est expert en tout.

L'IH serait inséparable du langage, et viserait à connaître et comprendre le monde et l'environnement dans lequel nous nous trouvons. Pour cela, Howard Gardner² a élaboré la théorie des intelligences multiples, où l'on trouve par exemple l'intelligence émotionnelle.

Il a été noté également que l'homme a une fâcheuse tendance à juger ce qui existe par rapport à lui. Etre intelligent, ce n'est pas forcément fonctionner comme un être humain, certaines observations le prouvent, comme la capacité d'apprendre des fleurs nommées « sensitives », bien qu'elles ne soient dotées ni d'un cerveau ni d'un système nerveux.³

L'homme, en cherchant à comprendre, avance souvent dans le désordre, par essais/erreurs, et cela conduit parfois à de grandes découvertes.

Une discussion assez technique s'est déroulée entre deux participants, relative à la notion d'intelligence générale s'appuyant sur l'analyse factorielle et le facteur G de Spearman⁴.

L'intelligence artificielle (IA)

Il n'existe pas non plus de définition de l'IA qui fasse consensus. Certains pensent que ce n'est qu'une extension, une amélioration des machines informatiques, y compris quand on utilise des réseaux de neurones qui ont toujours besoin d'algorithmes, de règles édictées par l'homme pour pouvoir fonctionner.

Au départ, depuis le début des années 1980, le terme d'IA a été abusivement attribué à de simples programmes d'aide à la décision, de traitement de données et de simulation, par exemple :

• l'aide au diagnostic médical,
• l'aide à la décision dans le domaine de la finance, pour anticiper les tendances boursières et maximiser les gains,
• l'industrie pharmaceutique, pour explorer les très nombreuses combinaisons de molécules et leurs formes afin de créer de nouveaux médicaments. C'est la raison pour laquelle les vaccins anti Covid 19 à ARN messager ont mis aussi peu de temps à être développés

Ces logiciels ont été par la suite énormément complexifiés pour arriver à réaliser des tâches désormais hors d'atteinte des capacités humaines. Pour autant, une IA n'est qu'un outil au service de l'homme, et se caractérise aujourd'hui par sa spécificité : chaque IA est dédiée à une seule tâche, où elle excelle, en particulier par sa vitesse d'exécution, mais aucune n'est universelle, et ne le sera pas avant longtemps.

D'autres estiment qu'une machine, par nature, ne peut être « intelligente », c'est à dire capable d'innover, d'être intrinsèquement autonome, ne pouvant sortir autre chose que ce que l'homme y a mis. Par conséquent, le terme d'IA ne peut être qu'un « oxymore ».

L'acquisition de connaissances par une IA se fait aujourd'hui par apprentissage. Le problème qui demeure, c'est qu'ensuite cette IA se comporte comme une « boîte noire », en ce sens qu'on ne sait pas comment les résultats qu'elle sort on été élaborés.

Robots et IA

On a peu discuté de la différence à faire entre une IA purement virtuelle (un programme informatique, aussi intelligent soit-il, n'existant que dans un ordinateur ou un réseau), et un robot, capable d'actions physiques sur son environnement. L'étymologie du mot « robot » a été rappelée, signifiant en tchèque « travail forcé »⁵ Il y a donc lieu de distinguer un robot humanoïde (possédant une forme proche de l'homme), et une IA capable d'actions dédiées, mais sans forme particulière. On a cité sur ce dernier point :

• la voiture autonome, en cours de développement. L'IA à y implanter commanderait divers actionneurs répartis dans la voiture pour assurer les fonctions actuellement réalisées par le conducteur, le « robot » étant alors la voiture elle-même. Certains ont fait remarquer que les voitures actuelles comportent déjà une multitude de calculateurs assurant chacun une sous-tâche particulière (freinage assisté, injection, airbags, etc)
• les lignes automatisées d'assemblage d'automobiles, capables d'adapter leur tâche pour personnaliser les voitures qui défilent
• l'IA imbattable aux échecs et au jeu de go
• les algorithmes boursiers, qui ont conduit au krach de 2008 : tout dépend de la confiance qu'on accorde aux prises de décision déléguées aux IA
• l'analyse et le tri d'images, qui est lent et fatigant pour l'homme, comme la lecture des clichés en radiologie. Une IA le fait vite et bien, mais ne verra pas ce qu'elle ne connaît pas, alors que l'homme pourra détecter des choses nouvelles.

L'Homme, l'IA et les robots

Qu'un robot ou une IA soient de simples outils, ou qu'ils soient capables d'actions indépendantes, il faudra que l'homme reste vigilant pour ne pas être dépassé par ses « créatures ». Aujourd'hui, il n'y a aucun risque, puisque chaque robot est programmé pour réaliser une tâche bien définie : un robot assembleur ne pourra jamais faire un diagnostic médical. Le problème se pose néanmoins dans certains cas : commande automatique de pilotage ou de tir d'un avion de chasse ; drones armés, etc

Il faudra apprendre à cohabiter avec des robots évolués, surtout si ceux-ci ont la faculté de se reproduire. Quel statut leur accorder ? Quel partage de responsabilités ? Il est donc nécessaire d'élaborer des règles précises d'utilisation des IA, en mettant cette question à l'ordre du jour des comités d'éthique. Selon les utilisations, définir qui décidera, de l'homme ou de la machine ? On a cité ainsi les trois lois de la robotique d'Isaac Asimov, censées régler le comportement des robots lorsque des humains sont impliqués,⁶ ou encore la nécessité de doter les robots d'un « programme d'empathie » les empêchant de causer du tort aux hommes.

Toutefois, certains ont fait part de leurs peurs lorsque les robots, dans le futur, auront atteint un stade de développement proche de celui de l'homme. Certains livres et films de science-fiction ont largement brodé sur ce thème, mais y croire tient aujourd'hui du fantasme, il faudrait pour cela que les robots soient dotés d'un organe de pensée et de commande voisin du cerveau humain, qui est une merveille de miniaturisation et de plasticité. Mais il ne sert à rien de vouloir personnifier des outils : un robot n'est ni bon ni mauvais, tout est dans l'utilisation qu'on en fait.

Sauf à pouvoir concevoir et réaliser un cerveau biologique comme celui des hommes, ou éventuellement un cerveau fonctionnant à l'aide d'ordinateurs quantiques, l'apparition de robots aussi performants que les êtres humains n'est pas pour demain. Ce qui ne nous empêche pas de réfléchir à la manière d'interagir, d'utiliser ces nouveaux outils de manière sûre et intelligente.

Intelligence et conscience

La discussion a porté surtout sur les applications de l'IA et l'utilisation de robots dans la vie quotidienne. Concernant la partie du sujet relative à la possibilité pour une IA d'atteindre un état de conscience, aussi faible soit-il, peu de choses ont été dites, surtout parce que, de l'avis général, personne n'en sait rien et que seules des hypothèses peuvent être avancées.

La notion d'émergence a été reprise pour indiquer que la vie pourrait être une émergence de la matière inerte, et la conscience une émergence de la vie, rejoignant ainsi la doctrine philosophique de l'hylozoïsme et la pensée de Teilhard de Chardin pour qui tout dans l'univers possède une « âme »⁷. Il est possible que la conscience soit une propriété universelle. Propriété qu’on ne peut connaître si elle ne se manifeste pas à nous. Qui nous dit qu’un caillou n’a pas conscience de son être ? Il ne peut pas nous le faire savoir.

Une IA, pour être comparable à un esprit humain, doit avoir comme l'homme une communication variée avec le milieu extérieur, afin d'acquérir par elle-même une expérience vécue nécessaire pour développer une pensée autonome. Sinon elle souffrirait, comme l'être humain, du syndrome d'enfermement d'où fuirait l'intelligence. Certains n'écartent pas la possibilité pour une machine d'atteindre un certain niveau de conscience, mais la plupart réfutent cette hypothèse, car l'homme qui a créé un robot et qui veut toujours aller plus loin, aura toujours de l'avance sur lui.

Autres sujets débattus

Proche du thème de ce jour, la question de l'homme réparé, augmenté, protégé a été brièvement abordé, par l'affirmation que l'IA y jouera un grand rôle, mais très loin du rêve transhumaniste de transférer le contenu du cerveau dans une machine, ou de greffer un cerveau sur une machine.

Quelqu'un a évoqué la possibilité de réparer ou remplacer certaines fonctions biologiques pour rétablir ou augmenter les capacités de l'homme, tout en veillant à ne pas transformer l'homme en robot, comme chez Huxley et Orwell.⁸ Plus près et plus réaliste, un mini-débat s'est tenu sur la question de la PMA et de la GPA, dont le danger est d'aboutir à l'eugénisme, la possibilité de choisir ses enfants « sur catalogue », comme un vulgaire produit commercial

C'est en cherchant l'impossible que l'homme a fait de grandes découvertes, à l'image du « Pourquoi pas ? » de Charcot, réponse à ceux qui doutaient de ses aptitudes à explorer les régions polaires. Une IA cherchant l'impossible en imaginant et osant est peu probable, en tout cas à brève échéance.

Et pour conclure, cette interrogation : a t-on besoin de robots et d'esclaves mécaniques pour vivre bien ?

Rédaction par J.J.Vollmer

d'après l'enregistrement du débat

 

 Bibliographie des auteurs cités :