C.R. personnel du 25 Mai 2019 :

                        Peut-on, doit-on actualiser les textes fondateurs ?

                                                                                  Benoît Delcourt.

Le titre de ce débat prêtait à confusion : il n’était pas question de changer les textes fondateurs, mais, dans une évaluation purement personnelle, en vue de se les approprier, d’en éliminer certains passages trop dépendants de la période dans laquelle ils ont été écrits, dans le but d’en « faire son miel », chacun à sa façon.

Qu’est-ce qu’un texte fondateur et à quoi peut-il servir?

C’est un texte qui devrait dire ce qui est fondamental ; cependant un texte fondateur peut ne pas dire ce qui est fondamental,   le cas de « Mein Kampf » en est un exemple.

Le but d’un texte fondateur est de fournir à la société un ancrage stable, qui lui permette de vivre en harmonie, de bien vivre ensemble ; par exemple « aimez-vous les uns les autres » est un conseil important pour la vie en société. Il doit aussi  permettre de se comporter convenablement devant des problèmes nouveaux et imprévus (par exemple le réchauffement climatique).

Dans les nouveaux enjeux éthiques, comme la PMA, l’euthanasie, l’organisation de la famille,  les textes fondateurs devraient pouvoir donner des directives, mais seront-elles suivies ? Ne sont-ils pas combattus par « les réseaux sociaux ».

Cela peut passer par la transformation de la conscience des humains : le bouddhisme par exemple permet à l’Homme de percevoir la « claire Lumière ».

La Science est-elle fondatrice ? Un axiome est- il un texte fondateur, un théorème aussi ? Peut-être, cependant le but premier  de la Science est d’analyser ce qui nous entoure, et non pas de guider la société ou de donner une image de nos origines. La phrase de Stephen Hawkins reprenant Laplace : « Je n’ai pas besoin de Dieu pour mes théories » montrerait bien que le secteur de la Science et celui de la religion sont distincts.

Un texte fondateur serait utile pour définir les comportements  tolérables, et ce qui ne le sont pas, en quelque sorte ce serait un code pénal, et en tant que tel, méritent d’être revus  régulièrement.  Cependant le code pénal gère les punitions nécessaires pour la vie en société, alors qu’un texte fondateur se résumerait plutôt au conseil: « voilà ce que tu récoltes, quand tu sèmes ceci ou cela ».

Se fier aux vieux textes fondateurs, regarder dans le rétroviseur, peut aider, mais aussi faire de gros dégâts.

Le « Kapital », comme « le deuxième sexe », longuement cités dans le texte d’introduction, n’ont pas été beaucoup discutés. Ne sont-ils pas fondateurs?

Un texte fondateur pour les Gréco-Romains existait, son auteur était Hésiode. Mais qui connait  Hésiode?

 D’autre part, l’Egypte avait sans doute un texte fondateur, ou au moins une intense activité littéraire : le Dieu « secrétaire » Toth est figuré sur de nombreux  bas-reliefs. Auparavant, on peut citer Gilgamesh, 2650 ans avant J .C. De plus, avant l’invention de l’écriture, il y avait une tradition orale (voir Chang-Seu)

Les sectes ont souvent leur propre texte fondateur, comme c’est le cas pour les Mormons. Cependant, ce qui différencierait une secte d’une religion, est que dans une secte, les fidèles sont supposés  « purs », choisis par le Dieu, ou « prédestinés » comme chez les jansénistes, ou  les Cathares,  alors que dans les religions classiques, les fidèles se reconnaissent pécheurs.

Une Constitution est-elle un texte fondateur ? sans soute pas, car elle peut-être amendée. D’autre part, elle s’adresse à un pays, et pas à l’Humanité.

Le cas des textes Judéo-Chrétiens.

La Tora, texte Juif appelé « Ancien testament » par les chrétiens, ne serait pour certains qu’une suite de textes violents, et même favorables aux génocides (massacre de Jéricho). Il est indéniable que Dieu est représenté comme le sauveur de la petite tribu Juive de l’époque. Mais à côté de cela, la façon de parler de Dieu sans oser lui donner un nom est une façon géniale de Le concevoir.

La Bible ne s’adresse pas à des robots, mais à des humains, capables de critique !

L’exégèse, lecture historico-critique qui s’aide des Sciences humaines, qui ont forgé des outils pour cela,  serait une nécessité pour comprendre et réinterpréter ces textes : elle permet de trouver des sens cachés aux écritures, et ces sens cachés peuvent même être découverts des siècles après leur écriture, si bien qu’il ne faut surtout pas réécrire les textes sacrés, de même qu’il ne faudrait  pas reconstruire Notre Dame en y mettant des ajouts modernes.

Pourtant cette interprétation peut-être dangereuse quand le lecteur n’est pas à même d’argumenter valablement : cas des djihadistes et plus généralement des lectures littérales.

On peut trouver certains passages de la genèse très poétiques ; Adam,  par sa faute, perd son innocence, puis se construit librement son destin.

On trouve dans le communisme une similitude avec les religions monothéistes : le péché originel est l’instauration de la propriété des moyens de production, la lutte avec Satan est la lutte des classes et le paradis est le grand soir, où l’on « rase gratis ».

A-t-on encore réellement besoin de ces textes, alors que leur morale incluse est passée dans le quotidien ? L’éthique des principes (voir Kant et son « impératif catégorique », ou encore celle de la conviction ou de la responsabilité ne suffisent-elles pas ?

Le texte d’introduction évitait de citer le Coran. Il a pourtant été dit qu’ un Islam des Lumières » était souhaité par de nombreux musulmans ; il aurait déjà eu lieu au quinzième sièce (Averroes).

 Pour lire un compte-rendu de la séance, cliquer ici.

 Pour lire le texte sur le site avec statistique des pages lues

La conclusion ci-dessous est issue des prises de notes au cours du café débat du 04/05/2019, au sein duquel il y avait 15 personnes présentes.

                                                                                     Daniel Soulat.

Pour certains, le terme Guerre des intelligences est mal approprié, il faudrait être plus factuel, de même l’IA est perçue comme un non-sens.

Le terme IA est utilisé à tout va, 40% des start-ups disant faire de l’IA font de l’informatique algorithmique classique, c’est un vecteur de communication porteur, parfois à mauvais escient, comme la terminologie « réalité virtuelle ». On peut dire que la situation est critique mais pas désespérée, puisqu’une récente publicité de PSA concernant un véhicule évoque "et si la réalité était la sensation la plus excitante qui soit !" posant la question:".:

et si la réalité était une espèce à protéger?

On a pu voir qu’il y a à avoir une vigilance sur ces approches de l’IA, tout en ayant une démarche de cadrage pour définir ce que l’Homme souhaite voir comme apports de l’IA et non de la subir. L’intelligence émotionnelle est une caractéristique essentielle à la vie des humains, à ne pas négliger et à ne pas déconsidérer dans l’approche des scientifiques, de même pour l’éthique. Quid de la conscience en IA et d’un monde programmé sans hasard ?

Prises de notes des interventions successives :

1/ La difficulté majeure est qu’il y a plusieurs intelligences comme décrit dans le texte d’introduction. L’IA est un terme excessif car ne couvre pas l’ensemble des intelligences. Dans mes cours j’ai essayé d’expliquer le fonctionnement de la voiture autonome, une des difficultés est de détecter l’environnement (piétons, vélos, obstacles divers). Généralement il faut décrire une association image-nom.

Avec le Deep Learning un des freins à son utilisation c’est que l’on ne sait pas comment sont construits les résultats proposés. Il y a cinq catégories de classement qui permettent de faire d’autres classements.

Le trans-humanisme est un fantasme.

Amazon se sert beaucoup de l’IA.

2/ Pourquoi exprimer une guerre des intelligences, avec la recherche de l’autonomie apportée par l’IA, je ne vois pas de concurrence, cela nécessite des explications.

3/ Quelques commentaires et réponses aux deux premières interventions, on peut ajouter aux difficultés exprimées par Claude, qu’un des problèmes majeurs de la voiture autonome est éthique, puisque souvent il est énoncé le dilemme du tramway, choix difficile dans lequel quel que soit la direction prise il y aura mort d’humains. Pour information, en France parmi les start-up se proclamant faire de l’IA, 40 % font des algorithmes informatiques traditionnels. Par ailleurs le Deep learning est une boite noire.

En réponse à la deuxième intervention : L’exemple des toilettes publiques en Chine est significatif, puisqu’à Pékin, le papier est en libre-service. L’usager doit observer une caméra à reconnaissance faciale pendant 3 à 4 secondes, pour que 60 centimètres de papier se déroulent devant lui. L’opération peut être répétée 2 fois maximum. Le souci est écologique. En cas de diarrhée, le personnel assure se tenir à disposition pour distribuer un peu plus de papier hygiénique. Jusqu’où les chinois sont-ils disposés à troquer leur liberté contre une vie numérique un peu plus pratique ? C’est un exemple de la guerre entre l’intelligence biologique et l’artificielle. A terme, il est probable qu’au moment d’une décision de consommation, un client soit prévenu par une notification qui lui dise « attention, tu es sur le point de te laisser guider par un marketing efficace, mais d’après ton profil et tes besoins réels, tu devrais reconsidérer ta décision’. Ceci montre que les géants de la Tech vont se faire concurrence féroce et se battre.

4/ Ce qui m’interpelle ce sont les propos "nous n’y sommes pas", car en France nous avons des sociétés dans le domaine de l'IA.Ariane est pilotée automatiquement par son ordinateur de bord. La formation en France est de bon niveau, mais il faut regretter que beaucoup d’ingénieurs Français aillent faire profiter les USA de leurs compétences. La guerre des intelligences existe depuis longtemps notamment dans les brevets, l’espionnage, etc. Pour avoir de bons emplois il faut être entre avance. Les chinois ne sont pas bêtes, ils font des Airbus, ils vont dans l’espace. Exemple vécu de la capacité d'apprentissage de l'IA : avec un jeu vidéo, j'ai tendu un premier piège et l’IA est tombée dedans, mais elle enregistre sa défaillance et n’y retombe plus et cela plusieurs fois avec des pièges différents. Concernant la voiture autonome, il faut que l’humain à l’intérieur du véhicule soit toujours vigilent, pour faire face à des imprévus : un accident mortel a eu lieu aux USA lors de la percussion d’un véhicule autonome avec une remorque. Au Technocentre Renault il y a des essais de véhicule autonome et qui parfois va rouler à Versailles. Il y a des projets de voitures volantes, mais cela doit passer par le véhicule autonome, car tout le monde n'est pas pilote. Que dire d’un chien qui accompagne son maître aveugle, il s’arrête avant de traverser sur les passages piétons, laisse de la place pour que sa maitresse puisse passer e t c. C'est une forme d'intelligence.

5/ L’IA c’est de l’intelligence de l’Homme qui a été intégrée dans des logiciels informatiques avec des algorithmes. L’IA apporte des bienfaits pour l’Homme réparé. Dans des EHPAD il y a des petits animaux factices qui apportent du réconfort, cela me dérange au niveau éthique, car il serait bon que ce réconfort soit apporté par des relations humaines.

6/ L’IA n’est pas émotionnelle, il faut intervenir pour que les machines restent des machines, l’IA facilitera notre vie demain. Dans certains pays il y aura des dérives, notamment avec des "Hackers" qui entrent par effraction dans des systèmes et détournent l’objet de son but, et posent des problèmes d’éthique.

7/ L’IA est du ressort de fantasme, terme complètement faux, cerveaux multitâches, ne sait pas nuancer. Qu’est-ce que l’on va permettre à l’IA de faire c’est la question fondamentale. Youri Casparov champion du jeu d’échec a déclaré qu’il faut une coopération des humains avec l’IA et non de la concurrence. La Chine est l’exemple à ne pas suivre en termes d’IA car elle contrôle tout le social et la politique c’est une atteinte à la liberté.

8/ Réponses à des interrogations mentionnées ci-dessus :L’IA comme évoquée est construit à partir d’informations et d’apprentissages en faisant des associations réalisées à partir de "tâcherons", si un imprévu n’a pas été déclaré initialement, l’IA ne sait pas l’appréhender et l’accident est fatal, le jour où il y aura 80% de véhicules autonomes, les 20% non autonomes auront parfois des comportements non prévus, et là il y aura la guerre entre les connectés et les non connectés. Au Japon il y a des robots auprès des gens âgés afin de leur amener de la présence et de ‘l’affection’, on peut être pour ou contre, néanmoins cela procure du bien être aux personnes âgées. A propos de l’éthique, Google avait mis récemment une équipe de réflexion sur l’éthique, le fonctionnement n’a duré que quelques jours et l’équipe a été dissoute suite à des divergences d’opinions. La question posée est bien la question fondamentale posée dans le texte d’introduction issue des réflexions des différents spécialistes (futurologues, scientifiques, humanistes, théologiens, psychologues, philosophes…).

9/ L’IA cette expression n’a aucun sens, quelle est son intention ? Le véhicule autonome c’est quoi le but, c’est l’économie, c’est remplacer l’humain, remplacer les médecins dont on manque actuellement ? Aller sur Mars c’est la mégalomanie des hommes, gagner sur qui sur quoi, narcissisme humain démesuré, le véhicule autonome n’a aucune utilité.

10/ "Coopération" j'aime ce mot. La coopération entre humains et IA c'est ce qu'il faut viser et dans mon travail, cela a déjà été le cas. Néanmoins, il risque d'y avoir concurrence entre humains et IA (et robotisation) dans le choix par le patronat de l'organisation du travail et des investissements.Dans les armées il y a la terre, la mer et l'air ; maintenant il y a l’IA en plus. Conquérir la planète Mars c’est étendre le champ de la terre, la connaissance, l’exploration.

11/ Réponses à des questions exprimées ci-dessus, notamment ‘quelle est l’intention de l’IA ?’ : Ceux qui sont à la pointe de l’avancée de l’IA veulent capter l’attention et rendre dépendants les individus, en ayant transposé l’intelligence cognitive dans les systèmes informatiques, un des terrains privilégiés de l’IA c’est la publicité adressée aux Internautes en fonction des différentes consultations de différents sites et de leurs profils.

12/ L’IA reçoit la connaissance des humains leurs informations et leurs savoirs. L’IA augmente-t-elle la fracture numérique et la pauvreté ? Il n’y a pas assez d’arguments factuels pour statuer et nous convaincre.

13/ L’homme doit rester vigilant et devra continuer à réfléchir, que deviendra le cerveau humain, car le cerveau doit s’entretenir à différentes facultés déjà énoncées, le GPS est une bonne aide.

14/ Sur le smartphone on peut poser la question « où se trouve le boulanger le plus proche ? » Amazon a eu des déboires lorsqu’il a utilisé l’IA pour embaucher des candidats. L’IA est utilisée pour l’étude de l’environnement, par exemple détecter des objets anormaux contribuant ainsi aux dépistages de certains qui pourraient nuire à la sécurité.

15/ L’IA est une accumulation d’algorithmes, le cerveau a d’autres dimensions que l’IA et il fonctionne avec des sentiments, je ne vois pas comment les insuffler dans l’IA, on ne peut pas penser que l’IA aurait une conscience. Peut-on penser qu’avec l’IA le hasard n’existera plus, vivre dans un monde sans hasard, c’est l’IA qui pilotera, que deviendra-t-on ?

16/ Avant on avait un téléphone basique, on connaissait plusieurs numéros par cœur, plus maintenant. Une voiture sans GPS oblige à regarder sur un plan avant, on peut se perdre quand c'est compliqué, mais on arrive à se retrouver. L’IA n’aura pas d’imagination.

17/ Antonio Damasio a écrit sur les émotions, les sentiments, la conscience différents livres traitent de ces sujets. Pour moi l’IA est un prolongement de nous-même. Une personne avait le cerveau gravement endommagé, elle a été opérée, mais il manquait l'affect, cela a nui à son intelligence.

18/ Lorsqu’il pleut, lorsque l’on est au bord de la mer, on y pense on a des sensations, de même lorsque l’on évoque le terrorisme on a des réactions, on réagit par associations de sentiments et d’idées. Des robots lisent l'expression sur les visages.

19/ Les avions militaires de combat sont instables pour être plus maniables. Ils ne sont pilotables que grâce à l'IA. De même, l'IA peut aider les militaires à traiter les menaces. Dans les avions de ligne, l'IA a de plus en plus d'importance. Les jeunes pilotes se sont bien adaptés à cela, peut-être un peu trop, car ils risquent d'oublier les bases du pilotage. Le pilote qui a réussi à poser son avion sur l'Hudson était très expérimenté ce qui lui a permis de faire les bons choix et du pilotage réel hors procédures et de sauver les passagers et les membres de l'équipage.

20/ Réponses à des interrogations formulées ci-dessus : à propos de GPS, un de mes gendres demande à mon épouse « par où faut-il passer pour aller à la plage ?», mon épouse répond « la plage se situe à 600 m, tu sors de la résidence, tu prends à gauche, puis tout droit pendant 100 m, puis à droite prendre une rue pendant 300 m, puis à gauche et à droite et tout droit », aussitôt mon gendre sort son smartphone pour rechercher le trajet. Ceci va au détriment de la vision dans l’espace et de la mémorisation.

21/ Elon Musk, Billes Gates, Stephen Hawking sont pessimistes et s’inquiètent. Ils se demandent qui contrôle l’IA. Peut-on recenser les inconvénients et les risques liés à l’IA ?

22/ IA ça colle pas. Intelligence ne va pas avec artificielle. A du mal à dire "Intelligence artificielle", elle dit plusieurs fois "Intelligence émotionnelle" avant de se reprendre. Intelligence artificielle est un terme qui ne passe pas, comme le terme "collaborateur".

23/ L’IA n'imagine pas.

24/ Elle a vu de "l'art" fait par l'IA. Cela ne l'a pas touchée. Il est vrai que tout ce qui est art ne la touche pas forcément. En art, elle aime que cela la touche.

25/ Conclusion (voir au début).