• prises de notes au cours du café débat du 04/05/2019 sur l'intelligence artificielle

    La conclusion ci-dessous est issue des prises de notes au cours du café débat du 04/05/2019, au sein duquel il y avait 15 personnes présentes.

                                                                                         Daniel Soulat.

    Pour certains, le terme Guerre des intelligences est mal approprié, il faudrait être plus factuel, de même l’IA est perçue comme un non-sens.

    Le terme IA est utilisé à tout va, 40% des start-ups disant faire de l’IA font de l’informatique algorithmique classique, c’est un vecteur de communication porteur, parfois à mauvais escient, comme la terminologie « réalité virtuelle ». On peut dire que la situation est critique mais pas désespérée, puisqu’une récente publicité de PSA concernant un véhicule évoque "et si la réalité était la sensation la plus excitante qui soit !" posant la question:".:

    et si la réalité était une espèce à protéger?

    On a pu voir qu’il y a à avoir une vigilance sur ces approches de l’IA, tout en ayant une démarche de cadrage pour définir ce que l’Homme souhaite voir comme apports de l’IA et non de la subir. L’intelligence émotionnelle est une caractéristique essentielle à la vie des humains, à ne pas négliger et à ne pas déconsidérer dans l’approche des scientifiques, de même pour l’éthique. Quid de la conscience en IA et d’un monde programmé sans hasard ?

    Prises de notes des interventions successives :

    1/ La difficulté majeure est qu’il y a plusieurs intelligences comme décrit dans le texte d’introduction. L’IA est un terme excessif car ne couvre pas l’ensemble des intelligences. Dans mes cours j’ai essayé d’expliquer le fonctionnement de la voiture autonome, une des difficultés est de détecter l’environnement (piétons, vélos, obstacles divers). Généralement il faut décrire une association image-nom.

    Avec le Deep Learning un des freins à son utilisation c’est que l’on ne sait pas comment sont construits les résultats proposés. Il y a cinq catégories de classement qui permettent de faire d’autres classements.

    Le trans-humanisme est un fantasme.

    Amazon se sert beaucoup de l’IA.

    2/ Pourquoi exprimer une guerre des intelligences, avec la recherche de l’autonomie apportée par l’IA, je ne vois pas de concurrence, cela nécessite des explications.

    3/ Quelques commentaires et réponses aux deux premières interventions, on peut ajouter aux difficultés exprimées par Claude, qu’un des problèmes majeurs de la voiture autonome est éthique, puisque souvent il est énoncé le dilemme du tramway, choix difficile dans lequel quel que soit la direction prise il y aura mort d’humains. Pour information, en France parmi les start-up se proclamant faire de l’IA, 40 % font des algorithmes informatiques traditionnels. Par ailleurs le Deep learning est une boite noire.

    En réponse à la deuxième intervention : L’exemple des toilettes publiques en Chine est significatif, puisqu’à Pékin, le papier est en libre-service. L’usager doit observer une caméra à reconnaissance faciale pendant 3 à 4 secondes, pour que 60 centimètres de papier se déroulent devant lui. L’opération peut être répétée 2 fois maximum. Le souci est écologique. En cas de diarrhée, le personnel assure se tenir à disposition pour distribuer un peu plus de papier hygiénique. Jusqu’où les chinois sont-ils disposés à troquer leur liberté contre une vie numérique un peu plus pratique ? C’est un exemple de la guerre entre l’intelligence biologique et l’artificielle. A terme, il est probable qu’au moment d’une décision de consommation, un client soit prévenu par une notification qui lui dise « attention, tu es sur le point de te laisser guider par un marketing efficace, mais d’après ton profil et tes besoins réels, tu devrais reconsidérer ta décision’. Ceci montre que les géants de la Tech vont se faire concurrence féroce et se battre.

    4/ Ce qui m’interpelle ce sont les propos "nous n’y sommes pas", car en France nous avons des sociétés dans le domaine de l'IA.Ariane est pilotée automatiquement par son ordinateur de bord. La formation en France est de bon niveau, mais il faut regretter que beaucoup d’ingénieurs Français aillent faire profiter les USA de leurs compétences. La guerre des intelligences existe depuis longtemps notamment dans les brevets, l’espionnage, etc. Pour avoir de bons emplois il faut être entre avance. Les chinois ne sont pas bêtes, ils font des Airbus, ils vont dans l’espace. Exemple vécu de la capacité d'apprentissage de l'IA : avec un jeu vidéo, j'ai tendu un premier piège et l’IA est tombée dedans, mais elle enregistre sa défaillance et n’y retombe plus et cela plusieurs fois avec des pièges différents. Concernant la voiture autonome, il faut que l’humain à l’intérieur du véhicule soit toujours vigilent, pour faire face à des imprévus : un accident mortel a eu lieu aux USA lors de la percussion d’un véhicule autonome avec une remorque. Au Technocentre Renault il y a des essais de véhicule autonome et qui parfois va rouler à Versailles. Il y a des projets de voitures volantes, mais cela doit passer par le véhicule autonome, car tout le monde n'est pas pilote. Que dire d’un chien qui accompagne son maître aveugle, il s’arrête avant de traverser sur les passages piétons, laisse de la place pour que sa maitresse puisse passer e t c. C'est une forme d'intelligence.

    5/ L’IA c’est de l’intelligence de l’Homme qui a été intégrée dans des logiciels informatiques avec des algorithmes. L’IA apporte des bienfaits pour l’Homme réparé. Dans des EHPAD il y a des petits animaux factices qui apportent du réconfort, cela me dérange au niveau éthique, car il serait bon que ce réconfort soit apporté par des relations humaines.

    6/ L’IA n’est pas émotionnelle, il faut intervenir pour que les machines restent des machines, l’IA facilitera notre vie demain. Dans certains pays il y aura des dérives, notamment avec des "Hackers" qui entrent par effraction dans des systèmes et détournent l’objet de son but, et posent des problèmes d’éthique.

    7/ L’IA est du ressort de fantasme, terme complètement faux, cerveaux multitâches, ne sait pas nuancer. Qu’est-ce que l’on va permettre à l’IA de faire c’est la question fondamentale. Youri Casparov champion du jeu d’échec a déclaré qu’il faut une coopération des humains avec l’IA et non de la concurrence. La Chine est l’exemple à ne pas suivre en termes d’IA car elle contrôle tout le social et la politique c’est une atteinte à la liberté.

    8/ Réponses à des interrogations mentionnées ci-dessus :L’IA comme évoquée est construit à partir d’informations et d’apprentissages en faisant des associations réalisées à partir de "tâcherons", si un imprévu n’a pas été déclaré initialement, l’IA ne sait pas l’appréhender et l’accident est fatal, le jour où il y aura 80% de véhicules autonomes, les 20% non autonomes auront parfois des comportements non prévus, et là il y aura la guerre entre les connectés et les non connectés. Au Japon il y a des robots auprès des gens âgés afin de leur amener de la présence et de ‘l’affection’, on peut être pour ou contre, néanmoins cela procure du bien être aux personnes âgées. A propos de l’éthique, Google avait mis récemment une équipe de réflexion sur l’éthique, le fonctionnement n’a duré que quelques jours et l’équipe a été dissoute suite à des divergences d’opinions. La question posée est bien la question fondamentale posée dans le texte d’introduction issue des réflexions des différents spécialistes (futurologues, scientifiques, humanistes, théologiens, psychologues, philosophes…).

    9/ L’IA cette expression n’a aucun sens, quelle est son intention ? Le véhicule autonome c’est quoi le but, c’est l’économie, c’est remplacer l’humain, remplacer les médecins dont on manque actuellement ? Aller sur Mars c’est la mégalomanie des hommes, gagner sur qui sur quoi, narcissisme humain démesuré, le véhicule autonome n’a aucune utilité.

    10/ "Coopération" j'aime ce mot. La coopération entre humains et IA c'est ce qu'il faut viser et dans mon travail, cela a déjà été le cas. Néanmoins, il risque d'y avoir concurrence entre humains et IA (et robotisation) dans le choix par le patronat de l'organisation du travail et des investissements.Dans les armées il y a la terre, la mer et l'air ; maintenant il y a l’IA en plus. Conquérir la planète Mars c’est étendre le champ de la terre, la connaissance, l’exploration.

    11/ Réponses à des questions exprimées ci-dessus, notamment ‘quelle est l’intention de l’IA ?’ : Ceux qui sont à la pointe de l’avancée de l’IA veulent capter l’attention et rendre dépendants les individus, en ayant transposé l’intelligence cognitive dans les systèmes informatiques, un des terrains privilégiés de l’IA c’est la publicité adressée aux Internautes en fonction des différentes consultations de différents sites et de leurs profils.

    12/ L’IA reçoit la connaissance des humains leurs informations et leurs savoirs. L’IA augmente-t-elle la fracture numérique et la pauvreté ? Il n’y a pas assez d’arguments factuels pour statuer et nous convaincre.

    13/ L’homme doit rester vigilant et devra continuer à réfléchir, que deviendra le cerveau humain, car le cerveau doit s’entretenir à différentes facultés déjà énoncées, le GPS est une bonne aide.

    14/ Sur le smartphone on peut poser la question « où se trouve le boulanger le plus proche ? » Amazon a eu des déboires lorsqu’il a utilisé l’IA pour embaucher des candidats. L’IA est utilisée pour l’étude de l’environnement, par exemple détecter des objets anormaux contribuant ainsi aux dépistages de certains qui pourraient nuire à la sécurité.

    15/ L’IA est une accumulation d’algorithmes, le cerveau a d’autres dimensions que l’IA et il fonctionne avec des sentiments, je ne vois pas comment les insuffler dans l’IA, on ne peut pas penser que l’IA aurait une conscience. Peut-on penser qu’avec l’IA le hasard n’existera plus, vivre dans un monde sans hasard, c’est l’IA qui pilotera, que deviendra-t-on ?

    16/ Avant on avait un téléphone basique, on connaissait plusieurs numéros par cœur, plus maintenant. Une voiture sans GPS oblige à regarder sur un plan avant, on peut se perdre quand c'est compliqué, mais on arrive à se retrouver. L’IA n’aura pas d’imagination.

    17/ Antonio Damasio a écrit sur les émotions, les sentiments, la conscience différents livres traitent de ces sujets. Pour moi l’IA est un prolongement de nous-même. Une personne avait le cerveau gravement endommagé, elle a été opérée, mais il manquait l'affect, cela a nui à son intelligence.

    18/ Lorsqu’il pleut, lorsque l’on est au bord de la mer, on y pense on a des sensations, de même lorsque l’on évoque le terrorisme on a des réactions, on réagit par associations de sentiments et d’idées. Des robots lisent l'expression sur les visages.

    19/ Les avions militaires de combat sont instables pour être plus maniables. Ils ne sont pilotables que grâce à l'IA. De même, l'IA peut aider les militaires à traiter les menaces. Dans les avions de ligne, l'IA a de plus en plus d'importance. Les jeunes pilotes se sont bien adaptés à cela, peut-être un peu trop, car ils risquent d'oublier les bases du pilotage. Le pilote qui a réussi à poser son avion sur l'Hudson était très expérimenté ce qui lui a permis de faire les bons choix et du pilotage réel hors procédures et de sauver les passagers et les membres de l'équipage.

    20/ Réponses à des interrogations formulées ci-dessus : à propos de GPS, un de mes gendres demande à mon épouse « par où faut-il passer pour aller à la plage ?», mon épouse répond « la plage se situe à 600 m, tu sors de la résidence, tu prends à gauche, puis tout droit pendant 100 m, puis à droite prendre une rue pendant 300 m, puis à gauche et à droite et tout droit », aussitôt mon gendre sort son smartphone pour rechercher le trajet. Ceci va au détriment de la vision dans l’espace et de la mémorisation.

    21/ Elon Musk, Billes Gates, Stephen Hawking sont pessimistes et s’inquiètent. Ils se demandent qui contrôle l’IA. Peut-on recenser les inconvénients et les risques liés à l’IA ?

    22/ IA ça colle pas. Intelligence ne va pas avec artificielle. A du mal à dire "Intelligence artificielle", elle dit plusieurs fois "Intelligence émotionnelle" avant de se reprendre. Intelligence artificielle est un terme qui ne passe pas, comme le terme "collaborateur".

    23/ L’IA n'imagine pas.

    24/ Elle a vu de "l'art" fait par l'IA. Cela ne l'a pas touchée. Il est vrai que tout ce qui est art ne la touche pas forcément. En art, elle aime que cela la touche.

    25/ Conclusion (voir au début).

    « La guerre des intelligences aura-t-elle lieu ? Peut-on, doit-on actualiser les textes fondamentaux ? »

  • Commentaires

    1
    Mercredi 8 Mai à 17:43

    Ce qui me gêne le plus dans les avis exprimés dans le compte-rendu, c'est que c'est une accumulation d'opinions, c'est à dire de croyances non démontrées. Je m'explique : quand on dit que l'IA ne peut avoir de sentiments, ou que l'IA est incapable d'imagination, ou que l'IA ne peut avoir de conscience, on affirme simplement sa croyance, ou du moins la peur qu'elle puisse faire tout ça, et comme on n'en a pas envie, on le nie, et du coup on en fait un principe de base, un axiome, donc plus de discussion possible. Mais rien ne le prouve. Ce qu'il faudrait faire, c'est se pencher sur la nature des sentiments, de l'intelligence, de l'imagination que possèdent les humains. Quand on aura bien défini de quoi on cause, on pourra alors examiner si l'IA est capable ou non de posséder ces propriétés. Tout se trouve en fait dans la dernière phrase de mon précédent commentaire sur le texte de présentation :

    " Si on arrive à modéliser la réalité sans qu'on puisse dire ensuite si on a affaire au modèle ou à la réalité authentique, c'est que le modèle est équivalent à la réalité. Si une machine arrive à se faire passer pour un humain, en quoi diffère t-elle de l'humain ?"

    2
    Charlotte Morizur
    Jeudi 9 Mai à 18:28

    N'ayant pu assister au débat j'en lis le CR ci-dessus et j'avoue ne pas comprendre grand chose. Les notes prises et rédigées dans l'ordre des interventions forment une compilation d'opinions désordonnées, on a peine à trouver la structure du débat. Je prends au hasard la phrase n° 24 - la plus proche en remontant vers le texte -  : " elle a vu l'art fait par l'IA etc..." Je pense avoir compris mais j'ai mis du temps. La phrase précédente aussi est confuse. On ne voit pas à quelle idée elle répond. 

    Je me dis : Mais que s'est-il donc passé au Marina ce jour-là ? Alors que je suis certaine que Daniel vous a proposé un débat passionnant qui dans son ensemble fut très fructueux. 

    Désolée pour cette critique un peu négative mais elle est peut-être due à une lecture trop rapide. 

    Cependant je réponds à la question de Jean-Jacques : 

    - Si une machine arrive à se faire passer pour un humain, en quoi diffère t-elle de l'humain ?

    - Bonne ou mauvaise, elle effraiera toujours davantage que l'humain auquel elle serait  identique et cela parce que, justement, c'est une machine !

    Prenons l'exemple du pistolet : Tant qu'il est posé sur une table… ou ailleurs !  c'est un objet, un artefact. Un homme s'en saisit et met le doigt sur la gâchette. Le pistolet est toujours un objet. L'homme appuie sur la gâchette en direction d'une cible. Et c'est là que le pistolet devient une machine !!!  Car la balle partie, elle suit sa trajectoire sans qu'il soit possible de la faire dévier ou de la rattraper. Or l'homme, lui,  vient de changer d'avis… mais il est trop tard : la machine ne lui obéit plus, elle  fait son boulot et atteint la cible ! Je pourrais ajouter pour m'amuser que la cible est un pauvre type innocent qui gît maintenant dans une marre de sang, mais vraiment, là n'est pas le sujet. je voulais juste démontrer que la machine ne fera jamais que ce pourquoi elle a été programmée  et c'est en cela qu'elle peut être monstrueuse. 

    Est-ce une réponse qui te convient Jean-Jacques ?   

     

     

     

      • Jeudi 9 Mai à 19:11

        Non non, ça ne me convient pas du tout : on parle ici d'intelligence artificielle, et un pistolet n'a rien d'intelligent, même pas un petit algorithme de rien du tout pour bloquer la gâchette le temps de demander à l'homme (ou la femme) s'il est bien sûr de vouloir tirer.! Rien à voir avec les robots cités dans le débat, qui arrivent déjà à discuter avec les personnes âgées pour les distraire.

        Ceci étant, je pense qu'aucune réponse n'est "convenable" pour reprendre ton expression. J'ai longtemps cherché à exprimer ce qui pouvait différencier un robot se comportant comme un humain, d'un humain. Rien ne vient. Il y a bien l'argument de la "chambre chinoise", mais qui me semble tellement alambiqué que j'ai du mal à y adhérer. Tout se rapporte à la conscience, mais c'est un concept que je ne saurais définir avec des mots.

    3
    Charlotte Morizur
    Jeudi 9 Mai à 20:31

    j'avais pris l'exemple du pistolet parce que c'est une toute petite machine qui répond,  bêtement soit,  au service qu'on lui demande ; j'aurais pu prendre l'humanoïde  de guerre, beaucoup plus sophistiqué et qui correspond à ceux cités dans le débat :  j'aurais conclu de la même façon… à peu près : Ils m'effraient davantage encore que les vrais humains. 

    Mais tu as raison, on fait de plus en plus performant, de plus en plus fort, de plus en plus intelligent, espérons qu'on fera de plus en plus…  humain ! Dans le sens éthique du terme cad : bon, généreux, compatissant, indulgent, sensible… Alors tu seras un homme, mon... robot !  

    ( Bien sûr ça pouvait être une femme, j'y ai pensé… mais non, c'est très gentil, les femmes !!!)

    (Bigre ! J'entends d'ici les cris d'indignation des mâles...et je ris… dans ma moustache !!!)

    4
    Pierre M.
    Lundi 13 Mai à 15:03

    L’IA est un vaste sujet sur lequel chacun a sa petite (ou sa grande) opinion. Sujet déjà ancien, il s’inscrit surtout dans la perspective historique du progrès et de l’utopie (une séance sur cette question fut organisée ici il y a 2 ou 3 ans). Autrement dit tout est possible, toutes les opinions sont acceptables : je ne sais plus quel auteur a écrit qqch comme « tout ce que l’esprit humain peut concevoir peut être réalisé un jour ». Il n’est donc pas étonnant d’observer tant de points de vue différents et souvent contradictoires. Sans vouloir faire prévaloir le mien, je me contente de citer ici – tirés d’une abondante littérature, en langue française  – deux points de vue très opposés provenant de deux personnalités de grand renom. Et de renvoyer à leurs ouvrages.

     

    - Pour le très provocateur Laurent Alexandre, chirurgien, énarque, chef d’entreprise, très proche des thèses transhumanistes, l’être humain tend vers l’immortalité (La mort de la mort, 2011). L’IA l’enthousiasme dans la mesure où elle contribue à cet objectif. Même si d’après lui l’IA forte n’est pas pour demain (c-à-d. que les robots ne sont pas prêts à supplanter les humains), l’IA faible, en progression exponentielle, va totalement bouleverser notre civilisation. L’Europe, pourtant riche en compétences scientifiques, est de plus en plus sous-développée dans les réalisations et ses meilleurs cerveaux la quittent.

     

    - L’universitaire Jean-Gabriel Ganascia, spécialiste de l’IA et président du Comité d’éthique du CNRS, est bien plus pondéré. Il met en doute le mythe de la singularité – titre de son dernier ouvrage – sur lequel s’appuient les transhumanistes, et tente de faire la part entre les craintes que manifestaient à l’encontre de l’IA certains savants tels que le fameux Stephen Hawking et les emballements suscités par les développements prodigieux des technologies NBIC. Il décrypte aussi le jeu de « pompiers pyromanes » que jouent les grands acteurs économiques qui, tendant à dominer le Monde au travers de la Toile, se sont emparés de ce dossier et qui « en allumant volontairement un incendie, font mine d’essayer de l’éteindre pour se donner le beau rôle » : les GAFAM, NATU et autres BATX. (je n’explicite pas tous ces sigles qui figurent dans les textes de ces pages).

    Suivre le flux RSS des commentaires


    Ajouter un commentaire

    Nom / Pseudo :

    E-mail (facultatif) :

    Site Web (facultatif) :

    Commentaire :