L’homme n’est-il rien d’autre qu’un paquet de neurones ?

machine neurones
Posté par Marc Fiquet
Print Friendly, PDF & Email

Crédit image : https://fr.123rf.com/profile_Elnur.

 

Devant les progrès fulgurants de l’intelligence artificielle et des neurosciences, certains n’hésitent pas à qualifier l’humain de machine neuronale. Cela ressort dans les titres de divers ouvrages comme La Machine-esprit d’Alain Prochiantz ou Le cerveau : la machine pensée de Bernard Andrieu (2000) pour n’en citer que deux.

 

Certainement avez-vous déjà été confronté au dialogue avec une machine ? Par exemple en appelant le SAV Orange ou d’un autre opérateur. Peut-être êtes-vous impressionné par la capacité de ces nouveaux algorithmes à répondre à votre voix et à vous orienter dans le bon service en fonction de votre problème. Et là certainement êtes-vous  admiratif devant les mimétismes de l’Intelligence Artificielle et peut-être vous vient-il à l’esprit qu’un jour les machines remplaceront les humains dans quasi toutes les tâches du quotidien et qu’après tout, nous ne sommes peut-être nous-mêmes que de vulgaires machines de neurones ?

 

Mon expérience d’usager de ces services (et je ne suis certainement pas le seul) est pourtant différent de celui de tout un chacun dans le sens où je bénéficie d’un arrière plan de plus de vingt ans dans l’informatique professionnelle. Même si l’Intelligence Artificielle n’était pas mon domaine de prédilection, je perçois tout à fait bien comment fonctionne les algorithmes des serveurs vocaux  et quand je m’adresse au SAV d’Orange, je n’ai absolument jamais l’impression de m’adresser à une machine ni même à un avatar d’humain, mais bien à un informaticien qui a conçu un programme, c’est-à-dire à mon semblable… Et si je veux accéder à un opérateur au plus vite, je sais en général quoi répondre aux premières questions de filtrage :-D

 

La machine et intelligence Artificielle ne seraient rien sans les hommes qui ont initié les algorithmes. Le débat matière / esprit est loin d’être tranché, et d’autres pistes que le dualisme cartésien sont évoqués aujourd’hui.

 

Je vous laisse en compagnie  de Stuart J. Judge, Maître de conférence émérite en physiologie à l’Université d’Oxford, qui signe un très beau papier pour le Fararaday Institute, que nous avons eu plaisir à traduire (Merci à Hélène Mayhew).

 

Rien qu’un paquet de neurones ?

Dans cet article, le chercheur s’interroge sur la réalité de conscience et veut éviter deux positions extrême :  celle du matérialisme réductionniste et celle du dualisme interactionniste (la vision de Descartes ou de Platon). Il évoque la position du monisme à double aspect, qui présente l’avantage d’être conforme aux observations des neurosciences et compatible avec le théisme.

 

Lire l’article

Avatar

45 Commentaires

  1. Avatar
    Pascal jeu 28 Nov 2019 Répondre

    Finalement, c’est bien ici que cela se passe !

    Merci Marc, pour l’information. Je ne sais plus dans quel article, j’ai récemment lu que des chercheurs en IA, étaient très embarrassés de nos jours, par cette désignation pompeuse qui date d’il y a quelques décennies, et qui induit en erreur toute personne qui n’est pas suffisamment au fait de ce qu’elle recouvre.

    Il est bien d’en parler, d’évoquer le sujet, même si le lien avec la foi chrétienne, me semble sur ce coup-là un peu distendu, je l’avoue.

    Sans vouloir être péremptoire ni prétentieux, j’avoue également être assez content de ma trouvaille sur l’autre article (et qui est donc toute fraiche), consistant à rebaptiser l’Intelligence Artificielle : « Mimétisme Artificiel d’Intelligence Humaine ».

    Je reste pour ma part convaincu, que l’intelligence humaine ne sera jamais que mimée par ces algorithmes de plus en plus perfectionnés, et comme tu le dis, on devine la « patte du programmeur » derrière tout ceci.

    Je me suis intéressé aux réseaux neuronaux il y a peu, et me suis même amusé à programmer, le fonctionnement d’un réseau de quelques neurones informatiques (en langage Python, car ça va vite), et ai été épaté par ces nouvelles techniques de « Deep Learning », dont la société Google use et abuse pour concevoir ses algorithmes d’analyse d’images par exemple.

    Mais vraiment, croire qu’il y a de l’intelligence qui aurait émergé de tout ceci, en-dehors de l’intelligence des humains qui ont mis au point ces techniques, relève de la naïveté ou de la croyance primitive (sans vouloir insulter nos lointains ancêtres dont les croyances étaient certainement très riches).

    • Avatar
      Temaro jeu 28 Nov 2019 Répondre

      Bonjour Pascal,

      Tu ne souhaites pas que l’IA franchisse le seuil de ta porte… Très bien, mais es-tu certain qu’elle ne commence pas à passer par la fenêtre ?
      Je suppose que tu disposes d’un ou plusieurs ordinateurs à la maison, d’un ou plusieurs smartphones, d’une connexion Internet, peut-être que tes enfants (si tu en as) disposent d’une console avec des jeux qui utilisent déjà des techiques d’IA, sans parler des nouveaux jeux accessibles depuis des serveurs distants (comme par exemple le nouveau Flight Simulateur 2020 qui utilisera Microsoft Azure, un système de services Cloud lui aussi utilisant les techniques de Deep learning.
      Tout ceci n’est qu’un début, et je ne parle pas des futures applications militaires (drones autonomes qui seront capables de traquer et  » traiter  » leurs cibles avec une parfaite efficacité opérationnelle et sans intervention humaine… Ca fait un peu penser à Terminator et Skynet (je suis un grand fan)
      Tout ça pour dire que les laboratoire de recherche au service des grands groupes (GAFA) n’attendent pas que la concurrence les devancent dans un domaine promis à investir notre vie quotidienne.
      L’IA sera la révolution numerique du XXIème siècle comme a pu l’être la révolution industrielle.
      Et comme pour toute avancée technologique, la question fondamentale n’est pas  » Est-ce souhaitable ou pas » mais  » Comment allons-nous gérer les conséquences de ces innovations ?
      En clair, c’est à nous, humains, qu’incombe la responsabilité de faire que ces nouvelles technologies représentent un progrès.

      • Avatar
        Pascal jeu 28 Nov 2019 Répondre

        Bonsoir Temaro,

        je suis à nouveau un peu à la bourre pour répondre de façon détaillée, mais je paraphrase le titre d’un article du journal Le Monde de ce jour en écrivant : « les recherches en IA sont à la solde d’un capitalisme créateur de besoins artificiels et aliénants. »

        Je ne crois pas à la révolution de l’IA (dont on n’a nul besoin), et je pense que l’humanité se sera rayée elle-même en grande partie de la surface de la planète, pour cause d’épuisement des ressources naturelles, et surtout d’un emballement de tous les phénomènes naturels extrêmes liés au réchauffement climatique.
        Je peux, et j’espère me tromper, mais tous les signes conduisent invariablement vers cette même finalité.

        • Avatar
          Temaro jeu 28 Nov 2019 Répondre

          Je partage tout à fait tes inquiétudes d’ordre écologique mais ceci est un autre sujet. A moins que l’IA n’aie son mot à dire dans ce domaine…
          Voilà un challenge qui serait un réel progrès.

        • Avatar Auteur
          Marc Fiquet ven 29 Nov 2019 Répondre

          Bonjour Pascal, je comprends ce que tu veux dire mais je retiens aussi ce que dit Temaro.

          ce sujet n’est pas à voir en noir et blanc je pense comme bc d’autres (manipulations génétiques, nucléaire, réseaux sociaux etc..) la science avance et il appartient à l’éthique d’arbitrer les débats, de mettre les limites. Cependant dans un contexte de globalisation mondiale et où le profit, la croissance et les intérêts privés sont le maître mot, il devient difficile de modérer un système qui engendre des dysfonctionnements. Il n’y a qu’à voir ce que sont devenus les GAFA en à peine 20 ans, qui aurait prédit qu’ils permettraient de favoriser le terrorisme grâce à leurs réseaux gratuits anonymes et cryptés ?

          Pour l’IA c’est un peu pareil, il y a vraiment du bon, je me vois vraiment plus faire un déplacement sans mon GPS et les conditions de circulation en live, J’aime quand mon Iphone reconnait un ami sans qu’il soit dans mon carnet d’adresse parce qu’il est dans une signature d’un mail, ou qu’il me redonne l’orthographe d’un mot bizarre que j’ai l’habitude de taper..

          Une chose est sûre c’est qu’il y aura une fracture de plus en plus grande entre les riches et les pauvres car l’IA c’est pour ceux qui peuvent se la payer.

          Comme toi je ne suis pas fan de tout, je sais encore regarder dans mon frigo pour aller faire mes courses et j’ai horreur de parler à un robot, quand je peux désactiver les commandes vocales d’un appareil, je le fais !
          Je crois comprendre ce qu’à voulu dire le monde dans son article même si je ne l’ai pas lu, l’IA crée des besoins parfois superflus et nourrit les fantasmes les plus fous (transhumanisme, guerre cybernétique).
          Mais dans le même temps, des progrès fantastiques sont faits dans le médical, le domestique, on pourra bientôt traduire en simultané dans n’importe quelle langue…

          Mais peut-être qu’un jour les machines pendront le pouvoir sur les hommes ? On pense souvent pour ça à une ère Terminator et à son célèbre réseau skynet, déjà cité part Temaro. Moi j’ai un faible pour cette référence (grand prix du festival d’Avoriaz 1984)

          https://www.youtube.com/watch?v=boaAT1la1YM :mrgreen:

          ça reste de la fiction, mais pour bc quand on parle IA c’est un peu ce genre d’émotion que ça suscite… restons calme, google traduction c’est de l’IA surpuissante déjà !

    • Avatar
      Temaro jeu 28 Nov 2019 Répondre

      Je reponds ici de façon un peu plus ciblée à une de tes affirmations.

       » Je reste pour ma part convaincu, que l’intelligence humaine ne sera jamais que mimée par ces algorithmes de plus en plus perfectionnés, et comme tu le dis (Marc) , on devine la « patte du programmeur » derrière tout ceci.  »

      Encore une fois, je t’invite à te documenter pour évaluer de façon réaliste ce qu’une approche objective (et donc matérialiste) de la conscience (voir S.Dehaene, Y.Le Cun) permet d’envisager pour commencer à parler de machines conscientes (il faudra implémenter des fonctions d’apprentissage non supervisé, d’introspection et de métaconnaissance)

      Difficile de voir la  » patte du programmeur  » derrière une telle machine dotée de  » valeurs  » (qu’il faudra lui inculquer comme à un enfant en tant que méta-règle) et capable de se définir ses propres objectifs.

  2. Avatar
    Temaro jeu 28 Nov 2019 Répondre

    Bonjour Marc,

    J’ai lu un peu rapidement l’article de S.J Judge. J’y réagira donc un peu plus tard après une lecture plus approfondie.
    Dans l’immédiat, je relève déjà une fausse objection dans ta présentation.

     » La machine et l’IA ne seraient rien sans les hommes qui ont initié les algorithmes.  »

    Rien d’étonnant à cela.
    Les machines ne sont pas vivantes.
    Elles ne se reproduisent pas, ne subissent pas de mutations et ne sont pas soumises aux lois de l’évolution.

    Ce qui me semble essentiel de comprendre, c’est que la notion de fonction ne dépend pas du support.
    On peut faire une même addition avec un boulier ou une calculette, voire un système hydraulique… Le résultat sera le même.

    C’est d’ailleurs souvent la démarche adoptée dans l’ingénierie (et le domaine de l’IA en particulier) où c’est bien l’humain qui imite la nature !(l’objectif d’un appareil photo, l’aile de l’avion, le sonar, etc…)

    Vous avez dit mimétisme ?

  3. Avatar
    Temaro ven 29 Nov 2019 Répondre

    Bonjour,

    Un petit rappel ne me semble pas inutile pour resituer l’article de S.J Judje dans son contexte. A cet effet, j’invite le lecteur à suivre le lien ci-dessous qui retrace l’émergence d’un concept philosophique qui n’est pas nouveau, et qui envisage une voie médiane entre dualisme et monisme, ce qu’il convient d’appeler  » monisme à double aspect  »
    Il me semble également important de souligner qu’une telle approche (malgré son appellation de théorie) s’apparente davantage à une position philosophique  » par défaut  » plutôt qu’à une réelle théorie de l’esprit.

    https://fr.m.wikipedia.org/wiki/Théorie_du_double_aspect

    Au sujet de l’article, j’ai noté cette phrase extraordinaire (Page 5  » Conscience « )
     » Nous savons que nous sommes conscients  » !!!

    Que cherche à montrer l’auteur à travers ce modèle de pléonasme ?
    Il me semble que par définition, la conscience (je ne parle là pas des autres acceptions du mot comme la conscience morale) est précisément la propriété de connaissance réflexive que possède un système. Je m’etonne par contre que l’auteur ne souligne pas davantage le niveau d’inconscience que nous avons de la très grande majorité de nos processus mentaux et qui participent à la détermination de nos choix.

    L’auteur poursuit:
     » La question est de savoir quel type d’activité neuronale peut être rattachée à l’expérience
    consciente. Voici bien une question dont nous ne connaissons pas la réponse  »

    S. Dehaene donne des éléments de réponse à cette question (voir ses conférences) lorsqu’il met en évidence par imagerie cérébrale le phénomène d’embrasement neuronal lors d’une expérience consciente par un sujet.
    L’article de Judje est pourtant récent. Je m’étonne qu’il ne fasse pas référence aux travaux de Dehaene sur ce point.

    Un peu plus loin l’auteur précise:
     » Dans le Nouveau Testament, l’usage du mot âme
    (psyche) comporte des connotations dualistes présentes
    dans la philosophie platonicienne, mais les auteurs du
    Nouveau Testament mettent l’accent sur l’unité de la
    personne humaine et n’enseignent pas l’idée d’une âme
    désincarnée… […] la doctrine du NT montre que
    l’incarnation est un aspect essentiel de notre nature. Saint
    Paul dit très clairement que la vie nouvelle que ceux qui
    sont « en Christ » attendent après leur mort ne fera pas de
    nous des âmes désincarnées, mais nous dotera de
    NOUVEAUX CORPS  »

    De nouveaux corps…Rien que ça !
    Que dire alors qu’en Occident, la métaphysique moniste a toujours été farouchement combattue par la théologie chrétienne et par l’Eglise catholique. Deux exemples fameux suffisent à illustrer cela : la condamnation vaticane du dominicain Maître Eckart au XIVème siècle, et celle du jésuite Pierre Teilhard de Chardin au XXème siècle.
    En Orient, par contre, le monisme est le fondement de la majorité des traditions spirituelles et religieuses. Les concepts deTao, de Brahman ou pleine Vacuité traduisent ces monismes orientaux qui, actuellement, inspirent aussi énormément d’occidentaux.

    Page 6  » Conclusion  »
     » Notre expérience consciente ET notre faculté à en être
    l’agent ne peuvent être ébranlées par la science  »

    L’auteur distingue ici arbitrairement deux notions: l’experience consciente et l’agent.
    Mais comme souligné plus haut ( » nous savons que nous sommes conscients « ) si l’expérience consciente définit l’agent alors cette distinction n’a plus de justification.

    Cette question me rappelle le long échange que j’ai eu evec Jim lorsqu’on évoquait une expérience de pensée qui consisterait à dupliquer un individu à l’identique.
    La question était de conclure quant à la nature du soi de l’individu copié.

    Au plaisir

    • Avatar Auteur
      Marc Fiquet ven 29 Nov 2019 Répondre

      Il est vraiment rigolo ce Temaro :-D

      au chapitre Philosophie de l’esprit, il me semble que tout le monde est logé à la même enseigne !
      j’aimerais bien savoir ce que tu entends par philosophie « classique », il y a une philosophie « spéciale » ?

      Puisque que tu ne sembles connaître que Wikipédia comme référence et source de lecture, tu peux consulter la page dédié au matérialisme et te reporter au paragraphe suivant :
      https://fr.wikipedia.org/wiki/Mat%C3%A9rialisme#La_renaissance_du_mat%C3%A9rialisme_r%C3%A9ductionniste

      La renaissance du matérialisme réductionniste

      Le matérialisme a connu aux États-Unis et dans les pays anglophones un développement particulier depuis les années 1950. La thèse réductionniste de l’« esprit-cerveau », qui affirme l’identité de nature entre les états psychologiques (« subjectifs ») et les états ou processus cérébraux (identité psychophysique), est au centre des débats en philosophie de l’esprit, et a fait resurgir le lien entre matérialisme et scientisme.

      la philosophe de l’esprit c’est de la philo, tout le monde est logée à la même enseigne et encore, ici on accuse même cette philosophie de scientisme, alors que le monisme à double aspect reconnait d’emblée son caractère philosophique et métaphysique, ce qui lui confère à mon sens une honnêteté intellectuelle plus respectable..

      • Avatar
        Temaro sam 30 Nov 2019 Répondre

        Bonsoir Marc,

        Je ne sais pas ce que tu entends par philosophie  » classique  »
        Je n’ai jamais utilisé ce qualificatif.
        Quand j’évoque la locution  » philosophie de l’esprit « , je fais tout simplement référence à cette definition:
        https://fr.m.wikipedia.org/wiki/Philosophie_de_l%27esprit

        Qu’y a-t-il d’extraordinaire à cela ?

        Et si je fais souvent référence à Wiki, c’est à la fois pour la qualité et la neutralité des ressources proposées souvent suffisantes dans une première approche.
        Où est le problème ?

        Mais si tu souhaites d’autres références, en voici quelques unes:
         » La Notion d’esprit  » (Gilbert Ryle)
          » L’Erreur de Descartes  » (Antonio R. Damasio)
         » Introduction à la philosophie de l’esprit  » (Pascal Engel)
         » La Philosophie de l’esprit : une introduction aux débats contemporains  » (Armand Colin)
         » Philosophie de l’esprit  » (Jaegwon Kim – Les Éditions d’Ithaque, Paris, 2007)
         » La conscience expliquée  » (D. Dennett)
         » La conscience et ses illusions  » (D. Dennett)

        Voilà !
        Après m’être justifié si on en venait au fond.
        Mes remarques attendent toujours un retour.

  4. Avatar
    Temaro ven 29 Nov 2019 Répondre

    Désolé d’avoir écorché son prénom.
    Je voulais parler de Him Bien sûr (et pas Jim)

  5. Avatar Auteur
    Marc Fiquet sam 30 Nov 2019 Répondre

    oui désolé je t’ai mal cité, j’aurais du faire un copier / coller comme toi pour ces titres de livres à partir d’Amazon :-D Tu dis du monisme à double aspect qu’il  » s’apparente davantage à une « position philosophique » par défaut » plutôt qu’à une réelle théorie de l’esprit. »

    je me demande bien ce que cela veut dire (j’ai remplacé ‘par défaut’ par ‘classique’ ds mon commentaire précédent)

    car le matérialisme est autant une philosophie que le monisme à double aspect que le dualisme…

    Et tu parles de théorie de l’esprit alors que tt le monde parle bien de philosophie de l’esprit. Y compris dans les ouvrages que tu cites et qu’il serait certainement bienvenue de lire :-D

    • Avatar Auteur
      Marc Fiquet sam 30 Nov 2019 Répondre

      D’ailleurs ça ne t’aura pas échappé que des auteurs tels que Daniel Dennett sont des philosophes…

      • Avatar
        Temaro sam 30 Nov 2019 Répondre

        Bonjour Marc,

        Je parle de  » théorie de l’esprit  » pour bien marquer la différence avec la  » philosophie de l’esprit « . Il est vrai que j’aurais dû parler de  » théorie SCIENTIFIQUE de l’esprit  » pour éviter la confusion avec la  » théorie de l’esprit  » des sciences cognitives (capacité d’empathie) dont voici la définition plus précise:
        https://fr.m.wikipedia.org/wiki/Théorie_de_l%27esprit

        Par exemple, la philosophie s’est de tout temps intéressée aux notions de temps et d’espace, mais il convient de ne pas confondre cette approche avec les théories scientifiques de la gravitation (Newton, Einstein)

        Bien.
        Après cette petite mise au point, si on en venait au coeur du sujet.
        (mon commentaire du 28/11 et mes remarques du 29/11 sur le papier de S.J.Judje)

  6. Avatar Auteur
    Marc Fiquet sam 30 Nov 2019 Répondre

    je suis désolé pour toi Temaro mais nous sommes au coeur du sujet !

    Stuart J. Judge compare 3 manières de concevoir le rapport corps / esprit : quand il cite le matérialisme réductionniste il le situe tout comme le rappelle les articles Wikipédia que tu as toi-même cités dans la veine philosophique et non pas scientifique. Les théories de l’esprit servent autant à l’une qu’à l’autre des parties pour bâtir leurs philosophies.

    Car bien sûr chacun s’appuie sur les découvertes de la science et cherche une cohérence entre l’observation et ses interprétations philosophiques mais c’est justement l’intérêt de ces recherches. le monisme pur nie l’immatérialité comme postulat (position philosophique) et cherche une confirmation dans les neurosciences. mais rien n’est prouvé et il doit résoudre des obstacles qui paraissent insurmontables aux yeux de certains philosophes voire certaines expériences comme les sorties de corps sur laquelle la science s’interroge sans avoir pu prononcer de verdict définitif (certaines expériences encadrées scientifiquement restent troublantes, possibilité pour une personne de se déplacer ailleurs alors que physiquement elle est présente). Le dualisme semble rencontrer certaines difficultés en contradiction avec certaines recherches récentes des neurosciences. Le monisme à double aspect propose une voie moyenne entre ces deux extrêmes qui accepte une autre dimension que la seule dimension matérielle tout en restant conforme aux observations de la science.

    • Avatar
      Temaro sam 30 Nov 2019 Répondre

      Je ne vois rien à redire sur l’analyse que tu fais du papier de S.J.Judge.
      (une présentation du dualisme, du monisme, et du monisme à double aspect)

      Je suis aussi d’accord avec ceci (ce que je qualifiais de position  » par defaut  » ou de compromis si tu préfères)

       » Le monisme à double aspect propose une voie moyenne entre ces deux extrêmes (dualisme / monisme) qui accepte une autre dimension que la seule dimension matérielle tout en restant conforme aux observations de la science. »

      Tu évoques certaines experiences (précisons  » subjectives « ) de sortie de corps sur lesquelles la science s’interroge sans avoir pu prononcer de verdict définitif.
      D’une part, rien d’étonnant à cela (la conscience est un objet d’étude scientifique encore très récent) d’autre part, je n’ai pas connaissance de cas d’expérience de sortie de corps qui aurait respecté un protocole experimental strict et/ou qui ne pourrait en théorie être expliquée sans postuler l’existence d’une entité immatérielle.
      Par exemple, les tunnels de lumière décrits par les sujets qui ont vécu des NDE trouvent des explications tout à fait rationnelles. (Dehaene évoque le sujet dans une de ses conférences)

      Donc, pas de conclusion hâtive.
      Une question ouverte n’est pas nécessairement une question GRANDE ouverte en ce sens que la description SUBJECTIVE d’un phénomène n’est peut-être pas incompatible avec une description OBJECTIVE du MEME phénomène.
      C’est tout l’intérêt des travaux de S. Dehaene, entre autres.

      Je termine donc en rappelant mes différentes remarques précedentes.

      1.  » La machine et l’IA ne seraient rien sans les hommes qui ont initié les algorithmes.  »

      Rien d’étonnant à cela.
      Les machines ne sont pas vivantes.
      Elles ne se reproduisent pas, ne subissent pas de mutations et ne sont pas soumises aux lois de l’évolution.

      Ce qui me semble essentiel de comprendre, c’est que la notion de fonction ne dépend pas du support.
      On peut faire une même addition avec un boulier ou une calculette, voire un système hydraulique… Le résultat sera le même.

      C’est d’ailleurs souvent la démarche adoptée dans l’ingénierie (et le domaine de l’IA en particulier) où c’est bien l’humain qui imite la nature !(l’objectif d’un appareil photo, l’aile de l’avion, le sonar, etc…)

      Vous avez dit mimétisme ?

      2. Mes remarques soulevées dans mon commentaire sur le papier de S.J. Judje et que je ne vais pas reprendre…

      Au plaisir

  7. Avatar Auteur
    Marc Fiquet sam 30 Nov 2019 Répondre

    Nous n’allons certainement pas trancher ici un débat qui est en pleine ébullition mais oui l’homme imite la nature.
    cela n’enlève en rien la question sur l’origine des lois de la nature.. cette question n’est toujours pas tranchée et tu persistes à amalgamer naturalisme méthodologique et philosophique.

    Pour le théiste le design de la nature trouve une explication logique du fait que ces lois ont un concepteur comme le programmeur .est à l’origine des lois pour l’IA. si l’évolution n’avait pas un certain nombre de contraintes comme la convergence etc.. si les attracteurs en physique n’existaient pas, nous ne serions pas là pour parler de tout ça.. Je ne dis pas que tout cela prouve l’existence Dieu, mais on ne s’attendrait pas à moins si un Dieu était à l’origine du monde par des lois naturelles et non par des miracles permanents ou occasionnels.

    Pour la conscience, je ne parle pas de voir des tunnels ou autre expérience qu’on peut assimiler à des hallucinations, mais d’expériences de sortie de corps vérifiées par des protocoles scientifiques encadrés où la personne « en esprit » a été capable de deviner la présence d’objets en dehors de la pièce !..

    https://youtu.be/DdZSswf22lg

    Pour le moment il s’agit de recherches financées par des fonds privés, il faut donc encore rester prudent, mais il y a de quoi s’interroger sur les résultats de ces études relatées par ce colloque organisé par l’UIP que tu apprécies tant ;-)

    • Avatar
      Temaro sam 30 Nov 2019 Répondre

       » Oui l’homme imite la nature. Cela n’enlève en rien la question sur l’origine des lois de la nature..  »

      Je pensais qu’on était d’accord pour ne pas rebondir d’un sujet à l’autre.
      La question des conditions initiales qui définissent les propriétés de notre Univers depasse le cadre de notre réflexion sur L’IA, me semble-t-il !

      On n’est pas obligé de se poser la question de savoir d’où provient l’eau qui à servi à faire un café et dont on discute la saveur !

       » On ne s’attendrait pas à moins (ce qu’on appelle l’ajustement des lois de la nature) si un Dieu était à l’origine du monde par des lois naturelles et non par des miracles permanents ou occasionnels.  »

      Personnellement, si un dieu était à l’origine de notre monde, je me serais attendu à bien plus que, par exemple, cette évolution lente, laborieuse et aveugle qui a fini par produire (de façon tout à fait fortuite) le primate pensant que nous sommes.
      Mais bon, à chacun d’évaluer dans le cadre de nos connaissances la plausibilité de ses propres croyances.

       » Des expériences de sortie de corps vérifiées par des protocoles scientifiques encadrés où la personne « en esprit » a été capable de deviner la présence d’objets en dehors de la pièce !  »

      UIP ou pas, je maintiens que sur la question des  » sorties de corps « , aucune expérience incontestable n’a jamais été documentée.

      • Avatar Auteur
        Marc Fiquet sam 30 Nov 2019 Répondre

        tu as visionné la vidéo en lien ? ça vaut vraiment le coup !

        • Avatar
          Temaro sam 30 Nov 2019 Répondre

          Je vais y jeter un noeuil (un oeil, quoi !)

          • Avatar Auteur
            Marc Fiquet sam 30 Nov 2019 Répondre

            Fais un peu plus que ça, ton « scepticisme légendaire » risque d’être quand même un peu accroché..

            Il y en a qd même pour une heure !

            • Avatar
              Temaro sam 30 Nov 2019

              J’ai pris le temps de suivre cette vidéo.
              C’est curieux, dès la présentation par Jean Staune, j’ai commencé à avoir des démangeaisons…. Encore cette sacrée urticaire !
              Mais qu’est-ce qu’ils ont mis dans leur vidéo ?
              C’etait la petite () d’humour !

              Notre cher et sympatique Jean a fait très fort d’entrée de jeu, je cite:
               » Il a été montré (par qui, comment ?) que la conscience pouvait se désolidariser des neurones…  »

              Plus sérieusement, je salue le travaille initié par cette chercheuse qui
              reconnaît elle-même que les protocoles mis en place ne permettent pas de conclure à une délocalisation de la conscience.

  8. Avatar
    Pascal sam 30 Nov 2019 Répondre

    Bonjour à tous,

    après avoir lu l’article de Stuart J. Judge, je pense être en accord avec sa conclusion : « Nous sommes plus qu’un simple paquet de neurones. Notre expérience consciente et notre faculté à en être l’agent ne peuvent être ébranlées par la science parce qu’elles constituent le fondement même sur lequel la science est bâtie. »

    Même si Temaro fut étonné de me voir utiliser le théorème d’incomplétude de Gödel pour appuyer le fait que la raison (considérée comme un système formel) ne sera jamais en mesure de totalement s’expliquer elle-même, il me semble que la clef de la compréhension de notre « incompréhension » réside bien là.

    La conscience ne peut venir à bout de sa propre origine. Il faudrait une sorte de « méta-conscience » pour avoir quelque chance d’y parvenir.
    D’ailleurs tous les raisonnements faits pour expliquer les mécanismes de cette conscience, s’appuient sur la logique, qui est déjà bien en peine d’expliquer certains aspects de la mécanique quantique, car cette dernière a bien atteint une sorte « d’horizon » de la connaissance que nous pouvons avoir du réel au niveau de l’infiniment petit.

    Et si le fonctionnement intime du cerveau repose sur la mécanique quantique, il faut complètement changer notre mode d’analyse.

    • Avatar Auteur
      Marc Fiquet sam 30 Nov 2019 Répondre

      oui Pascal, c’est aussi mon avis, Judge donne des exemples bien plus simples dans son papier qui donnent déjà à réfléchir et montrent le caractère non réductible de la conscience.

    • Avatar
      Temaro sam 30 Nov 2019 Répondre

      Bonjour Pascal,

      Désolé d’insister, mais je pense sincèrement qu’un minimum d’informations sur les avancées dans le domaine des sciences cognitives et de son approche expérimentale reste un prérequis pour une réflexion fructueuse.

      Quant au théorème d’incomplétude, je ne pense pas que les mathématiciens soient traumatisés à l’idée que certains axiomes vrais soient indémontrables.
      L’édifice mathématique n’est pas mis en péril pour autant.

      Enfin, tu sembles conquis par la conclusion de S.J Judge:
      « Nous sommes plus qu’un simple paquet de neurones. Notre expérience consciente ET notre faculté à en être l’agent ne peuvent être ébranlées par la science parce qu’elles constituent le fondement même sur lequel la science est bâtie. »

      Ne vois-tu pas un problème ici ?
       » Notre expérience consciente ET notre faculté à en être l’agent…  »

      Mais qui a dit que CONSCIENCE et AGENT devaient être nécessairement deux notions distinctes ?
      Et si la conscience était précisément la fonction qui définit l’agent ?

      • Avatar
        Pascal sam 30 Nov 2019 Répondre

        « certains axiomes vrais soient indémontrables »

        Je rectifie juste cette erreur…

        Les axiomes ne sont pas démontrables. Ce sont les théorèmes qui le sont. Les axiomes eux, sont supposés vrais. Voir les axiomes de la géométrie euclidienne par exemple. On ne peut jamais démontrer qu’un axiome est vrai.
        Dans le débat qui nous occupe, tu es partisan du présupposé que la pensée humaine peut se disséquer, se comprendre elle-même. Mais l’un des axiomes qui supporte ce présupposé, est que le raisonnement humain soit sans faille, or, il est des domaines (et je reviens encore à la mécanique quantique), où notre manière logique de raisonner nous conduit à des conclusions qui ne collent pas à la réalité (pense à l’énergie qu’Albert Einstein a dépensée, en vain, pour mettre en défaut l’interprétation donnée à certains résultats de physique quantique).

        • Avatar
          Temaro sam 30 Nov 2019 Répondre

          Bonsoir Pascal,

          Bien vu pour les axiomes mais il y a une finesse.
          Noublions pas qu’un axiome est aux mathématiques ce qu’un postulat est à la physique. Or, on ne s’interdit pas de démontrer un postulat.

          Qu’est-ce qui m’interdit de poser comme axiome qu’il existe nécessairement, quel que soit x entier, un autre entier y entier tel que y=x+1
          Ex:
          si x=100 alors y=101
          si x=10^100 alors y=10^100 +1
          etc.. Et peut-on démontrer cet axiome ?

          Je peux choisir de considérer cet axiome comme évident en soi sans chercher à le démontrer mais je peux également montrer son incohérence si je cherche à le nier.
          Ex:
          Si je pose qu’il existe, pour un x entier particulier un autre entier y tel que y=x+1=x alors je démontre x=y pour une valeur arbitraire de x !

           » Dans le débat qui nous occupe, tu es partisan du présupposé que la pensée humaine peut se disséquer, se comprendre elle-même. Mais l’un des axiomes qui supporte ce présupposé, est que le raisonnement humain soit sans faille  »

          Ce n’est pas un présupposé mais un pari.
          Le cerveau est capable de corriger ses erreurs.

        • Avatar
          Temaro dim 01 Déc 2019 Répondre

          Deux mots sur la mécanique quantique que tu évoques comme un exemple qui mettrait en évidence une limite à notre entendement.
          Je rappelle simplement que cette partie de la physique tout comme la relativité générale attendent encore d’etre unifiées dans un cadre théorique plus large.
          La tâche est extrêmement difficile mais rien ne suggère que notre entendement représente une limite dans cette quête du Graal de la physique.
          Les difficultés sont plutôt d’ordre pratique, comme par exemple la mise en évidence expérimentale de données nouvelles (particules hyper massives, dimensions supplémentaires, nature de la matière noire et de l’énergie sombre)

        • Avatar
          Temaro dim 01 Déc 2019 Répondre

          Tu ne réponds pas à cette remarque pourtant en lien direct avec le papier de S.J. Judge lorsque j’exprime le fait que tu sembles conquis par la conclusion de S.J Judge:
          « Nous sommes plus qu’un simple paquet de neurones. Notre expérience consciente ET notre faculté à en être l’agent ne peuvent être ébranlées par la science parce qu’elles constituent le fondement même sur lequel la science est bâtie. »

          Ne vois-tu pas un problème ici ?
           » Notre expérience consciente ET notre faculté à en être l’agent…  »

          Mais qui a dit que CONSCIENCE et AGENT devaient être nécessairement deux notions distinctes ?
          Et si la conscience était précisément la fonction qui définit l’agent ?

  9. Avatar
    Pascal dim 01 Déc 2019 Répondre

    Bonsoir Temaro,

    Le mathématicien Peano a axiomatisé l’arithmétique de manière claire, mais en utilisant la fonction successeur s(x), avant toute définition d’un opérateur « + ». Dans cette axiomatique, poser x = s(x) est absurde, car l’ensemble des entiers naturels étant infini, un entier ne peut être son propre successeur. (Voir axiomes de Peano).
    De plus, poser que x + 1 = x, est équivalent au fait de démontrer que 1 = 0, si l’on admet que x + 1 est défini pour tout entier naturel x, par x + 1 = s(x) et 1 par s(0).
    Bref, veux-tu vraiment discuter des fondements axiomatiques de l’arithmétique ?

    Dans un autre domaine célèbre, en remettant en question l’axiome des parallèles d’Euclide, on a abouti aux géométries non euclidiennes, fort utiles en relativité générale, en cosmologie, …

    • Avatar
      Temaro dim 01 Déc 2019 Répondre

      (
      Je ne posais pas X=S(X) qui est effectivement absurde mais Y=S(X) !
      Simplement, mon objectif était de montrer que nier cet axiome S(X) présumé VRAI mais INDEMONTRABLE revient à considérer une valeur arbitraire de X qui n’admettrait pas de successeur S(X) ce qui ferait de l’axiome S(X) un axiome INCOHERENT puisqu’il affirmerait alors une chose et son contraire !
      )

      Bref, j’espère qu’on est d’accord sur le fait que VERITE et DEMONTRABILITE sont deux notions différentes, la première n’impliquant pas la seconde. (l’enseignement essentiel du théorème d’incomplétude)

      Aussi, dans le débat qui nous préoccupe, je ne présuppose rien, je fais un simple PARI, celui de considérer qu’il n’existe pas de raison théorique qui limiterait notre connaissance sur le monde et donc sur nous-mêmes.(théorème d’incomplétude ou pas)

      • Avatar
        Pascal dim 01 Déc 2019 Répondre

        « Je ne posais pas X=S(X) qui est effectivement absurde mais Y=S(X) ! »

        Pas tout à fait, tu as écrit : « Si je pose qu’il existe, pour un x entier particulier un autre entier y tel que y=x+1=x alors je démontre x=y pour une valeur arbitraire de x ! »
        Ce qui nous donne en utilisant l’axiome d’induction définissant l’addition des entiers naturels :

        y = x + 1 = x
        y = x + s(0) = x
        y = s(x + 0) = x
        y = s(x) = x

        Donc, tu n’es parvenu à démontrer que y = x qu’en posant s(x) = x, donc que x est son propre successeur. Mais alors si u est l’entier naturel tel que x = s(u). On aura :
        s(x) = x
        s(x) = s(u) ==> x = u (l’un des axiomes de Peano)
        Donc, tu démontres aussi que le successeur de u est égal à x. En poursuivant par récurrence, on aboutit à montrer dans ce cas, qu’il n’y a qu’un entier naturel, ce x dont tu admets qu’il existe. Mais comme « 0 est un entier naturel », est aussi un axiome, on en déduit que x = 0.
        Donc, si l’on considère ton axiome comme vrai, on ne parvient pas à générer l’ensemble des entiers naturels. Il faudra se contenter du 0 !
        Donc cet axiome n’a pas d’utilité.

        • Avatar
          Temaro dim 01 Déc 2019 Répondre

          Bonsoir Pascal,

          Tu viens de montrer ce que je voulais moi-même souligner (avec cet axiome de Peano comme exemple) à savoir qu’un axiome est soit VRAI et INDEMONTRABLE soit FAUX car INCOHERENT.
          J’espere que nous serons donc d’accord au moins sur ce point et donc sur cet enseignement fondamental du théorème d’incomplétude.

  10. Avatar Auteur
    Marc Fiquet dim 01 Déc 2019 Répondre

    Bonjour Témaro, tu as visualisé la video https://youtu.be/DdZSswf22lg proposée par l’UIP
    Une chercheuse a travaillé sur les sorties de corps tu ne sembles pas très impressionné par les résultats scientifiques, je te cite : « je salue le travaille initié par cette chercheuse qui reconnaît elle-même que les protocoles mis en place ne permettent pas de conclure à une délocalisation de la conscience. »

    je trouve cependant que tu évacues un peu vite les résultats d’une telle étude.

    que penses tu par ex d’une des conclusions de la chercheuse ?

    57mn : « nous avons prouvé scientifiquement que Nicolas a la capacité d’obtenir des informations sur des lieux sur lesquels il ne se trouve pas physiquement sans passer par ses cinq sens, qu’il ne s’agit pas hallucinations »

    ensuite en effet elle indique que le protocole ne permet pas d’affirmer que la conscience se délocalise et que des expériences complémentaires sont à réaliser.

    • Avatar
      Pascal dim 01 Déc 2019 Répondre

      Bonsoir Marc,

      j’ai regardé la seconde partie de la video, et notamment le passage que tu soulignes. La fondatrice de l’ISSNOE, qui est docteur en biologie moléculaire, s’y exprime en tant que scientifique, donc avec toute la rigueur et la prudence nécessaires. Elle relate le fait que Nicolas Fraisse a identifié 7 fois sur 40, une image située dans une autre pièce que celle qu’il occupait. Dans les 33 autres cas, il n’a jamais identifié une image différente, mais dit qu’il n’a pas été en mesure de « voir » l’image, sa conscience l’ayant mené ailleurs dans certains cas.

      Donc, deux choses semblent acquises, la première est la capacité de certaines personnes « à obtenir des informations sur des lieux dans lesquels ils ne se trouvent pas physiquement », et la seconde est qu’il est impossible à quelqu’un vivant une telle expérience d’avoir le contrôle de ce qu’il « voit » ou « visite ». Il ne peut se diriger à son gré, dirait-on.

      Bon, après cela part un peu dans tous les sens, puisqu’elle finit par affirmer que la « conscience » est une donnée fondamentale de l’Univers, et semble cautionner l’idée que ce serait la conscience qui créerait la réalité, ou, ce qui revient au même, que la réalité n’existe pas indépendamment de la conscience. Cela me fait penser aux livres de science-fiction de l’écrivain Philip K. Dick (dont je suis grand fan au passage).

      • Avatar Auteur
        Marc Fiquet dim 01 Déc 2019 Répondre

        oui Pascal, on a l’impression que ça part un peu dans tous les sens il y a une autre vidéo (débat qui suit la conférence) et toutes les spiritualités font leurs interprétations de ce type de recherche. Du New age au christianisme tout le monde parvient à trouver l’interprétation qui correspond à sa vision du monde. Mais comme l’a dit Sylvie Dethiollaz, même des purs matérialistes parviennent à en tirer une interprétation qui rentre dans leur paradigme !

        La science est-elle équipée pour investiguer efficacement dans le domaine de l’immatériel ?

        • Avatar
          Pascal lun 02 Déc 2019 Répondre

          Personnellement, en tant que chrétien, je pense que Dieu a créé le monde, l’Univers donc, et toutes les lois physiques, biologiques, etc… qui vont avec, et ensuite, Il a décidé de doter cette espèce particulière sur l’arbre phylogénétique, qui s’est plus tard nommée elle-même « espèce humaine », de la conscience. Et en ce sens, comme le rapporte la Bible, Dieu a fait de nous, ses fils et ses filles. Nous partageons la conscience du monde que Dieu a créé, avec Lui. Il nous a doté de la conscience nécessaire pour le percevoir, tenter de le comprendre, et l’admirer. C’est là un très grand mystère. Mais quand je regardais mon brave chien, qui fut mon compagnon pendant près de quinze ans, je devinais tant de choses dans son regard, tant d’émotions différentes, parfois de l’angoisse, parfois de la mélancolie, souvent de la gaité, que je ne doute pas qu’il avait indéniablement une forme de conscience, peut-être même de pensée, mais ne pouvait l’exprimer.

          • Avatar
            Temaro mar 03 Déc 2019 Répondre

            Bonsoir Pascal,

             » En tant que chrétien, je pense que…  »

            Tu aurais pu aussi dire  » En tant que chrétien, je crois que…  »
            Mais peut-être penses-tu que la foi résulte d’une pure pensée rationnelle dénuée de toute trace émotionnelle ?

            Et ne peut-on pas généraliser ton approche en affirmant:
             » En tant que  » …  » on peut croire  » …  » ? (*)

            (*) Remplacer les … par les valeurs de votre choix.

            Ne penses-tu pas qu’il serait fructueux, enfin, de  » penser contre son cerveau  » pour faire référence à une conférence de Étienne Klein dont voici le lien:
            Jehttps://youtu.be/X7PS6RTkCDc

            Quant à ton chien disparu, bien evidemment, je partage tout à fait ce que dis.

            Au plaisir.

          • Avatar
            Temaro mar 03 Déc 2019 Répondre

            Désolé pour le lien:
            https://youtu.be/X7PS6RTkCDc

        • Avatar
          Temaro lun 02 Déc 2019 Répondre

          Bonjour Marc,

           » La science est-elle équipée pour investiguer efficacement dans le domaine de l’immatériel ?  »

          Posee en ces termes, voilà une question qui semble bien monstrueuse !
          Mais la conscience releve-t-elle d’un phénomène si immatériel que ça ?

          N’est-il pas possible d’appréhender le rapport corps/esprit sous le même rapport que les aspects matériel/logiciel pour un ordinateur ? (fonctionnalisme)
          Après tout, un logiciel peut se définir comme un ensemble d’instructions et de fonctions.

          C’est en tous cas l’hypothèse (peut-etre naïve.. On en sait rien mais il faut bien commencer par quelque chose) et le pari fait par une approche expérimentale de la conscience (ex: les travaux de S. Dehaene) qui a permis de comprendre dores et déjà de nombreux aspects, jusque là ignorés, de la conscience.

          Cette piste converge d’ailleurs vers une certaine conception du monisme à double aspect en ce sens qu’elle consiste (en dehors de toute arrière pensée spiritualiste) à explorer par ses manifestations objectives un phénomène qui se traduit par le sujet expérimentateur par des manifestations subjectives.(les qualia)

          Le pari ici est de postuler qu’on parle d’un même phénomène où ce serait uniquement le point de vue qui impliquerait une manifestation particulière.
          On est là un peu dans le même rapport que relativité / mécanique quantique.
          Chacun a raison dans son contexte et toute convergence semble poser des problèmes insurmontables. Il semble pourtant nécessaire et donc légitime de vouloir unifier ces deux aspects.

          Après tout, la conscience est peut-être la fonction cognitive de haut niveau qui précisément définit ce qu’on appelle le sujet (la  » personne  » ou le  » moi « ) et RIEN DE PLUS. C’est en tous cas la question à laquelle il faut répondre.

          Voilà une conclusion hypothétique, certes prématurée, mais non moins monstrueuse que ta question:
          Notre conscience et l’humanité pourraient-elles se comprendre comme une conséquence de la complexité qui aura produit  » nécessairement par hasard  » (*) la réunion de fonctions cognitives de haut niveau en interaction ?

          (*)  » nécessairement par hasard  »
          Je fais référence là aux modèles théoriques des multivers que semblent suggérer les différentes approches d’unification entre relativité et MC.

          Bref, y a du pain sur la planche.

    • Avatar
      Temaro dim 01 Déc 2019 Répondre

      Bonsoir Marc,

      Voilà ce que j’en pense:
      https://www.pseudo-sciences.org/Qu-y-a-t-il-a-penser-dans-l-au-dela

      Au milieu de l’article, un chapitre est consacré à L’Institut suisse des sciences noétiques (ISSNOE)

      • Avatar Auteur
        Marc Fiquet dim 01 Déc 2019 Répondre

        je suis assez d’accord avec l’analyse de cet article sur l’ISSNOE. je me demande aussi pourquoi il n’y a pas de publications qui suivent ces travaux. cependant je crois savoir aussi que l’ISSNOE peine à trouver des crédits pour la poursuite des recherches.

        cette expérience est tout de même à rapprocher avec les nombreuses expériences d’EMI dont certains témoignages sont assez troublants. Des chirurgiens dignes de confiance ont par exemple rapportés que leurs patients à leur réveil après ce type d’expérience accidentelle ont été capables de donner un n° de série située sous la table d’opération et de raconter leur opération et leur « mort » ds les détails alors qu’ils ont été transportés dans la salle sous anesthésie.

        Bien sûr, il ne s’agit là que de témoignages et pas de protocoles scientifiques. Cela nous montre simplement qu’on est encore très loin de maîtriser le sujet. et que s’il est bien un domaine où se rencontrent science, philosophie et religion , c’est bien celui de la conscience !

        • Avatar
          Temaro lun 02 Déc 2019 Répondre

           » Des chirurgiens dignes de confiance ont par exemple rapportés que leurs patients à leur réveil après ce type d’expérience accidentelle ont été capables de donner un n° de série située sous la table d’opération  »

          A ma connaissance, toutes les tables d’opération ont un ° de série…
          Tout ça ne prouve pas grand chose en l’absence encore une fois de tout protocole experimental strict. On ne peut pourtant pas invoquer la rareté des cas d’EMI (qu’on est même en mesure de provoquer artificiellement) pour expliquer encore à ce jour l’absence de cas incontestables.
          Tout ceci me fait penser au cas d’EMI (Pamela Reynolds) très médiatisé à l’époque des faits et qui a fait l’objet d’une investigation d’un groupe independant de sceptiques
          https://www.wikiwand.com/en/The_Skeptic_(UK_magazine)

          Lien: (voir à peu près au 2/3 de l’article)
          https://www.wikiwand.com/fr/Expérience_de_mort_imminente

          • Avatar Auteur
            Marc Fiquet mar 03 Déc 2019 Répondre

            mon idée n’était pas de lancer un débat sur les sorties de corps ou les EMI, je voulais juste montrer à partir de ces exemples, que la science n’avait absolument pas enfermé la conscience dans la matière c’est tout, ça serait du scientisme. Tu aurais pu choisir un autre extrait de l’article sur les EMI pour en déduire d’autres conclusions. On voit bien que les choses sont loin d’être limpides pour le moment mais on peut reconnaître que certains témoignages sont parfois troublants et paraissent de bonne foi.

            Voici une des conclusions de feu Peter Clarke neurobiologiste (et croyant) dans son petit ouvrage Dieu, l’homme et le cerveau :

            « Personnellement, il me semble difficile de trancher. D’un côté le fait que la kétamine et d’autres drogues puissent provoquer plusieurs des composantes d’une EMI est compatible avec l’hypothèse d’hallucinations suite à une modification cérébrale, mais n’explique pas les EMI qui ont parfois lieu spontanément sans modification pathologique de l’activité du cerveau.
            De l’autre bien que la précision remarquable de certaines descriptions surprenne, elle a besoin d’être confirmée par une enquête scientifique rigoureuse.
            Plusieurs études sont actuellement en cours testant la capacité des gens à remarquer des chiffres ou des mots cachés lors d’une EMI et nous attendons les résultats. entre temps, je reste prudent. »

            • Avatar
              Temaro mar 03 Déc 2019

              Oui la prudence de Peter Clarke me semble ici tout indiquée.

Laissez une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*