Reprise du message précédent :

Je suis d'accord que c'est un problème difficile, et il faut insister sur le fait que le problème commence bien avant la conscience réflexive, dans la constitution d'une scène intérieure où retentissent des sensations, même sans la capacité de dire JE. A mon sens, si on savait comment passer du phénomène de l'échange ionique membranaire à la constitution d'une sensation, le problème passerait dans la catégorie facile.

Par rapport à notre débat sur la possibilité de synthétiser une conscience, le point crucial pour moi, qui interdit complètement la possibilité de simuler une conscience par la voie logicielle, c'est le fait que dans la chaine de traitement il y ait intervention de ce que je nommerais un causalité arbitraire, cad une relation de cause à effet qui dépend complètement d'une convention, médiée par un système de symboles quelconque. Ce qui empêche à tout jamais un personnage décrit dans un roman d'accéder à la conscience, quel que soit le niveau de détail dont on nourrisse sa description, c'est le fait que son existence n'existe que dans le système de codage de la langue, qui fait que les lettres "R O U G E" désignent par une pure convention une certaine couleur. Quand on écrit le personnage à l'aide de ligne de code, le moyen est différent mais le niveau arbitraire demeure. Le fait que d'une ligne de code à l'autre on puisse transformer toute chose dans le monde simulé en banane violette, en montre molle à la gelée de groseille ou en girafe à roulette implique que chaque milliseconde du monde simulé est séparé de la milliseconde qui suit par un abîme infranchissable et que la causalité à l'oeuvre dans la simulation n'est qu'apparente et conventionnelle.

A la causalité arbitraire du système de symbole, j'oppose la causalité nécessaire de la physique. Une façon de comprendre la différence fondamentale entre les deux, par rapport au débat de la possibilité d'une conscience synthétique, c'est que la causalité arbitraire étant basé sur des symboles, elle suppose la préexistence d'une conscience pleinement développée qui donne un signifié au signifiant. C'est aussi pour cette raison que les personnages de nos rêves, aussi réalistes qu'il puissent apparaître à notre conscience, ne sont pas eux même conscients.

C'est aussi ce qui fait que la proposition philosophique iconoclaste et prétendument irrésistible comme quoi nous serions en bonne logique probablement les objets d'une simulation achoppe au premier argument.

Dans le cas ou l'on ne souhait pas créer un conscience de toute pièces, mais uniquement simuler un exemple naturel; si tu arrives à un précision qui te permet d'affirmer que les symboles choisis n'impactent pas le résultat de la simulation par rapport au monde réel (impact de l'imprécision négligeable), et que rien d'arbitraire ne rentre pas dans la chaine de simulation (simulation exacte des lois physique), l'être simulé pourrait bien être conscient.

 
 
Certainement pas.  
 
Encore une fois, est ce que tu te représente qu'un personnage de roman, ou de dessin animé, suffisamment bien décrit, ou dessiné (ou les deux) puisse devenir conscient ? Ou un personnage dans tes rêves ?

Je parle d'une simulation physique exacte d'un système nerveux et de ses interraction, incluant la simulation de son environement, même si la précision dudit environement peut être un peu malmenée par le simu, pour des raison évidente de faisabilité.

Si la simulation physique est faite par voie logicielle penser que "ça" va devenir conscient parce que "ça" modélise des neurones, c'est un peu comme penser que "ça" peut acquérir la masse du Soleil et une température centrale de 15 millions de degrés parce que "ça" modélise une étoile.

Symboliquement "ça" sera ce qu'on veut, sans limite concevable. Physiquement "ça" ne sera rien d'autre que quelque milliwatt de courants électriques modulés et quelque nanojoule d'énergie magnétique sur le plateau d'un disque dur.

Non, c'est le fait qu'il n'existe aucune interaction entre ces symboles. La description est fixe et il n'existe aucune regle/mecanisme permettant a ces symboles de se reorganiser suite a un changement percu dans leur environnement.
 

Sauf que ce type de transformation est totalement exclu du monde simulé, justement parce qu'une causalité est implémentée. Le "personnage" est soumis a cette causalité un peu de la meme maniere que notre cerveau est soumis aux lois de la physique et de son point de vue l'intervalle entre deux millisecondes de la simulation est un non-sens (de son point de vue, il n'existe rien entre deux etapes de la simulation).
Et que la causalite soit artificielle ou naturelle, quelle importance pourvu qu'elle permette l'emergence des mecanismes a l'oeuvre dans une conscience ?
 

De mon point de vue, la causalité arbitraire basée sur des symboles remplit le meme role que les lois de la nature decoulant des interactions entres particules elementaires. Je ne vois pas en quoi l'une de ces "simulations" empecherait intrinsequement la simulation d'une conscience.

Ca me semble etre une tres mauvaise analogie. Tu penses que la conscience est un objet physique ?

Non, parce que la conscience est la résultante émergente d'un processus physique, ce n'est pas le processus physique en lui-même.

La conscience, à mon avis, c'est simplement le fait de pouvoir prendre une décision rationnelle, avec une réflexion derrière.
Mais en aucun cas ça n'implique un libre-arbitre.
Pour ce qui est des animaux, je pense pas qu'il n'ai pas de conscience, à partir du moment où ils peuvent réfléchir pour moi ça suffit.
Après c'est probablement extrêmement différent de la notre (pas de parole, probablement une moral très différente s'il y en a une, etc).

Oui, mais cette causalité implémentée reste arbitraire.

La différence est irréductiblement là.
Je pars des postulats suivant :

1) Que la conscience, en tant qu'évidence vécue, est une réalité physique.
2) Que la réalité physique est ontologiquement distincte d'un calcul. Bien que les math soit la voie d'accès à la compréhension de la chose physique, la Nature ne fait pas de calcul et n'obéit pas à des lois. Que la réalité physique n'est pas l'implémentation d'Idées platoniciennes.

Donc qu'une simulation n'a pas de réalité physique. Je peux simuler n'importe quel océan, il restera une différence ontologique irréductible entre l'eau simulée et l'eau physique. Je ne peux pas le prouver rigoureusement, certes. C'est juste que ça me semble relever d'un haut degré d'évidence mais sur un plan métaphysique.

En tout cas j'en fais une conjecture : Aucune causalité simulée ne peut donner naissance à un vécu intérieur, de quelque degré que ce soit.

Absolument. C'est l'évidence même pour moi.

Ce que je constate chez tous les convaincu de la conscience simulée, c'est les ravages du dualisme cartésien (qui distingue res cogitans et res extensa).

A ce moment là, l'atome qui est une résultante émergente du Modèle standard des particules n'existe pas par lui même...

Ta "réalité physique" n'est que notre perception du monde. On "observe" notre monde grâce à des instruments (fabriqués ou innés) qui nous rendent les informations "perceptibles" à notre conscience.
Un programme informatique peut très bien se créer un monde "physique" à partir de ses propres perceptions dès le moment où tu donnes les outils nécessaire à un processus de conscience.

Donc peu importe si cette réalité n'est "que" du circuit électrique et que les contraintes en jeu sont artificielles.

La conscience n'est pas premièrement dans la perception, mais dans la constitution d'un Soi, qui est la chose à laquelle le Monde est rapporté. Ce qui est inouï dans le phénomène conscient, ce n'est pas le fait que le monde soit mesuré et traduit en potentiels d'action neuronaux (problème facile) mais que tous ces phénomènes, de manière continue, génèrent un Soi central auquel ils se rapportent tous, sous la forme d'un océan de phénomènes neuraux inconscient d'où émergent les émotions et les sentiments (sentiment = émotion à laquelle est adjointe sa cause), qui sont la trame même de la conscience.  C'est clairement un phénomène émergent, mais la nature même de cette émergence constitue un problème difficile.

Ensuite je suis pleinement d'accord que peu importe si cette réalité n'est "que" du circuit électrique mais par contre les contraintes en jeu doivent être naturelle au sens précis où il ne doit exister aucune étape logicielle par laquel le Monde (qu'il soit extérieur ou interne) soit médié. Le Soi central ne peut être crée que physiquement, et non symboliquement, c'est mon postulat fort.

Pour qu'il y est un "Soi", il faut un "extérieur", un "monde" en tant qu'opposé et c'est cette perception qui la crée.

Tu ne peux sauter le problème aussi facilement en disant "Il faut une réalité physique". Ce n'est absolument pas une variable qui joue tant que ça.
Il faut une "réalité physique selon le point de vue subjectif de la conscience", c'est tout. S'il s'avère que c'est artificiel, peu importe.

Je ne comprends pas cette phrase.

Woué en gros pour toi la conscience c'est quelque chose.. donc tu crois à l'âme. Tu crois aux forces des esprits
 
Elle existe toujours pour toi ton âme quand tu meurs ?
 

Même pas. Pour le coup, on peut imaginer un monde extérieur qui soit entièrement simulé. Dans The Truman Show, le fait que le monde soit artificiel n'empêche nullement Truman d'avoir de véritables sentiments vis-à-vis de lui. Ça resterait vrai s'il était possible de simuler y compris sa femmes, ses amis, ses collègues, les passants, etc, voire la semelle de ses chaussures.

Donc oui pour la nature du stimuli. Mais pas pour le corps lui même, dans lequel s'incarne la conscience.
Au fond ce que je dis c'est qu'il n'y a pas de conscience désincarnée. Sa nature même est d'être "l'idée d'un corps" pour reprendre l'intuition lumineuse de Spinoza.

Ce que je dis, que j'intuitionne en gros (à propos d'un problème difficile, donc on me pardonnera de ne pouvoir le prouver) c'est qu'il faut que de véritables courants électriques interagissent dans une chaine de cause à effet  nécessaires depuis le simuli jusqu'au sein du système neural. Si dans une étape du traitement, il y a une boite noire logiciel, au sein de laquelle les simulis sont traduits en réalités symboliques, à mon sens la chaîne est rompue et il n'est pas permis d'espérer que ce circuit donnera naissance à une réalité vécue, fusse t'elle du niveau de cognition d'une limace.

Non, je crois qu'il veut juste dire que là conscient réflexive existe parce qu'elle à ses propres modalités, elle repose sur un phénomène d'émergence qui s'enracine dans la réalité physique, et qu'on ne peut simuler sous peine de perdre la réalité de ce moi réflexif.

Non, c'est exactement la raison pour laquelle je pense qu'il n'est pas possible de donner une réalité à une affirmation comme "Dieu est un pur esprit". Un esprit est forcément incarné.

Mais pourquoi donc?
 
Je n'arrive pas à saisir ce qui te permet d'intuiter une telle chose.

@Gilga:
 
Tu distingues absolument le monde physique "réel" et celui "simulé", mais le monde simulé appartient tout à fait au réel.  
 
Chaque particule du monde simulé, aussi arbitrairement fondamentale que tu veux (on parle d'expérience de pensée, donc on s'en fout de la réalisation) est liée à une ou des particules du monde réel. Selon l'implémentation matériel et logiciel, il y a comme une forme de bijection entre le monde simulé et le monde réel. Entre ses particules fondamentales et les électrons, par exemple, du simulateur.

Je crois que tu n'as pas compris ce que je dis. Il est évident que Truman perçoit un "monde" autour de lui. C'est un "monde extérieur".
En quoi ton exemple me contredit ?

Je ne comprends pas cette phrase. "Pas pour le corps lui-même". Mais le corps n'a pas de "conscience", il ne "pense pas" à une réalité physique.
Ta phrase n'a pas de sens ou alors il faut préciser.

Donc imaginons qu'à un moment donné un homme est paralysé. Si on lui remplace son système défectueux neural par une machine qui fait exactement la même chose, alors pour toi, il n'est plus conscient ? Il ne vit pas "la réalité" ?

Parce que s'il y a simulation, on rompt la chaîne causale qui permet l’émergence d'une conscience réflexive à partir de la réalité "tangible et physique" ? Et que ça revient un peu au fait de photocopier en 3D un canard en pensant le rendre vivant ?

En quoi une simulation rompt la chaîne causale ? Le fait même que tu perçoives un monde, simulé ou non, ne t’interdit pas le fait d'avoir une conscience.

Ta comparaison est idiote. Photocopier un canard n'est qu'une simulation très partielle. Par contre, là, on parle de simuler une conscience avec tous les processus que cela implique et non pas "partiellement".

 
Parce qu'en copiant, on perd automatiquement une qualité essentielle que la matière porte en son sein probablement, on rompt ce qui fait de cette réalité unique, vivante. (Ou quelque chose du genre, j'aime bien l'idée de Gilga).
 

On ne parle pas de faire un copiage fixe complètement idiot comme on le fait pour un dessin.

En quoi la vie ne peut pas être matérielle ? Si je copie parfaitement à l'atome près un individu, il ne sera pas vivant selon toi ?

Parce qu'il y a une différence irrémédiable et ontologique entre la réalité, et une simulation de celle-çi.

Je ne suis pas du tout sur qu'une infinité de Core I7 placé en parallèle auraient la possibilité de rendre une simulation de l'univers et des êtres réelle. C'est d'ailleurs un paradoxe.

Et c'est quoi cette différence ? Qu'est-ce qui te permet d'affirmer, par exemple, tu n'es pas toi-même dans une simulation ?
Enfin, une fois que tu me donnes cette différence, en quoi cette différence est vitale pour un être conscient ou vivant ?

Ce qui te permet d'affirmer que quelque chose est réelle n'est que la perception que tu en fais.

 
 
Si on part du postulat que nous vivons dans un univers réel et non simulé par une machine, il y a alors autant de différence entre la réalité du vécu d'autrui que mon cerveau construit dans mes rêves, qui sont illusions vivantes, par rapport à la réalité de leur existence lorque je suis éveillé.
 
Dans le cas contraire, si nous vivons déjà nous mêmes dans un univers issu d'une simulation, alors là, c'est déjà plus difficile de se faire une idée je trouve

Ah mais je suis parfaitement d'accord avec ça. D'ailleurs je ne penses pas que les gens ici parlant de simulation du cerveau... s'arrêtent uniquement à la simulation du cerveau.

Un cerveau sans corps n'a pas de sens et un corps sans environnement pas plus.

Donc en gros depuis le début tu fais exprès de mal comprendre juste pour répondre à coté ?

Donc penses-tu toujours qu'un cerveau simulé dans un corps simulé dans un environnement simulé n'aurait pas de conscience ?

En fait, je ne voulais pas relancer ici le débat sur la faisabilité d'une conscience artificielle, debat pour moi terminé puisqu'on a parfaitement définit le point de divergence : je pense que c'est possible parce que pour moi, la conscience est un phénomène qui émerge naturellement de relations, enfin de certains calculs (du type de ceux que font les neurones dans un cerveau), quel que soit le substrat physique qui effectue ces calculs, même si je suis complètement infoutu d'expliquer comment un tel truc est possible, et que c'est un putain de problème difficile. Alors que gilga dis que c'est impossible, parce que quelque part, d'une certaine façon la matière a des propriétés pas encore découvertes des quelles proviennent la propriété élémentaire de "sensation" (même si on ne sait pas dire lesquelles, et que c'est un putain de problème difficile), et donc, une simulation échouerait à créer une conscience, même si de l'extérieur, l'être simulé aurait tout de l'être conscient (il serait impossible de savoir s'il est où non conscient en lui posant des questions).

Bref, ce que j'aimerais surtout, c'est que gilga essaie d'expliquer mieux que moi le problème difficile de la conscience, parce que personne ici n'a l'air de voir en quoi c'est une difficulté (à part baggers), on dirait que pour certains, quand on a dit "ça émerge naturellement de la complexité du cerveau", on a répondu au gros de la question

Pas besoin de simuler l'univers entier non-plus. Déjà rien que simuler un système presque fermé comme la Terre suffit amplement et c'est même trop.

Et pourquoi ce raisonnement ne fonctionnerait pas pour une simulation de conscience dans un ordinateur ? Il ne pourrait pas élaborer la même réflexion que toi là-dessus ?

Je ne comprends toujours pas en quoi cette différence "ontologique" rend impossible la conscience simulée voire même le vivant simulé.

Tu ne cites jamais réellement cette différence si importante pour le vivant. C'est un postulat que tu poses, mais je ne vois pas ton explication.

Mais si tu simule ces propriétés pas encore découvertes... une fois que tu les auras découvertes?

Vous nou parlez tout de même d'un truc "magique" la!

mais si c'est cool c'est comme une série qui revient chaque année et là c'est la 3e saison, la seconde était ya pile un an !!
 
il manque juste une voix off previously, on hfr

Ben si ça nait d'une vraie propriété élémentaire de la matière, alors ça ne nait pas "juste d'un calcul quel qu'en soit le substrat", donc je suis d'accord avec gilga pour dire que si ça nait d'une propriété élémentaire de la matière de type "sensation", alors, on ne pourra pas produire une conscience réelle par simulation. C'est juste que je ne suis pas d'accotd avec la prémisse.

Je comprends tout à fait le problème de la conscience. Je ne comprends pas le problème de la conscience réflexive qui n'a rien à voir ni de près ni de loin à se reconnaître dans le miroir, à l'empathie, à ressentir des émotions, à mentir, et qui ne sert à rien d'un point de vue évolutionniste.

Une propriété élémentaire peut se simuler aussi. Ca dépend juste à quel point tu veux remonter à la source.

Mais de toute façon, je ne vois pas pourquoi ce serait une propriété élémentaire. Pour ma part, je pense que la conscience est un processus "macroscopique" (au sens où on n'a pas besoin de s'encombrer de la quantique et que l'on peut très bien simplifier des processus sans que cela engendre de problème).

Pourquoi de nos jours il n'y a plus de prophète avec des pouvoirs divins?

ça été remplacé par les politiques
 
Bon on va bientot les pendres ,changer de paradigme

 
J'entrevois ici un problème, par exemple: comment "simuler" avec des outils macros (une simulation numérique) de façon exacte les phénomènes aléatoires de la physique quantique? Je parle de "l'aléatoire quantique vrai", pas d'un processus macro statistique. Nous sommes capable d'avoir une "estimation statistique" du résultat d'une telle mesure, mais sans mesurer effectivement la particule, nous sommes a priori incapable d'avoir son résultat exact tel qu'il aurait été "en vrai". C'est donc une simulation imparfaite qui approximatise certains mécanismes.
 

 
Ici, une solution au problème précédent est effectivement d'utiliser un "ordinateur quantique" pour effectuer ces mesures sur les particules quantiques "réelles", les remonter au niveau numérique et les recopier dans la simulation.
 
Mais on ne peut se passer de cette façon du "réel" pour fabriquer le "simulé".
 
[[  Ceci dit, mon exemple est peut-être mal choisi: on ne sait pas s'il y en a ou non, mais on peut supposer qu'il n'y a pas de processus quantiques en jeu dans l'émergence de la conscience: le fait que la conscience n'émerge a priori que dans les mécanismes macros complexes en est un bon indice. ]]
 
Autre point signalé par notre ami, on ne peut donc se passer du "réel" pour simuler quoi que ce soit: chaque "information numérique" a forcément un support matériel, que ce soit un complexe transistor, ou jusqu'a la position d'un atome.
 
Ce qui m'amène a ma question pour Gilga: une simulation ayant forcément un support matériel, qu'est ce qui empèches ce "support matériel" d'acquérir lui-même la conscience via ce biais?
 
Ce qui signifierais qu'un robot complexe simulant une conscience EST conscient, non pas parce qu'il simule une fausse conscience dans la partie numérique de stockage et traitement des informations (le soft), mais parce que le support matériel (le hard) simulant la conscience est si complexe, que la conscience en émerge alors. (et se sert ensuite des outils à sa disposition dans le soft pour interragir avec le'univers qui l'entoure)
 
Quelque part, le fonctionnement du cerveau humain est très proche (voire identique: on se fait nous aussi une image intérieure simulée du monde qui nous entoure via des informations transmises par tout un tas de nerfs), et ça rejoint ton postulat de la conscience, propriété de la matière.

En fait, j'aime beaucoup cette idée, car ça signifie quelque part qu'on se trompe quand on s'imagine que c'est le "soft" qui est conscient: l'information est juste de l'information, tout comme les algorythmes et le code: c'est le "hard" qui est conscient, et "vit" en utilisant ces outils.

Détruit le hard et tu "tue" le robot, même si tu as sauvegardé sa mémoire. Tu pourras toujours la recopier dans un autre robot, mais ça seras alors un autre robot qui utiliseras les mêmes "outils" que le précédent. Le premier resteras "mort", et tu auras été obligé de construire le second.

De cette façon, quand tu simules une conscience dans un réseau de super-ordinateurs, ce n'est pas à la simulation que tu "donnes vie", mais bien aux ordinateurs en train de ronronner dans la salle des serveurs: la conscience n'est finalement qu'un outil de la matière pour interragir avec son environnement.

C'est un concept interressant a creuser, je trouve.

Pour en revenir à "l'univers simulé", c'est donc tout a fait possible dans cette optique que l'on soit donc "simulés" ainsi que l'univers qui nous entoure, MAIS celà signifie aussi que notre simulation a forcément un "support matériel" qui est, lui, "vivant et conscient". Avec l'information et le code comme outil, le "hard" interragit avec son environnement (qui peut très bien, lui, être simulé par le hard lui-même)

Ca débouche évidemment sur tout un tas d'autres concepts (Gaïa, toute la matière est vivante, ect), mais ca parait finalement très logique et matérialiste: pas de considération métaphysiques en vue: contente-toi d'empécher le "hard" de fonctionner et la conscience s'arrete ^^

Remarquez qu'a partir du moment ou on considère les propriétés de la conscience comme intrinsèques à la matière, alors un zombie philosophique EST conscient, car composé des ces même éléments matériels ayant la propriété de conscience.

Conséquence également, un zombie philosophique simulé numériquement dans un super-ordinateur EST (indirectement) conscient, car le "hard" le simulant (les réseaux de neurones synthétiques) est encore une fois composé de cette "matière consciente". (le "Zombie philosophique" n'est dans ce cas que de l'information numérisée: mais l'ordinateur lui, prends conscience et se prends pour un zombie philosophique au travers de cette simulation)

Bon, ça nous explique toujours pas cette fameuse "propriété de vie et de conscience" de la matière que l'on a du mal a mettre le doigt dessus: on en reviens à la question: qu'est ce qui rends la matière "vivante" et "consciente" de façon si intrinsèque que la vie puis la conscience émerge d'un assemblage de matière suffisement complexe?