Reprise du message précédent :

 
Désolé, mais je suis un peu hermétique à l'argument "c'est clair".
Un programme, c'est un ensemble d'instructions, alors, évidemment, le cerveau est très loin de fonctionner comme l'ordinateur que tu es en train d'utiliser, mais là n'est pas la question. La question est : en quoi ce que fait le cerveau est-il intrinsèquement "vraiment intelligent", et qu'est-ce qui le distingue d'une bête machine à effectuer des opérations ?
Le fait que ces opérations soient réalisées chimiquement ? Qu'elles se déroulent en parrallèle ? Qu'elles soient extrêmement nombreuses ?
Qu'est-ce qui, là dedans, ne serait en théorie pas simulable ?
 
J'ai envie de dire : rien.
 

 
Ca dépend ce que tu entends par raisonnement...en fait, je ne sais pas trop ce que tu entends par raisonnement.
Etre conscient de son existence, n'est-ce pas en partie être capable de raisonner en prenant en compte sa propre existence ?

J'allais dire exactement la même chose !  

 
Eh bien je te laisse réfléchir à ça. Avec un peu de chance, tu te rendras compte qu'il y a effectivement quelque chose qui cloche... Partant de là, t'as plusieurs solutions :  
 
1) On en sait rien.
2) Dieu existe.
3) Tout est illusoire.
etc...

 
A aucun moment je n'ai parlé d'intelligence.
 
Je ne parle que de conscience. Être conscient, c'est avant tout être conscient qu'on est conscient.
 
En clair, c'est être conscient de sa conscience qui elle-même nous permet d'être conscient qu'on a une conscience.
 
C'est le principe des mirroirs qu'on place l'un en face de l'autre et qui donne l'illusion de l'infini.
 

 
Je ne faisais que répondre à ton post, dans lequel tu affirmais que consience de soi et raisonnement n'avaient aucun rapport...
Je ne prétends pas, loin de moi cette idée, être capable de définir la conscience de soi.

 
En fait je répondais un peu à toi, et un peu à Ben_be, qui avait fait un post assez similaire juste au dessus   .
 
Enfin, ce que tu décris, c'est de la récusivité. Cela a beau donner le vertige, ça reste tout de même dérécursivable.
Et simulable.

 
C'est également ce que l'on fait au niveau moléculaire, pourtant tu as une conscience

Oui, mais comme je l'ai dit dans le poste suivant et l'a mieux expliqué ensuite Hermes, je veux dire que c'est quand même d'un bien autre niveau que ce que l'on connait en informatique actuellement.
La complexité des réactions que l'on effectue lorsque l'on fait un choix rend celà très très différent de ce que font les machines. Ca ne sera peut être plus le cas dans qqs miliers d'années, mais bon

 
Là tu te lance dans la réthorique de la destiné humaine, encore une fois cela touche à la religion.

Une réelle intelligence artificielle permet à la machine de se débrouiller dans n'importe quel problème qui lui est posé. Sans que le cheminement à suivre lui soit donné.  
 
Mais même si il trouve lui même le cheminement, la manière de le trouver aura quand même étée donnée par l'homme. Car si on ne dit pas à la machine comment faire. Elle reste là à rien faire.  
 
Ou les programmes qui apprennent tout seul. (par ex le jeux d'échec qui enregistre toutes les parties q'il a joué. Au début il est nul, mais plus il a perdu mieux il sait jouer.) La base de ce qu'il devait faire a quand même étée décrite par l'homme.  
 
Donc n'importe quelle intelligence artificiel reste qu'un programme qui à été conçu par l'homme, mais en laissant au programme une marche à suivre pour les cas non-prévu.
 
Il me semble que c'est assez logique.  
 

 
Non.
 
(j'essaie d'argumenter moins que toi, mais c'est dur)

 
L'évolution a fait de même pour l'homme...

 
Oui mais que ce passe-t-il si on arrive à créer bêtement une machine qui possède les même principes de fonctionnement élémentaire qu'un cerveau et qu'on le laisse mouliner gentillement ?
 
Je ne sais pas modeliser la chute d'un milliard de balle de tennis mais si j'arrive à modeliser la chute d'une seule balle et son interraction avec les autres, j'ai envie de croire que c'est à la portée d'un traitement informatique non ?
 
La réponse c'est magique/ y'a forcement Dieu derrière tout ça n'est pas accepté mais j'ai peur que la simple évocation de mouvement brownien foute mon raisonnement en l'air
 

Le mouvement n'a rien d'aléatoire et d'imprévisible au niveau le plus élémentaire. Mais cette discussion sur le déterminisme, la prévisibilité, et tout ça a déjà eu lieu en long en large et en travers sur le topic du libre-arbitre

 
Non, la demonstration n'est pas convaincante: les organismes vivants ont aussi un programme a suivre, survivre; ce qui genere dans le cas de l'homme des envies et besoins primaires: boire, manger, dormir et se reproduire etc. Enleve a un animal le besoin de survire et il va rester la, a rien faire et va se laisser mourrir.
Ont peut aussi dire que la code ADN est une sorte de programme d'un etre vivant.
 
D'ailleur l'informatique s'est inspiré de la theorie de l'evolution avec les algortithmes genetiques: population de programmes qui evoluent tout seuls au fil des generations, et qui ont aussi pour mission de "survirve" (par exemple dans le cas du jeu d'echec, survire c'est gagner la partie)
 
Perso je ne vois pas en quoi l'esprit humain ne serait pas simulable dans un futur assez "proche" (plusieurs siecles ou millenaires, une broutille a l'echelle de la planete)
D'ici la rien ne dit que les "processeurs" restent confinés a leur forme actuel. Pour faire fonctionner des reseaux de neurones ils faudraient qu'ils evoluent vers une architecture radicalement differente mais tout a fait a notre porté.

 
Je ne comprendrai décidément jamais pourquoi autant de monde confond architecture logicielle de la simulation et architecture matérielle : ce n'est pas parce qu'on simule des réseaux de neurones qu'on doit utiliser comme support matériel pour cette simulation qq chose qui se rapproche des neurones, de classiques processeurs feront très bien l'affaire

 
Je suis d'accord avec toi je me suis mal exprimé, on peut tout a fait faire fonctionner n'importe quel algorithm sur n'importe quel processeur, du moment qu'il fourni un jeu d'instruction complet (c'est a dire qu'il permet de reecrire n'importe quel algorithm en langage processeur)
Je voulais juste dire que point de vue performance il faudra envisager de mettre au point des processeurs dediés pour faire fonctionner efficacement des reseaux de neurones. Sinon on attend (beaucoup) plus longtemps et on utilise un processeur classique.
 
Le cerveau humain, d'autant qu'on le sache, effectue assez lentemment (~ 100 hz) de tres nombreuses "operations" simultanées (des milliard) et surtout sa "memoire de travail" est intimement liée et interconnectée avec ses unites de "calculs" (neurones, synapses etc.)
ce qui est tres different d'un ordinateur classique, qui effectue tres peu d'operations simultanées mais tres souvent (Ghz) et donc le processeur est dissocié de la memoire.
Mais je confirme on peut (et on le fait deja, moi par exemple) faire fonctionner des reseaux de neurones, des algorithmes genetiques ou tout autre programme d'AI sur un processeur classique d'ordinateur.

Mon avis personnel ( pour ceux que ça interresse lol ) est que nous n'arriverons JAMAIS a reproduire une véritable conscience humaine (du moins pas avec les concept scientifiques actuels ).  
 
Je vois très mal des machines avoir de débats philosophiques, troller sur les forums hfr, avoir de la répartie, s'aimer, etre lunatique, malade mental et ces MILLIARD de choses qui composent notre existence.
 
Nous sommes le produit de plusieurs milliers d'années d'évolution et a ce titre les variables sont trop nombreuses pour etre reproduites, meme avec des super ordinateurs.
 

tout à fait, mais on parle d'une machine, pas un être vivant. on ne peut s'attendre qu'a une simulation de conscience de soi et d'interaction avec d'autres. l'humain, et l'animal évolué en général, est social et possède une série de paramètres, variables d'un individu à l'autre. recherche ou évitement de présence d'autre congénaires, soumission ou rébellion, agressivité ou conciliation, altruisme ou égoisme, conscience de la hierarchie, évaluation des paramètres des autres membres individuellement, etc.  
 
ces paramètres de la vie sociale sont assez faciles à simuler tant qu'il ne s'agit que de répondre à deux questions : en cas de modification quelconque de l'environnement vivant (ou pas), faut-il bouger ou pas? s'il faut bouger, que faut-il faire? les attitudes possibles sont peu nombreuses et facile à programmer : fuir, faire face et menacer de se battre, adopter un comportement visiblement pacifique et sociable, manger, baiser, dormir, etc. (pour un chien: si ça se mange ou se baise pas, pisse dessus ). le comportement choisit dépend des paramètres, de la compréhension de la volonté du groupe, de l'importance de s'y soumettre dans l'intéret du groupe donc de soi ou de l'avantage de devenir dominant, etc. pour un humain c'est un choix stratégique qui parait donner les meilleures chances parmi la palette "acceptable".
les sentiments ou l'affectivité n'est qu'une attitude sociale (protection de soi ou des petits ou des membres du groupe), un paramètre. il "suffit" de pondérer le tout pour obtenir une personnalité assez complexe
un scientifique en science sociale devrait obtenir rapidement de bons résultats, disons du niveau d'un mamifère pas trop futé  
l'intelligence n'est qu'une capacité à se souvenir et avoir des idées, donc seulement un problème de volume de mémoire + la capacité d'analyse donc une question de perception et de filtrage des infos utiles donc finalement de calcul pur. la capacité d'apprentissage est surtout la capacité de se souvenir de la bonne gamme de réactions souhaitables en fonction de la situation
 
la bonne question à se poser est :  
quelle gamme de personnalité veut-on donner aux robots? et quelle latitude de variation individuelle peut-on leur laisser?
un statut d'esclave permanent et absolu? mais ce n'est pas compatible avec intelligence et conscience de soi...
à partir du moment où ils ont une conscience d'eux-même et des autres, et que ce "soi-même" est une série de paramètres préprogrammés, ils peuvent mettre en place un double système de valeur, un pour les humains et un "intérieur", éventuellement très différent. un napoléon robot, capable de cacher son jeu jusqu'au moment de prendre le pouvoir sans coup férir... exactement comme des esclaves humains peuvent se révolter, ou insidieusement capter la confiance et imposer leur autorité

Internet est-il une conscience ?

pour avoir une conscence il faut la notion de bien et de mal, relativement simple à définir, par exemple "tout ce qui favorise la vie humaine est bien, tout ce qui contrarie la vie ou un besoin fondamental de l'humain est mal". mais c'est loin d'ête universel, et là les ennuis commencent  

C'est le neurone devant son PC qui vois le Bien et le Mal.

oui, si on parle d'un humain, qui a ses valeurs personnelles, mais on pourait concevoir un robot capable de simuler une conscience, il suffit de lui donner les paramètres "bien" et "mal". reste à les définir... quoiqu'on pourrait définir plusieurs profils simultanés, en fonction des religions par exemple. c'est ce que font naturellement les personnes qui vivent dans des cultures différentes (famille - voisin/quartier - boulot par exemple)

Je crois que c'est loin d'etre possible. Les machines font betement ce à quoi elles sont dédiés. Elles ne remettent rien en question. Or, c'est un des fondements de la conscience.

 
Réfléchis juste un peu plus loin : tes neurones font bêtement ce à quoi ils sont dédiés, ils ne remettent rien en question

nous sommes pré-programmés par notre éducation et l'entourage, il y a toutefois moyen de changer de stratégie mais surtout en cas de "catastrophe" personnelle, et pas dans une mesure très importante dans l'ensemble
la conscience d'un humain est très complexe, pour un robot il suffirait d'une conscience du niveau d'un chien par exemple
pour un humain les règles pour être socialement heureux sont assez simple

mais on imagine mal un robot être susceptible et avoir la possibilité de refuser de coopérer. il leur faut une conscience limitée, qui ne leur permette pas, par exemple, de comprendre qu'ils sont perdants quand nous sommes gagnants

 
Peut-être ... mais le cerveau n'est PAS numérique, ni même complètement analogique. Bref, le cerveau est peut-être un programme (j'en doute très franchement ... cela étant je ne connais pas la définition précise d'un programme) mais il ne fonctionne certainement pas sur le mode if/then/else.  
 
j'ajoute que je suis cependant d'accord avec la remarque de je-ne-sais-plus qui sur le fait qu'on peut très bien MODELISER un certain type de structures physiques à l'aide d'une machiine qui n'a absolument PAS la même structure physique (exemples : réseaux de neuronne, simulations en tout genre, etc ... on peut parfaitement simuler de l'analogique avec du numérique).  
 

 
Désaccord total : l'évolution n'a pas de FINALITE. Il n'y a PAS de programme "survivre" ... il y a seulement des organismes inadaptés à un environnement donné, qui meurent, et qui par conséquent ne se reproduisent pas.  

On peut modéliser de l'analogique sur des systèmes numériques, et vice-vers-ça

 
N'exagerons rien, hein

Les algorithmes de reseaux de neurones artificiels ne fonctionnent pas non plus sur le if / then / else comme tu dis.
Je ne sais pas ou en sont tes connaissances en intelligence artificielle mais on est tres loin du simple test  
 
Il ne s'agit pas d'essayer d'imiter la prise de decision humaine avec ce genre de mechanisme (si.. alors prendre telle decision) mais de simuler le fonctionnement d'un groupe de neurone au plus bas niveaux. Om imite l'architecture du vivant vu a petite echelle en esperant obtenir des resultats similaires vue a grande echelle et ca fonctionne assez bien pour des taches cognitives simples (apprentissage, reconnaissance d'image ou de son)
 
Sinon ca veut dire quoi cette remarque sur le cerveau pas numerique ou analogique? quelle importance ?
La musique aussi est analogique ca n'empeche pas de la stocker, traiter et produire avec des donnees numeriques.
Fondamentalement y'a rien hors de portee d'un "programme d'ordinateur" c'est juste la puissance qui manque et la connaissance du cerveau humain.
C'est un probleme quantitatif, pas qualitatif.
 

 
 
Y'a pas de desacord, c'est exactement ce que j'entends, d'ou les guillemets autour de "survivre".
Un etre vivant (ou un programme d'algo genetique) fait ce que son code (genetique) lui dit de faire; si il est adapté a son environnement il survit et l'espece se multiple sinon il meurt et l'espece disparait.
Au fil des generations les caracteristiques genetiques qui developpent des comportements adaptés a l'environnement sont ainsi selectionnées naturellement.

 
Question naïve (je n'y connais rien) : l'environnement en question dans le cas des algo génétiques est imposé par l'utilisateur (ou les données à traiter) en fonction de ses besoins ? L'informaticien (oul'utilisatuer) agit sur l'environnement plutôt que sur le programme lui-même, c'est ça ?
 
Ma remarque sur le numérique et l'analogique visait juste à insister sur le fait qu'il m'apparait illusoir de penser que le cerveau est un gros ordinateur (je pense que c'est un point de vue réductionniste). Peut-être me trompe-je ...  
 
Sur les réseaux de neuronnes je n'y connais pas grand chose : j'avais discutté avec un thésard qui bossait là-dessus et j'étais sorti de la discussion convaincu qu'il faisait de la physique statistique sans le savoir (chacun interprète la discipline des autres sous le regard hégémonique de la sienne !) ... il avait essayé de m'expliquer que son réseaux de neuronnes rêvait (ce qui m'avait rendu assez sceptique sur son sérieux ... il observait simplement un phénomène un peu étrange d'un système dynamique contraint qui continue pe"ndant quelques temps à reproduire la réponse à la contrainte une fois celle-ci disparue).

 
Bof, un réseau de neurones, c'est bêtement une boite à apprendre des corrélations, et encore plus bêtement, une boite à déterminer une courbe contenant n points donnés : en gros tu lui donnes des entrées et les sorties qui correspondent, et il te trouve une sorte de courbe (au sens large, pas forcément 1D) qui passe par tous les points donnés (ça se fait via uniquement un changement de poids des différentes connexions entre neurones pour faire correspondre les entrées aux sorties). Donc ensuite, quand tu lui redonnes les entrées qu'il a déjà connues, il sort les bonnes réponses, et, si tu as de la chance, et que ce que tu cherches à lui faire apprendre a un minimum de cohérence (bref, si la courbe associée ne varie pas trop vite), si tu lui donnes de nouvelles entrées, il te sort des réponses potables. Bref, c'est tout couillon, et ya rien de magique, sûrement pas du "rêve"
 
Pour les algogen, c'est tout con aussi : c'est juste une autre forme d'apprentissage qui permet de s'adapter au fil du temps aux changements du milieu et de se "souvenir" d'anciennes solutions stables. C'est une façon de trouver des maximums locaux dans une courbe (sur une courbe qui fait correspondre une "note" d'adaptation au génome (dans l'espace des génomes possibles)), à partir de qq individus (qq génomes) qui vont, par évolution, parcourir cette courbe et trouver des maximums locaux. Même si la courbe évolue avec le temps, l'algo évoluera lui aussi et trouvera toujours des maximums locaux.
 
Voilà voilà ce qui reste de mes souvenirs...
 
Je peux encore détailler un peu plus, au besoin

 
En même temps, le mec a pas dû passer tout sa thèse en étudiant un bête perceptron, il a dû rajouter des subtilités du genre bouclage, ou codage temporel ou que sais-je encore, car un réseau de neurones bête et méchant ne permettra jamais d'observer de sortie résiduelle une fois l'entrée fixée, c'est une simple fonction en fait, on est d'accord.
 
Damien99 : Tu enfonces un peu des portes ouvertes, bien sûr que le cerveau n'est pas un ordinateur, dans le sens courant du terme.
Mais la question originelle était : qu'est-ce qui distinguerait le cerveau humain d'une machine fournissant exactement les mêmes sorties pour de mêmes entrées, sans se préocuper de se qui se passe à l'intérieur ?
La question est donc ensuite devenue : en quoi le cerveau est-il différent d'une machine à effectuer des 'opérations', certes non binaires, certes nombreuses, mais au final, de vulgaires réactions chimiques... ?
La question s'est au final transformée en : qu'est-ce qui, dans le cerveau humain, n'est pas simulable, en un temps suffisamment long ?
 
Et la réponse semble s'être établie sur : 'rien'.

Merci à Herbert pour ses explications.  
 
@ ION :  
- j'enfonce probablement des portes ouvertes, mais je n'étais pas certain que tout le monde soit d'accord sur ce point.  
- effectivement, si la question c'est "qu'est-ce qui, dans le cerveau humain, n'est pas simulable, en un temps suffisamment long ?", la réponse est "rien en théorie". J'ai bon ?  ;-)

je ne comprend pas pourquoi tout le monde veur recréer un cerveau humain? même en ne regardant que ses réactions de l'extérieur
nous avons un cerveau de prédateur, qui fonctionne idéalement pour tirer parti de la moindre ressource disponible dans l'intéret de notre survie, tant à titre individuel que collectif, je ne vois vraiment pas l'intéret pour un robot d'obtenir ce type de comportement. surtout que nous deviendrions concurrents...  
 
il serait relativement simple de créer un robot virtuel qui soit un "copain parfait" pour un enfant, en partant des sciences sociales et de la psychologie. un genre de tamogoshi qui parle comme une personne  
gai ou sérieux selon les circonstances, connaissance infinie sur tout grace a wiki et des encyclo en ligne, honnète et entiérement dévoué, toujours de bonne humeur, etc
 
il existe un script qui permet de trouver un mot auquel on pense en 30 questions environ, il existe des scripts "de discussion", il n'est pas inpensable de développer le tout pour créer un "savant-copain de poche" un peu réaliste

Quelqu'un a cité La Conscience Expliquée de Daniel Dennett ?
 
Nan, parce que si personne ne l'a fait, je le fais, hein
 
Beaucoup d'idée reçues (préconçues ? préprogrammées) qu'on a sur notre conscience y sont consciencieusement débusquées.
 
En particulier :
La conscience n'est pas une réflexion infinie (j'ai coscience que j'ai conscience etc.), mais la conviction de cette réflexion.
 
Egalement, la conscience n'est pas conscience de soi, mais conscience d'un soi, à qui l'on attribut la confection de cette conscience.

 
Et c'est quoi la "conviction" d'après toi ?    
 
Ensuite il est bien gentil Daniel Dennett, mais ce qu'il dit ne s'appuie sur aucune preuve scientifique. Déjà comprendre la conscience tout en restant à l'intérieur, ça me semble un pari perdu. Tant qu'on aura pas une connaissance parfaite du cerveau et de ses mécanisme, personne ne pourra prétendre expliquer la conscience, en tous cas pas mieux que Kant ou Descartes.

 
Tu n'as visiblement pas lu le bouquin en question. Tu devrais, vraiment, puisque le sujet semble te passioner.

 
Je vais le lire. Je ne dis pas que c'est forcément inintéressant. Je dis juste que sans une connaissance parfaite des mécanismes sur le plan cérébral, on pourra tout dire et son contraire. La conscience, c'est quand même la base de tout et particulièrement ce sur quoi l'on s'appuie pour expliquer le monde, les choses etc... Expliquer la conscience elle-même, c'est bcp plus difficile que d'expliquer pour quoi telle ou telle partie du cerveau entre en jeu pour bouger le petit doigt.
 
On est très très très loin d'expliquer la conscience (j'entend scientifiquement). Il n'est même pas certain que cela ait un rapport direct avec une activité cérébrale particulière. Même ça, ça reste à prouver (contrairement au calcul, à l'imagination ou tout un tas de trucs où l'on sait que ça dépend de telle ou telle zone du cerveau).

Je ne vois pas ce qui separe fondamentalement la conscience d'une autre activite cerebrale: une sensation, un sentiment ou une idee ?
A mon avis il n'y a rien de magique dans le fonctionnement cerebral et dans la 'conscience', c'est un ensemble d'activites electriques et chimiques tres complexe, alimentés par des perceptions sensorielles et formant un ensemble doué de capacites cognitives.
Et il y a une difference fondamentale entre dire que c'est tres complexe sur le plan pratique ou que c'est theoriquement inaccessible a la comprehension.
 
Une question interessante c'est de savoir si les animaux eprouvent une conscience ? (et j'utilise le verbre eprouver pour bien signifier qu'a mon avis c'est simplement un sentiment)
La conscience nait-elle du language ?

 
Oui et de manière certaine maintenant (pour certains grands signes particulièrement les oran-outangs).
 
Maintenant, quand tu compares la "conscience" à un sentiment... C'est la base sur laquelle s'appuie toute pensée ou tout sentiment. Sans conscience, tu n'es tout simplement pas vivant, tu n'es qu'un robot effectuant des actions instinctives en vue de simplement survivre.