Reprise du message précédent :
 
 
Pas de souci, c'est définitivement terminé pour moi, l'ignore list est mon ami.

 
Et c'est exactement ce que toi et d'autres font avec SJW, mais en vrai.

Qu'est ce qui me fait dire quoi ? Que la volonté est impotente, ou que tout se passe comme si la volonté existait ?

Pan.

Que "tout se passe comme si" la volonté existait, et (que) c'est ça qui compte.
 
Si c'était vrai, on n'aurait pas autant de mal à faire de la sociologie ou de l'économie à portée prédictive performante, enfin à mon avis.

ça fait un petit moment que je n'utilise plus trop le terme (il me semble, suite à ton taunt de l'époque d'ailleurs, comme quoi, je peux aussi me remettre en cause parfois) mais j'accepte ce bash mérité.
d'ailleurs je crois que quelqu'un m'a traité de SJW sur égalité H/f assez récemment, comme quoi tout arrive.

Du coup je classe vos alertes respectives sans suite.  
Et Crousti pareil hein. On s'ignore cordialement, ici, ainsi que sur d'autres topic. Sinon je tape.

Bah parce que moi, par exemple, j'agis chaque jour comme si j'avais une volonté et du libre-arbitre, et que ça fonctionne. Et que quand je cherche à comprendre pourquoi ma copine ouvre le frigo, l'hypothèse que c'est parce qu'elle avait la volonté de prendre un verre de jus d'orange, ça marche tout à fait bien (et c'est cohérent avec tous les tests que je pourrais faire, notamment lui demander pourquoi elle a ouvert la porte du frigo).

Le problème c'est justement le passage à l'échelle supérieure, et prêter des équivalents de ces propriétés à des "groupes d'humains".

Mais c'est pas du tout ce qui est fait quand on fait une analyse corrélationnelle des phénomènes macro en vue d'essayer d'induire des lois qui peut être marchent pas trop mal, hein.

Ce qui marche très mal, c'est plutôt partir d'un agent, considérer qu'il a un libre arbitre (rationnel ?) et extrapoler sur les caractéristiques d'un gros ensemble d'agent.

Un truc qui me vient à l'esprit, là en écrivant ça, c'est que ce qui est peut-être le plus critiquable dans la sociologie gauchisante habituelle, c'est pas de ne pas partir des agents, c'est plutôt de faire des observations sur l'ensemble pour ensuite essayer de faire une théorie d'un type, disons, "structuraliste". Une volonté peut-être un peu absurde de chercher une cohérence d'ensemble, dans la théorie.

 
Je n'ai pas alerté Croustibat de mon côté, il me semble pas en tout cas.

Y avait des alertes dans tous les sens mêlant vos deux pseudos. J'ai pas bien fait gaffe en les mettant de côté.

Dans un contexte de topic sur les pouics dans lequel on cause depuis hier du determinisme à boire un jus d'orange
Enfin je crois, je vous ai perdu depuis ce matin

                                     Non mais moi je dis juste que c'est la méthode qui fait le scientifique !!!
                                                               /

Ca marche plutôt pas mal pour les simulations de foules dans les gares ou les simulation de traffic automobile, pourtant. Ou les simulations multi-agents en général. Et pour le coup, ça fait des prédictions, confrontables à la réalité, et ça marche.

Oui, enfin, parce qu'il y a une quantité d'informations à priori qui sont très sérieuses.

Et faire des algos pour bagnole autonome qui prédisent bien ce que vont faire les autres conducteurs humains sur le chemin, oublie, donc, bon, faut le dire vite, ton truc.

Puis, bon, le trafic est un problème d'écoulement.

Récemment, chuis tombé sur cet article vraiment pas mal:

https://arstechnica.com/science/201 [...] t=36157845

Pas si trivial que ça, une modélisation fine d'un trafic de particules, pourtant une particule est incommensurablement plus simple qu'un humain.

Je pense que si on veut parler de la modélisation du comportement ou des capacités humaines, il est à mon avis plus parlant d'évoquer le deep learning et la simulation de réseaux neuronaux, qui est une première approche serieuse dans la quête de l'IA surhumaine.

On arrive pas à modéliser la morale correctement. Donc on a encore BEAUCOUP de chemin.

 
tu fais référence à quoi ?

Un truc mis en avant par science4all dans un papier et une vidéo intéressante.  
En gros à chaque fois qu’on tente d’implémenter un truc qui ressemble à la morale humaine, l’IA va la « hacker » dans un sens complètement imprévu par l’humain. Un truc du genre.

j'ai un gros retard sur le contenu de cette chaine mais elle est vraiment top, j'hésite à acheter son bouquin à Lê, sur la bayesiannisme, ça a l'air velu.

Lis déjà son papier.  
Et ouais j’hésite aussi parce que ça a l’air bien bien chaud.

Y a plein de problèmes d'ordre éthiques et moraux, c'est clair, mais y a aussi et surtout que même un robot immoral qui a un comportement un tant soit peu intelligent on sait absolument pas faire.

Même avec des humains on galère, déjà.

On ne peut pas modéliser la morale. Pas parce que les règles et les situations sont très compliqué à decrire mais parce qu'un acte moral qui ne s'accompagne pas de la conscience de faire bien ou mal n'a rien à voir avec un acte moral.

On ne peut pas être moral sans le savoir.

On peut pas décrire le bien et le mal par des fonctions de cout ?
 
L'"evolutionary morality", c'est un truc de darwiniens, il me semble, non ?

Pas faux.  

Bah écoutent les mecs planchent sur ça en tout cas.

Par contre on peut tenter de modéliser un comportement dont les choix/actes seraient toujours en accord avec la morale humaine ?
J'ai l'impression que c'est juste un problème de vocabulaire/tournure de phrase.

On peut décrire éventuellement les éléments rationnels qui sont pris en compte par le sujet moral et faire des algo astucieux qui aboutissent à la même prise de décision. Mais si ça ne s'accompagne du sentiment interne issu de la conscience réflexive je ne vois pas comment on peut parler d'acte moral.

On le conditionne à respecter des règles sans possibilité de les violer en quelque sorte ?

Oui et c'est intéressant. Mais ils ne manipulent que des symboles pas un sentiment. La machine ne sera morale que si elle le ressent. Et c'est probablement pas pour demain.

Il ne s'agit pas de parler d'un acte moral, mais de faire un robot qui ressemble à un humain.
 
Et, de mon point de vue, quand bien même.

Tu peux très bien implémenter une logique floue pour que la machine soit capable de décisions immorale c'est pas le problème. Si elle n'a pas conscience d'exister et d'agir on ne parle pas de la même chose. Ce n'est ni moral ni immoral. Un caillou qui tombe et t'écrase la tête en montagne ou un super algo qui décide de te trucider à la suite de milliard de calculs c'est neutre moralement.

Ah mais clairement je suis d’accord. Comme dans l’apprentissage. Un robot apprend parce que on lui dit. Un enfant c’est autre chose.

Encore une fois je suis d’accord.

Julien Sorel ressemble vachement à un être humain. Mais c'est un personnage de roman pas un être moral qu'on pourrait par exemple traîner devant un tribunal pour un acte qu'il aurait commis.

C'est un bon test, tiens. Pour savoir si c'est une entité morale, à l'instar du test de Turing il faudrait se demander si ça a un sens de le juger dans un tribunal. Pas ses auteurs bien sûr. L'entité elle même. Tant que c'est non, ce n'est pas un être moral.

Donc, cette entité, il s'agirait de décider si elle a une conscience ou non, pour savoir si elle mérite un jugement de la justice, quand elle a fait une connerie, en gros ?
Si on décide qu'elle n'en a pas, on la détruit ?
 
Comment les humains feront pour prendre cette décision ? La leur propre est indétectable, de conscience, si elle existe, enfin en tout cas je ne vois pas de test évident.

C'est un classique de la sf ça
Je pense à Appleseed notamment qui aborde complètement l'aspect morale des choses qui plus est.

Eh bien je te répondrais comme le juge de la Cours Suprême américaine à qui on demandait sur quoi il se baserait pour décider si quelque chose est érotique ou pornographique. Je ne peux pas donner des critères nets et précis pour décider que c'est l'un ou l'autre, mais montrez moi cette chose et je vous dirais ce que c'est.

La différenciation risque d'être aussi floue et sujette à interprétation quand on sera au bord de la conscience. De même qu'on peine à décider si un homard à une conscience et s'il ressent la douleur quand on le plonge dans l'eau bouillante. En revanche on n'a plus aucune peine à décider pour un mammifère ou un poulpe.

C'est pour ça que je fais le parallèle avec le test de Turing. Celui ci ne donne aucun critère analytique pour distinguer un réponse automatique d'une réponse consciente. Il dit simplement que si on n'arrive pas à distinguer la machine de l'homme par ses réponses alors on va considérer que c'est pareil.

Ceci dit le véritable critère c'est pas le passage du test mais bien l'existence d'une conscience réflexive. Le test c'est juste une observable commode pour juger d'une réalité inobservable en soi.

Oui enfin là on parlait de modélisation de groupes de gens, le deep-learning, c'est encore autre chose (bien qu'on puisse apprendre à un réseaux de neurones à modéliser des foules).

Le truc fascinant c'était l'algo capable de détecter l'homosexualité sur simple photo du visage dans une cohorte d'étudiants.

Modéliser, ça veut bien dire qu'on cherche à produire un truc qui fait comme si. Il me semble que si, on peut modéliser la morale, même si le truc n'aura aucune conscience, le principe est de lui donner des axiomes moraux avec des coûts (ou lui faire apprendre par des exemples), et de le laisser se débrouiller avec les calculs pour que le choix qui en résulte soit le meilleur possible aux yeux de notre morale. C'est par exemple la question de la façon de gérer un accident inévitable pour une voiture autonome qui doit ""choisir"" entre tuer son conducteur en se jetant dans le ravin pour éviter le groupe d'enfant qui vient de traverser n'importe comment ou écraser les enfants et sauver le conducteur.

La machine ne sera évidemment pas morale, mais elle fera des choix qui auraient été jugés comme moralement bons si faits par des humains. C'est ça le but.