Reprise du message précédent :

Modéliser, ça veut bien dire qu'on cherche à produire un truc qui fait comme si. Il me semble que si, on peut modéliser la morale, même si le truc n'aura aucune conscience, le principe est de lui donner des axiomes moraux avec des coûts (ou lui faire apprendre par des exemples), et de le laisser se débrouiller avec les calculs pour que le choix qui en résulte soit le meilleur possible aux yeux de notre morale. C'est par exemple la question de la façon de gérer un accident inévitable pour une voiture autonome qui doit ""choisir"" entre tuer son conducteur en se jetant dans le ravin pour éviter le groupe d'enfant qui vient de traverser n'importe comment ou écraser les enfants et sauver le conducteur.

La machine ne sera évidemment pas morale, mais elle fera des choix qui auraient été jugés comme moralement bons si faits par des humains. C'est ça le but.

Les mecs vous vous rendez compte qu'on va arriver au point ou vxv va debarquer pour dire que puisqu' on peut pas simuler la morale c'est bien que c'est Dieu qui l'a fait, et le topic va partir en sucette ?

Non parce que là ça sera vraiment HS, alors que là c'est HS mais un peu intéressant quand même.

 
Oui mais si son conducteur est un éminent cancérologue sur le point de découvrir le vaccin universel contre le cancer ? Et si parmi les enfants, elle détecte un potentiel Hitler ?

Modéliser la morale, mais c'est une chose parfaitement culturelle, la morale, elle n'est pas universelle. Les anciens rituels antropophagiques, les coupeurs de têtes de Bornéo, les pendaisons moyenâgeuses des cochons qui dévoraient les nourrissons, c'est le regard moderne qui condamne ces pratiques d'hier, pas celui de ceux qui pratiquaient consciemment. Demain, on condamnera peut-être la banque mondiale ou les industries pétrochimiques d'un point de vue moral. Alors parler de mettre la morale en équation, rigole un peu.

 
1) Il suffit de faire un backup de son cerveau juste avant le crash, au moins les données ne seront pas perdues.
2) Dans ce cas il faut surtout faire le forcing pour l'accepter à l'école des beaux-arts locales même si il est aussi nul en dessin que moi.

 
La morale non vu que ça n'existe pas. Une morale par contre, je ne vois pas pourquoi ce serait infaisable.

l'école des beaux-arts locale ou l'école des beaux-arts locaux ?

 
Voilà, c'est ok, mais c'est insatisfaisant.

 
 
Faudra juste leur programmer un petit alzheimer pour qu'ils oublient l'ancienne morale et apprennent la nouvelle.    
 
(pour les cochons, pas besoin de remonter si loin, les américains ont fait de même avec un éléphant il y a un siècle ( à une vache près ) )

De toute façon, les machines qui décident à ma place, je les encule depuis Windows 10.

C'était juste ça mon propos

Je ne vous pas l'opposition entre la mettre en équation et le fait qu'elle évolue. Si elle change, on change le modèle et on mets à jour les robots, je ne vois pas le souci.

Oui mais il me semble que tu étais intervenu parce que tu avais l'impression que quelqu'un disait que la machine serait morale, je n'ai vu personne dire ça.

Disons qu'il existe un flou congénital dans le notion d'IA qui à mon sens brouille le débat. Et c'est encore plus criant quand on parle de morale.

J'ai tendance à dire que dans le terme IA, le mot "intelligence" est sacrément usurpé.
 
Ca reste de grosses machines de résolution, incapable d'apprendre autre chose que ce qu'elles ont été programmé pour. "L'éveil des IA", qui correspondrait à une IA capable de sortir de ce déterminisme, est d'ailleurs pour certains une grosse crainte, la ou d'autres le considèrent comme un énorme fantasme.

C'est juste des grosses stats c'est tout.

Ce qui est fascinant par contre c'est le machine learning.
On pourrait imaginer que l'intelligence simulée le soit suffisement bien pour qu'on puisse plus faire la difference.

On a pas déjà testé de faire "redécouvrir" à un bidule de machine learning des théorèmes qu'on connaissait déjà ?

Ca n'a pas changé justement dernièrement avec le deep learning ? Il n'est maintenant plus utile que le programmeur indique explicitement tout ce que la machine doit savoir ni comment elle doit prendre telle ou telle décision.
D'autre part, ne surestime-t-on pas notre "intelligence" ? Notre cerveau reste qu'une vulgaire machine chimique sans âme.

Et la glande pinéale alors ?

La partie créativité est aussi impressionnante. Il y a 5 ans, beaucoup pensaient que ça resterait l’apanage de l'humain. Finalement aujourd'hui on s'en sert aussi pour proposer de nouveaux designs, et non juste les reconnaître ou les optimiser. Forcément c'est le résultat de l'apprentissage (comme notre créativité), mais ça reste très impressionnant.

je lui coupe le jus et je vais becqueter mes frites, je suis moins con par essence.

Elle reste factice, quelque part. Le but du jeu reste de donner des paramètres en entrée et d'avoir un résultat en sortie. y'a que le processus entre les deux qui change (on laisse l'ordi faire autant d'essais que nécessaires jusqu'à un résultat satisfaisant).
Par exemple pour faire piloter une bagnole sur un circuit en simulation, l'IA va se manger des murs des centaines de milliers de fois jusqu'à capter la bonne trajectoire.
Le résultat est presque purement heuristique et surtout, il n'y a rien de "personnel", c'est que du trial & error.

 
il y a eu "une avancée", on s'est rendu compte que la machine pouvait mieux apprendre a resoudre le probleme mathématique posé en lui faisant faire des erreurs, en gros.
 
mais au final la machine ne fait que reproduire ce qu'on lui a dit de faire, avec plus ou moins de succes. La difficulté principale en IA, comme en prog classique, étant d'exprimer pleinement ce qu'on veut que la machine fasse, sans laisser la moindre faille possible d'interprétation.

Du coup dans the wire quand on voit mc nulty se manger le pont plusieurs fois avec sa bagnole on peut penser que c'est une IA ?  

Justement non, en machine learning, on ne dit pas à la machine quoi faire en détail, on lui donne une note (ou elle se la donne elle même) en fonction de son résultat et elle cherche à améliorer, c'est elle qui se débrouille pour trouver "comment faire". Jeu de go, apprentissage de la méthode de marche optimale pour un robot à 6 pattes, reconnaissance d'images... Rien n'est programmé "explicitement".

 
D'un autre côté, ce n'est pas très différent pour un môme qui apprend à marcher / courir d'après mes observations.
Les murs s'en souviennent encore (les draps aussi, mais c'est pour un autre apprentissage ).

J'ai pas vu, ça à l'air chiant comme série
Mais non parce que derrière y'a quand même un minimum de réflexion. Dans le machine learning la machine réfléchit pas, elle fait juste varier des paramètres jusqu'à trouver les bons.
Ptet que si on arrive à faire comprendre à la machine la notion de survie, elle sera plus prudente. Mais on aura inventé Skynet

Tu passes à côté d'un monument, qui, te connaissant te plairait surement. Mais soit je comprends.  
 
Et c'était plus une blague qu'autre chose en fait.

C'est ce que je me disais aussi.
D'ailleurs à lire certaine phrase, je me suis repris à les relire pour savoir si l'on parlait du cerveau d'un enfant qui apprend ou d'une IA. Troublant.
Qu'est-ce qui nous différencie d'une IA ? Qu'est-ce qui nous permet d'être sûr qu'on en est pas une ? Ha, il me semble qu'il y a un autre topic pour ça

On est pas là pour faire des blague. On est là pour faire de la SCIENCE.

C'est pas ça l'avancée, les principes des réseaux de neurones (et de l'apprentissage par essai erreur), ça date des années 50.

C'est surtout l'augmentation des capacités de calcul qui a permis de mettre en place des réseaux de neurones "profonds" (avec de nombreuses couches de convolution), et surtout de faire de l'apprentissage sur des bases de données très grandes (des centaines de milliers d'exemples) en un temps raisonnable.

Pfffff...
 
https://mobile.lemonde.fr/sante/art [...] 6YIrraB41o
 
Florilège :
 

 
Je n'y connais pas grand chose, mais il y a quelque chose qui me tulupine dans vos échanges.
Est-ce qu'on est sur que le cerveau fait radicalement autrement ? si oui, comment le sait-on ?
j'ai l'impression que vous créez une sorte "d'âme" inaccessible à l'ia.
 
Autant pour les ia d'aujourd'hui, je vous suis. Pour celles de demain, j'ai des gros doutes sur la validité de vos arguments.

                                      C'est une farce. Tout n'est qu'une farce
                                                             /

Benjamin Bayart, même si c'est pas un expert sur le sujet, prend un exemple assez parlant selon moi.  
"Quand un bébé apprend une langue, c'est du mimétisme, et c'est pour faire plaisir à ses parents, pour avoir une reconnaissance, du bonheur, appelle ça comme tu veux. Quand une IA apprend c'est parce qu'on lui a dit."
En gros.

Chez le bébé, l’entièreté de ses ressources ne vont pas que là, le machin c'est une boule de cellules en effervescences qui évoluent toutes en parallèle tout en s’imprégnant comme une éponge du monde qui l'entoure. En cela, c'est très différent.
Mais oui, la croissance d'un bébé est très mécanique, et très prévisible.

 
Et le "faire plaisir à ses parents" ,n'est pas lui même une forme d'automatisme avancé, préprogrammé en quelque sorte ?
 
 
 
Le nombre de neurones en jeu n'est pas le même et d'un paquet d'ordres de grandeur. Si tu mets plusieurs milliards d'ia actuelles en parallèle, elles vont aussi pouvoir faire plusieurs bricoles en même temps, je pense.

Aucune idée.

Le machine-learning, ce n'est pas de la programmation explicite : on présente au système une liste d'exemples de problèmes du même type, il donne à chaque fois une solution, on lui donne une mesure de son erreur par rapport à la solution attendue, puis il se corrige. Le bébé fait quelque chose de très similaire: il essaye de parler, et perçoit une mesure de son erreur à la réaction de ses parents, puis il se corrige. C'est fondamentalement le même genre de processus, je ne vois pas ce qui te permet de dire que "L'IA apprend parce qu'on lui a dit et pas le bébé".