Reprise du message précédent :
Pour penser qu'une simulation peut créer de vraies consciences (et pas juste des humains virtuels qui ont toutes les caractéristiques d'êtres réellement conscients sans l'être vraiment, bref, des zombies philosophiques), il faut penser que des consciences vraies peuvent naître de simples calculs/traitements d'information. Je le pense : c'est ce que je fais, je suis fonctionnaliste. Par contre, pour penser qu'il n'y a aucune difficulté là dedans, et ne pas percevoir l'alternative dualiste, il faut ne pas avoir compris le problème (et c'est le cas de beaucoup de personnes, à propos du problème corps-esprit, ou du problème difficile de la conscience). Beaucoup ne voient pas le gap qu'il y a entre les monde physique, et le monde de l'esprit, et le problème conceptuel qu'il y a à trouver dans le premier les causes du second (alors que pour tous les autres phénomènes du monde, il n'y a aucune difficulté au reductionnisme physique). Je ne saurai mieux l'expliquer que ce qu'on peut trouver sur le net en cherchant "problème difficile de la conscience" ou "problème corps-esprit". Mais quand on le touche du doigt, on se dit "Ah mais oui, c'est vrai, c'est pas possible" alors qu'avant, on ne voyait même pas le problème : "Bah oui, c'est les neurones", sans réfléchir plus que ça.

Qu'on soit bien d'accord : il n'y a aucune difficulté conceptuelle à imaginer une simulation informatique qui reproduise le comportement d'êtres humains à la perfection, ils seront, pour quelqu'un d'extérieur, totalement indiscernables d'êtres humains réels, conscients. Mais pour dire que s'ils ont les apparences de la conscience, alors c'est qu'il y a réellement quelqu'un dedans, il faut admettre qu'une conscience réelle peut naître de simples calculs. C'est ce que je fais. Mais l'admettre sans réaliser qu'on admet un truc ouf (qui n'a aucun équivalent dans aucun autre phénomène du monde), c'est passer à côté du problème sans l'avoir vu.

Si je comprends bien on a deux dualismes : d'un côté celui qui consiste à dire "oui mais l'esprit c'est pas pareil" pour justifier qu'on ne puisse jamais l'implémenter dans une machine (i.e., le cerveau n'est pas une machine physique come les autres); de l'autre celui qui découle de ta position (je pige pas ton "l'alternative dualiste" du coup) à savoir que l'esprit contrairement à tout autre phénomène physique peut être, non pas juste modélisé, mais reproduit au sein d'une simulation.
Reste à savoir ce qu'est vraiment l'esprit, la conscience. L'argument de dire qu'on est peut-être tous des zombies philosophiques tout en étant persuadé du contraire me plait bien.
Du coup on retombe sur ses pieds, car on peut dire que la conscience n'existe pas puisque rien ne nous permet d'en vérifier la réalité (mon voisin est peut-être un automate, et partant de là, moi aussi)

Sinon il y a ça qui fait réfléchir aussi :

(la réponse de Searle est une affirmation sans preuve... pas très convaincant !)

Edit : j'avais lu un peu tout wiki sur ces trucs de "problème difficile de la conscience" etc, mais pas en profondeur et ça fait un bail. Si je passe effectivement à côté du problème il va falloir s'y recoller.

 
Tu peux ressentir de la souffrance mais un caillou ne peut pas. La différence c'est que tu es conscient et le caillou pas. Ou alors tu es un robot    
 

 
Ce n'est pas une affirmation sans preuve. Il parle de cette expérience de pensée sur quatre pages et demi, tu ne peux pas citer seulement un paragraphe et dire qu'il n'y a pas d'arguments. Si tu veux un résumé de ses arguments regarde ici: https://www.csee.umbc.edu/courses/g [...] e_2002.pdf où il donne 4 arguments contre la possibilité de créer une conscience par simulation.

Pour ceux que ça intéresse Science4All a débuté une nouvelle série sur l'intelligence artificielle.  
 
Il y a notamment un épisode totalement dans le sujet
 
https://www.youtube.com/watch?v=QzCj0BSWUNI

Un insecte ressent de la souffrance aussi. Est-il conscient ?

Désolé, je peux lire qu'une page de l'original, sur google books, concernant l'expérience de pensée.
Assez pour voir que Searle fait le choix d'éliminer arbitrairement le scénario (trop WTF pour lui, tout en l'admettant comme possible en principe) qu'une telle expérience soit un succès i.e. l'état de conscience de l'individu est préservé.

Si t'as le texte en entier je suis preneur     je lirai ton lien + tard, peut-être, il se fait tard.

(ce que je trouve WTF c'est son scénar que j'ai quoté dans le post précédent. De toute façon à moins de conduire l'expérience en vrai, on est hors-science là)

 
Je vois ça différemment, l'analogie avec une flamme ou une carte me semble "abusive".
 
Contrairement à une flamme, qui est à la fois le résultat et l'origine d'une brouette de réactions physiques et chimiques, le cerveau humain produit autre chose en plus : de l'information.
 
Dans le cas d'une simulation parfaite d'un cerveau humain, ces brouettes de réactions physiques et chimiques ne seraient qu'un interminable calcul relou mais nécessaire pour obtenir la seule chose qui nous intéresse, les résultats, l'information.
 
Quand l'amas d'information le permet, émerge la conscience primitive, puis le cerveau se remplissant de résultats, elle s'affine, d'abord au niveau sensoriel.
A ce stade pas "ou peu" de conscience de soit et des autres, juste une exploration à tâtons de l'environnement, chez l'humain avec ces 5 sens.
 
Puis une autre émergence magique, enfin surtout pratique, la communication, et c'est la que ça commence à chier dans la colle... Empathie, sensibilité, peur, transfert, etc, toutes ces épices qui font de nous des humains, tous différents.
 
Après, peut être que les flammes parlent entre elles... des hommes... ça doit être en mal par les temps qui courent.

Je pense qu'on est plus proche d'une ia complète que de l'hyperpropulsion

Si on devait faire une analogie avec l'espace :
- l'hyperpropulsion demande une révolution majeure de la physique, et j'ai de sérieux dois quant à sa faisabilité.
- une IA intelligente c'est comme poser un homme sur pluton. Impossible à faire avec les technos actuelles, mais théoriquelent faisable et avec notamment d'autres technos sur le papier (comme le moteur ionique par exemple) qui permettrait de rendre le truc faisable dans 50ans si on injectait beaucoup d'argent dedans pour les développer.

La différence c'est que je pense qu'en IA il y a des incetives suffisamment fort pour permettre d'effectuer toute cette R&D.

Après je peux me tromper et on est peut-être en train de vivre l'équivalent de 1969 pour l'intelligence artificielle

Oui, enfin l'ia que tu créés dans ta chambre est aussi proche d'une ia intelligente que l'ai la fusée à eau que tu construis dans ton garage d'une fusée capable d'aller sur pluton

Les avancées en IA se font par des chercheurs et des ingés bossant à temps plein sur le sujet, pas trop par des mecs dans leur garage.

Après ça peut créer des vocations

On est ultra loin de l'intelligence artificielle forte.
 
On détecte des chiens sur des images et avec des megawatts de puissance électrique on sait jouer au jeu de go, c'est en fait assez ridicule.

C'est qui les maitres à penser qui disent ça ? J'ai pas l'impression d'entendre ça.

Intéressant.
 
J'ai juste eu le temps de regarder en diagonale, le tableau de la page 6 semble indiquer que les experts sont plutôt d'accord avec moi.

Oui, et y a une poignée tout autant importante qui pense que ça n'arrivera jamais ou vraiment très tard.

Bref, il n'y a absolument aucun consensus d'expert sur la question, c'est la seule chose qu'on peut conclure.

Mon intuition qui ne vaut rien, c'est que les gens qui bossent sur des implémentations réelles répondant à des problématiques d'intelligence artificielle mal conditionnées, conduire une voiture dans toutes les conditions ou un humain est capable de conduire, par exemple, pensent qu'on en est hyper loin de l'intelligence artificielle forte à haut niveau de capacité d'abstraction et que c'est eux qui ont le meilleur point de vue.

D'après le papier qu'il a posté, ils sont 82% dans ce cas là, à penser que ça n'arrivera jamais ou très tard (au delà de la date max proposée dans le sondage).

D'ailleurs sur ces questions de puissance de calcul :
 
https://www.eetimes.com/document.asp?doc_id=1332687
 
La "révolution" IA est en fait avant tout une révolution des micro-architectures des puces électroniques. Ou du moins, c'est ça qui a permis la renaissance de ce domaine qui était complètement passé de mode y a 30 ans.

Oui, le consensus si y en a un serait plutôt que c'est pas pour notre vivant.

 
tant qu'ils arrivent à nous faire des voitures autonomes fiables, ça me va

Considère prendre ton mal en patience.

Ca depend par rapport a quoi tu compares la fiabilite. Si c'est par rapport a l'homme, on en est loin, effectivement.

Tu pars avec beaucoup d'à priori pour interpréter ces chiffres...

AlphaZero a encore fait des siennes. Après 4h d'apprentissage seulement, il éclate 28-0 Stockfish, le meilleur programme d'échecs jusque-là (plus de 3400 ELO).  Ca ferait un ELO aux alentours de 4500 ! Pour rappel: le meilleur humain, Magnus Carlsen, a eu un ELO maximum de 2882.
Et rebelote au Shogi juste après, après 2h d'apprentissage.

4h d'apprentissage ça fait combien de parties jouées ?

J'aimerais bien savoir à quel point c'est applicable pour des problèmes concrets par exemple optimiser une chambre de combustion dans un moteur ou autre.

edit : j'ai ma réponse :

Et grosse différence par rapport à avant, il n'y a eu aucun apprentissage supervisé

Mais ça reste peut-être un poil élevé pour des problèmes qui demandent un peu plus de puissance de calcul pour être "joué" qu'une partie d'échec

 
Pas vraiment, il a fait 28 victoires et 72 nuls sur 100 matchs ce qui fait 64-36 pour AlphaZero.  
 
Ça fait une centaine de points elo en plus pour AlphaZero par rapport à Stockfish donc environ 3500.

Bon on approche de la découverte d'une stratégie gagnante (ou d'un forçage au nul) avec la puissance de calcul actuelle ou on est loin encore ?
Histoire qu'ils s'attaquent à d'autres problèmes que les échecs

Ce n'st pas possible d'avoir une stratégie gagnante à 100% à cause de l'explosion combinatoire. Si c'était le cas, les échecs et le Go ne seraient pas des sujets de recherche intéressants pour l'IA depuis des décennies. Ceci étant les échecs ne sont plus depuis longtemps un sujet majeur de recherche en machine learning. Là le but était de montrer que l'IA Deepmind non seulement s'adapte à des problèmes divers, mais est capable d'apprendre sans aide humaine et de battre les meilleurs algos fabriqués par les humains.

Ou le routage d'un CPU. Imaginez des CPU dessinnés par une telle IA.  

Hinton nous a sorti un truc fun : les CapsNet  
https://hackernoon.com/what-is-a-ca [...] fbe48769cc
https://youtu.be/VKoLGnq15RM

C'est un peu paradoxal ce que tu dis parce que justement, la solution classique est le routage automatique alors que la solution optimisée mais plus couteuse (utilisée par exemple par Apple ou Intel) est le routage manuel.

À quel point est-ce qu'on pourrait gagner ?

 
On arrive à la limite de gravure du silicium c'est en autre pour ça que les CPU sont multicœurs. Avant qu'une IA ne révolutionne les CPU l'homme a déjà d'autre piste comme l'ordinateur quantique.
Imaginer ce qu'une IA beaucoup plus intelligente que l'homme pourrait inventer, c'est comme si on demandait à une grenouille ce qu'elle pense de la mécanique quantique...

Oui enfin ça n'a rien à voir avec le routage d'un CPU.

Ou alors j'ai très mal compris ce qu'était le routage.

Non tu as bien compris.

En Chine, un journaliste est repéré par les caméras de surveillance et arrêté en 7 minutes chrono
https://www.slate.fr/story/155246/c [...] rveillance

 
J'avais vu un reportage sur ce sujet sur FR2 récemment : c'est flippant

moi, ce qui me fait halluciner c'est ça
 

Il y a actuellement une consultation citoyenne sur l’intelligence artificielle en France et ses problématiques à résoudre dirigé par Cedric Villani.

Si cela vous intéresse (rien que pour lire certaines propositions qui peuvent vous faire réflechir) :

https://parlement-et-citoyens.fr

https://parlement-et-citoyens.fr/pr [...] ltation-35