Reprise du message précédent :

Alors que toi genre t’es intelligent ?  

Ouais, je suis en train de bricoler un truc comme ça.
 
Vu qu'on gère des sites ouèbes, je suis en train d'en créer tout une gestion ontologique. L'idée c'est de trouver sur un canevas la liste des clients, et pour chaque clients on a la liste des sites. Ensuite sur chaque sites les différents services et tout. Un job qu'on fait traditionnellement sur une plateforme comme Notion, mais là je la re-pense en version "canevas infini".
 
La suite, c'est de lancer des agents sur les sites, et y effectuer des tâches de contrôle et d'audit. Et d'avoir en temps réel sur le canevas des éléments qui s'animent, et montre qui fait quoi et où. Donc oui, avoir une vue centralisée et surtout graphique me paraît être un outil important et intéressant à avoir.

 
 
Il y a deux questions. La première, à moyen voire court terme, est liée au fait que 99,99999999% de ce que font les gens tous les jours dans leur travail (y compris dans les secteurs les plus avancés intellectuellement, comme la recherche scientifique), ne relève pas de « l'intelligence » au sens le plus élevé du terme (NB: qu'on ne sait absolument pas caractériser proprement), on n'est pas dans un monde où tous les jours un Cardan invente les nombres complexes, ou bien un Einstein invente la relativité générale. Et donc ces 99,99999999% sont probablement faisables parfaitement par l'IA avec très peu de supervision humaine.
 
La deuxième c'est la question fondamentale de l'intelligence et de la conscience. On peut penser qu'elles sont en grande partie indépendantes du langage, puisque les animaux sont intelligents et conscients alors que leur langage est parfois très rudimentaire, sans oublier ces génies humains qui ne communiquent pas. Auquel cas par construction les LLM ne pourraient devenir conscients, mais peut-être qu'une autre forme d'IA le pourrait. On peut aussi penser que la conscience est un état de nature fondamentalement quantique (Penrose), auquel cas les programmes tournant sur des ordinateurs classiques ne pourront l'atteindre. J'aime bien cette hypothèse bien que complètement spéculative, notamment en relation avec l'analogie entre le LLM qui a besoin d'une quantité astronomique de données pour commencer à faire quelque chose d'intéressant, ce qui n'est pas le cas pour un enfant de deux ans ou un pingouin

Même si je suis con comme mes pieds,  ca ne rend pas les modèles plus "intelligents" pour autant, si ?
 
Au mieux, ils ne seront alors que "aussi intelligents que moi"

"Les humains n'ont pas besoin d'intelligence la plupart du temps, dont pour leur travail" n'a que peu de rapport avec quoi que ce soit ici. Je suppose que le lien était ... "donc les LLMs (ou AIs éventuellement autres) n'ont pas forcément besoin d'intelligence pour être utiles". Et oui, certes. Mais ce n'était pas ce à quoi je répondais au-dessus
 
"Intelligence et conscience sont indépendants du langage" ne veut en rien dire que quelqu'un (ou quelque chose) de très fort au niveau langage ne peut pas être intelligent ou conscient Sinon, d'où dérives-tu "Auquel cas par construction les LLM ne pourraient devenir conscients" ? je suis d'accord avec l'assertion, mais pas avec la supposée "construction" ... qu'il n'y a pas, ici.
 
Sur "IA et conscience", on a vu cela en long et en large sur le topic des "agents IA", si jamais tu veux lire les dernières pages. Je ne souhaite pas m'y remettre, pour ma part : https://forum.hardware.fr/hfr/ia/ag [...] htm#t35784

Je me demande si des solutions existent déjà, enfin pas en mode usine à gaz

On a un ai couple

Ben si, quand même, dans le sens où si l'IA remplace 100% du travail humain (qu'il soit « intelligent » ou non, peu importe), alors l'idiocratie n'est plus très loin je pense. C'est pas le fait qu'une entité soit plus intelligente qui fait courir le risque, mais le fait que l'intelligence humaine dépende très fortement de l'organisation de la société.
 

Si les deux sont indépendants, le fait d'être intelligent ne découle pas de la compétence en langage. Je fais l'hypothèse (qui me paraît solide pour le moment) que les LLM ne sont que des compétences en langage, donc...
 

C'est pourtant ce que tu fais

J'ai écouté la version de cette histoire complètement lolesque version Fireship.
 
OpenAI’s lead engineer was secretly a spy...
 

 
J'ai bien rigolé (y compris avec le roast de Gemini au passage). Y'a rien qui va. Du début à la fin. Pire espion jamais.    

Ah, c'était par rapport à Idiocracy, sur ca. Donc, "les humains ne se servent déjà PAS de leur intelligence dans leurs boulots", MAIS ...  il ne faudrait pas qu'ils arrêtent de ne pas s'en servir, sinon ca va poser problème !?    
 
Idiocracy part principalement d'une question de reproduction. Mais ok, donc là, tu "crains" que le fait de ne plus bosser fasse que les gens se laissent aller intellectuellement, et ca pourrait les rendre "davantage bêtes", quoi.
M'ouais. Si déjà leur cerveau n'est pas forcément mis à rude épreuve en ce moment, et qu'en plus, ils peuvent très bien le faire tourner autrement, PAR EXEMPLE SUR HFR ! (c'est pas à ca que ca sert ? ), je ne suis pas totalement convaincu. Mais admettons
 
C'est plutôt Wall-e que Idiocracy, a priori. Mais les gens aiment bien utiliser la dernière "étiquette", plus parlante (alors que le premier est davantage juste pour l'idée)

Ca ne "découle PAS", certes. Ce qui ne veut PAS dire que c'est incompatible. => Ca ne dit en rien que c'est vrai (langage = conscient), mais tu ne peux certainement pas en dériver que c'est faux (surtout que les humains contredirait directement cette théorie).
 
Même si, encore une fois, je suis totalement d'accord avec la conclusion  

 
En effet j'ai vu Wall-e et pas Idiocracy mais sinon je suis pas du tout d'accord. L'humain est un animal social, il a besoin du social (dont fait partie le travail) pour développer son intelligence même si le social n'est pas « intelligent ».
 

 
Ben non, puisque justement les humains ne sont pas des LLM. Explique-moi pourquoi/comment un LLM pourrait devenir « intelligent » sous les deux hypothèses suivantes 1) les LLM ne font que du langage 2) langage et intelligence sont largement indépendants .

 
après y a peut être aussi la bonne intelligence et la mauvaise intelligence  

C'est une vision. Donc, dans celle-ci, il "faut faire bosser les humains" ... pour leur propre bien Même si, finalement, ce n'était pas "utile". Je ne suis pas trop d'accord, mais ca n'est pas le problème
 

Nan mais on part d'où dans la question ? Ou plutôt, quelle est la question ? A mon sens, c'était: "Les LLMs sont-ils intelligents", c'est ca ? (ou peuvent le devenir, éventuellement).
Je ne PEUX PAS te dire pourquoi/comment avec tes hypothèses. Elles sont d'ailleurs sans objet pour cela. Après, je ne peux de toute facon pas te répondre puisque je pense justement les LLMs NON intelligents et n'allant pas le devenir.
Mais le point est que tes deux hypothèse ne disent PAS pourquoi/comment ca ne serait PAS le cas. "Indépendant" ne veut pas dire "incompatible".
 
Maintenant, tu pars d'un pré-supposé dans ton hypothèse 1: "Ne font QUE du langage" => C'était sans doute alors cela la "construction" mentionnée initialement (pas vraiment dit explicitement). Mais ca nécessiterait de "démontrer" que le fontcionnement des LLMs actuels ne serait alors "QUE" du langage, et que rien ne se forme ou n'émerge de la manière dont c'est fait, etc, etc.
 
Dans l'autre topic, il y avait eu de la critique (alors que ce n'était même pas fondé, à mon sens) d'argument "circulaire". Ca semble un peu le cas ici: Tu as "déjà décidé" du résultat au niveau de ton hypothèse 1. Bref
(Mais OK, avec cette notion de "QUE du langage", disons que je suis davantage d'accord avec la "démonstration" et les "arguments" de départ, même s'ils ont leurs limites )

Ah non. Je pense profondément qu'on peut organiser une société humaine intelligente autour d'autre chose que le travail. Mais je pense aussi qu'on n'est pas en capacité (sociale, économique, politique) de le faire à la vitesse où l'IA risque de nous imposer de le faire. J'espère me tromper sur ce deuxième point.
 
 

 
Non. Je me fie aux experts qui expliquent comment ils ont développé les LLM. Ça n'est que de l'algorithmique, de la statistique, et du langage (y compris le langage mathématique, qui n'est qu'un langage parmi d'autres). Ça ne paraît impressionnant et donne l'illusion d'intelligence que parce que les capacités de calcul dépassent ce qu'on peut se représenter.
 
Exemple mathématique:
A => B
A => C
B+C => RH
 
donc A => RH. Ça n'est que la logique et du langage, programmable. Rien d'« intelligent ». Ça devient extrêmement impressionnant quand il y a des centaines de milliers de 'B' et 'C' (je ne connais pas l'ordre de grandeur du nombre de théorèmes/lemmes démontrés par les mathématiciens ?) nécessaires pour en déduire RH: ça dépasse les capacités de calcul/raisonnement d'un humain, mais pas d'un ordinateur. C'est de la force brute. Pas de l'intelligence.
 
Donc pour moi, non seulement les LLM ne sont pas intelligents, mais ils ne peuvent le devenir (« émergence ») que si l'hypothèse 2 est fausse, c'est-à-dire que l'intelligence a intrinsèquement besoin du langage. Pourquoi pas, mais alors il faudra revoir notre vision du monde animal.

L'intelligence est un phénomène émergent
Les LLMs pourraient donc être intelligents
La conscience aussi, donc les robots pourraient être conscients

edit: @Kalymereau j'avais pas tout lu, j'ai fini ton post après
Cela dit je pense que ta logique est fausse, l'intelligence n'a peut-être pas besoin du langage, mais elle peut très bien émerger uniquement du langage.

Mais alors c'est quoi avec lequel tu n'étais supposément "pas du tout d'accord" au précédent post ?    
Tu me fais un peu de contradiction pour la contradiction, là ?    
 
 

"Ce n'est pas intelligent parce que ce n'est que du calcul et de la statistique" => Totalement d'accord et l'argument est, à mon sens, BON. C'est plié avec ca    
 
"ils ne peuvent le devenir (« émergence ») que si l'hypothèse 2 est fausse": Là on en revient à mon objection initiale et NON ! L'intelligence peut ne PAS avoir besoin du langage, certes. Mais le fait que le langage soit là et/ou qu'un système soit très fort dans le langage, n'empêche rien.
Je ne saisis pas bien ce que tu fais là, exactement. Que l'hypothèse 2 soit juste ou fausse ne change d'ailleurs rien à la problématique de l'intelligence des LLMs. Cette hypothèse ne sert à rien ! Même si elle était fausse, qu'est-ce que ca change ? Les LLMs ne vont pas devenir intelligents pour autant

 
Une condition peut en effet être suffisante sans être nécessaire  

 
euh... comment ? Un exemple concret, une analogie qui tient la route ?
 

 
Ça me paraît pourtant clair:

Je n'ai pas dit qu'il faut faire bosser les humains pour leur propre bien. Et je ne le pense pas. Par contre je pense que si l'IA tue le concept de travail d'ici 10-20 ans, ça va poser un gros problème . Si ça prend 50 ans, c'est moins gênant vu qu'on sera cramés de toute façon
 

 
Là aussi ça me paraît évident: si l'intelligence a besoin du langage, alors je peux me réfugier derrière le mot « émergence » que personne ne définit précisément pour conclure que les LLM pourraient devenir intelligents, c'est-à-dire exactement ce que dit kaloskagatos plus haut .
 
En revanche le jour où on fabriquera des IA à partir de processus chimiques et biologiques plutôt que des composants électroniques (après tout, pourquoi pas), là je vois pas trop ce qui empêcherait ces IA de devenir conscientes. Et si on ne comprend toujours pas pourquoi/comment, alors on continuera à cacher notre ignorance derrière le mot « émergence ».

 
Un chat est un mammifère. C'est suffisant mais pas nécessaire pour être un mammifère.

 
L'émergence est définie en philosophie mais ça reste suffisant pour définir la notion d'intelligence et de conscience si on veut pas tout ramener à la mécanique quantique

 
Merci, je sais ce qu'est nécessaire vs. suffisant    
 
Je précise: qu'est-ce qui te fait penser que l'intelligence n'est pas forcément dépendante du langage, mais peut tout de même en émerger ? A part dire « on n'en sait rien, donc tout est possible ».
 

 
 
 
 
J'ai pas une très haute opinion de la philosophie En l'occurrence c'est juste une manière péteuse de dire:
 

Là, tu me la joues comme Grok: Tu ne respectes pas la chronologie et tu mélanges tout ensemble
Tu pointes maintenant du doigt ce qui était MA REPONSE à ton "pas du tout d'accord" (qui était plus haut, pour sa part). Fais ctrl + F sur ton clavier, entre "du tout" et entrée Et laissons tomber
 

Ah ouais, donc tu vois vraiment les humains comme PAS RAPIDES à l'adaptation, quoi
 

DIRE n'importe quelle ânerie n'a jamais changé la réalité derrière...
T'as même débuté tout l'échange par "la question fondamentale de l'intelligence". L'important, à mon sens, est ce qui EST, pas ce que certains humains "pourraient prétendre".

Parce que l'intelligence repose sur le concept de représentation interne du monde. L'intelligence repose d'ailleurs sur la notion de concepts, et de règles, de logique, de relation de causalité. Les LLMs semblent manipuler très bien ces "outils" et leur représentation interne pourrait donc suffire à faire émerger de l'intelligence. J'y crois aussi pour la conscience avec des modèles d'IA embarqués dans des robots. Je pense qu'on aura toujours un doute parce que ça repose sur des mécanismes différents des êtres vivants, pas besoin de faire appel à la biologie justement à mon avis.

Si jamais tu veux te taper la conversation dans l'autre file, elle démontrait de manière assez convaincante que non, justement.
=> "'un capteur de température n'est pas 'conscient' de la température qu'il fait", "même s'il fond parce qu'il fait trop chaud...", etc. Comme dit, je ne vais pas refaire le film alors qu'il existe déjà.

 
C'est toi qui comprends rien. Un problème de langage ?
 
La chronologie c'est ça:
 

 
 
Bref, je répète pour les mal-comprenants: à court terme on se fiche de savoir si l'IA est intelligente ou non, si elle déstabilise les fondements des sociétés humaines alors oui ce sera un problème majeur, y compris sur l'intelligence individuelle et collective de l'homme.

 
C'est là toute la question: je vois pas du tout comment un LLM pourrait avoir une « représentation » (au sens d'un être vivant conscient) de quoi que ce soit. Pour moi c'est juste une très grosse calculatrice: on a commencé à fabriquer des calculateurs numériques, puis des calculateurs symboliques, et maintenant des calculateurs de langage. Un être conscient n'est pas un calculateur.
 

Je crois qu'on peut tester la réalité physique de la conscience en mesurant l'activité du cerveau, activité qui se manifeste différemment que celle correspondant au langage. On peut imaginer des tests similaires pour des IA.

 
Je parle du modèle IA (le cerveau positronique ), pas de la carcasse du robot. Mais ouai gros HS là.

T'es sérieux ?   Oui, EXACTEMENT. Et tu ne vois pas que tu n'as "pas été d'accord" dans un sens pour ensuite ne "pas être d'accord" dans l'autre sens ? Donc tu as terminé par arriver exactement à ce que je soutenais au départ, avec lequel tu n'étais  supposément "pas d'accord" ?
 
Ou c'est toi qui a des soucis de compréhension. Avec l'ironie, peut-être ?
Mais en fait non, parce que tu peux te baser uniquement sur TES propres messages: Tu commences par "ah non, le travail c'est important !" (ce qui était le point de tout départ: "si pas travail => Idiocracy" ). Pour ensuite soutenir "Bah non, pas besoin de travail, on peut faire autrement !".
 
Si tu ne vois pas le 360, je ne peux rien pour toi
Pas davantage que je peux quoi que ce soit sur ton autre histoire de langage et d'intelligence "pas dépendants".
 
Epargne moi stp un ènième changement de référentiel pour te rattraper tout de même aux branches (d'un autre coté, si on "se fiche" de la question que tu as toi-même explicitement définie en amont ...)

Personne n'a dit que les LLM avaient des images mentales comme les humains. La représentation interne d'un LLM s'appelle l'espace latent, et les concepts, la logique, etc. peuvent très bien s'y loger (ou en émerger). On en revient à la vision de Yann Lecun qui pense que les LLM ne peuvent pas faire de la planification correctement, étant limités à leur connaissance du monde par le texte (et les images), d'où son intérêt pour les world models.

J'ai pas trop le temps là tout de suite maintenant, je pose juste cet article d'il y a quelque jours.

How to Build Models Without Language, with Logical Intelligence - ByteByteGo

---

Bon, ça parle de la vision d'une boîte, Local Intelligence, Yann LeCun est au board (et il est dans la team "les LLM ne suffiront jamais" ), donc il y a des biais, ils vont pas te dire que leur truc est pourri. Mais la lecture n'en reste pas moins intéressante.

Pour LeCun vs les LLMs, il suffit de se baisser.

Yann LeCun : les “world models” contre les LLM

 
 
Je sors d'une semaine de séminaire où il y a eu beaucoup de présentation sur ce que l'IA peut faire dans mon domaine (conception électronique, contrôle logiciel et écriture de code python/C/C++, biblio,...) et je commence à sentir qu'il va falloir se lancer.
 
A part demander la recette de la quiche lorraine à ChatGPT, je sais pas faire grand chose. Qu'est ce que vous conseillerez comme lecture pour apprendre à faire un prompt et utiliser des agents ?
J'ai accès à de nombreux journaux de recherche et à Mistral pro (je suis agent CNRS, on a une version payante de Mistral).
 
Merci pour votre aide !

 
Oui, ce que j'ai entendu de LeCun je suis plutôt d'accord, les LLM ne vont pas devenir intelligents mais il est possible qu'on puisse faire autrement

honnetement c'est un peu fini le temps où il fallait "savoir faire un prompt"
Installe un agent, donne lui accès à un ou plusieurs de tes projets, et cause lui naturellement. Tu peux commencer par lui demander des résumés/explications de ce que ça fait pour tester,  ou direct lui filer une tache à accomplir, en language naturel.
Si il a accès à ton code, ta doc, aux ressources qui vont bien, tu vas vite te lancer

M'ouais D'un coté, on semble un peu retombé dans la science-fiction, et de l'autre, tu as explicitement précisé "embarqué dans des robots", pas un "nouveau cerveau" particulier ou quoi que ce soit.
Si "robot" est précisé, c'est que le "corps" a quelque part une importance. Et si tu veux soutenir "oui, mais au niveau du cerveau", etc., c'était précisément l'objet de toute la discussion mentionnée et pourquoi ca ne fonctionne pas

 
Merci, effectivement je suis largué    
 
Des agents particuliers à conseiller ? J'ai vu Langchain ou CrewAI mais j'imagine que ça dépend des tâches qu'on veut lui faire faire non ?

 
et aussi, essayer ChatGPT et Claude au moins en version gratuite, pour comparer avec Mistral. D'autant que Claude permet déjà de régler l'effort en version gratuite.

 
Perso je commencerai par utiliser mistral-cli pour "t'aider" pour des petits projets/outils/scripts que tu as besoin de coder dans ton domaine. Les LLMs marchent très bien pour ça et les gains (et trucs qui déconnent) devraient t'apparaitre rapidement.

Parce que le cerveau a besoin d'une expérience physique pour se faire une représentation du monde. Un cerveau humain dans un bocal n'aura pas de conscience ni d'intelligence. Les LLM n'ont une expérience du monde qu'à travers leur corpus de texte d'entraînement. Ce qui n'empêche pas à mon avis l'apparition d'une certaine forme d'intelligence, plus accès sur la réflexion mentale, d'où les percées en mathématiques.

 
je suis d'accord avec Claude
 

 

 

Sur la partie électronique je peux te répondre, je suis avec GPT SOL 6.1 moyen et je fais toutes mes "bidouilles" avec. Là j'ai connecté 1 écran eink + 2 écrans ronds LCD sur un raspberry pi pico 2W, code fait à 100% par l'IA en micropython. Le raté que j'ai eu au début c'est parce que je ne lui avais pas dis qu'il y avait un github avec les drivers de l'écran eink sur aliexpress (il a du mal à y aller de lui-même sur le site).

Les connexions à faire, la vérification que tout fonctionnera côté connectique SDA/SCL et pas en 1²C, il a tout fait, il a récupéré du code d'un autre projet de dashboard de la maison en local pour afficher se dont j'avais besoin et en 1 jour, j'ai tout.
Là je chipote sur le design de l'interface des placements pas pixel perfect, du style,... Il pourra même me faire le fichier en impression 3D du boîtier par la suite quand il aura les dimensions de tous les écrans (mais il ira les chercher lui-même namého ).

Sinon comme dit plus haut, le meilleur prompt c'est celui que tu lui demanderas de te générer pour ta demande bien précise ou autre pire, tu lui dis de faire un agent et il promptera comme un pro pour faire ce que tu veux.