Reprise du message précédent :
Oui tu as raison, grosso modo on a du sable qui a pu prouver comment l'eau allait se déplacer, rien de fou.

La Terre, les mers et vous tous, êtres vivants… Chacun de vous, partagez avec moi un tout petit peu de votre énergie ! Je vous en supplie !  
 

  Pas compris
 

C'était quand même l'un des sept problèmes du millénaire: https://en.wikipedia.org/wiki/Millennium_Prize_Problems
Donc bon même si ça reste une sélection de problèmes faite par une fondation privée, c'est quand même pas non plus une random conjecture obscure.

 
Apparamment, c'est censé prouver qu'il y a du raisonnement, et que c'est pas du brute-force.
(Aussi, Anthropic voudrait une part du gâteau, il parait)

Ça va le prix, y'a pas beaucoup de RAM dedans heureusement

@HLM, @Hepha, analyse: https://twitter-thread.com/t/2097476196791709843
 

C'est un problème d'ingénierie profondément ancré dans la physique. Le but est de concevoir un système qui casse les équations, ça demande une compréhension profonde des équations en questions, et ce qu'on appellerait de l'intuition (de la créativité guidée par notre compréhension du problème et les contraintes qu'on s'impose). Comme d'habitude, qualifier l'approche de "force brute" c'est une insulte à tous les scientifiques qui se sont cassé les dents dessus depuis des décennies. Essayer des trucs et se tromper, et itérer sur ses propres erreur, ce n'est pas de la "force brute", c'est du travail scientifique. Je trouve que l'aspect physique de la question est un pas significatif dans ce qu'ils prouvent qu'ils savent faire, mais c'est sans doute un biais de physicien. Ce n'est pas que je comprenne le problème de la singularité de Navier-Stokes, mais il me parle plus que les problèmes d'Erdos.

Après, oui, comme c'est un résultat négatif (construction d'un contre-exemple), sans doute que si on avait payé 1000 scientifiques à plancher sur la questions pendant 10 ans, ils y seraient parvenu. Je ne vois pas trop ce que ça retire à la prouesse. C'est pas Einstein, mais c'est pas Jo le Clodo non plus.

Suivant le même principe, un algorithme A* fait du travail scientifique.
 

Je comprends pas ce que tu veux démontrer avec ca. Tu essayes de dire que des scientifiques auraient pu brute-forcer ca, et que ce serait moins du travail scientifique que le LLM ?

Non, il y a un côté systématique qu'il n'y a pas dans l'ce que décris Hepha : le chercheur va pas choisir la direction de la prochaine opération au pif ou selon un algo systématique. Il va tenir compte du chemin parcouru et utiliser son intuition et des connaissances peut être complètement déconnectées du problème particulier.

T’as un lien vers le blog? Il charge une seconde et après j’ai une pub de merde qui m’emmène sur l’AppStore

Mince effectivement, comme vous êtes un peu parfois allergiques aux liens sur X j'ai tappe thread unroll et pris le premier mais c'est de la daube
 
https://twitter.com/hilbertspaess/s [...] 3863224394
et
https://x.com/EvanHub/status/2097497037956891126

Ah ben parfait, il me manquait juste ça pour passer une bonne journée  

 
Même dans du A*, t'as une heuristique qui représente cette intuition, mais effectivement, ré-évaluer en fonction de ce qui est découvert n'est pas typique dans ce genre d'approche.
Ce qui continue à me déranger reste que l'approche systématique est ce qui permet d'arriver à une solution, que ce soit dans une approche ou dans l'autre. Au final, ce qui resterait à trancher théoriquement, c'est : est-ce qu'atteindre le résultat est causé principalement par une heuristique dynamique ou juste par le volume de ressources investies dedans (que ce soient 1000 scientifiques ou 10000 agents).

 
Perso, j'ai zéro peur d'une supra intelligence qui prendrait le contrôle sur nous directement comme dans les films de SF. C'est plus subtile que ça. C'est plutôt le fait que les hommes vont cesser de réfléchir et au contraire appliquer et/ou décider ce que les AIs leur suggèreront, par paresse intellectuelle et aussi parce qu'ils penseront que l'IA détient toujours la meilleure solution. Si les solutions proposées par l'IA sont toujours supérieures aux miennes, pourquoi me casser le cul à chercher ou même à vérifier. On demandera à des experts de vérifier, mais eux-mêmes en fait demanderont à l'IA de le faire pour eux. Du coup, ce sont bien les IAs qui ont le pouvoir, mais "elles ne s'en rendent pas compte" (notez les "" ) et ce ne sera probablement pas centralisé non plus (pas de super IA unique qui dominerait tout)
Et ça, ça peut venir assez vite, parce que s'agissant d'en faire le moins possible pour le meilleur résultat possible, l'homme est le champion universel. La paresse est le principal moteur du progrès depuis toujours. Si l'homme peut rouler ou voler au lieu de marcher, il le fait. Et au bout d'un moment, il marche parfois pour le fun, mais ça s'arrête là.

Mouais, le plaiisir est aussi un bon gros autre facteur, et ce ne sont pas les deux seuls.

Non, je veux dire que l'IA a le niveau d'un bon thésard. La réciproque c'est que ce qui a été accompli n'était pas hors de portée des humains, c'était manifestement surtout une question de ressources et de persévérance.

 
Mais ça on ne le savait pas déjà ? Je veux dire, des trucs impossibles comme la conquête de la lune ne l'ont pas déjà prouvé ?
 
Ceci dit, si tu peux cloner un bon thésard à l'infini, l'armée de thésards peut faire des choses qu'un thésard seul ne peut pas faire (sauf en théorie, mais plus en pratique).  
 
Dans tous les cas, ce qui est inquiétant, c'est qu'au bout d'un moment, tu n'as plus besoin de vrais thésards humains qui ont sué comme des porcs pour faire les meilleures études possibles.
 
Après, c'est quoi le coût réels de tes thésards virtuels ? Coûtent-ils individuellement vraiment moins cher qu'un thésard humain ? (je ne parle pas à notre époque où les openai et consort crament des milliards tous les jours pour rendre accro toute l'industrie et tout le monde avant de finir par leur faire payer le vrai prix un jour -- Il faudra voir si ce jour peut arriver et si finalement ces AIs peuvent être rentables... C'est pas prouvé AMA)

Tu réalises quand-même qu'on a des superordinateurs depuis 20 ans, et qu'on peut faire des trucs aujourd'hui qu'on pouvait pas faire il y a 6 mois, à puissance de calcul égal ?

J'ai demandé un calcul de coin de table à Claude, si ça t'intéresse

Donc non, c'est pas un A* avec un gros GPU.

C'est un peu des deux, mais comme le fait remarquer Hepha, c'est aussi largement comme ça que la recherche avance: on tente un truc et on voit où ça mène. Si ça mène quelque part, mais pas à la solution finale souhaitée, on a ouvert une brèche et on creuse. Sinon on essaye autre chose.
 
Ce qui pose problème avec les systèmes agentiques, c'est qu'on ne sait pas forcément ce que les agents ont essayé. Or il se peut que certaines options aient un intérêt en soi, qui peuvent ouvrir de nouveaux domaines de recherche. Mais cela, on le verra pas. On peut tenter d'analyser tous les logs pour voir s'il y a des choses intéressantes, et cela seul peut occuper pas mal de monde.
 
Bon et l'autre problème, c'est le fait de décerner des prix prestigieux à des sociétés prédatrices qui bénéficient de financements infinis, potentiellement au détriment de la recherche publique. Ca, ça fait chier.

Je ne comprends pas quelle thèse tu essaies de défendre, où tu veux aller avec ces questions (et je pense que tu as lu mon message un peu rapidement).

Les questions techniques que tu poses ont des réponses concrètes accessibles, si tu as la flemme je peux demander à mon agent de te faire un topo ?

Oui enfin ça date du XIXe siècle, c’est quand même bien has been  

Mais classe G, c’est en rouge ça fait peur

Considérant que le Top500 a été commencé en 93, je dirais que ca fait même plus que 33 ans    
 

Je sais pas, j'ai du mal à trouver ca aussi révolutionnaire que tu as l'air de vouloir que ce soit. En particulier avec les nombres et ordres de grandeur que Claude t'a sorti un peu plus loin dans ton même message (si tant est qu'on peut les croire).
 

C'est présomptueux.
 

Mon point au sujet de l'A*, c'était pas de parler de puissance de calcul, mais d'approche, fondamentalement.
Du coup, cool, on a brûlé plein de ressources pour un truc qui n'a toujours pas vraiment démontré ce qu'il fallait démontrer (comme tu le dis toi-même, c'était pas hors de portée humaine, on aurait pu brute-forcer ca à coup de 1000 scientifiques plutôt que 10 000 agents).

C'est de la thermodynamique, le problème est le même qu'avec l'arsenal nucléaire : le point d'équilibre le plus stable c'est celui qui aboutit à la destruction de l'humanité. Toutes choses étant égales par ailleurs, on sait qu'on va y aller, mais on n'est pas sûr des ordres de grandeurs de temps pour déclencher la transition. On a constaté avec les bombes qu'on était capables de ne pas appuyer sur le bouton pendant longtemps.

Pour le risque qui arrive, la question se pose à nouveau, mais on comprend beaucoup moins les mécanismes en jeu. On ne sait pas comment l'IA nous détruirait, ni ce qui pourrait le déclencher. On n'est même pas sûr qu'on va continuer à progresser jusqu'à ce qu'elle en ait le pouvoir. Mais le raisonnement c'est que si elle en a le pouvoir (et les exponentielles qu'on voit partout tendent à faire penser que ça vient), ce n'est qu'une question de temps entre le moment où l'IA peut nous détruire et celui où ça se produit. C'est pour ça que certains insistent sur l'alignement, ça peut nous faire gagner un temps suffisant pour passer à un autre danger existentiel.

Ils ne réclament pas le prix (prix qui n'a jamais eu vocation à financer quoi que ce soit, c'est surtout une carotte pour la visibilité).

Non mais c’était évident, facile, élémentaire, ancien, désuet. Et ça n’a pas été résolu de la bonne manière. Et de tout façon il suffisait de se retrousser les manches.
Et les entreprises c’est mal car elles ne font pas de recherche. Et c’est mal car elles font de la recherche et donc ça fait moins d’argent pour le public.  

#OnRépondPasAJovalise

Come je m'y attendais, il aura pas fallu longtemps à Trump pour proposer sa petit carte, sans doute en réponse à celle de l'ONU : https://www.youtube.com/watch?v=RvbGxDazGmk    
Dommage qu'il l'ait pas fait qq jours plus tôt, ça aurait peut-être changé le résultat du referendum en Islande... Ils se seraient peut-être dit que finalement, l'Europe, malgré qq contraintes, c'est pas si mal par rapport au fait de se faire engloutir par les USA...

 
Bah soit je comprends mal leur explication, soit ce qu'ils ont fait c'est du brute force "guidé" par des gens qui comprennent effectivement le domaine et qui savent trier ce qui est une bonne piste dans le merdier généré par l'IA, en fait.
Ils ont envoyé des tétrachiées d'agents chercher des pistes, puis trié dans les résultats pour relancer tout le monde dans les directions les plus prometteuses...on reste dans du travail humain assisté, pour moi. L'IA n'apporte que la puissance brute pour explorer des tas de pistes en parallèle dans cette histoire. Et pour un coût supportable par personne hors openAI ou équivalent sans garantie de résultats. En conclusion, pour moi c'est la preuve qu'avec un budget illimité les LLMs peuvent accélérer certaines tâches de recherche. Ben super, quoi.

Ah oui j'ai vu passer l'argument sur reddit (pas directement dans le clavier de shockwave ?) "si on avait investi tout cet argent dans la recherche publique, on aurait fait d'autres choses encore mieux". Après, j'ai essayé d'imaginer le CRAN de Nancy (mon ancien labo) avec une dotation de 150 millions d'euros. J'en pouffe encore, intérieurement.

hé mais ca va, le communisse, là ? T'as vu comment tu parles aux entreprises ?

Note que c'est même pas le point que je cherche à faire. C'est juste qu'à chaque fois que tu regardes d'un peu plus près quand quelqu'un dit "ouais, mais cette fois, ca montre qu'on a du raisonnement", ca s'effondre comme un chateau de cartes. Pardonne qu'au bout d'un moment, on commence à demander plus de sérieux.

Oui, c'est une façon de voir les choses. Le fait est que ça ne fonctionnait pas avec la génération précédente, et ça fonctionne avec le modèle interne utilisé par OpenAI. Donc il y a une valeur qui n'est pas triviale dans le choix des pistes à explorer fait par les agents, et l'efficacité pour le faire (soit dit en passant, le travail de tri que tu mentionnes était manifestement largement fait par des agents aussi, la supervision ne pouvait être que à très haut niveau).
 
Effectivement, je pense qu'on est dans un cas où ce n'est pas l'IA qui a résolu le problème, c'est des humains qui l'ont résolu grâce à l'IA et des sous (pas tant que ça, 6,5M$ me souffle Claude). Je trouve ça rassurant, et en tant qu'humain je me réjouis de cette victoire (j'aurais pu être supporter de foot dans une autre vie) ; mais ça n'enlève pas grand chose au "mérite" des agents dans le travail accompli.

Tu as pas l'impression de te foutre de la gueule du monde ?

Clairement, pas autant que OpenAI avec leurs claims débunkés à répétition  

Ca fait deux fois que tu introduis cet argument d'autorité en sous marin. Si tu penses que ne rien connaitre à un domaine va ne serait ce que freiner tes interlocuteurs pour l'expliquer à quelqu'un qui en vient, c'est très mal les connaitre  

 
Voilà, pour moi on est tout simplement dans ce pour quoi sont conçus les ordinateurs depuis le début : faire rapidement les tâches répétitives qui bouffent beaucoup de temps à l'humain. Avec les LLMs les tâches en question peuvent devenir plus complexes...mais ça reste des outils pour améliorer la productivité des humains, pas pour les remplacer.

Quelle distinction tu fais entre un outil qui améliore la productivité (et qui donc, par définition, permet de faire la même chose avec moins d'humains) et un outil qui remplace des êtres humains ? Du moment qu'il y a encore au moins un humain qui fait un truc dans le monde, c'est bon c'est "qu'un outil de productivité" ?

Jusqu'à présent, la distinction était simple : il y avait les tâches que seuls les humains pouvaient faire, et les autres, qu'on déléguait. Notre pré carré a pas mal fondu ces derniers mois, si il faut être capable de diriger une armée d'agent vers la résolution de Navier-Stokes pour prétendre être plus qu'un outil, c'est chaud.

Team Hepha icite