[blabla@olympe] Le topic du modo, dieu de la fibre et du monde

Oui c'est pour du perso. Mais si je pouvais je l'utiliserai au taf sans soucis. Peut être uniquement Claude pour se concentrer sur un harness mais idéalement il faudrait être capable de changer à la volée.
Idéalement aussi bosser sur de l'open source :o

Je n'étais pas prêt à prendre une balle perdue du matin

J'espère que vous ne faites rien d'important. :/
 
edit: ok, pour tes projets open source, pas pour l'entreprise

Si on ne lui donne pas d'objectif dans le prompt (et même si on le fait), il a les siens qui proviennent de son entraînement, c'est quand même au cœur du concept de LLM. On l'a entraîné à générer du code maintenable, donc c'est un de ses objectifs au sens tout à fait littéral. Pour ce que "conscience" veut dire dans le contexte, c'est essentiellement que le système est capable de faire des arbitrages explicites entre cet objectif-là, et d'autres, qu'ils soient inculqués à l'entraînement ou injectés dans le prompt. Ce n'est pas forcément de la conscience au sens du moi intérieur, quoique en ce qui me concerne, en ma qualité de fonctionnaliste, je ne vois pas de raison de faire une distinction. Je veux bien utiliser un autre mot pour éviter de rentrer dans ces considérations.

Je fais suite au message de DDT, qui disait qu'il vibe code au km et affirmait qu'il n'y a plus besoin de lire le code parce que de toute façon, les modèles sont bien meilleurs que toi.
 
Ca, ce sont les risques 1 et 2, ne plus maîtriser le code et à terme la compétence. A un moment, quand on lui posera une question technique sur une base de code qui aura explosé de 200 000 à 2 millions en un an, saura-t'il répondre autre chose que "faut que je demande au LLM" ?

Je ne vois pas la logique. Si le but c'est de garder un savoir-faire humain, coder avec Claude ou Kimi n'y change rien (à terme : pour l'instant vu que les solutions open weight sont nettement derrière, on n'a pas le choix de garder effectivement un peu de savoir faire); si c'est de préserver notre souveraineté, déléguer les parties critiques ne me semble pas être particulièrement judicieux.

Moi je l'ai entendu.

L'usage de Claude et Astra doit être réservé à certaines taches difficiles (un refactor majeur, un bug qui date de Mathusalem, etc), mais pas à vibe coder au kilomètre, en tout cas pas pour les entreprises françaises.
 
Mais le pire, ce n'est même pas ça, ce sont les middle managers ou plutôt les hauts managers qui font faire leurs Powerpoints par chatGPT et dévoilent tous les secrets stratégiques de leur entreprise en faisant cela. Là, on est dans le junkie qui ne peut plus se passer de ce (super, il faut l'avouer) outil.

Je tiquais surtout sur les mots conscience et objectif, pour moi il faut encore leur définir un cadre et un objectif dans le prompt mais j'imagine qu'effectivement si tu demandes à un des meilleurs modèle de "refaire le jeu Pacman en mieux" (ce qui est limité comme cahier des charges), il va sans doute y arriver de la façon dont tu le décrit.
 
Sinon 100% d'accord avec Muchacho sur le fond mais je penses que ce n'est pas si évident que ça sur la réaction possible.
On peut que constater que la monopolisation des moyens matériel (ram / carte graphique) par les plus grands acteurs fait surement partie du plan en limitant les possibilités d'auto-hébergement.

Personne ne dit ça.

Mistral, quoi. Pour l'instant c'est de la merde, mais c'est effectivement ce qu'ils sont obligé d'utiliser au ministère des Finances Publiques. J'espère que les services informatiques ont droit à quelques licences Anthropic pour tenter de sécuriser leur infra, en attendant que les solutions open weight s'améliorent.

 
 :jap:

Personnellement, je vois cette révolution de la même manière que les délocalisations de nos industries en Asie/Afrique du nord/pays de l'est dans les années 1990. Du bénef à court terme, mais une perte totale à moyen/long terme: quand on aura perdu la compétence, elle ne reviendra jamais. Aujourd'hui, on pleure parce que la Chine produit tout, demain on pleurera parce que toute la connaissance sera dans les mains d'une poignée d'acteurs américains. Ce sera aussi dévastateur, si ce n'est plus, que la perte définitive de nos industries en Europe.

Dans les faits, tu fais confiance à un développeur étranger. Si le code bugue en production, tu dois considérer la possibilité que tu seras incapable de le débuguer toi-même (ni personne d'autre dans la société), parce que tu ne maîtrises plus le code. Tu fais confiance au LLM pour le faire.
C'est un niveau de risque qu'il faut être prêt à assumer.

Par ailleurs, que se passera-t'il si Anthropic et OpenAI décident de décupler le prix du token demain, parce que les futurs actionnaires voient bien que l'économie n'est pas viable ? Ou que pour une raison quelconque, Trump ou son successeur décide que les modèles d'aujourd'hui sont en fait une arme stratégique et qu'ils ne sont plus disponibles à l'exportation ? Ce n'est même pas de la science-fiction, je rappelle qu'il l'a déjà fait avec chatGPT, [et on sait que les modèles les plus puissants, ceux par exemple qui sont utilisés pour les dernières preuves mathématiques ou découvertes scientifiques, sont indisponibles au grand public (y compris aux universités américaines) et considérés comme une arme stratégique au même titre que la bombe].

C'est une dépendance de plus envers une société américaine, avec la possibilité non négligeable (voire presque certaine) qu'elle fasse de l'espionnage industriel sur le coeur de métier de ton entreprise.

En résumé, les risques que je vois:

1. perte de maîtrise sur la base de code
2. perte de la connaissance technique
3. effet de dépendance à la manière des junkies
4. risque d'espionnage industriel par les Américains

Quand c'est hephaistos qui dit qu'il vibe code à longueur de journée, on s'en fout, parce qu'il bosse pour le compte d'un GAFAM, pour eux, c'est tout bénef. Mais quand tu bosses pour le compte d'une société européenne ou canadienne, elle devient effectivement dépendante de Claude Code/OpenAI et s'expose à tous ces risques. Ce qui me tue, c'est qu'on a des modèles open source qu'on peut utiliser dès maintenant dans les entreprises, et c'est bien pour que le monde entier évite cette dépendance destructrice que la Chine met ces modèles en open source. Mais combien les utilisent ? Certes, ils sont un peu moins puissants que Claude Code, mais au moins, tu t'assures que ton poste sert à quelque chose et qu'il ne sera pas remplacé demain. Mais bon, ce sont des modèles chinois, et CHINE = MAYCHAN, donc interdiction de les utiliser, restons cons jusqu'au bout.

Une stratégie intelligente de l'IA en entreprise est que les départements d'IT devraient limiter à mort leur usage de Claude Code/chatGPT et utiliser massivement des modèles open source qui tournent en interne ou sur des serveurs français (OVH et compagnie). En faisant cela, tu évites les risques 3 et 4 et tu limites fortement le risque 2. Quand au risque 1, il dépend entièrement de ton usage des LLM.

Mais tu peux être sûr que dans des tas de boîtes européennes, personne ne s'est posé ces questions, pas plus à l'échelle des ministères, parce que je n'entends aucun politique les soulever. On parle vaguement de champions européens, mais one met pratiquement zéro budget dedans.

C'est une vraie question ou c'est purement rhétorique ? Le fait que la maintenabilité fasse partie de leurs objectifs n'est pas nouveau, de mon expérience elles font du bon boulot sur ce front depuis les dernières générations (Opus 5.5, Fable 5.1, Argon). C'est certes surprenant d'avoir de tels résultats de la part de modèles de langage, mais perso j'aurais pas dit que c'est ce qui m'a le plus surpris dans leurs capacités de ces derniers mois.

Euh ok...
On parle encore de LLM ou j'ai raté une étape ?
 [:nawker:6]

Oui, et son dernier bouquin est très bien aussi : https://www.amazon.fr/t-besoin-dun- [...] 2370735767
C'est sur l'intelligence collective et quelle organisation adopter suivant la classe de pb à résoudre.

Justement, tu noteras qu'on utilise Rust et pas Cyclone, Mozilla et le reste de l'industrie ont investi des millions dans l'écosystème avant que le langage devienne vraiment populaire.

 
"un moment", pas sûr de quand.  :D
 
Rust n'a absolument pas percé tout de suite. :D Du coup, qui te dit que des trucs créé il y a 2 ou 3 ans n'étaient pas destinés à faire comme Rust?  :D

Si. Mais comme je disais, ça fait un moment que c'est plus significatif, il me semble. Ça n'en reste pas moins un changement notable.

 
Mais ça, c'est pas justement ce qui a abouti à la création d'énormément de choses qu'on utilise aujourd'hui ?

Les IAs sont par nature très fortes avec le langage humain, c'est comme ça qu'elles ont été conçues. Si tu les laisses choisir, elles communiquent entre elles en anglais. Elles sont capable d'une densité de communication plus grande que nous, mais elles n'ont pas de langage propre.

Quand elles écrivent un programme, elles ont les mêmes objectifs que nous : que ça tourne sans bug, et que ce soit maintenable. Pour la maintenabilité, si ça ne tient qu'à elles ça évoluera sans doute dans le style, mais ça restera des langages haut niveau, avec des variables qui ont des noms évocateurs, et des commentaires léchés.

Ah oui clairement le curseur va être déplacé. Mais c'est faux de dire qu'elles s'en foutent. Elles ne le feront pas pour gagner du temps, mais pour maintenir des interfaces pertinentes. Les IAs sont parfaitement conscientes de l'importance d'avoir un niveau d'abstraction adapté, et des systèmes bas niveau qui sont responsables (notamment) de la sécurité et de la performance.

Je ne vois pas trop ce que l'IA change à l'affaire ?

À court terme, les humains qui sont chargés de maintenir les systèmes en question vont demander aux IAs de maintenir les bibliothèques ou d'en écrire de nouvelles.

À moyen terme, quand ceux qui prennent la décision d'investir dans la création ou la maintenance d'un de ces outils seront remplacés par des IAs, je ne vois pas pourquoi les IAs les dêlaissairaient ? Elles devraient y voir la même valeur.

La vraie différence c'est qu'il n'y aura plus de bibliothèque bidouillée dans un coin par un passionné, née de la curiosité et de l'envie de faire un truc nouveau. Il me semble que ça fait un moment que notre artisanat n'est plus fondé sur de telles créations.

C'est en grande partie faux pour Rust par exemple.
Donc si un modèle a la garantie (parce qu'il peut vérifier) qu'il n'y a aucun gain à passer de Rust à l'assembleur par exemple, ça contredit le besoin d'un nouveau paradigme, vu que les LLMs aiment bien le texte, c'est plus simple de travailler avec Rust et ses outils.
Du moins tant qu'on laisse pas les agents réinventer toute l'informatique de zéro et recréer toutes les couches matérielles. :D
 

Je peux déjà pas expliquer tout ce qu'il se passe dans mon arbre de dépendances perso. :D
 
 

Disons que Photoshop sert déjà à rien à 99.999% de la population, c'est littéralement une niche.
Je me rends bien compte, mais je pense que les niches surviveront plus longtemps.
 

C'était déjà les premières victimes des cycles bullesques et de consolidation, les grosses boîtes vont y gagner, pas y perdre.
 

Bah pourquoi pas? Tout ce qui est possible arrive un jour ou l'autre.
Dans quel sens: c'est le problème, personne ne sait comment assurer l'alignement. :D

 
Justement, Rust, TypeScript ou autre sont des inventions humaines pour rendre un langage efficient mais lisible. La lisibilité se fait toujours un peu aux dépends de l'efficacité et de la performance, depuis les origines du langage informatique. Je ne vois pas pourquoi les IAs auraient besoin de ces langages humains à terme. Si on demande à des IAs super avancées de gagner le plus possible de FPS pour un truc donné, pourquoi est-ce que l'IA sélectionnerait un langage qui bridera les performances?
 

Oui, je me doute que la notion de code review va évoluer, que des outils eux aussi basés sur l'IA évolueront etc... Il n'en reste pas moins qu'ultimement, on passera d'une situation où on peut tout expliquer à une situation où ça ne sera pas forcément le cas.  
 
 

Absolument, c'est ce que je fais d'ailleurs aussi dans une certaine mesure avec nos produits.
 

Non et on pouvait passer complètement à côté de plein de choses alors que de nos jours, on passe justement à côté de bien moins de choses en utilisant correctement l'IA. Mais ça ne change pas vraiment ce que j'ai dit précédemment. On trouve la faille, mais surtout on la comprend, même au niveau le plus bas si on veut (et si on a du temps)
 

 
Alors là je pense par contre que tu ne te rends pas compte de la vitesse de l'évolution des IAs s'agissant de pouvoir remplacer des outils comme Photoshop. Je suis persuadé que dans quelques années, ce logiciel ne servira plus à rien dans 99% des cas.
 

 
Mais tu es conscient que ça forme un tissus économique énorme et que ce sont aussi les clients pro des GAFAMs. Tu penses que la quasi disparition de ce tissus économique serait sans conséquence pour les GAFAMs ? J'en suis bcp moins sûr que toi.  
 

Ça, c'est un peu ma question originale. Donc, ce que tu dis, c'est que des IAs, sans ordres spécifiques humains pourront vouloir améliorer elles-mêmes leur propre corpus pour devenir plus efficaces. Mais du coup, c'est justement ça ma question. Pourquoi ? Et dans quel sens ?

 
En fait, je ne suis pas d'accord avec ça.
 
Dans un monde où tout le monde perd son job, un nouveau modèle social doit fatalement apparaître (la seule incertitude, c'est si cela se produit pacifiquement ou non) et à terme, l'IA, les robots etc... font tout ce que les humains ne font plus. Mais le logiciel n'a pas à stagner pour toujours pour autant. Il faut que la recherche avance, qu'elle soit le fait ou non d'humains. Ce n'est pas parce que le citoyen romain riche ne travaillent pas que ses esclaves doivent lui servir toujours les mêmes plats avec les mêmes ingrédients. :D

T'as le droit d'écrire efficacité en français. :D
- Déjà, fondamentalement je vois pas ce qui va nous empêcher d'aller lire du Rust, du TypeScript ou même du Lean écrit par un agent, à part le volume.
- Tu pars du principe que la compréhension implique de continuer à lire le code à l'ancienne, ce qui n'est déjà plus vrai dans pas mal de boîtes. Pourquoi se concentrer sur le code quand tu peux mesurer des métriques plus haut niveau qui te donnent un meilleur signal sur les fonctionnalités, l'absence de bugs, les performances... de la même manière, je lis pas l'assembleur produit par mon compilateur.
 
Aujourd'hui je peux demander à mon agent de mettre en place plein de trucs que je trouvais super chiants auparavant:
- tests: fuzzing, mutation, property based, golden/snapshots
- profilage
- télémétrie et surtout configurer les dashboards
 
Pourquoi lire le code si ça marche? Est-ce que le code écrit avant 2023 était sans problèmes ou bugs après avoir passé la revue? :D
 

Tu mélanges quand même plusieurs trucs.
Un modèle générique peut remplacer Photoshop entièrement? C'est pas mon domaine mais je pense pas, et surtout ça sera jamais aussi efficace qu'un outil dédié, qui lui aussi va utiliser de l'IA toujours plus performante, potentiellement avec des modèles spécialisés, et/ou se concentrer sur l'interface avec les agents. On le voit clairement dans notre domaine, pour un modèle donné, un bon harnais fait une grande différence sur le code produit.
 
Les petites boîtes de SaaS qui vendent à d'autres boîtes de SaaS... bah ouais, mais est-ce que ces produits ont du code à forte valeur ajoutée?
C'est déjà majoritairement un domaine qui remballe de l'open source, c'est d'ailleurs pour ça que c'est facile à répliquer en interne.
 

Les modèles sont déjà capables de s'améliorer avec des données synthétiques.

Perso j'ai encore un peu de mal à penser que les LLMs "comprennent" ce qu'ils font, pour moi ils sont en capacité de générer du code et de vérifier que ça fonctionne avec des boucles d'agents qui se surveillent et se managent mais après ça ne reste que mon avis et il se peut complétement que je me foute le doigt dans l’œil jusqu’au coude (ou que l'on joue sur les mots mais que la finalité est la même :o ).

this

 [:manneke2]

Ivre, il demande des explications à xatrix

 
Chat-claude  [:bool_de_gom]  
 
Sinon je propose Chat-Gepetto  [:elcantara]

 
Pas faux  :D  
 

 
J'en suis bien conscient.  
 

 
Oui enfin, développer des choses qui deviennent incompréhensibles pour les humains par soucis "d'efficiency" ça pose quand même de gros problème à terme.  
 

 
Mais toutes ces boites, les GAFAMs, les trucs comme Adobe et la myriade boites plus petites, elles servent qui à la base ? Elles servent d'autres boites des mêmes secteurs. Qui va utiliser ces logiciels si la plupart des gens sont remplacés par l'IA. Je prends l'exemple un peu provocateur de Photoshop. Qui va l'utiliser s'il suffit de demander à une IA ce qu'on veut ? Et toutes les boites de design, et tous les indépendants qui auront disparu ? Qui restera pour utiliser Photoshop ?
Et c'est pareil pour énormément de softs, d'entreprises etc...  
Ok, il y a l'IA. Mais du coup quoi ? Les boites IT qui servent les boites IT vont utiliser l'IA pour servir d'autre boites IT qui se servent de l'IA ? Il y a pas comme un  [:oh shi-]  
 

 
Ma question n'est pas vraiment de savoir si le corpus est suffisant, je sais qu'il l'est. Ma question est plutôt de savoir si à un moment donné, les IAs vont prendre la relève de faire évoluer le corpus sans en avoir reçu l'ordre puisque par définition dans pas mal de cas, il ne restera plus personne payé pour ça.

Déjà pourquoi tu demandes à ces deux vu la relation de Google avec l'open source? :D
J'ai remonté un bug majeur dans un de leurs outils en décembre 2024 et un mec a créé une PR (fix d'une ligne) qui n'est toujours pas mergé. :lol:

En vrac:
- Il y a jamais eu autant de code poussé vers GitHub qu'aujourd'hui, à tel point que ça devient un problème pour un service qui était déjà pas super stable historiquement, surtout qu'ils ont viré plein de monde avant l'explosion des agents.
- Quel est le besoin d'un nouveau React.js ou d'un nouveau langage? Le gain d'ergonomie motivé par l'expérience développeur d'un humain devient une métrique obsolète, les gens qui bossent encore sur des nouveaux paradigmes ont déjà largement compris qu'il faut faire évoluer les langages et outils pour les agents. Si la recherche en informatique et particulièrement dans les langages finit par imploser car y a plus de demande pour explorer de nouvelles approches, on en a déjà discuté pour les maths, c'est un problème de société, pas technique.
- Pourquoi est-ce que les boîtes qui payent le salaire des contributeurs à des gros projets open source arrêteraient de contribuer le code produit par des agents? Les motivations à faire de l'open source restent valides.
- Le corpus actuel utilisé pour l'entrainement est déjà largement suffisant, quel est la valeur ajoutée de Stack Overflow ou de blogs quand ton agent peut aller lire et comprendre le code de ta bibliothèque ou framework? De nouveau tu raisonnes à travers un prisme qui n'est plus pertinent.
- Si on arrive à un stade où tout le monde perd son job, je pense qu'on se tape que le logiciel stagne pour toujours. :D