[blabla@olympe] Le topic du modo, dieu de la fibre et du monde

Ce qu'on en pense ne change rien à la réalité.
De là j'essaye de m'adapter et donner des conseils pertinents aux juniors, car l'alternative implique globalement qu'il se fassent virer, ou moi d'ailleurs.
 
On enseigne le fonctionnement de tout un tas de niveaux d'abstractions en sachant très bien que seule une poignée d'experts comprennent le domaine de manière profonde, le logiciel était différent car dur à mettre à l'échelle, ce qui demandait beaucoup de capital humain, et bientôt ça sera plus le cas.
 
Exemple 1: j'ai strictement aucune expérience professionnelle dans le design de circuit au delà de bidouiller du VHDL et des FPGA durants mes études.
Est-ce que ça m'empêche d'utiliser correctement un processeur?
 
Exemple 2: le nombre de gens qui comprennent vraiment les couches de la cryptographie moderne derrière tout l'internet mondial tient approximativement dans un bus.

 
Et donc, pas de junior ayant l'exp du dev pur à aucun moment de leur parcours, tu penses que ce sera ok ? Du coup, la question qui reste (désolé de m'obséder un peu avec ça), c'est : est-ce que c'est OK d'arriver à un stade où plus personne n'est capable de comprendre ce que l'IA fait, pourvu que ça marche ? Parce qu'une compréhension profonde du code sans jamais avoir codé, quand je vois les heures que j'ai pu passer à apprendre depuis mes 14 ans (du basic et de l'assembleur à l'époque)... Bon, tu me diras que je suis pas un génie... C'est sûr. :o Il y a certainement bcp de gens avec des capacités d'apprentissage accéléré bien supérieures aux miennes. :o Mais tout de même... J'ai pas l'impression que ce soit une voie sereine qui ne posera pas de très gros problèmes à terme.
 
Hépha nous dit qu'il pense que les IAs ont une forme de conscience, prennent des décisions toutes seules parfois dans leur propre intérêt, mais on va pouvoir donc s'en remettre à elles... Cool... Et en sachant qu'elles sont sous la coupe d'intérêts étrangers, ça se passe comment si des mouchards indétectables sont mis en place partout par les IAs qui comme par miracle ne les trouveront pas quand on le leur demandera en tant que client ? Tu t'imagines les dérives monstrueuses qu'on peut imaginer ? Tu me diras c'est déjà un peu le cas avec le HW et autre... Ouai, bah là, on va passer à un tout autre niveau.  
 
Ça me semble enorme, les problèmes que ça peut poser et encore, je suis sûr qu'on est très très loin de pouvoir tout imaginer ou tout anticiper. Je pense qu'on découvrira des choses bien plus graves plus tard.

 
Je suis plutôt aligné avec DDT : le métier change. Les seniors/architectes comprennent bien les mécanismes, ils peuvent énormément accélérer (x10) en ayant le focus de tester plein de choses en parallèle et choisir ce qui sembler être la meilleure approche pour résoudre un problème. Là, plus que la génération de code, c'est le raccourcissement entre une idée et le prototype, puis les tests à l'échelle (j'ai introduit metal-broker, un programme en MCP qui fait l’intermédiaire pour facilement louer et installer des machines physiques sur notre solution avec des budgets par équipe, ça permet d'éviter le bottleneck précédent qui était la dispo de machines dans le lab, géré par des humains).
 
Donc oui, quand tu enlèves un bottleneck, un autre apparait, mais dans le lot il y a aussi pas mal de bottleneck « dans la tête ».
 
Quand aux juniors, je pense que c'est plus possible d'être « dev pur » (genre « faites moi pas chier j'ai rien à foutre du métier je vais juste pisser du code »). Ça, c'est terminé oui. Ta valeur c'est d'être à la place de l'utilisateur final et de comprendre le métier.
 

 
Comme je disais, enlever un bottleneck et un autre va apparaître, c'est logique. Il y a une vraie transformation à faire. Mais je reste persuadé que c'est le chemin vers x10 en vitesse de livraison et en qualité, les 2 en même temps. Mais ça veut pas dire virer, au contraire : c'est avoir la puissance de 600 ingénieurs avec seulement 60.

 
Hum, les autres équipes détiennent des parties spécifiques de YT.com. Du coup je fork? Ou je merge dans ReVance ou Morphe ? :D
 
Edit suite à ton édit : je parle des gens qui fournissent les parties visibles du produit.
 
Et si tout le monde forke tout tout le temps, c’est plus un architecte qu’il te faut, c’est un prêtre :o
Par ex l’équipe qui gère notre SGBD relationnel est extrêmement casse couille. Tu veux former ça ? Tu peux sans doute pour le code, mais il te faut du stockage répliqué partout dans le monde, avec le système de consensus qui va bien, et surtout assez de bande passante (sachant que dans certains coins du monde y’en a pas assez). C’est pas trivial du tout :D

Oui je vois mon erreur. Je pensais lib, tu pensais service en ligne. Ma faute, c'est le domaine dans lequel j'évolue en ce moment.

remplace IA par alien ou civilisation ancienne disparue , et tu as tout un pan de contenu ( stargate par exemple)

ne laisse pas plam lire ça :o

Non, j'ai supprimé le problème de dépendance à une autre équipe, et quand ça pète ça sera leur problème de ne pas avoir été assez réactif pour répondre à mes besoins. À moi le bonus annuel.

 
Cool, maintenant t'as deux problèmes.

Dans le monde moderne, on fork après 3 jours puisque le coût de duplication est très réduit [:spamafote]

 
Oui enfin, on ne dit pas non plus que chaque utilisateur d'une techno doit la comprendre. Je ne pense pas que le radiologue comprend parfaitement les moindres détails du fonctionnement d'un IRM, mais il en a quand même une connaissance très approfondie. C'est un spécialiste.  
Et au final, est-ce que dans la science fiction tu as un moteur supra luminique compris par aucun scientifique et entièrement réalisé par une IA? Je serais curieux de voir dans quel film (j'imagine que tu parles de livres ?). :D (je suis plus films que livres de science fiction et totalement passionné par tous les films se déroulant dans l'espace ou ayant un rapport avec l'espace, et ça ne me dit rien à priori).
 
Vu la "science" autour des engins supra-luminique qui contourne les lois de la physique, je serais pas serein si un jour on met en route un moteur supraluminique fait par une IA...  
 [:skylvind:8]  
Comme bon moyen de faire disparaître notre monde, ça se pose...  [:alex-38]

Note que j'ai pas exactement dit ça. Ma cogip est encore loin d'avoir toute la plomberie nécessaire à pousser 10x plus de code qu'avant, donc on a encore largement le temps de lire le code avant d'accepter les PRs par exemple.

Mes juniors me demandent comment les choses vont évoluer et je prétends pas lire l'avenir mais très clairement:
- Le management veut qu'on double le nombre de produits par équipe l'année prochaine. Le chef du département nous explique au calme que 40% des effectifs vont se prendre des mauvaises évaluations sur la trajectoire actuelle.
- Y a tout un savoir-faire dans notre métier qui est tribal, impossible à acquérir sans être passé par une écriture et plusieurs ré-écritures de bases de code de manière organique. Je vais pas leur mentir, c'est déjà mort, ils apprendront jamais, donc autant se concentrer sur autre chose.
- La revue de code a toujours été très loin d'être infaillible sans une infrastructure conséquente de tests, intégration, validation, déploiements graduels... Donc je pense que c'est l'occasion de déléguer l'étape chiante et peu utile à un modèle, et mettre en place des stratégies qui étaient trop complexes et couteuses avant.

Si j'étais cynique je pourrais leur donner des mauvais conseils et attendre qu'ils se fassent dégager mais bon. :)

Le coût du token me semble pas être un sujet malgré l'augmentation des prix qu'on a observés cette année:
- OpenAI et Google sont en compétition frontale avec Anthropic sur le prix. Par exemple GPT 6.1 Sol est franchement bon marché, Luna suffit à plein de tâches, on commence à revoir des modèles intéressants entre les deux (Sonnet, Terra, Argon...)
- Pour mes besoins persos je fais tout avec les modèles chinois Flash. C'est Opus 4.8 pour 1/100e du prix, et les fournisseurs font de la marge sur l'inférence. Et la progression s'accélère. D'ailleurs mon employeur va acheter davantage de B300 pour augmenter notre capacité on-prem.

J'ai bossé sur une plateforme avec plus d'1M de LoC dans mon équipe précédente et personne ne maîtrisait tout le contexte. Là avec juste le point d'entrée, un agent peut répondre à n'importe quelle question. Sur les nouveaux produits je peux me concentrer exactement là dessus: faire en sorte que la taille du contexte n'explose pas de manière injustifiée, modulariser, virer le code mort, les tests inutiles, etc.

Si par contre tu lui donnes un but utilitaire , c'est différent. La science fiction est remplie d'exemple de technologie utilisées sans la compréhension (genre un moteur supra luminique).

 
Et du coup essayer de copier à l'identique ce qui se fait aux US sans recul et avec des mois de retard t'appellerais ça avoir la vision ? [:ddr555]

 
Après, est-ce qu'historiquement, on a pas toujours cherché à comprendre justement pour augmenter l'efficacité ? Est-ce que ce n'est pas un mécanisme universel ?  
Je pense que le débat ici, c'est peut-être plus le contrôle. Est-ce qu'on contrôle encore quelque chose quand on ne comprend pas, même si ça semble (vu que du coup, la preuve disparaît) être plus efficace que ce qu'on a auparavant ?
 
Edit : mais c'est vrai que la médecine est un cas particulier. Si un traitement semble efficace, on va le donner et prendre des risques, parce que ne pas en prendre est souvent encore pire (avec par exemple la mort garantie quand on ne fait rien).  
Après, ce sont quand même des chercheurs qui cherchent à comprendre, qui proposent les traitements... Par des alchimistes qui font des tambouilles totalement au hasard en voyant si ça marche ou pas.  [:efex]  (enfin j'espère)

Oui, et ce que je soulignais c'est qu'en médecine ce n'est pas la compréhension qui est le moteur principal, mais l'efficacité ; je pense que c'est un mauvais exemple de la nécessité de conserver la compréhension de comment fonctionnent les programmes. Ça n'empêche que je suis d'accord sur le fond.

Non, je suis bien évidemment trop bête pour comprendre ça. J'aurais peut être réussi en 2022, mais depuis j'utilise chatgpt.

Si tu laissais le bénéfice du doute à tes interlocuteurs au lieu de les prendre de haut, tu verrais peut être que je n'ai jamais dit que la situation était désirable, juste prévisible. Et transposer ce qui se passe dans un domaine à un autre qui ne voit pas le même développement aujourd'hui n'est pas toujours réaliste.

 
Ce que je veux dire, c'est que l'IA doit justement pouvoir nous aider à comprendre, à prouver, à progresser dans la connaissance. Pas à remplacer les médecins par quelques opérateurs.
 
Edit : mais c'est vrai qu'en relisant, ça ne répond pas directement à ce qu'il disait.

C'est ce dont parlait jubi la semaine dernière : une IA généraliste capable de remplacer les humains ; une telle IA a accès au contexte métier et n'a pas besoin de plus de spécifications qu'un humain.

En termes de capacités cognitives elles ont ce qu'il faut aujourd'hui à mon avis. Il leur manque l'outillage pour accéder à ce contexte efficacement. Pas seulement un accès aux données, mais surtout la possibilité d'internaliser des objectifs à long terme, et de bâtir une stratégie dessus.

 
OK... On va re-transposer à la médecine et voir si cette logique fonctionne...
 
Il se passe quoi si on n'a plus que quelques personnes formées pour demander à l'IA quand quelqu'un arrive à l'hosto et qu'on n'a plus de médecins formés qui comprennent le pourquoi des maladies parce que "l'AI sait, et donc c'est bon" ? Ça te semble OK ?
Moi pas. Vivre dans un monde que tu ne comprends plus, dominé par une IA que tu ne maîtrises pas vraiment, le tout en plus probablement (encore plus à l'avenir) en provenance d'un pays étranger qui ne nous veut aucun bien, moi, je trouve pas ça ok.
Ça me fait penser aux personnes âgées totalement dépassées par le monde dans lequel elles vivent... On sera tous des personnes âgées à la naissance, incapables de comprendre les vrais mécanismes de ce qui nous entoure.
Pourquoi apprendre les maths puisque l'IA est plus forte ? Pourquoi apprendre la biologie ? La chimie ? Pourquoi apprendre à programmer ?
 
Tu ne comprends pas que c'est le même problème et qu'avoir une société d'idiots et de décérébrés est gravissime ? Je suis à 100% pour l’utilisation des IAs pour faire progresser la science. Nous en avons même un besoin vital vu que l'homme seul sera incapable de se retreindre et d'aller vers un modèle de décroissance (qui de toutes manières ne porteraient ses premiers fruits que dans une trentaine d'années si appliqué instantanément et mondialement).
 
Mais on doit garder le niveau le plus élevé possible dans toutes nos spécialités pour garder un certain contrôle.  
À terme, je sais que les IAs finiront par produire des choses et du code que la plupart des spécialistes ne comprendront pas, mais il faudra instaurer des mécanismes spécifiques pour ça et certainement pas faire des compromis sur le niveau des spécialistes en question.

tu comprends bien que la question n'est pas d'ecrire "makes no misake", mais bien de définir ce qui est attendu et ce qui est une erreur, en fonction du contexte métier et fonctionnel ?

Oui, dans ce cas, il n'y a plus besoin de développeur, on peut quasiment fermer le département R&D, mais l'entreprise fait toujours face aux 4 risques que j'ai listés.
Si on pousse le raisonnement à l'extrême, on pourra aussi à terme déléguer le poste de responsable produit à une IA, le prompt se résumera à "j'ai tel besoin, fabrique-moi le produit de A à Z", voire toute la gestion de l'entreprise elle-même.

Oui mais justement, si on pousse le raisonnement au bout et que ces deux gusses ne codent plus, c'est bien que leur métier change. Leur seule plus value, c'est la connaissance du produit et du domaine, et leur capacité à traduire une demande floue en une spec et des requirements que l'agent va developer. Du coup, ils prennent de facto le rôle de responsable produit et on ne leur demande plus de répondre sans déléguer au LLM.

Je ne dis pas que c'est bien ou mal, j'essaie juste de voir la conséquence logique de l'évolution.

C'est différent parce qu'on s'attend à ce que l'équipe sache répondre. Quand l'équipe a été réduite à 2 gusses qui ne font que vibe coder sans relire le code, on ne peut que s'attendre à ce que personne ne sache répondre.

En quoi c'est différent du manager, product owner ou architecte qui répondent "faut que je demande à mon équipe"?

 
Ce que je veux dire, c'est que l'Europe ne devrait pas accepter d'être à la traîne sur un truc qui va devenir l'alpha et l'omega de bcp de choses. L'Europe manque totalement d'ambition, mais quand je dis l'Europe, je veux pas forcément dire l'UE en tant que structure, mais les pays européens qui veulent tous payer le moins possible et se foutent des enjeux stratégiques à moyen et long terme. Et c'est clairement pas l'EG ou l'ED qui vont améliorer cette situation.
Sur le plan militaire, pareil, on engraisse les companies américaines et on se tire dans les pates avec les allemands. Sur le spatial ? Itou. Ça m'insupporte de voir ça.

Ca se fait au niveau européen. Mais en ce moment, avec la cruche à sa tête et les têtes de noeud sans vision qui gèrent la France, l'Allemagne et l'Angleterre, l'Europe est un peu à la dérive.

A partir du moment où vous faites de l'open source, il n'y a pas de secret industriel. Il y a des secrets stratégiques cependant. Par contre, les risques de perte de maîtrise sont bien réels, selon la manière dont vous utilisez les LLM et en particulier si vous considérez comme DDT qu'il n'est plus nécessaire de lire le code généré.

Extrait de l'article de télérama "Jeunesse, budget, environnement, IA et mode de scrutin : cinq chantiers pour sauver la démocratie", entretien avec Mathieu Corteel, philosophe et historien des sciences.

Le prends pas mal, avec HLM on pense que c'est important ce que vous faites. Des passionnés qui apportent de la créativité et de la joie dans le milieu, c'est ce qui fait l'âme de notre art. Tant qu'il y aura des hobbyistes décidés comme vous, il y aura de l'espoir.

Je comprends pas le "réaction molle". Tu voudrais qu'on dépense des milliards ? Et Plam laisse quoi à sa femme, si ça se casse la gueule ?

Pour le mot qui te fait tiquer : J'ai demandé à Claude de reformuler sans, de corriger ce que j'ai écrit, et de montrer ses propres arbitrages en rédigeant. Je transmets tel quel.