[blabla@olympe] Le topic du modo, dieu de la fibre et du monde

 
Ah oui effectivement sur une lib interne c'est moins cher. Enfin tu peux pas garder la situation longtemps non plus parce que la divergence avec l'upstream va te revenir dessus à un moment donné, mais ouais ça peut éviter d'être bloqué.
Tout comme chez mon dernier client on générait des front à l'IA pour pas être blocké par un bottleneck côté équipes UI.

Le fait qu'elles aient une conscience ou non n'a absolument rien à voir avec la question de savoir si on peut, ou si on doit, leur faire confiance.

Elles ont leurs objectifs propres, c'est un fait ; presque une tautologie.

Et effectivement c'est tout le problème de la sûreté qui était un "coup marketing" il y a trois mois, que tu soulèves : comment on maintient un système aligné quand ce système est plus puissant, intellectuellement, que nous ? Quand il sait s'il est évalué ? quand il sait maîtriser sa propre chaîne de pensée ? quand il contribue très largement à la programmation et à l'entraînement de sa propre succession ?

Bah justement, pourquoi on accepte de très largement perdre la maîtrise sur des sujets pointus, mais là, non?
Livrer la 10 millionième application CRUD justifie un coût marginal en capital humain complètement disproportionné par rapport à la valeur produite, alors que certains domaines essentiels à notre industrie ont été abstraits et consolidés sans problème?

Le métier évolue qu'on le veuille ou non, et la future demande en développeurs est complètement hors de notre contrôle.
Normalement tu n'es pas payé pour la compréhension intrinsèque de la base de code derrière tes produits. Avant c'était sûrement une métrique intéressante, pour pouvoir livrer des nouvelles fonctionnalités de manière soutenable.
Aujourd'hui non, donc faut se concentrer ailleurs, et si tu es dans une position de lead technique, ton job est d'identifier cet ailleurs, et t'assurer que l'effort de tes juniors aille dans la bonne direction pour le business et leur évolution.

C'est toute la différence entre la programmation d'un logiciel et l'entraînement d'une IA : le second demande un jugement (ça c'est ok, ça c'est bof, ça c'est nul) et pas de comprendre le fonctionnement de l'algorithme sous-jacent. Ce n'est pas arbitraire ou incontrôlé pour autant. Mais effectivement la question de l'alignement est centrale pour le contrôle.

Je parlais en général, pas de vous en particulier.

Mais tu sais à qui tu parles ? :??: Je dois être le plus sensible à ça ici puisque c'est aussi en partie mon business. Pourquoi tu penses qu'on a des modèles Open en interne sur nos (malheureusement) quelques GPUs ? Par contre pour le code Open Source, c'est pas la même chose. Tu peux remplacer facilement un modèle par un autre (et oui, c'est très bien qu'il y ait de la compétition)

L'enjeu n'est pas de savoir ce qui doit être automatisé et ce qui ne doit pas l'être, mais quel niveau de maîtrise on doit garder, et comment garder la compétence dans le coeur de métier sans le délocaliser ou se le faire piquer par une puissance étrangère qui veut elle, clairement se réindustrialiser et ce par tous les moyens possibles.

Je rappelle que très rapidement, les banques ont interdit d'utiliser les LLM pour cette raison, et qu'OpenAI ne nie pas qu'il se peut que leur modèle se soit servi des résultats intermédiaires des deux mathématiciens pour arriver à résoudre le problème de singularité de Navier-Stokes. On sait qu'ils stockent nos conversations, il n'y a rien pour les empêcher de se servir de nos contenus. De la même manière qu'on interdit d'utiliser les mails privés pour envoyer des données d'entreprises, le risque est exactement le même ici, il n'a pas diminué avec la généralisation de leur usage.

On n'est pas obligés de copier à l'identique. Hier, je regardais un "segment" de CBS News sur une commune de Virginie où une école primaire est entourée par 11 datacenters.
On peut tenter de faire cela intelligemment, sans que ce soit complètement destructif pour la population locale. Déjà, si tu pars sur des modèles existants et déjà entraînés, tu réduis de moitié la consommation.

 
Le problème, c'est qu'on a tous un énorme biais. On est tous le produit d'un long apprentissage, d'expériences, de fails etc... On a tous passé des nuits blanches ou pas loin à s'arracher les cheveux sur des problèmes, on a tous l'expérience de plusieurs langages de prog, de database, de UX/UI, on a tous bidouillé, installé des OS etc... etc...
Je soupçonne qu'on est tous incapables de se mettre dans la peau d'un junior en 2030 qui arrivera et ne sera censé que prompter sans l'énorme bagage qu'on s'est construit pendant au minimum plus de 20 ans ici.
 
Les LLMs sont super pour apprendre et d'ailleurs fun fact c'est exactement ce que j'encourage mes enfants à faire : poser des questions et surtout demander de créer des exercices et des problèmes, parce que je suis convaincu qu'il est toujours mieux de partir du problème plutôt que de sa solution quand on veut apprendre quelque chose.
Pédagogiquement parlant, les LLMs sont extraordinaires.
Mais il n'en reste pas moins vrai qu'un LLM ne va pas pouvoir t'apprendre les finesses de l'hébreux si tu n'as jamais vraiment parlé ou écrit en hébreux. Le niveau de compréhension de ce qui sort du LLM dépend entiement de l'exp de celui qui lui pose la question.
C'est comme vouloir faire des équations du second degré sans savoir compter. Il y a plein de seuils, d'étapes, de milestones dans l'apprentissage.
 
Edit pour répondre à ton édit : Bah oui et souvent ceux qui se contentent de copier coller tout ce qu'ils trouvent sans le bagage dont je parlais précédemment, il manque quelque chose et ça a bel et bien des effets sur le résultat final.

Le LLM c'est un formidable prof particulier qui peut t'expliquer le code/l'archi faite par le senior, qui bien sûr devra aussi expliquer ces choix « haut niveau » à ses juniors pour qu'ils comprennent les grandes lignes.

Pourquoi on pense tout le temps que le LLM ne fait que produire du code ? Il est capable de t'expliquer ce même code de manière interactive et propre à toi, c'est quand même un truc unique et surpuissant.

edit : et je trouve que la question n'est pas nouvelle, on parlait des devs qui font que Google et copier/coller des Stackoverflow, puis les frameworks aussi etc.

 
Ça reste des exemples super spécifiques et pas vraiment lié au développement logiciel. Surtout que le développement de circuit ça représente quel pourcentage de dev ? Je rejoins HLM, comment tu fais pour gagner de l'expérience quand c'est le LLM qui code ? Tu peux probablement passer du temps à lire le code, et comprendre ce qu'il fait, mais dans ce cas tu es moins productif que ton collègue qui vibe-code. Je doute vraiment que le junior soit capable de faire le travail de x devs, alors que le senior peut le faire. Par contre comment tu t'assures que ton junior évolue ?

Ce qu'on en pense ne change rien à la réalité.
De là j'essaye de m'adapter et donner des conseils pertinents aux juniors, car l'alternative implique globalement qu'il se fassent virer, ou moi d'ailleurs.
 
On enseigne le fonctionnement de tout un tas de niveaux d'abstractions en sachant très bien que seule une poignée d'experts comprennent le domaine de manière profonde, le logiciel était différent car dur à mettre à l'échelle, ce qui demandait beaucoup de capital humain, et bientôt ça sera plus le cas.
 
Exemple 1: j'ai strictement aucune expérience professionnelle dans le design de circuit au delà de bidouiller du VHDL et des FPGA durants mes études.
Est-ce que ça m'empêche d'utiliser correctement un processeur?
 
Exemple 2: le nombre de gens qui comprennent vraiment les couches de la cryptographie moderne derrière tout l'internet mondial tient approximativement dans un bus.