Reprise du message précédent :

Oui mais le contexte est limité et plus tu le bouffes et plus il va halluciner
Donc sur des codebase un peu grosse ça va être la misère.

Après tu peux p'tet casser la lecture/compréhension du code en sous-requetes ?

Sachant que plus le code est merdique plus le code va être mal découpé et s’entremêler et donc le contexte nécessaire va exploser.

Le code à 50% d'include avec un découpage moisi

J'ai fait quelques requêtes vers 800-900k token en entrée, le truc a complètement halluciné c'était inutilisable (gemini 2.5 pro)

C'est pour ça que ça ne peut être qu'un processus progressif et supervisé. A la fin c'est toi qui doit avoir la maîtrise du code, pas la machine.

Tu peux essayer avec Kimi K2, il accepte jusqu'à 1 million de tokens
 
(en vrai, ça n'est pas très utile de balancer 100 000 lignes de code et lui dire "démerde toi" )

pendant 6 mois oui
et ensuite on sera a 10%, parceque "tout réécrire pour ajouter une feature" ne va pas scaler hyper bien a mon avis

et encore une fois :  le prix d'un dev est probablement largement en dessous du cout réel des LLM
quand il faudra les payer( plus la marge qu'exigent les actionnaires ) , ce sera très différent

Ca depend, il faut voir aussi l’évolution du coût de faire tourner des LLM à long terme.
Actuellement c’est relativement cher car nvidia en situation de quasi monopole et se fait des marges de dingue.

le coût est plutôt lié à l'énergie consommée non?

Je découvre le command line tool de claude.ai dans cette vidéo de C++ https://www.youtube.com/watch?v=acD9F8dzjik  ça a l'air sympa le vibe coding n'empêche

Un GPU H100 coute 25000$ et consomme 700W
 
Amorti sur 3 ans le gpu coute 0.95$ de l’heure
Avec une électricité à 0.15$/kWh l’électricité coute 0.10$ de l’heure
 
L’amortissement est pas délirant vu que la technologie evolue encore et la valeur du GPU sera surement énormément devaluée dans 3 ans

Sauf qu'il faut pas qu'une seule H100 pour faire tourner un LLM mais qq centaines voire milliers.   Ca change tout de suite un peu le budget...

De quoi ? tu multiplies juste les deux dans la meme proportion. Au final le rapport cout gpu et cout électrique est le meme

Je pensais que tu comparais avec le coût d'un dév.

Le GPU ne vaudra plus rien dans 3 ans
Et il te faut plus d'un GPU pour avoir une réponse Instantané il me semble , sans compter les coûts délirants d'entraînement sur des set toujours plus gros , avec toujours plus de pré processing

Sans parler du cour d'accès a ce set légalement

Un gpu c'est facile à héberger, pour scaler à 25000 faut du matos à côté, de la place, de la bonne élec, etc. Ça chiffre très vite.

Ca change pas que le gpu coute actuellement plus cher que l’électricité. En ordre de grandeur les deux couteront a peut pret pareil à scaler

LOL
 
Double LOL

On va faire quoi ? Rien

Je reste fasciné par les gros débiles qui découvrent ça aujourd'hui et font la leçon a des gens qui le savent depuis 25 ans et la signature du patriot act pour les moyens légaux    

Ça me surprend aussi, genre des gens pensaient sincèrement que c’était pas le cas.

L'avantage, c'est qu'on ne risque pas de perdre nos données vu qu'elles sont répliquées à Washington, et si ça se trouve aussi à Pékin.

la fameuse règle 3-2-1: 3 états, 2 parties, 1 contrat foireux

Quand t’as des malwares sur 10% de tes hosts tu n’es peut être pas la caution anti Washington que tu prétends être
 
 
Surtout dans un pays qui a besoin du renseignement américain pour péter deux mobylettes djihadistes au Mali.

Dion président

En fait, y'avait un flou juridique avec le storage act et le patriot act (remplacé par le freedom act) concernant l'accès aux datacenters européens des entreprises américaines. En 2018, TRump a fait passer le cloud act pour mettre un terme à ce flou.

Grosse découverte dis donc.

T'as oublié à qui tu parlais.

il y a une vraie différence entre ' le contrat ne le dis pas/ le contrat l'interdit" mais on pense raisonnablement qu'ils se torchent avec et "la com officielle est qu'ils se torchent avec"
 
faut pas être naïf dans l'autre sens non plus, les services juridiques n'ont pas grand chose à faire de la réalité, ce qui compte c'est l'engagement écrit.  

Intéressant ! Peux tu stp me pointer les décisions de justice qui démontrent ce flou juridique ?
 

lol loi Duplomb.

Intéressant ! Peux tu stp me trouver un.e juriste ou un.e avocat.e qui avait une lecture de la loi et du contrat qui soutienne ton propos par écrit ?

agree.

Mec, le Patriot act, j'en parlais que t'étais même pas né.

En train de tester vibe coding with Copilot Chat Agent. Je lui ai fait créer un flask standard avec postgresql directement installé avec brew (pour éviter toute complication) et je lui ai demandé d'installer bootstrap et une page users avec possibilité d'ajouter et d'enlever les users...
 
Bon, ça fait clairement gagner du temps pour tout ce qui est structure de l'app, les librairies à installer, les class etc... Mais ensuite, pas mal d'erreurs JS pour l'interface entre JS et Flask qu'il a réussi à résoudre, mais il a fallu l'aider plusieurs fois...
 
Clairement totalement inutilisable pour un non programmeur aguerri. Et le user management sur un flask python, c'est un des trucs les plus basics qui existent.

MS était en conflit avec le gouvernement US depuis 2013 si ma mémoire est bonne et refusait de donner accès à ses datacenters en Irlande. J'avais pas mal étudié le sujet en 2018 pour expliquer à la direction technique de ma boîte en quoi dire à nos clients qui passait sur du AWS (oui, je sais, c'est pas MS, mais ma remarque reste valable) que leurs données étaient hors d'atteinte du gouvernement US était faux. C'est comme ça que j'avais découvert l'existence du storage act. En fait, 2 textes se contredisaient ou en tout cas, ne disaient ni clairement qu'une entreprise US avec un datacenter hors des USA devait forcément donner accès au gouvernement US ni que ça interdisait le gouvernement US de pouvoir faire cette demande légalement.
J'avais tout mis dans un mail mais la boîte d'envoi ne remonte pas si loin, désolé
 
Edit : voilà ce que j'ai retrouvé concernant MS et son conflit avec le gouvernement USA : https://www.lemondeinformatique.fr/ [...] 62244.html
Et https://www.eloisegratton.com/blog/ [...] ant-la-co/
Décision de justice en faveur de MS : https://www.itespresso.fr/donnees-p [...] 46872.html
 
Et aussi https://www.leclubdesjuristes.com/a [...] ques-2151/
 
Et enfin : https://www.riskinsight-wavestone.c [...] uveraines/

 
Y'avait déjà le mot Chine dans chacun de tes posts. Remarquable.

 
ça fait parti de mon taf, donc si tu veux je connais depuis un bout de temps.

Merci rufo !