Reprise du message précédent :

Quelques updates sur mon approche.

Je cramais le quota assez vite même en sélectionnant toujours 5.6-luna depuis l'App Android.
Je me suis rendu compte que j'avais laissé les définitions de certains sous agents avec du 5.6-tera, du 5.5 voire rien et qu'il choisissait le modèle de manière non pertinente.
https://rehost.diberie.com/Picture/Get/r/542210
J'ai corrigé ça en mettant 5.6-luna partout mais j'avais toujours une grosse conso.

J'ai fait un audit avec le chat de l'App ChatGPT, ce qui a permis d'améliorer l'agents.md et les définitions des sous-agents.
Synthèse :

Bon, par contre ma plus value dans l'histoire est assez faible :
1) je demande au chat dans l'App ChatGPT de me produire un prompt pour codex en respectant certains guidelines, pour implémenter telle feature.
2) je copie-colle le prompt à codex.
3) je copie-colle la réponse de codex à l'App ChatGPT, l'App me donne un nouveau prompt de vérification indépendante.
4) je copie-colle le prompt de vérification dans une nouvelle session codex.
5a) si la vérification ne ressort aucun problème (rarement le cas), l'implémentation est validée.
5b) si la vérification ressort des problèmes, je copie-colle la réponse de codex suite à la vérification à l'App ChatGPT pour qu'il me donne un prompt de remédiation et on repart en étape 2 jusqu'à arriver en 5.a.

J'ai déjà une liste de features à implémenter qui sont relativement bien spécifiées avec des priorités, donc c'est assez chiant de devoir faire ça où je ne sers globalement qu'à faire du copier-coller.

Vu que j'ai mis Hermes sur le VPS, j'essaie d'automatiser cela via Hermes (en m'appuyant sur le chat ChatGPT pour tout ce qui est conf/archi), en utilisant sur des modèles dispos via NVIDIA Build pour éviter de bouffer le quota codex et pour garder les contextes bien séparés, mais c'est pour l'instant un échec.
Auriez-vous des idées ?

Edit : et merci pour les infos sur les resets, il me restait 15% en weekly hier soir, j'ai lancé une tâche de review en 6-astra medium sur un point particulier et il a trouvé pas mal de trucs, ça a bouffé 8% du quota en 10-15 minutes, et j'ai pu commencé les corrections avec mon process habituel avant le reset

Yes et sauvegardées sur Github

C'est vrai qu'on garde les données en local avec obsidian...
Tu as néanmoins raison. Après on peut adopter les deux je dirais. En tout cas pour l'instant c'est ce que j'ai en place

Ça c'est une des avancées les plus importantes.
 
Je l'ai lancé sur la transformation de mon Excel de gestion de comptes personnels vers une application web full-fledged. On a commencé par faire un cahier des charges complet. Là il bosse depuis hier soir, et il est en train d'itérer tout seul. Je peux même voir ce qu'il fabrique à distance avec le mode Remote

C'est passé, Astra qui régularise les captchas ?
https://www.numerama.com/tech/23269 [...] eveux.html

J'ai vu ça hier sur X. Mais il me semblait que de toute manière le captcha du genre "saisissez les lettres" ou "sélectionnez les bornes à incendies" étaient morts depuis longtemps. C'est pour ça que ReCaptcha v3 utilise une analyse comportementale avec un score heuristique à la clé.

Au bout de presque 5 jours de travail avec Fable 5.1 low et quelques subagent Opus 5 xhigh je suis à 46% sur la quota Fable et 32% sur le quota tous modèles, pour un Max6.
Je pense tester une semaine entière sur Fable 5.1 xhigh, il fait l'orchestration et fait du gate aussi en subagent, voir de la review.  
Ma théorie - toujours la même - c'est qu'autant y aller à fond avec le même mode de chaque modèle pour l'efficacité/meilleure efficience. Si on peut éviter de revenir plus tard sur un truc généré par le meilleur mode, c'est de l'économie de token/temps au final.
 
En tout cas Fable 5.1 est moins débile qu'Opus 5 xhigh sur de l'orchestration/"long" run.
Astra est très bon mais putain le quota il se barre vite mais quand même y'a de quoi faire sur un compte à 20 boules ... alors avec les reset

 
Intéressant  

Astra Pro qui vient de disparaître dans mon app ChatGPT alors que je l’ai presque pas utilisé aujourd’hui (après reset)
 

cheh

Des nouvelles du bébou Mistralou

On est sauvés

Et HuggingFace va héberger le modèle Le Chaton Fat

Fat annonces que cela

Faut pas trop en demander non plus

Le gars qui veut encore gratter un reset  

Mistral donne signe de vie

https://x.com/BFMTV/status/2097199689191874831

Vous avez tous encore accès à Astra Pro dans le chat ? Je suis le seul à ne plus le voir ?

oui

Cool
 

OQTF

C'est quoi ce predictable weekly usage resets ?

sûrement des reset fixe au lieu du bon vouloir de tibo genre 1 par semaine ? 4 par mois? ...

C'est le reset automatique tous les 7 jours

Tu sais en exclusivité quand Tibo va reset ?

 
Ils ont clairement pivoté sur:
- du service,
- des modèles de niche,
- des datacenters.
 
C'est pas glorieux pour "3 génies des LLM".
Mais ca justifie sans pb les 3 mds.
 
Après avoir échoué sur leur cœur de compétence, vont-ils réussir sur des domaines qui semblent très différents ? Je ne sais pas.  
S'ils sont capables de ne pas se prendre pour plus malins qu'ils ne sont, ils peuvent encore faire un truc.
 
J'aurais bien voulu voir OVH la dessus. Mais ovh est resté tres bas niveau, donc bon (pour info, ovh met a dispo des modeles open source d'ailleurs).
 
Le pire aurait été qu'ils continuent a faire des modèles très en retard mais que politiquement ils arrivent à la jouer pour que l'administration et les entreprises de défense soient forcées de l'utiliser. La un codeur de chez Dassault peut bosser avec un modèle correct. Chinois mais correct
 
Et on sait jamais, si les progrès se stabilisent dans 1 ou 2 ans ils pourront revenir. Je serais moins inquiet par la valo a 20mds de Mistral que par celle a 2000 Mds d'Anthropic.

J'ai envie de loger mes quotas, ça se fait déjà ?
 
J'ai codexbar qui m'export la donnée vers mes harness CC/Codex pour donner aux modèles cette info (et quand switcher de compte, lancer un cooldown, etc) mais j'aimerais bien loguer tout ça..  
Peut être même inclure l'utilisation des modèles, ça peut aider pour le comparo.
 
Je sais pas si les data codex (web) peuvent être extraites

Ouais, je sais pas trop. Si ca devient une boite de services, est-ce que ca vaut 21 Mards ? OVH n'en vaut guère que 2, par exemple. Donc tout OVH est valorisé MOINS que la dernière levée de fonds de Mistral.
 
Et sur les modèles, je crains qu'on en arrive à du "monopole à la Google".
Les "meilleurs" (ou LE meilleur) modèles deviennent les plus utilisés et captent la majorité des prompts (datas) afin de pouvoir améliorer le modèle. Ca créé une boucle de rétroaction qui laisse les autres dans le vent.
 
Surtout que la collecte de données publiques sur le web ne s'annonce pas forcément super bien. Tu as ceux qui limitent de plus en plus l'accès, les données qui ne sont déjà plus que de la création d'anciens modèles et la baisse de la création par changement de paradigme (tu vas encore te faire ch*er à créer du contenu original alors qu'il peut être pompé, repackagé et reposté automatiquement et instantanément ? + Google ou autre moteur de recherche qui ne te renvoie plus personne et ton contenu n'est même plus découvert comme avant. En fait, ce sont les moteurs de recherches et l'ensemble des plateformes de LLMs eux-même qui te piquent et repackagent ton contenu directement...)
 
La meilleure source de donnée à l'avenir semble l'UTILISATION des modèles. Celui qui gagne éventuellement là, risque de peut-être tout rafler => Donc il faut engloutir autant de pognon que possible pour développer le meilleur modèle. Mistral là-dedans ? Please

 
 
https://ccusage.com/ ?

 
Je sais pas non plus. Le modèle de Forward Deployed Engineer, c'est pas exactement du service classique. C'est le truc poussé par Palantir, même si ca existait bien avant. C'est "J'ai un framework compliqué pour des besoins compliqués, donc je met des ingénieurs de choc chez le client pour utiliser et surtout développer le framework".  Si tu réussi c'est top. C'est aussi très très dur a faire. Tu finis souvent avec une version de ton framework par client, et tu exploses sous les problèmes de qualité et de coûts dus a la duplication.
 
Ils ont échoué la ou ils étaient sensé être bons, donc il y a sans doute des problèmes sérieux à résoudre quelque part chez eux pour réussir ca. Sont-ils dessus? No idea.
 
 

 
Ah, mais c'est tout l'interet de leur move vers les datacenters et l'hébergement de modèles chinois open source. Ils vont avoir ces infos. Pas toutes les infos du monde mais des infos.
 
Par contre, j'ai l'impression qu'actuellement il y a un travail sur la qualité plus que sur la quantité, cf. les dev facebook a qui on demande d'écrire des exemples pour leur modèle.
 
 
 
 

Comment et dans quel cadre vous demandez/faites spawner des sous-agents ?

Je comprend rien à ce topic !
Vous utilisez l'ia pour le boulot ?
Pour du dev d'applications ?
Bizarre votre monde

Ben quand tu juges en avoir besoin
Ça permet dans mon cas plutôt que de lancer une tâche avec un modèle super intelligent puis de manuellement devoir basculer vers un autre modèle moins intelligent par la suite pour l'exécution
De toute faire d'une traite avec le prompt et tu optimises les coûts

Mais comment ca se passe ? tu dis dans le prompt de reflechir avec un modele et coder avec un autre ?

 
Pour cuisiner et pour optimiser le trajet pour promener le cleb's

Quand il me reste du quota et que je veux aller vite.
Je lui dis "utilises des sous-agents"  

Bah oui

Très clairement. La qualité de la donnée utilisée pour entrainer un modèle est super importante. Tu ne peux pas utiliser n'importe quoi, sinon t'as du "garbage in/garbage out".
Mais avec la quantité, tu peux ensuite analyser avec un modèle afin de trouver la qualité. Ou des patterns. Et que le modèle en extrait les paires de données "qui vont bien" pour l'entrainement futur. En soumettant ce qu'il trouve à des humains d'abord, au besoin.
 
Rien que si tu cherches les occurences fréquentes d'utilisateurs qui répondent quelque chose du genre "mais tu racontes n'importe quoi !", tu peux éventuellement identifier des corrections/améliorations à apporter par rapport à l'entrainement précédent. Et tu peux décliner cette facon de faire à fond: Tous les prompts qui indiquent qu'il a fallu corriger une manière de faire, là où les utilisateurs ont copié/collé un exemple, etc.
 
Je suppose que la quantité n'est pas une fin en soi, mais elle permet tout cela.
 
Se baser sur l'open-weight Chinois a aussi sa dose d'incertitude: Ils peuvent arrêter de fournir en open-weight à tout moment et passer en propriétaire (peut-être qu'il y a des deals qui sont conclus pour que les modèles restent partagés en privé s'ils deviennent proprio, ca, j'en sais rien)

Mon agents.md définit, entre autres : pour quelles tâches codex doit lancer un sous agent ; quels sont les types de sous agents et leurs rôles ; qu'est-ce que codex doit transmettre aux sous agents ; etc.
Une bonne moitié du agents.md est dédiée à l'orchestration des sous agents en fait.
Extrait :

Le config.toml dans le dossier .codex du projet active l'utilisation des agents :

Ainsi que un .toml par type d'agent pour les infos par sous agents (type de modèle , reasoning, objectifs de l'agent, etc.) dans le répertoire .codex/agents/ du projet :

Quand je demande à codex de développer un truc, le thread de base ne sert que d'orchestrateur et il s'appuie sur l'agents.md et utilise des sous agents des différents types suivant le besoin et suivant où il est rendu.

Tout ça a été fait en suivant les recos de ChatGPT qui sortent de la doc d'OpenAI, enfin s'il n'a pas fait de conneries

je crois que dans ma boite, les deux modèles mis à dispo sont les deux à 0%
du coup, c'est la courses à faire 12000 skills car les agents sont trop mauvais de base
et les mecs sont contents de faire des "démo IA" pour dire qu'ils ont réussi à faire corriger 2 lignes de Python après 8 prompts
 
on est bien  

 
Bah quand tu es dans le dev, tu travailles 100 fois plus vite pour faire un site, un jeu, un fichier 3D, des actions répétitives, des modèles de machine learning/deep learning, ton apprentissage, ton résumé du matin technologiques devant ton café, chercher un boulot après trie par l'IA,...
 
Tu fais comment toi pour faire sans ?  

Dans moins d’un an ça aura autant de sens que de demander si les gens utilisent internet. Donc autant si mettre maintenant