Reprise du message précédent :

 
Il faut avoir fait un compte, ensuite tu as un lien dans la fiche du modèle et ça donne ça:
https://i.imgur.com/HQE7xM8.png

Je savais pas qu'il y avait ça

 
ca check que ton HW fit, mais ca va pas te guider en amont non ?

 
Oui c'est tout, tu sais juste si le modèle rentre.

Je viens de renseigner mon matos mais y'a rien qui apparraît dans les fiches de modèle Une idée ?

J'ai fait Add Item dans https://huggingface.co/settings/local-apps

edit: ha si, sur les page des GGUF

Je comprends pas pourquoi ils ne le montrent que sur les GGUF en effet.

on pourrait ajouter en lien à ce topic (et aux autres)  les 12 topics qui parlent de "dev avec IA" open claw toussa?

Trop bien ça !!
https://x.com/JackWoth98/status/2044448684851523849

ouais bah quand il me donnera accès à sa cli avec un bon model on pourra en reparler

qui est un vrai dev ici ? ou associé
le but serait d'utiliser vos compétences et votre intérêt pour les LLM plutôt en mode : faire des super specs, du CRUD, du RALPH, qu'mporte tant que c'est sérieux et pas un truc hype pour la hype dans le but de dev une nouvelle app pour HFR ? (android)
 
qui veut participer ?

Pas sur de comprendre ce que tu veux, mais je suis dev backend/db/cloud.

 
J'ai été remboursé par le vendeur après ma demande d'annulation ... Si ça se trouve c'était pas une arnaque

Est-ce que tu utilises du LLM/agentic dans le boulot ? De façon plus ou moins généralisé. Avec des repos bien fichus avec des règles pour LLM, etc.

Oui, Kiro et Cursor, Bedrock et un peu de llama en plus. J'ai des fichiers AGENTS persos dans mes repos. J'utilise des MCPs, officiels et des custom.
 
On a une équipe devpos qui fait en plus un outil pour synchroniser des skills/mcp/auth pour tout le monde, mais c'est nouveau et je l'utilise pas encore, même si je beta test des skills.

Ah bah j'aimerais que tu développes à l'occase, c'est un sujet qui m'interesse.  
Vous avez quoi comme quota dev classique / dev LLM ? Je veux dire par exemple le ratio de LoC fait par LLM.
 
Le sujet dont je parlais c'est de me (nous) filer un coup de main pour organiser un repo pour la réécriture de l'app Redface from scratch, voir le topic dédié: https://forum.hardware.fr/forum2.ph [...] w=0&nojs=0

https://x.com/i/status/2044513716264399258

La bonne nouvelle c'est surtout pour eux, au détriment des clients... Ils donnent vraiment le bâton pour se faire battre, surtout que toutes les autres offres permettaient de positionner des limites mensuelles, vla la révolution chez Google...

 
 
Bon, mise à jour de Claude Code, je tente le changement de modèle en cours de session :
 

 
Donc voilà je suis fixé

ah

Je répond a ce vieux post, mais je viens de tester Qwen3.6 35B Q3 XXS (qui est un MOE) sur mon M4 avec 16 Go de RAM sur llamaCPP et ça fini toujours avec une erreur mémoire : error: Insufficient Memory (00000008:kIOGPUCommandBufferCallbackErrorOutOfMemory)
J'ai beau tout fermer et démarrer avec 6Go de RAM occupé, diminuer la taille du contexte a 8k, mais rien a faire    
J'avais déja testé un modèle en 12B (non MOE) qui faisait carrément freezer MacOS,
Je vais attendre la version 9B pour tester Qwen 3.6  

J'en avais parlé pas mal sur le topic génération de texte il me semble.
 
Pour le quota c'est difficile a généraliser, je sais pas trop ce que font les autres devs.
Perso c'est du 90/10 IA/Humain mais c'est biaisé car je laisse l'IA écrire des tonnes de tests que j'aurais jamais écris a la main sinon. Je la laisse écrire le code business (pendant les meetings ) et je repasse dessus après.
 

 
Je watch le topoc, je peux essayer d'aider .

 
Opus 4.7 est sorti au fait https://www.anthropic.com/news/claude-opus-4-7

 
Tu peux partager ta ligne de commande?
 
Tu peux essayer ça pour augmenter la limite d'allocation VRAM?:

 
C'est pas permanent donc au pire tu reboot
 
est-ce que tu as bien cette ligne?

mmap = true est important

J’utilise ces paramètres :

Je vais tenter la commande pour la VRAM

 
Cool en 1M de contexte en plus (Opus 4.6 high est a 200k pour moi):  

 
Bon faut que je profite de Cursor avant qu'ils nous le virent
 

 
C'est le "-ngl 99" ton problème, vire le, ça dit de forcer tout le modèle en VRAM.  
 
Essaye juste:

nouveau niveau d'effort disponible : xhigh

yes le quota qui va s'évaporer

 
ouf

Je génère un mega prompt pour reprendre le nouveau dépot Redface2 avec analyse de Redface 1 & co.
Je compte pousser le curseur à fond

edit
redface2/drafts/deep-audit-prompt-v04.md at main · ForumHFR/redface2

Encore plus vite  

Je viens de lui faire bouffer le prompt  

 
putain ça nique tout

Qwen 3.6 en place, Unsloth Qwen3.6-35B-A3B-UD-Q5_K_M.gguf et avec la mémoire gagnée par rapport à coder-next, j'en ai profité pour passer à 128k de contexte.
Comme toujours le 35B est rapide, 35 tgs et 150 pps, la ou coder-next est tout juste a 10tgs et 70 pps.
Les tools marchent bien pour le moment et il a repris la ou j'ai stoppé coder-next.
 

 
On verra ou il en est demain matin sur le portage de Linux 7.0 sur Amiga 500

Bon ça m'a l'air pas mal du tout ce Qwen3.6-35B-A3B-UD-Q5_K_M!
 
Opencode utilise bien les tools et même les subagents tout en étant plus rapide a l’exécution. C'est un peut difficile a dire si le projet progresse plus vite mais je vais le laisser tourner.
 
Le vitesse a chuté un peu:

 
edit: je vais relancer avec Qwen3.6-35B-A3B-UD-Q6_K mais 64k de contexte pour voir.

Après quelques test qui m'on pris 24h au total
 

Maintenant tu arrêtes de jouer, tu mets gemma a la poubelle et tu prends Qwen3.6 Elle marche bien la BC-250?
 
T'avais pas une CG pour faire un cluster RPC? T'as pris quel fork pour TQ3?

Je test déjà une bc250 histoire de trouver les bons réglages  
Sinon j'ai plusieurs cg oui mais j'ai encore rien mis en place, le temps est le nerfs de la guerre en ce moment chez moi  

Pour le fork je te dit ça après le temps de rentrer,  c'est assez rude de trouver des trucs fonctionnelles pour la bc250  

Sinon j'ai tenté sans repast la carte, c'était un bbq   Donc j'ai repast et fait la technique de gitan a base de tartinade de graisse thermique ( pour les pads ) et j'ai gagné 14 degrés sur l'apu et éliminé les freeze de la gddr trop chaude  

Pour qwen 3.6 il est sorti après que j'ai démarré les tests   Et vus que j'avais scrypté pour tester 5 forks différents + une dizaine de configurations par models + un test de cache... Il y en avait pour presque 26h de tests  

J'ai repéré ça qui a l'air prometteur https://x.com/i/status/2044858346948464743

Pour le fork qui fonctionne sur la bc250 : https://github.com/TheTom/llama-cpp-turboquant

Questions specs je prends les retours pour un repo neuf (ou pas) & LLM. Comme specs.md. D'autres à suggérer ?

CLAUDE/AGENTS.md    
 
Pour inspiration