Reprise du message précédent :

c'est d'ailleurs comme ça qu'Yvele avait réussi à hacker le forum
(sa porte d'entrée était un fichier Flash qu'il avait uploadé sur le serveur en lui mettant une extension .gif, le forum a cru qu'il uploadait un smiley car il testait uniquement l'extension pour voir si c'était une image ou pas )
la bonne époque

On pouvait même le récupérer avec une image vérolé (un gif qui ne l'était pas), et feu D.ieu c'était fait avoir, heureusement que c'était un gentil-hacker hfrien

EDIT : oups, j'ai oublié de tourner la page,  
il me semble que l'histoire complète est dispo sur un topic, faudrait que je retrouve
d'autres failles avaient été trouvé sur le site par la même occasion, notamment via la base overclocking.

 
oui et non, hacké oui, mais de mémoire c'etait dans le profil que le mot de passe était en claire aussi, pour la modification.
le cookie, même en md5, on peut toujours le récupérer le re-utiliser, pas besoin d'avoir le mot de passe en clair. justement le but des sessions c'est de ne stocker le mot de passe null part et ensuite d'avoir des variables de session ou vous pouvez y stocker des infos en sécurité là.

Ici : https://forum.hardware.fr/hfr/Progr [...] 3813_1.htm

J'ai commandé un bon ventilo de 120mm, ça throttle pas mal!

 
Olivie a posté sur les Turboquant dans le topic "texte", ya un fork de llama qui donne quelques résultats:
https://github.com/unixsysdev/llama-turboquant
 
TLDR, Q4 avec la précision de FP16 pour 1% de perf, je dis pas non!
Il n'y a que les keys pour le moment, je testerais le fork si c'est pas mergé rapidement.

Faut aussi penser au pad thermiques, j'ai vus des gars sur reddit avec presque 15 degrés de gains !

J'ai galéré a virer la backplate et c'était propre en dessous. J'ai pas réussi a décoller le radiateur, j'ai eu peur de tout péter, les ailettes sont vraiment très fragiles. J'ai pris un Artic p12, si ça throttle encore je vais voir, mais je pense que ça devrait le faire.

Faut pas hésiter a chauffer
Le problème c'est pas tant si c'est propre, c'est surtout que c'est des pads assez merdiques avec une durée de vie assez faible, c'est des cartes qui ont du se taper 4/5ans de mining dans la tronche donc c'est pas surprenant
 
Après faut aussi se faire un tunnel, poser a l'arrache comme sur ta photos le flux d'air doit pas être top ( ou alors il faut ouvrir les ailettes du radiateur).

J'ai imprimé un support pour le ventilo, mais c'est pour un 120mm et j'ai que des 80mm, d’où l'Artic p12 en commande. Donc pour le moment c'est pourris, mais je verrais un fois le P12 en place. A terme je veux faire un boitier "propre" avec un bon flux pour la carte et l'alim.

Je vais voir pour coller un radial je pense, en pression statique c'est clairement plus intéressant. Bon par contre le bruit...  

C'est dans mon sous-sol, mais comme j'y reste pour bricoler je veux pas que ça soit trop bruyant. C'est pour ça que j'ai pas récup de server du taf, même si je regrette un peu de pas avoir pris une ou deux lames dual Xeon avec 300GB de RAM

Vous allez dire que je suis chiant, mais faudrait pas créer un topic dédié "IA rig & setup" ? je pense que ça intéresserait pas mal de monde (dont moi )

J'avoue que je me posais aussi la question de faire un topic dédié setup IA local  

J'ai un plan pour 500gb de ddr3 ecc... Mais bon dans la pratique même en couplant un gpu ça reste extrêmement lent ( et pas utilisable je pense )

Pourquoi pas

Va falloir un agent pour regrouper toutes les infos de tous les topics IA

Bof pour un topic de plus, j'avais proposé de renommer ce topic en topic technique, histoire de mettre les mains dans le cambouis ici.

 
C'est vrai que pour le moment avoir quelques layers ou du contexte qui de retrouve en RAM ça se sent pas trop, mais 80% du modèle ça le fait moins.

Je m'attendais à ce que l'on parle un peu plus de workflow de dev/intégration/tests, build de skills et plugins, orchestration multi-agents, intégration à github et autres, usage en équipes de dev...
Mais ça semble pas concerner beaucoup de monde donc oui, un nom de topic plus orienté technique, pourquoi pas

Pas de soucis pour ça . J'ai déjà pas mal parlé de mon setup du taf' sur le topic génération de texte, mais je peux remettre les bases si ya des gens que ça intéresse! N’hésitez pas a partager!
 
Si je parle de mon setup local ici, c'est que je veux que mon agent code tout seul en 100% local.

Pourquoi les boites ne s’y sont pas déjà mis à utiliser des modèles locaux ?

 
Ya une grosse différence entre faire marcher un modèle bidouillé pour un utilisateur sur du matos maison et supporter un cluster de prod et maintenir tout le merdier qui va avec. Même sur un Mac Studio avec plein de VRAM, la config n'est pas évidente je pense.
 
Après quand ça deviendra une option viable, je pense que les modèles open-weight vont devenir de plus en plus rare.

Article sur les Turboquants: https://arstechnica.com/ai/2026/03/ [...] g-quality/

il faut un paquet de resource, et ce n'est pas trivial a installer /maintenir

Parce que c'est pas rentable.
Le meilleur model en local versus un abonnement, le match est plié d'avance.

Le local est pertinent dans une toute petite niche qui finalement ne concerne que les amateurs dans 99% des cas.

ou si tu as des contraintes légales , impossible de garantir quoi que ce soit avec des serveurs distants

Et encore il y a largement de quoi se démerder juridiquement pour ne pas être inquiéter, même l'armée américaine utilise des tiers

Je n'ai aucun soucis à ce que ce topic traite également des setup locaux (homelab ou cadre pro), c'était juste une proposition et en fait avoir un topic plus orienté tech permet de le faire vivre un peu plus.
Perso j'ai dé-drap le topic LLM / génération de texte (si c'est le même ? ) tellement je le trouvais inintéressant, rempli de blabla innutils, jugement de valeurs, concours de mÿthes et c/c d'annonce twitter . Bref du bruit /

Le coût, le temps.

J'avais dit que c'était une mauvaise idée de tout séparer. Ca a commencé à pinailler parce que ca parlait trop d'Openclaw, puis ca pinaillait parce que ca parlait de dev...maintenant c'est un peu 3 topik mort  

 
Oui c'est le même, je regarde toujours, mais je répondrais plus sauf sujet technique intéressant, je me suis fais troll comme un bleu .

Tant que les juges n'ont pas tranché c'est un flou juridique
Dans pas mal de domaines c'est rédhibitoire, du moins officiellement et dans les audits

 
Effectivement je pensais dans un premier temps sécurité des données et guerre économique…
 
Mais aussi la plus value qu’il y aurait à avoir un Alfred dans chaque boite qui soit entrainé sur toutes les données de l’entreprise.

Disons que je me pose la question suivante :
Petit gpu avec 12gb de vram ( coucou rtx3060 ), modèle MoE et utilisation des 512gb de ram pour charger le reste du modèle ?

beaucoup de bureaucratie qui bloque
des gens qui n'y connaissent rien qui disent des phrases réchauffée "c'est pas mature" " c'est pas ceci" et ne font rien
la direction technique qui ne veut pas se faire dépasser par la base
les managers qui ne veulent pas se faire grand remplacer par des ingénieurs hyper productifs

l'offload (décharger des données dans la ram) fait perdre en performance, on va dire que c'est moins optimal.

entre la sortie de turboquant + les gpu 32 gb qui vont se démocratiser en 2026, si vous voulez des bonnes performances visez directement des modèles qui tiennent dans 32 gb et déjà vous avez beaucoup de possibilités
après pour un build a budget réduit, je conseillerait .... *** thinking ***
difficile de recommander la 5070 ti 16 go (950 euros) car si les gpu intel 32 gb sont prochainement supportés sur du ollama + cuda, les gpu intel vont être beaucoup plus intéressants

perso je fais des tests jusqu'ici avec les moyens du bord : une RTX 4070 12 gb

 
J'étais persuadé de t'avoir répondu
 
Le problème c'est que la répartition des layers est statique et qu'on peut/sait pas choisir lesquels vont ou. Avec -ngl tu peux dire combien de layers vont sur le GPU (et avec -ts vers les RPC), mais pas plus a ce que je sache. Donc rien ne te garantis que les layers MoE dont tu as besoin iront sur le GPU. Niveau perf, je tombe a moins de 1 tg/s sur CPU (Ryzen 3600).
 
edit: en fait non:
https://unsloth.ai/docs/models/tutorials/qwen3-next
 

 
Après si tu as déjà la config, ça se teste .
 
De mon coté j'ai upgrade llama cpp, et il y a un bug dans RPC J'ai rollback le changement et ça remarche, maintenant c'est Openclaw qui burp sur les tool calls xml .
edit: llama cpp a un bug dans le parsing xml. J'ai revert une vieille version et ça remarche.
 

Petit test 100% local avec VScode et Roo qui pointe vers mon llama cpp avec Qwen-Coder-Next. Je lui demande une petite modif sur un projet Java maison, ça marche nickel!! C'est assez réactif, il charge beaucoup moins le context que Openclaw, même si c'est pas comparable.

Je sais pas si vous avez vu mais Claude maintenant en heure creuse le quota de 5h se mangera moins vite mais en heure pleine il partira plus vite (sans pour autant toucher au quota de la semaine).

Donc maintenant il faut travailler a mi temps  

Et dans quelques mois ils pleureront que les LLM chinois mangent trop de parts de marché, mais quand tu vois les perfs de Minimax M2.7 pour le prix proposé, ils ont raison d'avoir peur mais ne semblent pas vraiment vouloir rester concurrentiels...

ET niveau confidentialité ça donne quoi ?
 
Claude code reste une référence dans le code (et aussi grâce a son outil cli), c'est quoi qui concurrence Opencode ?