Reprise du message précédent :
Hy4 qui a l’air très prometteur dans le tier GLM / Deepseek / Kimi :
https://hy.tencent.ai/research/hy4?langVersion=en
 
Pas encore de date de disponibilité des open weights mais c’est annoncé

 
Avec Strata j'ai pas eu un seul tool call foiré avant d'utiliser UD 3.1 IQ1, que ça soit GSQ-RCO en Q2 ou Gyro-S (ou M).

ce que j'appelle tool call foiré, c'est quand il doit s'y reprendre à 2 fois car le 1er coup, il a pas su ouvrir le fichier avec les bons arguments par exemple, qu'il les oublie ou qu'il a carrément pas fait comme il fallait du tout.

Moi c'est quand il s'arrête car Strata renvoie une erreur de syntaxe que le tool call. Genre un XML invalide.

par contre, il peut pas cracher sur ses ancêtres ce modèle, les interfaces, c'est du pur qwen tout craché.
peu importe le quant, c'est toujours la même chose

 
Bon ça va peut être régler mon soucis

ça commence à être sexy. Je vais surveiller l'arrivée des modèles en uncensored

migré cet aprèm

je veux bien ton retour du dflash vs MTP. J'avais demandé ici mais le retour était pas dingue ^^

perso, je trouve pas ça ouf, ça disait +5-6% vs MTP.  
sur les gros contexte, je trouve pas ça super flagrant.
l'avantage c'est que ça libère de la VRAM si j'ai bien compris, donc plus de place pour les experts

 
Pas besoin d'attendre:
https://github.com/Niko1221/Strata/ [...] by-default
 

 
C'est une des options du setup, mais j'ai pas testé

ah ouais le uncensor-o-matic

Sinon j'avance sur mon outil de benchmark : 128 épreuves désormais
 

 
4 modes d'évaluation : Low 65k tokens max pour la réponse, med 65k tokens max pour la réponse, High 65k tokens max pour la réponse et Max 128 ou 256k tokens de budget. Dans le budget thinking est toujours compris.
 
Y'a maintenant un editeur d'épreuves avec possibilité de les voir, importer ou exporter en MD (si vous êtes curieux de les voir pour faire votre propre moulinette qui les soumet à votre IA : faites péter vos MP )
 

 
Je vais continuer à faire évoluer les épreuves (plutôt orientés sur mon environnement notamment avec du debug de proxmox / truenas / hosts depuis le MCP de Pulse https://github.com/rcourtman/pulse , des morceaux de wazuh pour le monitoring sécu, Authentik pour le portail d'ID / marketplace familial etc/ , Nextcloud ... ) en espérant trouver plus de trous dans la raquette dans l'entrainement de Qwen 3.8 mais so far :  

ça vient de finir le run de 128 épreuves. Taux de réussite tous niveaux inclus :
 

 
 
je vous épargne les maths : en budget max il réussit 92,6% des épreuves (contre 84% en mode Xhigh budget 65K et 80,8% en mode Low thinking)

han c'est sympa ça

D'ailleurs pour ceux qui sont en DDR5, je peux vous conseiller de mettre du cooling sur la ram.  
 

 
Ma ram etait a 70c en inference, jamais vu autant... Avec Radiance.

propre !
 
Tu es passé à combien de degrés maintenant ? En naïf avec un simple ventilateur devant la RAM c'était juste trop moche (ça économisait pas mal de plastique de juste rajouter ce qu'il faut pour installer le ventilo face à la CM au lieu de faire un tunnel) ou c'est carrément moins efficace que ton tunnel ?  
 
pas de découpe à l'arrache ni de scotch de que le topic aime tant ...    

Je viens de tester "speed projection" ça me semble OK, il veux bien faire ce qu'il ne voulait pas faire et que ne voulait pas faire non plus une version "abliterated"

 
C'est peut être a cause de ton AIO, avec un rad CPU normal ta RAM reçoit de l'air.
 

 
Cool, t'as quel modèle? Dans la doc il est dit que ça marche pas avec Swift.

 
Je suis passe de 72 -> 45c.
 
Je devais ramener de l'air dans le boitier, sinon je n'ai que un ventilo de 120. Donc celui ci pousse de l'air dans le boitier aussi. Niveau plastique c'est ~150gr. T'as des versions direct sur la ram mais je voulais un truc visse au boitier et pas accroche a la ram...