Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
4833 connectés 

 


Au quotidien je suis


 
21.9 %
 7 votes
1.  Satisfait de mon setup d'inférence
 
 
21.9 %
 7 votes
2.  ça va mais c'est pas assez rapide
 
 
6.2 %
 2 votes
3.  ça va mais mon IA manque de skills
 
 
0.0 %
        0 vote
4.  ça plantouille pas mal quand même
 
 
0.0 %
        0 vote
5.  quelle IA ? j'attend la generation de modèle super intelligence rated :o
 
 
12.5 %
 4 votes
6.  Je souhaite en priorité plus de tok/s
 
 
15.6 %
 5 votes
7.  Je souhaite en priorité plus de skills (cyber, reverse engineering, code ...)
 
 
9.4 %
 3 votes
8.  Je souhaite en priorité moins d'hallucinations
 
 
6.2 %
 2 votes
9.  Je souhaite en priorité plus de sécurité (prompt injection, trojan, vols de credentials ...)
 
 
6.2 %
 2 votes
10.  Je souhaite en priorité moins de code spaghetti :-(
 

Total : 36 votes (4 votes blancs)
Sondage à 3 choix possibles.
Ce sondage est clos, vous ne pouvez plus voter
 Mot :   Pseudo :  
  Aller à la page :
 
 Page :   1  2  3  4  5  ..  92  93  94  95  96  97
Page Suivante
Auteur Sujet :

Infra IA : aide au choix et troubleshot de LLM Locaux

n°55415
neo world
Posté le 02-11-2026 à 13:11:46  profilanswer
 

Reprise du message précédent :

alanou a écrit :

https://github.com/alanoo81/deepsee [...] x-cmp170hx
 
Ma recette pour Deepseek v4.1 Flash 1017 avec 4 x CMP 170hx
 
Basée sur la recette la plus utilisée par la communauté.
Experts 2 bits remplacés par 3 bits (essayé les 4 bits, pas de changement de qualité au delà des mesures de bruit).
KV cache compact, lossless.
 
Meilleure qualité (particulièrement en FR), meilleur KV pool, même vitesse (280 tk/s en c=1, 600+ en c=8).
 


Propre ! :D

n°55417
moyen_moin​s
chat réincarné
Posté le 02-11-2026 à 13:16:55  profilanswer
 


c'est un radxa A7Z en version 4GB
je m'étais dit que pour home assistant pour chez mes parents à la montagne, ça aurait été suffisant (largement) mais t'es sur du full diy car le support de Allwinner... :sarcastic:

n°55420
neo world
Posté le 02-11-2026 à 13:33:40  profilanswer
 

NPU 3 tops. C’est vraiment les fonds de tiroir. J’aime :D

n°55421
the_fennec
f3nn3cUs z3rd4
Posté le 02-11-2026 à 14:10:06  profilanswer
 

pich_mu a écrit :


 
Ok merci  :jap:  je vais essayer strata. C’est un ollama/LM Studio like ?
 
Quand tu dis que tu utilise Claude code, tu n’a pas un setup 100% local ?
 
Édit : de ce que je comprend, Strata est mieux que LM Studio pour faire tourner de gros modèle, mais je vais être limité par ma vram si j’importe de gros modèle, non ? Et si je balance entre ram et vram les perfs vont en prendre un coup ?


 
Oui, Strata c'est un peu comme ollama/LM Studio, mais dédié a faire tourner Qwen 3.8 Flash Next uniquement (et DS4 aussi).
 
Non, j'ai Claude code en 100% local qui utilise Strata pour l'inférence.
 
Comme Strata est très optimisé il va vraiment très vite. Sur ma config avec une 4060Ti 16GB, un Ryzen 5650GE et 36GB de RAM, j'ai un prefill a 1000/s et la génération 60/s sur Gryo-S (plus de 100 sur Q2). Avec ta config tu devrais être beaucoup plus rapide. La différence c'est que j'ai une VM dédiée pour l'inférence et d'autres avec mon/mes agents.


---------------
Faudra que je teste un jour :o
n°55423
the_fennec
f3nn3cUs z3rd4
Posté le 02-11-2026 à 14:15:13  profilanswer
 

moyen_moins a écrit :


c'est un radxa A7Z en version 4GB
je m'étais dit que pour home assistant pour chez mes parents à la montagne, ça aurait été suffisant (largement) mais t'es sur du full diy car le support de Allwinner... :sarcastic:


 
OK, je connaissait pas. J'avais regardé des SBC NPU mais ça m'a paru super chère pour ce que c'est, et trop de trucs en cours :o


---------------
Faudra que je teste un jour :o
n°55424
alanou
Remembering M.P.
Posté le 02-11-2026 à 14:29:34  profilanswer
 

moyen_moins a écrit :


c'est un radxa A7Z en version 4GB
je m'étais dit que pour home assistant pour chez mes parents à la montagne, ça aurait été suffisant (largement) mais t'es sur du full diy car le support de Allwinner... :sarcastic:


 
C'est ce que j'ai mis dans mon hack de tondeuse robot  :o


---------------
Bolidage tête rouge - ateliers certifiés ISO0069
n°55425
moyen_moin​s
chat réincarné
Posté le 02-11-2026 à 14:43:41  profilanswer
 

neo world a écrit :

NPU 3 tops. C’est vraiment les fonds de tiroir. J’aime :D


pour faire du frigate, ça paraissait suffisant :D

the_fennec a écrit :


 
OK, je connaissait pas. J'avais regardé des SBC NPU mais ça m'a paru super chère pour ce que c'est, et trop de trucs en cours :o


le NPU est pas super puissant mais pour faire du traitement de flux video (comme frigate), ça peut faire un mimum.

alanou a écrit :


 
C'est ce que j'ai mis dans mon hack de tondeuse robot  :o


ah ? dis m'en plus :)
t'avais besoin de puissance ou du NPU dans le bon format (l'A7Z est en format pi W) ?

n°55430
alanou
Remembering M.P.
Posté le 02-11-2026 à 15:56:59  profilanswer
 

moyen_moins a écrit :


ah ? dis m'en plus :)
t'avais besoin de puissance ou du NPU dans le bon format (l'A7Z est en format pi W) ?


 
 
Au début oui, mais en pratique j'ai un peu changé quand le projet a avancé
 
J'utilise moins le NPU car j'ai une MaixCAM Lite qui suffit à reconnaître ce qu'il faut, et consomme moins (l'archi c'est Maixcam avec Yolov11 + Lidar + GNSS RTK, fork maison d'Openmower.
Il y'a aussi une sorte de closed loop, une des caméras Frigate filme le jardin et sécurise les comportements de la tondeuse en la trackant + en cas de doute à la reco visuelle, la tondeuse demande son avis en offload à mon petit serveur PVE de ma baie réseau (celui qui gère NPM + Frigate + HA, pas le gros build IA)
 
Dans la prochaine version je mettrais probablement plutot un des Uno Q que j'ai


---------------
Bolidage tête rouge - ateliers certifiés ISO0069
n°55432
moyen_moin​s
chat réincarné
Posté le 02-11-2026 à 16:08:37  profilanswer
 

j'ai vu une vidéo de greatscott sur YT où il pilote un robot qui filme là où il va afin de rester tout le temps sur l'herbe : https://www.youtube.com/watch?v=uDfdo2zfs88
a priori, le truc qui marchait le mieux, c'était bien sa Maix Cam :jap:

n°55433
alanou
Remembering M.P.
Posté le 02-11-2026 à 16:14:27  profilanswer
 

moyen_moins a écrit :

j'ai vu une vidéo de greatscott sur YT où il pilote un robot qui filme là où il va afin de rester tout le temps sur l'herbe : https://www.youtube.com/watch?v=uDfdo2zfs88
a priori, le truc qui marchait le mieux, c'était bien sa Maix Cam :jap:


 
Oui je l'ai vue aussi il y'a quelques semaines, techniquement c'est proche, sauf que je suis parti d'un vieux robot tondeuse existant (Flymo 1200R à fil périphérique)
 
 
Cadeau de validation agentique de mon repo DSv4.1F : https://alsaia.com/silicon-strike/
 
Have fun (je conseille l'english pour mieux profiter du fait qu'il est pas si naze en humour)


---------------
Bolidage tête rouge - ateliers certifiés ISO0069
n°55435
pich_mu
Posté le 02-11-2026 à 16:21:02  profilanswer
 

the_fennec a écrit :


 
Oui, Strata c'est un peu comme ollama/LM Studio, mais dédié a faire tourner Qwen 3.8 Flash Next uniquement (et DS4 aussi).
 
Non, j'ai Claude code en 100% local qui utilise Strata pour l'inférence.
 
Comme Strata est très optimisé il va vraiment très vite. Sur ma config avec une 4060Ti 16GB, un Ryzen 5650GE et 36GB de RAM, j'ai un prefill a 1000/s et la génération 60/s sur Gryo-S (plus de 100 sur Q2). Avec ta config tu devrais être beaucoup plus rapide. La différence c'est que j'ai une VM dédiée pour l'inférence et d'autres avec mon/mes agents.


 
Ça marche, merci  :jap:  
 
Je vais essayer Strata et conserver LM-Studio en //, pour voir au début et comparer les deux modèles

n°55439
minux
On Linux ...
Posté le 02-11-2026 à 16:24:14  profilanswer
 

alanou a écrit :


 
Oui je l'ai vue aussi il y'a quelques semaines, techniquement c'est proche, sauf que je suis parti d'un vieux robot tondeuse existant (Flymo 1200R à fil périphérique)
 
 
Cadeau de validation agentique de mon repo DSv4.1F : https://alsaia.com/silicon-strike/
 
Have fun (je conseille l'english pour mieux profiter du fait qu'il est pas si naze en humour)


Je te remercie pas, tu as pourris ma productivité de l'aprem :o
 
https://rehost.diberie.com/Picture/Get/f/566987
 
Mais j'adore  [:rofl]


---------------
Root des Google Pixel | Mes linux : 2002: Mandrake -> 2005: Ubuntu -> 2010: Arch | Mes smartphones
n°55448
crazytiti
http://crazytiti.free.fr/
Posté le 02-11-2026 à 18:33:15  profilanswer
 

Ah bordel j'ai des course's à aller faire moi !
Sinon c'est rigolo j'ai fait faire un shoothemup à Qwen et j'ai les mêmes défaut que toi : incohérence visuelle et téléportation d'objets.

 

http://crazytiti.free.fr/jeuxia/

 

Je valide l'humour il est bien sympa
https://rehost.diberie.com/Picture/Get/f/567015

Message cité 1 fois
Message édité par crazytiti le 02-11-2026 à 18:33:36

---------------
Le PC est une drogue... Mes modèles 3D qui me rapportent des points :-D https://makerworld.com/fr/@crazytiti https://www.printables.com/fr/@Crazytiti_1456354
n°55449
alanou
Remembering M.P.
Posté le 02-11-2026 à 18:43:12  profilanswer
 

crazytiti a écrit :

Ah bordel j'ai des course's à aller faire moi !
Sinon c'est rigolo j'ai fait faire un shoothemup à Qwen et j'ai les mêmes défaut que toi : incohérence visuelle et téléportation d'objets.
 
http://crazytiti.free.fr/jeuxia/
 
Je valide l'humour il est bien sympa
https://rehost.diberie.com/Picture/Get/f/567015


 
 
J'ai pas trop vu de soucis visuellement
Les deux versions sont du oneshot, je lui ai fait aucun retour ni aucune modif post première livraison. C'est pas si mal je pense.
 
Dans Silicon Strike 2 y'a un item éqique qui est "Intact 12VHPWR connector" ou un truc du genre, je l'ai vu passer dans sa trace de réflexion :o


---------------
Bolidage tête rouge - ateliers certifiés ISO0069
n°55452
moyen_moin​s
chat réincarné
Posté le 02-11-2026 à 18:48:55  profilanswer
 

J'ai fait faire à qwen un petit jeu en HTML qu'on avait à l'époque aur les calculatrices TI, château ( http://www.metalazzo.fr/taf/chateau.html )
Ça fait partie de mes petits tests de LLM, ça et une blague du boulot.  :D

Message cité 1 fois
Message édité par moyen_moins le 02-11-2026 à 18:49:14
n°55456
crazytiti
http://crazytiti.free.fr/
Posté le 02-11-2026 à 19:08:25  profilanswer
 

L' attaque de château, évidemment !
Par contre jouabilité sur téléphone 0 je ne vois même pas l'air de jeu en mode paysage :pt1cable:
Et puis ça ne détrônera jamais le meilleur : scorched earth !


---------------
Le PC est une drogue... Mes modèles 3D qui me rapportent des points :-D https://makerworld.com/fr/@crazytiti https://www.printables.com/fr/@Crazytiti_1456354
n°55467
moyen_moin​s
chat réincarné
Posté le 02-11-2026 à 21:27:34  profilanswer
 

crazytiti a écrit :

L' attaque de château, évidemment !
Par contre jouabilité sur téléphone 0 je ne vois même pas l'air de jeu en mode paysage :pt1cable:
Et puis ça ne détrônera jamais le meilleur : scorched earth !


J'avais testé sur 2 tél différents et c'était OK. Je ferai un check plus tard  :jap:

n°55497
crazytiti
http://crazytiti.free.fr/
Posté le 02-11-2026 à 23:14:06  profilanswer
 

Alors peut etre que ça vient de mon FF dont je n'ai jamais réussi a replier la barre d'adresse quand il est en mode paysage.
Mais j'ai l'impression que même sans ça il n'y aurait pas assez d'espace :  
https://rehost.diberie.com/Picture/Get/f/567111


---------------
Le PC est une drogue... Mes modèles 3D qui me rapportent des points :-D https://makerworld.com/fr/@crazytiti https://www.printables.com/fr/@Crazytiti_1456354
n°55502
neo world
Posté le 03-11-2026 à 02:01:10  profilanswer
 

moyen_moins a écrit :

J'ai fait faire à qwen un petit jeu en HTML qu'on avait à l'époque aur les calculatrices TI, château ( http://www.metalazzo.fr/taf/chateau.html )
Ça fait partie de mes petits tests de LLM, ça et une blague du boulot.  :D


Je connaissais pas :D
 
Mais sauf incompréhension de ma part le gameplay est très basique :
- seul le 1er qui commence a une chance de gagner si la partie est parfaite (100% des tirs réussis)
- faut juste pas se faire chopper par le prof au moment de tirer parce que sinon c'est difficile à louper vu l'indice énorme avec la courbe d’atterrissage
- le truc au milieu c'est de la déco : tous les tirs sont en cloche si possible 100% de puissance pour optimiser les dégats
 
Bref si tu commences la partie tu es certain de gagner. Faudrait peut être mettre des règles en plus :
tu vois le début de la courbe mais pas la fin
evenement aléatoire qui pousse à gauche ou à droite le boulet (oblige à viser plus précisément pour que la distribution soit favorable
tirs simultanés avec une combinaison de touche : plus de second joueur mais la possibilité d'exprimer une bonne coordination pour envoyer le boulet en plus
 
mais sur le papier c'est intéressant et jouable

n°55503
neo world
Posté le 03-11-2026 à 02:01:41  profilanswer
 

crazytiti a écrit :

Alors peut etre que ça vient de mon FF dont je n'ai jamais réussi a replier la barre d'adresse quand il est en mode paysage.
Mais j'ai l'impression que même sans ça il n'y aurait pas assez d'espace :  
https://rehost.diberie.com/Picture/Get/f/567111


c'est une manière low budget de faire un mode difficile au jeu :o

n°55514
moyen_moin​s
chat réincarné
Posté le 03-11-2026 à 09:54:08  profilanswer
 

neo world a écrit :


Je connaissais pas :D
 
Mais sauf incompréhension de ma part le gameplay est très basique :
- seul le 1er qui commence a une chance de gagner si la partie est parfaite (100% des tirs réussis)
- faut juste pas se faire chopper par le prof au moment de tirer parce que sinon c'est difficile à louper vu l'indice énorme avec la courbe d’atterrissage
- le truc au milieu c'est de la déco : tous les tirs sont en cloche si possible 100% de puissance pour optimiser les dégats
 
Bref si tu commences la partie tu es certain de gagner. Faudrait peut être mettre des règles en plus :
tu vois le début de la courbe mais pas la fin
evenement aléatoire qui pousse à gauche ou à droite le boulet (oblige à viser plus précisément pour que la distribution soit favorable
tirs simultanés avec une combinaison de touche : plus de second joueur mais la possibilité d'exprimer une bonne coordination pour envoyer le boulet en plus
 
mais sur le papier c'est intéressant et jouable


faut couper laide à la trajectoire sinon, c'est trop facile oui :D
et "l'ia" à normal rate déjà pas beaucoup, faut pas se chier le 1er coup ;)

n°55515
moyen_moin​s
chat réincarné
Posté le 03-11-2026 à 09:55:33  profilanswer
 

crazytiti a écrit :

Alors peut etre que ça vient de mon FF dont je n'ai jamais réussi a replier la barre d'adresse quand il est en mode paysage.
Mais j'ai l'impression que même sans ça il n'y aurait pas assez d'espace :  
https://rehost.diberie.com/Picture/Get/f/567111


essaie de dezoomer dans firefox, me semble que j'avais résolu comme ça le pb quand je l'avais rencontré sous chrome [:paysan]  
j'aime pas trop FF sous android alors que c'est mon daily sur pc [:cupra]

n°55517
crazytiti
http://crazytiti.free.fr/
Posté le 03-11-2026 à 10:15:12  profilanswer
 

ok j'ai réussi a avoir tout l'écran mais impossible de plus dézoomer.
J'ai fait une partie : les animations rament :lol:  
https://rehost.diberie.com/Picture/Get/f/567156


---------------
Le PC est une drogue... Mes modèles 3D qui me rapportent des points :-D https://makerworld.com/fr/@crazytiti https://www.printables.com/fr/@Crazytiti_1456354
n°55519
xenom
Plaquettes chaussettes
Posté le 03-11-2026 à 10:19:11  profilanswer
 

Un article intéressant : optimisation des poids d'un modèle par un autre modèle sans réentrainement  :o  
https://rikiyat.github.io/blog/weig [...] ogramming/

Message cité 1 fois
Message édité par xenom le 03-11-2026 à 10:19:34
n°55528
moyen_moin​s
chat réincarné
Posté le 03-11-2026 à 10:56:24  profilanswer
 

quelqu'un a essayé la dernière version de strata avec deepseek v4.1 flash coder ? :o
c'est gros, c'est pas aussi rapide que qwen 3.8 FN mais si les résultats sont nettement meilleurs... [:paysan]

n°55529
the_fennec
f3nn3cUs z3rd4
Posté le 03-11-2026 à 10:56:55  profilanswer
 

xenom a écrit :

Un article intéressant : optimisation des poids d'un modèle par un autre modèle sans réentrainement  :o  
https://rikiyat.github.io/blog/weig [...] ogramming/


 
Intéressant, ça permettrait d'avoir des modèles qui s'auto-optimisent pour un problème précis, une sorte de fine-tuning à la volée. Ça s'inscrit dans les idées vues précédemment de se passer du contexte et de modifier les poids directement, ou même de faire de l'ablitération à la volée.
 
Le problème étant que ça ne peut pas être permanent, rien ne dit que le changement est bon pour le modèle pour autre chose, c'est comme les fine-tunings qui benchmaxx mais font de la merde avec les vrais problèmes.


---------------
Faudra que je teste un jour :o
n°55530
the_fennec
f3nn3cUs z3rd4
Posté le 03-11-2026 à 11:00:44  profilanswer
 

moyen_moins a écrit :

quelqu'un a essayé la dernière version de strata avec deepseek v4.1 flash coder ? :o
c'est gros, c'est pas aussi rapide que qwen 3.8 FN mais si les résultats sont nettement meilleurs... [:paysan]


 
Faut 64GB de RAM j'imagine?
Dans le doute j'ai mis a DL quand même :o

Message cité 1 fois
Message édité par the_fennec le 03-11-2026 à 11:08:09

---------------
Faudra que je teste un jour :o
n°55532
moyen_moin​s
chat réincarné
Posté le 03-11-2026 à 11:09:51  profilanswer
 

crazytiti a écrit :

ok j'ai réussi a avoir tout l'écran mais impossible de plus dézoomer.
J'ai fait une partie : les animations rament :lol:  
https://rehost.diberie.com/Picture/Get/f/567156


punaise, c'est quoi ton téléphone ? :(
j'ai essayé sur ma tablette qui a firefox d'install et oui, ça rame un peu niveau animation, alors que c'est pas une petite config...  [:transparency]  
par contre, j'ai plus le problème du bandeau en bas après la mise à jour proposée :o

n°55534
moyen_moin​s
chat réincarné
Posté le 03-11-2026 à 11:50:30  profilanswer
 

the_fennec a écrit :


 
Faut 64GB de RAM j'imagine?
Dans le doute j'ai mis a DL quand même :o


tu nous diras :o
faut que je bosse un peu quand même aujourd'hui [:tinostar]

 Page :   1  2  3  4  5  ..  92  93  94  95  96  97
Page Suivante

Aller à :
Ajouter une réponse
 

Sujets relatifs
[Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & cosécurité de l'IA / agentique et des Devs en roue libre
Plus de sujets relatifs à : Infra IA : aide au choix et troubleshot de LLM Locaux


Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)