Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
4745 connectés 

 


Quel est votre usage principal de l'IA local ?
Sondage à 2 choix possibles.
Ce sondage expirera le 01-08-2026 à 10:00




Attention si vous cliquez sur "voir les résultats" vous ne pourrez plus voter

 Mot :   Pseudo :  
  Aller à la page :
 
 Page :   1  2  3  4  5  ..  19  20  21  22  23  24
Page Suivante
Auteur Sujet :

Infra IA : aide au choix et troubleshot de LLM locaux

n°41657
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 09-07-2026 à 12:22:32  profilanswer
 

Reprise du message précédent :
Non , j'ai deux core qui sont HS.
Si AMD a bloqué des cores c'est pas pour rien à mon avis, ca devait être des déchet de la prod pour la ps5, donc c'est de la loterie.

 

D'ailleurs utilise pas à l'aveugle le patch kernel qui unlock direct les 40, après c'est une boucle de la mort pour en sortir en SSH si t'a le moindre problème :O

 

Je suis partis là dessus https://github.com/WinnieLV/bc250-cu-live-manager
Et mappage custom en isolant le CU hs.

 

Bon le fork donne rien sur la bc250, j'ai coupé court car j'ai un autre axe d'améliorations rapides :
de base j’étais souvent en throttle avec blower+fan d'origine, donc j'avais castré les fréquences gpu a 1500mhz et descendus au max le vcore.

 

Avec le nouveau système de refroidissement ( rad ouvert + P12 pro) j'ai largement plus de marge thermique, donc maintenant le but c'est de monter au max de fréquences possible sans tout cramer :O

 

https://i.imgur.com/0bnATCO.png

 

https://i.imgur.com/DKPuILL.png


Message édité par Tronklou le 09-07-2026 à 14:17:02

---------------
Victime de girafophobie, mais se soigne.
n°41658
the_fennec
f3nn3cUs z3rd4
Posté le 09-07-2026 à 14:26:22  profilanswer
 

J'utilise aussi bc250-cu-live-manager, pas fan du patch kernel pour la même raison que toi. J'ai les deux qui passent à 40 CU, pas vu de soucis pour le moment.
J'ai pas de GUI donc je devrais pas avoir de soucis avec le patch kernel, mais un service c'est toujours mieux pour les upgrades de kernel.
 
J'ai un P12 pro à 100% sur chaque avec cet adaptateur, mais juste la partie ventilo, pas le boîtier complet:
https://makerworld.com/en/models/2219947-amd-bc250-case
 
Je suis a 350-2000Mhz max avec un UV à tous les niveaux. C'est stable à 100%, mais c'est très rare qu'une carte soit a 100% GPU très longtemps a cause du RPC.
 
J'ai prévu de repaste quand je ferais un boîtier propre, un jour.


---------------
Faudra que je teste un jour :o
n°41662
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 09-07-2026 à 15:28:25  profilanswer
 

J'ai pas eu autant de chance que toi, même avec un adaptateur ça chauffais vraiment fort.
J'ai repast + ouvert le rad et le p12 en direct du coup.
 
Niveau loterie silicium je suis aps trop à plaindre sur la premiere : elle tiens max 2300mhz pour 1v, mais ca chauffe beaucoup trop :D
 
Le sweetpost c'est 2100/910
 
https://i.imgur.com/H91qZzL.png


---------------
Victime de girafophobie, mais se soigne.
n°41665
the_fennec
f3nn3cUs z3rd4
Posté le 09-07-2026 à 17:39:09  profilanswer
 

Tronklou a écrit :

J'ai pas eu autant de chance que toi, même avec un adaptateur ça chauffais vraiment fort.
J'ai repast + ouvert le rad et le p12 en direct du coup.

 

Niveau loterie silicium je suis aps trop à plaindre sur la premiere : elle tiens max 2300mhz pour 1v, mais ca chauffe beaucoup trop :D

 

Le sweetpost c'est 2100/910

 

https://i.imgur.com/H91qZzL.png

 

J'ai pas testé plus de 2ghz.
Tu as mis le ventilo a 100% dans le bios? Sinon il souffle vraiment pas fort.


---------------
Faudra que je teste un jour :o
n°41666
the_fennec
f3nn3cUs z3rd4
Posté le 09-07-2026 à 17:40:42  profilanswer
 

C'est quoi qui est a 850/910?


---------------
Faudra que je teste un jour :o
n°41671
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 09-07-2026 à 20:19:14  profilanswer
 

Les mV au dessus de 910 ça tabasse fort vus que le ratio est d'environ 0,43 il faut tout de suite augmenter beaucoup pour aller chercher les derniers mhz.

 

Après en watercooling ça pourrait être jouable mais ça devient un peu le contraire fun setup lowcost  :pt1cable:

 

Oui j'avais bien mis dans le bios a 100% , au début j'avais même utilisé un adaptateur sata  :D


---------------
Victime de girafophobie, mais se soigne.
n°41676
b-tzu
Geek a toute heure...
Posté le 09-07-2026 à 21:22:27  profilanswer
 

On fait quoi avec un bc250 seul? Que je vois si ça sert d’en acheter un


---------------
Topic Ventes || Topic Jeux Vidéos || Topic Téléphonie (Rien pour le moment)
n°41679
the_fennec
f3nn3cUs z3rd4
Posté le 09-07-2026 à 21:33:54  profilanswer
 

Tronklou a écrit :

Les mV au dessus de 910 ça tabasse fort vus que le ratio est d'environ 0,43 il faut tout de suite augmenter beaucoup pour aller chercher les derniers mhz.
 
Après en watercooling ça pourrait être jouable mais ça devient un peu le contraire fun setup lowcost  :pt1cable:  
 
Oui j'avais bien mis dans le bios a 100% , au début j'avais même utilisé un adaptateur sata  :D


 
Clair que le WC OSEF, la carte a tenu des années a miner des DTCcoin, pas de raison qu'elle crame maintenant. C'est pour ça que j'ai mis des alims a deux balles, il faut pas mettre plus que du matos qu'on a déjà,sauf pour le fun :o
 

b-tzu a écrit :

On fait quoi avec un bc250 seul? Que je vois si ça sert d’en acheter un


Charger un modèle de 14GB seul, pas plus, ou une steam machine :o
C'est un bon moyen de jouer sans risquer plus de 150€. Je pense que le bon rapport token/perf au dela, c'est une 5060TI 16GB ou son équivalent AMD.


---------------
Faudra que je teste un jour :o
n°41680
Pipould's
Posté le 09-07-2026 à 21:34:31  profilanswer
 

the_fennec a écrit :

 

Clair que le WC OSEF, la carte a tenu des années a miner des DTCcoin, pas de raison qu'elle crame maintenant. C'est pour ça que j'ai mis des alims a deux balles, il faut pas mettre plus que du matos qu'on a déjà,sauf pour le fun :o

 


 
the_fennec a écrit :


Charger un modèle de 14GB seul, pas plus, ou une steam machine :o
C'est un bon moyen de jouer sans risquer plus de 150€. Je pense que le bon rapport token/perf au dela, c'est une 5060TI 16GB ou son équivalent AMD.

 

9060 XT 16GB

n°41682
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 09-07-2026 à 21:49:48  profilanswer
 

Pour moi le meilleur bon plan c'est une 3060 12gb si t'a un pc de dispo et assez de ram.
La bc250 c'est vraiment intéressant si t'a pas de pc pour accueillir un gpu ( ou que tu aime rigoler comme moi et the fennec)


---------------
Victime de girafophobie, mais se soigne.
n°41684
b-tzu
Geek a toute heure...
Posté le 09-07-2026 à 22:28:21  profilanswer
 

J’ai déjà une 3080 12Go, difficile de justifier un achat…  
Alors qu’un BC250 C’est pas cher


---------------
Topic Ventes || Topic Jeux Vidéos || Topic Téléphonie (Rien pour le moment)
n°41685
XaTriX
Posté le 09-07-2026 à 22:31:52  profilanswer
 

Seulement 150€ ?
On en trouve sur AE ?


---------------
[:dawa]
n°41686
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 09-07-2026 à 22:39:31  profilanswer
 

b-tzu a écrit :

J’ai déjà une 3080 12Go, difficile de justifier un achat…  
Alors qu’un BC250 C’est pas cher


 
Tu remet 180e et t'a une 3060 en plus, 24gb de vram au total tu te fait déjà plaisir.
 
Une bc250 tu vas etre limité a environ 14gb, après c'est du rpc et c'est pas vraiment rapide.


---------------
Victime de girafophobie, mais se soigne.
n°41718
the_fennec
f3nn3cUs z3rd4
Posté le 10-07-2026 à 09:39:29  profilanswer
 

XaTriX a écrit :

Seulement 150€ ?
On en trouve sur AE ?


 
Oui, faut la chopper en promo.  
Ma première je l'ai eu à 120€ la seconde a 130€. Mais les prix montent aussi pour ça; il y a un an c'était 90€, maintenant avec l'unlock des 40 CU (pas garantis!) ça monte encore.


---------------
Faudra que je teste un jour :o
n°41722
XaTriX
Posté le 10-07-2026 à 10:51:37  profilanswer
 

et on peut gamer dessus ? :o
j'ai pas de gpu :o


---------------
[:dawa]
n°41729
LibreArbit​re
La /root est longue
Posté le 10-07-2026 à 11:29:27  profilanswer
 

XaTriX a écrit :

et on peut gamer dessus ? :o
j'ai pas de gpu :o


Carrément, le premier usage c'est pour faire une Steam Machine (mon cas d'usage) :love:

 

https://www.reddit.com/r/BC250Gaming/

Message cité 1 fois
Message édité par LibreArbitre le 10-07-2026 à 11:29:37

---------------
Pharyo | Cinépite | Capvirage
n°41734
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 10-07-2026 à 12:23:00  profilanswer
 

https://github.com/JustVugg/colibri

 

Si vous voulez faire tourner glm5.2 avec juste 30gb de ram  :love:


---------------
Victime de girafophobie, mais se soigne.
n°41742
XaTriX
Posté le 10-07-2026 à 12:45:42  profilanswer
 

LibreArbitre a écrit :


Carrément, le premier usage c'est pour faire une Steam Machine (mon cas d'usage) :love:

 

https://www.reddit.com/r/BC250Gaming/


Vazy je veux ça moi :o


---------------
[:dawa]
n°41744
the_fennec
f3nn3cUs z3rd4
Posté le 10-07-2026 à 12:48:21  profilanswer
 

Tronklou a écrit :

https://github.com/JustVugg/colibri
 
Si vous voulez faire tourner glm5.2 avec juste 30gb de ram  :love:


 
Wut!
Très intéressant, en CPU pure c'est moins de 1 token/s, mais ya le support de CUDA déjà:
https://github.com/JustVugg/colibri/pull/16


---------------
Faudra que je teste un jour :o
n°41765
LibreArbit​re
La /root est longue
Posté le 10-07-2026 à 15:16:07  profilanswer
 

Attention, plus de 300 Go sur un NVMe dédié en ext4 ;)

 

Dommage de ne pas pouvoir capitaliser sur un GPU et offloader sur le CPU/mémoire...

Message cité 1 fois
Message édité par LibreArbitre le 10-07-2026 à 15:16:42

---------------
Pharyo | Cinépite | Capvirage
n°41768
Olivie
SUUUUUUUUUUUUUU
Posté le 10-07-2026 à 15:54:55  profilanswer
 

Pour les fans de qwen
 
https://img3.super-h.fr/images/2026/07/10/snapshot_1683939067423869399.jpg
 
https://huggingface.co/collections/unsloth/nvfp4


---------------

n°41769
Tronklou
❤❤ Vrp Bambulab à mi-temps ❤❤
Posté le 10-07-2026 à 16:12:24  profilanswer
 

Faut que je monte ma 3060 avec la 5070ti histoire de taper les 28gb de vram [:cerveau delight]


---------------
Victime de girafophobie, mais se soigne.
n°41777
Pipould's
Posté le 10-07-2026 à 18:29:03  profilanswer
 

Le nvfp4 ne marchera pas sur la 3060 non ?

n°41779
the_fennec
f3nn3cUs z3rd4
Posté le 10-07-2026 à 18:50:09  profilanswer
 

LibreArbitre a écrit :

Attention, plus de 300 Go sur un NVMe dédié en ext4 ;)
 
Dommage de ne pas pouvoir capitaliser sur un GPU et offloader sur le CPU/mémoire...


 
370Go! a voir si le NVME est 100% nécessaire?
 
J'ai posté juste au dessus le support de CUDA, il semble aussi y avoir des discussion pour Vulkan.


---------------
Faudra que je teste un jour :o
n°41781
neo world
Posté le 10-07-2026 à 18:59:00  profilanswer
 

sans NVME ce sera quand même vachement plus lent : "Cold starts are heavy on random reads (~11 GB/token)"  
 
imagine avec un SSD SAS / SATA ou un HDD  :cry:
 
Ce qui m'étonne c'est qu'ils ne se sont pas focalisés sur les MAC dernière génération (NVME PCI 5.0) dans un premier temps. Mais une version vulkan sur le strix halo ne me dérangerai pas non plus :o


Message édité par neo world le 10-07-2026 à 19:00:14
n°41782
the_fennec
f3nn3cUs z3rd4
Posté le 10-07-2026 à 19:07:13  profilanswer
 

"ils" c'est juste un dev qui fait son truc sur son laptop. Ya un autre qui a ajouté le support de CUDA et qui visiblement a une config plus costaude.
 
Dans un commentaire (ou le README) il dit que WSL2 est limité a 1GB/s donc mon SSD SATA est pas si loin avec ses 600MB/s :o
 
Quelques info d'évolution:
https://github.com/JustVugg/colibri/issues/19
 

Citation :

The one hard no: a Rust rewrite. colibrì's identity is a single C file you can read in an afternoon — gcc and go, no dependency tree. Performance-wise a rewrite buys nothing here: the hot paths are bounded by disk and memory bandwidth, not by the language. A Rust port as a sibling project elsewhere is of course fine, but the reference engine stays C.


 
LOL +100 :o


Message édité par the_fennec le 10-07-2026 à 19:08:59

---------------
Faudra que je teste un jour :o
n°41783
Quich
Pouet ?
Posté le 10-07-2026 à 19:07:27  profilanswer
 

J'ai une vieille machine (2x e5-2697v2 - pas d'AVX2) avec 256GB de ram à laquelle je peux ajouter un GPU.
Ils n'auraient pas moyen de faire l'inférence sur un GPU avec le modèle en ram plutôt ? :o
Après je pourrais faire un ramdisk sur ~240GB et le reste sur Nvme.


---------------
Feedback
n°41785
the_fennec
f3nn3cUs z3rd4
Posté le 10-07-2026 à 19:17:30  profilanswer
 

Ya le support de CUDA et un paramètre -ram, ça se teste, l'idéal serait du memory mapped IO pour éviter d'avoir a charger tout en ram d'abord.


---------------
Faudra que je teste un jour :o
n°41882
neo world
Posté le 11-07-2026 à 18:24:37  profilanswer
 

benchmark des outils de ligne de commande fm (fondation models) sur Mac OS 27 beta Mac Mini M4 pro vs Studio M3 ultra  (à noter qu'il y a aussi une offre cloud qui débite 3X plus rapidement) :
https://youtu.be/8vDuIVlfeV0
 
https://miro.medium.com/v2/resize:fit:1400/format:webp/1*0vqGpNDr5pA97V8_1sx8Wg.png
 
Y'en a qui ont Mac OS 27 ?

n°41893
yohaskan
Posté le 11-07-2026 à 20:53:18  profilanswer
 

Tomber sur ce gars qui a bench 42 generateur TTS :  
Site bien utile, possibilité d'écouter des rendu audio, ou de voter par comparaison  
 
https://5uck1ess.github.io/tts-bench/speed.html
 
https://i.ibb.co/dw6xpZQ1/image.png


Message édité par yohaskan le 11-07-2026 à 20:56:12
n°41908
TotalRecal​l
Posté le 11-07-2026 à 23:41:21  profilanswer
 

Ah ouais sacré boulot :eek:
Y a même des exemples en français [:huit]


---------------
Topic .Net - C# @ Prog
 Page :   1  2  3  4  5  ..  19  20  21  22  23  24
Page Suivante

Aller à :
Ajouter une réponse
 

Sujets relatifs
[Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & cosécurité de l'IA / agentique et des Devs en roue libre
Plus de sujets relatifs à : Infra IA : aide au choix et troubleshot de LLM locaux


Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)