Reprise du message précédent :

 
/HS
pour faire de l'IA locale chez moi, je peux te dire qu'il vaut mieux paramétrer ton modèle afin qu'il reste en VRAM car dès quer tu débordes sur la RAM cela ralentit de beaucoup la vitesse de "raisonnement". Car contre ce que je constate c'est que le gpu ne tourne pas à fond pour de l'ia ce n'est pas là le goulet d'étranglement. une GPU avec 24 Go de vram doit être correct (comme les 4090). Je ne sais pas ce que valent les GPU AMD dans ce domaine mais ils pourraient être bons (7900XTX avec 24 Go de ram ?).

Oui et non...certaine 5080 fe (stock) passent les 100•° avec la moitier de tes 600w... quand certaine msi ou assus n atteignent pas les 70 en 5090.

je connais mal la situation des 5080 mais je serai currieux d'avopir les hotspots en canicule de ceux qui ont des 5090 non FE. De ce que j'ai vu sur ce topic, j'ai jamais vu de hotspot @70 degres, plutot du 88 degres.

T en trouve plein sur reedit...
 
5090 astral 612w / 56 56 hotspot 63
Trio 72
 
Difference entre fe
https://hardwareand.co/actualites/b [...] rs-edition
 
5090 en dessous de la 5080... le rad est bien plus balaize.

 
   
 
du moment que ça tourne et les performances sont au rendez-vous.

Bah oui... apres je ne connais pas du tout l impact du hotspot sur la frequence... il.me semble que c'est seulement temp gpu/conso.
 
Et encore.. sur furemark a 360w je tombe a 2800mhz a 58° gpu alors qu'à 450w je reste au dessus des 3000mhz (3029 stock) malgres 65° sur le gpu...

 
 
de mon expérience, c'est le voltage gpu qui limite souvent avant le power limit au niveau de la frequence gpu.
 
sur ma FE, je tourne en jeu autour de 2950 et 3020 MHz avec une coubre de fréquence sinon c'est 2850 @ stock.

Le voltage joue sur la conso... je suis full stock.
Pl stock 360x, mac 450w. Rien touché d autre, apres oui si je baisse le voltage la conso va baisser et le fréquence seront maintenue plus haute meme a 360w.

Le hotspot c'est bien le point le plus chaud du GPU ?

Jusque la oui

oui, c est toujours mieux que le LLM soit full en vram (+ le context !). Les GPU AMD en IA ne valent rien pour le moment.