Reprise du message précédent :

 
/HS
pour faire de l'IA locale chez moi, je peux te dire qu'il vaut mieux paramétrer ton modèle afin qu'il reste en VRAM car dès quer tu débordes sur la RAM cela ralentit de beaucoup la vitesse de "raisonnement". Car contre ce que je constate c'est que le gpu ne tourne pas à fond pour de l'ia ce n'est pas là le goulet d'étranglement. une GPU avec 24 Go de vram doit être correct (comme les 4090). Je ne sais pas ce que valent les GPU AMD dans ce domaine mais ils pourraient être bons (7900XTX avec 24 Go de ram ?).

Oui et non...certaine 5080 fe (stock) passent les 100•° avec la moitier de tes 600w... quand certaine msi ou assus n atteignent pas les 70 en 5090.

je connais mal la situation des 5080 mais je serai currieux d'avopir les hotspots en canicule de ceux qui ont des 5090 non FE. De ce que j'ai vu sur ce topic, j'ai jamais vu de hotspot @70 degres, plutot du 88 degres.

T en trouve plein sur reedit...
 
5090 astral 612w / 56 56 hotspot 63
Trio 72
 
Difference entre fe
https://hardwareand.co/actualites/b [...] rs-edition
 
5090 en dessous de la 5080... le rad est bien plus balaize.

 
   
 
du moment que ça tourne et les performances sont au rendez-vous.

Bah oui... apres je ne connais pas du tout l impact du hotspot sur la frequence... il.me semble que c'est seulement temp gpu/conso.
 
Et encore.. sur furemark a 360w je tombe a 2800mhz a 58° gpu alors qu'à 450w je reste au dessus des 3000mhz (3029 stock) malgres 65° sur le gpu...

 
 
de mon expérience, c'est le voltage gpu qui limite souvent avant le power limit au niveau de la frequence gpu.
 
sur ma FE, je tourne en jeu autour de 2950 et 3020 MHz avec une coubre de fréquence sinon c'est 2850 @ stock.

Le voltage joue sur la conso... je suis full stock.
Pl stock 360x, mac 450w. Rien touché d autre, apres oui si je baisse le voltage la conso va baisser et le fréquence seront maintenue plus haute meme a 360w.

Le hotspot c'est bien le point le plus chaud du GPU ?

Jusque la oui

oui, c est toujours mieux que le LLM soit full en vram (+ le context !). Les GPU AMD en IA ne valent rien pour le moment.

Je ne crois pas que les GPU AMD ne valent "rien" en IA, vu qu'AMD a sorti la R9700 avec 32Go de VRAM specialement pour de l'I.A.

Je confirme vu l utilisation IA d une 7900 xtx par un collegue (pour avoir les 24 go…).

 
Oui, clito de petit nom  

 
Non c'est Charlie Sheen qui tire un poulet à l'arc
 
https://www.reddit.com/r/Archery/co [...] ken_arrow/

 
That ref  

y a aussi des carte chinoise inconnu a 32gb, meme une intel a 24gb.
Mais elles ne valent rien sans le support CUDA.
 
Donc a moins que ca ait change recemment ca doit pas etre efficient du tout.
 
Tien on a enfin un curve editor sous linux. C'etait un des seul truc qui manquait fasse a windows

https://github.com/ilya-zlobintsev/LACT
Il y a meme un mode remote control pour des pc headless, tres pratrique.

Si, elles valent quand meme quelque chose
Y'a pas que CUDA dans la vie, pour faire du calcul sur GPU tu as la librairie VULKAN
De toutes facons les inferences I.A. sont limitees par la bande passante VRAM, donc entre AMD et nVIDIA il n'y a pas de gros changements

 
Tu veux dire ROCm si on parle d'inférence et compagnie ? .

Non, Vulkan, J'utilise KoboldCpp et c'est base sur Vulkan, ca n'utilise pas ROCm

LM Studio qui fait tourner des modeles d'IA en local marche trés bien quelque soit le gpu. Il faut juste de la VRAM correspondant au modele souhaité... sinon ca rame.. grave...

 
Ok, car bon si on voulait un équivalent à CUDA ça aurait été plus ROCm qui me viendrait à l'esprit que Vulkan.

Bon... j'ai fait le fou (pour mon cas), ma 3060ti tirant un peu la gueule en 4K et ne voulant pas mettre 1000€ dans une cg, je me suis rabattu sur une 5070. J'ai attendu bien trop longtemps (manque de vigilance en 2025, je ne pensais pas à toutes ces explosions de prix).

Voyant que même les prix des 5070 étaient en train de s'envoler et que je vois aucun deal.... Je passe vite fait sur topachat. Et je vois en stock, une 5070 asus prime oc à 649€..... J'ai pas hésité longtemps et j'ai pris.

J'imagine qu'il y a un an on pouvait la trouver 100€ moins chère mais bon.... Quand je vois les autres modèles et sur de nombreux autres site où les 5070 approche voir dépasse les 800€ (les AMD RX9070/XT suivent le même envol). J'ai décidé de sauté le pas.

Je n'ai qu'un cpu AMD 5600X, je joue en 4K, je ne suis pas un gros gamers. J'ai pas besoin d'avoir tout au max. Assurément, j'aurais préféré avoir une cg avec 16gb de vram, mais bon.

Ca me fait quand environ un X2 niveau performance.

Ahahah, j'ai l'impression de m'auto persuader que j'ai pris une bonne décision

 
Franchement ça reste une très bonne carte largement viable en 4K moyennant qq petites concessions. J'ai aussi un 5080 et ce n'est pas le jour et la nuit.

J'y pense, j'ai besoin de faire un coup de DDU avant l'installation de la carte, ou je peux juste enlever l'ancienne et mettre la nouvelle sans rien faire (je mettrais juste les drivers à jours)?

 
Tjs mieux de faire un DDU, franchement ça prend 10' à tout péter.