Reprise du message précédent :
 
 
Upgrade du serveur Proxmox : ajout d'une Quadro T400
 
https://i.ibb.co/VqrtCjY/20240618-151323.jpg

 
Très bon choix  
Le mien est en train de mouliner la détection de visages sur Immich

Ben là elle fait rien  
 
C'était plus pour tester la faisabilité de rajouter un GPU dédié ...
 
J'ai testé le transcodage avec PLEX, c'est ok ...
Maintenant, je suis pas encore décidé entre le fait de garder un GPU dedans, ou d'investir dans un NPU ...  
 
J'aimerais bien piloter Home Assistant avec la voix, et avec une solution qui reste locale

Perso je suis en train de migrer mon serveur local (Unraid) :
i7-4790T
16 Go
vers  
i3-12100
64 Go (voir 128 Go plus tard)
 
Je suis trop limite en RAM et en puissance (je sature la mémoire avec tous les dockers et tout actuellement)

Vraiment utile pour Immich ? Ça mouline un peu sur CPU lors de l'importation initiale, mais après c'est tranquille.

Par contre je soupçonne GPU-Z de me dire de la merde, quand à la conso de la Quadro T400 ...
Il m'annonce 19.0W en Idle, ce qui me parait énorme, sachant que la conso totale du serveur mesurée à la prise est de 45-50W ...  
J'ai plus l’impression que la carte consomme 5-6W que 19W.
 

En P8 mon A4000 consomme 8W de mémoire

Moi ça me choque pas.
Traditionnellement les Quadro "400" à "600" (en tout cas depuis au moins les Kepler) ont toujours été dans la gamme des 35W à 45W à pleine charge certes, mais je ne suis pas sûr que ça puisse descendre aussi bas que <10W.
Je pense pas que ce soit pensé aussi efficace énergétiquement qu'une GeForce équivalente, par exemple.

 
Ca aide bien pour de grosses importations  
 

   
 
J'ai testé avec et sans la Quadro T400, j'ai bien une différence de 8 à 10W en IDLE
 
Maintenant vu que j'ai pas de caméra IP, faudrait que je trouve une utilité en dehors du transcodage vidéo

 
Tant mieux d'un côté, c'est de bonnes petites cartes ces Quadro 400/600

ça manque de VRAM

oui bon... ça dépend évidemment de ce à quoi elles servent
Mais pour sortir un affichage, c'est toujours mieux que les vieux clones de Matrox G200 qu'on nous a collé pendant des années

 
Je veux bien, mais sur une importation de 24000 photos, j’avais du mettre 1h30. Et par la suite il y a moins de photos donc c’est transparent.  
Et c’est 1h30 en ayant limité le processeur sur 4 cœurs.  

 
NPU?

https://www.coral.ai/
https://hailo.ai/products/generativ [...] on-module/
 
 
Ou TPU si tu préfères  
 
Mais bon la différenciation est pas bien clair
 
https://www.coral.ai/
https://hailo.ai/products/generativ [...] on-module/
 

Yo
 
ATTENTION, JE PARS DANS PLEIN DE DIRECTION (j'arrive pas à arrêter un projet!)
 
 
J'aimerai une bécane pour faire un serveur de fichier on va dire, ou un truc "ceph" si j'ai bien compris :
 
J'aimerai que mes hyperviseurs aient un ssd pour l'OS, et que tout le reste soient de l'iSCSI et du partage réseau standard (au début je partais sur truenas, mais c'est trop gros comme système... je pense partir sur une debian et bricoler des scripts... je sais pas si c'est bien, vu que je n'aurais pas besoin de la partie hyperviseur/conteneur si je dédie au système de stockage)
 
 
Comme j'ai des ssd U3 qui sont censés débiter (j'en ai 2, chacun dans un hyperviseur rack), je pensais à un rack 1U ou 2U avec 2 ou 3 cartes double SFP+ (ou du qsfp ? mais faut acheter le switch aussi... pas le même budget), mais je ne pourrai peut-être plus mettre les cartes U3...
 
J'ai 9 disques 12to finalement (en SAS).
 
 
L'autre solution, on m'a dit de faire du proxmox, et de mettre des disques sur chaque hyperviseur. Je crois que c'est "ceph" le bon nom de la techno qui irait avec.
 
 
Je suis pris par :
le budget
la conso électrique
la disponibilité
la garantie des performances
 
 
 
Mon dernier projet est un rack 2U 12baies, avec des 2699v4, mais ça tourne direct à 300W et ça redescend pas :s
Donc j'hésitais à reprendre des 26xxv4 basse conso, juste ce qu'il faut pour traiter du stockage. Mais j'ai l'impression que ça va bien piquer niveau courant.
 
 
J'avais aussi en tête l'idée d'un partage iscsi basé sur un ramdisk (pour l'instant, j'ai testé, mais j'ai pas tenu dans la gestion)

tu essaies de faire quoi avec tout ça ?
 
un serveur plex ?  

J'ai plusieurs serveurs de jeux.

J'ai des saves toutes les 10min qui écrivent jusqu'à 300mo chacune, plus une save générale toutes les 30min. (j'ai flingué un ssd de 250go en moins de deux ans avec plus de 300TBW, pour seulement 4 serveurs... y'en a 20. EDIT 27 maintenant )

Les serveurs sont longs à charger (d'où l'idée du ramdisk).

Pourquoi ne pas prendre un disque classique pour les backup ?
 
Sur un disque récent > 16To c'est du 200+mo/sec
 
Après le reste je ne sais pas trop ou tu vas partir donc je ne vois pas trop la manière de faire possible ^^

Hello,
Est-ce que vous passez par un service cloud pour du backup de données ?
Si oui, vous passez par quel fournisseur ?

Hetzner Storage Box, rapport Q/P imbattable.

C'est ce sur quoi j'étais tombé également    
Après quelques frayeurs ces dernières semaines, je me dis qu'il serait temps de mettre en place un vrai système de backup

Storage box ici aussi, sans probleme, je balance 700Go/j dessus.
 
Par contre ils ont visiblement des soucis de peering avec certains opérateurs. J'ai testé celle d'un ami qui se plaignait de pas passer les 5Mbit/s (oui bits, pas octets), probleme identique chez free et chez Orange, et en testant depuis chez moi (Luxembourg), je tapais le max de ma ligne en upload (500Mbps).  
Alors c'est peut-etre la localisation choisie (en Allemagne, mais je sais qu'ils ont plusieurs datacenters) mais vous arrivez à utiliser votre BP max ?

C'est ce que j'ai aussi mais j'ai un soucis avec proxmox, le storage associé en SMB saute peu après l'avoir ajouté sans que je comprenne vraiment pourquoi... Ça se voit bien dans proxmox dans l'utilisation du disque, pendant quelques heures/jours j'ai le suivi puis pouf que du blanc... Donc pour le moment ça me sert pas trop par contre sur mon pc windows en SMB avec un sub-account différent RAS...

J'utilise l'abo msdn du boulot qui est nominatif et permet d'avoir 150 dollars  de crédit sur azure  

Je continue la réflexion sur l'amélioration de mon serveur.
Aujourd'hui, tout tourne sur un Optiplex. Ça tourne bien et je ne pense pas changer cette partie.
Par contre, le stockage se fait sur un WD Elements et un boîtier Yottamaster 4 disques (https://amzn.eu/d/02VMBxty), les deux sont reliés en USB à l'optiplex.
Je n'ai pas de remontée d'infos sur l'état des disques, la température (mais c'est peut-être dû au fait que les disques sont montés en USB directement sur la VM Ubuntu Server et non sur Proxmox  ?).

Quel setup vous avez mis en place de votre côté ?

1 NVME avec Proxmox + les CT/VMs
4 disques SATA dans un ZFS sur le proxmox pour les data  
1 disque USB pour l'outil de partage de video de vacances (:o) sur lequel j'ai pas de remontées SMART non plus (normal )

 
 
J'ai aussi réfléchis à l'upgrade de mon serveur Proxmox:
 
La config actuelle:  
 
Aorus B550M Elite 1.3
AMD Ryzen 5  5600G
128 Go (4x 32 Go) DDR4 3200 MT/s CL22 Crucial Pro
2x SSD Samsung 870 EVO 500 Go (RAID 1)
SSD Samsung 990 Pro 1 To
SSD Samsung EVO 970 Plus 1 To
Boîtier SilverStone SST-RM23-502-MINI + 2x Noctua NF-A8 PWM
beQuiet! TFX Power 3 - 300W 80 Plus Gold
NIC Mellanox ConnectX-4 Lx : 2x 25 GbE  
NIC Qnap QXG-2G1T-I225
 
Ce qui vas bien :
 
La puissance de calcul pour 99% de mes VM est suffisante.
La taille de la RAM est confortable, je peux lancer une nouvelle VM sans me soucier de quelconque saturation.
Les connexions à mes réseaux sont fiables et "larges" par rapport au débit de mon stockage.
La conso électrique et le bruit sont relativement faible  
 
Ce qui vas pas :
 
Si je veut héberger un LLM, la puissance est à la rue ...    
Je peux pas rajouter de GPU "Dual Slot", ce qui limite fortement dans le choix.
Avec mon Ryzen 5600G, je suis limité au PCI-E 3.0
 
Du coup, je pense qu'un Upgrade vers AM/Ryzen 7000 ou 9000, est une bonne solution
 
Les Ryzen 7000 et 9000, offre le support du PCI-E 5.0, en soit je m'en fiche un peu, mais une ligne PCI-E 5.0 peut être divisée en 2 lignes PCI-E 4.0 .    
Et on passe de 24 lignes PCI-E à 28 lignes PCI-E    
Les Ryzen 7000 et 9000 me permettent d'avoir un Proc avec plus de Coeurs tout en gardant la partie iGPU, ce qui me facilite bien la tache pour le Passtrough d'un vrai GPU.  
 
Donc l'upgrade sera quelque chose comme ça :
 
Une mobo en X870
Ryzen 9900x
4x 32 Go DDR5 6000 MT/s
Une RTX 4060 8Go en Low Profil Dual Slot ...  
 
   
 
 
 
 
 
 
 
 
 
 

Pour faire du LLM ça va être short avec du 8 Go

Pour faire du LLM perso j'ai 1*24 go et j'attends 2 autre (une seule sera monté je pense)
Et j'ai une 16 go en plus pour du SDXL

J'ai pas les moyens  
 
SDXL késako ?

Stable diffusion XL

J'ai payé 200 euros la CG 24 go.

Je ne sais si je dois demander ça ici ou sur proxmox, j'ai une VM debian avec docker, je lui ai donné 12Go de ram, elle plafonne à exactement 7.46Go.
J'ai même eu droit à un "out of memory" sur cette VM aujourd'hui alors qu'elle n'utilise pas sa ram.
 
Ce que dit proxmox sur la VM en question :  
 

 
Ce que dit la VM Debian  
 

 
Ce que dit docker :  
 

 
Je ne pige pas bien
 
EDIT : je crois que c'est bon, dans la gestion de la mémoire dans proxmox, dans advanced, il y a "quantité minimum de mémoire" qui était sur 8Go.

Tesla p40 le meilleur prix pour la quantité de mémoire.

Ok j'avais plutôt en tête, RTX 3090 ou 4090 ...  

Le rapport mémoire/prix est meilleur avec la 3090 mais reste largement moins favorable pour un gain pas forcément énorme je pense.

Et la 3090 a besoin de 3 slots si je ne me trompe pas.

1 slot avec du WC.  

Oui mais avec 6 CG j'imagine même pas le système de WC .....

Avec 8 GPU, cela ressemble à ça