Reprise du message précédent :
Tu fais quoi de beau avec ?

Plein de choses…  
 
- du dev C++
- du prototypage pour du machine learning avec python/pytorch, la partie entraînement est plutôt faite sur des serveurs appropriés  
- du R  
- de la musique avec Logic Pro
- de la photo avec Lightroom
- de la glandouille YouTube, Netflix, Web
 
J’ai un M4 max, la première fois que j’ai build ffmpeg dessus ça a fait bien plaisir de voir à quel point il trace  

Vivement le M5 (pour que les M2/M4 décotent )

Haha, après faut voir aussi avec les mini si ça suffit pas.  
 

Oui, le mini Pro de la génération précédente est souvent rattrapé pas la version de base suivante !

 
J'ai toujours pas sauté le pas sur un mini / studio
 
Ça fait des sous quand même.
Mais en 48go ram / 10gbe la différence entre les deux est mini.
Si on prend en compte le cooling actif, le nombre de GPU, la bande passante de la ram, le studio est plus intéressant  

Oui en effet, un mini boosté ou un Studio, le prix peut être proche. Pour mon M2 je m'étais posé la question, et j'avais fini avec le mini parce que je pouvais avoir la réduc étudiante dessus (alors qu'elle ne fonctionnait pas pour le Studio), du coup ça faisait un bel écart... Mais sinon j'aurais pris le Studio (même si le format et le silence du mini sont top).

Effectivement ça creuse l'écart !

Plus personne n'est assez riche sur hfr pour prendre des mac studio on dirait

La version Ultra commence maintenant à plus de 6500€ contre 4500 avant (certes avec 96go de ram au lieu de 64 de base)

M5 Max 19 flux 8K en simultané
M5 Ultra 33 flux 8K en simultané
   
 
ce n'est pas un mac pour madame Michou

Avec la mise en cluster pour l’IA, 3 Mac mini M5Pro/10gbits à 2,1k€ ne serait pas plus perf qu’une studio M5 ultra à 6,5k€ ?
Ca fait 45 CPU au lieu de 30, 108Go de ram au lieu de 96, plus de NPU

Voir même 4 Mac mini M6 en 32go /10gbits (1,6k€/piece) : 48 CPU, 128Go de ram, encore plus de NPU

Ils auront moins de GPU mais c’est le CPU et la RAM qui compte en premier non ?

Autre remarque : pour 3k€, t’as soit un m5pro 64go/512go avec 15CPU/16GPU soit deux M6 32go/256go pour un total de 24CPU/24GPU/64Go/512go !!

Y a moyen qu’un cluster soit bien plus perf à prix égal qu’une machine plus grosse si appli assez multi-trader avec calcul distribué…
Apple facturant bien trop cher les options CPU/GPU (pire qu’à l’époque Intel )
1400€ de plus entre les deux puces ultra

Sur ton Ultra, ta ram elle a 1.2 TB/s de bande passante.

Dans ton cluster en Ethernet c'est un ridicule 10 GB/s et même en thunderbolt (120 GB/s) c'est 10x moins que sur l'ultra

Donc tu vas charger des gros modèles, il va te répondre mot à mot quoi

Content d'avoir prix mon Studio M2 Max a un prix "décent"  ( pour du apple   )  avec une config correcte  

 
T'as oublié un facteur 8.
 
C'est 1,2 To/s la bande passante de la RAM, donc 96 Tb/s.  
 
Et le Thunderbolt permet pas réellement 120 Tb/s pour les données, uniquement 64 Gb/s en réalité (120 Gb/s c'est pour un écran)

 
My bad oui
 
Je ne savais pas pour le thunderbolt qui /2 le débit en data.

Le prix des Mac Studio M4 Max en occasion devrait un peu baisser, pour du Home Studio ou de l'IA locale, c'est toujours bon à prendre.

Et les mini m4 aussi j’espère !

Ou pas, vu que tous les prix ont augmenté  

+1

 
C'est plus compliqué.
 
Le TB5, c'est 80 dans les deux sens, et en gros y a 64 pour les données et le reste que pour la vidéo. On met en avant le mode "120" parce que c'est un gros chiffre.
 
Mais le 120, c'est asymétrique, au lieu de 80/80, on a 120/40. Mais c'est un mode pensé pour un écran 8K (et plus) et ça a pas tellement d'intérêt en pratique, c'est 120 vers le périphérique. Typiquement, dans un SSD, ça veut dire qu'on pourrait écrire en thorie à 120 et lire à seulement 40. Sauf qu'en pratique, on fait vachement plus de lecture que d'écriture, et que de toute façon la flash lit plus vite qu'elle écrit... donc ça sert à rien.

Intéressant, je me couche mon bête

il y a vraiment un usage sérieux du Mac Studio pour de l'ia ? Ou c'est juste de la hype ?
 
J'ai un M2 Ultra, lorsque je fais tourner des IA un peu intensivement (Je l'ai initialement pas acheté pour ça), chaque requête est lente avec hermès ou via Api en plus de la liste d'attente qui devient vite longue. je prends pas des modèles très gros (27/35b quantifié), ça tourne qu'à 80tkn/s
 
Et au bout de plusieurs heures il est vraiment chaud, j'ai fini par le mettre dans un rack bien ventilé.
 
j'ose même pas imaginer un frêle Mac mini    
 
A moins que le M2 est déja bien dépassé  

Bah si tu as pas d'argent pour des gros GPUs et que tu veux être maitre de tes données, il y a pas trente milles autres solutions qui font tourner les modèles que tu testes.  
 
Sinon tu prends ton abonnement claude C'est plus rapide, et ça marche mieux.
 
Perso niveau IA, j'ai pas encore testé les LLM sur mon Studio, je fais de l'IA plus classique : modèles custom a base de CNN, transformer, etc. Mais c'est que pour du pré-test a déployer sur des vrai serveur de calcul