Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
5457 connectés 

  FORUM HardWare.fr
  Apple

  [Topic Unique] Mac Studio - le retour du cube

 
 


Dernière réponse
Sujet : [Topic Unique] Mac Studio - le retour du cube
Amonchakai Bah si tu as pas d'argent pour des gros GPUs et que tu veux être maitre de tes données, il y a pas trente milles autres solutions qui font tourner les modèles que tu testes.  
 
Sinon tu prends ton abonnement claude :o C'est plus rapide, et ça marche mieux.
 
Perso niveau IA, j'ai pas encore testé les LLM sur mon Studio, je fais de l'IA plus classique : modèles custom a base de CNN, transformer, etc. Mais c'est que pour du pré-test a déployer sur des vrai serveur de calcul

Votre réponse
Nom d'utilisateur    Pour poster, vous devez être inscrit sur ce forum .... si ce n'est pas le cas, cliquez ici !
Le ton de votre message                        
                       
Votre réponse
[b][i][u][strike][spoiler][fixed][cpp][url][email][img][*]   
 
   [quote]
 
Options

 
Vous avez perdu votre mot de passe ?


Vue Rapide de la discussion
Amonchakai Bah si tu as pas d'argent pour des gros GPUs et que tu veux être maitre de tes données, il y a pas trente milles autres solutions qui font tourner les modèles que tu testes.  
 
Sinon tu prends ton abonnement claude :o C'est plus rapide, et ça marche mieux.
 
Perso niveau IA, j'ai pas encore testé les LLM sur mon Studio, je fais de l'IA plus classique : modèles custom a base de CNN, transformer, etc. Mais c'est que pour du pré-test a déployer sur des vrai serveur de calcul
thoms89 il y a vraiment un usage sérieux du Mac Studio pour de l'ia ? Ou c'est juste de la hype ?
 
J'ai un M2 Ultra, lorsque je fais tourner des IA un peu intensivement (Je l'ai initialement pas acheté pour ça), chaque requête est lente avec hermès ou via Api en plus de la liste d'attente qui devient vite longue. je prends pas des modèles très gros (27/35b quantifié), ça tourne qu'à 80tkn/s
 
Et au bout de plusieurs heures il est vraiment chaud, j'ai fini par le mettre dans un rack bien ventilé.
 
j'ose même pas imaginer un frêle Mac mini  :o  
 
A moins que le M2 est déja bien dépassé  [:galom]
speedboyz30 Intéressant, je me couche mon bête :jap:
Dandu

speedboyz30 a écrit :


 
My bad oui :jap:
 
Je ne savais pas pour le thunderbolt qui /2 le débit en data.


 
C'est plus compliqué.
 
Le TB5, c'est 80 dans les deux sens, et en gros y a 64 pour les données et le reste que pour la vidéo. On met en avant le mode "120" parce que c'est un gros chiffre.
 
Mais le 120, c'est asymétrique, au lieu de 80/80, on a 120/40. Mais c'est un mode pensé pour un écran 8K (et plus) et ça a pas tellement d'intérêt en pratique, c'est 120 vers le périphérique. Typiquement, dans un SSD, ça veut dire qu'on pourrait écrire en thorie à 120 et lire à seulement 40. Sauf qu'en pratique, on fait vachement plus de lecture que d'écriture, et que de toute façon la flash lit plus vite qu'elle écrit... donc ça sert à rien.

speedboyz30

Amonchakai a écrit :

Ou pas, vu que tous les prix ont augmenté  :lol:


+1 :/
Amonchakai Ou pas, vu que tous les prix ont augmenté  :lol:
aldayo Et les mini m4 aussi j’espère !
Yupa Le prix des Mac Studio M4 Max en occasion devrait un peu baisser, pour du Home Studio ou de l'IA locale, c'est toujours bon à prendre.
speedboyz30

Dandu a écrit :


 
T'as oublié un facteur 8.
 
C'est 1,2 To/s la bande passante de la RAM, donc 96 Tb/s.  
 
Et le Thunderbolt permet pas réellement 120 Tb/s pour les données, uniquement 64 Gb/s en réalité (120 Gb/s c'est pour un écran)


 
My bad oui :jap:
 
Je ne savais pas pour le thunderbolt qui /2 le débit en data.
Dandu

speedboyz30 a écrit :


 
Sur ton Ultra, ta ram elle a 1.2 TB/s de bande passante.
 
Dans ton cluster en Ethernet c'est un ridicule 10 GB/s et même en thunderbolt (120 GB/s) c'est 10x moins que sur l'ultra :/
 
Donc tu vas charger des gros modèles, il va te répondre mot à mot quoi :o


 
T'as oublié un facteur 8.
 
C'est 1,2 To/s la bande passante de la RAM, donc 96 Tb/s.  
 
Et le Thunderbolt permet pas réellement 120 Tb/s pour les données, uniquement 64 Gb/s en réalité (120 Gb/s c'est pour un écran)
Nato Content d'avoir prix mon Studio M2 Max a un prix "décent"  ( pour du apple  :o )  avec une config correcte  :D
speedboyz30

aldayo a écrit :

Avec la mise en cluster pour l’IA, 3 Mac mini M5Pro/10gbits à 2,1k€ ne serait pas plus perf qu’une studio M5 ultra à 6,5k€ ?
Ca fait 45 CPU au lieu de 30, 108Go de ram au lieu de 96, plus de NPU

 

Voir même 4 Mac mini M6 en 32go /10gbits (1,6k€/piece) : 48 CPU, 128Go de ram, encore plus de NPU

 

Ils auront moins de GPU mais c’est le CPU et la RAM qui compte en premier non ?

 

Autre remarque : pour 3k€, t’as soit un m5pro 64go/512go avec 15CPU/16GPU soit deux M6 32go/256go pour un total de 24CPU/24GPU/64Go/512go !!

 

Y a moyen qu’un cluster soit bien plus perf à prix égal qu’une machine plus grosse si appli assez multi-trader avec calcul distribué…
Apple facturant bien trop cher les options CPU/GPU (pire qu’à l’époque Intel :o)
1400€ de plus entre les deux puces ultra :o :o

 

Sur ton Ultra, ta ram elle a 1.2 TB/s de bande passante.

 

Dans ton cluster en Ethernet c'est un ridicule 10 GB/s et même en thunderbolt (120 GB/s) c'est 10x moins que sur l'ultra :/

 

Donc tu vas charger des gros modèles, il va te répondre mot à mot quoi :o
aldayo Avec la mise en cluster pour l’IA, 3 Mac mini M5Pro/10gbits à 2,1k€ ne serait pas plus perf qu’une studio M5 ultra à 6,5k€ ?
Ca fait 45 CPU au lieu de 30, 108Go de ram au lieu de 96, plus de NPU

 

Voir même 4 Mac mini M6 en 32go /10gbits (1,6k€/piece) : 48 CPU, 128Go de ram, encore plus de NPU

 

Ils auront moins de GPU mais c’est le CPU et la RAM qui compte en premier non ?

 

Autre remarque : pour 3k€, t’as soit un m5pro 64go/512go avec 15CPU/16GPU soit deux M6 32go/256go pour un total de 24CPU/24GPU/64Go/512go !!

 

Y a moyen qu’un cluster soit bien plus perf à prix égal qu’une machine plus grosse si appli assez multi-trader avec calcul distribué…
Apple facturant bien trop cher les options CPU/GPU (pire qu’à l’époque Intel :o)
1400€ de plus entre les deux puces ultra :o :o
ricoco M5 Max 19 flux 8K en simultané
M5 Ultra 33 flux 8K en simultané
 :pt1cable:  
 
ce n'est pas un mac pour madame Michou :D
aldayo La version Ultra commence maintenant à plus de 6500€ contre 4500 avant :o (certes avec 96go de ram au lieu de 64 de base)
speedboyz30 Plus personne n'est assez riche sur hfr pour prendre des mac studio on dirait :o
speedboyz30 Effectivement ça creuse l'écart !
Leica

speedboyz30 a écrit :


 
J'ai toujours pas sauté le pas sur un mini / studio :o
 
Ça fait des sous quand même.
Mais en 48go ram / 10gbe la différence entre les deux est mini.
Si on prend en compte le cooling actif, le nombre de GPU, la bande passante de la ram, le studio est plus intéressant  [:zyzz:1]


Oui en effet, un mini boosté ou un Studio, le prix peut être proche. Pour mon M2 je m'étais posé la question, et j'avais fini avec le mini parce que je pouvais avoir la réduc étudiante dessus (alors qu'elle ne fonctionnait pas pour le Studio), du coup ça faisait un bel écart... Mais sinon j'aurais pris le Studio (même si le format et le silence du mini sont top).
speedboyz30

aldayo a écrit :

Oui, le mini Pro de la génération précédente est souvent rattrapé pas la version de base suivante !


 
J'ai toujours pas sauté le pas sur un mini / studio :o
 
Ça fait des sous quand même.
Mais en 48go ram / 10gbe la différence entre les deux est mini.
Si on prend en compte le cooling actif, le nombre de GPU, la bande passante de la ram, le studio est plus intéressant  [:zyzz:1]

aldayo Oui, le mini Pro de la génération précédente est souvent rattrapé pas la version de base suivante !
Amonchakai Haha, après faut voir aussi avec les mini si ça suffit pas.  
 
aldayo Vivement le M5 (pour que les M2/M4 décotent :d)
Amonchakai Plein de choses…  
 
- du dev C++
- du prototypage pour du machine learning avec python/pytorch, la partie entraînement est plutôt faite sur des serveurs appropriés  
- du R  
- de la musique avec Logic Pro
- de la photo avec Lightroom
- de la glandouille YouTube, Netflix, Web
 
J’ai un M4 max, la première fois que j’ai build ffmpeg dessus ça a fait bien plaisir de voir à quel point il trace  :love:
speedboyz30 Tu fais quoi de beau avec ?

Forum MesDiscussions.Net, Version 2010.2
(c) 2000-2011 Doctissimo

Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)