Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
4531 connectés 

  FORUM HardWare.fr
  Apple

  [Topic Unique] Mac Studio - le retour du cube

 
 


Dernière réponse
Sujet : [Topic Unique] Mac Studio - le retour du cube
speedboyz30 Moi j'attends le bench sur du local LLM  [:zest]

Votre réponse
Nom d'utilisateur    Pour poster, vous devez être inscrit sur ce forum .... si ce n'est pas le cas, cliquez ici !
Le ton de votre message                        
                       
Votre réponse
[b][i][u][strike][spoiler][fixed][cpp][url][email][img][*]   
 
   [quote]
 
Options

 
Vous avez perdu votre mot de passe ?


Vue Rapide de la discussion
speedboyz30 Moi j'attends le bench sur du local LLM  [:zest]
Nato J'aurais pu  :o  
 
Mais j'aime entretenir vos capacités cognitives  :D
speedboyz30 T'aurais pu nous mettre le lien :o

 

https://www.macrumors.com/2026/09/1 [...] benchmark/
Nato https://rehost.diberie.com/Picture/Get/f/544383  
 
 [:toyoyost:2]  [:toyoyost:2]  [:toyoyost:2]
Aesthetics Amazon vient de lister les modèles de bases avec à priori des dates de livraison plus tôt que si on commande sur Apple aujourd'hui.
speedboyz30

Aesthetics a écrit :


 
Clairement dans ce cas de figure c’est pas top. Mais quand je fois un Qwen3.8 flash next bah ça passe sur du 128 et pas 96 :(  
 
Ils ont juste bien calculer leur coup mais clairement les 4400 balles pour rajouter 160go y a pas moyen lol


 
Ouais on n’est plus tout à fait dans la même gamme de prix  :whistle:

Aesthetics

speedboyz30 a écrit :


 
J'ai posé la question à Claude  [:speedboyz30:5]  
 
Il prendrai l'Ultra vu la différence de prix (<500 euros) :jap:
 
60% more GPU cores
2x memory bandwidth
much better image / video generation
better parallel inference
 
C'est vraiment la bande passante de la ram qui change tout.
 
Le seul avantage pour les 128Go c'est pour les très gros modèles.
 
Et il dit que la plupart des modèles fit sans problème dans les 96Go de l'Ultra (70B Q6 ou même Q8 en fonction du contexte).
 
Si au final tu mets un gros modèle mais dois attendre 3 plombes la premiere réponse c'est naze.
 


 
Clairement dans ce cas de figure c’est pas top. Mais quand je fois un Qwen3.8 flash next bah ça passe sur du 128 et pas 96 :(  
 
Ils ont juste bien calculer leur coup mais clairement les 4400 balles pour rajouter 160go y a pas moyen lol

ricoco

Amonchakai a écrit :


Je pense que c'était pas pour moi, mais pour thoms89  :D


arf ! :D
speedboyz30

thoms89 a écrit :


128go, mais ça dépasse rarement 60go.
 
je ne fais pas que de l'agent mais surtout des requêtes api, via N8N.  
Par exemple :
llava pour du contrôle qualité produit ou surveillance visuel des machines  
nanonet OCR pour les bons de commandes clients/factures fournisseur (alimentation des SQL) si pdf non structuré
translategemma pour les documents non anglais/français.
 
Le reste c'est surtout qwen (3,6/3,8 MLX), qui surveille mon ERP et m'envoie des notifications.
 
Les modèles se chargent et se déchargent rapidement, quelques secondes, mais c'est surtout l'exécution des requêtes qui peut vite prendre quelques minutes.
 
Je ne génère pas d'image, pas de vidéo, les starterpack c'est pas mon truc :O  
Et pas de rag.
 
Pour le 'codage' j'utilise claude pro (je suis pas dev)


 
Pas rassurant tout ça  [:zyzz:1]  
speedboyz30

Amonchakai a écrit :


Je pense que c'était pas pour moi, mais pour thoms89  :D


 
Exact mais j'ai pas quoté  [:zyzz:1]  
Cela dit quand j'ai commencé mon message tu n'avais pas posté au dessus :o
speedboyz30

Aesthetics a écrit :

Ils font chier à bien calculer leur coup.
M5 max 128Go ou M5 Ultra 96Go…  
 
Ils pouvaient pas faire le ultra en 128 :o


 
J'ai posé la question à Claude  [:speedboyz30:5]  
 
Il prendrai l'Ultra vu la différence de prix (<500 euros) :jap:
 
60% more GPU cores
2x memory bandwidth
much better image / video generation
better parallel inference
 
C'est vraiment la bande passante de la ram qui change tout.
 
Le seul avantage pour les 128Go c'est pour les très gros modèles.
 
Et il dit que la plupart des modèles fit sans problème dans les 96Go de l'Ultra (70B Q6 ou même Q8 en fonction du contexte).
 
Si au final tu mets un gros modèle mais dois attendre 3 plombes la premiere réponse c'est naze.
 
Amonchakai

ricoco a écrit :


https://forum.hardware.fr/hfr/apple [...] tm#t872232


Je pense que c'était pas pour moi, mais pour thoms89  :D

thoms89

speedboyz30 a écrit :

Le problème dans ton équation c'est que de l'agent.
 
Tu peux faire tourner de très bons modèles coding, image ou vidéo par exemple. Mais l'agentique ça massacre tout en contexte.
 
T'as combien de RAM sur ton ultra?


128go, mais ça dépasse rarement 60go.
 
je ne fais pas que de l'agent mais surtout des requêtes api, via N8N.  
Par exemple :
llava pour du contrôle qualité produit ou surveillance visuel des machines  
nanonet OCR pour les bons de commandes clients/factures fournisseur (alimentation des SQL) si pdf non structuré
translategemma pour les documents non anglais/français.
 
Le reste c'est surtout qwen (3,6/3,8 MLX), qui surveille mon ERP et m'envoie des notifications.
 
Les modèles se chargent et se déchargent rapidement, quelques secondes, mais c'est surtout l'exécution des requêtes qui peut vite prendre quelques minutes.
 
Je ne génère pas d'image, pas de vidéo, les starterpack c'est pas mon truc :O  
Et pas de rag.
 
Pour le 'codage' j'utilise claude pro (je suis pas dev)
Aesthetics Ils font chier à bien calculer leur coup.
M5 max 128Go ou M5 Ultra 96Go…  
 
Ils pouvaient pas faire le ultra en 128 :o
ricoco

speedboyz30 a écrit :

Le problème dans ton équation c'est que de l'agent.
 
Tu peux faire tourner de très bons modèles coding, image ou vidéo par exemple. Mais l'agentique ça massacre tout en contexte.
 
T'as combien de RAM sur ton ultra?


https://forum.hardware.fr/hfr/apple [...] tm#t872232
speedboyz30 Le problème dans ton équation c'est que de l'agent.
 
Tu peux faire tourner de très bons modèles coding, image ou vidéo par exemple. Mais l'agentique ça massacre tout en contexte.
 
T'as combien de RAM sur ton ultra?
Amonchakai Bah si tu as pas d'argent pour des gros GPUs et que tu veux être maitre de tes données, il y a pas trente milles autres solutions qui font tourner les modèles que tu testes.  
 
Sinon tu prends ton abonnement claude :o C'est plus rapide, et ça marche mieux.
 
Perso niveau IA, j'ai pas encore testé les LLM sur mon Studio, je fais de l'IA plus classique : modèles custom a base de CNN, transformer, etc. Mais c'est que pour du pré-test a déployer sur des vrai serveur de calcul
thoms89 il y a vraiment un usage sérieux du Mac Studio pour de l'ia ? Ou c'est juste de la hype ?
 
J'ai un M2 Ultra, lorsque je fais tourner des IA un peu intensivement (Je l'ai initialement pas acheté pour ça), chaque requête est lente avec hermès ou via Api en plus de la liste d'attente qui devient vite longue. je prends pas des modèles très gros (27/35b quantifié), ça tourne qu'à 80tkn/s
 
Et au bout de plusieurs heures il est vraiment chaud, j'ai fini par le mettre dans un rack bien ventilé.
 
j'ose même pas imaginer un frêle Mac mini  :o  
 
A moins que le M2 est déja bien dépassé  [:galom]
speedboyz30 Intéressant, je me couche mon bête :jap:
Dandu

speedboyz30 a écrit :


 
My bad oui :jap:
 
Je ne savais pas pour le thunderbolt qui /2 le débit en data.


 
C'est plus compliqué.
 
Le TB5, c'est 80 dans les deux sens, et en gros y a 64 pour les données et le reste que pour la vidéo. On met en avant le mode "120" parce que c'est un gros chiffre.
 
Mais le 120, c'est asymétrique, au lieu de 80/80, on a 120/40. Mais c'est un mode pensé pour un écran 8K (et plus) et ça a pas tellement d'intérêt en pratique, c'est 120 vers le périphérique. Typiquement, dans un SSD, ça veut dire qu'on pourrait écrire en thorie à 120 et lire à seulement 40. Sauf qu'en pratique, on fait vachement plus de lecture que d'écriture, et que de toute façon la flash lit plus vite qu'elle écrit... donc ça sert à rien.

speedboyz30

Amonchakai a écrit :

Ou pas, vu que tous les prix ont augmenté  :lol:


+1 :/
Amonchakai Ou pas, vu que tous les prix ont augmenté  :lol:
aldayo Et les mini m4 aussi j’espère !
Yupa Le prix des Mac Studio M4 Max en occasion devrait un peu baisser, pour du Home Studio ou de l'IA locale, c'est toujours bon à prendre.
speedboyz30

Dandu a écrit :


 
T'as oublié un facteur 8.
 
C'est 1,2 To/s la bande passante de la RAM, donc 96 Tb/s.  
 
Et le Thunderbolt permet pas réellement 120 Tb/s pour les données, uniquement 64 Gb/s en réalité (120 Gb/s c'est pour un écran)


 
My bad oui :jap:
 
Je ne savais pas pour le thunderbolt qui /2 le débit en data.
Dandu

speedboyz30 a écrit :


 
Sur ton Ultra, ta ram elle a 1.2 TB/s de bande passante.
 
Dans ton cluster en Ethernet c'est un ridicule 10 GB/s et même en thunderbolt (120 GB/s) c'est 10x moins que sur l'ultra :/
 
Donc tu vas charger des gros modèles, il va te répondre mot à mot quoi :o


 
T'as oublié un facteur 8.
 
C'est 1,2 To/s la bande passante de la RAM, donc 96 Tb/s.  
 
Et le Thunderbolt permet pas réellement 120 Tb/s pour les données, uniquement 64 Gb/s en réalité (120 Gb/s c'est pour un écran)
Nato Content d'avoir prix mon Studio M2 Max a un prix "décent"  ( pour du apple  :o )  avec une config correcte  :D
speedboyz30

aldayo a écrit :

Avec la mise en cluster pour l’IA, 3 Mac mini M5Pro/10gbits à 2,1k€ ne serait pas plus perf qu’une studio M5 ultra à 6,5k€ ?
Ca fait 45 CPU au lieu de 30, 108Go de ram au lieu de 96, plus de NPU

 

Voir même 4 Mac mini M6 en 32go /10gbits (1,6k€/piece) : 48 CPU, 128Go de ram, encore plus de NPU

 

Ils auront moins de GPU mais c’est le CPU et la RAM qui compte en premier non ?

 

Autre remarque : pour 3k€, t’as soit un m5pro 64go/512go avec 15CPU/16GPU soit deux M6 32go/256go pour un total de 24CPU/24GPU/64Go/512go !!

 

Y a moyen qu’un cluster soit bien plus perf à prix égal qu’une machine plus grosse si appli assez multi-trader avec calcul distribué…
Apple facturant bien trop cher les options CPU/GPU (pire qu’à l’époque Intel :o)
1400€ de plus entre les deux puces ultra :o :o

 

Sur ton Ultra, ta ram elle a 1.2 TB/s de bande passante.

 

Dans ton cluster en Ethernet c'est un ridicule 10 GB/s et même en thunderbolt (120 GB/s) c'est 10x moins que sur l'ultra :/

 

Donc tu vas charger des gros modèles, il va te répondre mot à mot quoi :o
aldayo Avec la mise en cluster pour l’IA, 3 Mac mini M5Pro/10gbits à 2,1k€ ne serait pas plus perf qu’une studio M5 ultra à 6,5k€ ?
Ca fait 45 CPU au lieu de 30, 108Go de ram au lieu de 96, plus de NPU

 

Voir même 4 Mac mini M6 en 32go /10gbits (1,6k€/piece) : 48 CPU, 128Go de ram, encore plus de NPU

 

Ils auront moins de GPU mais c’est le CPU et la RAM qui compte en premier non ?

 

Autre remarque : pour 3k€, t’as soit un m5pro 64go/512go avec 15CPU/16GPU soit deux M6 32go/256go pour un total de 24CPU/24GPU/64Go/512go !!

 

Y a moyen qu’un cluster soit bien plus perf à prix égal qu’une machine plus grosse si appli assez multi-trader avec calcul distribué…
Apple facturant bien trop cher les options CPU/GPU (pire qu’à l’époque Intel :o)
1400€ de plus entre les deux puces ultra :o :o
ricoco M5 Max 19 flux 8K en simultané
M5 Ultra 33 flux 8K en simultané
 :pt1cable:  
 
ce n'est pas un mac pour madame Michou :D
aldayo La version Ultra commence maintenant à plus de 6500€ contre 4500 avant :o (certes avec 96go de ram au lieu de 64 de base)
speedboyz30 Plus personne n'est assez riche sur hfr pour prendre des mac studio on dirait :o
speedboyz30 Effectivement ça creuse l'écart !
Leica

speedboyz30 a écrit :


 
J'ai toujours pas sauté le pas sur un mini / studio :o
 
Ça fait des sous quand même.
Mais en 48go ram / 10gbe la différence entre les deux est mini.
Si on prend en compte le cooling actif, le nombre de GPU, la bande passante de la ram, le studio est plus intéressant  [:zyzz:1]


Oui en effet, un mini boosté ou un Studio, le prix peut être proche. Pour mon M2 je m'étais posé la question, et j'avais fini avec le mini parce que je pouvais avoir la réduc étudiante dessus (alors qu'elle ne fonctionnait pas pour le Studio), du coup ça faisait un bel écart... Mais sinon j'aurais pris le Studio (même si le format et le silence du mini sont top).
speedboyz30

aldayo a écrit :

Oui, le mini Pro de la génération précédente est souvent rattrapé pas la version de base suivante !


 
J'ai toujours pas sauté le pas sur un mini / studio :o
 
Ça fait des sous quand même.
Mais en 48go ram / 10gbe la différence entre les deux est mini.
Si on prend en compte le cooling actif, le nombre de GPU, la bande passante de la ram, le studio est plus intéressant  [:zyzz:1]

aldayo Oui, le mini Pro de la génération précédente est souvent rattrapé pas la version de base suivante !
Amonchakai Haha, après faut voir aussi avec les mini si ça suffit pas.  
 
aldayo Vivement le M5 (pour que les M2/M4 décotent :d)
Amonchakai Plein de choses…  
 
- du dev C++
- du prototypage pour du machine learning avec python/pytorch, la partie entraînement est plutôt faite sur des serveurs appropriés  
- du R  
- de la musique avec Logic Pro
- de la photo avec Lightroom
- de la glandouille YouTube, Netflix, Web
 
J’ai un M4 max, la première fois que j’ai build ffmpeg dessus ça a fait bien plaisir de voir à quel point il trace  :love:
speedboyz30 Tu fais quoi de beau avec ?

Forum MesDiscussions.Net, Version 2010.2
(c) 2000-2011 Doctissimo

Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)