Reprise du message précédent :
Ouais ca pue de plus en plus
 
Bon ben faudra péter le PEL et vendre quelques organes pour se faire du local correct

Ça en prend le chemin

https://x.com/i/status/2041202983640432966

L'équation est assez simple : les besoins explosent, l’infrastructure ne suit pas : augmentation des prix, diminution des prestations pour trouver un nouvel équilibre  
 
De toute façon on savait depuis le début que c’était des prix artificiellement bas, la crise des composants aura juste précipitée la fin de cette anomalie.

Ouais c'est clair
Les modèles les plus intelligents vont être réservés à une élite  

j’ai lu que ça va même au delà de la pénurie de GPU et RAM. Même des transformateurs pour les data centers il en manque.
On voit aussi des locaux qui s’opposent à des projets de construction  
 
bref, ils ont beaucoup de vents contraires
 
 
pour les prix, c’est Netflix all over again, on commence à 7€ par mois, et on finit à 18 une fois que tout le monde est accro.
Quand le niveau attendu pour un simple email ou cv sera tellement haut, tout le monde devra avoir un abo pour pas passer pour un con

ou bien faire un projet rentable avec

https://x.com/leopardracer/status/2 [...] 52360?s=46

 
Je comprends pas pourquoi il s’embête avec Ollama ET llama.cpp. Il découvre gemma pour la vision, mais il aurait pu juste utiliser le mmproj avec Qwen pour ça. Quand a son super "trick" mmap, c'est activé par défaut, ya rien a faire. Il ferait mieux de bien tuner le 35BA3B, n'utiliser qu'un seul modèle, et passer "chat_template_kwargs": { "enable_thinking": false } quand il veut une réponse rapide. Il parle pas de contexte non plus, q8 pour ça c'est gratuit.

Pas besoin de tester du coup, pas d'intérêt ?

 
Sa config est très compliquée je trouve, il a 3/4 modèles et deux moteurs d'inférence. L'idée d'utiliser du local pour alléger son utilisation de Claude est intéressante, mais son setup est difficile a reproduire. Je me demande si utiliser caveman serait pas plus simple.

C'est clair
Same shit just a different day

 
ben comme netflix maintenant: le power user a son vpn et ses torrent ou streaming sites, tata ginette paye netflix
dans 5 ans le power user aura son LLM local sur un gaming PC, et tata ginette paiera 50e par mois pour Claude

Ouais mais les GPU faut les avoir
Les prix des cartes ne font que augmenter

 
pas un probleme d'acheter des mac

Apple, la solution du pauvre, on aura tout vu (en plus du Neo!)

huhu
j'etais pas un pro mac DU TOUT, mais j'avoue que j'ai cede a leurs sirenes

Traîtrise  

Essaie d'acheter un Mac Mini ou Mac Studio aujourd'hui

 
achete sur amazon y a un mois, aucun souci
 
apres ptet que les 48GB sont plus durs a obtenir

J'ai précisé "aujourd'hui"

"Je trouve pas de 3070 Ti à bon prix"
"Étonnant j'ai acheté la mienne l'année dernière sans aucun problème"

Depuis ton achat du mois dernier (j'ai acheté le mien le mois dernier également) tout le monde s'est mis à acheter des Mac Mini et Mac Studio à cause de la hype sur OpenClaw du coup les délais d'attente sont annoncés jusqu'à 6 semaines. La sortie prochaine de la version M5 joue aussi mais si quelqu'un veut en acheter un maintenant (et pas il y a un mois) et bien c'est pas possible. Il reste un Mac Mini M4 Pro 24/512 à 1591in sur AMZ mais c'est un faux positif (un pote a voulu l'acheter mais la vente a été annulée systématiquement)...

arf ok, j'avais pas compris que ca evoluait aussi vite

 
J'ai jamais compris le truc d'ailleurs, je pensais que l'idée était de faire tourner un modèle en local, mais en fait non. Autant prendre un SBC genre Raspberry dans ce cas.

Bah ceux qui prennent un Mac mini c'est pour faire tourner un modèle local généralement sinon aucun intérêt

Si malheureusement et c'est pas le seul produit concerné, la Steam Machine est repoussé aux calendes grecques à cause du prix de la mémoire qui rendrait une sortie actuelle à un tarif non-concurrentiel...
 
Bref, c'est la merde et pour jusqu'à fin 2027 au moins...
 

La hype c'est aussi à cause de ceux qui ont l'habitude de prendre des serveurs dédiés ou des VPS (comme moi ) car les providers (OVH, Ionos, Hetzner, Contabo, OneProvider, etc.) sont fortement impactés par les coûts de remplacement de la mémoire et du stockage des serveurs et que les prix augmentent fortement (+33% chez Hetzner par exemple) et on s'attend à se taper du +30% par an jusqu'en 2028 du coup dans ces conditions un Mac Mini M4 est amortissable très rapidement, tout en proposant un rapport puissance/prix/conso absolument imbattable, tout en étant totalement inaudible (il est dans ma chambre, je ne l'ai jamais entendu) et il décote peu, d'où la hype... L'inférence locale c'est du bonus...

J'ai pas vu beaucoup de setup avec du modèle local dans toute la hype Openclaw.
 

 
En dehors de l'inférence il y a beaucoup mieux qu'un Mac pour du hosting en rapport qualité/prix. Genre un petit desktop pro en refurb.

Tu as pas vu les bonnes personnes

si j'ai bien compris c'est la consommation et le bruit par rapport à un desktop.

 
Faut faire passer les setup intéressant!
 

 
Ça fait pas de bruit un petit desktop pro, et il doit falloir 10 ans avant de rentabiliser le coût d'un Mac par rapport a un desktop a 200 balles.

Avoir des problèmes de surdité à ton âge c'est un peu triste
 
Sinon, si tu trouves un desktop avec la puissance d'un Mac Mini M4 et qui reste sous les 14W en full burn je veux bien la réf

 
Les nouveaux arrivent c'est pour ça  

 
Ben non parce que c'est naze car les gens n'ont pas les moyens de prendre 96 / 128 / 256go de ram

 
Ton VPS a 2 euros par mois avait la perf d'un m4 peut être?
 
J'ai une VM AWS perso et c'est juste un T2 en carton, mais j'ai besoin d'une IP fixe et la flemme d'aller ailleurs. C'est souvent bien suffisant pour les projet persos.

 
CQFD

Mon VPS à 16e par mois se fait défoncer par mon M4, de loin (d'où le switch)

 
Ce que je ferais bien c'est un modèle local pour les datas "sensibles" mais peu gourmandes :  
Gestion des emails / whatsapp / calendrier / archivage de docs / salaires / etc.
 
Et modèle cloud pour tout ce qui plus gourmand mais moins "sensible".

 
T'as pris quel M4 ? Quel prix ?
Faut comparer l'amortissement vs l'opex  

Tu penses bien que j'ai fait le calcul avant

Le truc c'est que Hetzner a augmenté ses tarifs de +33% et que je m'attends à la même augmentation en 2027 et 2028 (ou pas et le ROI sera plus long). De mon côté j'ai pris la version des sans-dents, la 16/256. Vu que je suis encore étudiant (46 ans ) j'ai eu droit à la remise Apple donc mon M4 m'a coûté 579 euros.

Si mon VPS restait au même tarif le M4 aurait été amorti en 36 mois mais si on part sur une nouvelle augmentation de +33% en 2027 alors l'amortissement passe alors à 30 mois voire 28 mois deux augmentations successives.

Alors ok je spécule mais on parle de pénurie de mémoire et de stockage jusqu'en 2028... Pendant ce temps-là mon Mac Mini M4 ne va pas trop décoter (contrairement aux mini PC type Beelink SER6) mais surtout il reste très puissant tout en consomment quasi rien...

Et tu fais tourner quel modèle ?
 
J'ai mon macbook air M3 24go qui dort pendant la journée quand je suis au taf, je pense que je vais le convertir en serveur qui tournera h24

Après l'avantage d'un VPS est de ne pas subir les coupures de EDF, Free/Orange, etc.
Je garde ma VM Amazon juste parce qu'elle héberge un server de mail.
 
Ce qui est hosté dans ma cave peut tolérer un MTBF de deux semaines
 

 
Avec 24Go tu peux faire tourner un Qwen3 coder au régime, ou un 27B sans soucis. Ou encore un gemma-4 31B ou 26B quand il marcheront correctement.

Coût ?

 
Le prix de la flemme s'élève a environ EUR 14.52 pour le mois dernier
 
J'ai quelques bidouilles qui tournent dessus en plus.