Reprise du message précédent :
https://rehost.diberie.com/Picture/Get/f/505361
https://x.com/i/status/2043139204612592057

du css sur le forum hfr + pwa ça fera le taf.

espèce de chomeur !

Une revue complète sur Hèrmes, plutôt bien faite
https://x.com/iamsupersocks/status/2043313326709412269

Là je fais des aller/retour entre CC Opus 4.5 et Codex GPT 5.4 (snas plus de précision.. pro ? un codex ? .. rien ?) et c'est marrant
pas facile qui truster

Cross topic
Des rumeurs que Claude travaille sur un compétiteur aux plateformes de vibe coding
Lovable & co vont souffrir




https://x.com/i/status/2043381707395482054

 
 
De toute évidence tout ce qui est wrapper d'IA au sens large est voué à crever pour être remplacés par des fonctionnalités natives des gros fournisseurs d'IA (ou dans la meilleur des cas de faire racheter notamment pour récupérer la base clients ).
 
Mais les mecs peuvent quand même faire pas mal de cash quelques années.

C'est clair que si tu ne te différencie pas, ça va être compliqué de perdurer

Et encore Claude

Et open AI n'est pas en reste

Les petit contextes c'est une feature des fois
 
Voila mon dernier prompt Opencode:

 
Il fait son truc dans son coin, me pose des questions de temps en temps. A un moment il voulait que je lui installe (sudo) un cross compiler 68k, j'ai dit non que je voulais juste un plan...
 
Depuis il a cloné le repo du Kernel 7.x, celui de linux-m68k-atarinommu et utilise Docker pour cross compiler quand même .

bon, j'ai essaye de faire tourner des LLM en local (mac) avec oMLX et LM studio
bordel la chienlit ...
 
oMLX a une super perf, mais la galere pour en faire un truc utile ... pour les recherches web faut passer par des scripts, jamais reussi a faire marcher le STT (workaround: utiliser la dictee de MacOS )
LM Studio: interface bien faite, complete, plus souple, mais bordel, 2x plus lent qu'oMLX
 
au final je fais des ping pong entre Copilot premium (paye par le taf) et Claud Pro, rien encore trouve de mieux

Tu pourras chercher quelques années si tu veux mieux que Claude en local

evidemment que c'est pas ce que je veux, j'attend pas de reasoning de leur part
mais rien que faire des recherches web un peu intelligentes bordel, c'est pas demander la lune
et clairement c'est juste le tooling qui me limite, sur oMLX j'ai trouve le qwen 2.5 7B pas ridicule du tout

l'idee de base c'est faire des recherches en local, tout dumper dans un md et fournir ca a claude cowork, histoire de pas cramer tous les token

au final c'est copilot premium qui se charge des recherches

Pour les recherches web suffit d’utiliser Brave search MCP non ?

Vise au moins qwen 3.5 en 9B 4b, ça tournait bien sur mon mini en 16gb
Pour la recherche web Brave MCP c'est pas mal, sinon il y a des alternatives mais c'est moins clés en main

 
j'ai teste avec Tavily avec OpenwebUI et LM studio.
d'une lenteur ...
 
connecter oMLX a ce genre d'outil ? j'y suis pas arrivé  
 

 
j'ai teste celui-ci avec LM studio, ca deconnait pas mal, il me montrait le thinking mais pas de reponse
 
vous conseilleriez quoi comme setup pour faire des deep search en local ?

Bon qui fait sérieusement du dev par IA en entreprise ? Des vrais gros projets, à pleins devs and co

J'en fait avec de gros projets mais je suis tout seul sur mes projets

y’pas un topic « side projects à la con » ou on mettrait tous les trucs qu’on avait jamais le temps de coder mais que avec l’ia on code en un prompt et après on oublie?  

 
Si ca tournais pas bien, je me pencherais d'avantage sur la source de ton model ?  
Tu tourne sur quoi comme matos ?

 
 
J'ai fait un MCP leboncoin pour chercher une voiture, c'est trop bien  

comme tout dev qui achète une voiture
 
moi dans ce genre j’ai toujours voulu coder un « sweet spot décote detector » pour savoir quel modèle a déjà atteint sa décote et quand l’achèter

 
M4 16GB
c'est clairement pour me faire la main, si je trouvais un setup local qui vaut le coup pour mon use case (deep search pour identifier des patenting white spaces), je changerais evidemment
 
mais pour l'instant si copilot premium du boulot fait un bon taf, vois pas trop l'interet de s'emmerder en fait

 
 
Ca ressemble à ce projet qui estime le prix d'une voiture avec du machine learning : https://github.com/HTilki/EstimyCar
 

Je suis faible, j'ai pris une autre BC-250
94 euros (par Paypal)
https://www.ebay.fr/

 
edit: les avis sont pourris je vais annuler

Tu m'as grave tenté puis je suis allé voir les notes du vendeur.
 
Bonne chance

 
J'ai demandé une annulation, mais j'ai oublié que c'est pas Amazon, donc la demande est partie chez le vendeur. Bon j'ai payé par Paypal donc pas de risque.
 
Je m'excuse platement si quelqu'un d'autre a commandé

Nan c'est cool, je vais transférer ce bon plan aux gens que j'aime pas

 
Perso j'aime pas les trucs "tout en un" comme LM studio ou ollama. Je viens de regarder oMLX, ça à l'air bien compliqué.
 
J'utilise llama.cpp pour servir un modèle et que ça, et ensuite je branche des trucs dessus en disant qu'il est "openai-compatible" et je pointe sur mon llama-server avec: http://host:port/v1.
Je le lance avec: --alias default comme ça je peux changer le modèle, sans que l'outil qui est connecté n'ait besoin d'être reconfigurer.
 
Avec llama.cpp ça marche pareil sur Windows/Linux/Mac, ya pas de dépendance en plus de CUDA/Mesa/Vulkan, pas de Python etc.
 
Je prends les modèles a la main sur HuggingFace et je prends les paramètres conseillés. J'utilise juste -ctk q8_0 -ctv q8_0 pour compresser un peu le contexte.
 
Après avec du local, a moins d'avoir une machine de guerre il faut pas s'attendre a faire aussi bien que Claude ou Copilot.

 
Pour la recherche j'ai un searxng sous Docker et j'ai fait une Skill curl.

llama c'est la vie.
C'est le plus performant, le mode server est ultra pratique ( suffit d'avoir les models dans le sous dossier et on peut appeler directement depuis l'api le model de notre choix !).  
Ollama c'est d'une lourdeur sans nom en comparaison...
Par contre LMstudio est un bon compromis, pas aussi perf que llama pur, mais ajoute beaucoup de confort pour tout faire en gui sans être un gouffre a ressources.

 
pourquoi llama et pas MLX ? meilleure perf avec MLX non ?
je viens de voir que Olama tourne avec MLX maintenant
 
oMLX c'est tres simple .... pour faire tourner un LLM tout seul dans son coin, des que tu veux faire un truc utile, c'est la merde effectivement
faut le voir comme un outil de bench
 

 
connais pas vais regarder, merci !
 

 
A la base je bidouille a la maison sous Windows et Linux, donc llama.cpp. Pour le taf j'ai un MBP m4 48Go, et llama.cpp tourne bien aussi dessus. Comme ça tout marche pareil partout, et llama.cpp a des MAJ quotidiennes, donc ya des nouvelles features très vite (et des bugs aussi ).
 
L'autre gros avantage du gguf par rapport au mlx c'est que je trouve qu'il y a beaucoup plus de choix. Sur Huggingface il y a actuellement près de 170k gguf contre 12k mlx. Je prends généralement les modèles de deux la:
https://huggingface.co/unsloth
https://huggingface.co/bartowski
 
Après effectivement le mlx devrait être plus rapide, mais je préfère avoir plus de choix et je suis plus a l'aise avec llama maintenant.

je comprends, 12k models c’est juste

 
Pour être plus clair:
https://huggingface.co/mlx-communit [...] 1b-it-4bit
 
une version de 18Go, ça pas ou ça casse
 
https://huggingface.co/unsloth/gemma-4-31B-it-GGUF
 
18 versions avec des quantifications ("compressions" ) différentes, de 8Go a 35Go.
 
Sur un MBP de 16Go, tu peux tenter le UD-IQ3_XXS qui fait 12Go alors que le mlx risque de pas passer.

Bah vazy on parle entre pros
 
Je veux savoir comment c'est géré réellement pour des vrais trucs. J'ai un pote qui fait ça avec sa boite et pleins de dev/équipes, ils ont fait une liste de skills de ouf, des guidelines de partout, etc, du gros taf

Tu peux lui demander de partager  

Bientôt

Désolé les gars, c'est la fin de l'abondance

https://x.com/i/status/2043697458300256722

Ouais ca pue de plus en plus
 
Bon ben faudra péter le PEL et vendre quelques organes pour se faire du local correct