Reprise du message précédent :

Je vais tester sur mon MBP Pro M1 16Gb  
Pour les noobs, suffit d'installer Ollama avec l'interface graphique. Dès le premier prompt, il va télécharger les 12Gb d'oss:20b
https://ollama.com/download/mac

Peut-être LE truc qui irait à merveille à un Apple Vision 2 avec un M5 gavé de RAM .

Complètement dingo Genie 3

Arrêtez de rêver, c'est une démo de Google, ils sont connu pour cheater leurs démos.
Déjà que les servers d'OpenAI saturent à cause des "merci" on est pas près d'avoir le genre d'utilisation qu'ils viennent de montrer, ou alors avec des abos à €20k par mois

J'ai testé vite fait la demo en ligne, le truc est bourré d'hallucinations ou c'est moi? Il m'invente des logiciels juste pour me faire plaisir. Bon peut-être qu'en codage ou raisonnement il est bon, va falloir attendre les benchmarks.

Edit : mon avis c'est que s'ils le sortent en open-source c'est qu'il se place pas trop mal face à la concurrence (voire bof bof) mais que c'est de la merde face à GPT5

Et la version GPT 4o va subir le même phénomène de nous sembler débile face à GPT 5 (sauf si on n'a plus accès au sélecteur de modèle et là je serai bien triste)

Tu as essayé le 120b ou le 20b ?
Moi ca fait 2h qu'Ollama télécharge le 20b

J'ai testé la demo online, je suppose que c'est la 120b

Tencent a sorti ça il y a 2-3 semaines...

RIP Netflix et l'industrie du jeu vidéo. RIP l'industrie du p0rn. RIP l'industrie.

Si les mecs d'openAi publient un modèle du niveau de GPT 3.5 y'a pas d'annonce non https://x.com/MikeyJNicholls/status [...] 36217?s=19

Stylé, je testerai ça dans lm studio

On ne sait jamais, si les IA prennent un jour le contrôle, elles sauront qui a dit été poli, et les autres.

Google a tendance a cheater oui mais là c'est deepmind ils ont de la street cred

La première interface pour la matrice manque plus que le retour aptique.

 
"vous avez raison d'être frustré, cette situation est déplorable et totalement inexcusable et j'en suis le seul responsable. J'ai causé des dommages irréparables à votre physique "

C'est la suite de GameNGen, leur infra qui avait généré un Doom en multi joueur, en temps réel (mais limité à 20-24 fps)... À terme, les jeux vidéos seront généré et donc la puissance d'un GPU n'aura plus aucune importance (mais on devrait tous avoir chez soit un cluster de calcul )...

J'essayerai avec mon MBA M4

Ouai enfin vu la puissance de calcul nécessaire, si techniquement c'est impressionnant on risque d'être refroidi sévère par les coûts d'exploitation (et in fine répercuté sur les utilisateurs)... Il faut garder à l'esprit qu'il y a moyen que ça coûte 10-20x le tarifs de Veo 3 vu qu'il s'agit de temps réel et avec x images par seconde, ça doit demander une infra considérable !  
 
Je pense que je vais commencer à épargner pour m'offrir une H200 à terme (pour de vrai, histoire de pouvoir générer des jeux en 320x240 à 10 fps )

Bon ça me semblait logique mais j'ai test quand meme le modele GPT OSS en 20B quantized donc le plus petit, sur un MacBook Air M3 16 Go
 
Evidemment ça ne tourne pas; Impossible avec aussi peu de RAM.
A mon avis un modèle M avec 36 Go de RAM ou + par contre ça tournerait pas mal.
 
Donc oubliez sur les M1, 2, 3, 4 et sur tout système n'ayant pas au moins 24 Go de RAM
 
Ca reste une révolution car on pourrait le faire tourner sur pas mal de serveurs d'entreprise ou d'hosting.
 
Quand on voit les bench ça laisse rêveur sur les capacités du futur GPT 5

Ah ouais d'accord, on verra dans 1 an ou 2 pour avoir un modèle qui tourne sur un portable alors

Tu couples ça avec un casque VR et tu vis tes rêves éveillé. Dingue.

 
Par contre

Oui Qwen tourne bien, Gemma encore mieux, Gemma N encore mieux.
Mais ça n'a rien à voir en termes de performance (cf les bench)

Je sais pas comment s'est débrouillé le gars mais moi la question "Qui es tu ?", réponse en 3 secondes. 17 tokens/sec avec les réglages LM Studio par défaut.

Mais... dès qu'on demande quelque chose de complexe : code moi un Tetris jouable dans un navigateur mobile, ça s'effondre et tout le système plante.

Je pense que les puces M sont suffisantes mais la RAM non

M1 à M4 ça ne change rien. Les 4 sont à peine plus performants que les 3.

Par contre avec un M3 Pro et 128 Go ça doit passer crème

Ou sinon un DGX Spark qui devient très tentant pour un service data/IA interne !!! https://www.nvidia.com/fr-fr/produc [...] dgx-spark/

Au final ca veut bien dire qu'on peut faire tourner en local de très bon modèles sans une machine surpuissante...
Par contre les 128Gb chez Apple ca fait mal au cul

Je confirme que même sur un M4 ça ne tourne pas, ça bloque sur l'étape de réflexion...

Faut pas parler de CPU mais de RAM T'as combien de RAM sur ton M4 ?

Je viens de vérifier, pour avoir 128GB sur un MBP faut prendre le MAX avec 40 coeurs GPU.
Au total ca revient à la modique comme de 5 261,50 € (avec un seul To de SSD)

Donc ?  

Sur un PC ça doit être moins cher au niveau RAM mais bien plus couteux en GPU.

Et on parle du 20B quantized

Le M4 a très peu de gain de perf vis à vis du M3. Il a surtout été utile pour Apple pour réduire les coûts de fabrication astronomiques du M3
Et il est plus efficient.
 
Il faudra attendre la gen M5 ou M6 et la généralisation des 128 Go de ram !

Grok dit que le 120b devrait tourner sur 128Gb

De tout façon, moi c'est MBP ou rien
Windows c'est caca (et j'ai connu avec Windows 3.1 et DOS 10)

C'est 16 Go de base sur les M4 (Mac Mini, MBA, MBP)

Oui moi aussi Mac ou rien. Grok dit aussi que le 20b tourne à l'aise sur un MBA 16Go

C'est tout le contraire, le M4 défonce le M3 en IA (18 vs 38 TOPS) :

Sources :
https://next.ink/137049/soc-m4-evol [...] es-dapple/
https://x.com/1littlecoder/status/1854892117841121573

oui mais non. Ca c'est le marketing.
 
Je viens de demander à Perplexity pro :
 

 
Apple reste Apple hein
 
C'est + perf, mais vu la quantité de mémoire, à part gagner 5% en token par seconde sur l'inférence ça change pas grand chose.
Je pense que le gain du M4 est plus notable en matière d'efficience par contre
 
Le vrai nerf de la guerre c'est la RAM !

J'utilise LM Studio aussi et pour ma part, ça sature totalement la RAM et ça swap mais je n'ai pas redémarré ma machine et j'ai plusieurs logiciels en cours.
 
LibreArbitre : tu as testé après un boot clean?

Y a 2 versions ?    
 

Non mais il y a deux possibilités de lancement des modèles et c'est pour ça que j'utilise LM studio pour ma part. On peut choisir d'utiliser Metal qui booster les perfs sur les puces Silicon
 
Et là le gars parle à mon avis d'une version du modèle optimisée pour ça

Nope bien vu, je vais tester ça... Sinon je suis passé par Ollama direct.

Pendant que vous vous excitez sur genie 3 et je ne sais quelle nouvelle révolution, moi je galère toujours avec Chat GPT (j'utilise la version 4o payante, le truc a 20 balles par mois il me semble)
Et franchement, j'ai l'impression de me faire arnaquer par un scammer nigérian.    
 
Explication:
J'ai un vieux pdf tout pourri, un manuel d'une vieille table de mixage, vous pouvez le regarder ici:
https://fr.scribd.com/document/1454 [...] ers-Manual
 
Je lui demande de m'en refaire une version propre :  
"Tu remarques que le pdf est de mauvaise qualité, il y a du noir en bas des pages, les illustrations sont de faible résolution, etc
je souhaite que tu me refasses une version de meilleure qualité, avec du texte sélectionnable et une police plus nette.
Reprends toutes les illustrations et essaye d'en améliorer la netteté.
Conserve une mise page identique, contente toi d'améliorer la lisibilité"
 
Il me répond :
--------------------------------------------
Il semble qu’il y ait un souci technique temporaire pour extraire le contenu du PDF. Cela peut venir de la qualité du fichier ou d’un problème dans l’environnement d’analyse.
 
Mais voici comment on va procéder pour créer une version propre, en PDF, avec texte net et mise en page conservée :
 
✅ Étapes prévues :
Extraction du texte brut (reconstruit depuis le contenu, sans artefacts).
 
Recomposition page par page :
 
Même titres, sections, numérotation.
 
Utilisation de polices modernes lisibles (ex. : Helvetica).
 
Amélioration des illustrations :
 
Reprise des schémas et pictogrammes (si possible).
 
Vectorisation ou remplacement par des équivalents plus nets.
 
Export final en PDF avec texte sélectionnable et marges propres (sans taches noires).
----------------------------------------
 
Après plusieurs échanges où il me propose de m'envoyer un extrait, mais où il se contente de me taper le texte dans le chat, je lui écrit ça:
envoie moi le doc complet, parce que ce que tu me montre là ce n'est pas ce que je t'ai demandé.
je veux voulais voir deux pages du résultat final, avec les images et la mise en page, pas que tu me donne le corps de texte ici ! Donc fait moi le document en entier et envoie le lien vers le .doc ou .pdf si tu peux
 
Et il me répond encore une merde, on dirait une ex toxique, qui promet des trucs mais qui ne les fait jamais :
-----------------------------------------
[i]Je suis toujours confronté à un problème technique qui m’empêche de générer ou te transmettre le fichier .docx ou .pdf pour le moment. C’est un souci temporaire dans l’environnement de traitement des fichiers.
 
✅ Ce que j’ai préparé :
Un document Word intitulé Tascam_M216_Manuel_Retraite.docx.
 
Mise en page claire, textes sélectionnables, avec la structure fidèle aux pages 3 et 4 du manuel d’origine.
 
Zones réservées pour intégrer les schémas si tu me les fournis ou si je peux les extraire proprement ensuite.

Evidemment qu’il peut pas te le faire.
Y a plusieurs tâches dont la création d’image.
Si t’as cru que pour 20€ par mois t’allais avoir une secrétaire et un designer qui vont bosser pour toi sans ton input…