Reprise du message précédent :

 
Sans doute mega crame, mais avec des collègues on fait des tests sur la version locale de Mistral sorti il y a 3-4 jours et c’est top

ok pour info depuis j'en ai testé pas mal et celui qui sort du lot pour moi c'est Gemma 3

testé gemini sur android, quel feignasse ce truc ,
 je lui demande le trajet en train le - long ,il me dit 4h (je sais que c'est faux )je lui fait repeter la question en lui disant que y"a - long, plusieurs fois toujours 4h , je lui dit qu'il existe un trajet de 2h ....
 
reponse :  "ah oui effectivement blabla bla ..."
 
 

Soyez plus précis si possible;
Les modèles évoluent sans cesse. Donc il suffit que la version ait plus de paramètre et elle est a priori supérieure non ?  

Autre levier : Avoir de meilleures données.
Mais est ce qu'on a un moyen de comparer les données des différents modèles ?

Au final c'est le truc qui va différencier les IA je pense.
Il suffit d'avoir de la donnée que le voisin n'a pas et t'es meilleur.

Indépendamment de la puissance des paramètres.

Avec quelle config ? Je ne vais pas tarder à changer mon laptop, j'hésite à prendre un avec un i9 270HX RTX 5080 (version laptop donc, genre ça avec upgrade RAM en plus : https://www.ldlc.com/fiche/PB00668735.html ) pour expérimenter avec des LLM et faire quelques entrainements de modèles
 
Et   au passage

Veux tu que je repolisse le plateau d'argent avant de te l'apporter ?  
 
https://www.google.com/search?q=gem [...] s-wiz-serp

Non juste donnez bien les versions c'est tout.
 
Après les benchmark on s'en fou un peu j'ai envie de dire.  
C'est vraiment le quotidien qui est important.  
 
C'est bien d'avoir des retour pragmatiques.  
 
Moi j'arrive pas à décrocher du online. Ca me semble tellement en avance par rapport à un truc en local.  
Mais j'ai pas de données locales donc bon ..  
 
De ce que j'ai compris :  
Mistral 7 -> 7 milliards de paramètres
GPT 4.5 -> 1800 milliards de paramètres  
 
Ca donne l'ordre de grandeur  

Peros j'utilise que les modèles commerciaux aussi, mais j'apprécie l'idée d'avoir un modèle local qui peut tourner sur mon ordi ou mon tel quand j'ai pas de connexion

Par exemple quand je vais aux USA pour le taf, dans l'avion ça peut être pratique sur l'ordi;
Autre cas, je serai dans des régions désertiques d'Afrique du Nord dans un mois (voyage auto tour) et avoir un LLM sur le tel ça peut être cool pour avoir quelques infos sur le lieu où on est

Si on voit plus loin, si un jour on a des modèles locaux très performant ce sera moins couteux que de prendre des abonnements

Quand je vois ce que stable diffusion me sort en local je suis impressionné. Sur un simple MacBook Air M3 on obtient le niveau de qualité qu'on obtenait des modèles commerciaux il y a un peu plus de deux ans. Pour le coup, j'ai des cas d'usage concrets et ça va me faire économiser des appels API couteux

Belle bête, tu comptes jouer aussi un peu et faire tourner des modèles IA photos et vidéos?

Un modèle 32B tournant en q4, fine tuné sur des données nécessaires à un cas d'utilisation très précis + potentiellement du RAG sera forcément plus intéressant que GPT4.5 qui n'aura jamais vu ces données et n'aura jamais été paramétré dessus, malgré sa taille.

Mais alors, pour trouver les bonnes données histoire de renforcer la probabilité d'une réponse adéquate au contexte idoine, bonne chance. Perso, je suis dans l'optique de fine-tuner un modèle type Qwen/R1-Distill 70B doté d'un raisonnement autour de données en sciences humaines et sociales mais je galère à trouver de bonnes bibliothèques de données ouvertes, de bonne qualité (je peux potentiellement aspirer Anna's archives mais ça va être trèèès long de trier)... et ça va me coûter un rein de louer plusieurs GPU type H100 en cloud computing pour entraîner le modèle, sans compter la question l'inférence en cloud, la sauvegarde, la difficulté technique etc... Si j'avais les moyens de me payer un Mac Studio ou un GPU avec suffisamment de VRAM pourquoi pas mais pour l'instant ça reste compliqué de se doter d'un LLM adapté à un usage très précis.

J'envie les dev, j'ai l'impression que la plupart des LLM tournent autour du code. Y'a bien que o1 Pro qui me semble assez polyvalent, même en SHS (mais avec le bon contexte).

Quasi pas de jeu
 
J'ai parfois besoin au taf d'extracteurs de texte, on explore pour faire ça par LLM au lieu d'heuristiques. Avoir une grosse machine me permettrait aussi de fine tune des modèles huggingface, ou entrainer quelques autres modèles simples style deeplearning de reconnaissance. En CPU c'est une vraie plaie le temps que ça prend  
 
Le training par cloud public étant touchy politiquement dans mon cas, le gros laptop serait un compromis.

Par OVH ça passe pas ?

 
Pareil j'avais un MBP 14 M3 max 128Go refurb dans le panier pendant 3j avant de décider d'être raisonnable  

 
Tu n'as pas peur d'user prématurément le pc ? Je sais pas la fréquence d'usage, mais niveau ventilation/refroidissement, ça reste bien en dessous d'une tour.

Y'a encore des gens qui achètent des PC portables en 2025 ?  
Une bonne puce Apple Silicon sur un portable ça envoie bien sinon

 
C'est pas magique non plus, tu peux pas "tout" faire tourner, particulièrement en VLM (et en agents même si ça a l'air de se débloquer un peu) où c'est très en retard niveau implémentation.

https://www.notebookcheck.biz/Test- [...] 586.0.html

Ça par exemple c'est plutôt bien. On en trouvera prochainement dans des Mini PC comme le GMK Evo X2 ou sur le futur Framework Desktop.

Le but n'est pas de faire tourner pendant la nuit entière, chaque jour. Si j'ai besoin d'autant ça sera cloud ou rien. Après un portable gamer ça tient bien logiquement, ça supportait mes LAN d'étudiant en tout cas.

@falcon : je ne connais personne en milieu pro de dev qui bosse sur autre chose que laptop. Certains sont sur macos (surtout dev iphone), mais la majorité est sur windows. A plus forte raison pour les équipes dotnet.

Bonne alternative. Merci pour l'info

MANUS IA : CODE HACKÉ & VÉRITÉ DÉVOILÉE !  
https://www.youtube.com/watch?v=is8IK8cvJv4

Après bon 256gb/s (en théorie) et 40CU ça sera pas un foudre de guerre par rapport à un M3 Ultra (800gb/s) ou M4 Max (500gb/s) 128gb.

Que ce soit en traitement du contexte ou la sortie.

Ça s'entend

C’est cool qu’un des influenceurs IA soit lucide, concret, critique et pragmatique  
Ce sont des valeurs qui se sont perdues depuis longtemps sur les réseaux

Plus visible  
Ça parlait de quoi ?

Incroyable ! "Cette vidéo n'est plus disponible en raison d'une réclamation pour atteinte aux droits d'auteur envoyée par Ludo SALENNE"

Dans la vidéo supprimée, le type montrait que Manus était bien conçu et + qu'un simple wrapper mais qu'ils ont utilisé les influenceurs ia connus pour totalement survendre le truc et la vidéo le démontrait très bien en critiquant une vidéo de ce Ludo

EDIT : après avoir regardé plusieurs vidéos je me fais un avis rapide. C'est encore un vendeur de formation miracle sauf qu'il a un discours différent des autres.
Les influenceurs classiques ont un discours de type "Je vais vous donner tous les secrets, achetez mon truc"
Lui c'est "Tout le monde est nul et vous ment par ignorance, achetez mon truc"

A choisir je préfère les gens positifs et bienveillants

Je joue avec Claude code. C'est bien foutu et plutôt plus efficace que continue.dev ou copilot. Par contre avec claude-3.7 le cout des tokens fait très mal.  

J'avais arrété de suivre ce type assez vite... (comme d'autre) Y'a un buisness "facile" avec l'ia, bcp en profites. Je ne suis plus que "two minutes paper" pour ce qui concerne l'ia sur YT (recherche).
Pour l'usage des llms et les actus, j'ai des feed genre "the rundown ai", c'est déjà de trop  

C'est pas inclus dans l'abonnement ?

Nope. Ça consomme des crédits API.

aie

Bonjour,

Je suis l'auteur de la vidéo que vous avez citée.

Pour info, je découvre ce forum et ce topic sur IA générative. J'ai lu la charte du forum qui stipule que "Les messages à vocation publicitaire sont proscrits".
Je précise que je n'ai rien à vendre et que mon message n'a pas pour but de faire la promotion de ma vidéo mais d'échanger techniquement sur l'IA.

Pour information la config est sommairement décrite dans la vidéo ici : https://youtu.be/qhCH237rC9c?si=bPy [...] T1z&t=2947
Je vais ajouter cette information dans la description de la vidéo.

Si vous voulez l'info directement : j'ai testé Ollama avec Llama 3.2 sur deux configs :
Un PC Desktop que j'ai monté moi même:

• 13th Gen Intel(R) Core(TM) i5-13600KF   3.50 GHz
• 64,0 Go DDR4
• NVIDIA Geforce RTX 4070 12 Go
• Un SSD mvne

Un laptop ASUS ExpertBook B7 Flip B7402FEA-LA0110R de 2021

• Intel Core i7-1195G7 @ 2.90GHz
• 16 Go
• Carte graphique intégrée Intel® Iris® Xe Graphics

Pour le desktop vous pouvez voir dans la vidéo qu'avec le modèle Llama 3.2 l'utilisation est tout à fait rapide. Pour le latptop, qui est peu puissant, c'est plus lent mais utilisable

Au cours de mes tests j'ai été impressionné par la facilité d'utilisation d'Ollama et le fait que les petits modèles comme Llama 3.2 tournent très bien même sur un laptop assez ancien.

C'est plutôt le partage du code qui me poserais plus de soucis  

C'est sympa de passer

Et cool pour les précisions.

Et bienvenue sur hfr

Oui pas de soucis, du moment que c’est des échanges et pas de la pub déguisée c’est même bienvenu …
On a le youtubeur « Techniques Spatiales » qui passe de temps en temps sur le topik fusées par exemple … et c’est toujours au top !

Super, merci pour votre accueil !
J'ai vu que certaines questions portent sur les sujets de génération de documents .doc ou de présentations powerpoint par exemple.
 
C'est aussi un sujet sur lequel je travaille. Jusqu'à aujourd'hui mes tests ne sont pas très concluants car je veux atteindre un niveau de qualité suffisant pour le milieu professionnel.
 
Si l'occasion se présente je posterai le résultat de mes recherches sur le sujet

et bienvenu.

Pour ce genre de choses, je n'utilise pas les formats MS. Toutes les IA sont en galère dessus pour en créer.

j'obtiens des résultats beaucoup plus intéressants en format markdown et mermaid pour les schémas.

Et en demandant de faire du revealjs, ça fait des slides techs pas mal.

Ce sujet m'intéresse beaucoup. Ma femme exerce en libéral et doit écrire beaucoup de compte-rendu.
Pour l'instant elle fait des ça et vient entre un chatLLM et son traitement de texte mais c'est pas au top. On cherche des solutions plus efficaces.

Tu as essayé superwhisper avec un prompt custom ?
(Dispo sur mac/iPhone seulement par contre)

Pour les présentations, avec make (/n8n), un llm pris en charge, et Google appscript, y’a moyen de faire quelque chose, selon le secteur.
Le formatage des présentations étant relativement standardisé, avec une approche de construction H1/H2/H3/paragraphe, tu peux aboutir à une base assez sérieuse.
D’ailleurs un outil comme Relume pourrait très bien être adapté par ses concepteurs pour pondre des présentations plutôt que des sites web, et serait très puissant.
 
Pour des présentations type technique avec des schémas et Cie, c’est une autre difficulté en revanche.

Oui tout à fait : les formats MS comme le .pptx  ou même les autres formats (Libre Office, Google Slides) ne sont pas adaptés à la génération textuelle car ce sont des textes très gros, très verbeux, c'est une sorte de code, très dense.
La bonne approche est de faire générer les slides dans un format informatique plus simple : le Markdown me parait une excellente approche. Mermaid je ne connais pas, je regarderai. J'ai pensé à une autre idée c'est demander à l'IA de générer des calls API vers Google Slides API. C'est cette approche que je compte tester dans les semaines à venir.

revealjs, je ne connais pas. Merci je regarderai aussi.

Pour ce qui est "compte-rendu" textuel là aussi, je donne du texte brut à ChatGPT. Je lui demande de me le synthétiser sous forme de Markdown, puis je convertis le Mardown en .pdf. Cela fonctionne bien. je n'ai pas essayé de générer du .doc mais il doit certainement être facile de convertir du Markdown en .doc

Merci pour ces pistes, j'y jetterai un oeil à l'occasion.

Pour les schémas en effet, c'est un autre problème spécifique. Pour l'instant je pars du principe que dans mes présentations je fournis les schémas en input sous forme d'image.

Dans mon cas, c'est pour un projet perso, ca n'est pas un enjeu, mais je comprends que çà soit un point de vigilance.
 
Pour info, entre temps, j'ai trouvé ceci: https://github.com/dnakov/anon-kode
le code de claude code a leaké, et a été forké pour le rendre compatible avec tout LLM compatible avec l'API openAI. Ca permet de l'utiliser avec un LLM auto-hebergé.
Je l'utilise également avec Gemini en mode free tier. On est vite limité par les limites d'appel à l'API, mais ca permet de jouer.