Reprise du message précédent :
Les modèles avec 70B paramètres tournent pas mal sur un macbook pro avec 64GB de RAM sinon, uniquement pour l'inference bien sûr mais pour faire de l'evaluation, c'est un rapport qualité prix pas trop mal

 
On fait bien mieux maintenant (encore au stade de la recherche certes )
 
 
https://www.hackster.io/news/a-litt [...] ceb2c5ef71
 

 
Il faut toujours une grosse machine pour comparer

Si dans 10 ans on arrive à faire de l'inférence temps réel sur des modèles de LLM avec une carte à 5€ j'imagine pas ce qu'on fera avec les grosses machines

Oui pour du LLM on en est quand meme pas à faire tourner ça sur des Raspberry
 
Par contre pour l'IA embarquée dans l'industrie c'est super utile déjà ce qui peut se faire aujourd'hui (et risque de bien mettre à mal Nvidia qui misent une bonne partie de leur activité là dessus)

Des petits modèles tournent sans problème sur un Raspberry:
https://itsfoss.com/llms-for-raspberry-pi/

 
On est assez loin d'un Raspberry Pico tout de même.
 
J'imagine qu'en plus avec le nouveau modèle 16gb et les cartes dédiés IA qui sortent aussi, certains sont déjà entrain de faire tourner deepseek la dessus

Ha oui un Pico avec un LLM c'est chaud

Ça viendra avec un pico version 2030 par exemple pourquoi pas

Le truc c'est qu'en 2030, ya de bonnes chances que l'on ne trouve plus du tout qu'un LLM de 2025 soit particulièrement impressioannt ou utile, on regardera le dernier truc à la mode qui tourne sur une GeForce 7080 avec 4TB de ram

Bien-sûr, mais un llm de 2025 sera toujours aussi efficace même si pas impressionnant.

J'imagine pas le nombre de paramètres qu'auront les modèles  

 
Justement, le sont-ils, efficaces

Voici le meilleur ChatGPT chinois (et c'est pas DeepSeek)
https://www.youtube.com/watch?v=zE_dM7DwPQw

Les LLM c'est dla merde  

Ce mec sait pas lire les articles, Qwen 2.5 Max se compare à Deepseek V3, GPT 4o et Sonnet 2.5.

Il passe toute sa vidéo à faire rédiger des articles à la con au modèle R1 qui sert à faire du raisonnement. Comme le modèle o1 les modèles de raisonnement servent à résoudre des problèmes complexes de maths, physique ou informatique, pas à rédiger des articles de blog.

https://chat.qwenlm.ai

J'ai pu tester rapidement, j'ai été optimise sur mon PC c'est en fait une Geforce 1650    
 
Via Ollama j'ai installé la version 7b de Deepseek de 4,5Go, le temps de réponse est correct sans que ça sollicite énormément mon PC (c'est un portable et le ventilo s'est meme pas allumé).  
J'ai vérifié que c'est bien du local en coupant internet
C'est le modèle R1 pourtant il reste fort en écriture et capable de faire du texte, des plans de présentation etc(pas mal de fautes de français et d'anglicismes quand meme, on est pas au niveau de la version web )
 
J'ai pas comparé avec les quelques autres modèles qui peuvent tourner en local, probable que ça nuance un peu plus ces qualités

Bon petit test rapide de Deepseek avec Ollama et ma 4060Ti 16GB.  
 
Voila pour les utilisations VRAM (j'ai 600MB de pris par l'OS Win 2029)
 
* deepseek-r1:6b => 7GB
* deepseek-r1:14b => 11GB
* deepseek-r1:32b => 13.4GB (lent)
 
Je trouve pas les réponses extraordinaires, mais c'est rapide avec le 6b ou le 14b, le 32b est assez lent par contre.
 
Quand je lui demande si il peut faire des recherches sur internet il me dit qu'il peut pas et ajoute:

 
Je sais pas si c'est le vrai modèle R1, mais il semble que c'est juste un modèle Qwent distillé sur R1. Je vais réessayer avec le vrai repo Deepseek.
 
edit: il suffisait de lire
https://github.com/deepseek-ai/Deep [...] ill-models

drap

L'apprentissage par renforcement ?

Une IA qui apprendrait d'une IA, c'est sans fin, mais pour les biais ça risque d'être sympa

et surtout elle n'apprend rien de nouveau au final (si on prend la médecine tout ce qui est découvert après le corpus d'origine n'est plus inclu)

Après comme dit plus haut le R1 c'est pour résoudre des calculs, si tu veux le deepseek qui parle super bien fait prendre la V3 et c'est 600Go

Pour la seule partie conversationnelle Mistral est plus efficace pour a peu près le même poids et même perfs (car fait pour ça)

Oui, c'est juste que sans accès internet/fichier/image je vois pas trop quoi lui faire faire. Si c'est juste pour des maths, difficile de l'utiliser pour moi.

Les français de mistral AI viennent de sortir mistral small 3 en open source (47 Go) :   https://mistral.ai/news/mistral-small-3/

 
C'est pas pour moi

On a découvert le monde fascinant des AI-cheats
https://www.youtube.com/watch?v=cb6lIg2nZu0

DeepSeek R1 COPIÉ pour 30$ | La Percée CHOC de Berkeley Déclenche une Révolution.
https://www.youtube.com/watch?v=JldLaCUTZ3k

 
J'ai regardé le début de la vidéo, mais pas de sources dans la description...
 
Mais ça vient de la:
https://github.com/Jiayi-Pan/TinyZero

 
Comme d'hab un super titre C'est intéressant, mais ils ont juste extrait deux fonctions relativement simple du modèle, ils ont en aucun cas COPIÉ le modèle en entier comme le titre le laisse supposer.

En plus Deepseek est open source, y'a rien de choquant à le copier et changer son nom si tu veux t'en servir

La résistance contre les AI génératives apparaît:
Par data poisoning pour faire dérailler les AI fonctionnant sur la base des LLM.
Vous scrappez les sites? nous vous intoxiquons avec un pipotron.
 
https://algorithmic-sabotage.github [...] age-of-ai/
 
iocaine, le poison de l'AI...
https://iocaine.madhouse-project.org/
 

A ce propos, une étude intéressante:
 
Medical large language models are vulnerable to data-poisoning attacks
https://www.nature.com/articles/s41591-024-03445-1
src: https://hackaday.com/2025/02/03/exa [...] poisoning/
 
Un article plus court et intéressant aussi je trouve:
What DeepSeek Means for Open-Source AI
Its new open reasoning model cuts costs drastically on AI reasoning
 
https://spectrum.ieee.org/darpa-grand-challenge
src: https://hackaday.com/2025/02/03/mor [...] -big-deal/
 

 
C'est novateur car jusqu'ici une IA qui entraîne une IA ça marchait pas du tout et ça donnait juste un modèle final qui ne marchait que sur son set de training et pas du tout en dehors. Ça pourrait aussi (peut-être) aider a régler les soucis quand on "re-train" a un modèle sur ses propres "outputs", ce qui arrive quand on scrap la terre entière tous les deux jours

 
On peut imaginer que si, ça a été le cas pour les échecs ou le go par exemple, il me semble. Après, c'est sûr que les arts, les sciences ou la philo, c'est pas vraiment comparables à des juex de stratégie avec quelques règles simples, mais bon ...

ben la médecine entre y'a 2 ans et ce jour (par ex) y'a des changements, des molécules etc qui changent la donner. Si pas dans le corpus tu peux pas savoir.
 
Après dans ce domaine, la souveraineté commence (lentement) à faire comprendre que les données restant en France (et même dans l'hopital) c'est quand mieux mieux que d'aller faire un tour sur des serveurs aux USA

Applcation medical/ cancer
OpenAI SURPREND tout le monde : "Le moment de l'AGI" est arrivé avec DEEP RESEARCH.
https://youtu.be/5AF4aYa470k?t=553

allez du français pour une fois
 

Theo Laubry US (theolaubry.bsky.social) : Le Chat de Mistral AI est enfin disponible sur l’Apple Store et le Play Store. L’alternative française aux géants américains et chinois mérite un peu de publicité. D’autant qu’elle est plutôt réputée.   ️

la fin des dev ?

Dans 2 ou 3 ans seulement

Sachant qu'on n'a pas de test formel pour déterminer si on est face à une AGI  

NOUVEAU : Elon Musk sur l'avenir de la guerre
Vision Actus
https://www.youtube.com/watch?v=jwjqjwZ-R5c

https://www.bfmtv.com/tech/intellig [...] 0988.html?

HS on:
c'est pour que les émirats arabes unis puissent analyser les moindres écrits des français sur internet...ou alors pour diffuser la bonne parole...
Comme disent les américains c'est celui qui paie qui choisit la musique.
A ce rythme je vais équiper mon serveur de iocaine, un soft empoisonneur de données.