Reprise du message précédent :
Il n'y a pas de raisonnement dans les LLM c'est juste des statistiques, il te donne la réponse la plus probable à:
 
combien il y a de <lettre> dans <mot>
 
les valeurs de "lettre" ou "mot" modifient juste un peu le contexte mais ne donnent pas lieu a un calcul.

https://chatgpt.com/share/67965bbe- [...] 1ac082af7c

Sujet évoqué de nombreuses fois, un LLM utilise des tokens pour représenter des mots, ce sont des nombres. Un mot peut être représenté par un ou plusieurs tokens. La notion de lettre disparaît, d'où l'impossibilité de les compter. Il faut utiliser l'interpréteur python pour y parvenir.

À tester ici pour voir le découpage d'un mot en tokens https://platform.openai.com/tokenizer

marrant
 

Tristan Mendès France (tmf.bsky.social) : Déroutant de voir comment le "ChatGPT" chinois deepseek explique la situation des Ouïghours en Chine, la Grande famine de 59, ou la liberté de la presse. Et sur Tiananmen, rien.

l'IA revisitée par des boloss...
 
https://www.youtube.com/watch?v=4GEo9iIy73g
 
__
je préfère le moment de vide quand Steve jobs annonce la raison d'achat de Siri,
 
https://www.youtube.com/watch?v=BCdRUzmtKGk

 
Demande à DeepSeek-R1, il donnera la bonne réponse
 
 
 

Il faudrait une IA pour choisir la bonne IA

Prompt injection tricks AI into downloading and executing malware
https://hackaday.com/2025/01/26/pro [...] g-malware/

DeepSeek R1 - Le "projet secondaire" chinois qui CHOQUE toute l'industrie de l'IA !
Vision IA
https://www.youtube.com/watch?v=KW2T18dk4iA

La gamelle de Nvidia aujourd'hui

Ce qui est un peu con vu que Deepseek utilise aussi des GPU NVIDIA...

Mais en utilise beaucoup moins que ce que Nvidia prétendait qu'il fallait pour le même résultat.

Insupportable ces titres  

Justement, imagine ce qu'ils pourraient faire s'ils en utilisaient le même nombre !  

Après c'est juste une bonne excuse pour faire une correction de marché, l'action NVIDIA est quand même très sur évaluée.

Avec les besoins grandissant, elle va vite retrouver son niveau d'avant mini crash.

On parle de -15% c'est ça ? Pas énorme non plus.

ca fait environ 600 Mds $, plus que Stargate
 

Je serais pas contre une baisse plus importante, histoire de chopper une 4080 a vil prix

faudrait qu'ils sortent un deepsek pour la gene video à pas cher aussi

 
Elle est sur-évaluée parce que tout les acteurs étaient en mode fear of missing out, si on achète pas plus de GPU que le voisin, on ne pourra pas lutter. Deepseek a juste montré que, a priori, si

 
De toute façon, c'est des IA qui s'occupent du trading maintenant.
 
https://www.nvidia.com/en-us/indust [...] ing-brief/
 

Tiny DeepSeek 1.5B Models Run sur 249 NVIDIA Jetson Nano
https://www.nextbigfuture.com/2025/ [...] -nano.html

NVIDIA Jetson Orin Nano SUPER Unleashed : créez un super cluster d'IA
https://www.youtube.com/watch?v=TSbl5ZxdbPk

DeepSeek Janus Pro Local Test and Install (1B And 7B Tested!) (alors il a 2000€ de carte graphique sur sa machine de ce que j'ai cru vite fait comprendre )
https://www.youtube.com/watch?v=2KAjtxBYfeg

Interview CHOC(apic) du patron de DEEPSEEK : Il prédit l'avenir de l'IA, préparez vous !
https://www.youtube.com/watch?v=ygn6MpgF7g0

Coded biais

 
Pas mal la video, il a une paire de 3090Ti mais n'en utilise qu'une. Ca devrait passer sur ma 4060Ti 16GB, reste plus qu'a tester

 
Article payant malheureusement. https://www.ft.com/content/a0dfedd1 [...] e01de87ea6
 
L'actu va être riche dans les mois à venir !

Article similaire:
https://www.theverge.com/news/60119 [...] on-ai-data

 
Ca va être assez compliqué j'imagine de savoir qui dit vrai et qui en rajoute un peu trop, mais dans tous les cas ça paraît surprenant qu'ils aient pu former leur modèle avec une faction des ressources des autres.

Découvrez pourquoi et comment Google AI Studio redéfinit les règles de l'apprentissage en ligne !  
https://www.youtube.com/watch?v=gKuJQhHKozg

Marant j'ai testé le deepseek, je pense qu'ils vont avoir des soucis, sur le site la censure est rétroactive    


 

 
https://community.openai.com/t/look [...] /1106952/2
 

 
a voir si c'est pas bidon

 
ça ne me surprendrait pas, après OpenAI est un peu dans la sauce parce qu'on est pas sur du tout qu'ils aient les droit de toutes les données utilisées pour entrainer leur modele donc quelque part ils savent

 
Avoiir dans quelle mesure c'est vrai mais le fait que ça tourne sur des GPUs beaucoup moins puissants (et ça c'est vérifié et vérifiable facilement) donne à penser que c'est le cas.  
On peut se dire que si le modèle est super optimisé c'est que son développement l'a été aussi
 
J'installerai ça sur mon PC ce weekend pour voir, ce qui est cool c'est que non seulement il est open source mais qu'en plus ils ont fait des version lights pour différentes configs

 
ça tourne pour l'inférence oui, pour l'entrainement c'est difficile à vérifier quand même non ?

 
Tu as quel type de config ?
Je me pose la question de m'équiper un peu pour pouvoir faire de l'entrainement de petits modèles avec ma formation, mais j'ai pas envie non plus d'y mettre un gros billet.

 
Un simple PC avec une 2060    
On verra quel modèle distillé j'arrive à faire tourner, j'imagine que ça va pas aller bien vite...

 
 
https://www.youtube.com/watch?v=RQ-TBFhXNjw

 
Perso j'ai une 4060Ti 16Go et je trouve que c'est le bon rapport qualité/prix car je l'ai eu a 300 euros en refurb PNY

j'arrive a faire tourner le LLM que l'on a mis en place chez nous (avec un peu de lag) sur ma SurfacePro
 

Pas pour du training quand même?

ha non faut pas déconner
 
on a plein CG pour cela et parfois accès via collaboration au Jean Zay ou a des gros serveurs autres dans le cadre, également, de collaboration (sur des appels à projets européens)

Les modèles avec 70B paramètres tournent pas mal sur un macbook pro avec 64GB de RAM sinon, uniquement pour l'inference bien sûr mais pour faire de l'evaluation, c'est un rapport qualité prix pas trop mal