Reprise du message précédent :

Quel est le problème si on ne compte pas monétiser ses productions ? Les enjeux ne sont pas les mêmes...

Après, comme tu le dis, les musiciens vraiment créatifs n'ont pas de souci à se faire mais ceux qui font de la soupe par contre c'est autre chose...

Concernant le temps mobilisé par ta passion, t'es sur HFR le forum de l'élite, on est très nombreux à avoir passé des milliers d'heures sur nos spécialités donc on comprend bien le fond de ta pensée et ton ressentiment, on n'est pas dans le même domaine mais nous sommes nombreux à être animé par une passion infinie...

Si ton prénom ne commence pas par un "F" alors je me suis trompé

Preneur de quelques prod en mp par curiosité, et si ça ne t'oblige pas à dévoiler ton identité

Je parle dans le monde, OSEF la France. Mais si tu veux:
 
Il y a 3+m d'actifs supplémentaires et le taux d'activité a augmenté de 400 pdb  

 

https://www.insee.fr/fr/statistique [...] re=7456956

Ah.... Si tu le dis, c'est à peu près la meme rengaine à chaque révolution indus. On verra mais perso je pense juste qu'il y aura d'autres types de métiers.
Pour rappel:

https://fr.wikipedia.org/wiki/Histo [...] 20travail.

 
 
Ah bha tiens je suis retombé sur cette question que je m'étais posé à l'époque.
 
Si j'ai bien compris le phénomène Deepseek, le Hardware n'était pas assez exploité par les boites d'IA étant donné que Deepseek a réussi a faire au moins aussi bien qu'OpenAi avec une technologie moins performante.

le hardware c'est une course sans fin:
* deja on veut run ces modeles a la maison... ce qui est pas le cas encore; j'ai vu des builds de PC a 6000 EURpour run le modele... pas encore a la portée de tout le monde
* Ensuite le chiffre des 6m EUR pour entrainer le modele c'est hors investissement dans les cartes graphiques donc ca fait deja un bon gros investissement; il va falloir des dizaines d'années avant que nos telephones soient capables de faire du training
* enfin, les modeles ont réussi a manger tout le materiel ecrit de la terre mais le graal ultime c'est lorsqu'ils sauront s'entrainer sur tout le materiel video/visuel + Audio + texte en meme temps et pour ca il faut une sacré puissance de calcul

 
Perso ultimement je m'en balec, si ma boîte coule à cause de l'IA ça sera une solution simple à ma double phobie du CDI et du changement de boîte  
J'espère juste qu'elle tiendra assez longtemps pour que j'arrive au chomdu en même tant que le revenu universel  

 
Je pense que si.
L'IA maniée par un vrai artiste sera sûrement capable de créer vraiment du neuf, mais si tu te contentes de lui demander de pisser de la musique "dans le style de", ça sortira jamais des clous.
La playlist machinée pour Mr Toulmonde selon une poignée de mots-clés a des chances de l'enfermer esthétiquement encore mieux que les algo de recommandation.
 
My 2cents...

Honnêtement, quand on voit la merde produite en studio je pense que l'IA n'aura mal à faire mieux
 
Si va peut nous débarrasser de PNL, JuL et consort je m'en plaindrai pas

rien sur le p0rn ?

Vu la quantité de data disponible, ça doit être facile de générer par IA un film avec son propre script.

 
Ah bha tiens c'est marrant ça aussi dès que je sais que c'est fait par IA je trouve tout de suite que c'est de la merde.
 
Y'a pas mal de vidéos qui sont sorties ces derniers temps où y'a un remplacement du visage par celui d'une femme connue mais pas de ce milieu (par exemple Scarlett Johansson).
 
Et franchement c'est très bien fait, mais juste le fait de savoir que c'est une IA je trouve ça pourrit.

Tu penses bien qu'il y a déjà de gros acteurs sur le TDS robotisé...

Pour le "hors investissement", c'est vraiment le cas ? Il me semblerait logique que les couts d'entrainement annoncés intègrent l'énergie + l'amortissement de l'investissement ?

 
visiblement (je retrouve pas les sources), c'etait pas hyper clair dans leur livre blanc et les 6m USD indiqués pour le training sont extrapolés de "si on avait loué 2000 H100 pendant X heures, ca nous aurait couté 6 millions"ca n'empeche pas la prouesse et les bonnes idées du modele derriere mais effectivement c'est pas un modele qui s'et entrainé sur 3 raspberry en //cf. egalement l'interview de anthropic recente dans laquelle il indique que leur dernier modeles c'est entre 10-15m USD de training

Le vrai budget c'est pas 6 millions mais 1.3 Mds (selon leur CAPEX) à priori : https://interestingengineering.com/ [...] st-billion
 
Edit : D'autres sources parlent de 2.3 Mds : https://medium.com/@kalimanie58/the [...] f2f8abac99

 
Y'a une qu'une seule déclaration de la part de Deepseek, c'est dans leur publication au sujet du modèle :
 
https://arxiv.org/html/2412.19437v1
 

 
Il parlent du temps nécessaire à l'entraînement, avec un coût équivalent en louant le matériel, c'est plus pour donner un ordre d'idée pour la partie technique.
 
Et c'est parfaitement clair que Deepseek appartient à une boîte de fonds spéculatifs qui avaient déjà des GPU, et du temps GPU disponible, donc le matériel est probablement entièrement amorti par ailleurs.

Mouarf. Je voulais faire un POC d'un concept d'Ui e-commerce mais mon Ui manager est en RTT
J'ai demandé à ChatGPT o3 de le faire (donc fournir HTML, CSS, JS), en 5 échanges il me fait un truc utilisable et qui rempli totalement le besoin.
 
Ca promet d'etre un joli atout même pour des équipes front

Je ne sais plus si cela a été posté dans ce topic, mais cette vidéo est intéressante sur l'avenir du métier:
 
La fin des développeurs.
https://www.youtube.com/watch?v=dFFlhSV-X8g

Si le nombre d'heures de calculs et le coût de l'heure de calcul incluant la location du matos sont corrects, alors pour moi le coût de 6m$ annoncé est cohérent. Les GPU ne sont pas à usage unique, on ne peut pas se baser uniquement sur le montant de l'investissement pour avoir le coût de l'entrainement.

Question pour vous tous: vous êtes uniquement des utilisateurs finaux de OpenAI/DeepSeek/Claude, ou bien vous gênerez aussi vos propres LLM / Foundation models? Et si oui, quels outils utilisez vous ? Et c'est faisable sur laptop / pc, ou il faut quand même beaucoup de puissance, et donc passer sur de cloud ?

Je montrais à un collègue la puissance de o3-mini sur un dev bidon et c'était un beau fail :

Le bouzin qui switch entre 3 langues dans sa réflexion

Ces nimps ces articles ils comparent des choux et des carottes

Ben c'est surtout pour répondre aux articles "olalala OpenaAi lève 200Mrds pour chatGPT et emploie 50k ingénieurs, alors qu'un chinois dans son garage avec $10k fait mieux"

C'est exactement ça. Sans parler de la triche pour former leur LLM...

De quelle triche on parle ?

Tous ces articles poubelles c'est de la propagande pro Trump / America First (je fais un gros raccourci).

D'un côté on a une boîte qui s'appelle quand même OPEN-ai qui était censée faire avancer l'open-source en IA  tout en expliquant qu'il faut 500 milliards de dollars pour faire tourner tout ça parce que "l'IA, c'est cher", et de l'autre une boîte qui balance une série de modèles open-source, à l'état de l'art, et qui prouve que 6M$ suffisent pour s'en sortir avec un modèle performant. En vrai, on est juste en train d'assister à une bataille narrative où chaque camp défend son modèle économique. Avec au milieu des média qui captent rien, comme d'habitude.

 
Si j'ai bien compris les explications données, ne me connaissant pas vraiment en informatique.
 
Les gars qui ont crées Deepseek, sont les gérants/travailleurs d'une société de gestion fonds spéculatif importante.
 
Ils ont du matos informatique ultra performanjt qui leurs coutent plusieurs centaines de millions d'euros pour leur mission de base, les fonds spéculatifs.
 
Ils ont utilisés en parallèle ce matos pour créer à coté leur IA mais s'ils avaient achetés tout leur matériel seulement pour l'IA, c'est là qu'on peut dire que le vrai coût aurait du être par conséquent de plusieurs centaines de millions d'euros?
 
J'ai bien compris le truc ?    
 

C'est ça. Le patron a parlé de Deepseek en terme de "side project" de quelques petits génies en IA de leur boîte. Ils avaient des idées d'optimisation et du temps GPU dispo. Et bien sûr le soutien financier de la boîte, on parle pas d'un projet Arduino le vendredi après-midi (tout ce shitstorm est clairement une guerre de pouvoir économique entre les USA et la Chine).

Et pour la triche, ils auraient utilisé l'API OpenAi pour générer des données synthétiques et entraîner leur modèle, ce qui est contraire aux conditions d'utilisation d'OpenAI. Sauf que OpenAi a été pris la main dans le sac par le New-York Times qui a fait cracher mot pour mot des articles de leur journal alors qu'il avaient interdit l'utilisation de leurs données. Et faut voir les interviews de Mira Murati directrice technique d'OpenAi qui sait pas quoi répondre quand on lui demande s'il se sont entraîné (pour Sora) sur telle ou telle donnée qu'ils auraient pas le droit d'utiliser.

 
 
ok merci.
 
Comme quoi c'est maintenant même étonnant que ce n'est pas été fait par une boite américaine en side project.
 
J'imagine que des boites comme ça aux US y'en a un paquet avec des gens compétents et un matériel encore plus performant que ce qui a été utilisé par les chinois.

Ca a peut-être été fait, mais pas rendu public.

Meta (Facebook) est quand même pas mal placé dans la course, et leur modèle est open-source.
 
La sortie de DeepSeek a quand même créé un petit vent de panique :
 

 
Source : post sur teamblind un réseau social d'employés anonyme de grandes entreprises (il faut valider son compte avec une adresse pro de sa boîte, j'ai découvert ça a l'occasion).
 
A noter que Alibaba a sorti le modèle Qwen 2.5 en open-source qui serait plus performant que Deepseek V3.

Perso juste utilisateur final des outils de chat et des API (GPT, claude, DeepL principalement)
 
Tu veux créer ton propre modèle ? Bon courage…
Regarde du côté de PyTorch

Générer un LLM à partir de 0 ? Faut une très grosse infra, c'est pas possible pour un particulier.
 
Ce que tu peux faire en tant que particulier, c'est prendre un modèle préentraîné et le spécialiser sur des datas qui t'intéressent.

Perso j'aime beaucoup utiliser chatgpt comme psy/coach sur des difficultés relationnelles du quotidien.
Ca donne de très bon conseils pragmatiques et applicables, c'est super efficace.
Ca bat 95% des psys à mon avis

yes, on peut faire ça avec HFR !
comment on fait ?

t'as essayé deepseek ?
 
en 3 mois tu seras fan du parti communiste chinois

 
Ok.
 
Le truc est qu'il y a pas mal de features sur les Apple Silicon, je me demandais s'il y avait des trucs intéressant à faire pour les utiliser.

T’as pas idée de la puissance de calcul nécessaire pour faire tourner un llm
Honnêtement oublie l’idée

Générer comme dit plus haut impossible pour un particulier.

Par contre en local tu peux faire de l'inférence sur des petits modèles tant que tu restes cohérent avec ta Vram (ou Ram sur un Apple silicon).

J'arrive à faire tourner en local le R1/Qwen 14b sur mon Macbook Air M1/16Go, c'est tout à fait utilisable. (les modèles 7/8b sont assez rapides sinon sur un GPU avec 8Go de Vram)

Regarde du côté de Llmstudio si ça t'intéresse, c'est très simple à utiliser.

Je me doute bien que les gros demande de la puissance enorme. Mais je me demandais s’il avait d’autres sympa a faire.

 
Merci, je vais regarder ça.

1er degré, oui je trouve que c'est plus pertinent et terrifiant en même temps