Reprise du message précédent :

Tu réalises que pour l'héberger il te faut près de 100K de GPU (4x H100 avec 80 Go de VRAM chacune, sur un serveur 4 sockets et au moins 256 Go de DDR5 ECC REG) ?

Je suis Biz

GPT-6 ASTRA : LETS GOOOOO

nikezvous

 

 
Tu vas pouvoir avancer plus vite sur redface2

Tu n'es pas forcément obligé de faire du H24, les GPUs peuvent se louer facilement à l'heure (et tu payes très peu, voire quasi rien, lorsque tu n'utilises pas. Ensuite, tu bootes le truc dès que t'as besoin, tu lances un gros batch, et tu ré-arrêtes - c'est même automatique)
 
Ca ne se vend pas "au Go", mais par GPU, donc tu ne peux pas ajuster exactement comme tu veux, il faut prendre ce qui colle à peu près pour que tu aies au moins assez + ce qu'il faut pour le contexte, tout en essayant que ce soit le moins possible (pour les $$$ ). En plus, ce qui est chiant est que tu ne peux généralement avoir qu'un nombre pair de GPUs. Si tu pouvais en avoir 3, ca t'arrangerait bien pour utiliser du GLM 5.3 Flash quantifié en Q4 (c'est un peu moins performant, mais ca marche tout de même bien). Ca ferait 200 Go tout rond pour du Q4 XL, mais 3 GPU, c'est pas trop possible.
 
Tu peux regarder chez AWS, ou il y a un tas de providers qui proposent ca. (Lambda, Vast, etc.)
 
Disons que si t'es quand même un peu radin comme moi ( ), et que tu te contentes d'une quantification en 6 bits (là, t'es bien, en rapport taille/perf). GLM 5.3 Flash Q6 XL, c'est 292 Go.
4 GPUs de 80 Go te fera 320 Go, ca devrait être chouette. De l'A100, qui est dans le "pas trop cher", mais tout de même performant, et ca a 80 Go, ca coute par exemple $2.5 de l'heure chez AWS. Donc $10 l'heure pour 4. T'as 720 ou 750 heures par mois (30 ou 31 jours) si tu veux tourner en continu (soit $7200 à $7500 par mois). EDIT: En fait, c'est 744 heures pour un mois de 31 jours, mais 750 est souvent utilisé pour tout calculer facilement
 
Tu dois pouoir trouver assez facilement moins cher que AWS, surtout si t'es flexible (certains providers font de super tarifs si tu acceptes de te faire éjecter dès qu'ils ont un besoin. Tu loues ce qui est inutilisé et t'acceptes de lâcher à n'importe quel moment en échange d'un bon prix).
 
Vast annonce de la H100 (une version supérieure à la A100, aussi avec 80 Go) mentionée par LibreArbitre à $2 de moyenne en ce moment et à partir de $1.33. Ca te donne à peu près les chiffres pour faire tes calculs (donc x4 et c'est par heure).

 
Ca va, tu as encore accès à Opus  
 

Il a l'air de bien déboiter, j'audit tous mes process
 
Xat, ca devrait pas tarder chez toi, t'es pas à quelques heures près  

Je sens un peu de peur et vous?  

Combien de temps avant que la DGFIP se fasse à nouveau hack ou un autre ministère avec astra tant qu'à faire ?

Sinon AGI fin 2027 ou pas ? Vu la vitesse de l'IA en 1 an, je pense qu'on y est bientôt

Je dirais 2028

AGI, fin 2026 / début 2027
ASI, pour un peu plus tard

Tu devrais l'avoir maintenant xat

Astra aussi ici. Je pars 1 semaine. Je lui ai laissé les clés du chateau. Il a carte blanche pour modifier un de mes projet, il fait ce qu'il veut. Je reviens checker ça dimanche prochain

Saint Tibo a encore frappé

Je pensais qu’il offrait des reset jusqu’à la sortie mais c’est des bank reset J’en ai deux en stock

Ha j’ai accès à Astra sur codex bah on va faire peter le quotas avant le reset

Claude (ou plutôt les mathématiciens d'Anthropic, surtout Levent Alpoge) aurait trouvé la solution à l'un des problèmes du millénaire, nommément les équations de navier stokes.

Pour ceux qui ont l'abo à 100€, vous avez Astra dans le chat (pas Work) ?
 

Je vais devoir utiliser un Bank reset juste pour finir 1 prompt avec Astra

Le quotas ne se rafraichit pas assez vite pour Astra

Surtout qu'ils continuent à se battre en nous filant des resets    
 

Non.

Ceci dit, ça viendra peut-être plus tard dans une update ultérieure.

Claude a reset

Encore ?

Je suis a 0% ce matin donc je dirais oui en plus de mardi

Merci Astra

C’est peut être pas logique mais le reset qui reset aussi la date  
 
J’avais mon reset prévu lundi, je voulais juste renouveler mon quotas d’ici là, j’ai quasi tout consommé et prochain reset samedi du coup …

C’est le cas depuis que les reset ont été créés

 
   
 
C’est tipar mon canard.

Perso je table sur un nouveau reset (pas bank reset) dans moins de 48h.
Y a toujours des soucis lors du lancement d’un nouveau modèle

 
record battu
 
"you’re out of Codex and Work usage"    
 
lancement du prompt; 10h50... quota explosé a..... 10h52      

Ou pas
10 fois mois cher que Fable 5.1    
 

Pas du tout chez moi

Reset le mardi matin.
2 reset gratuits cette semaine et reset toujours mardi matin

Edit : ah je parle du reset Claude

Les Banks reset OpenAI ? Tu dois être un cas à part car c’est bien le cas de tout le monde

Non mais erreur... On parle de reset Claude juste avant

 
fear

Tiens Astra ne me bouffe pas mon quota.. normal 100% sur les 2 comptes, pas de cool down démarré.

 
T'as l'abonnement à 20 balles ?

T'as qu'à arrêter de les traiter de connasses.  

 
Soyons sérieux...