Reprise du message précédent :

 
Oui et le wording peut changer pas mal d’un modèle à l’autre  
D’ailleurs on est parti sur Gemini 3 flash preview quand il est sorti. Ça marchait bien et on se disait « t’inquiètes la version stable va pas tarder ». 6 mois plus tard y’a pas eu de stable    
Et on pense qu’ils ont fait une petite maj en douce début mai, on a eu un shift qu’on explique pas.  
 
Maintenant y’a Gemini 3.5 flash (stable dès la sortie?!) mais prix x3 et il faut revoir les prompts  
 
Bref, ça fatigue pas mal cette non stabilité quand on a un projet qui en necessite

J'imagine que ce qui vous coute cher c'est l'image input, plutot que le reasoning + output ?

Il faut self-hoster son modèle sur une infra cloud, c'est le seul moyen d'avoir la maîtrise dans le temps...

bien se blinder dans ce cas (une fois l'infra minimum OK passer sous réservation pour un an ou plus histoire de ne pas surpayer (des fois plus de 60% de remise sur le prix avec un engagement trois ans!) pour avoir de la visibilité sur le prix pendant l'engagement et de la garantie de disponibilité (genre être certain de retrouver ses gpus après avoir redémarré sa machine pour une mise à jour par exemple. C'est un cas réel !). Si on est une startup/dans la science/NGO penser à demander des crédits gratuits
Réfléchir aussi à la dépendance de son activité au service cloud choisi : ça peut couper sans prévenir pour des raisons du bête faux positif détection de patterns par une IA bourrée à des raisons géopolitiques (heureusement risque très faible dans tous les cas mais quand même existant) et prévoir un plan de repli (par exemple d'un cloud americain / allemand / chinois vers un clouder français ou l'inverse si on a tout ce qu'il faut déjà à domicile   ).
se méfier de l'évolution des prix aussi : tous les fournisseurs cloud se sont mis à acheter des GPU / concevoir des accélérateurs en mode course à l'armement   . Personne ne veut être trop cher sur ces sujets donc les autres services voient leur prix augmenter assez severement pour compenser. Demander à voir un commercial chez plusieurs fournisseurs et obtenir des devis/reductions si vous commencez à avoir de grosses factures

Il y a que de LLM dans vos équipes? Et les séries temporelles et TSFM?

Si on veut, c'est moins stressant la ou je suis: je suis passée de l'équipe qui mettait les choses jusqu'en production à une équipe très en amont (qq doit bien être près des données et du métier). Certes on peut être pépère et ne penser a rien, mais on sera éjecter du métier pour sur et ceci dans l'avenir très proche. Là j'ai l'impression de courir auprès de TGV. C'est aussi stressant  

Ce sujet a été déplacé de la catégorie Emploi & Etudes vers la categorie Intelligence Artificielle par Witzard

Vous avez des evals pour essayer de mesurer un peu les choses de façon automatique et être un peu plus serein?
Si oui c'est pas suffisant?

Ce qui m'épuise c'est plus les gens
En ce moment c'est le profil super pisseur de code dopé à l'IA / vibe codeur fou.

Le genre qui te pond 5 features par jour (dont 4 n'ont été demandées par personne) et ensuite à toi de te démerder avec les PRs