Je viens de découvrir pourquoi mes quotas fondaient comme neige au soleil.
Tencent Memory ! En plus de saturer ma ram ( 6go rien que pour lui ) jusqu’à provoquer des erreurs sur la db d’hermes il envoyait un contexte de 15K à chaque message, multipliant par 4 mon input !
Je l’ai désactivé, ce bonheur
C’est rapide, plus de bug de réponse, la mémoire de hermes est même plus rapide et plus efficace.
En fait il faisait une infinité de doublon qu’il entassait dans le contexte sans aucun réel sens ( la moitié du contexte était même en chinois).