Reprise du message précédent :
Cool je l'ai sur Cursor, mais que en medium, je sais pas si j'aurais le temps de tester demain. Par contre ce qui est chiant c'est que ni Cursor, ni Kiro n'offrent le contexte a 1M

comment on tope le context 1M?

en passant par Claude code

yesss

 
bon bah extra billed le 1M

Cette manie malhonnête de jamais inclure les derniers modèles d’openai.
 
5.3 est très au dessus.

Je trouve les informations un peu light d'habitude on a du détail sur les perf par language ou des comparaison au dela des benchs

Je l'ai pas le choix 1M, par contre on a le réglage de Low/Medium/High Effort

claude update
sinon claude --model sonnet[1m]

De toutes manières avec les limites dispos dans une fenêtre de 5 heures t'atteindras jamais 1M de token. Dans aistudio j'ai eu beaucoup de mal à les atteindre alors que je collais des repos entiers engloutis par gitingest.

Moi je l'ai eu en dark testing dans le plan pro Mais ça n'a rien changé à ma vie

J'atteins le compactage de Claude avec un plan donc ça dépend de la taille de ton projet.

Un bon compromis serait 350 a 400k plutôt que 200k

bah c'est pour faire passer par l'API/extra-usage/plan Entreprise qui a le 500k

J'ai un collègue qui débute qui n'était pas au courant de la notion de contexte. Il m'a montré son shell codex dans lequel il discutait depuis 2 semaines dans la même conversation et qui enchaînait les compactages. Son agent était complètement amnésique et il était embêté parce qu'il n'arrêtait pas de taper la limite journalière ou hebdomadaire

Vérifiez le contexte bouffé par les MCP aussi

 
Avec mon MCP de logs je te bouffe facilement 1M en 5 minutes .

Alors a ce point la c'est violent quand même ^^
 
Mais sinon oui le compactage fait oublié pas mal de chose si les dernière version l'améliore, mais j'aimerais toujours un peu plus de contexte et gardé 16-20% du context pour compacté je trouve ça un peu trop sécure a mon gout on devrait pouvoir en utilisé un peu plus ^^

 
Ton approche n'est pas bonne, là tu fais du "Brute Force Context", il faut vectoriser tes logs !
 
T'utilises quel MCP pour tes logs ?

Vectoriser les logs  

ah ouais y'a de la formation à faire la

bdd vectorielle, une composante du rag

Envoie les tuto/sources de mise en place
 
Merci

Exact, jamais on donne un log brut à un MCP, d'autant plus qu'un log c'est 80% de texte répétitif (timestamps, IDs de processus, structures JSON, etc.), ce qui noie les signaux faibles... En plus les LLM ont tendance à mieux retenir le début et la fin du contexte. Au milieu de 1M de tokens de logs, une erreur critique peut passer inaperçue...

L'idée du RAG c'est d'au lieu de tout donner, on indexe les logs dans une base de données vectorielle comme dit Xat', pour ne donner à l'IA (au MCP en l'occurrence) que les 10 ou 20 segments de logs qui ressemblent sémantiquement à la question posée.

D'un point de vue datascience/ML, un MCP ne devrait pas être un simple "tuyau" qui déverse de la boue textuelle dans l'IA. Un bon MCP pour les logs devrait filtrer (enlever le bruit), structurer (transformer le texte en données exploitables) et récupérer (utiliser la vectorisation pour ne donner que le nécessaire).

Edit : Commence déjà par donner le nom de ton MCP (en mp au besoin)

Ouai mais ça dépend du cas d'usage aussi, si c'est des logs d'erreur de compilation ou des logs de serveurs ça sert un peu à rien de passer par des embeddings si c'est pour une application métier. Faut plutôt envisager de filtrer les logs sur des mots clés ou supprimer les doublons dans le MCP.

 
C'est un MCP maison (pour Sumologic) il n'y en a pas d'officiel et en plus je dois passer par une API non officielle pour faire ce que je veux.
 
Au début j'ai fait un endpoint SSE qui renvoie tout, quand j'ai pété mon contexte en 2 recherche je suis passés en streaming HTTP avec une base/cache en mémoire.  
Mais ces cons d'agents (Cursor et Kiro) savent pas l'utiliser, malgré les instructions, il récupèrent tout et ensuite process.
 
J'ai pensé a implémenter un FS virtuel qui reproduit ce que les agents font de manière naturelle, mais vla le bordel
 
J'épure déjà les logs qui sont en JSON, pas mal de trucs sont virés. Il y a aussi un système d'aggregation qui renvoie juste des counts par objects. Ça marche très bien pour investiguer des choses assez précises, mais quand c'est des évènement plus larges comme des outages AWS (provoqués en test), les agents se mettent a ratisser large et bouffent le contexte. Après on a plsu 3TB de logs par heure dans l'env de test, ça aide pas .

Ha ouai, 3 To !

Pareil, j'ai du mal à voir comment vectoriser actuellement des logs d'événements en prod qui crasher beaucoup de données mais c'est peut-être quelque chose qui viendra

Vectoriser, ça veut juste dire que tu renvois pas tout d'un coup. Quand un agent bosse sur des fichiers, il fait plein de grep/tail/head pour éviter d'avoir a tout lire. Le (mon) problème c'est que quand il trouve pas ce qu'il cherche, souvent a cause d'une mauvaise recherche il élargie les durées de recherches et pollue le contexte.
 
Mais le plus gros problème que j'ai c'est les dates, j'ai beau mettre de toujours utiliser un "date" avant d’envoyer une recherche pour avoir la bonne année, ils mettent systématiquement 2025...

https://x.com/i/status/2024136599030661122

C'est calculé comment une requête ?

 
Je dirais que vectoriser ça permet de faire de la recherche sémantique, pour lire des log je vois pas l'intérêt, on veut requêter les logs exacts. Sémantiquement tous les logs se ressemblent.

 
Effectivement, j'avais pas trop creusé le truc, je pensais que c'était juste comme un vecteur en programmation. Aucun intérêt la recherche sémantique, sauf peut être pour la détection d’anomalies.

Oui parce qu'on peut faire des requêtes hyper longue pour faire de grand changement qui en prenant 50 autres ...
 
Par contre ce qui m'intéresse plus c'est la confidentialité et l'utilisation des datas.

ca passe par les serveurs du CCP, y aura aucune confidentialité  

Ça il n'y a pas de garantie
Mais bon en même temps, c'est un peu valable pour tous les LLM
On a pas accès aux serveurs pour savoir si ce qu'ils disent tous est vraiment respecter