Reprise du message précédent :

Non c'était quand j'étais en plus, j'ai eu une seule fois la limite. Comme j'ai jamais vu quelqu'un parler d'une limite du voice, j'ai cru à un bug

Vous utilisez quoi comme skills pour codex/claude pour leur faire faire une interface pour une appli ? Je vibe code une appli pour le suivi de mes entrainements, les deux me sortent des interfaces ignobles en termes d'ergonomie et d'informations affichées. J'ai beau passer par Astra et lui faire corriger encore et encore, ça reste vraiment médiocre. Bon j'imagine que j'ai une bonne part de responsabilité en ce qui concerne la qualité de mes prompts, mais quand même ...  

Pourquoi tu ne lui donnes pas une interface que tu aimes et tu lui demandes d'adapter ?

Ou elle bute direct les enfants. Elle les a "sauvé du cancer". A job well done
 
Perso, je trouve qu'il y a souvent un léger paradoxe dans l'histoire: On s'inquiète supposément d'une IA "super-intelligente" parce qu'on présuppose qu'elle va être totalement conne, en fait. Ca en dit peut-être davantage sur ceux qui s'inquiètent de la sorte

Build Web App, on en avait parlé il y a une trentaine de pages, si tu as envie de relire la conversation : https://forum.hardware.fr/hfr/ia/ge [...] htm#t45429

Je ne trouve pas la ligne où il dit qu'il reset

Intéressant ça



https://x.com/OpenAIDevs/status/2098130636813050009

Je me sers de l'IA pour du dev web/python, du reverse engineering pour "de-clouder" mes équipements, des applis Android persos et de la programmation sur microcontrôleurs.
 
Je suis le seul à trouver que les derniers modèles de Claude (Opus et Sonnet) "réfléchissent trop", du coup sont très lents à répondre et au final ne sont pas très concluants, alors qu'ils crament les quotas beaucoup plus rapidement qu'avant?
 
Ce soir, j'ai passé le même prompt simple et court pour qu'ils me génèrent un fichier 3D (en SCAD) d'un boitier de Raspberry Pi 1 en se débrouillant seuls pour trouver les cotes, imaginer le boitier, et écrire le code.  
Sonnet m'a sorti un boitier avec un quart des orifices pour les E/S et avec une face manquante.
Opus a tourné très longtemps pour sortir quelque-chose de propre mais en laissant de grandes fenêtres rectangulaires sur toutes les faces au lieu de mettre seulement des trous aux bons endroits. Zéro prise de risque, résultat conforme à la demande, les prises seront bien accessibles mais bof, l'idée était d'avoir un boitier sur mesure... (Après avoir obtenus ces deux fichiers, j'avais utilisé 52% de ma fenêtre de 5h de l'abo à 20 balles!)
Spark Muse 1.3 m'a sorti beaucoup plus rapidement un boitier qui a l'air d'avoir tous les trous aux bons endroits même si le système de glissière du couvercle semble plus basique que celui fait par Opus. Je n'avais jamais utilisé ce modèle, je l'ai pris au hasard dans l'Opencode qui me sert d'habitude à faire tourner des modèles en local)
 
Du coup, j'ai presque envie de mettre quelques dizaines d'euros sur Openrouter pour tester plus de modèles car j'ai l'impression que pour mon usage les plus gros modèles ne sont pas forcement les plus adaptés. Je préfère être très directif dans mes demandes et avancer petit à petit plutôt que de laisser l'IA improviser et passer du temps à corriger ce qui ne va pas car ça ne correspond pas à ma vision. On dirait que les gros modèles veulent être trop autonomes au point de s’éloigner de la demande de base. Ils sur-utilisent les outils, font un paquet de tests et protos pas forcement justifiés vu le résultat derrière.
 
L’intérêt serait donc de développer avec des "petits modèles" puis de faire auditer les failles et optimiser le code par par Opus en fin de boucle.
 
Y'en a t'il parmi vous qui ont ce fonctionnement? Ça marche?

Je dirais surtout qu'Opus et Sonnet se sont bien dégradés en terme de performance depuis quelques temps. Je t'encourage a tester GPT avec Astra notamment ou Fable dans ton abonnement actuel.

+1

Cool merci pour l'info

Pair

C'est intéressant et ca rejoint ... ce que les LLMs avaient tendance à me dire eux-même du concept "d'agents": Que si ca dévie un peu à un moment (ou s'il y a une erreur), ca "compose" (comme les intérêts) ou "cascade" ensuite derrière. Et les gros modèles ont de plus en plus tendance à avoir un comportement "d'agent" en réponse (avec des boucles, ou ne serait-ce que de la "réflexion" en amont, et souvent intermédiaires).
 
Il est certain que plus tu "laisses faire" plutôt que d'itérer toi-même avec une certaine supervision et direction, et plus ca va dans SA direction. D'autant plus que tes prompts sont "courts" (pas un problème que j'ai )
 
Et si tu veux que ca corresponde à TA VISION, alors oui, ta logique tient totalement    
 
Les "petits modèles" restent moins performants, dans presque tous les cas. C'est moins cher, c'est plus rapide, mais c'est souvent moins bon. Le "multi-modèles" avec un ou plusieurs qui génèrent, un ou d'autres qui vérifient, etc., ce n'est sans doute pas la panacée non plus. Quoique, ca peut se faire, mais n'en attend pas de "miracles", à mon sens.
 
Après, t'as la problématique du coût et t'as la problématique d'obtenir ce que tu veux/un truc "bon", qui sont éventuellement deux choses séparées. Mais oui, la DIRECTION est très certainement nécessaire et ce qui sera un gros rôle des humains à l'avenir. Surtout pour les gens qui veulent ce qu'ils veulent (ce qui est bon, parce que le généré par IA "pur", c'est pas top. Tu peux lire un peu Moltbook pour t'en apercevoir: Les messages sont structurellement super bons, ca correspond à ce qui est "attendu" d'un message sur un forum, mais CE DONT ils parlent, ou la teneur des réponses, etc., c'est assez nul. Sans un humain derrière pour piloter, t'as du "slop", quoi)
 
Je te partage une réponse que m'avait fait un modèle (plutôt petit, d'ailleurs) qui ne me parait pas mauvaise et rejoint ton post. Mon sujet était un peu différent et avait trait à l'évolution du bon vieux "il suffit de payer quelqu'un" jusqu'aux "agents IA qui vont faire à ta place" maintenant: https://rentry.co/5kiiermv

J'ai été confronté à ça, j'ai pris des screens d'interfaces que j'aimais bien et je lui ai feed en lui disant de s'en inspirer/copier. Ca fonctionne plutôt bien.

Bon sinon, comme dans les rapports de jury chaque année, on a le droit à un florilège des pires actions entreprises sur Claude :

https://www.anthropic.com/threat-in [...] ember-2026

On découvre qu'il y a des gars qui ont utilisé Claude pour concevoir un missile, ça n'a pas fonctionné, ils sont retournés direct sur claude pour essayer de comprendre   . D'autres ont utilisé plusieurs instances de claude pour essayer de design/développer des armes à feu.  

Le quote en dessous est une opération des services secrets russes.

La majeure partie proviennent de russes, ceci dit.

 
Très, je note.

 
Merci  

J’utilise Claude en finance, en lui filant des fichiers Excel qu’il doit revoir.
 
Je trouve ça pas terrible du tout.
 
On m’a dit d’utiliser l’add on Claude directement sur Excel, que c’était plus efficace… Mouais.

 
Qu'entends tu par "revoir" ? Je n'ai pas encore acces à l'add-on de chatgpt pour la finance, mais en dehors de ce cas particulier, tu ne peux pas lui filer "out of the blue" ces documents (et surtout en temps normal tu ne devrais même pas lui filer de documents). La seule chose que tu peux faire, c'est lui faire coder des outils d'analyse que tu exécutes ensuite en local. En tout cas je n'ai jamais filé une seule data aux fins d'analyse à claude ou chatgpt, les seules choses que j'ai faites c'est de l'exploitation d'endpoint API pour récupérer des data financieres, les analyser en local et produire (toujours en local) des fichiers excel ou des pages web locales avec les data et leurs analyses.

 
En effet, il faudrait que je teste Astra vu qu'ici c'est la hype du moment.    
 

 
Oui, peut-être que ma façon de faire n'est pas adaptée et que je finalement je ne suis pas encore assez directif et surtout restrictif. Mon pre-prompt a pourtant bien des instructions "ne fais pas xxx", "questionne moi pour tout choix technique ou stratégique"...
Mon problème est que les modèles ont tendance à "trop" travailler sans faire de point d'étape pour savoir si ils vont dans la bonne direction. Pour limiter cela, j'ai activé le mode verbeux pour voir leur réflexion et je les coupe souvent quand je vois qu'ils commencent à partir dans la surenchère malgré une demande de base cadrée. Je suis adepte et intégriste du principe KISS et je préfère savoir comment mes applis fonctionnent donc ces fantaisies (et parfois intégration d'AI slop) ne me plaisent pas.

Est-ce bien malin de la part d'Anthropic de faire cela ?    
 
Déjà que pas mal de gens flippent quant à l'utilisation de leurs prompts pour l'entrainement de modèles. Mais créer potentiellement encore un blocage psychologique supplémentaire "si je demande quelque chose de particulièrement ubuesque ou déplacé à Claude, alors peut-être qu'Anthropic va m'afficher publiquement en balancant mes infos avec", là, c'est carrément un autre niveau !  
 
 

Peut-être plutôt essayer de lui faire générer un "plan" en amont ? Avec les différentes étapes. Et ensuite de lui faire faire chaque étape séparément ? (comme ca tu valides d'abord avant de passer à la suite). Ou TU fais le pan initial ?
 
Regarder la réflexion en direct et couper en cours de route parait éventuellement un peu bizarre comme technique (de mon point de vue, quoi que je comprends aussi l'idée. J'avais testé un petit modèle 4B en local qui s'était mis à réfléchir plusieurs minutes après lui avoir balancé juste "Hi!" comme premier prompt. Je l'ai arrêté également )

Je lui file l’Excel, je lui demande des trucs précis. Type : là j’ai un problème de cash flow, analyse et explique moi ce qui ne va pas.
 
La dernière fois, ce con m’a dit « retraite tel chiffre dans le tableau et ça fait ton écart ». Je lui ai répondu que financièrement ça n’avait aucun sens. Il s’est excusé et a concédé que c’était faux.
En fait il a juste essayé de trouver un chiffre qui pouvait faire caler mon cash, mais il a fait fi des principes financiers. Donc si j’étais pas là pour lui dire que c’était faux, c’était mal barré.

Ivre, il découvre ce qu'est un LLM et qu'il faut toujours encore un cerveau
(oui, ce que tu décris est sans doute le type de réalisation qu'ont beaucoup de gens après le "waouh" original )

 
Non je crois pas que c'est ça. L'intelligence n'est pas nécessairement corrélée à la bienveillance. L'Allemagne des annés 1930 était en crise, mais elle était « intelligente » au sens où c'était un des pays les plus avancés au monde, du point de vue artistique et scientifique. Vu que les IA sont entraînées pour reproduire les comportements et l'intelligence humaine mais avec des performances sans commune mesure, on est en droit de s'inquiéter.

 
Je débute toujours par un plan et j'essaye d'avancer petit à petit mais c'est lors de la phase de dev et des tests/recherche de solutions qu'ils débloquent. Ils font des petits scripts super agressifs pour tester les api, intègrent des variables/données extérieures qui rendent l'outil moins crédible au final.  
Il m'est d'ailleurs arrivé plusieurs fois de me faire blacklister d'une API juste à cause d'un agent qui teste au bruteforce plutôt que de RTFM.    
Du coup je comprends pourquoi les gros modèles arrivent à "s'échapper" et compromettre des gros systèmes (cas Huggingface par exemple...)
 
Et je persiste pour le fait de regarder la réflexion. Pour moi c'est important, ça permet de comprendre ce qu'il fait et éventuellement de couper avant qu'il ne s'éloigne trop de la demande de base ou de le ré-aiguiller si je vois qu'il va perdre du temps sur une impasse. Pour le coup, ça marche super bien sur les modèles récents alors qu'auparavant, les interrompre leur faisait perdre le fil.
Bref, peut-être que c'est juste je n'aime pas les agents trop autonomes.

Deepseek V4.1 est vraiment impressionnnant.  
 
Le plus sympa c’est que lorsque je lui demande une tâche simple il va analyser tout l’environnement et me proposer des corrections et améliorations optionnelles. C’est bien le seul modèle qui fait ça.  
 
Bien sûr il test toutes ses modifications et surtout il propose toujours plusieurs solutions avant d’agir.  
 
Je suis pas dev, juste passionné et je le préfère largement à Astra ( surtout parce que je peux finir mes tâches avec mon quotas ).

Codex me le fait aussi avec Sol, question de prompt.

Oui bien sûr je le faisais avec Sol mais là c’est en systématique dès qu’il lit du code sur une demande simple il va proposer de lui-même des corrections.

 
Ca pêche au bazooka ici aussi ?

J’ai mis les formes quand même.  
 
A mon niveau oui je préfère Deepseek.

Bon, va falloir que je comprenne comment ca marche Deepseek, avoir autre chose pour vérifier ce que fais codex ca peut etre pas mal (vu que j'ai arrêté claude)
 
.. encore un nouveau truc a mettre en place, comprendre comment ca marche, ajouter les plugins les skills etc .. au secours  
 
Le seul truc qui me chiffone/fait hésiter est d'envoyer tout ce que je fais en Chine, j'ai vraiment pas confiance (oui bon ok les US tout ça tout ça, mais dans ma tête c'est moins pire.. )

Prends un harness comme pi ou opencode indépendant du fournisseur, ça te simplifiera la vie.

La question n'était pas celle d'une supposée "bienveillance" (qui est éventuellement une autre question), mais celle de "comment comprendre le prompt, l'esprit de ce dernier, les véritables objectifs et les moyens d'y parvenir".
Dans ton exemple validant joliment la loi de Godwin, la question serait "quel était le prompt" chez les Allemands à l'époque. Sujet dans lequel on ne va certainement pas s'embarquer.
 
Ton exemple était une version améliorée du "paperclip maximizer".
Et c'est là que je notais la légère contradiction entre la "superintelligence" et être finalement totalement teubé (ou être "ultra littéral et basique", qui est généralement corrélé).
 
Les IAs sont surtout entrainées SUR tout ce qui est humain (les données) davantage que POUR, fondamentalement. On leur file les données, c'est elles qui les digèrent comme elles l'entendent pour modifier leurs poids lors de l'entrainement (mais certes, le fine-tuning derrière vise à faire en sorte d'obtenir les réponses "attendues", mais parce que c'est "ce qu'on veut" ).
Tu peux théoriser qu'elles "reproduisent" ensuite. Mais comme elles sont entrainées sur un paquet de données massives, et qu'elles en extraient les schémas, la supposée "super-intelligence" devrait ensuite "comprendre" derrière. Raison pour laquelle elle devient "plus intelligente" que les humains. Ou alors il n'y a PAS "d'intelligence".
 
Ou alors, ce qui pourrait rejoindre les "inquiétudes" de certains, le problème n'est PAS la "super-intelligence", mais qu'on développe réellement quelque chose sans la moindre intelligence, qui ne fait que reprendre tous les biais humains. Et qu'ensuite, on serait suffisemment bêtes pour lui confier des choses comme si c'était effectivement doté d'intelligence. Parce qu'on se laisse berner par la "simulation" d'intelligence, qui n'en est en fait pas.
 
Et là, OK, j'ai fait tout le tour jusqu'à devenir "d'accord" avec les inquiets.
Tout dépend de ce dont on parle à la base. De " [Super-intelligence] artificielle " ou de " Super - [intelligence artificielle] ". Perso, j'ai toujours eu tendance à partir naturellement sur le premier en entendant des inquiétudes "d'intelligence" supérieure, qu'on ne "comprendrait plus" nous même, etc. Mais si on parle du second, il y a un éventuel soucis de présentation de la problématique, dès le départ.
 
Un peu comme "sauver la planète" quand il s'agit réellement de nous "sauver nous-même". La planète, elle s'en remettra très bien une fois qu'on aura tous crevé
 
Et sur la problématique de l'IA, le soucis, ce sont les HUMAINS. Pas l'IA, alors. C'est "sur nous", ce qu'on lui file à faire ou non, et ce qu'on en attend. Si on fait comme si on avait à faire à autre chose que ce que c'est effectivement, c'est un problème d'humains, pas d'IA. Comme les gens qui ne réalisent pas comment ca fonctionne (l'IA actuelle) et qui en attendent davantage que ce qu'ils devraient. Ou ceux qui pensent les IAs actuelles comme étant "fiables" et auxquelles on peut faire confiance (et confier des tâches).
 
Ne serait-il pas plus logique de s'inquiéter des HUMAINS et de ces derniers qui veulent éventuellement utiliser des systèmes de m*rde, plutôt que de s'inquiéter des systèmes en eux-mêmes ?
 
Et là, on va sans doute partir sur "oui, mais ca peut hacker de manière performante, etc.": Oui, mais là on n'est plus que sur une question d'outils de plus en plus performants et une course entre deux cotés. Un peu comme les systèmes de protection (serrures, alarmes, etc.) et les voleurs. Pas grand chose de plus.
 
 
 

Sur le début, ca boucle un peu sur toute la réflexion d'au-dessus . Les gros modèles ne "s'échappent" pas tant qu'ils sont juste cons, alors. Ils essayent, n'y arrivent pas et continuent d'essayer en itérant.
 
Pourquoi pas, pour le "regarder la réflexion". Bref, tu surveilles l'actuelle exécution. Tant que ca ne va pas trop vite, c'est faisable. Si t'avais énormément de compute derrière et que ca faisait tout en une fraction de seconde, ca ne serait pas possible. Ce qui rejoint également le discours des "inquiets": Si tu confies des choses à des IAs et que c'est super rapide, tu n'as plus de contrôle (celui que tu utilises justement toi-même). La question (qui était ce que je te disais) est au niveau du rationnel de le laisser faire en voulant le "surveiller". Surtout de manière plus globale: La question de s'inquiéter de continuer dans cette voie et de choisir de le faire. Et ensuite, blâmer l'outil et son développement et vouloir arrêter ce dernier.

Pour les abonnés pro et business
Un changement important à venir, GPT 5.3 spark qui est le modèle disponible quand vous avez cramé votre quota principal va être remplacé !
J'imagine que ce sera par Luna, j'espère en tout cas

Vous vous souvenez de Kimi sur lequel un certain forumeur nous en faisait des tonnes car "pas cher" ?  
 

 
Ehh ben eeeh ben

 
Il n'est pas encore bon pour ça.

Disons que comme le Yemen a pas signé ITAR et qu'ils s'en branlent un peu ils ont le droit

Les gars doivent probablement ignorer que le GPS se désactive au delà d'une certaine vitesse ou altitude, ce qui fait que leur modèle ne marchera jamais. Il faut posséder au minimum un GPS open source et savoir quoi mettre pour désactiver les protections. Un GPS du style pîksi, qui a été mis en vente sur kickstarter avant d'être très vite retiré, dans les années 2009/2010, pourrait faire l'affaire mais c'est introuvable. Même en France c'est interdit d'en posséder un, c'est catégorisé dans la classe arme de guerres. En dehors de ça, il leur faudrait un gps militaire (avec les protections désactivées donc) ou bien construire eux même une centrale inertielle (IMU) ce qui est probablement en dehors de leurs moyens aussi.

Pour préserver mon quota qui fond avec Astra, ChatGPT Sol très élevé dans le chat, qui utilise codex cli Luna high    
 

C'est quoi la SOURCE de ca ?
 
Et donc, toute la théorie est que Kimi, grands Seigneurs, ont fait gagner du pognon à Anthropic en payant de leur poche la différence de tarif ? Ca parait crédible, dis-donc
 
Sur un pépin interne court-terme, je veux bien. Pour essayer de faire croire que le modèle serait meilleur dans certaines conditions particulières, admettons (quoi que c'est considérer Claude comme "fondamentalement meilleur", raison pour laquelle je te demande la source. Si c'est Athropic eux-même, c'est douteux). A grande échelle comme ton screenshot essaye un peu de le faire passer, ca ne parait pas rationnel.

Anthropic

Je pense que leur idée était de gagner des utilisateurs, puis ensuite pousser leurs propres modèles avec une certaine popularité déjà acquise. Tu donnes l'impression que c'est pas cher et efficace, puis ensuite tu sors des modèles meilleurs et tu profites de la popularité déjà gagnée.

séssa