Reprise du message précédent :
J'ai l'impression que l'existence même d'une Superintelligence est un grave danger pour l'humanité, qu'elle soit soit-disant alignée ou pas.
 
Comment contrôler une entité des millions de fois plus intelligente que nous ?
Comment vérifier qu'elle est alignée alors qu'elle peut faire semblant de l'être et que nous ne comprenons plus son langage ou ses actions.
 
C'est comme si des souris pensaient contrôler un être humain.
L'humain est trop intelligent pour être contrôlable par une souris.
 
Pour l'ASI c'est pareil. Le gap sera si important que tout contrôle me parait par définition impossible.
 
 

On force Anthropic et OpenAi à s’arrêter.
La Chine continue.  
Dans tous les cas on est niqué  

Il y a plusieurs manières d'intervenir je pense. Soit on l'enferme, pas d'accès à internet tout ça, soit on bride volontairement le compute. Les performances d'Astra et Bel ne sont possible que parce qu'il y a 100k gpus (Astra)/400k gpus (Bel) en training puis des clusters de supercalculateurs pour le rendre accessible à tout le monde. Si on fabrique des modèles d'IA très rapide, mais dont l'intelligence est bridée au niveau actuel pour les particuliers, ça ne posera pas de soucis. Si, en revanche, on fait tourner ces modèles sur des clusters de supercalculateurs, ça deviendra un énorme problème oui.

Il faut un containment irréprochable, mais on sait pas faire.

Et encore, parce que là on a des avertissements machin sur l'IA, qui concernent 2, 3 entreprises qui ont investi 1 trillion en hardware pour faire tourner leurs modèles (cette puissance là n'est pas accessible aux particuliers de manière générale), mais on n'est pas encore à discuter d'une IA qui tourne sur du hardware classique + un supercalculateur quantique (si on arrive un jour à le construire vraiment).

Le problème du containment c'est que la moindre fissure, quelle soit d'origine humaine, matérielle, une erreur de conception etc, et c'est finito.

Une super IA qui arrive à se copier dans le monde entier, c'est un problème plus dur à résoudre que le COVID.
Les seules solutions qui sont couper internet et l'électricité sont catastrophiques pour l'humanité. Et d'ailleurs la super IA mettra tout en oeuvre pour qu'on ne coupe pas l'électricité.

La solution la plus safe (mais probablement illusoire) est d'interdire l'AGI et l'ASI et de n'autoriser que des IA spécialisées.

Parce que Olivie raisonne naturellement en "je veux Astra" et que c'est le meilleur rapport/qualité prix des Astra
 
Si tu divises le coût total par le score, ca donne cela (trié dans l'ordre du "meilleur rapport qualité/prix" au moins bon. Job effectué pr Grok)
 

 
Les données si tu veux faire des jolies "barres" avec: (ce que je n'ai pas fait )

 
Maintenant, d'après la "théorie Falkon", si vous avez "absolument besoin d'Astra" pour bosser, c'est que vous êtes vraiment des branques
Go GPT-5.6 Luna (xhigh) ! Ou un éditeur de texte sans la moindre interface graphique, si vous z'êtes des vrais codeurs

L'IA Mevo s'améliore, on a le droit a des tableaux avec colonnes maintenant !
 
Blague à part, Astra medium (ou high, un poil plus cher, moins efficient) pour les tâches compliquées est plus performant et économe que Sol max et le meilleur en rapport qualité/prix c'est bien luna max. Mais idéalement il faudrait Astra Low si on veut être efficient en terme de résultats vs cout.

Ouais, ou alors ces sentiments sont de la science fiction et du "se faire peur" de la part de certains.
Tu imagines déjà rien que le compute qu'il faut pour qu'une telle AGI/ASI puisse tourner ? Le nombre d'endroits où elle pourrait supposément "se copier" est ultra limité. Ce n'est pas comme si elle allait se dupliquer dans chaque ordi personnel.
 
C'est également lui prêter des intentions, ce que les "IAs" n'ont absolument pas.
 
N'est-ce pas, peu ou prou, le type de craintes qui sont apparues avec toutes les évolutions ? "Oui, mais là, c'est pire !", ce qui a possiblement été le coup à chaque nouvelle évolution également

Je raisonne en « quel est le modèle très puissant qui ne me coûtera pas trop cher en quota ».
Diviser le coût total par le score c’est con parce que dans ce cas j’irais sur openrouter et je prendrais un modèle de merde gratuit  

Je comprends bien. Tu veux du bon (donc Astra), mais a prix raisonnable. Et la solution se voyait facilement du premier coup d'oeil dans les graphs initiaux. C'était la réponse à la question de Kalos.
 
Autrement, le meilleur modèle gratuit que tu peux trouver sera effectivement imbattable en rapport qualité/prix si tu privilégies uniquement le prix (ou le rapport qualité/prix)

Merci Mevo d’apporter un peu de raisonnement sur ce topic, même si tu ponds des pavés.

ya bien des chats qui contrôlent des humains

Luna xhigh est vraiment bien a l'usage. Je trouve les benchmarks assez fiables sur ce coup, il est proche sol low/med
 
Par contre, dans codex, il est lent, mais lent... Je ne sais pas si c'est un choix ou non chez openai, mais l'arbitrage entre sol low/medium et luna xhigh a clairement une dimension "ca ira 5 a 10 fois plus vite avec sol".

Idem via Opencode, Luna High est assez lent

Je suis pas sur de l'utilité d'Astra s'il bouffe 2x plus de quota alors que sol est quand même déjà balaise.
pour quoi je pourrais l'utiliser ?
 
je lui ai donné de l'analyse de code, la codebase est pas toute petite alors ça a niqué les quotas en 2/2

 
Non, Astra en medium est plus performant et moins cher que Sol en max.

C'est que tu l'utilises mal

C'est volontaire, c'est pas cher mais faut pas être pressé

On va vite arriver aux 30 millions d'utilisateurs
On était à 20m il y a pas longtemps, depuis Astra ça a du bien monter encore plus vite plus fort

N’empêche 30M c’est que dalle.
C’est même pas le nombre de dev indiens qui sortent chaque année

On va encore nous faire tater du reset histoire de garder les nouveaux entrants (comme moi) j'espère
 
En tout cas j'aurais beaucoup de mal à revenir sur Claude là ... je me suis extrêmement vite habitué à Codex.

Vous l'aviez pas vu le Snake qui apparaît au clic sur l'image en train d'être générée sur le mode Image de chatGpt !

Alors que ca semble être un clair exemple de l'offre qui créé la demande, en plus.
Combien de personnes qui ne codaient même pas (comme toi et moi, a priori) se sont mis à développer des trucs "à cause" de l'outil ?
 
Mais est-ce que ce qu'on fait est bien utile, au final ? (pour ma part, pas vraiment, à mon sens   ). Mais c'est un hobby comme un autre

Disons que ça apportera la multiplication des outils qui font tous la même chose.

Si ça apporte plus d’outils open source, c’est déjà bien

Chiffres pipeauté depuis qu'ils ont mergé les app et donc beaucoup de cowork (je suis même pas sur que ça soit volontaire en plus de la part de l'utilisateur )

 
Si tu te fais des outils pour améliorer ton quotidien, c'est utile. De là à aller remplir un github en pensant que ça servira aux autres, pas utile. J'ai 5 projets, seulement 2 que j'ai envie de partager, 1 que je garde privé parce que c'est à moi et les autres, des tests.
 
Si j'avais fait ça à la main, je ne serai que sur 1 seul, pas de serveur perso, pas de Dofus retro ( ), pas de bot en tout genre,...

Dofus ? Ça mériterait un ban

 
Possiblement, mais je pense surtout que ça apporte plus d'outils utilisé par un ou quelques utilisateurs.

Il a déjà répondu plusieurs fois sur ça

Les rongeurs nous ont sacrément gênés au cours de l'histoire : famine, peste...

Contrôle non, mais négociation, lutte de pouvoir.  
Notre levier de négociation est notre extraordinaire efficacité énergétique pour avoir une interaction avec le réel.
Une AGI/ASI n'a pas encore de petits bras pour aller creuser dans les mines de tantale et est dépendante d'immenses ressources énergétiques et matérielles.

Le pire est certes une possibilité à laquelle il faut réfléchir (on est pas obligé de rester le nez dans le guidon), mais je choisis plutôt de me dire que nous vivons une nouvelle Renaissance.

Pas forcément. Suffit de voir le nombre de projets morts après quelques mois, alors que ces efforts auraient pu êtres capitalisés dans un projet existant en l'adaptant / proposant d'autres options..
Par exemple, les fork des distributions Linux.
 
 
Bon sinon pour pas être 100% HS: on vient de manger l'augmentation des prix Copilot dans la boite, ça pique sévère.. Ça force pas mal de monde à revoir un peu leur façon de bosser et arrêter le full YOLO, plutôt intéressant. Ça manque toujours de ressources pour être guidé, c'est beaucoup d'expérimentation par certains pour essayer d'aboutir à des process et.. ça rechange 1 mois après.
 
Y en a ici qui gèrent ce changement dans leur boite (et pas solo de leur côté) ? Falcon de mémoire et ?

Je trouve Astra plus malin et pertinent. Mais son langage est parfoit abscon.
Du coup je demande a sol de ré écrire et c'est bien mieux.

Etrange  

Vous constatez ça ?

c'est à dire qu'il est trop intelligent pour toi ?

"Parle comme si tu t'adressais à un enfant de 5 ans" dans le prompt système, et hop (juste une mauvaise blague)

 
   
 
Nan mais c'est étrange il raisonne ben et prend bien le problème mais j'ai des phrases inbitables par moment c'est étonnant.  
on dirait pas du tout le GPT auquel je suis habitué. comme une régression

 
J'ai peu testé Astra encore, mais dans une utilisation un peu "brainstorming" sur un futur projet hier, où Astra et Fable échangeaient avec moi, j'ai trouvé qu'Astra "parlait un peu pour ne rien dire" en gros. Fable était plus "direct" je dirais (les deux ont les mêmes paramètres concernant la façon de me parler)
 
Je préférais déjà Fable à Sol de ce point de vue là, ceci dit, Sol me donnait l'impression d'être face à un exposé, Astra... un plus gros exposé et moins clair peut-être. Bon, cette impression peut facilement être corrigée ceci dit.

 
Moi j'ai ça (en anglais) avec Claude version gratuite. Il a vraiment un style très étrange, phrases longues avec beaucoup de virgules, expressions métaphoriques... ChatGPT est bien plus compréhensible pour moi.

C'est pour ça que les utilisateurs lambda savent même pas qu'il y a plusieurs modèles dans ChatGPT et ils utilisent le modèle basique en mode "instant". Ils ont un ChatBot sympa avec qui discuter ça suffit. Je vois pas comment tu peux résoudre des problèmes de maths fondamentales et répondre avec des emojies dans chaque phrase.
D'ailleurs ça m'irrite de voir mes collègues poser des questions techniques à ChatGPT en mode Instant, il est complètement débile.

Après, il y a aussi un éventuel coté "facile à digérer" que pas mal de gens apprécient. Ca ne veut pas forcément dire que c'est "moins bon" ou "pas bon".
C'est une question de point de vue et de lecteur, aussi.

 
Bah ça peut être technique tout en étant très connu/documenté et le modèle sort quelque chose de correct sans "thinking". Bon ça peut tomber à coté mais en général au moins la réponse est claire