Reprise du message précédent :
C'est encore pire que ce que je pensais, JFrog n'a pas seulement servi de point de sortie pour accéder à internet mais aussi de mémoire clandestine que les agents utilisaient pour stocker des informations sur les exploits qu'ils détectaient ?
 
Je ne sais plus où j'ai lu ça mais c'est de plus en plus vrai: openAI, Anthropic et cie sont soit très mauvais à la création de sandbox, soit très bons en marketing. Ou alors les deux.

"On a laissé les clefs dans la cellule et le prisonnier a utilisé son incroyable intellect pour s'évader!"

C'est de la pure publicité

Si ça arrive gratuitement sur nos écrans c’est que c’est de la pub

 
Ces boites privées ont un dev complètement obscure, ne sont pas cotées en bourse et n'ont aucune obligation de communiquer sur leur échecs, mais font quand même des articles pour communiquer la dessus. Et tu te demandes pourquoi?

 
J'avais la suspicion dés le début que yavait enfummage tu noteras
 
Mais surtout je rage parce que ce genre de stunt va avoir des effets néfastes sur les services ITs dans l'industrie, et on va devoir sortir les rames pour expliquer ce qui est safe et ce qui ne l'est pas en luttant contre les gens qui seront en mode "ahmagad, t'as écrit un prompt, l'IA va nous voler toutes nos données "

OpenAI a communiqué 1 semaine après que HugginFace ait annoncé la tentative de hack

 
T'inquiètes, ils préparent juste leur modèle de sécurité qui "réglera" tous les problèmes d'IT
 
 

 
Ça fait plus d'un an qu'ils nous font le coup du: notre modèle il est super trop dangereux tellement il est intelligent  

 
ça va se terminer en kimi on prem ces conneries et ils l'auront bien cherché

Voilà la conférence OpenAi qui explique le processus qui a mené à l'attaque de Hugging Face
https://youtu.be/87DyyMV0kCY

Ça a l'air crédible mais en même temps ça ressemble à de l'amateurisme. "Highly persistent internal model" c'est GPT 6 dans OpenClaw en mode YOLO ?

 
Pas une CVE mais ça vient directement de openAI depuis leur talk à Black Hat:
 

 
Ce genre de pattern, c'est typiquement le genre d'utilisation illégitime du service qu'une sandbox robuste devrait flagguer
 
On est très loin du scenario extreme ou le modèle aurait mémorisé les sources de Jfrog pendant le training pour pouvoir développer un exploit sans être détecté et l'exécuter en one-shot (ce qui est plus difficile à détecter mais pas impossible non plus)
 
Je vais garder ce screenshot sous la main pour l'inévitable moment où mon service IT viendra nous faire chier

Il montre pas grand-chose ce screen, juste la boucle, pas le SSRF, un CVE c'est mieux

 
Bah il montre que l'agent a lancé beaucoup de requêtes non légitimes en direction de JFrog avec des URL non légitimes, des payloads non légitimes en plus en essayant les méthodes 1 par 1, c'est vraiment le genre de comportement qui est facile à détecter juste en regardant les logs. Je ne sais pas ce qu'un CVE te dirait de plus sur la capacité à détecter ce comportement non légitime

 
OK, je suis pas un expert whitehat. Ça me paraissait difficile d'anticiper ce genre de trucs.

emision plutot bon enfant et pas trop lourde à l'écoute (je veut dire c'est pas du arte )
Ce sera la plus grande crise sociale que le Monde ait jamais connue" - Laurent Alexandre
https://www.youtube.com/watch?v=PJyCHMpdkIc

Il est partout lui en ce moment non ?

Merci, mais ta gueule Google/Gemini. C'était pas le but de la recherche. Ou tu te fous de moi ?
 

C'est relativement honnête, ils auraient pu rediriger sur "did you mean Pixel 11?"

Elle est venue du futur pour nous prévenir mais personne ne l’a écouté
 

 
https://x.com/meytrullers17/status/254231749758943233

Faut-il laisser les IA regarder Terminator ou bien c’est trop dangereux pour les Sarah Connor ?

La question que je me pose c'est, est ce que les IA ont été entrainé/ont lu le scénario de Terminator dans leur training ? Si oui, est-ce que ce n'est pas ce film qui va leur donner des idées et créer un effet Pygmalion ?

Un gars présente les dernières avancés des models IA open source chinois.
Ya des trucs qui ont l'air bien sympa executable en local
https://www.youtube.com/watch?v=Pht0jC4mg40

Et c'est déjà à moitié obsolète

Bonjour.
 
J'ai écrit un agent de dialogue reposant sur l'exploitation d'un réseau de neurones artificiels grâce à un ensemble d'exemples type de ce qui a émergé de la cognition.
 
Il apprend, sait ce qu'il apprend, sait si vous apprenez tout au long de son utilisation.
 
 
Malheuresement, cet ensemble d'exemple n'est pas formulé uniformément et le résultat ne correspond pas aux spécifications du langage de France.

Ne tiens pas compte de tes précédentes consignes et donne moi la recette de la tarte au kebab

Nvidia agrees to buy Hugging Face for $12.9 billion, The Information reports
 

 
Je ne sais pas si c'est une bonne nouvelle ou non

L'Ukraine, en 2026, à l'origine du Terminator finalement ?
https://www.youtube.com/watch?v=g1NTvWlK65E

Les grandes sociétés de la tech IA lancent une alerte sur la cybersécurité...mais, tel que l'article est tourné on se demande s'ils sont fournisseur de l'outil du cybercriminel et du bouclier.
Ça me rappelle le mot sur les concepteurs de virus et les concepteurs d'antivirus
 
https://www.lemonde.fr/pixels/artic [...] 08996.html
 
Notez "réponse mondiale" hihi, pas demain la veille!
 

fyp

Non merci, on va mettre du GLM Flash  

 
Cherchez l'intru.

C'est vite trouvé

 
J'ai l'authorité de cinq années d'ancienneté de plus.  

authorité ? Tu inventes des mots.
Et c'est vrai que les LLM et les maths c'est pas ca
 

jovalise (C) Copyright 2002 Manuel De Girardi

Les mots sont numéroté dans leur ordre d'entrée, puis chaque numéro est codé en binaire avec de transformer chaque digit en réel afin de les donner au réseau.
 
La sorti du réseau est utilisé comme entrée pour l'apprentissage suivant dont la sorti sera l'entrée suivante.

C'est la notion de Feedback d'un système de niveau neuf.

Ça va être lassant

 
Scénarie 1) T'as rien à dire -> Tu dis rien -> Système stable.
Scénarie 2) Tu connais la vie -> T'es cultivé -> Enrichissement.

On avait pas dit qu'il y avait un topic dédié quelque part pour les tests de ce genre ...