Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
3523 connectés 

 

 

Avez-vous basculé sur ChatGPT Plus ?




Attention si vous cliquez sur "voir les résultats" vous ne pourrez plus voter

 Mot :   Pseudo :  
  Aller à la page :
 
 Page :   1  2  3  4  5  ..  365  366  367  368  369  370
Page Suivante
Auteur Sujet :

[Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co

n°74602461
duckjerry
Posté le 28-04-2026 à 20:15:57  profilanswer
 

Reprise du message précédent :

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.
 


Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”


 [:tibo2002]  
https://www.tomshardware.com/tech-i [...] goes-rogue


C'est là qu'on voit que c'est puissant car c'est très proche de ce qu'il peut se passer avec un ingé humain, le volume "staging" et l'ID qui est le même sur plusieurs envs...  [:tinostar]


---------------
Mon Flickr - "Oh, people can come up with statistics to prove anything, Kent. 40% of people know that." (Homer J. Simpson)
mood
Publicité
Posté le 28-04-2026 à 20:15:57  profilanswer
 

n°74602464
bulldozer_​fusion
rip Mekthoub & Marc
Posté le 28-04-2026 à 20:16:32  profilanswer
 

duckjerry a écrit :


Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”


 [:tibo2002]  
https://www.tomshardware.com/tech-i [...] goes-rogue


C'est là qu'on voit que c'est puissant car c'est très proche de ce qu'il peut se passer avec un ingé humain, le volume "staging" et l'ID qui est le même sur plusieurs envs...  [:tinostar][/quotemsg]

Citation :

The company is now forced into slow manual recovery using a three-month-old backup, with customers reconstructing bookings from Stripe histories, calendars, and emails.
 
 
This tag-team failure exposes catastrophic loss-of-control risks when autonomous AI agents receive real system access and destructive permissions.


dur dur [:jiejie999]


---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas
n°74602465
Gued1duweb
Posté le 28-04-2026 à 20:16:56  profilanswer
 

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.

 



Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”


[:tibo2002]
https://www.tomshardware.com/tech-i [...] goes-rogue


L'IA en mode Ràf total  [:clooney16]

n°74602473
XaTriX
Posté le 28-04-2026 à 20:18:09  profilanswer
 

il a récupéré ses données
2k followers
6m de vue sur un tweet
 


---------------
Proxytaf ? non rien
n°74602530
docmaboul
Posté le 28-04-2026 à 20:35:09  profilanswer
 

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.
 


Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”


 [:tibo2002]  
https://www.tomshardware.com/tech-i [...] goes-rogue


 
Tu fais n'importe quoi, tu te fais punir. Je vois pas où est le scoop :o
 
Autant pour du dev perso je peux comprendre qu'on fasse tourner ce genre d'outil sans bien le surveiller, sur son compte, avec l'accès à sa machine, etc., autant pour du dev pro, c'est faute professionnelle. Il faut utiliser a minima un compte dédié sans aucun droit, ou idéalement une VM, qui n'a accès à rien de sensible et certainement pas à la prod.

n°74602541
XaTriX
Posté le 28-04-2026 à 20:38:39  profilanswer
 

sans dec :o


---------------
Proxytaf ? non rien
n°74602774
Olivie
SUUUUUUUUUUUUUU
Posté le 28-04-2026 à 21:12:38  profilanswer
 

https://img3.super-h.fr/images/2026/04/28/snapshot_1622650073a9c4eb0fd2b4b7e7.jpg
https://img3.super-h.fr/images/2026/04/28/snapshot_984943658104cc18b3e59517d.jpg


---------------

n°74603100
the_fennec
f3nn3cUs z3rd4
Posté le 28-04-2026 à 21:36:17  profilanswer
 

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.
 


Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”


 [:tibo2002]  
https://www.tomshardware.com/tech-i [...] goes-rogue


 
Quelle bande de boulets.
Si seulement il existait des mécanismes pour éviter ce genre de problèmes ... :o
Un truc avec des droits, et des protections :lol:.
 
Il me faudrait 3 déploiements, sur au moins une semaine et une dizaine d'approbations pour arriver une drop une table de prod. Et même en y arrivant j'aurais un backup fait à la seconde du drop qui persisterait pendant 30 jours.

Message cité 1 fois
Message édité par the_fennec le 28-04-2026 à 21:39:40

---------------
Faudra que je teste un jour :o
n°74603132
falkon1000
Posté le 28-04-2026 à 21:39:33  profilanswer
 

klins a écrit :


 
Ok merci, donc tu passe par la version payante?


Oui "payant" (ça m'a couté 2 USD)

n°74603163
bulldozer_​fusion
rip Mekthoub & Marc
Posté le 28-04-2026 à 21:42:29  profilanswer
 

the_fennec a écrit :

 

Quelle bande de boulets.
Si seulement il existait des mécanismes pour éviter ce genre de problèmes ... :o
Un truc avec des droits, et des protections :lol:.

 

Il me faudrait 3 déploiements, sur au moins une semaine et une dizaine d'approbations pour arriver une drop une table de prod. Et même en y arrivant j'aurais un backup fait à la seconde du drop qui persisterait pendant 30 jours.


Ça servira de leçon


---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas
mood
Publicité
Posté le 28-04-2026 à 21:42:29  profilanswer
 

n°74603736
Sirolimus
Posté le 28-04-2026 à 22:27:53  profilanswer
 

Je suis en train de configurer mon VPS avec Sonnet4.6 pour installer Hermès dessus.  
Chat assez long parce que je lui fais détailler tout étape par étape pour comprendre la config (mi-noob inside :o ).
À un moment je lui demande si le contexte commence pas à être trop lourd pour lui, et il me répond...oui ! je devrais redémarrer un chat !
 
A la même question, Gemini et ChatGPT ont toujours fait les innocents, genre y a aucun problème alors qu'ils commençaient à halluciner dans tous les sens. :lol:

n°74603859
Olivie
SUUUUUUUUUUUUUU
Posté le 28-04-2026 à 22:35:40  profilanswer
 

Sirolimus a écrit :

Je suis en train de configurer mon VPS avec Sonnet4.6 pour installer Hermès dessus.  
Chat assez long parce que je lui fais détailler tout étape par étape pour comprendre la config (mi-noob inside :o ).
À un moment je lui demande si le contexte commence pas à être trop lourd pour lui, et il me répond...oui ! je devrais redémarrer un chat !
 
A la même question, Gemini et ChatGPT ont toujours fait les innocents, genre y a aucun problème alors qu'ils commençaient à halluciner dans tous les sens. :lol:


Pourquoi tu donnes pas les accès du vps directement à Claude code ou codex pour qu’ils fassent tout à ta place ?  [:blinkgt]


---------------

n°74604582
Sirolimus
Posté le 29-04-2026 à 08:26:27  profilanswer
 

Parce que je veux apprendre en même temps :D

n°74604691
LibreArbit​re
La /root est longue
Posté le 29-04-2026 à 09:01:58  profilanswer
 

Sirolimus a écrit :

Parce que je veux apprendre en même temps :D


Ouai enfin là à part faire des copiés/collés...


---------------
Hebergement d'images
n°74604768
fabien
Vive la super 5 !
Posté le 29-04-2026 à 09:15:47  profilanswer
 

Olivie a écrit :


Pourquoi tu donnes pas les accès du vps directement à Claude code ou codex pour qu’ils fassent tout à ta place ?  [:blinkgt]


et avec antigravity, c'est possible ?  


---------------
Découvre le HFRcoin ✈ - smilies
n°74604810
Olivie
SUUUUUUUUUUUUUU
Posté le 29-04-2026 à 09:21:43  profilanswer
 

fabien a écrit :


et avec antigravity, c'est possible ?  


Ben oui  [:michel_cymerde:7]  


---------------

n°74604834
the_fennec
f3nn3cUs z3rd4
Posté le 29-04-2026 à 09:27:07  profilanswer
 

bulldozer_fusion a écrit :

Ça servira de leçon


 
Tu penses vraiment? Le gars pleurniche sur Twitter et blame l'IA sans se dire une seconde que c'est lui le problème...
 
La vraie bonne conclusion aurait du être: je vais mettre de vrais ACLs en place.


---------------
Faudra que je teste un jour :o
n°74604870
fabien
Vive la super 5 !
Posté le 29-04-2026 à 09:35:03  profilanswer
 

Olivie a écrit :


Ben oui  [:michel_cymerde:7]  


comment ça marche?
 
car actuellement j'ouvre un dossier et il modifie le code dans ce dossier. Comment faire pour qu'il gère un vps à distance?


---------------
Découvre le HFRcoin ✈ - smilies
n°74604904
Olivie
SUUUUUUUUUUUUUU
Posté le 29-04-2026 à 09:42:50  profilanswer
 

fabien a écrit :


comment ça marche?
 
car actuellement j'ouvre un dossier et il modifie le code dans ce dossier. Comment faire pour qu'il gère un vps à distance?


Ben tu lui donnes une clé ssh et tu lui dis de se connecter ?
OpenClaw avait écrasé ma clé ssh. J’ai fait un recovery dans Hetzner, j’ai donné login et mdp à Claude code et je lui dit « demmerde toi pour arranger ça ». Il a réussi  [:michel_cymerde:7]


---------------

n°74604939
fabien
Vive la super 5 !
Posté le 29-04-2026 à 09:48:59  profilanswer
 

Olivie a écrit :


Ben tu lui donnes une clé ssh et tu lui dis de se connecter ?
OpenClaw avait écrasé ma clé ssh. J’ai fait un recovery dans Hetzner, j’ai donné login et mdp à Claude code et je lui dit « demmerde toi pour arranger ça ». Il a réussi  [:michel_cymerde:7]


oui j'ai demandé dans le chat, il m'a expliqué, ce qui me déroutait c'est que dans antigravity, tu dois ouvrir un dossier/projet avant d'acceder au chat.
 
l'ia remplace les dev, sys admin, les web design, les illustrateurs, les photographe, les secretaires, ... il va plus rester grand chose  :D  :sweat:  [:dugnou29]  [:minipinguin]
 


---------------
Découvre le HFRcoin ✈ - smilies
n°74604955
Olivie
SUUUUUUUUUUUUUU
Posté le 29-04-2026 à 09:51:19  profilanswer
 

fabien a écrit :


oui j'ai demandé dans le chat, il m'a expliqué, ce qui me déroutait c'est que dans antigravity, tu dois ouvrir un dossier/projet avant d'acceder au chat.
 
l'ia remplace les dev, sys admin, les web design, les illustrateurs, les photographe, les secretaires, ... il va plus rester grand chose  :D  :sweat:  [:dugnou29]  [:minipinguin]
 


Oui suffit d’ouvrir un répertoire vide  :D  
 
Oui perso sans codex/claude j’aurais jamais pris un vps…en 3 secondes ils s’occupent des certificats ssl, y a maintenant Cloudflare cli etc…


---------------

n°74604956
bulldozer_​fusion
rip Mekthoub & Marc
Posté le 29-04-2026 à 09:51:21  profilanswer
 

the_fennec a écrit :

 

Tu penses vraiment? Le gars pleurniche sur Twitter et blame l'IA sans se dire une seconde que c'est lui le problème...

 

La vraie bonne conclusion aurait du être: je vais mettre de vrais ACLs en place.


Si avec ça il n'apprend pas, ben là prochaine fois il n'y aura peut être pas de backup de 3 mois pour le sauver


---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas
mood
Publicité
Posté le   profilanswer
 

 Page :   1  2  3  4  5  ..  365  366  367  368  369  370
Page Suivante

Aller à :
Ajouter une réponse
 

Sujets relatifs
THE GAME -S01Q86 - MDJ : MIZA, Histoire d'amour et de comptableNombre de réponses par page par défaut
Jeu du Dico : POPOLL Vainqueur de la S3 - RDV sur le topic de la S4Notification des réponses
mails d'avertissements des réponses sur hfr[Questions sans réponses] Timidité, rejet, décès
(voiture) casi achat, besoin de réponses[Le topic de toutes les réponses]
Je voudrais avoir vos réponses pour mes questionsAPL petite question sans réponses
Plus de sujets relatifs à : [Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co


Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)