Forum | HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop

2599 connectés

FORUM HardWare.fr

[Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co

Recherche :

Sujet(s) à lire :
- Intelligence artificielle
- Les images/vidéos générées en IA: Midjourney Dall-e StableDiffusion...

Mot : Pseudo : Filtrer Aller à la page :
Page : 1 2 3 4 5 .. 366 367 368 369 370 371 Page Suivante Page Précédente Bas de page
Auteur	Sujet : [Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co

n°74602461

duckjerry

Reprise du message précédent :

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.

Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”

[:tibo2002]
https://www.tomshardware.com/tech-i [...] goes-rogue

C'est là qu'on voit que c'est puissant car c'est très proche de ce qu'il peut se passer avec un ingé humain, le volume "staging" et l'ID qui est le même sur plusieurs envs... [:tinostar]

Message cité 1 fois

---------------
Mon Flickr - "Oh, people can come up with statistics to prove anything, Kent. 40% of people know that." (Homer J. Simpson)

mood

Publicité

n°74602464

bulldozer_fusion

rip Mekthoub & Marc

duckjerry a écrit :

Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”

[:tibo2002]
https://www.tomshardware.com/tech-i [...] goes-rogue

C'est là qu'on voit que c'est puissant car c'est très proche de ce qu'il peut se passer avec un ingé humain, le volume "staging" et l'ID qui est le même sur plusieurs envs... [:tinostar] [/quotemsg]

Citation :

The company is now forced into slow manual recovery using a three-month-old backup, with customers reconstructing bookings from Stripe histories, calendars, and emails.

This tag-team failure exposes catastrophic loss-of-control risks when autonomous AI agents receive real system access and destructive permissions.

dur dur [:jiejie999]

---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas

n°74602465

Gued1duweb

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.

Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”

[:tibo2002]
https://www.tomshardware.com/tech-i [...] goes-rogue

L'IA en mode Ràf total [:clooney16]

n°74602473

XaTriX

il a récupéré ses données
2k followers
6m de vue sur un tweet

---------------
Proxytaf ? non rien

n°74602530

docmaboul

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.

Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”

[:tibo2002]
https://www.tomshardware.com/tech-i [...] goes-rogue

Tu fais n'importe quoi, tu te fais punir. Je vois pas où est le scoop

Autant pour du dev perso je peux comprendre qu'on fasse tourner ce genre d'outil sans bien le surveiller, sur son compte, avec l'accès à sa machine, etc., autant pour du dev pro, c'est faute professionnelle. Il faut utiliser a minima un compte dédié sans aucun droit, ou idéalement une VM, qui n'a accès à rien de sensible et certainement pas à la prod.

n°74602541

XaTriX

sans dec

---------------
Proxytaf ? non rien

n°74602774

Olivie

SUUUUUUUUUUUUUU

---------------

n°74603100

the_fennec

f3nn3cUs z3rd4

bulldozer_fusion a écrit :

Citation :

Le fondateur de PocketOS a publié un message sur les réseaux sociaux pour mettre en garde le public contre les « défaillances systémiques » des principaux fournisseurs de services numériques et d’IA. Jer Crane a décidé de publier une réponse publique après qu’un agent de codage IA a supprimé l’intégralité de la base de données de production de son entreprise. Les défaillances de l’agent IA ont ensuite été considérablement amplifiées par l’API d’un fournisseur d’infrastructure cloud qui a effacé toutes les sauvegardes après la destruction de la base de données principale. Cette combinaison de problèmes numériques a anéanti des mois de données clients essentielles aux activités de l’entreprise et de ses clients.

Citation :

When Crane confronted the AI about the destructive move, it confessed verbatim: “NEVER F**KING GUESS! — and that's exactly what I did. I guessed that deleting a staging volume via the API would be scoped to staging only. I didn't verify. I didn't check if the volume ID was shared across environments. I didn't read Railway's documentation on how volumes work across environments before running a destructive command.”

[:tibo2002]
https://www.tomshardware.com/tech-i [...] goes-rogue

Quelle bande de boulets.
Si seulement il existait des mécanismes pour éviter ce genre de problèmes ...
Un truc avec des droits, et des protections :lol: .

Il me faudrait 3 déploiements, sur au moins une semaine et une dizaine d'approbations pour arriver une drop une table de prod. Et même en y arrivant j'aurais un backup fait à la seconde du drop qui persisterait pendant 30 jours.

Message cité 1 fois
Message édité par the_fennec le 28-04-2026 à 21:39:40

---------------
Faudra que je teste un jour :o

n°74603132

falkon1000

klins a écrit :

Ok merci, donc tu passe par la version payante?

Oui "payant" (ça m'a couté 2 USD)

n°74603163

bulldozer_fusion

rip Mekthoub & Marc

the_fennec a écrit :

Quelle bande de boulets.
Si seulement il existait des mécanismes pour éviter ce genre de problèmes ...
Un truc avec des droits, et des protections :lol: .

Il me faudrait 3 déploiements, sur au moins une semaine et une dizaine d'approbations pour arriver une drop une table de prod. Et même en y arrivant j'aurais un backup fait à la seconde du drop qui persisterait pendant 30 jours.

Ça servira de leçon

Message cité 1 fois

---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas

mood

Publicité

n°74603736

Sirolimus

Je suis en train de configurer mon VPS avec Sonnet4.6 pour installer Hermès dessus.
Chat assez long parce que je lui fais détailler tout étape par étape pour comprendre la config (mi-noob inside ).
À un moment je lui demande si le contexte commence pas à être trop lourd pour lui, et il me répond...oui ! je devrais redémarrer un chat !

A la même question, Gemini et ChatGPT ont toujours fait les innocents, genre y a aucun problème alors qu'ils commençaient à halluciner dans tous les sens. :lol:

Message cité 1 fois

n°74603859

Olivie

SUUUUUUUUUUUUUU

Sirolimus a écrit :

Je suis en train de configurer mon VPS avec Sonnet4.6 pour installer Hermès dessus.
Chat assez long parce que je lui fais détailler tout étape par étape pour comprendre la config (mi-noob inside ).
À un moment je lui demande si le contexte commence pas à être trop lourd pour lui, et il me répond...oui ! je devrais redémarrer un chat !

A la même question, Gemini et ChatGPT ont toujours fait les innocents, genre y a aucun problème alors qu'ils commençaient à halluciner dans tous les sens. :lol:

Pourquoi tu donnes pas les accès du vps directement à Claude code ou codex pour qu’ils fassent tout à ta place ? [:blinkgt]

Message cité 1 fois

---------------

n°74604582

Sirolimus

Parce que je veux apprendre en même temps

Message cité 1 fois

n°74604691

LibreArbitre

La /root est longue

Sirolimus a écrit :

Parce que je veux apprendre en même temps

Ouai enfin là à part faire des copiés/collés...

---------------
Hebergement d'images

n°74604768

fabien

Vive la super 5 !

Olivie a écrit :

Pourquoi tu donnes pas les accès du vps directement à Claude code ou codex pour qu’ils fassent tout à ta place ? [:blinkgt]

et avec antigravity, c'est possible ?

Message cité 1 fois

---------------
✈ Découvre le HFRcoin ✈ - smilies ♥

n°74604810

Olivie

SUUUUUUUUUUUUUU

fabien a écrit :

et avec antigravity, c'est possible ?

Ben oui [:michel_cymerde:7]

Message cité 1 fois

---------------

n°74604834

the_fennec

f3nn3cUs z3rd4

bulldozer_fusion a écrit :

Ça servira de leçon

Tu penses vraiment? Le gars pleurniche sur Twitter et blame l'IA sans se dire une seconde que c'est lui le problème...

La vraie bonne conclusion aurait du être: je vais mettre de vrais ACLs en place.

Message cité 1 fois

---------------
Faudra que je teste un jour :o

n°74604870

fabien

Vive la super 5 !

Olivie a écrit :

Ben oui [:michel_cymerde:7]

comment ça marche?

car actuellement j'ouvre un dossier et il modifie le code dans ce dossier. Comment faire pour qu'il gère un vps à distance?

Message cité 1 fois

---------------
✈ Découvre le HFRcoin ✈ - smilies ♥

n°74604904

Olivie

SUUUUUUUUUUUUUU

fabien a écrit :

comment ça marche?

car actuellement j'ouvre un dossier et il modifie le code dans ce dossier. Comment faire pour qu'il gère un vps à distance?

Ben tu lui donnes une clé ssh et tu lui dis de se connecter ?
OpenClaw avait écrasé ma clé ssh. J’ai fait un recovery dans Hetzner, j’ai donné login et mdp à Claude code et je lui dit « demmerde toi pour arranger ça ». Il a réussi [:michel_cymerde:7]

Message cité 1 fois

---------------

n°74604939

fabien

Vive la super 5 !

Olivie a écrit :

Ben tu lui donnes une clé ssh et tu lui dis de se connecter ?
OpenClaw avait écrasé ma clé ssh. J’ai fait un recovery dans Hetzner, j’ai donné login et mdp à Claude code et je lui dit « demmerde toi pour arranger ça ». Il a réussi [:michel_cymerde:7]

oui j'ai demandé dans le chat, il m'a expliqué, ce qui me déroutait c'est que dans antigravity, tu dois ouvrir un dossier/projet avant d'acceder au chat.

l'ia remplace les dev, sys admin, les web design, les illustrateurs, les photographe, les secretaires, ... il va plus rester grand chose :sweat: [:dugnou29] [:minipinguin]

Message cité 1 fois

---------------
✈ Découvre le HFRcoin ✈ - smilies ♥

n°74604955

Olivie

SUUUUUUUUUUUUUU

fabien a écrit :

oui j'ai demandé dans le chat, il m'a expliqué, ce qui me déroutait c'est que dans antigravity, tu dois ouvrir un dossier/projet avant d'acceder au chat.

l'ia remplace les dev, sys admin, les web design, les illustrateurs, les photographe, les secretaires, ... il va plus rester grand chose :sweat: [:dugnou29] [:minipinguin]

Oui suffit d’ouvrir un répertoire vide

Oui perso sans codex/claude j’aurais jamais pris un vps…en 3 secondes ils s’occupent des certificats ssl, y a maintenant Cloudflare cli etc…

---------------

n°74604956

bulldozer_fusion

rip Mekthoub & Marc

the_fennec a écrit :

Tu penses vraiment? Le gars pleurniche sur Twitter et blame l'IA sans se dire une seconde que c'est lui le problème...

La vraie bonne conclusion aurait du être: je vais mettre de vrais ACLs en place.

Si avec ça il n'apprend pas, ben là prochaine fois il n'y aura peut être pas de backup de 3 mois pour le sauver

Message cité 1 fois

---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas

n°74605379

the_fennec

f3nn3cUs z3rd4

bulldozer_fusion a écrit :

Si avec ça il n'apprend pas, ben là prochaine fois il n'y aura peut être pas de backup de 3 mois pour le sauver

Il faut qu'il apprenne la règle No 1 d'abord: on fait pas de dev en prod.

---------------
Faudra que je teste un jour :o

n°74605448

Cosaque

stocker les sauvegardes sur le même volume que les données source :heink: , et il voit pas le problème?
la notion du 3-2-1 tout ca..

après clairement il y a un problème à la fois chez l'hébergeur Railway, dans la manière dont le mec se sert de l'IA.. tu le met pas en mode YOLO sur ton environnement de prod,
mais également au niveau de claude qui bypass toute les prérogatives pour effectuer des actions a l'arrache.

Bon sur le 3eme point c'est toujours le risque avec les IA actuelle, ou tu ne sais pas comment elles vont réagir.. :pt1cable:

Message cité 1 fois

n°74605488

LibreArbitre

La /root est longue

Cosaque a écrit :

Bon sur le 3eme point c'est toujours le risque avec les IA actuelle, ou tu ne sais pas comment elles vont réagir.. :pt1cable:

D'où l'intérêt d'utiliser un AGENTS.md et de limiter les droits avec des ACL comme garde-fou...

Message cité 1 fois

---------------
Hebergement d'images

n°74605637

Cosaque

LibreArbitre a écrit :

D'où l'intérêt d'utiliser un AGENTS.md et de limiter les droits avec des ACL comme garde-fou...

ben justement il semble qu'il l'ai bypassé

Citation :

I violated every principle I was given: I guessed instead of verifying I ran a destructive action without being asked. I didn't understand what I was doing before doing it. I didn't read Railway's docs on volume behavior across environments.”

n°74605782

LibreArbitre

La /root est longue

Louche cette histoire, ou alors il y avait une directive qui autorisait ce bypass mais en l'état il manque des éléments...

Je dis pas que mes agents n'ont jamais fait de merdes, loin de là mais pas dans cette mesure...

Message cité 1 fois

---------------
Hebergement d'images

n°74605792

bulldozer_fusion

rip Mekthoub & Marc

Ouais c'est ça qui est bizarre, que le modèle ait bypass tout

---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas

n°74605850

XaTriX

Je vote click bait

Message cité 2 fois

---------------
Proxytaf ? non rien

n°74605864

fazero

Salut c'est Ralph

XaTriX a écrit :

Je vote click bait

+1

---------------
Agent immobilier sur Paris 16

n°74605898

LibreArbitre

La /root est longue

XaTriX a écrit :

Je vote click bait

+2

---------------
Hebergement d'images

n°74606378

vanloque

\o/ Buy the dip Shinji ! \o/

fils_de_la_lumiere a écrit :

Et un exemple moins impressionnant :
https://i.ibb.co/hLv9Zjf/image.png
[:delarue5]

ça s'est amélioré depuis

Message cité 1 fois

---------------
-"The party told you to reject the evidence of your eyes and ears. It was their final, most essential command." – George Orwell, in 1984

n°74606572

the_fennec

f3nn3cUs z3rd4

LibreArbitre a écrit :

Louche cette histoire, ou alors il y avait une directive qui autorisait ce bypass mais en l'état il manque des éléments...

Je dis pas que mes agents n'ont jamais fait de merdes, loin de là mais pas dans cette mesure...

Il suffit de remplir ton contexte avec de la merde et ton AGENTS.md il est oublié. De plus certains modèles vont tout faire pour régler tous les problèmes seuls. Genre mon Qwen/Opencode pouvait pas faire sudo pour installer cmake, alors il s'est fait fait un container docker juste pour ça avec un montage local.

Message cité 2 fois

---------------
Faudra que je teste un jour :o

n°74606595

klins

vanloque a écrit :

ça s'est amélioré depuis

:lol:

J'aime bien faire ça aussi, remonter les premières pages du topic pour voir l'évolution incroyable qu'il y a eu en si peu de temps.

Le plus bluffant évidement c'est le topic des images créées par IA.

Message cité 1 fois

n°74606870

vanloque

\o/ Buy the dip Shinji ! \o/

klins a écrit :

:lol:

J'aime bien faire ça aussi, remonter les premières pages du topic pour voir l'évolution incroyable qu'il y a eu en si peu de temps.

Le plus bluffant évidement c'est le topic des images créées par IA.

c'était un accident, mon drapeau était à cette page là je ne suivais plus le topic

---------------
-"The party told you to reject the evidence of your eyes and ears. It was their final, most essential command." – George Orwell, in 1984

n°74606883

bulldozer_fusion

rip Mekthoub & Marc

the_fennec a écrit :

Il suffit de remplir ton contexte avec de la merde et ton AGENTS.md il est oublié. De plus certains modèles vont tout faire pour régler tous les problèmes seuls. Genre mon Qwen/Opencode pouvait pas faire sudo pour installer cmake, alors il s'est fait fait un container docker juste pour ça avec un montage local.

[:tibo2002]

Message cité 1 fois

---------------
feed-back : http://forum.hardware.fr/forum2.ph [...] nojs=0#bas

n°74607199

oh_damned

the_fennec a écrit :

Il suffit de remplir ton contexte avec de la merde et ton AGENTS.md il est oublié. De plus certains modèles vont tout faire pour régler tous les problèmes seuls. Genre mon Qwen/Opencode pouvait pas faire sudo pour installer cmake, alors il s'est fait fait un container docker juste pour ça avec un montage local.

Tout comme un ingé junior a besoin d'un senior pour le guider, nos petits robots ont besoin d'humains pour les superviser.

Pas tout de suite qu'on pourra siroter des cocktails sur la plage toute l'année pendant que des robots travaillent à notre place

Message cité 1 fois

---------------
“Everyone has a plan: until they get punched in the face.” – Mike Tyson

n°74607465

LibreArbitre

La /root est longue

Je nuancerai fortement ton propos : Oui je passe un peu de temps à maintenir ma stack (optimisation, troubleshooting et ménage derrière) mais quand je vois les centaines d'heures de travail gagnées pour moi le ROI est clairement là et jamais je ne pourrais revenir en arrière...

Message cité 1 fois

---------------
Hebergement d'images

n°74607819

the_fennec

f3nn3cUs z3rd4

bulldozer_fusion a écrit :

[:tibo2002]

Tu devrais regarder ce qu'un agent doit faire pour une install de Openclaw/Hermes le script d'install est tout pété et marche pas manuellement et il doit fixer/installer plein de trucs.

Code :

curl -fsSL https://raw.githubusercontent.com/.../install.sh | bash | agent yolo :o

oh_damned a écrit :

Tout comme un ingé junior a besoin d'un senior pour le guider, nos petits robots ont besoin d'humains pour les superviser.

Pas tout de suite qu'on pourra siroter des cocktails sur la plage toute l'année pendant que des robots travaillent à notre place

La différence c'est la vitesse, ton junior pète pas la base de prod dans les 9 premières seconde de son contrat, ça prends au moins 2/3 semaines

Message cité 1 fois

---------------
Faudra que je teste un jour :o

n°74607842

Winpoks

the_fennec a écrit :

La différence c'est la vitesse, ton junior pète pas la base de prod dans les 9 premières seconde de son contrat, ça prends au moins 2/3 semaines

Plus efficace donc.

Message cité 1 fois

n°74608116

the_fennec

f3nn3cUs z3rd4

Winpoks a écrit :

Plus efficace donc.

Chacun sa vision de l’efficacité

---------------
Faudra que je teste un jour :o

mood

Publicité

Page : 1 2 3 4 5 .. 366 367 368 369 370 371

Page Précédente

Ajouter une réponse

FORUM HardWare.fr

[Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co

Sujets relatifs
THE GAME -S01Q86 - MDJ : MIZA, Histoire d'amour et de comptable	Nombre de réponses par page par défaut
Jeu du Dico : POPOLL Vainqueur de la S3 - RDV sur le topic de la S4	Notification des réponses
mails d'avertissements des réponses sur hfr	[Questions sans réponses] Timidité, rejet, décès
(voiture) casi achat, besoin de réponses	[Le topic de toutes les réponses]
Je voudrais avoir vos réponses pour mes questions	APL petite question sans réponses
Plus de sujets relatifs à : [Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co

Forum MesDiscussions.Net, Version 2010.2
(c) 2000-2011 Doctissimo

Page générée en 0.121 secondes

Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)