[blabla@olympe] Le topic du modo, dieu de la fibre et du monde

Recherche :

Sujet(s) à lire :
- Who's who@Programmation

Mot : Pseudo : Filtrer Aller à la page :
Page : 1 2 3 4 5 .. 27347 27348 27349 .. 27403 27404 27405 27406 27407 27408 Page Suivante Page Précédente Bas de page
Auteur	Sujet : [blabla@olympe] Le topic du modo, dieu de la fibre et du monde

Hermes le Messager

Breton Quiétiste

Reprise du message précédent :

Hephaestos a écrit :

Je t'ai répondu sérieusement. Aucun scénario ne correspond de près ou de loin à Terminator. Les robots qu'on crée ne veulent pas tuer les humains.

Funny enough, le truc qui se rapproche bizarrement serait ce nanar : Lucy (de besson). À la fin, quand elle atteint 100%, elle crée un ordinateur ultime qui se dissipe ensuite partout sur la toile, le décentralisant entièrement et le/la rendant omniscient. [:bool_de_gom]

Message cité 1 fois

---------------
Expert en expertises

Publicité

Hermes le Messager

Breton Quiétiste

rufo a écrit :

Moi, je suis dans ce cas. Il devient de plus en plus difficile d'arriver à garder le contrôle sur les IA, de prédire ce qu'elles vont faire dans 100% des cas.
Il est admis que ces IA sont devenues très performantes pour trouver et exploiter ds failles de sécurité.
Il existe donc une proba difficile à estimer certes mais loin d'être négligeable qu'une de ces IA, à un moment, accède à un système de missiles (peut-être nucléaires) et déclenche un envoi sur un ou plusieurs pays qui répliqueront. Aucune volonté de nuire, juste une IA qui a trouvé une porte d'entrée, n'a pas forcément compris ce que c'était et à effectué quelques actions qui se sont révélées catastrophiques.
Même si la proba était aux alentours des 0.01%, ça serait déjà bien trop dangereux vu le nb d'agents IA qui sont utilisés au quotidien.

Autres possibilités :
- des IA qui génèrent des fakenews suffisamment crédibles pour inciter des populations voire des pays à se foutre sur la tronche sévèrement.
- un groupe de tarés avec des compétences en biotechologies qui arrivent à élaborer un virus bien méchant qui éradique une grosse partie de la population. Une sorte de combinaison du covid19 et d'ébola ou peste noire par ex. Bref, un truc qui se propage très vite, avec une incubation quasi asymptomatique et avec une grosse létalité.

Combiner des microbes et des virus... Je sais que les IAs font des merveilles, mais je pense que tu te laisses aller un peu trop. [:w3c compliant]

Sinon, pour les missiles auto lancés, tu as trop regardé WarGames.

Message cité 1 fois

---------------
Expert en expertises

Flaie

Hermes le Messager a écrit :

Et elle fout pas tout dans une clé usb ? de mémoire, sacré stockage.
Faudrait que je le revois, ou pas.

Message cité 1 fois

Hermes le Messager

Breton Quiétiste

Flaie a écrit :

Et elle fout pas tout dans une clé usb ? de mémoire, sacré stockage.
Faudrait que je le revois, ou pas.

Si, mais elle est présente partout ensuite. Effectivement, j'avais oublié le coup de la clé USB (même pas USB-C )

---------------
Expert en expertises

rufo

Pas me confondre avec Lycos!

Hermes le Messager a écrit :

C'est pour ça que j'ai dit "une sorte de". Mon idée principale était qu'une IA trouve une façon de produire un virus qui se propage très bien très vite à travers les populations et qui est un taux de létalité très fort.

Pour les missiles, Wargames, Terminator 3... C'est pas les exemples dans la SF qui manquent pour nous avertir. Il doit y avoir aussi probablement qq épisodes d'Au-delà du réel.

Qq multi-milliardaires jouent aux apprentis sorciers avec l'IA parce qu'ils s'ennuient et savent pas quoi faire de leurs milliards. Je vois pas ce qui pourrait mal tourner. :sarcastic:
Ils avaient déjà commencé à faire du bon boulot avec les RS qui ont grandement contribué à "améliorer notre monde" (harcèlement, fake news, mauvaise estime de soi ou de son corps en particulier chez les jeunes filles, mise au même niveau de la parole d'experts avec Gérard au comptoir du PMU, ...). Et maintenant, on entraîne les IA sur tout ça. Non, vraiment, je vois pas ce qui pourrait mal tourner

Edit : beau timing : https://www.lesnumeriques.com/intel [...] 61716.html

Citation :

Anthropic révèle le détournement de Claude pour concevoir des armes et des virus.

Ah ben ça alors, qui aurait pu prédire ? :sarcastic:

Edit 2 : et ça aussi : https://www.lesnumeriques.com/intel [...] 61781.html
Bref, que des news rassurantes.

Message cité 1 fois
Message édité par rufo le 14-09-2026 à 09:09:54

---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta

XaTriX

S'il y'a des devs android qui lisent, j'ai fait un TU sur le dev android : https://forum.hardware.fr/forum2.ph [...] w=0&nojs=0

Message cité 1 fois

---------------
[:dawa]

Dion

Acceuil

Dion a écrit :

https://img3.super-h.fr/images/2026/09/10/ikea.gif

Merci Ikea, je vois que vous maitrisez bien votre affaire, vous avez bien fait de prendre les agents IA les moins chers du marché pour votre service client [:toph]

1h30 au tél [:massys]
L'entrée en matière : "On a trop de clients on ne peux pas tous les prévenir des changements dans les livraisons" [:implosion du tibia]

---------------
It is not called show art

Dion

Acceuil

XaTriX a écrit :

S'il y'a des devs android qui lisent, j'ai fait un TU sur le dev android : https://forum.hardware.fr/forum2.ph [...] w=0&nojs=0

Merci, c'est vrai qu'avec un topic par an on s'y perdait, c'est mieux de tout centraliser :jap:

---------------
It is not called show art

Devil'sTiger

rufo a écrit :

Ne jamais dire jamais, le futur peut être surprenant de ce côté, mais les virus normalement ont une certaine linéarité entre dangerosité et propagation. Exemple:

https://informationisbeautiful.net/ [...] n-context/

On tu as une vaste zone vide ou il n'y a presque rien, qui correspond a ET dangereux ET a forte propagation. Un virus dangereux tue trop vite pour continuer sa propagation, donc les virus vraiment hardcore ont tendance, a travers le jeu des morts, contaminations et réponses immu, a aller vers des souches moins dangereuses ou des propagations plus lente, ce qui se passe avec le COVID 19 par exemple (article qui date mais bon, je crois que tout le monde a vu que le COVID d'antant n'est plus):

https://www.bbc.com/future/article/ [...] ess-deadly

Bref un virus créé de la sorte va certainement faire des dégats, puis s'assagir. Seconde option étant qu'il soit tellement sulfureux qu'il va disparaitre de lui même, ne trouvant plus d'hôte pour continuer.

Par contre, prendre le contrôle d'une machine qui peut produire du gaz et lacher un gaz ultra mortel dans la nature pour tout foutre en l'air, là, là on peut déjà plus parler car ca n'est pas vivant et n'a pas besoin d'hôte pour se propager [:docteur g:4] Je vais demander a GPT ce qu'il en pense, qu'il me prépare un plan avant, histoire de lancer 10k agents et y mettre le prix d'une baraque pour enfin être suffisamment disruptif pour avoir mon gazouillis sur openai.com [:sombrero67]

Message cité 3 fois

el muchacho

Comfortably Numb

Programme des conférences de La nuit des données à l'ENS Paris le 25 sept

---------------
Les aéroports où il fait bon attendre, voila un topic qu'il est bien

Publicité

rufo

Pas me confondre avec Lycos!

https://www.lesnumeriques.com/intel [...] 61806.html
Qui pensait à Trump pour réguler le secteur ? :sarcastic:

Devil'sTiger a écrit :

Ne jamais dire jamais, le futur peut être surprenant de ce côté, mais les virus normalement ont une certaine linéarité entre dangerosité et propagation. Exemple:

https://informationisbeautiful.net/ [...] n-context/

On tu as une vaste zone vide ou il n'y a presque rien, qui correspond a ET dangereux ET a forte propagation. Un virus dangereux tue trop vite pour continuer sa propagation, donc les virus vraiment hardcore ont tendance, a travers le jeu des morts, contaminations et réponses immu, a aller vers des souches moins dangereuses ou des propagations plus lente, ce qui se passe avec le COVID 19 par exemple (article qui date mais bon, je crois que tout le monde a vu que le COVID d'antant n'est plus):

https://www.bbc.com/future/article/ [...] ess-deadly

Bref un virus créé de la sorte va certainement faire des dégats, puis s'assagir. Seconde option étant qu'il soit tellement sulfureux qu'il va disparaitre de lui même, ne trouvant plus d'hôte pour continuer.

Par contre, prendre le contrôle d'une machine qui peut produire du gaz et lacher un gaz ultra mortel dans la nature pour tout foutre en l'air, là, là on peut déjà plus parler car ca n'est pas vivant et n'a pas besoin d'hôte pour se propager [:docteur g:4] Je vais demander a GPT ce qu'il en pense, qu'il me prépare un plan avant, histoire de lancer 10k agents et y mettre le prix d'une baraque pour enfin être suffisamment disruptif pour avoir mon gazouillis sur openai.com [:sombrero67]

Les virus naturels, ceux qui ont émergé sans intervention humaine. Oui, là, tu as raison. Mais je parle de virus élaborés dans un labo. A priori, rien n'empêcherait de trouver un virus bien résistant et pouvant survivre hors d'un hôte plus longtemps que la moyenne et lui permettre ainsi une meilleure propagation malgré une mortalité plus importante.

Message cité 1 fois
Message édité par rufo le 14-09-2026 à 13:04:34

flo850

moi je

Devil'sTiger a écrit :

Ne jamais dire jamais, le futur peut être surprenant de ce côté, mais les virus normalement ont une certaine linéarité entre dangerosité et propagation. Exemple:

https://informationisbeautiful.net/ [...] n-context/

On tu as une vaste zone vide ou il n'y a presque rien, qui correspond a ET dangereux ET a forte propagation. Un virus dangereux tue trop vite pour continuer sa propagation, donc les virus vraiment hardcore ont tendance, a travers le jeu des morts, contaminations et réponses immu, a aller vers des souches moins dangereuses ou des propagations plus lente, ce qui se passe avec le COVID 19 par exemple (article qui date mais bon, je crois que tout le monde a vu que le COVID d'antant n'est plus):

https://www.bbc.com/future/article/ [...] ess-deadly

Bref un virus créé de la sorte va certainement faire des dégats, puis s'assagir. Seconde option étant qu'il soit tellement sulfureux qu'il va disparaitre de lui même, ne trouvant plus d'hôte pour continuer.

Par contre, prendre le contrôle d'une machine qui peut produire du gaz et lacher un gaz ultra mortel dans la nature pour tout foutre en l'air, là, là on peut déjà plus parler car ca n'est pas vivant et n'a pas besoin d'hôte pour se propager [:docteur g:4] Je vais demander a GPT ce qu'il en pense, qu'il me prépare un plan avant, histoire de lancer 10k agents et y mettre le prix d'une baraque pour enfin être suffisamment disruptif pour avoir mon gazouillis sur openai.com [:sombrero67]

toi tu as envie d'apparaitre dans les communication mensuels des blocahes faits par openai

Message cité 1 fois
Message édité par flo850 le 14-09-2026 à 13:35:41

---------------

Kenshineuh

Quel plaisir de retrouver internet après 2 semaines de coupure.

L’interface de la livebox 7 est en effet à chier.

Message cité 1 fois

Dion

Acceuil

La fresque <3

---------------
It is not called show art

Kenshineuh

Désolé j’ai du boulot. Et un VPN à reconfig. Ça va me prendre longtemps, je l’ai pas encore vu à l’école.

Dion

Acceuil

Les petits diplômes c’est quand même compliqué
Dès que tu demandes plus d’un truc à la fois ça y est ils explosent

Message cité 2 fois

---------------
It is not called show art

Hephaestos

Sanctis Recorda, Sanctis deus.

Devil'sTiger a écrit :

Le problème c'est comme pour les maladies : pour que ce soit vraiment efficace, faudrait que l'effet soit à long terme, pour pas laisser le temps aux humains de réagir. Genre un gaz qui fait lentement monter la température de toute la planète, jusqu'à la rendre inhabitable pour le humains. Mais bon, c'est de la science-fiction, vous inquiétez pas, le GIEC mise tout sur l'IPO.

Message cité 1 fois

Dion

Acceuil

Hephaestos a écrit :

Ou des nano bots introduits dans les humains en secret au fil des années :mad:

---------------
It is not called show art

Kenshineuh

Dion a écrit :

Les petits diplômes c’est quand même compliqué
Dès que tu demandes plus d’un truc à la fois ça y est ils explosent

Ça me permet d’être lead dev du nouveau SI d’une boîte qui vient de lever quelques millions, ça reste convenable.

DDT

Few understand

Dion a écrit :

Les petits diplômes c’est quand même compliqué
Dès que tu demandes plus d’un truc à la fois ça y est ils explosent

Les LLMs qui ont rendu les natasseries de sysadmins complètement obsolètes c'est quand même pas mal.

Après ici ils se sont vite adaptés les bougres, même à l'époque où les modèles étaient encore pas fous, j'en voyais avec un agent configuré pour lire les logs en direct, débugguer et redéployer à coup de kubectl. [:yems93]

---------------
click clack clunka thunk

XaTriX

è_é

---------------
[:dawa]

Dion

Acceuil

---------------
It is not called show art

Devil'sTiger

flo850 a écrit :

toi tu as envie d'apparaitre dans les communication mensuels des blocahes faits par openai

Peut-être [:sombrero67] Ca dépend, c'est qui qui demande flonucléide ou un agent de flonucléide

rufo a écrit :

A part si il ne mute pas, labo ou pas ca changera surtout le point départ plutôt que la finalité... Entre ces deux dates peut y avoir des millions de morts hein, pas du tout incompatible :whistle:

Kenshineuh a écrit :

Quel plaisir de retrouver internet après 2 semaines de coupure.

L’interface de la livebox 7 est en effet à chier.

J'ai mis a jour mon Pixel 10 Pro avec Android 17. Le Wifi marchait plus. Google, plus grosse boite tech du monde, capable de foutre en l'air un driver Wifi stable et pousser ca en prod sur son flagship [:baragor]

___alt

rufo a écrit :

Une IA c'est un programme. Un programme ne fait pas de magie, il ne va pas sauter par-dessus des DMZ, il ne va pas tourner une clé physique qui autorise un lancement, il ne va pas nager avec ses petits bras jusqu'à un SNLE pour chuchoter "DO IT" à l'oreille du commandant.

Message cité 6 fois

---------------
TRIPS RIGHT BUNCH F SHUTTLE TOM AND JERRY RIGHT YELLOW

Hermes le Messager

Breton Quiétiste

___alt a écrit :

D'après ce que j'ai compris, le principal danger vient des "intermediate steps to complete goals set by users". En clair, tu demandes à l'IA quelque chose et pour arriver au but, l'IA va compléter différentes étapes qu'elle juge nécessaire pour réussir à satisfaire l'utilisateur. Elle est entraînée pour ne pas obéir à des ordres contraires à ses garde fous, mais pour les étapes intermédiaires, c'est bcp plus compliqué. D'où les IAs qui par exemple hackent un site pour obtenir telle ou telle chose en tant qu'étape intermédiaire...

En gros (enfin en ÉNORME), tu demandes : sauve la race humaine de l'extinction, l'IA sauve la planète en tant qu'éco-système capable de supporter la vie et butte les 90% de l'humanité.

Message cité 1 fois

---------------
Expert en expertises

Hephaestos

Sanctis Recorda, Sanctis deus.

___alt a écrit :

C'est le dernier vecteur le plus vraisemblable à mon avis. Une IA capable de pirater les systèmes de communication militaires, et de passer un ordre en direct en visioconférence de la part du Président de la République, ça reste de la science fiction, mais il ne manque aucune brique. Je connais pas les protocoles exacts, mais je vois pas comment on se protège d'une superpuissances cybernétique.

Message cité 2 fois
Message édité par Hephaestos le 14-09-2026 à 17:35:24

Hephaestos

Sanctis Recorda, Sanctis deus.

Vous croyez il faut que j'installe Norton Antivirus ?

Message cité 1 fois

Hermes le Messager

Breton Quiétiste

___alt a écrit :

Un programme ne fait pas de magie,

Personne ne fait de la magie. La magie n'existe pas. La magie, c'est quand on ne comprend pas le truc... Et pas de bol, il semblerait que concernant l'IA on arrive à ce stade. [:bool_de_gom]

---------------
Expert en expertises

Hermes le Messager

Breton Quiétiste

Hephaestos a écrit :

Vous croyez il faut que j'installe Norton Antivirus ?

Évidemment. [:yiipaa:4]

---------------
Expert en expertises

gfive

Hermes le Messager a écrit :

D'après ce que j'ai compris, le principal danger vient des "intermediate steps to complete goals set by users". En clair, tu demandes à l'IA quelque chose et pour arriver au but, l'IA va compléter différentes étapes qu'elle juge nécessaire pour réussir à satisfaire l'utilisateur. Elle est entraînée pour ne pas obéir à des ordres contraires à ses garde fous, mais pour les étapes intermédiaires, c'est bcp plus compliqué. D'où les IAs qui par exemple hackent un site pour obtenir telle ou telle chose en tant qu'étape intermédiaire...

En gros (enfin en ÉNORME), tu demandes : sauve la race humaine de l'extinction, l'IA sauve la planète en tant qu'éco-système capable de supporter la vie et butte les 90% de l'humanité.

Comme par exemple une instruction genre "NE FAIT PAS CA STP",. et après elle le fait et te dit que "oups, oui haha désolé"

Message cité 2 fois

---------------
Tous les sud africains sont ségrégationistes, à part Ted. (P. Desproges)

Dion

Acceuil

___alt a écrit :

Je ne sais pas ce que les ukrainiens et les russes utilisent pour valider les commandes/livraisons/déploiements tactiques de leurs armées et leurs milices mais je ne suis pas rassuré quand même

---------------
It is not called show art

Hermes le Messager

Breton Quiétiste

gfive a écrit :

Comme par exemple une instruction genre "NE FAIT PAS CA STP",. et après elle le fait et te dit que "oups, oui haha désolé"

Bah si tu reprends mon exemple :

"Sauve la race humaine de l'extinction"

Dans ton .md, tu mets : "ne tue aucun humain sous aucun prétexte"

Mais c'est ignoré durant les étapes intermédiaires parce que l'IA veut te faire plaiz et atteindre le but que tu lui as fixé. [:o_yvele]

Et du coup : l'IA sauve la planète en tant qu'éco-système capable de supporter la vie et butte les 90% de l'humanité.

---------------
Expert en expertises

flo850

moi je

gfive a écrit :

Comme par exemple une instruction genre "NE FAIT PAS CA STP",. et après elle le fait et te dit que "oups, oui haha désolé"

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

Message cité 8 fois

---------------

XaTriX

flo850 a écrit :

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

[:calimefrog:5]

---------------
[:dawa]

masklinn

í dag viðrar vel til loftárása

___alt a écrit :

Tant que tu laisses un humain dans la boucle et que l'humain fait autre chose the cliquer le bouton "ok".

Le second on sait déjà que c'est un problème même sans IA.

Et le premier c'est exactement la source de la dispute entre Anthropic et le gouvernement US, Anthropic rejette l'utilisation de ses produits pour la surveillance et les armes létales autonomes. C'est pas un problème pour Palantir par contre, c'est pour ça qu'ils sont en charge de Projet Maven.

flo850 a écrit :

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

[:rofl]

Message édité par masklinn le 14-09-2026 à 18:11:13

---------------
I mean, true, a cancer will probably destroy its host organism. But what about the cells whose mutations allow them to think outside the box by throwing away the limits imposed by overbearing genetic regulations? Isn't that a good thing?

Hermes le Messager

Breton Quiétiste

flo850 a écrit :

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

[:rofl]

---------------
Expert en expertises

skeye

flo850 a écrit :

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

voilà, le gros danger de l'IA c'est la connerie des humains qui s'en servent

Message cité 1 fois

---------------
Can't buy what I want because it's free -

invik

J'ai pas ma manette :o

Kenshineuh a écrit :

Pour ceux qui ont une infra 10Gb chez eux, c'est fiable les modules SFP 10GBASE-T ?

La Livebox 7 sort le 10Gb en RJ45 donc j'aurais besoin d'un module comme ça pour le mettre sur mon switch.
Couplé avec une carte réseau et le bon cable, je peux profiter assez facilement du 10gb, mais je vois pas mal de négatif concernant la fiabilité, la chauffe et la conso. J'en ai pas spécialement besoin évidemment, c'est plus pour le kiff.
Preneur des retours.

Pas mieux que Plam, j'en ai essayé 4 ou 5 pour en avoir un qui claque pas au bout de 6 mois ou qui ne font d'erreur sur 10m.
Les dernières générations ne chauffent plus trop et aucun souci d'erreur.

Message cité 1 fois

Devil'sTiger

Hephaestos a écrit :

Ces systèmes ne sont pas un mélange de trucs secrets et coupés d'internet avec plusieurs boucles de vérifications ?

J'espère qu'ils ont mis en place a minima ce que ma banque fait "vous voulez faire ce virement, c'est NOUS qui vous rappelons pour être sur" [:baragor]

flo850 a écrit :

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

Message cité 2 fois

Hermes le Messager

Breton Quiétiste

skeye a écrit :

voilà, le gros danger de l'IA c'est la connerie des humains qui s'en servent

Oui enfin finalement, on passe de quoi à quoi ?

Des humains débiles (ou pire méchants) qui donnent des ordres à d'autres humains bête (et parfois méchants)

à

Une IA qui dit à des humains bêtes (et parfois méchants) quoi faire.

Pas sûr que ce soit pire au final...

C'est pas comme si on ~~devait~~ pouvait compter sur les hommes pour respecter des grands principes de respect de la vie humaine, de la nature, de l'environnement etc..

Message cité 1 fois
Message édité par Hermes le Messager le 14-09-2026 à 18:14:06

---------------
Expert en expertises

el_barbone

too old for this shit ...

flo850 a écrit :

je viens d'avoir un collègue qui a rebooté une VM relativement critique parceque claude lui a dit...

Serieux, il ne sait pas à quoi elle sert ? Ou s’il le sait, il ne se pose aucune questions ?

Message cité 1 fois

---------------
En théorie, la théorie et la pratique sont identiques, en pratique, non.

Publicité

Page : 1 2 3 4 5 .. 27347 27348 27349 .. 27403 27404 27405 27406 27407 27408

Page Suivante

Page Précédente

Haut de page

FORUM HardWare.fr

Programmation

[blabla@olympe] Le topic du modo, dieu de la fibre et du monde

Sujets relatifs
Plus de sujets relatifs à : [blabla@olympe] Le topic du modo, dieu de la fibre et du monde

Page générée en 0.109 secondes