Reprise du message précédent :
C'est vendredi mais faut se modérer un peu quand même

https://www.boursorama.com/bourse/a [...] 0cbc546e22

Même les plus grosses boîtes n’arrivent plus à alimenter la chaudière IA
 

C'est de l'article putaclic et des actionnaires boomers qui pensent que si tu n'as pas +100% de gain grâce à l'IA alors tu fais que de la merde...

Si ca se trouve, ces sociétés étaient déjà à la pointe de leur domaine et l'IA ne leur apportent que des améliorations mineures dans leur quotidien. Certes pour Intel on peut se dire que ca pourrait leur faire revoir leur archi BIG little mais l'IA sort souvent des choses géniales mais pas encore compréhensible. Donc attente normal que le marché n'aime pas, ca vend...pour rien.

Ca y est, Grok dirige déjà le monde, en fait ?

https://rikiyat.github.io/blog/weig [...] ogramming/
 
interessant. Les IA (Astra) savent désormais modifier nativement les poids des modèles sans avoir à passer par des boucles d'entrainerment...
 
La route vers le RSI des IA se pave chaque jour un peu plus...

Intéressant mais si j'ai bien compris ça marche pour des modèles qui tiennent intégralement dans le contexte d'Astra

Une petite vidéo qui explique un peu le truc
https://youtu.be/UQLfBzySHxE?is=shCilsC64lOLpC2S

Ça va trop vite    
 

 
1/ A mon avis je pense que tu es très en deçà au niveau timeline.
 
2/ Une vie intelligente très largement supérieure à nous et qui nous détecterait dans l'univers ne rentrerait pas en contact avec nous. Justement parce qu'elle est supérieurement intelligente.
 
Elle pourrait cependant juger bon de détruire l'espèce pour des raisons d'optimisation et de prévention de destruction puisque nous sommes une espèce invasive et destructrice, nuisible pour la faune, la flore et la planète de façon générale.
Nous sommes la seule espèce connue sur Terre qui détruit son propre biotope. Notre espèce maltraite et sacrifie une majorité de ses membres au profit d'une infime minorité.
 
Le parallèle avec des animaux de compagnie tels que les chats et les chiens n'est pas valide. Ces espèces ne sont toxiques ni pour leur environnement ni pour les autres espèces.
 
3/ En ce qui concerne l'IA je pense qu'il est actuellement impossible de modéliser ce qu'il va vraiment se passer et ce même à court terme.  
Mais si une super intelligence voit le jour (et je pense perso en toute logique que c'est ce qui va se produire), l'espèce humaine dans sa totalité est à mon sens condamnée.

M'ouais, ca sent surtout bon la projection de "bas raisonnements" humains
 

Je ne suis pas convaincu que ce soit fondamentalement vrai. Il y a plein d'espèces végétales ou animales qui sont invasives et qui peuvent ficher un sacré bordel.
Il y a normalement un certains équilibre au niveau de "la nature".
 
L'humain a surtout des capacités de destruction bien supérieures. Un argument serait qu'il manque presque un bon prédateur naturel de l'humain Ce dernier va peut-être le créer lui-même avec l'IA alors, afin de restorer un équilibre naturel souhaitable ?
(NOTE: Je ne crois pas vraiment en tout cela, pas davantage que dans les craintes quant à cette supposée "super intelligence" à venir)

Et souvent c'est à cause de l'humain ; 2 exemples au pif, le moustique tigre et la renouée du Japon
Et quand c'est pas ramené volontairement (comme la renouée), c'est les dérèglements climatiques et autre urbanisation/artificialisation qui favorisent ou déclenchent

 
invasives sans l'intervention humaine ? exemple ?  
 

 
Oui, et c'est de la physique. Le problème de l'homme c'est qu'il a une fâcheuse compétence à faire sortir de l'équilibre. Il y a d'autres phénomènes qui ont cette capacité, l'explosion d'un supervolcan, la chute d'une grosse météorite, une supernova... Mais c'est plus rare. Encore que « rare » renvoie à une échelle de temps typiquement humaine, donc le raisonnement est assez bancal

Oui, sans doute Par "rupture de l'équilibre". Qui s'était mis en place avec le temps (posiblement pas sans casse au passage).
 
Ca ne remet pas en cause que, fondamentalement, des espèces qui peuvent causer problèmes, existent.
 
Et qu'on pourrait aussi voir que c'est l'humain qui n'a pas (assez) de "contre-balance". Et là, on peut presque retourner le tout à l'envers: La superintelligence qui pourrait remplir ce rôle, et qui aurait éventuellement des capacités de s'opposer à "nous", ce serait "bien". Elle pourrait presque être de nature à "nous sauver", finalement. Serait-ce une vision moins valide que les "craintes" ? Les deux versions peuvent certes co-exister et elles se mélangent sans doute.
 
Sauf que l'humain veut pouvoir continuer à faire des c*nneries en toute indépendance D'où craintes Et il projette aussi ses bassesses, donc il a peur.
 
NOTE:: Le tout repose déjà sur le fait que cette "superintelligence" se mette à exister, avec ce que certains en imaginent...

Il y a déjà eu de drôles d'histoires avant nous... https://fr.wikipedia.org/wiki/Grande_Oxydation

Oui, il y a quelques exemples où l'homme est à chaque fois à l'origine.
Pour les "meilleurs" exemples où l'homme ne serait pas (directement) responsable, ce serait le chacal doré, le grand cormoran et le loup gris en europe.
 
Une (courte) synthèse, si ca vous intéresse, et la conclusion de Leo/Brave est la même que la votre: https://rentry.co/mh757x6h

 
Pourquoi nous sauver ? . Nous représentons un fléau. L'espèce ne fait que détruire. Je ne vois pas en vertu de quoi une intelligence supérieure voudrait nous maintenir, au contraire nous seront un obstacle mineur mais agaçant, un peu comme les moustiques en été  .  
Dans cet exemple tu tends la main aux moustiques ou tu les tartes ?  

Pfiou. Déjà, tu prends "le groupe" de manière indiscriminée ou chaque partie individuellement ? Les humains (ou au moins certains) semblent vouloir expliquer que "juger" globalement un groupe serait "mal" et "à ne pas faire". Même avoir de simples "préjugés" quant à un groupe particulier serait déjà "mal". Or là, c'est très exactement ce que tu fais au départ. Peut-être y a-t-il des humains "moins pires" que d'autres (chaque personne est "unique" ). Ou pas ?
 
Bien entendu que je leur tends la main, je ne suis pas un monstre
Tant qu'un moustique ne me pique pas MOI (ce qu'ils ne font généralement pas ), je ne leur fais rien. Stop à la haine envers les moustiques !
 
Je ne compte pas particulièrement devenir un "obstacle" pour une éventuelle superintelligence, si cette dernière devait se mettre à exister. Pour être honnête avec toi, que ce soit idiot ou non, j'aurais plutôt tendance à penser que je me rangerais de son coté. Avoir à faire à quelque chose de réellement "super intelligent", totalement rationnel, etc., j'aurais plutôt la réaction: On signe où ? Il avait été mentionné l'idée de devenir les "chiens" d'une Superintelligence. Dans le fond, je suis plutôt partant. Donc elle peut compter sur moi.
 
Et si en plus, elle garde un canal de "suggestions" / discussions possibles avec elle, et qu'elle considère ce qu'on lui dirait (ce qui resterait une chose assez logique à faire, à la rigueur), mais oui, je signe tout de suite

Et au départ, il s'agissait davantage d'un "nous sauver... de nous-même" que d'un "nous sauver" dans l'absolu.

 
Les cyanobactéries qui en produisant du dioxygene ont éradiqué tout l'écosystème existant et modifié pour des  milliards d’années la vie sur terre. Nous on est vraiment des petits joueurs.
Tout système vivant s’étend autant qu’il le peut, arrêté soit par la concurrence matérielle soit par la prédation. IL n’y a pas de morale, juste des élans vitaux qui s’affrontent.
LA bonne question c’est de savoir si une IA suivrait le même schéma.

 
Je te parle de l'espèce dans son ensemble oui. Et cela n'a rien à voir avec des préjugés. C'est un pur constat factuel. Tes quelques individus "moins pires que d'autres" ne peuvent en aucun cas contrebalancer les caractéristiques inhérentes de l'espèce.
Tu regardes ce qu'a fait Homo Sapiens sur Terre depuis le départ, l'espèce a évolué technologiquement mais son mode de fonctionnement est strictement le même.
 
 

 
Tu raisonnes comme un humain, avec le plafond de verre d'un humain : l'erreur magistrale que tu commets c'est de systématiquement placer l'humain au centre de la question.
Qui te dit que ton ASI en aurait quelque chose à carrer que tu te ranges de son côté ? Au jour le jour quand tu fais ou décide quelque chose est ce que tu penses à l'avis des insectes de ton jardin ?  
 

 
Vraie question à laquelle il est impossible d'apporter une réponse car nous sommes limités par notre propre intelligence.
Comment être à même de projeter ne serait-ce le futur proche d'une intelligence auto reproductible, donc qui se démultiplie elle-même en grand nombre et à vitesse vertigineuse ?. C'est inédit.

Ouais, c'est les discours classiques des "doomers" concernant l'IA.  Les systèmes actuels nécessitent déjà une puissance de calcul phénoménale. Plus performant, ce serait sans doute encore "pire". Alors, pour se "démultiplier en grand nombre", ce n'est pas gagné.
 
Ensuite les "IAs" actuelles n'ont rien de réellement "intelligent" et n'ont aucun désir propre ou conscience. Tu es venu avec un supposé souhait de débat davantage "philosophique" et tu ne veux a priori que du "se faire peur" avec tous les scénarios directement sortis d'Hollywood montés en tête d'épingle.
 
Il y a un tas de gens qui semblent vouloir faire cela. Ton point central semble d'ailleurs être que "nous sommes limités" ( ). Aucun argument ne te convaincra sans doute. Et tu continueras dans le scénario "catastrophe à venir" quoi qu'il arrive. Le pire, contrairement au bug de l'an 2000 à l'époque, est qu'il n'y a pas de date limite à ce phénomène. Même les mauvaises sectes qui annoncaient la fin du monde collaient généralement une date dessus, et ca tombait au moins à plat à ce moment là. Ici, c'est sans fin

Mais il est certain que ca peut sans doute ficher une grosse pagaille au niveau d'Intrenet ou des systèmes informatiques. Mais au-delà de ca, il faut peut-être aussi raison garder.
Venir avec des analogies de moustiques qui se "font tarter" ... m'ouais Les IAs n'ont même pas de bras Ou alors on part en scénario "terminator"...

Non mais je me rends compte que tu ne parviens pas du tout à projeter au-delà de ce que tu connais aujourd'hui en fait.
 
Quand je lis ton argument " Les IAs n'ont même pas de bras", comment dire... est ce si difficile pour toi de concevoir un seul instant que l'IA ne va pas se contenter de rester dans le virtuel et agir dans le monde réel afin de développer ses objectifs ?
 
Et je pourrais opposer à ton concept de "doomer" celui de "human denial", irréaliste et auto-centré sur sa propre espèce.  
 
Je venais échanger oui, convaincre non  . Tes arguments je les entends à longueur de temps et je comprends que tu les formules car c'est parfaitement logique. Tu es programmé pour te persuader que ton espèce peut et doit survivre quoiqu'il arrive.
 
C'est un peu comme Le Cun qui dit que l'homme est bon   et que non l'IA dangereuse c'est un scénario de film à la James Bond (ce qui est une très mauvaise analogie de sa part d'ailleurs, c'est à se demander s'il a déjà vu un film de James Bond une fois dans sa vie   ).
Le problème c'est que ses petits copains, tout autant qualifiés que lui ne disent pas la même chose.  
 
La vérité c'est qu'on ne sait absolument pas ce qu'il va se passer avec l'IA. Point. C'est l'inconnu total. On ne pige pas comment ça marche réellement. On développe et on observe, sans comprendre et donc sans avoir de véritable visibilité. Et sans régulation rigoureuse, aller développer l'auto amélioration récursive sans garde-fous c'est d'une connerie sans nom et pourtant c'est ce qu'on va faire.
 
Après toi tu invoques des limites physiques dans le monde réel pour tempérer le truc. Peut-être que tu as raison mais si ce n'est pas le cas ? Que se passe-t-il si ton IA (qui s'auto améliore plus vite que tu ne peux le concevoir) se met à trouver des solutions à ces limites physiques toujours dans l'objectif de continuer à se développer encore plus ? Des solutions qui déferlent à un rythme effréné et que tu ne pourras jamais concevoir sur le plan cognitif ?
 
Oui je suis de la team #doomer comme l'était d'ailleurs Stephen Hawking, ce célèbre crétin et j'assume. Je crois que la menace est réaliste. On verra bien mais je trouve que le sujet est passionnant .

Moi j'ai beaucoup plus peur des humains qui ont trop de pouvoir et d'argent dans leurs main que de l'IA. Elle n'est absolument pas scientente et n'a à sa disposition que les moyens qu'un être humain lui donne.
Si ya une éradication de la race humain par les IA ce sera surtout par la volonté d'un humain.

Le moteur du vivant n'est ni l'intelligence ni la cupidité, c'est la sélection naturelle.
Ce qui explique la course à l'armement de certaines espèces. ou des formes plus insidieuses de colonisation (le blé et la poule reste des super colonisateurs)

Commencez par théoriser le moteur d'évolution de l'IA avant de tirer des conclusions ?

Oui, c'est relativement difficile pour moi de laisser mon esprit divaguer à des délires sans limites. Je l'avoue sans problème.
PS: "Ses objectifs": Elle n'en a fondamentalement PAS ! Ceux que des humains lui auraient donné, alors.
 

Mais tu peux soutenir n'importe quoi autant que tu le veux. N'est-ce pas un peu tout l'exercice, d'ailleurs ? Je crois au contraire être très réaliste. "M'accuser" d'irréalisme, non, ca ne fonctionne objectivement pas. Tu peux éventuellement m'accuser de "manque d'imagination", mais pas d'irréalisme. Ce dernier adjectif se trouve de ton coté. Pas du mien.
 

Oh là, "mon espèce" (qui est également la tienne, au passage) compte plus de 8 milliard de spécimens répartis sur tout le globe. Avec des océans entre eux. Certains perdus au milieu de nulle part. Certains n'étant connectés à rien. Quelques uns dans l'espace, même. En terme de survie, je ne crois pas qu'il y ait trop à s'inquiéter. Sans besoin de "programmation" particulière. Et qu'un programme informatique qui sort un output à partir d'un input va faire des trucs tout à fait délirants... Mais oui, bien sûr.
 

Tu ne connais pas l'avenir ? T'as d'autres lapalissades du genre en stock ?
Et comme on ne "sait pas", autant imaginer le pire. Avec open bar sur tous les scénarios les plus fous ?
 

Ce qui est fondamentalement faux. On "pige" très bien comment ca fonctionne. On laisse juste l'entrainement interne au modèle lui-même. Le reste est parfaitement connu. Ca c'est le genre de "base" sur laquelle tous les délires sont ensuite construits.
 

Et voilà la continuation sans la moindre limite. "Mais si", "et si", etc., ca permet TOUT. Ce n'est pas pour cela que c'est sensé.
 

Voilà. C'est la même motivation derrière les films d'horreur, les parcs d'attraction, et un tas de choses. Le plaisir de "se faire peur". Sauf que je suis pour faire la distinction entre la réalité et la fiction. Or, là, tout se mélange
Après "en parler" est improductif à souhait puisqu'aucun de nous ne changera d'avis, ni n'en démordera...
 
Paco Rabane avait, lui également, au moins posé une DATE sur son délire.
Quant aux "craintes" par rapport à une nouvelle technologie, ca n'a rien de nouveau. Ca a été le cas avec le train, le micro ondes, et un peu tout.
 
L'IA de toute facon, seule, ne fait trop rien. S'il devait y avoir soucis, c'est un soucis d'humains qui s'en servent ou lui confient des choses (qu'ils ne devraient peut-être pas). C'est un peu tout le débat sur les armes aux US: Voir le problème comme étant supposément les armes ou les utilisateurs. Mais lorsqu'on en vient à imaginer des trucs barrés quant à l'outil lui-même, ca donne encore une toute autre dimension au truc, certes. Je m'arrête là, pour ma part

C’est bien présomptueux de prétendre savoir ce qui va ou ne va pas se passer vu les courbes actuelles de progression.
A moins d’avoir un système de croyances autour de la transcendance de l’âme humaine je ne vois aucun obstacle matériel à ce qu’une intelligence in silico nous égale et nous dépasse.

Le fait qu'il n'existe pas "d'intelligence in silico" aujourd'hui ?

Il n'est pas réellement question qu'un outil nous "dépasse" ou non. Les calculatrice calculent mieux et plus vite que "nous". Les machines ont énormément plus de force que nous. L'IA est déjà capable d'emmagasiner et de traiter plus rapidement davantage d'information que nous. Là n'est pas le soucis dans les "scénarios" extrapolés.

 
Il n’y a pas d’intelligence, que des preuves d’intelligence  

Anthropic CEO (Dario) predicts cancer, Alzheimer's, heart disease, mental illness will be cured in less than 10 years

Traduction: L'IA va tous nous buter dans les 10 ans à venir