Reprise du message précédent :
Vulga en mode papotage sur le sujet à l'académie des sciences :
 
L'intelligence artificielle est-elle intelligente ? - Des clefs pour comprendre n°4
https://www.youtube.com/watch?v=o8K7fOTUW9c
 
L'informaticien (Serge Abiteboul) est facile a reconnaitre, c'est le gars avec un tee-shirt fun
 

Hello,
J'essaie d'obtenir de ChatGpt une liste de noms de société fictives, sans répétition de séquences de 3 lettres pour constituer une base de tests.
Il me fait constamment des répétitions.
Est-ce que c'est une limitation ? Est-ce que je ne lui exprime pas correctement mon besoin ?
Votre avis m'intéresse.

 
Je rejoingnais justement le topic pour discuter de ce que pourrait apporter une IA réellement intelligente, si elle serait capable de faire des avancées scientifiques et techniques notamment, et je vois cet article en dernier message, intéressant.
 
Bien sûr pour l'instant c'est plutôt l'homme qui a utilisé une IA pour arriver à ce résultat, mais une fois la singularité atteinte... Peut-on imaginer une accélération massive des découvertes ?
 
Pour ceux d'entre nous qui rêvent à des choses comme des vaisseaux spatiaux intersidéraux ça pourrait changer la donne.

Et qui parle comme un ado

• vaisseaux spatiaux intergalactiques
• voyages dans le temps
• téléportation
• jeunesse éternelle
• résurrection des dinosaures
• etc.

 
Y a une partie de moi aussi qui pensent que, peut-être, une IA générale serait notre salut, plutôt que notre perte. On a été pas mal influencé par tous les films type Terminator ou Matrix où l'IA veut détruire l'humanité, mais au final, on 'en sait rien.

ça sera la surprise

• poche à pets pour pouvoir dégazer peinard en public

Énergie propre illimitée.
 
"Fabricateur" qui prend des molécules d'air et fabrique ce dont on a besoin, genre le repas du midi

Faudrait capter le carbone du CO2, et vue la quantité de CO2 dans l'air, se synthétiser un poulet résoudrait le problème du réchauffement climatique  

Ça s'appelle une plante verte ton truc qui capte le carbone du co2 et ça y arrive depuis plusieurs milliard d'années sans faire preuve de beaucoup d'intelligence.  

par contre, y a une autre bestiole qui considère comme intelligent de prendre tout le carbone qu'elle peut trouver enfouie depuis des millions d'années dans le sol pour le mettre dans l'atmosphère.

Je ne suis pas sur sur que concevoir une intelligence artificielle en se basant sur ce que cette bestiole considère comme étant intelligent soit de nature à régler le problème sus mentionné.

La supposition de base c'est qu'on dispose d'énergie illimité. Et les plantes vertes fabriquent pas du poulet frites en 2 minutes.

C'est parce qu'on dispose d'énergie de façon quasi illimité qu'on fout tout les écosystème en l'air. En quoi en avoir encore plus résoudrait notre problème ?

La supposition de base c'était énergie propre illimité. Bon à la base c'était une blague, que je vais devoir expliquer  . J'ai pas dit qu'on allait arrêter de foutre en l'air notre écosystème, j'ai dit qu'on résoudrait le problème du réchauffement climatique. Pour synthétiser de la bouffe avec de l'air il faut du carbone -> dans l'air il y'a du CO2, mais très peu pour un volume d'air --> 1 poulet = 1 piscine olympique de CO2 à l'état gazeux.
 
Le problème du réchauffement climatique c'est pas qu'on utilise de l'énergie de façon illimité, le problème c'est que la source de cette énergie est fossile. Le jour où on dispose d'un réacteur à fusion ou une sphère de Dyson on aura probablement réglé le problème du réchauffement climatique, mais pas celui des bouteilles en plastique Coca dans l'océan.
 
 

 
Ben écoute c'est bien ce que fait une plante. Ensuite elle est bouffée par une poule, qui visiblement finit par donner un poulet. Ce truc là fonctionne plutôt bien, du moins avant qu'on décide de mettre le bordel dedans soi-disant pour faire mieux. De fait, on peut légitimement se poser la question si c'est une bonne idée de mettre encore plus d'énergie a disposition d'une espèce qui joue visiblement aux apprentis sorciers avec des truc dont on se demande si elle comprend bien comment ils fonctionnent.  
 
Et l'energie propre, c'est un concept de politicien à la con, ça n'existe pas. utiliser de l'energie en utilisant le cycle du carbone comme vecteur énergétique, la vie fait ça depuis très longtemps (et c'est d'ailleurs pour cette raison qu'il y a un énorme stock d'énergie dites fossile a base de carbone). Et elle n'a pas eu besoin d'être particulièrement "intelligente" pour y arriver, soit-dit en passant.  
 
On passe notre temps à essayer de régler des problème qu'on cause par ailleurs en faisant n'importe quoi. Avant de chercher a avoir encore plus d'énergie pour faire visiblement encore plus de conneries, il faudrait peut-être qu'on apprenne à réfléchir un peu plus à ce qu'on fait.
 

surtout que toute ces ressources sont juste souhaitées pour continuer à plus rentabiliser, produire, construire, détruire, s'enrichir, appauvrir, tuer, exterminer, dominer

Si vous voulez on peut toujours lancer un projet de recherche sur les poulets à photosynthèse.

Ben, le carbone des poulets vient bien de la photosynthèse que je sache ? La bouffe des poulet vient bien des plantes non ? Ou j'ai loupé un truc ? Ils bouffent pas encore du pétrole que je sache. Et bien que même si ils bouffaient du pétrole, ce serait encore du carbone venant de la photosynthèse, mais stockée depuis des ages lointain.
 
On devrait plutôt lancer un projet de recherche pour arriver à faire de la bouffe à partir de cadavre de bagnoles.    
 
Bon, hé, j'ai bien compris que tu blaguais, je pousse le truc parce que c'est vendredi et que ça m'amuse et que je suis oisif les vendredi. oisiveté, la mère de tout les vice !

Oui le raisonnement est correct, mais ça s'est trop éloigné du sujet de base qui était une liste liée à l'accélération massive de découvertes

Bon, j'ai trouvé de quoi occupé ma fin de vendredi.

Apprendre les langues aux machines - Benoît Sagot
Leçon inaugurale de Benoît Sagot prononcée le 30 novembre 2023.
Benoît Sagot est professeur du Collège de France et titulaire de la chaire Informatique et sciences numériques
https://www.youtube.com/watch?v=uPiD8SFv41A

Edit : pas perdu mon temps complétement, cette conf est vraiment très bien pour comprendre ce que sont les grands modèle de langage.

je pense que le remaster de GTA VI dans 10 ans boosté à l'IA ça sera quelque chose

https://youtu.be/H1U-SGgbbeY?t=215

et surtout, ça devrait être hyper simple d'implémenter la fonction (en théorie), pas comme les remaster actuels qui demandent à reprendre à la main pas mal de choses qui composent le jeu, pour un résultat pas toujours à la hauteur pour pas mal de travail

L'IA sert à tout!
https://www.lemonde.fr/internationa [...] _3210.html
 La guerre c'est crade.

une IA qui génère de la musique
https://www.riffusion.com/

Nouvelle AI de Google "Gemini":  
https://www.youtube.com/watch?v=UIZAiXYceBI
 
Ca me parait un trop fort/parfait pour être vrai
 
Curieux de tester...

Bruce Schneier sur l'IA et l'espionnage de masse.  
 
https://www.schneier.com/blog/archi [...] pying.html
 
Son argument est là :  
 

 
Effectivement, les modèles de language savent très bien faire ça.
 
Et il conclu avec un appel à règlementer tout ça :  
 

 
Il est évidement pas le seul a tenir ce discours (voir les vidéo de Lê de Science4all sur le sujet).
 
C'est toujours le même problème, on voit évidement tout les avantages et les progrès que permettent l'innovation technologique et on arrive pas à penser que ces avantages viennent aussi avec des inconvénients et des risques. Ceux qui s'alarment des risques passent alors pour des gens qui s'opposent au progrès (et à l'idéologie dominante que le progrès technologique est forcément positif), et du coup, on laisse se développer les usages problématique des techno avant de réagir, souvent trop tard, quand le mal est fait.
 
Cette pensée manichéenne est vraiment un problème. Quelque chose y est soit bien ou mal, jamais les deux en même temps. Et évidement, on est en plein dedans avec ces technos d'IA.

toute chose à ses revers, les technologies de l'informations et de la communications ne feront pas exceptions

 
Oui, si tu veux c'est bien résumé. Mais ça change rien au fait qu'on développe a fond ces truc et qu'on règlementera après, éventuellement, quand on commencera a subir les dommages lié aux usages problématique. En attendant, on ignore les lanceurs d'alerte, parce qu'on les perçoit comme des freins au progrès technologique qui est, dans l'idéologie dominante, forcément quelque chose de positif.
 
C'est aussi problématique dans le sens ou ça finit par développer de fait une idéologie qui s'oppose au progrès. Comme on ne se préoccupe pas des usages problématique des innovations technologique, cela permet à certains d'établir une idéologie antiprogressiste en s'appuyant sur tout les aspects négatif.
 
En refusant de voir les problèmes, les enthousiastes du progrès technologique se tirent alors une balle dans le pied en donnant des armes à leur opposants.
 
Et comme tu le dit, rien de nouveau. C'est juste un peu décevant qu'on reproduise systématiquement les même erreurs à chaque avancée technologique.
 

je pense pour ma part que c'est illusoire de penser que l'analyse de masse des comportements numériques ne soit pas pratiqué

ça pose des problèmes, j'en est bien conscience, mais c'est quelque chose d'inévitabable

la meilleure des choses serait que ça soit fait par des organismes scientifiques dans un but d'études, mais ça ne sera pas ce scénario, je le sais bien

L'IA considérera que celui qui n'a pas de vie numérique sera coupable.....

pas vraiment, si tu pars du principe que ce sont les interactions qui sont susceptible de créer du désordre, et y en a jamais eu autant qu'avec une vie numérique

 
Ben pourquoi tu penses que c'est inévitable ? On est capable de règlementer les usages à problème des technologie non ? Par exemple, lorsqu'on utilise une bagnole, on doit se conformer a un ensemble assez volumineux de règles qui on pour but de limiter tout ces problème, cela va de la conception du véhicule lui-même, a la conduite en passant par les infrastructures qu'il utilise. ça s'appelle la règlementation.
 
ils ne s'agit pas de limiter l'usage des bagnoles a certain groupe de personne, juste d'en règlementer l'usage.  
 
Le problème, c'est notre incapacité a anticiper les problèmes avant qu'ils arrivent. Et on le voit bien avec l'IA. Malgré les avertissement des lanceurs d'alerte, on préfère rester dans le déni avec ce type de discours (comme le fait de dire que c'est inévitable, qu'on peut rien y faire). Ce qui arrange bien tout ceux qui ont des intérêt financier là-dedans cela dit.
 
Bref, c'est plus ou moins toujours le même piège, dans lequel on se précipite.

Non
Internet facilitant la surveillance de masse, pour les organisés il suffira de revenir aux anciennes méthodes d'organisation.  
Bon la Justice considère déjà qu'utiliser des moyens de chiffrement pour ses communications est un élément à charge
https://www.lemonde.fr/societe/arti [...] _3224.html

La sécurisation des données est déjà une problématique aujourd'hui. Et on part déjà du principe qu'un attaquant pourrait réussir a tirer un maximum de valeur ajoutée des données.

J'ai du mal a voir quel genre de réglementation sur les capacités des IA permettrait de réduire le risque de leur utilisation à cette fin (tu avais peut etre des piste en tete ?).

Et de toute facon on doit évaluer un rapport bénéfice/risque ici, et ne pas se focaliser uniquement sur l'un ou l'autre.

 
Moi, je ne suis pas suffisamment expert pour imaginer comment règlementer tout ça. Mais si j'en crois Benoît Sagot, dont j'ai posté ici la leçon inaugurale au collège de France, un des principaux problème c'est le manque de transparence des acteurs dans le domaine. Il faudrait peut-être commencé par contraindre les acteurs a rendre public leur algo et les données d'entrainement. De la même façon qu'en crypto, cela permet a la communauté de la recherche de pouvoir travaillé dessus et de relever de fait les problémes qu'ils peuvent posé avant qu'ils se pose. Et ça permettra de rassurer ceux que ça fait flipper. (enfin dans une certaine mesure, il y aura toujours une partie des gens qui auront des peur non fondée des nouvelle technologie, mais ça limitera le phénomène)
 
Bon, comme ça m'intéresse, j'ai pisté Benoît Sagot, vu le niveau du type dans le game, et je suis tombé la-dessus :
 
https://dauphine.psl.eu/dauphine/me [...] ner-les-ia
 
Plus de 3h de séminaire sur le sujet : https://www.youtube.com/watch?v=C0OK_pFtrX8
 
ça tombe bien, je peux justifier ça en veille techno/autoformation sur l'IA à mon taf

3h on doit pouvoir demander un résumé de la transcription non ?

Ne pas oublier que beaucoup de "lanceurs d'alerte" sur l'IA sont des gens directement impliqués dans des projets IA de grosse boite qui sont souvent à la traine par rapport à la concurrence.
Quand Musk se plaint que l'IA est dangereuse et doit être régulé mais dans le même temps développe sa propre IA destinée à la manipulation de masse, on se doute bien qu'il balance juste du gros bullshit pour tenter de ralentir la concurrence et rattraper son retard.
 
 
Pour le reste, l'IA est une techno puissante qui permet beaucoup de choses et qui peut être utilisée pour faire le "mal" évidemment. On peut réguler pour limiter ces cas d'utilisation mais ça n'empêchera pas des groupes privés d'en faire ce qu'ils veulent dans l'ombre.  
 
De plus, réglementer demande de comprendre les possibilités offertes par l'IA et les risques associés pour pouvoir créer un cadre législatif adapté. Tout cela se réfléchi et prends du temps. Et il ne faut surtout pas étouffer la R&D pour favoriser le développement d'entreprises dans ce secteur.
Actuellement, on en est encore à expérimenter et inventer des cas d'utilisation. On est bien loin de pouvoir réglementer le domaine mais ça va venir.
 
 
L'exemple de la voiture a été sorti pour justifier le besoin réglementation. Je trouve que c'est justement un bon exemple pour démontrer qu'une réglementation ne se crée pas en amont.
Il a fallu beaucoup de temps avant que les réglementations que l'on connait soient mises en place pour l'automobile. Il n'y a pas si longtemps que cela, les organes de sécurité n'étaient pas obligatoires, les limitations de vitesse n'existaient pas ou peu, les réglementations sur l'alcool non plus.  
C'est à force d'erreurs, d'expérimentations et de "crises" que la réglementation s'est construite et cela a pris des décennies pour en arriver à la réglementation que l'on connait par petites touches successives.
 
Il est tout simplement impossible d'anticiper les problèmes d'une techno ayant des capacités inconnues. Il faut expérimenter pour en connaitre les limites, risques, dérives.
L'Homme n'est pas devin.
 
Oui il faut réglementer, et oui une réglementation arrivera.  
Non il ne faut pas se précipiter à la moindre alerte mais au contraire prendre le temps d'y réfléchir correctement car les impacts sociétaux et économiques qui en découleront peuvent être très violents. Surtout sur une technologie de rupture.
Et non, ça ne changera rien sur les risques liés à l'IA. Tout comme un panneau "Zone 30" n'empêche pas un automobiliste fou de rouler à 130 en fonçant dans la foule...

Je suis très pessimiste sur les réglementations, tous les pays qui affichent une volonté de le faire en ont déjà eu l'occasion quand la campagne "stop killer robots" a été lancée ya maintenant genre 10 ans.
 
On avait un cas très concrêt d'utilisation de l'IA pour un but éthiquement très facile à condamner et nada, quasi toutes les grandes nations ont eu piscine.
 
je ne pense pas qu'il faille emmerder les startups et chercheurs qui innovent sur les foundation models, les mecs veulent avoir une chance de créer les prochaines unicornes, ils vont pas faire ça de manière ouverte, il faut plutôt réglementer et frapper fort sur l'utilisation de la technologie.

 
Bah, tu peux sauter le premier quart d'heure d'intro pour aller directement au 20 min de presentation du sujet par Sagot :
 
https://www.youtube.com/watch?v=C0OK_pFtrX8&t=988s
 
Alors cela parle spécifiquement du problème des données d'entrainement des grand modèle de langue, des divers problèmes qu'elles posent, et de quelle manière on peut y répondre et aussi les problèmes qui pourraient se poser si on transposait bêtement certaines règlementation existante (il dit par exemple, qu'une "SACEMisation" de certaines données, c'est a dire le versement d'une redevance à l'usage, pourrait plomber la R&D dans les pays qui la mettrait en place.)
 
Du coup, ça ne parle pas de règlementer l'intelligence artificielle dans un cadre plus général. Et c'est bien souvent le souci, dés qu'on rentre dans le dur, on s'aperçoit de la complexité de la chose, et de fait, qu'il faut entrer dans le détail

 
Ben on a qu'a demandé à l'IA    
Bon je blague, mais tes remarques sont pas forcément toute justifiées. Déjà, si on prend l'analogie avec la voiture, l'utilisation des premières voiture pouvaient être très encadrées, du moins chez nos amis anglais :  
 

 
src : https://en.wikipedia.org/wiki/Locomotive_Acts
 
C'est au fur et a mesure de l'évolution technologique qu'on a petit a petit lâché la bride, et surtout a partir du moment ou les intérêts économiques quand au développement massif de la voiture sont devenus énorme. Puis ensuite, on a fait du damage control, et on continue d'ailleurs. On attend que les villes soient polluées et encombrée par exemple pour commencer à envisager des réglementation contraignante. Et encore. dans la limite ou ça ne plombe pas le business;  
 
Bon toute analogie a ses limites, de toute façon. L'important a retenir, a mon avis, c'est que le développement d'une réglementation est trés vite freinée lorsque des intérêts économiques importants sont en jeu. C'est surtout cette difficulté là qu'il faudrait surmonté.
 
L'autre remarque c'est que bien évidement, le fait que l'on puisse matériellement enfreindre une loi ou un règlement, ne rend pas de facto les loi et les règlements inutiles. Sinon, autant mettre a la benne le concept même d'une société civilisée. Les loi et règlement doivent être accepté par la majorité des citoyen comme une condition sine qua non de la possibilité de vivre ensemble. Et pour la minorité qui n'est pas capable de comprendre ça, il faudra alors lui expliquer la chose par d'autres moyens, moins agréable et plus persuasif, comme dirait l'autre.