Reprise du message précédent :

 
Merci pour la vidéo  

Il est dix fois plus intelligent et bosseur que moi, je pense que malgré ce qui se passe il s'en sortira ; il n'a certainement pas de leçons à recevoir de moi sur ce qu'est la recherche académique.

Et non, je ne vais pas lui dire que de toutes façons IA ou pas IA c'était un choix de merde ???

Accessoirement il est déjà fonctionnaire titulaire, ce contretemps mis à part sa carrière elle serait passée comme sur des roulettes. La France a encore des filières qui marchaient très bien en sciences dures (jusqu'à présent).

Hum:  
- LeNet-5 c’est 1989 (reconnaissance d’écriture manuelle)
- AlexNet c’est 2012
- ViT c’est effectivement 2020
 
Et ça illustre merveilleusement mon propos: si tu regardes le progrès ces années là, tu pouvais raisonnablement te dire «  c’est sur dans 2 ans c’est un problème résolu ». Et pourtant.
 
Tu peux pas inférer le rythme du progrès futur sur la base d’une petite fenêtre de temps

Alexnet et avant c'est de la classification, il n'y avait aucune compréhension du contenu. ViT c'est ce qui a permis de débloquer ce qui s'est passé depuis, et qui n'était pas du tout une évidence : qu'en mettant un algorithme d'analyse d'image au cul d'un prédicteur de texte, on aurait un système qui est capable de discuter sur le contenu de l'image. C'est exactement ça le sujet de la vidéo, je te la conseille toujours : le fait qu'aujourd'hui on arrive assez facilement à se tourner sur ces dernières années et se dire "ah oui, logique" alors que non ça n'avait rien d'évident avant que ça arrive.

 
Oui, mais si on admet que plus de problèmes résolus engendrent encore plus de questions, tu entres dans un autre cercle vicieux, le niveau augmente, les IAs (et les humains encore moins) ne suivent pas... Mais du coup, la paire homme / machine prend probablement encore plus de sens. Tout dans la science a toujours tendu vers l'optimisation. Quand Turing utilise la "Turing bomb" (une machine mécanique) pour casser Enigma, c'est aussi une optimisation. Le seul vrai problème que je vois sur le plan scientifique, c'est de se retrouver avec des machines qui offrent des solutions qu'on arrive pas à comprendre parce qu'on aurait pas le niveau, mais je pense qu'on trouvera des workarounds par rapport à ça. Par exemple quand Einstein a proposé sa théorie de la relativité générale, elle n'a pas tout de suite été acceptée et très peu de personnes étaient en réalité capable de la comprendre... Moi je pense que le niveau va tout simplement augmenter... Le défit sera pour nous de pouvoir nous exercer, nous entraîner pour pouvoir comprendre... De nous améliorer en tant qu'étudiant.
Ce n'est pas parce que Stockfish bat tout le monde aux échecs qu'on n'est pas capable d'en comprendre les raisons. Je pense qu'effectivement, tu es un peu trop pessimiste, même sur le plan purement scientifique.

 
Si je peux me permettre Hepha, t'as quand même un point de vue pessimiste sur à peu près tous les sujets dernièrement. Par exemple il me semble que de nombreuses fois depuis 4-5 ans t'as exprimé une inquiétude très forte sur une 3ème guerre mondiale, ou le fait que le conflit en Ukraine entraine une destruction nucléaire. Quatre ans après, on est toujours là, et si ce qui arrive est dramatique pour les Ukrainiens, pour 95% des Français la situation n'a rien changé pour eux, malgré les 15000 "lignes rouges" de Poutine que l'Occident a franchi depuis. Alors oui un peu comme ceux qui prédisent des crises économiques tous les 6 mois (salut Delamarche), à un moment peut être que ça finira par arriver (bon dans le cas de la WW3 j'espère pas ). Mais à quoi bon sur des sujets qui de toutes manières sont complètement hors de notre contrôle ?
 
Et sur ce cas précis et vu l'age moyen sur ce topic, je pense qu'on a tous vu notre passion puis job évoluer fortement depuis nos début: quand j'ai commencé à faire des sites web au lycée, c'était clairement un truc de développeur. Aujourd'hui avec Wordpress ou Google My Business, quasi tous les commerces du coin ont leur "site web" (ou en tous cas une présence en ligne) et ça a jamais été aussi facile d'avoir un truc simple. Pour autant on est pas au chômage (enfin sauf rati, mais il est un peu exigeant sur ses critères aussi ), la demande a même explosée depuis. Et après 15 ans en startup, j'ai jamais considéré que ma plus value était dans juste écrire des lignes de code. Plus dans comprendre les problèmes,trouver et formaliser les solutions, anticiper les edge cases etc... Et je vois les discussions avec nos SA aujourd'hui, ces compétences elles sont toujours nécessaires, même avec les coding agent. Oui ils sont capables de te pondre un PoC en 2 jours avec une jolie UI et des jolis boutons. Mais dès qu'il s'agit de faire évoluer le truc, de formaliser les cas particuliers, de penser la suite... Bin je trouve qu'ils sont vite perdus... Ce qui en soit me surprend pas, au final ces compétences c'est aussi ce qu'on attend d'un bon dev, pas juste de pisser des LOC.  
Alors oui, peut être qu'avec les progrès de l'IA, dans 2 ans même sur tout ça les agents seront super bon... Mais en tous cas pour le moment, j'ai l'impression qu'on a toujours besoin de nous (et d'ailleurs il me semble que depuis quelques mois y a une petite vague chez les grosses boites techs qui ré-embauchent des gens viré post Covid, ça montre bien que malgré les coding agent t'as toujours besoin de gens derrière).
 
Pour les maths il va sans doute y avoir un temps d'adaptation ou il faudra apprivoiser ces nouveaux outils et où forcément y aura de l'incertitude... Mais je ne pense pas que ça signifie la fin des humains qui font des maths. Dans la dernière vidéo de Sciences Etonnante où il interview Hugo Duminil-Copin, ce dernier parle bien du fait que normalement les "problèmes" mathématiques sont un prétexte pour le voyage, le travail de compréhension, pas une fin en soit (sauf si tout ce que tu veux c'est le million de dollars je suppose). Alors oui y a un sujet de comment tu gardes ta motivation, l'étoile polaire qui te donnait un fil conducteur pendant tes travaux. Mais je ne pense pas que ce soit rédhibitoire, on trouvera des solutions.

 
Tiens ça ressemble un peu ce qui se passe chez nous aussi. Toute l'infra cloud définie par des fichiers .md réecrit des tas de fois depuis 2, 3 mois. Il faut que la spec soit "parfaite" avant de passer au code.
 
Franchement ça me terrorise un peu de bosser des mois sur une spec parfaite sans connaissance pointue du système. Je trouve que justement l'avantage des LLMs c'est que tu peux tester plein de trucs en peu de temps, tu vas tout essayer et voir ce qui marche le mieux, tu vas pouvoir rapidement rejeter des choses que tu pensais bonne parce-que justement tu as testé, et ça fait pas tel ou tel truc.  
Mais là j'ai l'impression qu'on va devoir suivre plus ou moins aveuglement les décisions de l'IA, et ça va nous péter à la gueule quand on sera à l'approche de la deadline

On a des retours d’XP sur la spec parfaite: ça s’appelle le waterfall. Et ça marche pas, parce que tu apprends en essayant, et tu ne peux pas spécifier ce que tu ne sais pas.
Quand le business « promptait » les analystes, ils pouvaient jurer la main sur le cœur que ce qu’il disait étaient vrai. Puis on livrait, les gars testaient, et tu te prenais un fichier Excel de 500 lignes de correctifs à faire. Tu en clos la moitié en mode « conforme aux specs, va chier », et le business répondait « oui enfin la boîte va fermer si on fixe pas ça, tu décides gros ».
 
J’ai pas hâte de retourner vers ça

Le marchandage.

 
Nous c’est pas du tout une spec. Juste un descriptif « théorique » qui suit « Peter Naur's *Programming as Theory Building* (1985) »

Citroën qui projette de sortir une voiture Playmobil : https://www.youtube.com/watch?v=7aDo_5iY-iE

Ça s'appelle aussi "they write the right stuff", et c'est la seule équipes impliquées dans la navette qui ne s'est pas fait défoncer après Challenger. On pourrait espérer que la baisse des couts liés à l'IA rendraient cette méthode plus répandue, mais bon j'y crois pas une seule seconde, breakfast and move things est trop ancré.

 
Désolé, mais je ne saisis pas ce que tu veux dire par là.

Cela pourrait être pire mais je ne suis vraiment pas convaincu par tes arguments :
- le boss de l'OTAN vient d'être obligé d'annoncer aujourd'hui un plan pour tenter de dissuader la Russie, qui planifie quasiment ouvertement des assassinats de personnes importantes en Europe de l'Ouest
- Le président américain a non seulemeent des valeurs à la rue et dirige comme un autocrate mais maintenant des problèmes cérébraux importants et le soutien américain à l'europe de l'ouest (et l'ukraine) ne tient qu'à leur positionnement vis à vis de la Chine
- le moyen orient c'est encore plus le bordel que d'habitude. La seule démocratie de la région l'est de moins en moins et développe très fort son expertise en crime de guerres dans le meilleur des cas. Bibi va peut être encore s'en sortir aux prochaines élections mais nos seuls espoirs sont un peu plus démocrates mais sont maintenant opposés à une solution à 2 états.
- la liberté de navigation, pilier du système économique depuis 1945, n'existe plus vraiment dans beaucoup de points importants
- l'arabie saoudite est instable et nous sommes incapables de proposer des solutions (indépendamment du fait que ce soit bien fait pour leur gueule)
- milei a gagné les dernières législatives argentine, Bolsanaro fils va probablement gagner au brésil
- le venezuela, le tigré, le myanmar, la CEDEAO et ses ex membres je n'en parle même pas
- La France a une crise politque, une crise obligataire, pas de croissance, 5 à 6% de déficit et une AN qui stoppe toute tentative de le réduire et du chômage qui augmente et une crise démographique.
 
Les deux seules bonnes nouvelles géopolitique pour la France c'est que l'Allemagne et le UK se sont décidés à avoir à nouveau des armées (mais résultat ils nous concurrencent et on n'a pas de thunes pour faire face) et que al-Sharaa n'est pas totalement fou à lier malgré ses années al-quaida/état islamique
 
Et ça c'est sur les douze derniers mois (un peu plus pour avoir les bonnes nouvelles), on doit pouvoir étendre la période si tu veux.

Tu m'as déjà dit ça la dernière fois. Oui ça m'a inquiété par le passé ; je suis encore inquiet de l'escalade militaire, moins de l'imminence de l'armageddon. C'est sans doute mon côté physicien qui parle, mais je me dis que c'est une issue thermodynamique inéluctable. Cependant, des fois en thermodynamique ce qui nous sauve c'est les échelles de temps, et si ça se trouve on est capable de rester assis sur un arsenal nucléaire en parfait état de marche sans jamais appuyer sur le bouton pendant 2000 ans. Là on n'est plus en situation de crise imminente, mais cette crise, tu le reconnaîtras, à quelque chose de particulier dans son côté "sens unique".

L'autre issue thermodynamique inéluctable, celle là dont on connaît les échelles de temps c'est le réchauffement climatique. Je ne suis pas pessimiste, mais je sais lire un graphique. On a encore le temps de voir venir les conséquences les plus dures.

Mon troisième sujet d'inquiétude c'est l'IA. Je ne suis inquiet que depuis six mois, et la sortie de Mythos, avant j'étais surtout excité par le progrès, et de voir l'histoire se dérouler sous mes yeux. C'est encore mon côté physicien qui parle, j'ai du mal à concevoir comment notre économie pourra encaisser les variations brutales qui se dessinent. Après, elle a encaissé des trucs violents donc franchement je suis parfaitement prêt à imaginer que ça passe, juste je vois pas comment. Ce que j'ai plus de mal à imaginer, c'est que je garde mon travail, et là aussi c'est une inquiétude concrète très récente, avant c'était dans un futur vague. Ça fait exactement deux semaines que mon agent est devenu en gros aussi fort que moi. J'en ai déjà parlé, aujourd'hui je suis utile. Je ne vois aucun monde où ça s'arrête là, ce serait tellement arbitraire. Le monde n'aura pas besoin de harnais en carbone.

C'est gentil de vouloir me remonter le moral, mais je ne crois pas être tout le temps pessimiste comme tu le dis. Je pense que je vais aller assez bien, je prépare la suite mais je t'avoue que là j'ai du mal à trouver des raisons d'être impatient. Au final c'est l'IA qui me donne un peu d'espoir, parce que c'est celle des trois inquiétudes qui a le plus de potentiel à me surprendre : je sais que ça va secouer, mais je suis incapable de dire dans quel sens. Et quoi qu'il arrive j'aurai fait partie des premiers humains qui ont parlé à des machines, et ça, ça envoie du steak.

Parce que 95% + du code écrit n'est pas pour régler des sujets de physique mais des sujets humains (la main invisible notamment )

bon après c'est un concept, c'est souvent loin de la version finale

C'est la deuxième phase du deuil. Tu as passé le déni, tu marchandes "ils auront quand-même besoin de nous, on sera complémentaires" au nom de quoi ?

Ça m’empêche pas de rester inquiet pour votre futur truc.

Ah oui, et tout ceux qui utilisent des comparaisons éclatées avec les révolutions technologiques passées pour me (se?) rassurer perdent immédiatement à mes yeux toute crédibilité sur ce sujet.

 
Bah déjà au nom du fait que juste qu'à la preuve du contraire, c'est nous qui décidons des objectifs. Les problèmes de maths, c'est pas des IAs qui ont décidé de les résoudre, ce sont bien des humains. Les IAs demandent des resources aussi et on est loin, encore très loin de facturer leur vrai prix. Quand ton IAs va trouver 200 problèmes potentiellement intéressants lié au problème original qu'on lui a demandé de résoudre, il se passe quoi ? Les IAs vont résoudre des problèmes alors qu'on ne leur a rien demandé mais qu'on paye les tokens ?
Je pense qu'on évacue un peu vite le COÛT de tout ça. Ça va devenir un facteur limitant.  
À quoi serviraient des IAs totalement déconnectées de l'humain fonctionnant en mode autonome, cramant des tokens sans limite et sans aucun but défini ou avec des buts constamment renouvelés par les IAs elles-mêmes. On voit bien qu'on touche assez rapidement à l'absurde.  
Pour le moment, on en est au tout début de l'expérimentation pour définir les champs des possibles. On est bien loin de pouvoir prévoir les évolutions sociétales liées aux IAs.

 
Elle ne sont pas du tout éclatées comme tu dis. C'est juste un palier technologique différent qu'on a atteint. Je pense d'ailleurs (et je le pense depuis longtemps) que si un jours des civilisations ET réussissent à nous rendre visite, ce sera probablement pas des créatures... Mais plutôt des machines ultra évoluées et autonomes. Il y a un épisode de cosmos 99 assez marrant sur le sujet où l'IA envoyée par ses créateurs ne sait pas que les créateurs ont disparu et que sa mission n'a plus lieu d'être.

PDFCraft est fucké (export en .docx pue)
Wordcraft est fucké (les niveaux de titre sont pas accessible) et pleins de fonctionnalités ne sont pas accessibles.
 
En fait les *Craft apps sont des Alphas

Apprendre à vibe coder, c'est pas trop difficile. Apprendre à coder, c'est une autre paire de manches. Contrairement aux autres, lui, il comprendra ce que crache le LLM,c'est un avantage substantiel.

 
   
 
Et j'attends de voir à quel moment (si ça arrive un jour) elles pourront vraiment remplacer les app Adobe au niveau pro (je ne parle pas des besoins classiques de monsieur tout le monde).

à quel horizon de temps et pour quel pourcentage des jobs ? Le temps qu’il passe la dessus ses camarades le passeront sur quoi ?

 
Après, est-ce que ça doit obligatoirement être pour un job... On ramène toujours tout au fric. Et la passion ? Même en admettant que ça serve un jour plus à rien de coder ou même de comprendre le code qui sort des IAs (ce dont je doute énormément car il faudra des contrôleurs), on peut être simplement motivé parce qu'on aime ça.
Moi quand j'ai passé mes après midi à 14 ans sur mon TO9 à faire du basic et de l'assembleur 6809, tu crois que je pensais à mon avenir ? Bah non. Je voulais faire de la musique (ce que j'ai fait) pour le boulot déjà à l'époque. Villani explique très bien que le challenge sera pour les étudiant d'exercer leur cerveau et d'apprendre... AMA non seulement ils devront continuer d'apprendre, mais ils devront probablement apprendre des choses plus avancées de part les découvertes qui découleront de l'IA.
Le problème, c'est pas l'IA en France ou en Europe ! C'est la fin de la culture de l'effort. Et tous les pays du monde ne sont pas touchés par ça... C'est plutôt ça moi qui m'inquiète... Du coup, Si le numéro de G5 aime coder, perso, ça fait plutôt partie des choses qui me rassurent...

C’était, évidemment, la partie avantage substantiel.

C’est clairement un sujet de grande inquiétude l’IS, c’est super transformateur, mais tu prends les pires hypothèses possibles.
Un autre sujet c’est la thune: ça marche si les gens payent. Les boites d’IA vendront en B2B, mais les boites qui achètent, qui va acheter leurs produits si plus personne n’a de job et de revenus ?
Ça va servir à quoi d’être milliardaire si les gens viennent te butter, comme ce patron de boîte d’assurance? Comment les états vont tenir si personne ne paye plus de taxes ? (Les cols blancs payent en moyenne plus d’impôts, c’est pas la catégorie que tu préfères dézinguer)
 
J’aimerais croire que les mecs ont un plan pour ça, mais il est manifeste d’après leurs propos publics qu’ils veulent juste faire de la thune et capturer des parts de marchés , et c’est pas dit que ça tienne longtemps après les IPOs
 
À partir du moment où c’est toi qui prompte, tu as un job. Et avant que tu dises : oui mais on pourrait demander à d’autres gens non SWE de le faire : ben ça marche pas, parce que écrire de manière relativement univoque, debugger ce que répond un agent et itérer le prompt en fonction (je parle de prompt non triviaux), ben ça nécessite des skills de SWE. Et je le sais parce qu’on a essayé: on a laissé 2 types de populations métier distinctes prompter. Alors ils sortent des trucs, mais ils iterent mal et surtout pas vite, ils overfittent leurs prompt sur leurs exemples. Et on a arrêté, on leur laisse faire le prompt initial et basta. (Les examples ci-dessus sont sur les derniers 12 mois essentiellement)
Et tu peux trivialement trouver des exemples de ça « look ma, I prompted my new business”, suivi de “merde j’ai des problèmes en prod / trous de secu, qq  peut venir m’aider ? »

Aux echecs ; Ne pas confondre le nombre de movement possible et le nombre de combinaison possible.

Alors oui, mais j'ai perdu mon travail quand-même. Je vais garder mon salaire quelque temps, je table sur deux ans (je parierai pas dessus). Ça dépend de combien de prompteurs on a besoin à moyen terme. Sur mon poste, les gains de productivité sont tout juste en train de décoller. On en parlait en exagérant un peu il y a six mois, aujourd'hui j'ai vraiment des collègues (les juniors) qui pourraient être remplacés par l'IA : je leur envois un doc, ils m'envoient des PRs ; je leur envois des commentaires, ils corrigent.

Ah ok, quand tu parles de "paire homme-machine" tu veux dire que l'humain fixe les objectifs, et l'IA les atteint ?

 
On en a déjà parlé plein de fois. Le message de Jubi 3 message plus haut en parle encore une fois. Il faut sans cesse contrôler à chaque itération pour savoir si la résolution va dans la bonne direction et ça ne peut pas se faire sans avoir les compétences du corps de métier que l'IA est censée remplacer. En plus, il y a différent niveaux de contrôle. C'est pas parce qu'une feature fonctionne de manière visible que tu peux "trust". Il va te falloir la PREUVE que ça fonctionne sans effets indésirables, que la sécurité est assurée etc... C'est pas du tout aussi simple que : "do it - ok, it works - job done."
Plus le niveau augmente et plus tu as besoin de validateurs expérimentés qui ont une vraie compréhension de ce qui sort. Je vois pas par quel miracle ça pourrait changer avant longtemps (ni même si ça changera complètement un jour) et quand bien même, comme le niveau va augmenter, les besoins de validation et de compréhension augmenteront aussi, et les IAs vont elles-aussi bloquer.  
Je ne vois absolument pas comment tu peux gommer : validation + responsabilité. Et je ne vois pas comment des personnes incompétentes pourraient être chargées de ces étapes. Même si au bout du compte, les testeurs utiliseront des IAs dédiées pour le testing, ça ne changera rien à ce que je dis.

Est ce que tu as besoin d’insister pour qu’ils corrigent ?

Ah non mais j'ai lu les 10 premières fois, hein. Je pense que c'est du marchandage délu qui consiste à se convaincre que le progrès va s'arrêter pile là où tu es utile aujourd'hui.
 
TKT moi mon métier il est compliqué, il suffit pas d'un compilateur lean pour vérifier que ça marche.

Après bon, "ultimement", l'homme créera des machines supérieures à lui dans tous les domaines... C'est probablement inscrit dans la chaîne de l'évolution, mais c'est pas pour tout de suite. Ce qu'on a aujourd'hui, c'est a "glimpse to the future" et ça nous interpelle parce qu'on sent bien que notre société basée sur le travail et l'argent n'est pas compatible avec ça. La société devra progressivement (ou même parfois brutalement) évoluer.
Si le travail perd de sa valeur, ça voudra tout simplement dire qu'il faudra redéfinir les fondements du système.

Tu parles à un prompteur professionnel niveau 5, je suis pas un bidouilleur du dimanche.

Puis jevons paradox hein

As tu une certification officielle comme un petit diplôme ? Niveau 5 c’est impressionnant