Reprise du message précédent :
https://www.youtube.com/watch?v=Q8b5cjnEl-s
https://media.tenor.com/OoFDdPceaQE [...] -again.gif

Je m'en souviens, on en avait parlé sur ce topic il me semble.

Bug créé, qqn bosse dessus. (j'ai pas les droits pour voir si d'autres l'ont fait avant, mais un humain a changé des trucs sur mon bug)
J'ai aussi alerté mes collègues de l'équipe sécu YT, parce que l'aspect "récidive" va être intéressant

Edit : je pense que qqn derrière "team YT" a fait le job y'a 6h, donc mon bug servira surement à rien

Meme PG a parlé https://x.com/paulg/status/1761809772783800767

Ah oui, les fondateurs de startups qui sont connus pour *vérifie ses notes* être dénués de toute idéologie

Superbe appeau à connards ce thread.
 
Bien sûr que c’est con que Gemini “force” la diversité dans tous les contextes. Mais l’idée du filtre en soit c’est pas une mauvaise chose, si ? Sinon on sait exactement ce qui se passe : tu montres une mariée blanche, en robe blanche, le modèle dit “bride”. Tu montres une mariée indienne, en costume traditionnel de mariée, le modèle dit “artist, performance, disguise”.
Donc ne rien faire ce n’est pas enlever les biais, c’est juste en laisser qui ne gênent pas les gens dans ce thread X.
 
Le truc de faire un modèle comme Gemini ou ChatGPT c’est que la terre entière va te tomber dessus si le modèle ne fait pas ce que *eux* voudraient.

Dans cet exemple le problème serait le manque de connaissance du modèle, non ?
 

A la place il a un biais inverse qui gène aussi une énorme partie de la population.
 
Quand à ChatGPT on l'a pas vu halluciner des trucs aussi gros que Gemini niveau image, par contre niveau textuel oui.
 
Bref y'a encore du boulot

 
Je pense que c'est un peu le problèmes des biais en ce moment dans bcp de situations et un peu partout. À force de vouloir protéger tout le monde (avec toutes les bonnes et moins bonnes intentions), on finit par s'en prendre à tout le monde. C'est une logique qui mène à l'absurde, le genre de logique qui fait qu'on finira par ne plus parler de Darwin parce que cela va heurter la sensibilité de certaines personnes pour des raisons religieuses par exemple. Au bout de cette logique, il ne faudrait plus accepter de représenter la terre pour préserver ceux qui pensent qu'elle est plate. Où s'arrête et où commence la discrimination ? On voit bien qu'il va falloir continuer de réfléchir sur la méthode.
L'impression que j'ai concernant les IAs. c'est qu'on procède en tâtonnant et on tente de réparer les dégâts après coup en créant des sides effects eux-mêmes non réellement prévus. J'ai pas la sensation qu'il y a une approche saine et globale.

Oui et non, il y a ce que le modèle propose, et ce qui est filtré / forcé (si j’ai bien compris le prompt est modifié pour atteindre ce résultat)
 

 
Citation needed
 
Je pense que la majorité des gens s’en fout, et je vois finalement peu de gens se porter défenseur de la rigueur de la représentation ethnique des soldats allemands de la 2ème guerre mondiale.
 
Mais je suis d’accord sur le fond : on contrôle pas fondamentalement ce que font ces modèles, et les contrôles vissés dessus à l’arrache montrent leurs limites.
Ça va être un très gros plateau à passer, et il est même possible qu’on ne le passe jamais avec cette technologie.
 
Ce serait pas surprenant, après le “vous pouvez brûler vos gamins, l’IA les remplacera tous”, on va revenir à un vision plus modérée de “dans certains cas précis, c’est un outil génial, dans d’autres c’est bof, dans d’autres c’est à chier”. Ce qui est vrai de beaucoup de choses en général.
 
Fait voir aussi que si la techno dessous a 5-10, on est encore au tout début, quoi qu’en disent les gens qui curieusement en dépendent financièrement  

C'est un message corporate retransmis sur les ondes ?
 

Voila

Tu rigoles, c'était dans mes sujets de travail master recherche, début 2000
Il y a eu un palier franchi, ça ouvre de nouvelles possibilités impressionnantes , notamment dans 'a compréhension du langage naturel, la traduction, la reformulation pour adapter un contenu a une autre audience, mais on n'est pas encore a irobot

Attention irobot ce sont des aspirateurs    
 
OK c'est une techno tellement sensible qu'on n'a pas voulu qu'amazon les achète mais bon  

Je suis outré que les IA puissent choquer les mêmes gens qui sont choqués que des personnages de fiction soient noirs. C'est vraiment la société qu'on veut léguer à nos enfants ?

merci de me préparer une synthèse de quatre pages sur le bridgerton universe  

 
Je pense que le débat actuel va bien au delà de ça...

Probablement qu'ils n'ont pas suivi le cursus d'Evergreen.

Quand vous récupérez le logger via une factory statique (no comment...) et que la méthode peut lever une exception lors de l'initialisation du logger, vous faites fail tout le code ou vous continuez l'exécution du code sans logger ?
 
Perso je suis pour la seconde option mais il semblerait que je ne fasse pas l'unanimité car "Because it would be the symptom of a wider issue. Not getting the logger means something is very wrong with the file system."

Un log de façon traditionnelle (sysout sans framework) en cas de failure puis redirection dans splunk/elk avec e-mail d'alerte à l'équipe si ça arrive.

Je vote pour le second, ça peut tout aussi facilement être un problème dans la configuration du logging (e.g. t’as filé un stderr fermé, t’as configuré pour logger dans un FS readonly ou un répertoire qui existe pas, t’as fucké l’URL de ton target).  
 
Je ferais un best effort pour notifier de l’erreur mais l’intérêt de tout couper me semble limité sinon illégitime: ça t’avance fondamentalement pas des masses. Sauf à la limite si t’as l’observability qui est bien faite et que tout le monde est au taquet, et le crash du service va immédiatement balancer des alarmes.  
 
Mais même là, je serais probablement aussi content d’avoir le service qui tourne pendant que j’investigue.

 
ça n'a pas pris une ride cet article

D'accord avec Flaie Et Mask, mais les gens avec qui je bosse ne sont pas du même avis et préfèrent tout arrêter.

Entre l'un avec qui j'ai passé 2 jours pour qu'il installe le projet sur sa machine et fasse correctement une PR et l'autre qui est l'archetype de l'OPS qui te répond jamais et pense avoir toujours raison sans justifier de quoique ce soit, je suis verni.

Allé, plus qu'un mois à tenir sur ce projet de merde.

 
Le débat en question est archi-dominé par des gens dont le projet politique se résume à ça.

1/ non. Chier sur G est super bankable, ça fait de l'engagement, The Verge comme les autres n'en rate jamais une. Ça fait que le moindre truc qui arrive prend toute de suite une importance capitale, y'a un effet loupe monstrueux. Mais en vrai si tu regardes l'ensemble de la population (pour rappel un truc comme YT a 3.5B MAU, Search doit allègrement dépasser 4), c'est de loin pas aussi tranché. D'ailleurs si tu vas au delà du titre et que tu lis l'article, l'article lui aussi est plus nuancé, et dans les gens qui se plaignent, beaucoup reconnaissent qu'il faut bien faire quelque chose, mais que l'approche actuelle ne fonctionne pas, ce qui est factuel.
Je veux dire regarde les commentaires sur le post X du monsieur qui fait du woodworking (alors que et sa vidéo et son post sont plutot très sympathique et pas aggressifs, il demande juste de l'aide). La haine dans les commentaires est assez surprenante. On dirait ce qu'a vécu MS pendant 2 décennies (même si maintenant ce sont les cools kids à nouveau, alors que le niveau de spam des produits MS dans Windows 11 est aberrant, si G faisait un 10eme de ça on se ferait executer en place publique, mais passons. ET NON JE VEUX PAS SAUVER MES DONNEES DANS ONEDRIVE, LEAVE ME ALONE   ).
Mais il ne faut pas confondre "les 100 personnes qui postent sur /r/youtube et qui voudraient bruler le siège" avec les 3.5bn d'utilisateurs du service. Les premiers sont beaucoup plus visibles, mais ils ne sont pas forcément représentatifs.

Je parle des variantes transformers / LLM / GPT, pas du ML en general qui est beaucou plus vieux. Il y a eu de la recherche sur les transformers depuis 1990, mais ça s'est vachement accéléré en 2017.
GPT :
- 2017 : paper initial de Deepmind "Attention is all you need" <- petite note sarcastique : on voit ici Google dans toute sa splendeur : on invente littéralement la techno, on trouve quand meme le moyen de faire 2ème.
- 2018 : premier GPT publié par OpenAI

Sans remettre en cause ta recherche, je doute que tu ais cherché sur comment sécuriser des modèles qui ingèrent on des milliards de paramètres, qui peuvent littéralement mémoriser internet (avec toute la merde que ça contient même si y'a une armée de gens qui font de la curation de données), avec une techno qui était complètement confidentielle en 2000.

J'ai parlé au PM et au Research director qui bossent sur le modèle en question, ça se voit que c'est un point d'inquiétude pour eux de pouvoir controller ce qui se passe. Le nombre de weights est confidentiel, mais c'est parfaitement débile niveau taille, le truc ingère l'internet au petit dèj, bonne chance pour controler tous les messages, et éviter de reproduire les biais du jeu d'entrainement.
Ils ont donc fait ce que ferait n'importe qui qui fait de la modération de contenu : y'a des regex qui tourner sur les prompts et sur le texte en sortie. C'est une première ligne de défense, c'est rapide et efficace, mais ça se troue assez vite. Bref, ils ont du boulot.

Cela vient bien sûr de la techno mais il me semble que chatgpt n'était pas autant daubé, tout en étant très loin d'être parfait.
 

Ça va plus loin que le simple raisonnement chier sur G pour le plaisir, ils se sont chié dessus et ils le reconnaissent, voyons comment ila corrigent.
 

niveau temps peut être mais pas résultat.

 
C'est quelle implémenation de logger qui fait ça?  
 
Parce qu'il me semble que la plupart des implémentations de slf4j sont plutôt propres à cet égard : faut vraimetn avoir une config baisée pour que ça plante.
 
Après je suis partagé là dessus : les logs c'est tellement important que ça me choque pas que l'appli ne démarre pas s'ils ne sont pas correctement initialisés (mais ça devrait être le cas aussi en local : le dev à la limite ne devrait spécifier que des niveaux, tout le reste devrait être similaire à la prod)
 
 

 
C'est une implémentation custom d'un logger PHP sur une solution e-commerce en retard d'au moins 5 ans sur les librairies Symfony qu'elle utilise

 
   
 
tu parles du modèle image, ou de chatgpt ?
 
Si on parle de ChatGPT :  
- https://www.popsci.com/technology/c [...] naccurate/
- https://www.nature.com/articles/d41586-023-03635-w
- quand tu cherches tous les champs de recherche se plaignent que le truc fabrique des papers qu'il cite
 
Et concernant DALL-E :  
- https://www.wired.com/story/dall-e- [...] ial-media/ : oh ben ça alors ?
- https://www.washingtonpost.com/tech [...] ereotypes/ rhoooo dis donc
- un exemple de controverse à la con IMHO : https://bnnbreaking.com/tech/ai-ml/ [...] e-imagery/ (le terme "unsavory" fait tout le job ici, si tu commences à filtrer ça tu vas devoir filtrer une chiée de trucs)
 
Note : je suis à peu près sur que Gemini a les mêmes problèmes
 
 

 
ChatGPT a considérablement fluctué dans sa qualité (le plus souvent a la baisse) depuis qu'il est sorti.
 

 
All true.
 
Resultats on a fait notre propre modele qui au moins bouge pas et reste sur une base que l'on sait suffisamment bonne (sur Mistral AI).

 
c'est donc un pari sur Mistral gagnant    
 
 
 

Et la bonne nouvelle du jour c'est que 6 semaines plus tard j'ai enfin une réponse suite à me demande de départ anticipé, acceptée au 5 avril  
 
Tellement hâte d'en finir avec le vendeur de slip de bains

Détends toi
Je ne dis pas qu'il y a plein d'innovation majeures récente
Juste que ça fait ~25 ans que les réseaux de neurones et associés sont quelques années d'être fiables.
Je suis persuadé que sur de nombreux use case c'est déjà utile. Mais pas pour faire face a une horde de troll. Un peu comme la conduite autonome marche globalement bien. Mais se cassé la gueule dans des situations compliquées , ou la moitié des humains se planter aient aussi, sauf que pour les humains on sait déterminer les responsabilités après.

https://www.bfmtv.com/paris/j-ai-in [...] 50305.html

Le journalisme c'est un métier

En tout cas le joint de carrelage semble être une technologie plus mature que l'IA

Le problème fondamental, et pas mal de gens passent complètement à coté dans les discussions, c'est la réponse à ce tweet: https://x.com/paulg/status/1761909466608357425

Dans le cas général, il a raison. Mais le problème, c'est que les LLMs ne sont pas des AGI: ils n'ont aucune notion de vérité. Donc on n'aligne pas les LLMs sur "la vérité" (qui est par ailleurs une notion qui n'a aucune définition fiable en dehors de la logique formelle), mais sur un set de conventions sociales considérées comme acceptables.
 
Le problème ici, est que la réflexion doit être faite en amont sur l'orthogonalité des conventions sociales choisies entre elles, et là on s'expose à des conceptions différentes et des contradictions qui ne sont pas forcément résolues.
Un exemple simple étant la notion de liberté d'expression aux Etats-Unis, qui laisse le champ très large à des idées qui sont largement réprouvées. Ainsi, il n'est pas étonnant que ceux qui sont les plus critiques sur les faiblesses du système sont les libertariens (au sens néolibéral). Mais ils ne sont pas les seuls, puisque les libéraux progressistes sont tout aussi critiques sur l'application sans nuances et de la convention "diversité" dans les résultats de Gemini.
 
Là encore, on touche à une limite inhérente aux LLMs qui sera en partie résolue avec les AGI.

Au secours. ²²²²²²²²²
A coté de ça, voici le niveau scientifique du colonniste culinaire du NY Times: https://www.youtube.com/shorts/sLoRonDnkCg
 
(Le lycéen, sans vouloir minimiser sa réalisation, n'a créé qu'une balance avec une interface qui fait une règle de 3 avec une petite base de données intégrée: elle pèse, on indique le composant mesuré, et elle sort le nombre de moles qui correspond.
Je parie que la fille à Hermès sait faire la même chose. Il est présenté comme une sorte de génie par un journaleux (edit: ah non, ils sont TROIS) qui ne comprend rien.)

je comprend pas, c'est une balance compteuse qu'il a fait ? on donne la masse molaire du produit et ça donne le nombre de moles dans le sample ?
 
(j'essaye de penser à un truc accessible à un gamin qui sait utiliser un arduino, parce que la masse molaire d'un produit ça se mesure par un ratio masse/charge électrique)

Faut pas nonplus généraliser sur le niveau scientifique des colonnistes culinaires : le mec peut simplement avoir cherché à comprendre et lu des trucs à propos de ça, ou être un scientifique de base.
 
Rien ne dit que s'il a à écrire un article sur un sujet qu'il ne comprend pas, il ira se documenter pour être à peu près confiant de pas écrire d'énormes conneries.
 
Ce que je trouve remarquable dans l'article cité, c'est que le mec a probablement écouté le gamin raconter des trucs, réécrit une phrase syntaxiquement correcte avec les mêmes mots, et basta.
 
 

C'est une balance qui affiche "1 atome par atome"  sur un afficheur fixe voilà tout

ceci dit le gamin a pas forcément tort, en expérimentation il faut tout le temps se taper le calcul total, mais c'est un peu relou pour les liquides.