Les démineurs te le diront. Bonne chance.

J'essaye de me convaincre que ce sont des munitions de résistants et pas d'allemands déjà

J'essaye de me convaincre que ce sont des munitions de résistants et pas d'allemands déjà

Perso, j’ai plus de facilité à m’accommoder des excès des gens qui n’ont PAS d’idéologie tout court. A partir du moment où les gens sont animés par une véritable idéologie et s’y tiennent, c’est la merde et les excès finissent souvent par devenir dangereux même si bien sûr, comme tu le soulignes, toutes les idéologies ne se valent pas et elles n’ont pas toutes la même dangerosité à la base.

Il y a aussi un potentiel de violence dans certains mouvements de l'extreme gauche ( on est dans une période relativement calme ceci dit )

C'est une baraque familiale ? papy mangeait de la viande tous les jours pendant la guerre ?  

 
 
Pour du supervised training, il nous faut des données, et des labels.
Pour les données, ben vu qu'on a Internet en cache, on a accès à tout ce qui est pas derrière un robot.txt. En pratique, les jeux de données sont en general bien plus ciblés, et produits à partir de données de prod pertinentes (eg, on peut entrainer un modèle sur le contenu de tous les emails pour produire un modèle qui finit tes phrases). Donc non, on a pas besoin de scrapper Facebook pour trouver des jeux de données.
Il faut aussi des labels, et c'est souvent là que le bât blesse : le labelling est soit fait par les utilisateurs (avec des risques), soit fait par des prestataires (par ex des gens qui regardent des images et disent : oh, là y'a une arme, là c'est un enfant, là c'est de la drogue). Quand t'as assez d'image avec des armes labellisée, tu peux créer un classifier qui reconnait les armes, et sait flagguer une ads qui contiendrait une arme par ex.
Si un reviewer labellise systématiquement une femme habillée en tenue très colorée comme "entertainer", et une femme avec une robe blanche en "bride", ben si tu lui montres une mariée indienne, il dira "entertainer, 0.9", et tu verras pas "bride" dans la liste des labels .
T'as aussi des problèmes purement technique liés au ML comme par ex Chihuahua vs Blueberry muffin
 
Ton exemple est probablement à la croisé des 3 problèmes : jeu de donnée pas suffisament bien fait, mauvais labelling, et pas assez de adversarial training.
 
Après le ML ça reste un programme informatique, le process qui le génère peut avoir des bugs, le programme en lui même peut avoir des bugs. Je vois pas l'intéret de sacraliser le machine learning, ou de le villifier. Quand un bug de conversion d'unité fait se crasher une fusée, ou quand le choix de coder une année sur 2 chiffres a failli foutre le monde dans la merde, personne s'est dit : est-ce qu'on devrait pas arrêter de faire des programmes informatiques ?
Et comme dans la vraie vie, le bug sera corrigé ou non, aura un workaround, ou non, selon son impact, sa gravité, le cout pour le fixer, etc...
Faut juste arreter de traier le ML comme un oracle, et considérer ça comme un programme. Au début de l'informatique, y'avait les "oh il ne peut pas y avoir d'erreur, l'ordinateur ne se trompe jamais", on a la même chose avec le ML. Et c'est ça qui est dangereux, quand t'as un process de décision non escaladable trivialement qui peut prendre des décisions importantes pour ta vie. Par contre j'attends la démonstration pour comprendre en quoi c'est différent d'un algo fait entièrement à base de if/then/else utilisés par les banques dans les années 90 pour décider si on te donnait un crédit ou pas, avec le banquier qui dit : ah bah non ma brave dame, l'ordinateur a parlé, je peux pas vous donner de crédit. Algo qui avait surement tous les biais possibles et imaginables aussi.
 
Après qu'est-ce qu'on fait en pratique ? On a des formations internes pour apprendre à reconnaitre les biais (j'en ai fait une pas plus tard qu'hier), les équipes sont de plus en plus sensibilisée à ça (y'a 4 ans un assistant vocal était infoutu de comprendre ce que tu disais si t'avais pas un accent pur et parfait, maintenant  les assistants comprennent tous les accents régionnaux, les principaux accents étranger, on a meme bossé sur la compréhension des gens avec des défauts de prononciation genre paralysie cérébrale).
 
Je deviens peut etre cynique avec l'age, mais pour chaque sujet, tu vas toujours trouver :  
- les oiseaux de mauvaise augure qui se font inviter partout (et donc gagnent du fric / augmentent leur visibilité personnelle) en étant des détracteurs constants
- les gourous, qui ont une solution magique (qui curieusement va leur rapporter du pognon / visibilité)
- les journalistes, parce que jouer sur les peurs des gens ça fait du clic (faut-il avoir peur du wifi/3G/4G/5G/ML/etc...)
 
tl;dr : la technique est nouvelle, mais les problèmes ne le sont pas, et sont aussi vieux que l'informatique (dans les 90s les banques ont pas open sourcé leurs algos pour prouver qu'ils étaient juste, 20 ans après même combat)
 

vas y explique en quoi je suis con ?

SFW, bobo, bien pensant, journalope, élite mondialisée etc... c'est du vocabulaire d'extreme droite dans le sens où c'est souvent balancé comme non-argument (voire insulte) dans un débat.

 
Chuis content de voir qu'on a coopté le vocabulaire de l'extrême-droite au calme sur le topic.

 
tl;dr : la technique est nouvelle, mais les problèmes ne le sont pas, et sont aussi vieux que l'informatique (dans les 90s les banques ont pas open sourcé leurs algos pour prouver qu'ils étaient juste, 20 ans après même combat)
 

Le ML est ce qu'il est, avec ses forces et ses faiblesses. Le problème n'est pas là. Le problème via des IA qui sont déployées à un tel niveau que celles des GAFAM qui vont avoir des impacts sur des milliards de personnes au quotiden et pas juste quelques milliers ou millions sur des logiciels plus ou moins métier, cf ton ex de pb de cast ou d'année sur 2 digits.

 
SFW ???
Je connais SJW (Social justice Warrior), et NSFW (Not Safe For Work) mais SFW ?

Je ne savais meme pas que c'était lié a l'extrême-droite Pour moi j'ai toujours vu ce terme rapproché de elle:
https://www.google.com/search?q=sjw [...] 0&bih=1006
 
Autrement dit "la folle aux cheveux rouges" : https://knowyourmeme.com/memes/people/big-red

J'essaye de me convaincre que ce sont des munitions de résistants et pas d'allemands déjà

vas y explique en quoi je suis con ?

 
Non je ne fais pas exprès, je connais le sens des mots et leur usage.
Mais j'imagine que tu penses encore que le Gamegate était à propos de la probité dans le journalisme de jeu vidéo et pas une vaste campagne de harcèlement.

 
C'est quoi le problème si ce sont des munitions d'allemands ?  

C'est une baraque familiale ? papy mangeait de la viande tous les jours pendant la guerre ?  

Bordel, pourquoi j'étais persuadé qu'il était noir

Bordel, pourquoi j'étais persuadé qu'il était noir

Ce qui pourrait être fait (et ne l'a jamais été à ma connaissance, mais je ne suis pas vraiment le sujet), c'est de faire évaluer les biais d'une IA par une autre, qui elle sert d'étalon.
Lorsque les évaluations divergent, on examine la raison de la divergence, et on essaye de corriger l'une ou l'autre des IA.
 
Par exemple, quand Youtube dégage la chaîne d'Agadmator, commentateur bien connu de parties d'échecs, parce qu'il utilise des termes comme "le pion noir capture la reine blanche" ou "les blancs sont en position de supériorité", ça serait bien que Youtube corrige son algo pour qu'il comprenne qu'on parle d'échecs et pas de racisme. Surtout que ça n'est pas la première fois que ça arrive à ce pauvre agadmator.

Justement, l'extrême droite caricature tous les gens qui mènent des combats sociaux (féminisme, anti racisme, etc), comme des "folles au cheveux rouges" (ou bleus).
 

 
Les gens sans idéologie ça n'existe pas, ça s'appelle des partisans du statu quo. Et y'a paquet de domaines où ça en fait une idéologie particulièrement moche.
 

 
A toi de prouver que tu ne l'a jamais été !  

inversion de la charge de la preuve  

on est toujours le con d'un autre

 
Oui, mais certains cumulent !

C'est vrai, certains sont les cons de beaucoup d'autres

C'est pas tout a fait vrai, et c'était ce que j'avais essayé d'expliquer a ___alt il me semble a propos du renvoi de Timnit Gebru et l'exemple des poissons vs le racisme (aka un pb de biais est un pb de biais et n'a rien avoir avec rien / touche tous les sujets, certains plus grave que d'autres)
 
Et ca, c'est tres différent des années 90, car dans les années 90, il suffisait de lire le code (parfois pas évident ), mais n'empeche que la route est tracable, alors que avec l'IA:
  - etre sur que ton modele n'a pas de biais? Autant que je sache il n'existe pas de théoreme/théorie a appliquer au jour d'aujourd'hui pour le garantir. Les rares stats que tu peux pondre sur un modele te donne pas des masses d'insight sur ce qui se passe a l'interieur concretement.
  - tester autant que tu peux? Mais la seule facon que cette option revienne a valider l'abscence de biais, revient en réalité a tester toutes les outputs possibles de ton modele, et donc l'IA n'a alors plus aucun interet si tu finis par faire toutes les branches toi meme, autant directement coder en hard l'algo complet - sans IA donc -.
 
Tu es au jour d'aujourd'hui dans une impasse. L'IA est proche conceptuellement d'une programmation par contrainte (cad son interet reside dans le fait de ne pas coder l'algorithme et de laisser l'ordinateur trouver son chemin), mais alors, cette perte de controle sur le flow interne engage necessairement la perte de controle au niveau du résultat, et donc tu n'auras jamais la possibilité de savoir si il y a des biais ou non, au mieux, tu pourras avoir une demi réponse via une pelle de tests "ca semble ok".
 
Pour moi ca ne passera que par de meilleurs algos (l'ia n'est pas dans sa forme actuelle une bonne réponse probablement) et de théorie a meme de repondre a ces questions, rien a voir avec une question sociale ou autre (meme si ca a un impact direct on est d'accord).

Le ML est ce qu'il est, avec ses forces et ses faiblesses. Le problème n'est pas là. Le problème via des IA qui sont déployées à un tel niveau que celles des GAFAM qui vont avoir des impacts sur des milliards de personnes au quotiden et pas juste quelques milliers ou millions sur des logiciels plus ou moins métier, cf ton ex de pb de cast ou d'année sur 2 digits. Les bugs que tu décrits sont identifiables par un ou plusieurs humains, dans un temps raisonnable (à l'échelle d'une vie d'un humain), par ce que le code source à analysé est globalement compréhensible et on peut faire des tests pour aider à identifier le bug (et donc sa correction).

Mais dans le cas d'une IA à base de ML comme celles que fait Google (et les autres GAFAM, je prends Google là en ex, mais il n'est pas le seul concerné par cette problématique), il va être très difficile de repérer certains bugs car la conf d'un réseau de neurones issus d'une apprentissage par deep learning n'est absolument pas compréhensible par un ou plusieurs humains et pas dans un temps raisonnable.

Dans le bouquin de Lê, il expliquait que pour vérifier les recommandations faites en 1s par l'algo de recommandation de Youtube à tous ses utilisateurs, il faudrait des millions de personnes pendant plusieurs siècles. Donc c'est impossible et on perd donc en partie le contrôle de ce genre d'IA. De ce fait, vu le nb de personnes qui utilisent Youtube au quotidien, ça va avoir un énorme impact sur l'humanité.

Un scientifique avait fait une expé avec 2 machines vierges et sur l'une surfait sur Youtube en ne sélectionnant que des vidéos "scientifiquement" justes (en gros, qui parle que de choses qui ont été vérifiées, étayées, genre des chaînes type science4all, science étonnante...) et sur l'autre, surfait sur Youtube en ne sélectionnant que des vidéos "complotistes" (Terre plate, ondes 5G qui véhiculent le covid...). Alors qu'au tout début, Youtube lui exposait des vidéos à 50/50 des 2 types (parmi bien sûr d'autres types de vidéos qui lui étaient proposées), au bout de seulement quelques heures, l'algo avait créé une bulle de filtrage bien différente, l'une avec essentiellement des vidéos de la première cat et l'autre, de la 2ème cat.
Dans le partage des connaissances et l'éducation des populations, c'est un vrai problème que des vidéos complotistes soient recommandées au détriment de vidéos présentant des choses vraies scientifiquement.

Cet exemple est un cas simple. Mais on voit déjà des objectifs opposés entre l'IA de Youtube et ce qui serait bénéfique pour l'humanité. D'un côté, l'IA de Youtube cherche à augmenter notre temps passé sur la plate-forme en nous donnant toujours plus de vidéos qui vont dans notre sens alors que pour l'humanité, il serait souhaitable que l'IA recommande des vidéos présentant des faits scientifiquement démontrés, permettant ainsi à augmenter le niveau de connaissance moyen de la population.
Et il semblerait que Google (et les autres GAFAM) prennent plutôt le chemin de capter toujours plus notre attention pour des questions de rentabilité/profits plutôt que d'aller plus doucement dans le déploiement de ses IA et essayer de les rendre robustement bénéfiques pour l'humanité, sans doute entre autre raison, parce que cet objectif est beaucoup plus complexe que le premier tant il soulève des problèmes éthiques/philosophiques/techniques

Et avant que vienne un énorme : "han l'hopital qui se fout de la charité, google on peut pas escalader les décisions", je peux vous prouver que c'est parfaitement faux (hint, je bosse là dedans). Par contre si l'humain valide ce que l'algo a décidé, ben c'est game over. Le problème de google c'est la com sur ce genre de process, pas le fait que le process n'existe pas. Dans un certain cas récent, l'enquete interne a confirmé le résultat .

Ce qui pourrait être fait (et ne l'a jamais été à ma connaissance, mais je ne suis pas vraiment le sujet), c'est de faire évaluer les biais d'une IA par une autre, qui elle sert d'étalon.
Lorsque les évaluations divergent, on examine la raison de la divergence, et on essaye de corriger l'une ou l'autre des IA.
 
Par exemple, quand Youtube dégage la chaîne d'Agadmator, commentateur bien connu de parties d'échecs, parce qu'il utilise des termes comme "le pion noir capture la reine blanche" ou "les blancs sont en position de supériorité", ça serait bien que Youtube corrige son algo pour qu'il comprenne qu'on parle d'échecs et pas de racisme. Surtout que ça n'est pas la première fois que ça arrive à ce pauvre agadmator.

c'est un biais cognitif

Il a juste une grosse bite  

 
Tu commences ta discussion en disant que le deep learning c'est dur à déboguer, puis tu expliques les problèmes des algos de suggestion de Youtube et compagnie. Ce sont deux problèmes qui n'ont rien à voir, à l'heure actuelle. Le ML des algos de suggestion de Facebook, Twitter et Youtube, c'est 3 coefficients linéaires un un critère d'âge, t'inquiète qu'on est capable de surveiller et de déboguer ça un temps plus que raisonnable. Pour autant, ce sont deux sujets très intéressants. Duquel est-ce que tu veux parler ?

Vous pourriez pas déboguer le Google Feed sur Android d'ailleurs?
2/3 des trucs ont absolument rien à voir avec mon profil.

 
alors bienvenue dans mon univers
 
un exemple tiré de l'actualité (l'exemple est vrai, les effets de bords sont inventés ) : proud boys : des gens voulaient vendre des T-shirts faisant écho à ce qui s'est passé le 6 janvier, et c'est hors policy donc on flaggue. Ça se fait par liste de mots clés en l'occurence. Mais c'est super touchy, parce que c'est facile de dégager un truc qui devrait pas. Du coup tu bannis quoi : "proud boys"? "+proud +boys"? sachant que t'as la moitié de twitter et 1 article de The Verge sur le cul disant que Google fait l'apologie des séditionnistes. Tu corriges, y'a un effet de bord malheureux, tu te trouves avec la moitié de twitter et un article de The verge expliquant que t'as malencontreusement banni la chaine Youtube d'une chorale de jeunes chrétiens qui s'appelle  "Make Mary Proud Boys Choir".
 
Réfléchis au sens du mot "blanc"par ex :  
- les blancs : les gens de couleur de peau blanche
- les blancs : gens appartenant à une équipe dont le maillot est de couleur blanche
- les blancs : le joueur ayant les pions de couleur blanche aux échecs, dames, etc...
- les blancs : partie transparente d'un oeuf
- les blancs : silences dans une conversation
- et j'en passe surement des tonnes
 
Alors oui des fois il y aura des exclusions malheureuse (whites have superiority over the blacks ça doit surement faire tilter 2-3 filtres). Le fait que ça chaine soit up and running tend a prouver que le process d'escalation a fonctionné.
 
Si vous avez des bonnes solutions j'ai des headcounts

 
Ça fonctionne super bien