Reprise du message précédent :

Disons que croire que ces deux personnes là sont les seules à même à identifier et de à s'atteler à résoudre ces problèmes est, pour le moins, naïf. Il y a, littérallement, une armée de chercheurs brillants qui travaillent sur le sujet.

Par ailleurs, la controverse dépasse largement le terrain académique ; je t'encourage à faire preuve de circonspection quand tu lis des trucs sur le sujet. Aujourd'hui, écrire un article qui explique que Google développe une IA raciste, ça rapporte des clics. C'est plus simple que d'éplucher la littérature. Fais gaffe aux arguments d'autorité, et au biais de sélection.

En ce qui concerne El Mhadi, le jeune homme est assez au courant de ce dont il cause, c'est pour ça qu'il a été embauché je pense. Qu'est-ce qui te fait dire qu'il est très inquiet du chemin que prend Google ?

quel âge ?

 
Le bon vieux débat incompétence vs nuisance volontaire

17 ans de ce que j'ai pu voir en cherchant sur le topic, et il en avait déjà parlé il y a quelques temps que son fils était en dépression

 
 
Pour du supervised training, il nous faut des données, et des labels.
Pour les données, ben vu qu'on a Internet en cache, on a accès à tout ce qui est pas derrière un robot.txt. En pratique, les jeux de données sont en general bien plus ciblés, et produits à partir de données de prod pertinentes (eg, on peut entrainer un modèle sur le contenu de tous les emails pour produire un modèle qui finit tes phrases). Donc non, on a pas besoin de scrapper Facebook pour trouver des jeux de données.
Il faut aussi des labels, et c'est souvent là que le bât blesse : le labelling est soit fait par les utilisateurs (avec des risques), soit fait par des prestataires (par ex des gens qui regardent des images et disent : oh, là y'a une arme, là c'est un enfant, là c'est de la drogue). Quand t'as assez d'image avec des armes labellisée, tu peux créer un classifier qui reconnait les armes, et sait flagguer une ads qui contiendrait une arme par ex.
Si un reviewer labellise systématiquement une femme habillée en tenue très colorée comme "entertainer", et une femme avec une robe blanche en "bride", ben si tu lui montres une mariée indienne, il dira "entertainer, 0.9", et tu verras pas "bride" dans la liste des labels .
T'as aussi des problèmes purement technique liés au ML comme par ex Chihuahua vs Blueberry muffin
 
Ton exemple est probablement à la croisé des 3 problèmes : jeu de donnée pas suffisament bien fait, mauvais labelling, et pas assez de adversarial training.
 
Après le ML ça reste un programme informatique, le process qui le génère peut avoir des bugs, le programme en lui même peut avoir des bugs. Je vois pas l'intéret de sacraliser le machine learning, ou de le villifier. Quand un bug de conversion d'unité fait se crasher une fusée, ou quand le choix de coder une année sur 2 chiffres a failli foutre le monde dans la merde, personne s'est dit : est-ce qu'on devrait pas arrêter de faire des programmes informatiques ?
Et comme dans la vraie vie, le bug sera corrigé ou non, aura un workaround, ou non, selon son impact, sa gravité, le cout pour le fixer, etc...
Faut juste arreter de traier le ML comme un oracle, et considérer ça comme un programme. Au début de l'informatique, y'avait les "oh il ne peut pas y avoir d'erreur, l'ordinateur ne se trompe jamais", on a la même chose avec le ML. Et c'est ça qui est dangereux, quand t'as un process de décision non escaladable trivialement qui peut prendre des décisions importantes pour ta vie. Par contre j'attends la démonstration pour comprendre en quoi c'est différent d'un algo fait entièrement à base de if/then/else utilisés par les banques dans les années 90 pour décider si on te donnait un crédit ou pas, avec le banquier qui dit : ah bah non ma brave dame, l'ordinateur a parlé, je peux pas vous donner de crédit. Algo qui avait surement tous les biais possibles et imaginables aussi.
 
Après qu'est-ce qu'on fait en pratique ? On a des formations internes pour apprendre à reconnaitre les biais (j'en ai fait une pas plus tard qu'hier), les équipes sont de plus en plus sensibilisée à ça (y'a 4 ans un assistant vocal était infoutu de comprendre ce que tu disais si t'avais pas un accent pur et parfait, maintenant  les assistants comprennent tous les accents régionnaux, les principaux accents étranger, on a meme bossé sur la compréhension des gens avec des défauts de prononciation genre paralysie cérébrale).
 
Je deviens peut etre cynique avec l'age, mais pour chaque sujet, tu vas toujours trouver :  
- les oiseaux de mauvaise augure qui se font inviter partout (et donc gagnent du fric / augmentent leur visibilité personnelle) en étant des détracteurs constants
- les gourous, qui ont une solution magique (qui curieusement va leur rapporter du pognon / visibilité)
- les journalistes, parce que jouer sur les peurs des gens ça fait du clic (faut-il avoir peur du wifi/3G/4G/5G/ML/etc...)
 
tl;dr : la technique est nouvelle, mais les problèmes ne le sont pas, et sont aussi vieux que l'informatique (dans les 90s les banques ont pas open sourcé leurs algos pour prouver qu'ils étaient juste, 20 ans après même combat)
 

Ben ça s'applique à tout.
Tu fais un truc :  
- Ya des gens qui aiment
- Ya des gens qui n'aiment pas
- Ya des SJW qui vont venir te faire chier
- Ya des gens qui vont t'insulter
- Ya des gens qui vont t'aduler
 
il faut juste ignorer les haters sans aucun arguments et tracer ta route.
 
C'est comme les cons qui traitent de raciste leur voisin parce que celui-ci est blanc, a voté trump et a déneigé leur allée de garage, et donc c'était un acte de bienveillance raciste.

j'ai rien compris à ta dernière phrase leur allée : l'allée de qui ?

https://youtu.be/gQnmP7UD_zk?t=116
 
"At first glance it looks like the advice you give your teenage daughter before a night in town"

 
Chuis content de voir qu'on a coopté le vocabulaire de l'extrême-droite au calme sur le topic.

 
Je comprends même pas de quoi tu parles.  
Et c'est gatsu.

 
Parce qu'il est noir il ne peut pas être extrémiste ?

il est noir gatsu?

L'allée des cons

C'est Shinuza qui est noir, bougre d'étron inculte
(vous noterez la pertinence de l'utilisation du smiley "kiki" en parlant de Shinuza)

Tu bosses jamais toi ?

Bordel, pourquoi j'étais persuadé qu'il était noir

Parce que tu es raciste ?

pas le mardi. et hier aprem j'étais occupé
pourquoi, tu t'ennuies? tu veux des conseils pour te mettre au php?

On en parlait hier: https://blog.haschek.at/2021/how-i- [...] ining.html

pour remettre dans le contexte :  
https://www.youtube.com/watch?v=ugvcoVhpRy4

je vois pas en quoi le terme SJW est collé à l'extrême-droite ?
Tu fais exprès ou quoi ?

Je veux bien que tu m'expliques le rapport

Tu t’es dis qu’un mec aussi con ne pouvait pas être blanc ?

Et Génération identitaire ils veulent surtout qu’on préserve l’héritage des Lumières  

vas y explique en quoi je suis con ?

 
Non je ne fais pas exprès, je connais le sens des mots et leur usage.
Mais j'imagine que tu penses encore que le Gamegate était à propos de la probité dans le journalisme de jeu vidéo et pas une vaste campagne de harcèlement.

SFW, bobo, bien pensant, journalope, élite mondialisée etc... c'est du vocabulaire d'extreme droite dans le sens où c'est souvent balancé comme non-argument (voire insulte) dans un débat.
 
ça n'empêche pas qu'il y a de vrais SFW, bobo et bien pensants purs et dur aussi débiles que les guignols de l'extreme droite. (c'est à dire tellement obnubilés par leurs combats politiques qu'ils en oublient d'utiliser leur cerveau)
 
Mais en général ça demande une réelle argumentation de pourquoi c'est SFW/bobo/bien pensant. Donc c'est mieux d'expliciter pourquoi c'est un mauvais raisonnement plutôt que d'utiliser des termes fourre tout utilisés par la propagande d'extreme droite (et très connoté du coup)

Mais ça fait pas parti de la liste des molécules avec lequel faut jais travailler ça ?

Y a beaucoup de contenu en peu de mots

Voilà

Ou la manif pour tous veut le bonheur des enfants plutôt que de remettre bobonne a la maison et les gays sur un bûcher

Soit tu déformes les propos de Lê, soit tu ne l'as pas bien écouté. En aucun cas son livre dit qu'il est le seul à travailler sur ce sujet avec El Mhadi. Sa dernière vidéo non plus : il indique bien que des milliers de chercheurs (au moins) planchent sur le sujet et pas que des spécialistes en IA mais aussi des philosophes.
En aucun cas il dit que Google développe volontairement des IA néfastes mais le fait est que par la façon dont elles sont conçues/entrainées (jeux de données énormes comportant pleins de biais), elle deviennent néfastes (ex : racistes). Et c'est tout le propos de son livre : comment faire pour concevoir des IA robustement bénéfiques pour l'humanité.
 
Et c'est pas moi qui dit que El Mhadi est inquiet sur ce sujet mais Lê (dans sa dernière vidéo) qui l'a côtoyé durant l'écriture de leur bouquin et qu'ils échangent régulièrement entre eux

 
Quand on dit qu'il y a des gens idiots et des extrémistes partout on n'a rien dit. C'est une lapalissade.
Faut voir quelle est l'idéologie derrière.
 
D'un côté tu vas avoir des gens dont les comportements les plus extrêmes sont du genre jeter un milkshake sur un agitateur d'extrême-droite ou dire des trucs super radicaux du genre "ce gars très raciste ne devrait probablement pas avoir ce poste à responsabilités", de l'autre des gens qui sont littéralement génocidaires.
 
Perso j'ai plus de facilité à m'accommoder des excès des gens sont l'idéologie fondamentale c'est des trucs du genre "les femmes, les gays ou les trans sont des êtres humains".

 
Perso, j’ai plus de facilité à m’accommoder des excès des gens qui n’ont PAS d’idéologie tout court. A partir du moment où les gens sont animés par une véritable idéologie et s’y tiennent, c’est la merde et les excès finissent souvent par devenir dangereux même si bien sûr, comme tu le soulignes, toutes les idéologies ne se valent pas et elles n’ont pas toutes la même dangerosité à la base.

Il y a aussi un potentiel de violence dans certains mouvements de l'extreme gauche ( on est dans une période relativement calme ceci dit )

Pas d’inquiétude ! Grâce à la super enquête sur l’islamo-gauchisme on va probablement réussir à réveiller quelques détraqués de gauche !  

Forcément en faisant un trou pour étudier les fondations de la barraque les mecs tombent sur une caisse de munitions

On est d'accords, un tube en carton fait de papier rouge c'est bien de la dynamite ?

 
t'es dans un épisode de beep beep et coyote

T'as racheté l'ancienne baraque d'Action Directe ?

 
Les démineurs te le diront. Bonne chance.

d'un.e SJW

J'essaye de me convaincre que ce sont des munitions de résistants et pas d'allemands déjà

Oh bah ça a été déminé à coup de mini-pelle
Au moins une balle de .30 et donc potentiellement un bâton de 1" éventrés