Reprise du message précédent :

Ça se voit que tu ne fais pas de retouche d'image  

ça sent l'aigreur ce commentaire ouais, on est pas obligé de parler d'intelligence, c'est du machine learning mais tout le ML est qualifié d'IA pour des raisons de marketing

Visiblement quelqu'un qui ne comprends pas grand chose a l'informatique Tout est du calcul...
C'est quoi le rapport avec Star Wars?

 
tout à fait    

Intelligence artificielle : révolution ou malédiction avec Cédric Villani
https://www.youtube.com/watch?v=aHJbUUy9GTc
Quelques problèmes de sons au début mais très intéressant.

Il a pris de la barbe    
 
Si y'a bien un mec dont je voulais entendre le point de vue sur le sujet, c'est lui.
Je vais m'écouter ça  

Je ne suis pas fan du personnage en général. Mais là il a été très clair, très posé et très intéréssant

Libé toujours autant Woke        
"L'AI est raciste et sexiste car il montre 95% de femmes quand on tape "nurse" dans les générateurs d'image"
 
Sérieux ?  

 
On devrait dire biaisé, pas raciste ou sexiste.

Je pense que 95% de la population répondra spontannément "femme" à l'évocation de "nurse"    
 
L'IA n'est que notre miroir…

Bah bien sûr.
Pour ça que c'est stupide de dénoncer cela.
 
Tout comme PDG. La plupart des PDG de grandes entreprises, même si ça tend un peu à évoluer, sont des hommes.

Oui et ça pose un vrai problème. Ce qui prouve aussi que ce n'est pas vraiment une IA, mais de la complétion évoluée.

C'est même pas vraiment un problème, il y a des techniques pour débiaiser les modèles, il faut juste le spécifier pendant le training ou l'inférence.

lolilol
 
Ca peut t'emmerder que la plupart des infirmières soient des femmes ou la plupart des PDG des hommes.
Mais l'IA ne fait que représenter le réel.

Un peu plus de 86% précisément.
 

 
Par contre si tu veux écrire en bon français il faut que tu dises "Ca peut t'emmerder que la plupart des infirmiers soient des femmes ou la plupart des PDG des hommes".

Au Quebec, le premier infirmier l'a été seulement en 1970..!
Petite lecture sur l'inconsidération des hommes infirmiers en France (même par la première femme médecin, misandre) : https://www.infirmiers.com/professi [...] cle-chap-6

On en revient toujours au même problème, qui et débaise les modèles et de quelle manière.

Non, elle représente ce qu'on lui a donné à manger. Encore une fois c'est bien ça le problème.

 
Pour cet exemple, il a ingurgité quelque chose de vrai et répète quelque chose de vrai (une très grande majorité de femmes dans ce métier).
Je ne pige pas pourquoi c'est un problème ?

Ça n'est un problème que pour ceux, comme Donut, qui n'aime pas le monde dans lequel ils vivent.

Cet exemple précis je m'en fous. Et je le trouve même plutôt con si tu veux tout savoir.  Mais ça soulève un vrai problème. De plus en plus de gens vont contester les résultat, de tout bord et personne ne saura quel jeu de données exact ou quelles corrections auront servies. Un beau bordel à venir.

 
On décide de catégories selon lesquelles le modèle ne doit pas être biaisé et on égalise si besoin.
 
Dans le cas présent, si on fait un modèle qui génère des photos de travailleurs dans le but par exemple de présenter ça à des enfants, on peut prendre le parti de dire que les questions de genre, d'ethnies et de religion ne doivent pas être des facteurs et donc on demande au modèle de générer des images qui ne reflètent pas ces biais. Si par exemple, on demande de générer des images dans le but de, je sais pas, faire une pub dont la cible principale est le personnel soignant, bah on ne débiase pas.
 
Ya pas un bouton magique "débiase moi ça" et hop le problème est réglé, on doit se poser les mêmes questions que lorsqu'on fait le même travail sans une IA.

Le mieux serait d'utiliser un peu plus le prompt non ?

 
Si tu débiasises pendant l'inférence, le prompt devrait permettre ça mais je ne sais pas dire si c'est toujours possible ou si on peut toujours faire confiance au prompt

C'est vrai  

 
   Si plein de gens contestent les résultats, chatGpt ne sera pas ou peu utilisé donc il n'y aura pas tant de bordel que ça.  
 
Et on peu imaginer que pour des versions futures, les sources soient mentionnées, si c'est demandé par beaucoup de gens.
 
 
 

Rassurez vous l'introduction prochaine (et définitive) d'un genre neutre dans les réponses des IA largement accessibles résoudra ce genre de petits problèmes
Il restera les modèles open source entrainés sur dataset perso pour ceux qui ont besoin d'assouvir des besoins non commerciaux

 
Non, ils vont continuer, mais porter plainte quand le résultat ne leur plais pas :
https://arstechnica.com/tech-policy [...] r-lawsuit/
 

 
C'est pas comme ça que le machine learning fonctionne, pour générer une phrase, le modèle est basé sur un training qui a utilisé des milliers/millions de sources différentes. Ca serait pas pertinent de citer toutes les sources.

 
Je n'ai pas approfondi plus que ça : Bing n'utilise pas ChatGpt pour ensuite donner les résultats de recherche sur des sites ?

 
Si, et il donne bien les liens vers les trucs qu'il mentionne. ChatGPT lui ne le fait pas, il n'est pas connecté à internet et te donnes les infos qu'il a dans son modèle. Ce qui a mené a des trucs marrant:
https://twitter.com/movingtothesun/ [...] 5202537474
 
Coté Bing, voilà mon expérience:
 

Mais c'est pas un biais, puisque c'est la réalité. Un échantillon biaisé, c'est quand l'échantillon n'est pas représentatif de la réalité. Là l'échantillon (sur lequel il a appris) est représentatif de la réalité donc il n'y a pas de biais.

Après, on peut discuter du pourquoi et du comment la réalité est comme ça et de comment elle devrait être, mais à la question de représenter la réalité telle qu'elle est aujourd'hui (ce qui est bien la question posée, enfin le prompt demandé), il ne fait aucune erreur et n'a aucun biais s'il montre 90% de femmes quand on lui demande "nurse".

Encore une fois, je mets en disclaimer, oui c'est la réalité.
 
Mais disons que les photos de nurse sur internet qui servent de base à l'IA correspondent à la réalité. Ce qui pourrait ne pas être le cas.

 
Ca dépend de l'usage qui est fait (ou dit être fait) de l'IA. J'ai pas l'impression que l'IA est utilisée pour décrire la réalité, mais plutôt pour donner des réponses exactes. Mais si tu as un corpus biaisé, le résultat de l'IA ne peut qu'être biaisé. Sauf que certains croient/font croire que l'IA donne des résultats neutres. Non, elle donne des résultats conformes à son corpus.

Non mais tout ça oui, si tu as un corpus biaisé, le résultat est biaisé, c'est évident, mais là on parlait justement de ce cas particulier où ça ne l'est pas: là le résultat est neutre et conforme à la réalité. Donc y'a pas de "biais" à évoquer, dans ce cas précis de la "nurse".

Quant à la différence entre une réponse "représentative de la réalité" et "une réponse exacte", j'ai du mal à voir ce que tu veux dire, mais une IA faisant des "généralisation" enfin plutôt des "interpolations", elle va plus être dans un truc du genre "représentatif de la réalité" (close enough) que "exactement identique au réel (réponse exacte)" (enfin représentatif de sa base d'apprentissage, similaire au réel si la base est elle même bien choisie).

C'est la vision de ce que devrait être "la réalité selon eux" par les journalistes qui est biaisée.
Ils ne sont pas d'accord avec la réalité telle qu'elle est, donc ne sont pas d'accord non plus avec les représentations neutres de cette réalité.

T'as une source, je ne trouve pas l'article ?

La discussion avec Villani postée plus haut.........

une foule de 100 nurses, femmes en blanc hommes en bleu
(sans cette précision j'ai l'impression qu'il n'y a que des femmes)
 

 
mais !!!!
 
 

Pas beaucoup d'humains dans ta foule En tout cas la chose en blanc en bas à droite semble chauve.