Reprise du message précédent :

 
Pour info, HIPAA ne s'adresse qu'au médical (PCI au bancaire) et est centré sur l'entreprise, le but est clairement de protéger l'entreprise de problèmes légaux. La RGPD/GDPR est centrée sur l'utilisateur final et cherche à le protéger. Elle donne le droit à l'accès, la rectification et l'effacement de ses données, chose que ne font pas HIPAA et PCI. Il y a une grosse différence philosophique entre le deux et on sent clairement d'où elles viennent La RGPD/GDPR est aussi beaucoup plus récente, les US cherchent aussi a se doter d'une loi similaire, mais je pense qu'ils sont pas près de l'avoir...
 

 
OK, merci pour les précisions

les synthétiser est impossible, pour le médical. tu ne peux simuler la réponse à un traitement X de milliards d'individus.

 
Je pense que c'est plutôt applicable au parcour médical et autre données sociologique, qu'à la recherche médicale. Je suis d'accord avec toi, ça n'est pas valable pour estimer la réponse à un traitement.

Pour la recherche médicale il y a le Health data hub et le futur EHDS

Est-ce ici qu'on discute de modèles de langage ?
https://huggingface.co/models
Il y en a beaucoup dont la taille tourne autour de 7/13/33/65 millions, avec donc un rapport de un à deux à chaque fois, y a-t-il une raison à cela ?

 
Pas que je sache, on pourrait croire que ça suit le doublement classique que l'on trouve dans les chip de mémoire dans les GPUs mais comme tout est distribué, ya rien qui impose de doubler le nombre de GPU au lieu de faire x3, x7 ou x11.

Je pense que c'est lié à la mémoire GPU et le temps de rendu pour utiliser le modèle. Sinon je pourrais mettre le gros modèle sur mon serveur avec son GPU en carton

A jargon-free explanation of how AI large language models work
https://arstechnica.com/science/202 [...] dels-work/
 
Je viens de commencer a le lire, c'est très intéressant.
 

 
  /on

Toujours dans l'article:

 
Donc on est pas près d'avoir une explication d'infirmières pour GPT-4

J'ai noté aussi:
 
https://www.businessinsider.com/stu [...] ite-2023-8
 

 
Les auteurs parlent encore de biais, ils ne semblent pas partager l'avis que c'est si le modèle avait montré un profesionnal headshot avec une tête asiatique qu'il y aurait eu un bias
 

ça ferait pas de mal à la société, qu'on cancel l'IA et le hi-tech en général  

Ok découvre que maintenant que les tech sont développés que par les US

Ça a pris mille ans d'avoir de l'utf8 plus ou moins partout et supporter autre chose que l'ascii. Les docs qui ne sont valables qu'en anglais, les assistants qui ne marchent bien qu'en anglais. C'est pas près de changer...

Dans les jeux ça sera fou : https://www.youtube.com/watch?v=4sCWf2VGdfc

https://www.theguardian.com/world/2 [...] on-recipes
 

https://soundcloud.com/lnkhey/angele-saiyan
 
Bluffant ..

 
 
Bon, c'est un cross-topic avec le topic sur le supraconducteur a température ambiante, et on (enfin surtout moi) a dérivé en HS sur l'IA. Du coup, je poste ma dernière réponse ici, pour y continuer (éventuellement) la discussion. Pour avoir l'historique c'est ici que ça commence et merci de répondre ici du coup :  
 

 
Ok, merci pour ta réponse. En fait, ce qui m'agace ce n'est pas qu'on ne soit pas d'accord avec moi, c'est  plutôt que l'on ne me dise pas pourquoi. Je comprend que ça demande du coup un peu de boulot. Donc, merci. Et je suis rassuré, car ce qui m'inquiétais, c'était que tu ais une bonne raison de ne pas être d'accord. Or en fait, sur le fond, on est plutôt d'accord. Notre divergence d'opinion porte plutôt sur l'importance relative de ces recherches sur une échelle de valeur, celle des découvertes scientifiques. Bon, j'avoue que c'est toujours assez compliqué d'avoir une opinion solide là-dessus. Disons que ça dépend comment on construit l'échelle en question, dans quel système de valeur et avec quels déterminants. Et ton opinion à ce sujet me semble tout à fait respectable et justifiée.
 
Si je prend par exemple la découverte et la détection des ondes gravitationnelles, c'est une découverte absolument extraordinaire, et arriver à les détecter est encore plus sidérant. Maintenant, si on en revient au HS initial :  
 

 
Je suis pas sur que la découverte et la détection des ondes gravitationnelles va révolutionner tout un tas de trucs, du moins, dans le quotidien des gens. Même si en soit, c'est une découverte révolutionnaire. Il en va de même à mon avis pour la matière noire. Je ne doute pas une seconde de l'intérêt majeur d'avoir une explication sur sa nature, mais plus du fait que ça change grand chose pour nous, en pratique. Mais bon, on est pas à l'abri d'une surprise. Par contre, pour l'IA, ce n'est pas la même histoire, amha.
 
Je veux bien en discuter sur le topic dédié, mais bon, je suis pas sur d'avoir grand chose d'autre à dire en fait. Commenter l'actualité, c'est sympa, mais là je rebondissais plutôt sur un sujet d'ordre plus général. Pour en revenir à l'IA, je viens juste de finir une conf plutôt marrante de Michel Viso (Exobiologiste au CNES) sur la question, et qui pourrait t'intéresser. En gros, il se pose la question de l'utilisation de l'IA pour détecter d'éventuelle forme de vie dans les échantillons martien qui vont revenir sur terre en 2030. Et il en vient (je spoil, tant pis) par écarter cette solution. L'argument, c'est comment peut-on vérifier si ce que nous dit l'IA et vrai ou faux ? Ben en fait on ne peut pas. Et c'est assez drôle. Fondamentalement, si on invente quelque chose de plus intelligent que nous, on ne peut pas vraiment vérifier que ce qu'il nous raconte est vrai ou pas, car pour ça, il faut être au moins aussi intelligent que lui. Et moi, ça m'amuse beaucoup en fait, cette idée. Bref, si ça te tente (c'est très intéressant, même au delà de cette question, ne serait-ce que pour comprendre le problème que ça pose) :  
 
L'IA PEUT-ELLE SAUVER LA TERRE DES BACTÉRIES MARTIENNES ?
 
Donc oui, pour pouvoir utiliser l'IA, il faut qu'on puisse comprendre comment elle marche, et si on comprend comment elle marche, cette intelligence, c'est juste la notre, mais avec un outil plus performant. ça pose plein de problème éthique, surtout dans le cas ou on déciderait à utiliser un outil puissant sans comprendre vraiment comment il fonctionne. Mais bon on peut compter sur notre espèce pour éviter de faire n'importe quoi avec, pas de souci.
 
Enfin ...
 
Ou pas.

C'est pourtant assez facile de savoir si une AI dit vrai ou faux. J'ai pas vu la vidéo mais il suffit d'utiliser la méthode scientifique, je vois pas trop le problème. Je regarderais la vidéo plus tard.

 
Si on connait le résultat a l'avance oui. Sinon, c'est plus compliqué. Imagine, on reçoit un ensemble d'échantillons. On utilise l'IA dessus, et, en fonction de son algo d'apprentissage statistique, elle détecte des échantillons comme positif.
 
Les échantillons positif, on les passe à la moulinette des méthodes classique pour voir si on peut confirmer le résultat.  
 
Si on trouve rien. Est-ce que c'est l'IA qui a halluciné, ou est-ce que c'est notre méthode classique qui ne marche pas ?
 
Si on trouve aussi quelque chose, alors banco, gros titre dans la presse, passage au journal de 20h, numéro spécial de Science et Vie, Tweet d'Elon Musk, voir même, topic dédié sur HFR
 
Et ensuite on fait quoi des échantillons qui sont négatif ?  On utilise aussi la méthode classique dessus ? Si on trouve quelque chose, alors, c'est banco. Juste l'IA qui avait foiré sa detection. Et sinon, bon, on peut considérer que raisonnablement, y a rien de vivant.
 
Mais au bout du compte, on se rend compte qu'on a passé tout les échantillons a la méthode classique, et que c'est cette méthode, vérifiable, qui a permis de fournir la preuve.  
 
C'était surtout pour montrer un exemple de problème lié a l'utilisation d'une technologie d'IA comme boite noire. En pratique, il doit largement être possible d'utiliser de l'IA pour optimiser le processus de traitement des échantillons, et améliorer son efficacité. Mais compter uniquement dessus semble compliqué. C'est un use case intéressant pour voir les limites du concept, amha. (sans pour autant le considérer comme inutile).

Pas forcément.
Tu pourrais demander à une IA de t'écrire la démonstration d'un théorème, que tu serais incapable de démontrer, mais dont tu serais capable de vérifier la démonstration.
Ou tu pourrais lui demander de faire les plans d'une machine que tu n'es pas capable de concevoir, puis vérifier si elle fonctionne en la construisant et en la testant.
 

C'est à mes yeux le plus grand danger de l'IA telle qu'on la connaît aujourd'hui.
J'ai pas peur que l'ordi décide de faire du mal à l'humanité, mais j'ai très peur que des humains utilisent l'ordinateur pour justifier le mal qu'ils font.
Le côté efficace "non-prouvable" du deep learning transformant de fait les machines en argument d'autorité, malgré les biais énormes dus à leur conception humaine ...

 
La j'avoue j'ai du mal. comme on peut vérifier la démonstration d'un théorème si on est incapable de le démontrer même en ayant la demonstration ? En pratique ça revient a ce qu'on disait, l'IA, c'est une boite noire. On sait que le calcul est "juste" mais on ne sais pas vraiment comment elle fait.  D'où l'appel a l'aide aux mathématiciens du prof Stéphane Mallat disant qu'il y a un trou dans raquette.
 

 
Pas forcément une grande idée cf pb du dessus. On fait déjà des programmes qui buggent bien, même quand on pense savoir ce qu'on fait et en les testant dans tout les sens, alors si en plus on commence a en fabriquer sans comprendre vraiment ce que l'on fait, on a pas fini de rigoler, effectivement.  
 

 
On est d'accord. Tiens d'ailleurs, du coup, j'ai pris des nouvelles de Gérard Berry. Il a pris un petit coup de vieux. ça nous rajeunit pas. Ces premiers cours au collège de France était en 2008.  
 
C'est lui qui disait "L'intelligence artificielle n'est pas intelligente"
 
Bon maintenant il dit plutôt :
 

 
https://www.usinenouvelle.com/artic [...] y.N1145177
 
Zut il parle de révolution lui aussi. Je sens que ça va encore agacer des gens ça.
 

En très gros une IA marche de manière aléatoire, il est difficile et long de comprendre son fonctionnement, mais c'est pas impossible.

Pour un théorème, les nouveaux sont très difficiles a trouver, et encore plus a prouver. Mais une fois que c'est fait, super ce soit par un humain ou pas, des mathématiciens peuvent facilement le vérifier.

Si tu trouves un théorème mais que tu le prouve pas c'est difficile de dire si il est bon.

Pour la recherche de vie, l'IA deva bien utiliser des moyens d'analyse créés par les humains, il n'y a rien de magique. Il sera facile de refaire les mêmes mesures manuellement et confirmer une trouvaille.

La ou une IA pourrait être utile c'est pour dégrossir un set de données de manière automatique, ensuite ça laisse le boulot plus marrant aux humains.

 
La vraie difficulté dans la recherche d'une vie ailleurs que sur Terre, c'est qu'en pratique on ne sait pas réellement ce qu'on cherche. Je veux dire, si on trouve un diplodocus sur Ganymède là on n'aura pas de doute mais le plus probable c'est qu'on trouvera un machin un minimum complexe et auto-réplicant qui ne rentrera dans aucune de nos cases.

Michel Viso dans sa conf évoque des bactéries vivant sur terre a des profondeurs de plus de 1000m et qui un métabolisme trés trés lent. Par exemple, un cycle de reproduction de l'ordre du siècle. Ce qui rend complexe toute technique classique de culture.

J'ai cherché sur le net si je trouvais la réf, je n'ai pas vraiment réussi, mais je suis tombé sur Desulforudis audaxviator qui visiblement sert de modèle type aussi pour l’exobiologie. Faut dire qu'elle envoie du paté :

Blague pas trop celle-là. Genre, si on pensait être capable d'éradiquer toute vie sur terre a coup de bombe H, Ben Desulforudis, elle te répondrais : chiche !

 
Si l'IA fait son bidule dans un framework de preuve formelle genre Coq t'as rien à vérifier derrière, par contre je doute de l'intérêt pour le monde des maths où les démonstrations sont des occasions de développer de nouveaux concepts. Après bon si t'as 500k lignes de preuve imbitables qui prouvent telle conjecture j'imagine que c'est bon à prendre quand même  

drap

Billet de sciences étonnantes sur le phénomène de grokking de certains modèles d'IA

https://scienceetonnante.substack.c [...] a-sont-ils

Pas encore tout lu, mais ça a l'air très intéressant.

super intéressant, merci

Je suis en train de lire et je tombe là-dessus :
 

 
Je ne savais pas et je trouve ça fascinant, même si j'en comprends la logique

Cet exemple précis avait déjà illustré l'article [Dossier IA générative] - ChatGPT : un beau parleur bien entraîné publié le 26 avril 2023 par le Laboratoire d’Innovation Numérique de la CNIL : https://linc.cnil.fr/dossier-ia-gen [...] n-entraine

 
Article très bien fait, merci pour le partage!
Je vois que le gars a une chaine Youtube, j'y jetterais un oeil a l'occasion.

Ya des exemples moins impressionnants pour les modèles genre: Docteur - Homme + Femme = .... Infirmière  

Merci pour les 2 articles, ouais

J'ai vu passer ça; mais tant que c'est pas dispo on sait pas a quel point c'est bidonné

Ben y’a plein de tests partout de gens lambdas, ça marche plutôt pas mal. Ça laisse rêveur / songeur du niveau du machin à court terme.

 
J'ai juste vu une vidéo d'un américain qui était ensuite traduit en français puis en allemand. C'est assez bluffant, ce qui est marrant c'est qu'il a un accent Québécois je trouve et ma femme a dit qu'il avait un accent américain quand il parle allemand!
 
Si ça marche aussi bien, c'est la mort des traducteurs/doubleurs pour les trucs a budget plus ou moins moyen...

C'est un peu comme tout, pour les trucs low-cost genre doublage de jeux-video obscure ou dessin animé de niche, ça prendra mais pour des productions de qualité on n'y est pas du tout

 
En France on est habitués aux doublages de qualité. Mais dans certains pays les films sont "surdoublés", c'est juste des personnes qui parlent par dessus la VO, même des fois la même personne qui double tous les personnages. Si ça marche bien, ce qu'on verra rapidement après la sortie, il n'y aura plus que les gros films avec des vrai doublages.

oui donc une Ai pour remplacer du doublage fait à la truelle, c'est très bien en fait
 
genre AB production ne pourra plus faire du doublage avec la même voix pour tous les méchants type Nicky Larson, c'est pas une grosse perte je pense