Reprise du message précédent :
 
J'ai testé par curiosité et les IA se vautrent joyeusement sur certains sujets.

Effectivement il y a nombre de gugus sur X qui font appel à Grok comme si c'était parole d'évangile.
 
Les IA racontent parfois n'importe-quoi, quel que soit le sujet, et il est important de ne pas les considérer comme des "oracles" ou équivalent.

déjà qu'elles savent toujours pas comparer deux nombres avec des nombres de décimales différentes...
(pour la plupart des ia grand public dont chatgpt et mistral, 4,11 > 4,9)

Le formateur expliquait que les IA bénéficient d'un fine tuning et qu'il y a une sorte de pondération appliquée aux sources pour faire en sorte qu'un contenu de wikipédia ou d'une revue scientifique à fort taux d'impact ait quand même ENORMEMENT plus de poids pour forger "l'opinion" de l'IA sur un sujet que la source "croivez.po.le.dip.stayte.com" ou des randoms conversations de boomers sur facebook

Les IA sont capables de lire le texte contenu dans une image, ça serait marrant de lui demander de s'auto-debunk

Il y a eu une étude sur comment font les IA pour calculer et c'est...original.  
 
En fait, elles ne calculent pas du tout.  

Ce sont des models de language, pas des calculatrices

Le problème est qu'une IA ne sait pas dire non, littéralement.
Donc un complotiste va, comme dans l'exemple, demander plusieurs fois des renseignements jusqu'à ce que l'IA dise ce que le comploplo veut entendre
Et si l'IA donne des infos contradictoire, la pirouette évidente ça va être "Oui mais l'IA est contrôlée par le Deep State mais comme c'est Intelligent elle me donne les bonnes infos"
Après, une personne qui vient de plonger dedans ou qui n'est pas encore trop engluée dans le complotisme va peut-être se poser des questions en constatant que l'IA lui réponds A puis B puis C. Mais ça demanderais à être étudié.
 
Je sais que mon père (pas complotiste du tout je précise) a perdu toute confiance en l'IA quand il a lui-même expérimenté le fait que Chat - GPT lui sorte 2 réponses fausses sur un sujet ou il n'y avait pas de réponse : la date de décès de je ne sais plus quelle personnalité historique dont on ne sais justement pas la date de décès, Chat-GPT lui a sorti 2 dates sans justification. Ca l'a bien refroidi sur la fiabilité de la chose

Pour le moment, il faut voir effectivement les IA non comme des encyclopédies, mais comme des assistants administratifs, que l'on va charger de faire des recherches ou des travaux pour nous, mais qui sont autant faillibles qu'un être humain (moins sans doute quand même si on écrit bien les prompts) et donc en qui on ne devrait pas avoir une confiance absolue. Le contrôle reste la base.

du coup qu'elles répondent qu'elles ne savent pas sur les questions de math physique parce que là c'est la merde
analyse musicale c'est pareil (logique, y'a une partie mathématique)

Le piège c'est que c'est surnommé IA alors que ce sont des modèles de langage, c'est une brique pour créer une IA mais y'a zéro intelligence, Chat GPT analyse les mots du prompt et te sors une réponse qu'il recrée à partir de dizaines/centaines/milliers d'exemples.
Chat-GPT ne "reconnait" pas une question de maths, il identifie du texte et te ressort ce que les gens répondent.
Tu tapes "2+2=?" et ChatGPT va reconnaitre les symboles. Et dans 90% des cas, c'est 4 qui sort. Mais tu as la fameuse réponse "2+2=5" de 1984, donc il y a toujours une chance que Chat-GPT te sorte ça. Evidemment je simplifie horriblement, mais le principe est que Chat-GPT et autre sont des modèles prédictifs, ils ne "pensent" pas. C'est l'écriture prédictive des téléphones avec une puissance démesurée

oui mais ce qui est étonnant c'est que si tu lui demandes de détailler pourquoi il répond ça, il donne un raisonnement qui apparait mathématique mais en se plantant

y'a des sujets où elle est heureusement plus ferme :

Oui mais elles pensent savoir, donc elles te répondent

 
 
    Les IA chinoises savent dire non si on leur pose des questions gênantes.  

 
Et elles virent des points sociaux automatiquement dans ce cas

Et puis, c'est pas comme si Poutine donnait ses ordres depuis son bunker protégé par des cohortes de gardes du corps. Avec les services secrets à l'affût de la moindre tentative d'assassinat. Ce n'est pas non plus comme s'il avait lâchement fait assassiner Navalny sous prétexte qu'il était un opposant politique.
 
C'est pas comme si non plus Zelensky était resté en Ukraine et que sa vie était en danger. Malgré ca, il continue son combat et se dresse face au Kremlin. Après, qu'il n'ait pas fait son service : .  

Qu'il soit "important" de rappeler que la terre est ronde, c'est quand même grave en soi. Le fait qu'un "petit groupe" a fait infuser l'idée qu'une terre plate est une opinion comme une autre est grave en soi. Ou tout au moins, a invité la thèse dans le débat. Quand j'étais ado, si t'avais avancé la terre plate, on t'aurais pris pour un tebé.
 
Même si dans l'idée, je vote pour. Fini le décalage horaire. Quand il est midi à Paris, il est midi à Tokyo, Durban, Los Angeles, etc. Parce que ca casse un peu rouleaux quand tu lis les fichiers de log et que t'est pas sur que des évènements sont corrélés ou pas à cause du décalage. Inb4, je sais, il y a des solutions pour les regrouper.
 
Edit:

  Comme tout les systèmes : Garbage in garbage out

 
Tous les gens qui parlent en permanence de Zelensky (ses agissements, sa fortune, sa carrière avant la présidence, son entourage...etc) mais jamais de Poutine concernant cette guerre sont systématiquement des sacs à merde. Coïncidence ?

les IA sont au sommet de la courbe Dunning Kruger en fait...

Pense-tu que c'est un plan de propagande commandité par le Kremlin ? Ne virerais-tu pas conspi aussi ?

 
C'est une question intéressante.  
La propagande n'est pas une science exacte mais s'il y avait un prix Nobel décerné à cette discipline depuis 100 ans, les impétrants seraient tous Russes.
la désinformation, la manipulation de l'opinion à l'étranger c'est le domaine dans lequel la Russie n'a jamais cessé d'exceller. Ils ont des instituts dédiés à cela https://fr.wikipedia.org/wiki/Internet_Research_Agency

 
Les commentaires

 
salut mooms, ça va ? Qu'est-ce que tu essayes de nous dire ?

 
Nope, l'output de deepseek R1 est coupé si tu pose une question sur Tian'anmen sur le site d'origine hébergé en Chine, mais son implémentation sur Perplexity répond sans problème. C'est l'output qui est censuré, pas le modèle.  

Oui j'ai eu la flemme de préciser, mais la censure des IA est en générale faite par une seconde IA dont c'est le rôle. Censurer une IA actuellement c'est difficile, vu que ça marche par association de concept.
Tu censures "pénis"? l'IA ne pourra plus parler de rien qui soit relié au mot, y compris des trucs médicaux.
Par contre tu peut faire dire des trucs complètement olé-olé si tu utilises "biloute" ou "poteau rose"
 
C'est en effet valable surtout sur des modèles généraliste, on peut "censurer" des modèles plus précis, tout bêtement en triant les données d'apprentissage (l'IA ne pouvant évidemment pas parler de ce qu'elle ne connait pas)... mais ça donne des modèles moins "impressionnants" pour le grand public

Je viens d'essayer avec Gemini, chatgpt-4o et cobalt (les deux derniers via lmarena) et les trois donnent la bonne réponse.

gemini commence par se planter puis se corrige ensuite
chatgpt 4 se trompe toujours chez moi

Le Chat est ok
 

9.

Le Chat est ok
 

chatgpt

 
Prompt

Qu'est-ce qui est le plus inquiétant : que les IA se trompent ou qu'il y ait des gens qui leur demandent si 4,11 est plus grand que 4,9 ?    

l'état veut le faire TAIRE
 
Les ronds de cuir sont en panique    
 

 
REVOLUTION on va les détruire    
 

 
mais on a du se mettre bien  

On a toujours pas vu une seule image de leur spectacle "la cage aux fous" dont Dieudo a du vendre des places bien réelles  

encore une preuve du complot organisé par le deepstate. (((ILS))) ont fait effacer les enregistrements  

ça fait longtemps que chatgpt a intégré un interpréteur python pour évaluer les expressions numériques.

Il y a le dénommé Vincent Foulonneau qui commence à faire des vidéos de débunk biologique, en gros.  
 
Après s'être attaqué à un bullshiteur sur le vieillissement passé chez "LEGEND", il s'occupe de Thierry.  
 
   
 

 
Et vu la gabarit du gaillard, l'argument des sachants "Qu'est ce qu'il y connait l'homme soja qui fait le malin" ne tient plus.  

L'homme soja qui fait le malin c'était Thomas Durand de Saint-Mandé ?
Ça lui va tellement bien que l'émoticône est bien choisi en tous cas.

Tiens au fait tu pourrais nous expliquer ce nom que tu lui donnes? Parce que à part toi personne ne l'appelle comme ça donc quel est le but?