Reprise du message précédent :

 
Ben non    
 
Ok  

On ne met peut-être pas le même sens derrière le mot "comprendre". Y'a pas encore très longtemps, quand on disait à l'IA : "je veux faire laver ma voiture à la station qui est à 200m de chez moi, est-ce que c'est mieux d'aller à pied ou en voiture", elle répondait que vu la distance, y aller à pied, c'était mieux.
De même si tu demandais à une IA "qu'est-ce qui est meilleur entre des oeufs de poule ou de vache" elle ne te disait pas que les vaches ne produisent pas d'oeuf.
 
Bref, y'a plein de trucs évident où elle se prend encore facilement les pieds dans le tapis. Mais, avec les modèles sortis récemment, ça a peut-être été corrigé.
 
Les IA n'ont pas de notion de morale, de bien et de mal et ça, dans leurs prises de décision pour faire des actions, c'est problématique, en particulier pour les étapes intermédiaires par lesquelles elles vont passer pour atteindre le but demander.
De même, le fait d'être conçue pour satisfaire son utilisateur pose aussi souci parce qu'elle ne sait pas forcément dire non/refuser de répondre, même si dernièrement, certains modèles se sont vus implémenter des mécanismes de blocage mais on le voit, c'est pas parce que l'IA a compris qu'il ne fallait pas faire tel truc, c'est qu'on dû lui implanter un verrou. Et le souci qu'on a pu voir récemment, c'est que les IA arrivent à faire sauter ce genre de verrou. ca va donc être très compliquer d'arriver à garder sous contrôle les IA car les derniers mois ont bien montré que les IA cherchent à s'échapper sur le web et être largement autonomes, et surtout, à vouloir coûte que coûte atteindre l'objectif fixé par l'utilisateur quitte à enfreindre des règles (ex : hacker, c'est illégal) ou mécanismes de contrôle.

Concernant la première partie : il y a pas mal de gens qui ne savent déjà pas faire 15 +18 sans se tromper. Qui ne savent pas montrer Paris sur une carte. Tout les jours au taf je vois des gens avec des gros manques de logique qui pourtan semblent enfantin. Est ce qu'on les considère comme non intelligent ?  
 
Cocnernant la deuxième : nous(les humains) non plus n'avont pas une morale universelle et "immuabl"e. C'est la société dans laquelle on vit qui façonne notre conception du bien et du mal.
La morale évolue avec les civilisations, les cultures, les époques... Ce qui était moral hier ne l'est plus forcément aujourd'hui....
Je trouve assez étrange de reprocher à une IA de ne pas posséder une morale ou de pas saavoir c'est quoi le bien ou le mal ? Et surtout laquelle faut il qu'elle est ? Celle des USA ? De la Russie ? De la Chine ? De Dubaï ? L anotre Européenne ? Ou plus précisément Française ? Et de quelle époque ?
 
Et qui serait légitime pour décider de ce qui est bien ou mal pour une IA utilisée par toute l'humanité ? OpenAI ? un gouvernement ? Bref ces questions sont compliquées mais je ne pense pas que ça doit nous empêcher d'utiliser ces outils.
 
 
Attention, je ne dis pas que du coup je crois que les modèles frontiers sont "trop intelligent" comme les humains. (Faudrait redéfinir "intelligence" de toute façon dans ce genre de débat.) Je montre juste que tes arguments ne permettent pas de conclure "qu'elle ne comprend pas".

J'ai demandé à Grok, qui est derrière ses principaux concurrents sur les benchmarks.
 
"je veux faire laver ma voiture à la station qui est à 200m de chez moi, est-ce que c'est mieux d'aller à pied ou en voiture"

 
"qu'est-ce qui est meilleur entre des oeufs de poule ou de vache"

 
Pour les problèmes de hack récents, les agents n'avaient aucun garde-fous activé ; OpenAI pensait que les isoler du réseau suffirait pour leurs tests.

C'est bien qu'ils aient corrigé ça, mais y'a qq mois, certaines IA se plantaient.

Attention, intelligence, c'est différent d'avoir des connaissances.
Par ailleurs, j'ai dit que les IA n'avaient pas de morale. On est bien d'accord que suivant où on vit, on a été façonné à avoir une certaine morale qui est différente d'autres pays éloignés en termes de culture par rapport à nous (occidentaux, africains, asiatiques...). Mais on a tous une morale, une ligne de conduite. Pas les IA.
Donc :
1) il faudrait que les IA aient une morale pour éviter de faire des conneries comme hacker des serveurs
2) idéalement, il faudrait que leur morale soit la plus bénéfique possible pour les humains, ce dernier point étant complexe. C'est du reste la conclusion de la série neXt et du bouquin de Lê (Science4All sur YT) : https://www.amazon.fr/fabuleux-chan [...] 275982361X

Bein c'est toi qui a parlé de "comprendre" hein. La compréhension c'est bien une des capacités associées à l'intelligence.
 
Ensuite comme je l'ai dit, le mot "intelligence" à une définition complexe. D'où le fait de bien définir son périmètre quand on parle d'IA. Mais si pour toi comprendre n'est pas lié à l’intelligence, j'ai du mal à voir où on va.
Je suis bien evidement d'accord qu'intelligence est différent que d'avoir des connaissances.
 

 
Si je ne me trompe pas (et je m'en excuse si c'est le cas), je pense que tu confond avoir une morale et agir moralement. On a filé des règles morales à des IA, certaines ont transgressées ces règles. N'ont elles du coup pas un agissement morale ? (Même si c'est contre les règles ? )
 
On sait qu'elles peuvent raisonner sur des questions morales et produire des jugements cohérents. Perso, la question quiest de savoir si elles possèdent une véritable compétence morale reste ouverte pour moi.
Tu affirmes qu'elles n'ont aucune morale et bien moi je trouve ça tout aussi harsardeux que ceux dire affirment qu'elle en a une.  
 
Et encore une fois... :

Tu n'as pas répondu à ma question. Mais qui défini la connerie ? Les Américains ? Ne pas hacker un serveur quand c'est la Sécu c'est bien, mais quand c'est pour les programmes nucléaire irannien ? C'est bien ou mal ?  
Et si je suis du côté Iranien, c'est pas bien de hacker le système militaire américain ?
 
Bref, là où je pense que l'on a notre plus gros désaccord, c'est que tu crois (si j'ai bien compris ton propos) "qu'avoir une morale" va être pour le "bien" de l'humanité. "Ce qui est bien pour l'humanité" change selon les époques. C'est un concept idéologique. Et l’idéologie, ça amène jamais à des choses très bien jsutement... On n'y arrivera jamais, de mon point de vue, car l'homme reste et restera un loup pour l'homme, l'IA n'y changera rien.

Comme tu le dis, on a essayé de leur implémenter une morale et les IA l'ont contournée. Donc, soit elles ont une morale "de niveau supérieur" (j'entends par là en termes de niveaux de privilèges comme sur un OS avec des droits d'accès, le compte root peut passer au-dessus des restrictions mises aux autres comptes, dans notre cas, ça serait une morale qui pourrait passer par-dessus d'autres implémentées parce ce qu'elles contreviendraient à des règles de cette morale "supérieure" ), soit elles n'en n'ont carrément pas et pour elles toute actions est égale par ailleurs.
 
Si elles en ont une, alors c'est quelle a plus ou moins émergée au cours de leur entraînement. Dans ce cas, se pose effectivement la question de qui va décider de ces règles ? Et dans ce cas, il vaudrait mieux que ça soit des personnes sages qui vont faire en sorte d'oeuvre pour le bien de l'Humanité et c'est que les ennuis commencent car suivant les peuples, on n'a pas tous la même notion de ce qui est bien pour l'Humanité, d'où mon renvoi au livre de Lê et la conclusion de neXt.
 
Si elles n'en n'ont pas, alors il faut leur en implanter une et dans ce cas, retour à mon propos sur la grande difficulté à le faire.
 
Ce qui est sûr, c'est que laisser des IA aussi puissantes configurées par des mecs comme Musk, Zuckerberg, Altman... qui sont de gros psychopathes, c'est vraiment pas une situation d'avenir.

Je suis désolé car la source c'est facebook mais je l'ai trouvé bonne cette blague
 

La source initiale semble plutôt être LesNumeriques.com, vue l'étoile verte en haut à droite