Reprise du message précédent :

J’ai souri

Je suis une quiche en loi, mais a peu pres sur que Grok n'est pas considéré comme une personne morale...
 

 
V'la le déterminisme (probablement pas exactement le meme engine - et il est parfaitement possible que quelqu'un ai passé un patch en douce), mais si je met un bon paquet de negationnisme dans Grok, voila ce qu'il me sort:
 

 
On est loin du négationnisme quand meme

Bah voilà tu as de la matière pour défendre grok. C'est différent de ta remarque initiale oN PeUt PaS AtTaQuEr Là-DeSsUs.

 
A premiere vue ca ne donne pas beaucoup de clefs sur une affaire comme celle-ci.
 

 
Je ne defend pas Grok, je trouve juste une abscence de logique dans une tentative de condamner une société qui propose au public une boite noire, tout ca parce que la boite noire n'a pas répondu a une question tel que tu le veux (ca aurait pu etre des poulets et comment les cuire que ca aurait été la meme question pour moi). En tout cas, ma maigre connaissance de la justice francaise, vu que j'y ai eu a faire, le fait de supposer n'est pas suffisant pour condamner, et donc ca voudrait dire que d'une facon ou d'une autre:
  - soit tu arrives a ne pas faire de la boite noire une boite noire
  - soit a minima tu arrives a prouver que la facon d'entrainer cette IA avait un/des biais significatif, et surtout qu'au moins certaines personnes en avaient connaissance
 
Et pour le coup, le point 2 m'intéresse beaucoup puisque c'est le nerf de la guerre (et mes équipes en pondent des IA). D'ou mes questions
 
 
Pour ce qui est de ce que Dion a cité, ces lois ne donnent que des indications de bonne conduite semble-t-il, donc des obligations de moyens et non de résultats. Donc si le résultat est foiré mais que les obligations de moyens furent suffisantes, ca tombera a l'eau.

La boîte noire n'est pas une défense. La simple capture d'écran que l'IA a bien tenu un propos qui viole la loi sur le négationnisme devrait suffire comme preuve pour condamner la boîte qui a mis à dispo Grok, je pense.
 
Je crois que toi, tu es parti sur l'accusation que l'IA l'a fait volontairement (i.e les concepteurs l'ont entraînée volontairement pour avoir ce comportement). Or, ce n'est pas ça. L'accusation est que Grok a tenu des propos négationnistes et pas qu'une fois. Il existe des captures d'écrans qui le prouve. CQFD moyennant de démontrer que les captures n'ont pas été trafiquées.

Ce sera pas très difficile de faire constater par huissier de justice que Grok dit des propos qui tombent sous le coup de la loi en France

D'ailleurs que ce soit grok ou n'importe quel utilisateur de twitter, c'est la même chose ; X a une responsabilité en tant qu'hébergeur

On est bien d'accord mais Devil'sTiger ne semble pas voir les choses de ce point de vue...

Si X a une responsabilité en tant qu'hébergeur, il me semble que ce que dit Devil's Tiger est juste, à savoir qu'ils doivent démontrer qu'ils mettent des moyens pour éviter que les propos illégaux soient accessibles en France sur la plateforme (c'est le sens de leur implémentation des signalements DSA qui ne supprime pas le contenu mais le bloque dans les pays où il a été signalé comme illégal).
 
C'est pas pareil que si un quidam lambda avait tenu ces propos directement.
 
Par contre je ne sais pas exactement comment ça va trancher sur Grok parce que je sais pas trop à quoi ressemble la jurisprudence sur "ce chatbot dit des trucs illégaux".

 
Je viens de passer une bonne partie de la journée la dessus vu que ca m'intéressait (et peux me concerner), a premiere vue la seule réponse qui émerge c'est "on ne sait pas, les premiers cas feront jurisprudence".
 
source: mon avocat (EDIT: je précise que mon avocat n'est en rien spécialiste de ces questions, il m'a juste dit qu'il suivait cela car ca l'intéressait mais rien de plus).
 
Le mieux que j'ai pu trouvé (mais qui part de la loi US et non fr): https://arxiv.org/abs/2308.04635
 
Qui dit: "And there are many roadblocks to truly finding models (and their associated parties) liable for generated speech."
 
Donc en tout cas, sur la loi US, ca semble tres chaud de tracer la ligne de la responsabilité, et de ce que mon avocat m'a dit, le meme probleme en droit francais.  
 
Rufo: ce que je me pose comme question, n'est pas si oui ou non l'IA a pondu ce texte, elle l'a fait. Ma question est plutot "si l'IA a pondu ce texte, alors Twitter est responsable" (Twitter au sens du créateur de Grok, pas hébergeur), le "alors", est ultra difficile dans cette situation, de part la nature du produit qui est censé faire ses propres choix, puisqu'il est censé etre intelligent.
 
Et donc: ben non, c'est pas du tout évident, vraiment vraiment vraiment pas a premiere vue. Le "j'ai des screenshots" ne semble pas suffisant, en tout cas dans l'état actuel des lois.
 

 
L'hébergeur est tenu d'enlever les propos, et peut etre condamné en cas de défaut la dessus, mais je ne crois pas qu'il soit condamnable pour un propos tenu par l'un de ses usager non ? (apres, dans le cas présent, vu que l'utilisateur provient de la meme personne morale que l'hébergeur ).
 
Dans une idée similaire, ca donnerait que Twitter (au sens hébergeur) peut etre condamné s'il n'a pas enlevé les posts de l'IA. Et les passages donnés par Dion semble dire que la loi couvre aussi l'obligation de moyen lors de la création d'une IA. Mais il ne semble pas clair du tout que des propos racistes d'une IA puisse entrainer son créateur vers la condamnation.
 
 
Tout le monde semble s'en foutre, mais moi je trouve ca tres intéressant

Effectivement, il y a pas énormément de jurisprudence, mais je peux t'assurer qu'ici le problème est pris plus au sérieux que "je serais étonné que [les lois] s'appliquent".
 

Je suis d'accord avec toi que le sujet est très intéressant.
L'hébergeur n'est pas responsable des propos tenus par ses utilisateurs mais doit mettre en oeuvre les moyens de les détecter et modérer/supprimer a priori et a posteriori après signalement. Il me semble que déjà à ce niveau, X n'a pas fait le nécessaire. Et comme tu le soulignais, il est à la fois l'hébergeur et l'utilisateur ayant posté ces propos négationnistes. Donc l'utilisateur pourrait être poursuivi.
 
Tu soulèves l'objection que l'IA n'est pas consciente et ne peut par conséquent être poursuivie en plus du fait qu'elle a un certain degré d'autonomie qui fait qu'elle est une boîte noire difficilement contrôlable. Mais c'est oublier que le patron de X a largement communiqué sur le fait qu'il a pris des mesures pour que son IA ne soit "pas woke". Donc, rien que ça, ça pourrait tout à fait faire condamner X. Par ailleurs, c'est pas parce qu'un produit mis sur le marché a un degré de liberté et se comporte comme une boîte noire que ça déresponsabilise la boîte qui l'a créé. Parce que si c'était le cas, ça voudrait dire que ça déresponsabiliserait Tesla avec les failles de son FSD qui a causé des accidents (et qui est aussi une IA). Or, il y a de bonnes chances que Tesla soit condamné dans plusieurs affaires. Donc par analogie, X est responsable de Grok, sa responsabilité est engagée et à ce titre, peut tout à fait être condamnée.

 
Je suis probablement allé un peu vite, j'aurai probablement du dire quelque chose comme "ces lois ont été faites pour des personnes morales et physiques, sur laquelle Grok n'est ni l'une ni l'autre, et donc il y a de forte chances qu'elles ne soient pas utilisables dans cette situation".
 
Et de ma maigre connaissance du droit francais, vu que j'eu a faire avec la justice par le passé: il est parfaitement possible qu'elles ne s'appliquent pas, aillant un cadre légal qui ne colle pas avec ce qu'est Grok. Et vu que je suis allé en cassation, j'ai meme gouté a la suite A savoir que le contour d'une loi et du pourquoi elle s'est mise a exister un jour, et des détails parfois insignifiant pour toi ou moi, peuvent etre finement étudié dans ce genre de situation et rentrer dans la considération de la légalité du jugement ou non.
 
Pareil, a prendre avec des pincettes, mais je me souviens, dans mon cas, a savoir une loi qui était utilisé correctement/ce pourquoi elle existait au départ, que la cassation avait rendu des dizaines de pages pour, en gros, un seul article de loi de 3 lignes. Alors l'utilisation d'une loi jamais prévu pour une IA, dans la cadre d'une IA, j'ose meme pas imaginer.
 
 

     
       
 
https://www.20minutes.fr/high-tech/ [...] tionnistes

Vu la défense de grok, il faudrait aller sur grokipedia pour voir comment il a réécrit les articles de wikipedia en rapport avec le sujet. Si les articles sont du même tonneau, la défense du jaibreak ne tiendra pas.

et sinon, pour changer de sujet : https://www.infoworld.com/article/4 [...] oft-2.html

 
Je vois pas trop ce qu'il y a de drôle. Ça montre que tous ls LLMs sont potentiellement concernés, qu'ils sont manipulables et ça montre aussi que les réponses sont avant tout produites pour des gens qui veulent qu'elles le soient.

De faire un article la dessus.
Et oui grosse découverte que les LLM sont manipulables et qu’ils disent de la merde.

Perso quand je demande quelque chose à une AI, je demande toujours les sources (j’aime bien mistral pour ça, pas besoin de demander) et je vérifie derrière.
Et quand je m’en sers pour pisser un peu de code, je relis toujours et je teste dans une sandbox.

Joyeux anniversaire plam

Grace aux app store awards d'apple je découvre Undermyroof Home Inventory : https://undermyroof.app/  
L'effort de suivi que cela doit représenter de tenir cela à jour  

Plam  

Les polonais  qui prononcent le nom de cet outil, c'est amusant

https://www.chezmoi.io/

Et bon anniversaire Plam!

 
On est sur 20 Minutes, c'est du très grand public.
Sur ce topic les problèmes et limitations des LLMs sont parfaitement connus, mais je te rappelle qu'il y a un paquet de gens qui voient ça comme un moteur de recherche fiable.

Et joyeux Plamiversaire

Nanniv plam

joyeux plamiversaire  

Y'a déjà eu des trucs wtf sur GPT et Gemini aussi mais comme c'est Grok tu cherches une justice plus forte et rapide

C'est un reboot ou un spinof ?
De toutes manières Stargate sans ONeil c’était quand même pas pareil    
 
 
N'anniv Plam !

J'ai adoré SG-1, moins Atlantis et pas aimé du tout les autres spin-off. J'ai un peu peur que ce revival soit fait juste pour la thune.
 

Ca, c'est sûr. La compo des personnages et la façon dont ils se complétaient bien y était beaucoup dans le succès de SG-1. Y'avait pas ça dans les autres séries.
 
Et bon anniv Plam

 
Je m’adressais à HLM.

 
J'ai vu ça
 

 
Merci à tous
 
J'entre officiellement dans une nouvelle décennie

Naniv'
 
T'as 50 ?

On croise les doigts pour SG mais j'y crois pas vraiment

Bon anniversaire Plam !

40 plutôt

.  <---- the point  
 
 
 
                                               ---> you

 
On dérespecte pas des futurs collègues ici stp

Joyeux Anniversaire!