Reprise du message précédent :

 
Ben on a qu'a demandé à l'IA    
Bon je blague, mais tes remarques sont pas forcément toute justifiées. Déjà, si on prend l'analogie avec la voiture, l'utilisation des premières voiture pouvaient être très encadrées, du moins chez nos amis anglais :  
 

 
src : https://en.wikipedia.org/wiki/Locomotive_Acts
 
C'est au fur et a mesure de l'évolution technologique qu'on a petit a petit lâché la bride, et surtout a partir du moment ou les intérêts économiques quand au développement massif de la voiture sont devenus énorme. Puis ensuite, on a fait du damage control, et on continue d'ailleurs. On attend que les villes soient polluées et encombrée par exemple pour commencer à envisager des réglementation contraignante. Et encore. dans la limite ou ça ne plombe pas le business;  
 
Bon toute analogie a ses limites, de toute façon. L'important a retenir, a mon avis, c'est que le développement d'une réglementation est trés vite freinée lorsque des intérêts économiques importants sont en jeu. C'est surtout cette difficulté là qu'il faudrait surmonté.
 
L'autre remarque c'est que bien évidement, le fait que l'on puisse matériellement enfreindre une loi ou un règlement, ne rend pas de facto les loi et les règlements inutiles. Sinon, autant mettre a la benne le concept même d'une société civilisée. Les loi et règlement doivent être accepté par la majorité des citoyen comme une condition sine qua non de la possibilité de vivre ensemble. Et pour la minorité qui n'est pas capable de comprendre ça, il faudra alors lui expliquer la chose par d'autres moyens, moins agréable et plus persuasif, comme dirait l'autre.

 
si ça peut aider à atteindre rapidement la singularité, je dis allonzy quoi

drap

 
Quelle surprise, la démo de Google c'est du flan:
https://www.numerama.com/tech/15834 [...] -pied.html
 

Pas étonnant, mais c'est bien nul.

Ça leur aurait rien coûté de faire une app Android avec reconnaissance/synthèse vocale et qu'elle prenne des photos pour ajouter au prompt. Google tends le baton pour se faire battre...

Pour ça pas besoin d'IA, faut juste remplacer les frites par les potatoes

Pour les killer robots ça ne me paraît pas si facile à condamner, oui ça fait flipper, mais toute personne en responsabilité, et tout peuple derrière, préférera envoyer au combat des robots que des hommes.
 
Ou ne serait-ce que pour une situation comme le Bataclan...

Déjà tu surestimes les capacités de reconnaissance visuelle, surtout dans un environnement difficile comme ce genre de situations. Comment tu le programme ton robot, qui est censé tier seul, si un assaillant se protège avec un civil? Quelles sont les pertes "acceptables"?

La start-up française Mistral AI pourrait être bientôt valorisée 2 milliards d’euros
https://www.lefigaro.fr/secteur/hig [...] lefigarov3

on peut dire que c'est gagnant !

 
Pour moi la problématique est plus de s'assurer qu'il y a une décision humaine derrière chaque munition tirée, si on veut que les humains restent derrière des ordinateurs, ça ne me dérange pas au contraire.

 
Ce qui n'est déjà pas vraiment le cas, rien qu'avec certain type de munitions, comme les mines. Il s'agit surtout pour les militaires de rendre les munitions plus "intelligente", mais il y a un truc que les militaire n'aiment pas du tout, c'est la perte de contrôle. Dans l'armée, on obéi a des ordres et on se conforme a des doctrines d'engagement. Même l'autonomie décisionnelle des acteurs humain est limitée, encadrée.
 
Si vous cherchez un bon point de départ pour réfléchir à ça :  
 
Le Collimateur – Les promesses de l'intelligence artificielle, entretien avec Joseph Henrotin  
https://www.youtube.com/watch?v=Mt0 [...] r&index=10
 
 

Bof, tirez dans le tas sera la réponse cf mon post sur un article du Monde!
 
Sur un plan moins théorique, mais à ma connaissance sans réponse de la part des concepteurs des algos de conduite automobile autonome:
Imaginons la scène suivante il fait nuit sur une route départementale. Un gamin surgit sur le côté droit de la route devant les phares, caché par un buisson/poubelle...
Sur la voie d'en face un véhicule arrive.
Que choisis l'algo : le face à face avec la voiture d'en face en se déportant à gauche, le gamin en allant tout droit ou le fossé à droite avec une inconnue sur les blessés?
Quel que soit le choix il est mauvais mais il est gênant que le concepteur ne puisse l'expliciter!
 
 
 
 

 
un festival  

 
Il n'y a pas des réglementations sur les mines d'ailleurs ? Je ne crois pas que ce soit ok d'en déployer comme ça sans conséquence

 
On peut demander que l'algorithme prenne la décision qui soit statistiquement la moins néfaste en terme de vie humaine, blessure infligée à des humains ou dégat matériel. a priori dans cet ordre mais ça va devenir intéressant quand il y a aura des gros écart, genre vaut-il mieux causer un milliard de dégat matériel avec 80% de probabilité ou tuer un humain avec 0.1% de probabilité
 
Je ne voudrais pas être celui qui va devoir décider de cela

Après, sur la route les temps de réaction doivent être extrêmement courts. Je suis pas sur que l'IA ait le temps de dresser un bilan humain et financier avant de prendre sa décision

 
Oui, c'est la convention d'Ottawa, mais bon quand tu vois les pays qui n'ont pas adhéré ...
 
https://fr.wikipedia.org/wiki/Conve [...] ipersonnel

 
D'ailleurs, on pourrait se dire qu'il se passerait a peu prés la même chose si on faisait une convention d'interdiction d'armement plus ou moins autonome utilisant de l'IA.
 
Mais comme c'est expliqué dans le podcast plus haut, c'est pas forcément le but recherché par les militaires. Ils cherchent vraiment à avoir le contrôle de ce qui se passe sur le champ de bataille. Ce n'est pas du tout recherché que d'avoir un armement qui "pense et prend des décision tout seul". C'est déjà limite quand il s'agit d'un soldat ....

 
Tu parles de problèmes techniques pas moraux.

Faut trouver un business model derrière, car ils n'en ont pas aujourd'hui

 
Ma première phrase oui, les deux autres non.
 
Avec la reconnaissance visuelle tu as juste des probabilités:

• 49% de chances que la personne tienne un balai
• 48% de chances que la personne tienne une arme

Tu tires?
 
Comment tu fais la différence entre un gentil et un méchant? Et si il porte un uniforme?
 

C'est parti pour les cours de Benoît Sagot sur le traitement automatique des langues au Collège de France :

Programme des cours et séminaire (conférencier invité en relations avec le cours) :
https://www.college-de-france.fr/fr [...] x-machines

J'ai commencé la premiere leçon qui pose les concept de linguistique qui vont servir dans la suite de ses cours. Mon neurone pas artificiel a bien chauffé, mais ça reste abordable. Faut juste pas loupé un bout, car on décroche tout de suite. C'est du concentré quoi. (genre pour un non-expert en linguistique, on y apprend un nouveau concept a chaque fois qu'il ouvre la bouche quoi

drap

 
vous ici
 

 
C'était mon cursus de fac.  

 
Bien, j'espère que ça va parler un peu de technique, ici c'est plutôt philosophique...

Les compagnies d'assurances n'ont plus besoin d'employer des fzdp, l'IA est  là
https://arstechnica.com/science/202 [...] uit-claims

 
Je suis pas sur que ça deviennent trop technique ici. J'ai pas regardé mais dans la section dev du forum, il y a peut-être plus de chance.  
 
Sinon, j'ai regardé vite fait si on pouvait jouer avec un modèle de language, et y a moyen. En fait, coté R&D dans le privé, ça se referme vu les énormes enjeux. Mais la recherche publique continue de produire et de travailler sur des modèles en libre accès, y compris dans certain cas les données d'entrainement.
 
Et il y a pas mal de ressources (y compris des lieu de discussion comme discord) à partir du site : https://www.openllm-france.fr/ Enfin, pour ce qui est des large language models  (LLM), c'est a dire les IA type chatGPT
 
En ce qui me concerne, je cherche surtout a comprendre comment ça marche. Jouer avec pourquoi pas si ça me permet d'acquérir une bonne compréhension de la techno, mais j'en ai pas spécialement besoin professionnellement pour le moment. (à part éventuellement pour faire le mariole dans mes projets vis a vis de la hiérarchie)
 
Donc, mon plan, c'est de suivre le cours au collège de France, avec ça, et la vulga que j'ai déjà ingurgité sur le sujet, ça devrait me donner les moyens d'y voir clair.

J'ai regardé vite fait j'ai rien trouvé dans dev. Après je fais pas vraiment du dev, même si j'aimerais bien, j'installe des truc open-source pour jouer avec.
 
D'ailleurs j'ai essayé de faire marcher Mistral avec LM Studio, mais ça bug, la première réponse est bonne (et rapide) mais les suivantes sont juste une série de chiffres.

visiblement, pour le code en libre accés, ça se passe par là : https://huggingface.co
 
Et pour les modèle de language de la commu francophone : https://huggingface.co/OpenLLM-France
 
Perso, je n'ai pas trop le temps pour plonger dans le code, mais la pratique, c'est toujours la meilleure approche pour comprendre, c'est sur.

Oui huggingface.co, c'est LA source pour les modèles en libre access. C'est la que LM Studio download ses modèles:
https://lmstudio.ai/
 
C'est vraiment très simple a utiliser, pas besoin de coder.
 

 

il à l'air très bien lm-studio effectivement.

Mais ca crame les CG à quelle vistesse aussi ?

 
J'ai une petite GTX 1650 Super sur mon serveur, c'est vraiment pas violent, le GPU monte a 70% pendant la génération du prompt, genre 10s/15s. Bien moins violent pour le GPU qu'un jeu 3D...
Je m'amuse aussi avec d'autres programmes AI/ML et le GPU tourne pendant des heures, ça me pose pas de problème, c'est pas un gros GPU. J'ai aussi Tdarr qui encode des vidéos, c'est probablement plus brutal que les truc d'AI.
 
Faire du gros training de modèle, je dis pas, mais c'est pas rentable de le faire a la maison je pense.

 
Deepsouth super calculateur qui simule les réseaux de neurones d'un cerveau.
 
https://www.ndtv.com/science/deepso [...] 24-4671135
 
Donc pas comme les réseau de neurone, qui sont en fait plutôt des statistiques, là où deepsouth cherche a répliquer la biologie du cerveau.
 
Je me demandais pourquoi il n'y avait pas encore de trucs allant dans ce sens, mais c'est en cours  
 
Et là la singularité se rapproche peut être

 
https://www.westernsydney.edu.au/ne [...] university
 
Pas beaucoup de détails a part l'utilisation de FPGA, ce qui est étrange car ils sont très lent par rapport a un CPU/GPU classique. J'ai pensé aux CPUs analogiques et RAM memristors, mais non c'est pas ça

 
Oula, c'est le principe du HBP. (Human Brain Project). ça ne fait pas l'unanimité comme approche dans le monde de la recherche sur l'IA :
 
https://fr.wikipedia.org/wiki/Human_Brain_Project
 

 
Il y a pas mal de chose qu'on ne comprend pas encore assez bien je pense pour arriver a simuler efficacement un cerveau.
 

 
Le truc c'est qu'un cerveau humain fait ça avec juste une centaine de watt .... (et il raconte aussi beaucoup de connerie).

 
C'est l'approche du Neuromorphic engineering. La grande efficacité des neurones viens du fait qu'ils utilisent des signaux analogique et biochimiques.
 
Nous, on essaye de faire pareil en simulant ça sur des puces, c'est à dire en utilisant des semi-conducteurs. Ben c'est visiblement beaucoup moins efficace C'est très efficace pour faire des calculs par contre.
 
Du coup, il a un contresens qui génère beaucoup de phantasme sur ce type de système, car on confond la puissance de calcul et l'intelligence, et parce qu'on perçoit un ordinateur comme très puissant pour faire des calculs, on pense qu'il pourra donc être beaucoup plus puissant pour ce qui est de l'intelligence.
 
En pratique, on arrive à peine avec des machines énormes à simuler quelque fonctions cognitives a base de neurones. C'est surement qu'il y autre chose là-dedans qu'on ne comprend pas encore.
 
Et c'est là ou la recherche en IA met le paquet en ce moment. L'analyse des données en grande dimension, de ce que j'en comprend, c'est déjà arriver à se donner les outils mathématique qui permettraient de comprendre comment un réseau de neurone artificiel du type deep learning arrive à être aussi efficace.
 
Bon par contre, pour suivre ce type de recherche, faut un niveau en math ... Stéphane Mallat au collége de france donne un cours là-dessus justement :
 
https://www.college-de-france.fr/fr [...] statutaire
 

 
En gros, de ce que j'en comprends, la recherche en math et la recherche fondamentale est à la traine vis à vis des applications. C'est pas si étrange que ça. Comme on dit, on a pas attendu de comprendre la thermodynamique avant de maitriser le feu.