Reprise du message précédent :

La voiture détecte des choses avant que tu ne les vois, typiquement le sanglier qui va sortir du bois

 
Oui, mais pas toujours à temps malgré tout. Le gosse derrière une voiture ou un mur qui suit son ballon, le meilleur capteur du monde, il ne le voit pas à temps. Soit tu considères qu'il peut y avoir un gosse avec un ballon derrière chaque élément du paysage, et tu roules à 10 à l'heure. Soit tu prends le risque de rouler à vitesse normale et tu assumes.
Sachant que l'humain va compenser sa mauvaise vue par d'autres paramètres difficilement informatisable : proximité d'une école, heure de la journée, ce qu'il a vu en passant dans l'autre sens tout à l'heure, le panneau qui indiquait la fête de l'école ce jour-là à l'entrée du village, le copain du gosse qui lui est bien visible, la posture des gens autour, les cris éventuels, les habitudes du quartier...

La majeur partie des éléments que tu dis est déjà informatisable

Et si la voiture ne perçoit pas de gosse derrière le mur, ce n'est pas une situation à risque donc il n'y a pas de raison de ralentir, AMHA

De toute façon on ne pourra pas faire de système (informatique ou humain) qui empêchera tous les accidents. C'est dommage mais c'est comme ça  

T'as des caméras infrarouges donc le gamin derrière le mur sera détecté. Je dis pas que ça percevra et gérera 100% des situations mais dans beaucoup de cas ça détectera des événements invisibles à l'humain.

Sans compter qu'il est fort probable qu'une voiture autonome ne se contentera pas de ses capteurs pour avancer. Elle pourra aussi surement "voir" grace aux autres véhicules, des dispositifs fixes dans les rues et nos téléphones portables indiquant notre position précise en temps réel.

c'est une question de curseur faudra forcement laisser quelques "risques" même s'ils restent toujours moindre que pour un conducteur humain  .... par exemple si une ia à 99% de sécurité, permet d'aller aussi vite qu'actuellement mais de diviser par 2 le nombre de tués sur la routes tu va te passer de sauver des millions de vies uniquement pour une histoire de fric et d'assurance ?
 
c'est la balance bénéfice risque ... c'est le même type d'argument qu'utilisent les antivax, on va se passer d'éradiquer des maladies et sauver les millions de vie, parce que on sait jamais "ptet que y'a une chance non prouvée scientifiquement que des complications pouvant éventuellement dans certains cas précis peut être amener à la mort d'un patient"

 
Yep ya toujours un risque
 
Si seulement on avait tout un pan de notre économie reposant sur l'évaluation et la mutualisation des risques avec des systèmes de bonus malus qui encouragents les différents acteurs à maitriser ses risques, on pourrait imaginer que les entreprises bossant dans ce secteur auraient des experts capables d'évaluer à la fois les risques et les responsabilités en cas d'incidents, bordel si on avait ça notre problème serait résolu. Oh wait

 
Ce qui est le plus complexe c'est de faire cohabiter conducteur robots et conducteur humains  
Oui il y aura toujours des risques, le seul moyen de faire du sans risque c'est de faire des routes spéciales véhicule autonome complètement fermé et impossible à franchir pour les véhicules non autonomes, les piétons, les animaux.

Je suis bien conscient qu'une poignée de capteurs vont donner une meilleure vision à la voiture, que les réflexes humains étant ce qu'ils sont, les IA seront bien plus promptes à réagir, mais il n'empêche qu'il restera un certain nombre d'impondérables qui rendront difficile, voire impossible le saut vers une conduite entièrement automatisée. D'une part parce que personne n'assumera le risque de ces impondérables, d'autre part parce que les cas où l'IA ne saura juste pas quoi faire seront si nombreux qu'il faudra reprendre la main souvent.
Je veux bien qu'une voiture fasse des bip bip quand j'approche d'un mur, qu'elle gère les distances de sécurité, ça va sans doute beaucoup m'aider. Mais lui confier le volant, même en sachant qu'elle fera moins d'erreurs que moi, ça signifie que je lui laisserai le choix de ce qu'il faut faire en cas d'urgence : sauter dans le ravin pour ne pas écraser la vieille dame, viser le camion d'en face plutôt que le gosse avec son ballon... En admettant que l'on arrive un jour à faire autre chose qu'une IA qui fonctionne en laboratoire (sur une zone parfaitement cartographiée, dans des conditions maitrisées...)

Quand tu es dans un bus / taxi / uber, tu fais bien confiance au chauffeur, non ?
Je ne vois pas en quoi ça change quelque chose que ce chauffeur soit humain ou une IA

non certes il faut y réfléchir mais ça n'arrive pas à tout les coins de rues non plus ? combien de fois dans ta vie tu as du faire ce genre de choix en voiture ?  
 
et une nouvelle fois tu va te passer de sauver potentiellement des millions de vies uniquement pour une histoire d'assurance ?  
 
d'ailleurs le débat semble déjà tranché vu qu'on va vers une assurance à charge du constructeur, exemple volvo : https://www.euro-assurance.com/actu [...] onome.html ce qui est assez logique vu que c'est lui qui code l’algorithme qui conduit la voiture ....

 
Mais pourquoi ? Ça fait plusieurs posts que tu répètes ça comme si tu avais besoin de t'en convaincre toi-même sans relever le fait qu'on a des assurances dont c'est justement le métier

Personnellement chaque fois que je prends la bagnole, j'ai un cas tordu qu'un algo ne saurait pas gérer. Pas forcément un risque d'accident, mais une décision à prendre comme franchir la ligne blanche pour doubler un camion qui livre, une bagnole en panne, passer dans la flaque d'eau ou pas, selon le niveau d'inondation du coin, détecter que le panneau posé sur la piste cyclable ne m'est pas destiné...
Et je suis convaincu qu'à la vitesse où je roule (en respectant les limites de vitesse et les distances de sécurité), je prends des risques malgré tout, et convaincre une IA de prendre ces risques pourrait être compliqué. Si l'IA voit plus de choses que l'humain, elle va flipper et donc ralentir tout le temps.
Si vous avez déjà conçu des IA, même pour des jeux extrêmement simples, vous devez forcément avoir conscience de ça... Sinon je vous recommande ce genre d'exercice : https://www.codingame.com/ide/puzzle/coders-strike-back

Il y a un monde entre les IA de "jeu ultra simple" et une IA automobile

Je suppose que les IA que tu as fait sont des arbres de décisions ?
C'est typiquement le genre d'algo qui fonctionne bien pour les jeux simples mais pas pour des problèmes plus compliqués

Heureusement qu'on a inventé d'autres méthodes qui fonctionnent dans d'autre cas (SVM, processus bayésiens, CNN, etc.). Je ne sais pas ce qu'utilisent chaque constructeur (CNN profond chez Drive.ai en tout cas) mais je suppose que ce sont des méthodes basées exemples qui utilisent des tonnes d'heures de conduite humaine pour apprendre à réagir « comme un humain » dans toutes les situations et donc de gérer les cas les plus communs

De toute façon, je doute qu'une voiture autonome aurait pû parcourir plus d'un million de km sans gérer le cas « passer sur la ligne blanche parce qu'un véhicule est mal garé »

 
Ah mince, je pensais que tous les constructeurs avaient repris le code des IA de GTAV ou Gran Turismo.    
 
Ce que je veux dire c'est que même dans un monde parfait et simpliste où tous les paramètres sont parfaitement connus, il est presque inévitable d'avoir des comportements étranges dans des cas particuliers. Alors dans un monde ouvert où pas une situation se ressemble, désolé, j'arrive pas à y croire.
 

 
Mes propres IA sont pourries, mais y a des cadors sur codingame qui font des algo génétiques en entraînant leurs IA sur des simulations chez eux, ils arrivent à des trucs pas dégueulasses... Mais qui font quand même n'imp dans certaines circonstances.
 

 
J'aimerais bien voir des images de ces moments là, plutôt que des vidéos des tesla qui fait bip bip quand un animal se pointe ou qu'une voiture se déporte sur ta voie. Si t'en as sous la main, je serais ravi de revoir mon point de vue.

Je n'avais pas d'exemple du coup je suis allé en chercher : https://youtu.be/tiwVMrTLUWg à 9:39 tu as l'évitement d'une voiture de police garée sur le bas côté, et à 10:06 l'interprétation des gestes d'un agent de police

D'ailleurs j'ai trouvé l'intégralité de la vidéo très intéressante à propos de la perception qu'ont les voitures autonaumes de leur environnement

Je ne penses toujours pas que ce soit comparable car leurs contraintes ne sont pas du tout comparables.

Dans un jeu on a un seul ordinateur devant calculer un affichage très complexe et les multiples déplacements (obligatoirement simplifiés) des bots.

Dans une voiture autonome on aura de multiple d'ordinateurs dédiés spécialement à son seul déplacement.

 
Merci    
 
Par contre, j'ai du mal à estimer la part du biais de sélection dans cette présentation tedx. Le mec va pas te montrer chaque fois que quelqu'un a du prendre le contrôle et on ne peut même pas s'assurer que les cas exhibés ont bien été réalisés sans truquage...

si tu part du principe que le gars te ment et fait des montages mensongers....comment te prouver que ça marche avant la mise en circulation  

LA to Jacksonville: http://www.livetrucking.com/self-d [...] ntry-trip/

 
Simple : voir un test grandeur nature par quelqu'un d'indépendant du constructeur (journal auto, concurrent, autorités...).
La plus évoluée des IA de voiture autonome, je pense qu'il ne faut pas plus de 5 minutes pour la planter aujourd'hui. Tu la fous dans un endroit mal cartographié, avec des travaux mal signalés... Bref, au bout de ma rue...

https://www.lesechos.fr/industrie-s [...] 152460.php
 
Quand tu tapes voiture autonome sur google, t'as rapidement tout un tas d'articles à peu près indépendants...

Waymo fait rouler des voitures sans chauffeur pour rattraper les possibles conneries de l'IA par exemple: https://www.theverge.com/2017/10/31 [...] tle-google

Complètement con et surtout humainement impossible.

 
Wut

 
Justement, cet article montre toutes les limites de l'exercice à l'heure actuelle : tronçon bien délimité, autoroute, le mec reprend la main à la fin parce qu'on en sait jamais, et on démarre en mode manuel... Bref, c'est pas du tout de la voiture autonome.
 
Pour revenir au TedX plus haut, ce qui serait intéressant, c'est de voir ce que la voiture a analysé dans un cas comme celui-ci : https://www.youtube.com/watch?v=Cnyq26N5tg0
 
Pour moi, ce genre de blocage va arriver souvent, et même les concepteurs auront beaucoup de mal à expliquer ce qu'il se passe (sauf à analyser les logs après coup).

je vois pas trop où tu veux en venir ...
 
elle est pas totalement autonome dans toutes les circonstance actuellement : oui
 
mais on voit clairement que ça progresse de plus en plus ...
 
elle ne sera jamais totalement à 100% fiable dans toutes les circonstances : oui
 
mais c'est le cas de toutes les machine autonomes, ça dépend simplement d'où tu met le curseur. Pour moi quand elle pourront potentiellement faire significativement moins de mort sur les routes (style moitié moins) ben ce sera ok. je met un tel différentiel parce qu'il y a toujours dans certains cas une part de responsabilité dans les accident de la route commis par des humains...
 

Non, un facteur 2 ne sera pas socialement accepté.

Ca doit bien faire trois fois que je l'explique ici.
 
Humainement tu ne peux pas être concentrer sur la route quand ce n'est pas toi qui conduis. Humainement on ne peut pas te demander de rien faire derrière un volant 8h d'affilées tous les jours... et d'être prêt à la seconde prêt le jour où l'IA rencontrera un problème... bah oui s'il y a un problème ça ne sera pas sur RDV - faudra être prêt à l'instant précis. Ce qui n'est pas humainement possible. T'es forcement moins concentré que quand c'est toi qui conduis.
 

Je pige pas le raisonnement non plus, parce que c'est en test et pas totalement autonome, ça sera pas safe dans le futur  

 
Mais c est pas du tout ce qui est dans l'article, dans l'article, la voiture est absoluement toute seule.
 
Après sur ce que tu discutes, je pense qu'on a des des choses à explorer, par exemple, la prise de controle à distance pour quand la voiture autonome ne sait pas quoi faire et donc se gare comme une merde. Je suis d'accord que l'on ne peut pas demander aux passagers de rattraper les conneries, je le mentionnais dans mon post uniquement parce que pendant le developpement des prototypes, c'est ce que font les boites qui bossent la dedans

 
Mon argument, c'est de dire que si elle est pas 100% fiable en toute circonstances, alors, ça n'a pas d'intérêt ni commercial, ni technique.
 
Si ton aspirateur robot n'est pas totalement fiable, qu'il oublie de nettoyer des recoins ou se plante entre les chaises de temps en temps, c'est pas grave, tu gagnes quand même du temps sur la surface qu'il a aspiré pour toi, ou les fois où les chaises l'ont pas gêné.
La voiture autonome, tu es dedans qu'elle fonctionne bien ou pas, c'est pas du temps masqué comme un aspirateur ou une tondeuse autonome.
 
Si elle fonctionne pas bien, il y a un risque d'accident donc difficile à vendre, et tu es obligé d'y coller un volant pour les prises de contrôle manuel donc pas d’intérêt technique.
 
Pour moi, soit la voiture est 100% autonome et safe (ça me semble difficile à atteindre), soit il n'y a pas de marché pour ça.
En revanche, les aides à la conduite, oui...

C'est là où les avis divergent on dirait
 
Quand tu monte dans un taxi (ou autre véhicule avec chauffeur), tu sais que tu as un risque d'être impliqué dans un accident (risque relativement faible, mais non nul). Ça n'empêche pas les taxis d'être utilisé et d'être rentables
Du coup je ne comprend pas la distinction que tu fais entre un chauffeur humain (faillible) et un chauffeur robotisé (faillible aussi)
 
Je précise qu'ici, je considère le cas où les voitures autonomes ont un risque plus faible d'avoir un accident que les chauffeurs humains. Je ne crois pas que ce soit le cas pour l'instant : d'après mes calculs, en France (chiffres de 2014), un véhicule auraient en moyenne un accident tous les 11 500 000 km (59 854 accidents pour 38 200 000 véhicules parcourant en moyenne 17 895 km par an), et je n'ai pas souvenir que des expérimentations de voitures autonomes aient dépassées les 10 millions de km parcourus  
D'ailleurs, d'après https://www.voiture-autonome.net/ar [...] e-677.html, il faudrait encore plus de km parcourus pour obtenir un niveau de confiance de 95% : 468 millions de km.

Pour faire un parallèle avec la technologie des aides à la conduite, au départ on parlait de soucis avec le régulateur qu'on peut pas désactiver. Ça a pas empêché les gens de l'utiliser et il est limite en série maintenant.
 
Il y aura des précurseurs, et une fois que les gens seront montés dedans, une majorité sera convaincue et ça deviendra naturel. Ça passera notamment au travers des transports collectifs.

 
Le chauffeur humain peut faire une erreur, mais on peut supposer qu'il va tout faire pour minimiser le risque parce qu'il est dedans avec toi. Ca veut dire par exemple que voyant un truc imprévu se passer devant lui, il va détourner sa trajectoire et/ou freiner, tout faire pour sauver sa peau et la tienne.
L'algo qui se plante, tu peux pas savoir pourquoi il se plante, si c'est un bug (un capteur défectueux, un dépassement mémoire...) la bagnole peut accélérer dans le mur sans se poser de question, elle n'a pas l'instinct de survie... Un peu comme dans la vidéo postée plus haut ou celle du freinage automatique de Volvo (je crois).
Même si au final il y a moins d'accidents IA que d'accidents humains, ils seront tellement spectaculaires/idiots que ça n'inspirera pas suffisamment confiance.
 
Par ailleurs, il faut voir à quelles conditions l'IA obtiendra de meilleurs résultat que l'humain. Si c'est en roulant à 30 à l'heure pour prévenir tous les risques, ça ne marchera pas non plus...
 

 
A ma connaissance, la faute a été attribuée aux humains à chaque fois non ?
Et ça me semble difficilement comparable puisque le dispositif n'a rien d'intelligent, c'est juste une consigne donnée par le conducteur...

 
https://www.zerohedge.com/news/2018 [...] na-rollout

 
la dessus je te rejoins ... dans les accident humains il peut y avoir des défaut mécaniques (et encore ceux-ci sont ils du à un mauvais entretien ? ...) ou se faire choper par un connard, mais soit,  bien souvent y'a un responsabilité du conducteur (il était bourré, distrait, allait trop vite, s'est mis en danger, à fait une manoeuvre de gogol, etc. ...), bref même si c'est pas toujours le cas il y'a quelque part un lien de cause à effet, une sorte de darwinisme (parfois la faute à pas de chance parfois la faute au conducteur) là où avec la voiture autonome ce sera presque toujours total Random et complètement indépendant des personnes à bord du véhicule.  
 
donc comme j'ai dit faudra garantir que le nombre de tués soit bien inférieur au taux actuel. faudra déterminer où mettre le curseur, selon la balance bénéfice risque et morale de la population. es ce que moitié moins de tués suffit ? ou n'en faut ils aucuns (ce qui est quasi impossible à atteindre)? es ce que cette morale vaut des milliers vies par ans ?

https://www.capital.fr/entreprises- [...] o-1271634#
 
Pour la question du dilemme

  donc ils ont écarté la question en mettant la barre très haut (ce qui fait quand même 1000 à 10 000 mort par ans)

 
J'ose pas imaginer la couverture médiatique des premiers cas d'IA qui vont tuer quelqu'un. La boite noire va montrer au grand jour comment l'algo a pris ses décisions, et elles seront forcément contestables... Même si un humain aurait pris les mêmes.

pourquoi tu ne répond jamais à la question ... tu préfère 100 à 1000 fois plus de mort ?