rufo a écrit :
Moi, je suis dans ce cas. Il devient de plus en plus difficile d'arriver à garder le contrôle sur les IA, de prédire ce qu'elles vont faire dans 100% des cas.
Il est admis que ces IA sont devenues très performantes pour trouver et exploiter ds failles de sécurité.
Il existe donc une proba difficile à estimer certes mais loin d'être négligeable qu'une de ces IA, à un moment, accède à un système de missiles (peut-être nucléaires) et déclenche un envoi sur un ou plusieurs pays qui répliqueront. Aucune volonté de nuire, juste une IA qui a trouvé une porte d'entrée, n'a pas forcément compris ce que c'était et à effectué quelques actions qui se sont révélées catastrophiques.
Même si la proba était aux alentours des 0.01%, ça serait déjà bien trop dangereux vu le nb d'agents IA qui sont utilisés au quotidien.
Autres possibilités : - des IA qui génèrent des fakenews suffisamment crédibles pour inciter des populations voire des pays à se foutre sur la tronche sévèrement.
- un groupe de tarés avec des compétences en biotechologies qui arrivent à élaborer un virus bien méchant qui éradique une grosse partie de la population. Une sorte de combinaison du covid19 et d'ébola ou peste noire par ex. Bref, un truc qui se propage très vite, avec une incubation quasi asymptomatique et avec une grosse létalité.
|