On va passer à la résolution du problème :
C'était bien la carte mère, qui était incapable de gérer correctement la tension au démarrage.
Testé avec des outils adaptés (pas par moi) et sur certaines lignes du circuit au démarrage la valeur est instable, en revanche, une fois que le BIOS s'est lancé normalement toutes les valeurs d'alimentation sont stables. Il y a un composant qui est très fatigué (j'ai oublié le nom). Panne peu courante m'a-t-on dit, réparable avec les bons outils et de vraies compétences en microsoudure (et la référence du composant à dépanner).
Merci pour votre aide, on a fini par identifier ce qui ne va pas en écartant les suspects ici.
La solution pour faire simple a été une ASUS, un Ryzen 5, un BeQuiet! et 16Go RAM DDR4 à 290 € le tout chez LDLC Pro. C'était ce que je voulais éviter mais au moins je repars sur une base "saine" pour les 8 prochaines années au moins (j'espère).
Je suppose qu'il y a une section dédiée mais si des gens sont intéressés par un ventirad Antec 12 Hundred, un Intel i5 4690 et 2x8 Go RAM Corsair en DDR3 + 2x4 Go RAM Corsair en DDR3, je pense céder à un prix quasi symbolique (et si ça peut aider).
Et si y'a des amateurs, la CM MSI H97-GAMING-3 "à réparer" je donne. Y'a peut-être des orfèvres parmi vous... ^^
Histoire de vous raconter un peu de fun pour conclure : lorsque j'ai changé les composants, un faux contact est apparu sur le bouton PWR de l'unité centrale. Heureusement que vous m'avez fait acheter un bouton déporté j'ai gagné du temps et des cheveux. ^^