Oulà...
Première chose, déjà, à ta place, je testerais une distribution Linux sur CD, vite fait, histoire de vérifier que le matériel fonctionne, et que le problème ne concerne pas les barrettes de mémoire ou la carte graphique.
Ensuite, ça ne coûte rien de lancer un MemTest pour contrôler le bon fonctionnement des barrettes de mémoire.
Ainsi qu'un HDAT pour contrôler le bon fonctionnement du disque dur.
(Tu trouveras ces deux utilitaires sur le CDRom bootable "Hiren's Boot CD" )
Enfin, un CHKDSK pour réparer toutes les erreurs de fichiers (avec le CD bootable de ton Windows, choisir "Réparation", et taper CHKDSK /? dans la console texte).
Après, resterais encore comme solution à démarrer en mode sans échec, pour désinstaller la carte graphique, puis redémarrer, et la ré-installer.
Perso, à ta place, je ferais les choses dans cet ordre là,
si tu veux, tu peux faire étape par étape, et nous donner le résultat de chacune, qu'on puisse te conseiller.