Dans le bios, le paramètre concernant la carte graphique tu peux le mettre au max, soit 256mo même si ta carte n'en fait que 64 à condition d'avoir assez de ram a coté (ce qui est ton cas)
Le fast write, il faut l'activer, cela optimise les perfs.
Et si ta une carte AGP ce qui est le cas normalement avec un ASROCK, met le en AGP.
Sinon je pense aussi que les ecrans proviennent soit de la chauffe de la carte graphique (ca me le faisait aussi, sécurité de la carte mère et reboot a une certaine température), soit de la ram.
Vérifie les température de ton processeur et carte mere avec speedfan ou autre, et la température de ta carte graphique avec un logiciel adapté pour ATI.