Le driver Nvidia pour X se règle dans XF86Config-4, pour le framebuffer c'est dans le noyau que ça se règle, en sélectionnant le driver VESA à la compilation ou en passant le bon paramètre au noyau lors du boot.
Moi je passe vga=791 au boot et je me retrouve en framebuffer VESA en 1024*768. Par contre si tu utilises le noyau standard de ta distrib, il a peut-être plusieurs drivers pour framebuffer, et il faut peut-être passer un paramètre comme video=vesa...
C'est quoi ta distrib ? Tu as le noyau d'origine ?