Dans virtualdub, avant d'enregistrer l'avi redressé, il faut aller dans :
video>compression, puis choisir un codec de compression (par défaut virtualdub choisit du non compressé, d'où la taille exagérée de ta video)
ensuite tu prends un bon codec comme par exemple Xvid, tu règles le bitrate et voilà.
Pour plus de détails concernant la compression il faut aller dans les topics dédiés, où il y a de bons tutoriaux pour l'encodage.
(les liens sont dans le premier sujet de la catégorie video&son : le meta topics des topics uniques)