De toute façon le h264 est le meilleur codec lossy actuel (enfin non, il y a le h265, mais encore peu répandu).
Tes fichiers étant entrelacés (comme toujours en DV), il faut encoder en h264 entrelacé (je crois que le DV est en BFF) si tu veux conserver la fluidité d'origine et éviter les artefact de désentrelacement. Encoder en h264 entrelacé n'est pas vraiment un souci, sauf que ce format pose problème à pas mal de logiciels s'il faut le monter ou le découper plus tard, donc mieux vaut faire ton montage avant et être sûr qu'il ne faudra plus modifier le fichier après l'encodage en h264.
Je n'ai jamais utilisé AVS video converter mais si tu choisis du 4000 kbps en h264, le résultat devrait être très ressemblant à l'original.