VLC a tout plein de codecs intégrés, donc c'est possible que le système ne les ai pas "pour de vrai". Tu as peut-être à installer un pack de codecs au niveau système (K-Lite Mega Codec Pack, par exemple, est très bien foutu). Après, VirtualDub refuse (pour des raisons de licences) l'utilisation de certains codecs ; VirtualDubMod est plus permissif, mais (à mon sens) plus buggé.

Sinon, VLC a pas mal d'outils de recalage, t'as essayé de les utiliser ?