Hola, no trabajo con Sony Vegas pero en cuanto a un buen formato tanto en MOV como en MPEG4 puedes exportar utilizando el codec H264 con el que consigues unos archivos de excelente calidad y a un tamaño moderado, lo única pega que puedan tener estos archivos es que necesitan tirar un poco más de procesador que otros formatos para poder verlos fluidamente.
Te recomiendo el programa MPEG Streamclip, con el podrás exportar cualquier video al formato que desees y con él podrás probar diferentes formatos y compresiones.
Un saludo
Marcadores