MKV es solo un contenedor. Dentro de este puedes meter videos comprimidos en h264/x264/mpeg... etc, ademas de varias pistas de audio (mp3, ogg, flac...), subtitulos, fotos, capitulos y demás... No sé si me explico.
Relampa si capturas video a 720p(una calidad ya excelente) no obtendrás mejor calidad aunque lo conviertas a 1080p, de hecho perderá nitidez al hacer la interpolación. Lo mejor para conservar la calidad del vídeo es no tocar en ningún momento la resolución de la captura original, además de utilizar un bitrate suficientemente alto.