Por lo que tengo entendido tanto mp4 o mkv son únicamente formas de empaquetamiento, y no estan relacionadas directamente con la calidad de la película en sí. En otras palabras, se puede empaquetar hasta un video divx dentro de un formato mp4, metiendole subtítulos y distintos idiomas adentro y cosas por el estilo. En otras palabras, el uso de h264 no está directamente relacionado con esto, pero tampoco se hasta que punto es así. Lo que sí se es que hay reproductores de divx que leen mp4, y ni a ganchos reproducen x264. Debería informarme más sobre esto pero realmente no estoy tan interesado.
En cuanto a si el mp4 o el mkv es mejor, no tengo ni idea.