Rein von der theoretischen Seite:
MK3D ist prinzipiell eine stinknormale Matroska-Datei, in deren Dateiheader ein Wert angibt, in welchem 3D-Format das Video da drin vorliegt. Ändern kann man diesen Wert über den Kopfdateneditor von MKVMergeGUI (zu erreichen über "Datei" => "Kopfdateneditor"). Erlaubte Werte:
0: 2D-Video
1: Side-by-Side/Nebeneinander (links zuerst)
2: Top-Bottom/Übereinander (rechts zuerst)
3: Top-Bottom/Übereinander (links zuerst)
4: Checkboard/Schachbrett (rechts zuerst)
5: Checkboard/Schachbrett (links zuerst)
6: Row Interleaved/Zeilenweise verschachtelt (rechts zuerst)
7: Row Interleaved/Zeilenweise verschachtelt (links zuerst)
8: Column Interleaved/Spaltenweise verschachtelt (rechts zuerst)
9: Column Interleaved/Spaltenweise verschachtelt (links zuerst)
10: Anaglyph (cyan/rot)
11: Side-by-Side/Nebeneinander (rechts zuerst)
12: Anaglyph (grün/magenta)
13: Field Sequential/Frameweise nacheinander (links zuerst)
14: Field Sequential/Frameweise nacheinander (rechts zuerst)
Das ganze existiert übrigens schon länger in den Matroska-Spezifikationen... wurde aber bislang kaum genutzt.
Zudem ergibt sich folgendes Problem...
Das Video auf einer Blu-ray 3D liegt MVC-codiert vor:
http://de.wikipedia.org/wiki/Multiview_Video_Coding
Und dafür existiert kein Wert für MK3D. Denn anders als bei den unterstützen 3D-Formaten, sind bei MVC-codiertem Video die linke und rechte Ansicht weder zeitlich noch räumlich klar getrennt. Stattdessen enthalten die M2TS-Dateien das Bild für's linke Auge H.264/AVC-kompatibel komprimiert (für die Abwärtskompatibilität zu normalen Blu-ray Playern) und zusätzliche auf der Disc befindliche SSIF-Dateien enthalten Informationen für den MVC-Decoder, der dann mit Hilfe der SSIF- UND der M2TS-Datei das Bild für's rechte Auge decodieren kann.
Wenn du also nur den Inhalt der M2TS-Datei in den Matroska-Container ummuxen würdest, erhieltest du (logischerweise) einzig und allein das Bild für's linke Auge = 2D.
Abgesehen davon ist mir kein Muxing-Tool bekannt, dass das alles in eine Matroska-Datei packen kann. Ich weiß nicht einmal, ob der Matroska-Container MVC-Video momentan überhaupt unterstützt - eventuell müssten seine Spezifikationen nämlich noch entsprechend erweitert werden.
Zudem gibt's tatsächlich bislang keinen MVC-Standalone-Decoder. CoreCodec hat zwar vor längerer Zeit schon CoreMVC angekündigt... der existiert aber bislang nur in rudimentärer Form innerhalb des Stereoscopic Players.
Kurz: selbst wenn das Muxen in den Matroska-Container möglich wäre, wäre die Wiedergabe ein Problem... und umgekehrt

.