Ein (Gross)Teil des Problems scheint in der Natur der Ausgabe von `matlab2tikz` zu liegen: Deine Datei `myfile.tex` enthaelt je einen (gleichartigen) `\addplot` Befehl pro Dreieck.
Mit dem bei Dir vorliegenden Datenformat erhalte ich auch
! TeX capacity exceeded, sorry [main memory size=20000000].
nach 2 minuten 30 sekunden.
Wenn ich jedoch die Eingabedatei trivial umkonfiguriere, indem ich _einen_ `\addplot` Befehl mit sehr vielen Dreiecken mache, mache (und die Eingabedaten in eine Datei `data.dat` schreibe), dann compiliert das Ganze innerhalb der Speichergrenzen in 20 Sekunden - die Ausgabe ist _identisch_.
Kern der Idee ist, dass man bei `patch plots` mehrere Patches hintereinander in den Eingabestream schreiben kann: die ersten drei Koordinaten gehoeren zum ersten Dreieck, die naechste drei zum zweiten Dreieck usw. Leere Zeilen werden dabei ignoriert.
Ich kann leider aus Skalierbarkeitsgruenden die Datei nicht hochladen, aber ich denke, das Prinzip ist klar. Auf Nachfrage kann ich die Datei aber auch irgendwohinschicken/hochladen.
Eine Loesung waere daher, die `matlab` figure und/oder `matlab2tikz` so zu modifizieren, dass es die Ausgabe effizienter formatiert.